AnyLanguageModel 1.0 ra mắt: Đơn giản hoá mô hình ngôn ngữ nội bộ trên iOS và macOS

AnyLanguageModel 1.0 đã ra mắt sau một năm phát triển và hơn mười bản cập nhật, mang lại giải pháp thay thế cho Foundation Models của Apple. Thay vì phải viết lại import, nhà phát triển chỉ cần đổi import FoundationModels thành import AnyLanguageModel và tiếp tục dùng cùng một đoạn mã session cho mọi mô hình, dù là mô hình nội bộ (llama.cpp, MLX, Core ML) hay mô hình dịch vụ (OpenAI, HuggingFace).

Phiên bản mới mở rộng hỗ trợ Inference Providers, cho phép chạy các mô hình quá lớn để chạy trên thiết bị bằng cách gọi API từ máy chủ. Mã mẫu cho OpenAI được cung cấp đầy đủ, bao gồm việc truyền apiKey qua closure để lấy token ngắn hạn từ server riêng. Các tính năng như guided generation, tool calling và streaming đều hoạt động đồng nhất trên cả mô hình nội bộ và mô hình dịch vụ. Khi chuyển nhà cung cấp, các khối reasoning không được hỗ trợ sẽ tự động bị bỏ qua.

Trong danh sách mô hình được tải nhiều nhất trên Hugging Face, hai mô hình đầu tiên (Qwen3.8‑27B‑4bit và GLM‑5.3) đã có thể chạy trên iPhone hoặc Mac với 32 GB RAM. Đối với những máy có cấu hình cao hơn, GLM‑5.3 cần tới 1.5 TB BF16 và có thể được truy cập qua Inference Providers.

Để tích hợp, chỉ cần thêm dependency .package(url: "https://github.com/huggingface/AnyLanguageModel", from: "1.0.0", traits: ["MLX"]). Các ghi chú nâng cấp trong release notes của AnyLanguageModel, swift‑huggingface và swift‑xet hướng dẫn chi tiết cách di chuyển từ phiên bản cũ.

Với sự đóng góp của cộng đồng, AnyLanguageModel đã trở thành công cụ quan trọng giúp các nhà phát triển Việt Nam nhanh chóng xây dựng ứng dụng AI thông minh trên nền tảng Apple, giảm thiểu rào cản kỹ thuật và mở ra cơ hội khai thác mô hình ngôn ngữ nội bộ cho người dùng trong nước.

Nguồn: Hugging Face — Biên dịch & tổng hợp: danhbaai.com

Danh Bạ AI
Logo
Register New Account