Liquid AI vừa ra mắt LFM2.5-24B-A2B, một reasoning model có tổng số 24 tỷ tham số nhưng chỉ kích hoạt 2 tỷ tham số cho mỗi token. Thiết kế này giúp tối ưu hóa chi phí và tốc độ, cho phép người dùng chạy các agent thông minh liên tục trực tiếp trên thiết bị cá nhân một cách bảo mật.
Model hỗ trợ cửa sổ ngữ cảnh lên tới 131K token, mở rộng từ vựng và cải thiện đáng kể khả năng gọi tool cùng thực hiện các tác vụ nhiều bước. Trong các bài kiểm tra benchmark về tool use và instruction following, LFM2.5-24B-A2B đạt hiệu suất cạnh tranh mạnh mẽ, đồng thời đạt tốc độ giải mã ấn tượng trên phần cứng như Apple M5 Max hay GPU chuyên dụng.
Sự kiện này mở ra hướng đi thiết thực cho các nhà phát triển ứng dụng AI tại Việt Nam trong việc xây dựng các giải pháp agent chạy offline, đảm bảo tính riêng tư dữ liệu tuyệt đối cho người dùng cuối mà không phụ thuộc vào các trung tâm dữ liệu lớn.
Nguồn: Hugging Face — Biên dịch & tổng hợp: danhbaai.com