Đợt phát hành mô hình LFM2.5-24B-A2B đánh dấu sự hoàn thiện của dòng sản phẩm LFM2.5 với quy mô từ 230M đến 24B tham số. Đây là một mô hình suy luận chuyên biệt, tự động tạo ra chuỗi suy nghĩ tường minh trước khi đưa ra câu trả lời cuối cùng nhằm tối ưu hóa chất lượng xử lý tác vụ.
Điểm đột phá của kiến trúc này nằm ở chỗ dù sở hữu tổng cộng 24 tỷ tham số, mô hình chỉ kích hoạt 2 tỷ tham số cho mỗi token thông qua cấu trúc MoE. Nhờ vậy, nó đạt tốc độ xử lý ấn tượng lên tới 184 token/giây trên chip Apple M5 Max và lên đến 21.000 token/giây trên một GPU NVIDIA B300 duy nhất, vượt trội hơn nhiều mô hình cùng phân khúc. Ngoài ra, cửa sổ ngữ cảnh đã được mở rộng lên 131.072 token và từ điển tăng gấp đôi lên 128.000 token để hỗ trợ đa ngôn ngữ tốt hơn.
Trong các bài kiểm tra đánh giá, LFM2.5-24B-A2B cạnh tranh sòng phẳng và thường xuyên vượt qua các mô hình lớn hơn trên 5 trong số 8 benchmark về tác vụ agent và công cụ như LiveClaw hay AutomationBench. Các phiên bản mã nguồn mở trọng số này hiện đã có mặt trên Hugging Face để cộng đồng dễ dàng tải về và tinh chỉnh.
Sự xuất hiện của các mô hình kích hoạt thấp nhưng hiệu suất cao như LFM2.5-24B-A2B mở ra hướng đi mới rất thiết thực cho cộng đồng phát triển AI tại Việt Nam, cho phép xây dựng các ứng dụng agent thông minh chạy trực tiếp trên thiết bị cá nhân mà không phụ thuộc hoàn toàn vào hạ tầng đám mây chi phí cao.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com