Liquid AI ra mắt d1-3B và d1-omni-600M: Mô hình ra quyết định siêu tốc cho Edge và GPU

Liquid AI chính thức phát hành hai mô hình ra quyết định nguồn mở thuộc dòng d1: d1-3B và d1-omni-600M. Được xây dựng dựa trên kiến trúc Liquid Foundation Models (LFMs), các mô hình này không sinh token như các mô hình ngôn ngữ thế hệ cũ mà đưa ra câu trả lời cấu trúc ngay trong một lượt lan truyền tiến (single forward pass).

Kết quả thử nghiệm trên 7 bộ dữ liệu công khai cho thấy d1-3B đạt điểm trung bình 82,9, vượt qua mô hình Decider 4B. Trong khi đó, d1-omni-600M đạt 78,4 điểm, vượt trội so với Decider 2B dù kích thước tham số chỉ bằng một phần tư. Thử nghiệm hợp tác cùng NVIDIA trên các thiết bị như RTX 4090, Jetson AGX Thor hay Orin Nano cho thấy d1-3B đưa ra câu trả lời dưới 50 ms trên thiết bị biên (edge) và dưới 10 ms trên GPU.

Mô hình hỗ trợ xử lý đa modalities (văn bản, hình ảnh) và cho phép đóng gói nhiều câu hỏi cùng lúc mà không cần thêm padding. Người dùng có thể dễ dàng tích hợp d1 thông qua thư viện Hugging Face Transformers chỉ với vài dòng lệnh Python đơn giản.

Sự xuất hiện của dòng mô hình d1 mở ra bước tiến lớn cho cộng đồng phát triển AI tại Việt Nam, đặc biệt là trong các ứng dụng IoT, thiết bị biên và xử lý dữ liệu thời gian thực đòi hỏi độ trễ cực thấp và mức tiêu thụ tài nguyên tối thiểu.

Nguồn: Hugging Face — Biên dịch & tổng hợp: danhbaai.com

Danh Bạ AI
Logo
Register New Account