Mô hình quyết định (Decision Model) bùng nổ: Tùy biến bằng dữ liệu riêng là chìa khóa

TechCrunch · 1 phút đọc
mo hinh quyet dinh decision model bung no tuy bien bang du lieu rieng la chia khoa

Mô hình quyết định (decision model) — biến thể LLM không sinh token đầu ra mà chỉ chọn lựa nhanh giữa các tùy chọn định sẵn — đang bùng nổ. Theo Vercel, tháng 10 năm nay hơn 25% request trên AI model router đi đến loại mô hình này, con số khổng lồ cho công nghệ mới chỉ ra mắt một tháng trước. Chúng rẻ, nhanh và phù hợp môi trường production cần quyết định tức thì thay vì reasoning phức tạp.

TypeSafe (dòng Jev) thống trị thị trường với 1,5 tỷ truy vấn trên OpenRouter tuần trước, giá trị công ty đạt 7,5 tỷ USD. Microsoft vừa phát hành Microsoft-Decision-1.1 trên Azure. Tuy nhiên, CEO TypeSafe Diogo Almeida nhấn mạnh khó khăn nằm ở việc “hiệu chỉnh phán đoán” (calibration) bằng dữ liệu tổng hợp điều chỉnh thống kê. Sqwish Labs (UK), vừa huy động 3 triệu USD pre-seed, đi hướng khác: cung cấp công cụ post-training tích hợp cho phép khách hàng nạp dữ liệu sản xuất liên tục để mô hình tự cải thiện phán đoán theo nhu cầu thực tế.

CEO Sqwish Ushnish Sengupta khẳng định: “Benchmark chỉ là lời mời thử nghiệm, còn fine-tuning liên tục mới là lý do khách ở lại”. VP Engineering Microsoft Achint Srivastava đồng ý: mô hình “benchmaxed” (tối ưu benchmark) thường thất bại trong thực tế doanh nghiệp. Microsoft-Decision-1.1 và Jev là hiếm hoi đạt điểm cao trên cả 4 trụ cột: độ chính xác, độ tin cậy, tốc độ và hiệu quả chi phí — ngay cả trên benchmark chưa từng thấy (held-out).

Xu hướng này mở ra kỷ nguyên “AI tùy biến tại chỗ” (on-premise customization) cho doanh nghiệp Việt Nam: thay vì chỉ chọn model off-the-shelf, các đội ngũ kỹ thuật có thể xây dựng vòng lặp dữ liệu → fine-tune → deploy → thu thập dữ liệu mới, biến mô hình quyết định thành tài sản chiến lược nội bộ.

Bài gốc · techcrunch.comĐọc bài gốc tại TechCrunch

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.