AllModels đã đưa số lượng nhà cung cấp inference lên 5 cho mô hình deepseek/deepseek-v4.1-flash-abliterated, một mô hình suy luận nhanh và mạnh mẽ. Người dùng chỉ cần gọi API OpenAI‑compatible một lần, nền tảng sẽ tự động định tuyến tới các nhà cung cấp phù hợp, bao gồm cả các route chỉ hỗ trợ hình ảnh.
Hệ thống fallback pool giúp duy trì khả năng phục vụ ngay khi một nhà cung cấp bị quá tải hoặc ngừng hoạt động. Khi yêu cầu là văn bản, AllModels có thể dùng bất kỳ route nào có khả năng, còn khi yêu cầu là hình ảnh hoặc đa phương tiện, chỉ những nhà cung cấp hỗ trợ mới được chọn. Ngoài ra, nền tảng còn cung cấp công cụ tìm kiếm nội bộ, cho phép mọi mô hình nhận được các lời gọi tìm kiếm và trích dẫn URL một cách đồng nhất, bất kể nhà cung cấp có hỗ trợ tính năng này hay không.
AllModels liên tục cập nhật giá cả và khả năng cung cấp của các nhà cung cấp, giúp người dùng luôn được định tuyến tới tùy chọn rẻ nhất. Người dùng cũng có thể chọn thủ công một nhà cung cấp cụ thể khi cần kiểm soát chi phí hoặc hạn mức.
Việc tập hợp đa dạng nhà cung cấp và khả năng chuyển hướng tự động này sẽ giảm thiểu thời gian tích hợp và chi phí vận hành cho các dự án AI tại Việt Nam, đồng thời tăng tính ổn định khi thị trường inference liên tục biến động.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com