OpenAI đã mở rộng Decisions API cho toàn bộ người dùng, đưa ra một mô hình quyết định nhanh, chi phí thấp, có thể thay thế LLM trong nhiều quy trình. Sản phẩm này được xây dựng dựa trên ChatGPT Luna, được tối ưu để giảm thời gian suy luận từ 1‑3 giây xuống chỉ 100‑180 ms.
Trong các thử nghiệm ban đầu, các khách hàng như Box, Datadog, Ramp và Speak đã dùng Decisions API để thay thế LLM truyền thống, giảm thời gian phản hồi từ 1.4 giây xuống 0.13 giây và cải thiện độ ổn định của trợ lý giọng nói Dots. OpenAI cũng bổ sung các modality âm thanh và hình ảnh, đồng thời triển khai tài nguyên suy luận trên toàn cầu để giảm độ trễ khu vực.
So sánh với Jev của TypeSafe, Decisions API hiện đứng thứ 8 và 14 trên các chỉ số AIM System One Index và Artificial Analysis Decision Index, trong khi Jev giữ vị trí cao hơn (thứ 7 và 3). Tuy nhiên, OpenAI nhấn mạnh khả năng tùy biến và tích hợp sâu hơn, đồng thời không phụ thuộc vào các chuẩn benchmark cụ thể.
Việc công khai Decisions API mang ý nghĩa lớn cho cộng đồng AI Việt Nam: doanh nghiệp có thể triển khai các giải pháp quyết định nhanh, giảm chi phí hạ tầng và tăng năng suất, đồng thời thúc đẩy sự phát triển của hệ sinh thái AI nội địa.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com