Tại sự kiện Dev Day, OpenAI đã thu hút sự chú ý khi giới thiệu Decisions API, một công cụ cho phép mô hình Luna lựa chọn từ các tập phương án định sẵn với tốc độ cực nhanh và chi phí thấp. Sản phẩm này được đánh giá là phiên bản tương tự mô hình Jev của startup TypeSafe AI, tập trung vào tư duy nhanh (System One) cho các công việc phân loại và đưa ra quyết định.
Theo CEO Sam Altman, Decisions API giúp mô hình đưa ra lựa chọn chính xác trong các danh mục như phân loại hình ảnh hoặc hành vi của agent mà vẫn giữ nguyên khả năng xử lý đa phương tiện và bảo mật. Việc tối ưu hóa mô hình phân loại này giải quyết điểm yếu lâu nay của các LLM truyền thống vốn phản hồi chậm và tốn kém tài nguyên compute.
Một ứng dụng tiềm năng quan trọng của công nghệ này là giám sát an toàn cho các hệ thống swarming agents (tập hợp các agent hoạt động tự do). Thay vì tốn lượng tài nguyên khổng lồ để dùng LLM lớn kiểm tra hành vi, việc dùng một mô hình quyết định siêu nhanh như Decisions API hay Jev sẽ giúp đánh giá từng hành động của agent theo thời gian thực, ngăn chặn kịp thời các hành vi sai lệch trên môi trường internet.
Sự xuất hiện của Decisions API mở ra hướng đi mới trong việc tối ưu hóa chi phí vận hành hệ thống AI. Đối với cộng đồng lập trình viên Việt Nam, giải pháp này mang lại công cụ đắc lực để xây dựng các agentic AI hoạt động an toàn, đáng tin cậy và tiết kiệm chi phí hơn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com