Google ra Gemini Decisions API để chấm điểm quyết định đa phương thức

Google AI · 1 phút đọc
google ra gemini decisions api de cham diem quyet dinh da phuong thuc

Google giới thiệu Gemini Decisions API, endpoint mới dành cho các quyết định đóng và có giới hạn, được vận hành bởi model Gemini Decision 1. API cho phép đánh giá tối đa 1.000 câu hỏi độc lập trong một lần chạy trên cùng đầu vào, gồm câu hỏi yes/no, lựa chọn nhiều đáp án và chấm điểm theo rubric. Đầu vào có thể kết hợp text, hình ảnh, audio, video và PDF.

Thay vì sinh câu trả lời token theo token, Gemini Decision 1 chấm điểm các lựa chọn trong một forward pass và trả về xác suất cùng confidence score từ 0 đến 1. Nhờ đó, ứng dụng có thể dùng kết quả để chọn tool, kiểm tra policy, định tuyến truy vấn sang model khác hoặc chuyển các trường hợp không chắc chắn cho người duyệt. API hỗ trợ đầu vào đa phương thức tối đa 256K tokens, trong đó ngữ cảnh lên tới 16K tokens có độ trễ gần như không đổi khi số câu hỏi tăng từ 1 lên 100.

Google công bố thời gian xử lý ở cấp model khoảng 50-100 ms và độ trễ đầu cuối 150-250 ms. Chi phí là 0,10 USD cho mỗi một triệu input tokens, không tính output tokens. Trong bộ benchmark chung, công ty cho biết Gemini Decision 1 có sai số calibration thấp nhất và Gemini Decisions API gần rẻ hơn 5 lần so với Gemini 3.5 Flash-Lite dùng Interactions API.

API hiện có thể bắt đầu sử dụng qua Google AI Studio, với tài liệu cho Python, JavaScript và REST. Khả năng chấm nhiều quyết định trên một đầu vào có thể hữu ích cho hệ thống moderation, chăm sóc khách hàng và xử lý hồ sơ tại Việt Nam, nơi tốc độ, chi phí và việc chuyển ca có confidence thấp cho con người đều rất quan trọng.

Bài gốc · blog.googleĐọc bài gốc tại Google AI

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.