OpenAI hợp tác với Cerebras vừa ra mắt Ultrafast mode – một tầng dịch vụ mới trong API, được hỗ trợ bởi phần cứng Cerebras và chạy mô hình GPT‑5.6 Sol. Dịch vụ này cho phép tạo ra tới 750 token/giây, nhanh gấp nhiều lần so với các mô hình hiện có, đồng thời duy trì độ chính xác cao.
Trong các bài kiểm tra, GPT‑5.6 Sol Ultrafast hoàn thành 2.500 câu hỏi của Humanity’s Last Exam trong 11 giờ 11 phút, trong khi Claude Fable 5 mất hơn 78 giờ. Kết quả này cho thấy tốc độ gấp 7‑11 lần so với các đối thủ, mà không có dấu hiệu suy giảm chất lượng. Trên benchmark GDP‑Val, Ultrafast đạt 5.6× tăng tốc toàn bộ quy trình, chứng minh lợi thế trong các công việc có giá trị kinh tế cao như soạn thảo hồ sơ pháp lý, mô hình tài chính và báo cáo kỹ thuật.
Nhờ tốc độ siêu nhanh, Ultrafast mở ra các kịch bản mới cho doanh nghiệp: phản hồi nhanh các sự cố dịch vụ, giảm thời gian downtime, hỗ trợ các đội bảo mật phát hiện và ngăn chặn tấn công trong thời gian thực. Đồng thời, các nhà nghiên cứu và kỹ sư có thể đặt các agent vào các luồng công việc quan trọng mà thời gian phản hồi từng giây là yếu tố quyết định.
Với khả năng này, cộng đồng AI Việt Nam có thể khai thác các ứng dụng thời gian thực, từ hỗ trợ pháp lý nhanh đến giám sát hệ thống, giúp nâng cao năng suất và giảm chi phí vận hành.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com