Speko – công ty thuộc lô Y Combinator S26 – vừa công bố OpenRouter, một giao diện duy nhất cho các dịch vụ Voice AI. Thay vì dựa vào bảng xếp hạng tiếng Anh của các nhà cung cấp, OpenRouter quyết định mô hình nào nên gọi dựa trên các measurement công khai cho từng ngôn ngữ và mục tiêu.
Điều này giải quyết vấn đề “một mô hình không phù hợp cho mọi ngôn ngữ”. Ví dụ, mô hình đứng đầu bảng tiếng Anh có thể kém hiệu quả với tiếng Việt hoặc tiếng Thái. OpenRouter thu thập và so sánh các chỉ số như độ chính xác, tốc độ phản hồi và chi phí, sau đó tự động chuyển hướng yêu cầu tới mô hình tối ưu.
Kiến trúc của OpenRouter rất đơn giản:
- Một base URL duy nhất cho mọi nhà cung cấp.
- Một API key chung.
- Chuỗi mô hình (model string) và hostname được truyền trong yêu cầu, giống như khi gọi OpenAI API.
Nhờ vậy, các framework hiện có – từ Whisper tới Rasa – chỉ cần thay đổi hostname và model string là có thể sử dụng hạ tầng mới mà không cần viết lại mã.
Với cộng đồng AI Việt Nam, OpenRouter hứa hẹn giảm đáng kể chi phí và thời gian tích hợp Voice AI đa ngôn ngữ, đồng thời khuyến khích việc lựa chọn mô hình dựa trên dữ liệu thực tế thay vì quảng cáo.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com