Tại sự kiện TechCrunch Disrupt, bài toán lựa chọn giữa kiến trúc AI mã nguồn mở và các mô hình thương mại khép kín đang trở thành chủ đề tâm điểm của giới nhà sáng lập startup công nghệ. Việc lựa chọn công nghệ không còn là quyết định kiến trúc một lần duy nhất mà đòi hỏi chiến lược linh hoạt theo thời gian.
Các diễn giả từ Together AI, Pathway, Oumi và Nvidia đã chia sẻ góc nhìn về cách các công ty công nghệ điều hướng trong một thế giới đa mô hình (multi-model). Sự phát triển mạnh mẽ của các mô hình mở cùng sự nâng cấp liên tục từ các API thương mại giúp doanh nghiệp có thể kết hợp linh hoạt nhiều LLM khác nhau tùy thuộc vào từng tác vụ cụ thể nhằm cân bằng chi phí và hiệu năng.
Bên cạnh đó, các chuyên gia cũng đưa ra bộ khung quyết định giúp startup đánh giá giữa việc thuê API từ bên thứ ba, tùy biến trọng số mô hình mở (customized open weights) hoặc tự xây dựng hệ sinh thái AI riêng. Việc tự chủ công nghệ mang lại quyền kiểm soát cao nhưng đòi hỏi chi phí, tài nguyên và nhân lực rất lớn.
Những thảo luận này mang lại bài học kinh nghiệm đắt giá cho cộng đồng khởi nghiệp và kỹ sư AI tại Việt Nam. Đứng trước sự cạnh tranh khốc liệt, các startup Việt cần tính toán kỹ lưỡng giữa chi phí vận hành token và khả năng làm chủ công nghệ để tối ưu hóa sản phẩm dịch vụ.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com