Công ty cung cấp dịch vụ pháp lý công nghệ LegalOn vừa công bố kết quả tối ưu hóa chi phí vận hành ấn tượng khi cắt giảm thành công 65% chi phí sử dụng OpenAI Codex hàng ngày. Đáng chú ý, doanh nghiệp vẫn duy trì trọn vẹn tốc độ phát triển phần mềm và hiệu suất làm việc của đội ngũ kỹ sư.
Để đạt được kết quả này, LegalOn đã áp dụng chiến lược quản lý ngân sách thông minh và phân bổ linh hoạt các tác vụ lập trình cho các mô hình AI phù hợp như Astra, Sol và Luna. Thay vì phụ thuộc hoàn toàn vào một mô hình đắt đỏ cho mọi nhiệm vụ, hệ thống tự động đánh giá độ phức tạp của yêu cầu để lựa chọn mô hình xử lý tối ưu nhất về mặt chi phí và thời gian.
Bên cạnh đó, doanh nghiệp cũng thiết lập cơ chế kiểm soát ngân sách theo thời gian thực đối với từng mảng dự án. Việc kết hợp hợp lý giữa các dòng mô hình giúp duy trì độ chính xác cao trong mã nguồn được tạo ra, đồng thời giảm thiểu đáng kể số lượng token không cần tiêu tốn.
Thành công của LegalOn mang lại bài học quản trị chi phí đắt giá cho các doanh nghiệp và startup công nghệ tại Việt Nam. Việc tối ưu hóa chiến lược gọi API và phối hợp đa mô hình AI sẽ giúp các đơn vị tiết kiệm ngân sách đáng kể trong bối cảnh chi phí vận hành AI ngày càng tăng.
Nguồn: OpenAI — Biên dịch & tổng hợp: danhbaai.com