CostPerPrompt là công cụ mới được công bố trên Hacker News, cho phép xem giá thực tế của hơn 232 mô hình AI và tính toán chi phí cho các workload thực như chatbot, agent hay API.
Các nhà cung cấp AI lớn đều tính phí theo token (khoảng ¾ từ), với mức giá riêng cho token đầu vào (input) và đầu ra (output). Thông thường, chi phí đầu ra gấp 3–5 lần so với đầu vào. Ví dụ, mô hình có giá $5 / $25 cho mỗi triệu token sẽ tính $5 cho mỗi triệu token bạn gửi và $25 cho mỗi triệu token mô hình sinh ra.
Hai yếu tố giảm chi phí đáng chú ý được CostPerPrompt tích hợp:
- Prompt caching: giảm tới 90 % chi phí đầu vào khi lặp lại các prompt, rất quan trọng với chatbot cần gửi lại lịch sử hội thoại.
- Batch processing: cắt giảm khoảng 50 % chi phí khi có thể chờ xử lý hàng loạt.
Những công cụ tính toán này tự động cập nhật giá và áp dụng cả hai giảm giá, trong khi hầu hết các bài viết “chi phí bao nhiêu” thường bỏ qua, dẫn đến ước tính sai lệch 2–3 lần.
Với CostPerPrompt, các nhà phát triển và doanh nghiệp Việt Nam có thể dự trù ngân sách chính xác hơn, tối ưu hoá việc sử dụng mô hình AI và tránh bất ngờ về chi phí khi triển khai sản phẩm.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com