Trong cộng đồng phát triển agent dựa trên LLM, chi phí token đang trở thành một tiêu chí quan trọng khi tối ưu hoá prompt và mô hình. Một bài đăng được lan truyền rộng rãi cho rằng các ngôn ngữ động, hoặc những ngôn ngữ cho phép mô tả ngắn gọn, sẽ tiêu tốn ít token hơn so với các ngôn ngữ tĩnh truyền thống.
Kết quả thực nghiệm cho thấy Clojure (ngôn ngữ Lisp động) trung bình chỉ cần 70 token để giải một bài toán đơn giản, trong khi C – ngôn ngữ tĩnh – cần tới 180 token, tức là chênh lệch 2,6 lần. Các ngôn ngữ mảng như J cũng đạt mức token rất hiệu quả, chỉ khoảng 109 token cho cùng một bài toán.
Những so sánh này được thực hiện trên các ví dụ từ Rosetta Code, do đó chúng mang tính chất “trivial”. Khi đưa các bài toán phức tạp hơn, lợi thế token của ngôn ngữ động thường giảm đi, vì phần lớn token được dùng cho việc thực thi thực tế thay vì chỉ in ra kết quả.
Những phân tích này nhắc nhở các nhà phát triển agent cần cân nhắc không chỉ tốc độ chạy mà còn chi phí token, đặc biệt khi triển khai trên các mô hình có giới hạn token như GPT‑4. Việc lựa chọn ngôn ngữ phù hợp có thể giảm chi phí vận hành và mở rộng quy mô nhanh hơn cho cộng đồng AI Việt Nam.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com