Tiện ích cắt giảm 65% token AI bằng phong cách người tiền sử

Dự án mã nguồn mở Caveman của tác giả JuliusBrussee đang thu hút sự chú ý lớn trên GitHub khi giải quyết trực tiếp bài toán chi phí API đắt đỏ của các lập trình viên dùng agent AI. Công cụ này buộc các agent AI như Claude Code, Gemini CLI hay Cursor giao tiếp bằng phong cách “người tiền sử” ngắn gọn, cắt bỏ toàn bộ những câu chào hỏi hay giải thích rườm rà không cần thiết.

Về nguyên lý hoạt động, Caveman kết hợp giữa một kỹ năng prompt (skill) và một proxy chạy cục bộ. Phần skill can thiệp vào cách AI trả lời, giúp cắt giảm tới 65% lượng token đầu ra bằng cách rút gọn câu chữ. Trong khi đó, phần proxy rút gọn các đoạn văn bản AI đọc trước mỗi lệnh gọi API, tiết kiệm khoảng 33% token đầu vào. Điểm đặc biệt là các thành phần cốt lõi như đoạn code, đường dẫn file và thông báo lỗi tuyệt đối không bị biến đổi.

Caveman tương thích với hơn 30 agent khác nhau như Claude Code, Codex, Gemini, Cursor, Windsurf, Cline và Copilot. Người dùng có thể dễ dàng cài đặt qua npx hoặc lệnh script tự động. Công cụ này cũng lưu bản sao lưu trên đĩa cứng local để agent có thể khôi phục văn bản gốc khi cần thiết.

Giải pháp này mang lại giá trị thực tiễn rất lớn cho cộng đồng lập trình viên Việt Nam, vốn đang tối ưu chi phí sử dụng LLM hằng ngày. Việc cắt giảm lượng lớn token giúp các developer tối ưu hóa hóa đơn API mà vẫn giữ nguyên được hiệu suất và chất lượng mã nguồn phát triển.

Nguồn: GitHub Trending — Biên dịch & tổng hợp: danhbaai.com

Danh Bạ AI
Logo
Register New Account