Chi phí token cho các mô hình AI tiên phong như Claude đang trở thành gánh nặng lớn đối với nhiều lập trình viên và doanh nghiệp. Mới đây, một nhà phát triển đã chia sẻ giải pháp cắt giảm tới 90% lượng token tiêu thụ trên Claude Code nhờ tích hợp tính năng AiKA Modes thuộc nền tảng Portal do Spotify phát triển.
Trong quá trình lập trình, các tác vụ như đọc hàng loạt tập tin mã nguồn để trả lời câu hỏi hoặc tạo mã kiểm thử theo khuôn mẫu sẵn có tiêu tốn hàng nghìn token mà không đòi hỏi khả năng tư duy cao của các mô hình đắt đỏ. Nhằm giải quyết vấn đề này, tác giả đã xây dựng hai chế độ khai thác mô hình Gemini 2.5 Flash thông qua Portal: bulk-reader chuyên trích xuất thông tin từ tài liệu lớn và code-writer chuyên tạo mã nguồn boilerplate. Hệ thống tự động chuyển hướng các tác vụ phụ này sang mô hình giá rẻ, giữ lại Claude cho những bài toán phức tạp.
Ban đầu, quy tắc định tuyến được thiết lập trong tệp CLAUDE.md nhưng gặp hạn chế do Claude có thể bỏ qua chỉ dẫn. Phiên bản hiện tại đã chuyển thành một plugin của Claude Code có tên là shunt, kết nối trực tiếp với CLI registry của Portal để đảm bảo việc phân quyền tác vụ diễn ra chính xác và tự động.
Giải pháp này mang lại gợi ý hữu ích cho cộng đồng lập trình viên Việt Nam trong việc tối ưu hóa chi phí sử dụng LLM, giúp duy trì hiệu suất làm việc cao với AI mà không tốn kém quá nhiều ngân sách cho API token.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com