Unreal Labs ra mắt Unreal Agent, một harness mới cho AI agent với cơ chế quản lý tool call hoàn toàn bất đồng bộ (asynchronous), giúp giảm đáng kể chi phí token và thời gian phản hồi. Theo nhóm phát triển, giải pháp này đạt mức tiết kiệm lên đến 40% chi phí so với Codex và 20% so với Pi trên các workload thực tế và benchmark agentic.
Ý tưởng cốt lõi của Unreal Agent là loại bỏ gánh nặng quản lý tool cho model. Thay vì bắt LLM phải chờ đợi, poll, hay xử lý heartbeat khi gọi tool, harness sẽ đảm nhận toàn bộ việc này. Mỗi khi agent phát ra một tool call, hệ thống ngay lập tức ghi nhận trạng thái “in-progress” vào session log và tiếp tục thực thi tool ở background. Khi tool hoàn thành, kết quả được append vào log và gọi lại LLM. Cách tiếp cận này mang lại hai lợi ích lớn:
- Người dùng luôn có thể gửi tin nhắn điều hướng agent mà không cần chờ tool call kết thúc.
- Agent có thể lên lịch nhiều tool call song song giữa các lần gọi model, ví dụ vừa thiết lập dev environment (có thể mất vài phút), vừa khám phá codebase và tìm kiếm web cùng lúc — tất cả mà không tốn thêm token.
Unreal Labs cũng chỉ ra những hạn chế của các SDK phổ biến hiện tại. Các SDK hướng CLI như Claude Agent SDK mang theo nhiều giả định về local session và subprocess không phù hợp cho production. Việc chuyển đổi giữa các provider cũng thường gây lỗi tool hoặc compaction, trong khi nâng cấp SDK có thể thay đổi message format và buộc phải viết lại integration.
Với cộng đồng phát triển AI tại Việt Nam, Unreal Agent mở ra hướng tiếp cận mới về thiết kế harness — một lĩnh vực nghiên cứu còn nhiều tiềm năng, giúp tối ưu chi phí vận hành agent trong các sản phẩm thực tế.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com