Việc cho phép các AI agent chạy vô hạn trong thực tế luôn vướng phải rào cản tài nguyên như token, bộ nhớ context và năng lượng tính toán. Khi số lượng agent gia tăng từ một lên hàng nghìn, đây không còn là bài toán lập trình đơn thuần mà trở thành một bài toán về hệ thống phân tán và quản lý hệ điều hành.
Để giải quyết thách thức này, nhóm nghiên cứu tại Đại học Rutgers đã phát triển AIOS (LLM Agent Operating System). Hệ thống này chia nhỏ mọi yêu cầu của agent thành các system call cơ bản như gọi LLM, đọc bộ nhớ hay dùng tool, đồng thời sử dụng các thuật toán lập lịch kinh điển như FIFO và Round Robin. Nhờ cơ chế chuyển đổi context và quản lý bộ nhớ, AIOS giúp tăng tốc độ thực thi lên đến 2,1 lần. Tương tự, nghiên cứu LLM-as-Scheduler công bố tại ACL 2026 cũng giúp giảm 43% số lượng token và hơn 36% độ trễ nhờ khả năng phân phối luồng công việc linh hoạt.
Bên cạnh đó, nghiên cứu từ Google Research và MIT trên 180 cấu hình agent cho thấy việc tăng số lượng agent không phải lúc nào cũng mang lại hiệu quả, thậm chí làm giảm hiệu suất nếu cấu trúc không phù hợp với bài toán. Những góc nhìn hệ thống này giúp cộng đồng nhà phát triển AI tại Việt Nam tối ưu hóa chi phí vận hành và xây dựng các hệ thống multi-agent hiệu quả, bền vững hơn.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com