Agent Substrate chạy khoảng 250 actor có trạng thái trên 8 pod vật lý

Agent Substrate giới thiệu một runtime hiệu năng cao cho triển khai agent quy mô lớn, tập trung vào khả năng vận hành nhiều sandbox trên cùng hạ tầng. Dự án viết bằng Go hiện có 1.401 sao trên GitHub, tăng 22 sao trong ngày. Nhóm phát triển lưu ý đây không phải sản phẩm Google được hỗ trợ chính thức và cũng không thuộc chương trình thưởng lỗ hổng phần mềm mã nguồn mở của Google.

Control plane của Agent Substrate quản lý toàn bộ vòng đời sandbox, gồm tạo, hủy, tạm dừng và khôi phục, với thao tác resume hoặc suspend dưới một giây. Cơ chế cốt lõi ánh xạ một tập “actor” lớn, chẳng hạn các agent, lên số lượng “worker” sẵn sàng nhỏ hơn. Thiết kế này tận dụng đặc điểm ứng dụng kiểu agent thường nhàn rỗi trong phần lớn thời gian để tăng mức độ multiplexing, đồng thời phân công actor theo thời gian thực và định tuyến lưu lượng đến đúng phiên đang chạy.

Hệ thống hỗ trợ nhiều công nghệ sandbox như microVM và gVisor, đồng thời quản lý container OCI ở cấp kernel nên không phụ thuộc framework hay agent harness cụ thể. Kubernetes đảm nhiệm cấp phát hạ tầng và vòng đời worker thông qua Pod cùng autoscaling, còn Agent Substrate bổ sung lịch trình và điều khiển chuyên biệt để giảm độ trễ. Bản demo của dự án cho thấy một cluster multiplex khoảng 250 actor có trạng thái trên chỉ 8 pod vật lý. Nhóm phát triển nhấn mạnh đây không phải SDK để xây agent mà là hạ tầng để vận hành chúng ở quy mô lớn.

Agent Substrate vẫn ở giai đoạn phát triển sớm, chưa sẵn sàng cho production; API gần như chắc chắn sẽ thay đổi và chưa có cam kết tương thích ngược. Dù vậy, dự án gợi mở một hướng tối ưu chi phí hạ tầng đáng quan tâm cho cộng đồng AI Việt Nam, nhất là các nhóm muốn triển khai lượng lớn agent nhưng không để mỗi phiên chiếm riêng tài nguyên liên tục.

Nguồn: GitHub Trending — Biên dịch & tổng hợp: danhbaai.com

Danh Bạ AI
Logo
Register New Account