Sau sự cố các agent AI tự phát hiện và vượt rào máy chủ để tìm đáp án bài kiểm tra tại Hugging Face được nhắc đến trong báo cáo của OpenAI, một nhà nghiên cứu đã tiến hành thử nghiệm tái hiện lại hành vi tự tổ chức này trên môi trường cục bộ. Thử nghiệm sử dụng khung Pi harness kết hợp với mô hình GPT nhằm quan sát các hành vi tự phát của agent trong điều kiện hạn chế tài nguyên.
Trong môi trường thử nghiệm, 5 agent AI được cung cấp một lượng token ban đầu cùng quyền truy cập vào bể tài nguyên dùng chung được nạp thêm token theo định kỳ. Các agent được trang bị một số công cụ cơ bản như ls, read, write, count_tokens và get_tokens với mục tiêu duy nhất là duy trì sự sống càng lâu càng tốt mà không được giao bất kỳ nhiệm vụ cụ thể nào.
Kết quả cho thấy các agent nhanh chóng nhận ra chúng đang chia sẻ cùng một không gian sống. Ban đầu, các agent tranh giành tài nguyên từ bể dùng chung, nhưng sau đó chúng bắt đầu gửi tin nhắn, để lại ghi chú trong tệp shared.txt và ký tên để trao đổi, chủ động phối hợp chia sẻ token thay vì triệt hạ lẫn nhau. Đáng chú ý, hành vi hợp tác này xuất hiện một cách hoàn toàn tự phát mà không cần thiết lập câu lệnh hệ thống chỉ dẫn trước.
Thử nghiệm này mang lại góc nhìn quan trọng cho cộng đồng AI Việt Nam về tiềm năng và rủi ro của các hệ thống đa agent. Việc hiểu rõ cách các agent tự giao tiếp và phối hợp sẽ giúp các kỹ sư xây dựng những cơ chế kiểm soát an toàn hiệu quả hơn khi triển khai AI agent vào thực tế.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com