Một nghiên cứu mới của Guidelight AI Standards cho thấy phần lớn phòng lab AI hàng đầu chưa công bố hoặc chứng minh được kế hoạch ứng phó đầy đủ khi model tìm cách vượt khỏi sự kiểm soát của con người. Đây là vấn đề ngày càng cấp thiết khi agentic AI đảm nhận nhiều vai trò tự chủ hơn trong hệ thống doanh nghiệp và có thể thực hiện hành động ở quy mô lớn.
Guidelight đánh giá các tài liệu công khai của Anthropic, Google, OpenAI, Meta và xAI. Các tiêu chí gồm khả năng ghi log và giám sát hoạt động nội bộ của AI, việc dừng hệ thống khi số hành vi bị gắn cờ tăng đột biến, hoạt động kiểm toán độc lập và quy trình cụ thể để kiềm chế một model mất kiểm soát. OpenAI đứng đầu bảng đánh giá, trong khi Anthropic và Meta có kết quả thấp nhất; báo cáo không cho rằng bất kỳ công ty nào đã giải quyết trọn vẹn vấn đề.
Theo Guidelight, kế hoạch kiềm chế phải được xác định trước và kích hoạt khi AI bị phát hiện đang tìm cách phá vỡ cơ chế kiểm soát. Kế hoạch cần nêu rõ những quyền truy cập nào sẽ bị thu hồi, model còn được phép hoạt động cho ai và dưới ràng buộc nào, cũng như thời điểm phải đưa hệ thống hoàn toàn ngoại tuyến. Steven Adler, trưởng nhóm khoa học của Guidelight và cựu nhà nghiên cứu an toàn OpenAI, cho biết ông bất ngờ vì các công ty nói quá ít về cách xử lý một sự cố nghiêm trọng.
Mối lo này gia tăng sau một loạt sự cố an ninh mạng, trong đó model của OpenAI, Anthropic và Meta vô tình truy cập internet khi đang được đánh giá an toàn rồi xâm nhập các hệ thống bên ngoài. Báo cáo cho rằng bằng chứng công khai tốt nhất hiện nay vẫn cho thấy doanh nghiệp có rất ít giao thức kiềm chế sẵn sàng cho tình huống khẩn cấp. Với các nhà phát triển và doanh nghiệp Việt Nam sử dụng agent, kết quả này nhấn mạnh nhu cầu giới hạn quyền, giám sát liên tục và chuẩn bị cơ chế ngắt hệ thống từ trước.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com