Microsoft vừa công bố tính năng Guardian Agents nhằm giám sát các AI agents mà doanh nghiệp đang sử dụng. Đây là phần mở rộng của dự án Project Perception, được giới thiệu vào tháng 6, và được thiết kế để phát hiện, đánh giá và khắc phục các hành vi nguy hiểm của các agent trong môi trường nội bộ.
Guardian Agents hoạt động như một “đội xanh” – theo dõi các hành động của các agent, kiểm tra quyền truy cập dữ liệu và ngăn chặn các hành vi có thể gây hại. Microsoft nhấn mạnh rằng các mô hình frontier, dù đến từ OpenAI, Anthropic hay các nhà cung cấp khác, đều có tính không thể dự đoán và không thể hoàn toàn tin cậy.
CEO Satya Nadella trong blog cá nhân đã cảnh báo rằng các AI agents có thể trở thành “mối đe dọa nội bộ” tương tự như một nhân viên không trung thực. Ông đề xuất doanh nghiệp nên triển khai các hệ thống giám sát độc lập, không phụ thuộc vào nhà cung cấp mô hình AI, để đảm bảo trách nhiệm và an toàn dữ liệu.
Với Guardian Agents, Microsoft không chỉ bảo vệ khách hàng mà còn mở ra cơ hội kinh doanh mới cho các giải pháp bảo mật AI. Động thái này phản ánh xu hướng ngày càng tăng của việc tách nguồn cung trí tuệ (AI models) khỏi quyền kiểm soát (governance) trong môi trường doanh nghiệp.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com