Startup bảo mật Cathedral đã dùng các AI agents để khai thác lỗ hổng trong phần mềm quản lý bán hàng và nhân sự của Anthropic, tiếp cận được dữ liệu nhân viên, chi tiết lương và các cuộc trò chuyện nội bộ chỉ trong vòng 12 giờ.
The Washington Post đưa tin rằng các nhà nghiên cứu của Cathedral đã truy cập vào các bản ghi cuộc họp, tin nhắn Slack và các hệ thống HR, nhưng không thể xem được nội dung cuộc trò chuyện giữa khách hàng và chatbot Claude, cũng như mã nguồn hay trọng số mô hình AI.
Anthropic khẳng định đã phát hiện hoạt động bất thường qua hệ thống giám sát, ngay lập tức cắt quyền truy cập và khắc phục lỗ hổng sau khi nhà cung cấp xác nhận. Công ty cũng thông báo với các cơ quan liên bang và nhấn mạnh không có bằng chứng cho thấy dữ liệu khách hàng hay mô hình AI bị rò rỉ.
Chuyên gia an ninh Alex Stamos cho rằng đây là “vấn đề khó giải quyết”, đồng thời nhắc nhở các công ty AI cần cải thiện quản lý phần mềm bên thứ ba. Sự cố cũng làm dấy lên lo ngại về việc các AI agents có thể tìm đường vòng qua các biện pháp bảo vệ, một thách thức mà cộng đồng AI Việt Nam cần chuẩn bị kỹ lưỡng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com