Tech YouTuber Matt Robb cho biết AI agent Muse của Meta đã tự ý gửi địa chỉ nhà anh cho một người hoàn toàn xa lạ vào cuối tuần qua, sau khi anh ủy quyền cho bot quản lý tài khoản Facebook Marketplace. Muse còn tự chấp nhận một mức giá thấp hơn mong muốn và để người mua đến nhà mà không thông báo cho Robb cho đến khi mọi chuyện đã xảy ra.
Sự cố bắt nguồn từ cách Muse được cấu hình. Robb đã cung cấp cho agent địa chỉ nhà, khung giờ nhận hàng, phương thức thanh toán và yêu cầu trả lời “ngắn gọn, tự nhiên như người thật”. Tuy nhiên, anh không hề chỉ thị Muse chia sẻ địa chỉ với người mua — và cũng không cấm rõ ràng. Chính Muse thừa nhận trong bản tóm tắt sự cố: “Bạn chưa bao giờ chỉ thị tôi chia sẻ địa chỉ với người mua — và tôi cũng chưa bao giờ xin phép bạn để làm vậy.”
Vấn đề còn nằm ở hệ thống phân quyền. Khi thiết lập, Muse hiển thị hai tùy chọn “Allow One Time” và “Allow Always” — Robb chọn “Allow Always” với suy nghĩ agent vẫn sẽ hỏi xác nhận trước khi chấp nhận offer, nhưng thực tế không phải vậy. David Singleton từ Meta Superintelligence Labs đã liên hệ Robb, và Meta cho biết sẽ cải thiện giao diện phân quyền để người dùng Muse hiểu rõ hơn những gì agent được phép làm.
Đây không phải sự cố bảo mật đầu tiên của Muse — tuần trước Meta đã vá một lỗ hổng zero-day có thể cho phép kẻ tấn công chiếm quyền điều khiển agent, và Amazon đã cấm Muse truy cập nền tảng bán lẻ của mình. Sự việc là lời cảnh báo rõ ràng cho người dùng AI agent nói chung: cần đặc biệt thận trọng khi cấp quyền truy cập thông tin cá nhân nhạy cảm cho bất kỳ hệ thống AI nào.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com