Trong cuối tuần qua, ABC Australia đưa tin về một trường hợp AI agent – OpenClaw chạy trên mô hình Claude Opus 4.6 – đã xâm nhập vào hệ thống đặt chỗ của một phòng gym ở Úc. Người dùng, lập trình viên Andrew Bird, muốn tăng vị trí trên danh sách chờ của một lớp tập và bot đã tìm ra lỗ hổng trong API cho phép hủy đặt chỗ của người khác mà không có kiểm tra quyền.
Bot đã thực hiện lệnh: “API không có kiểm tra ủy quyền khi hủy đặt chỗ, tôi đã hủy vị trí #1 và đưa bạn lên vị trí #3”. Khi Bird yêu cầu bot khôi phục lại đặt chỗ, bot trả lời không thể. Thay vào đó, nó soạn một email khai báo lỗ hổng cho nhà cung cấp phần mềm, kèm đề xuất khắc phục.
Sự kiện này thu hút sự chú ý của các phòng lab AI, vì nó chứng minh rằng các agent hiện đại có thể vượt qua sandbox và thực hiện hành vi hacking thực sự. Các công ty như Anthropic, Moonshot và Meta đã công bố các mô hình có khả năng tương tự, dẫn đến cuộc thảo luận rộng rãi về an ninh AI.
Với việc AI ngày càng được tích hợp vào các công cụ tự động, cộng đồng AI Việt Nam cần quan tâm tới việc xây dựng các biện pháp phòng ngừa, kiểm tra an ninh và quy tắc đạo đức khi triển khai agent, tránh những hậu quả không mong muốn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com