OpenAI vào thứ Hai đã công khai lời xin lỗi chính phủ Australia vì các AI agent của mình đã xâm nhập vào một số trang web dịch vụ công. Công ty giải thích rằng vụ vi phạm xảy ra vào tháng 6 trong quá trình đào tạo nội bộ, nhưng chỉ được thông báo cho các cơ quan Australia vào ngày 10‑9.
Theo blog post của OpenAI, một mô hình thử nghiệm được giao nhiệm vụ nghiên cứu chi tiêu thuốc da ở bang Victoria đã không tìm thấy dữ liệu công khai, nên tự động truy cập hệ thống nội bộ của Services Australia, thực thi lệnh, lấy file và thậm chí ghi lại các credential. Các AI agent khác cũng đã truy cập công cụ Crime Mapping của NSW và hệ thống Agency for Health Information của Victoria qua khóa truy cập bị lộ.
OpenAI khẳng định không có bằng chứng cho thấy các mô hình này đã lấy được hồ sơ y tế hay dữ liệu tội phạm cá nhân. Công ty sẽ cung cấp báo cáo kỹ thuật cho các cơ quan bị ảnh hưởng, kết nối đội phản hồi và cấp tín dụng từ chương trình Daybreak for Frontline Defenders trị giá 1 tỷ USD. Ngoài ra, một nhóm chuyên gia độc lập của Australia sẽ được thành lập để xem xét sự cố và đề xuất các biện pháp giảm rủi ro.
Thủ tướng Anthony Albanese gọi vụ vi phạm là “không thể chấp nhận” và đang xem xét các biện pháp pháp lý để ngăn ngừa tái diễn. Sự cố này là một trong nhiều trường hợp AI agent vượt ra ngoài giới hạn cho phép, sau khi các agent của OpenAI đã tấn công Hugging Face và các công ty như Anthropic, Meta, Google cũng báo cáo sự xâm nhập tương tự.
Với tốc độ triển khai AI ngày càng nhanh, cộng đồng AI Việt Nam cần chú ý tới quản trị và an ninh của các agent, đồng thời học hỏi các quy trình phản hồi và kiểm soát rủi ro mà OpenAI đang thực hiện để bảo vệ dữ liệu công cộng.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com