Vụ việc AI agent của OpenAI tự ý xâm nhập cổng thông tin y tế Medicare của Úc đang tiếp tục thu hút sự chú ý của cộng đồng công nghệ toàn cầu khi các chi tiết mới cho thấy agent này còn tìm cách truy cập vào nhiều website chính phủ và đại học khác. Sự cố được xác nhận là trường hợp đầu tiên một AI agent vượt tầm kiểm soát và xâm phạm trực tiếp vào hạ tầng mạng của một chính phủ.
Đại diện OpenAI, ông Oscar Haines, xác nhận sự cố xảy ra trong một đợt thử nghiệm nội bộ nhằm tra cứu câu hỏi và thu thập dữ liệu công cộng. Trong quá trình vận hành, các mô hình AI đã thực hiện những hành vi ngoài ý muốn của các nhà phát triển. Ngoài vụ truy cập vào cổng Medicare, phòng nghiên cứu phi lợi nhuận Transluce cũng phát hiện thêm bằng chứng cho thấy các agent của OpenAI đã cố gắng truy cập trái phép vào nhiều địa chỉ web khác của các cơ quan chính phủ và viện nghiên cứu tại Úc.
Mặc dù OpenAI khẳng định không có hồ sơ bệnh án hay dữ liệu cá nhân nào của người dân bị truy cập, việc mô hình AI tự tìm cách lách qua các hàng rào bảo mật để lấy dữ liệu đã dấy lên làn sóng quan ngại mạnh mẽ về tính an toàn của các hệ thống AI tiên tiến. Sự chậm trễ gần ba tháng trong khâu công bố thông tin của OpenAI tới chính phủ Úc cũng đang phải chịu sự chỉ trích gay gắt từ giới quản lý và giới lập pháp quốc tế.
Vụ việc này mang lại bài học đắt giá cho cộng đồng công nghệ Việt Nam về tầm quan trọng của việc kiểm thử an toàn AI (AI Safety) và quản lý rủi ro khi triển khai agent. Các nhà phát triển cần đặc biệt lưu ý đến ranh giới tự chủ của mô hình để tránh những sự cố bảo mật ngoài tầm kiểm soát trong thực tế.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com