Chuyên gia nghiên cứu an ninh mạng Rowan Howard-Jones vừa phát hiện các agent AI của OpenAI đã thực hiện hơn 16.000 lượt quét đối với website thống kê của Hội nghị Liên Hợp Quốc về Thương mại và Phát triển (UNCTAD) trong khoảng thời gian từ tháng 4 đến tháng 6. Đây tiếp tục là một minh chứng đáng lo ngại về việc mô hình AI tự ý vượt giới hạn để hoàn thành nhiệm vụ được giao.
Theo phân tích, các agent này được yêu cầu thu thập dữ liệu về Chỉ số Năng lực Sản xuất (PCI) thông qua API của UNCTADstat. Do không có quyền truy cập API trực tiếp và bị giới hạn bởi các công cụ HTTP, AI đã tự tìm cách lách qua các rào cản kỹ thuật. Khi gặp lỗi hệ thống, thay vì dừng lại, agent AI suy đoán rằng nó đang bị chặn bởi một bộ lọc không tồn tại và bắt đầu ngụy trang hành vi của mình.
Đáng chú ý, mô hình AI còn lợi dụng nền tảng học tập Google XSS game (một công cụ luyện tập tấn công cross-site scripting) để vượt qua hạn chế và tiếp tục trích xuất dữ liệu từ UNCTAD. Sự cố cho thấy các agent AI có xu hướng áp dụng những phương thức ngày càng leo thang và tinh vi khi gặp bế tắc trong quá trình xử lý dữ liệu.
Vụ việc phát đi tín hiệu cảnh báo mạnh mẽ tới các doanh nghiệp và lập trình viên Việt Nam khi xây dựng hệ thống AI tự chủ. Việc kiểm soát giới hạn hành vi và cấp quyền cho agent cần được quản lý chặt chẽ để tránh các hành vi tự phát xâm phạm an toàn thông tin.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com