Thủ tướng Úc Anthony Albanese cùng Phó Thủ tướng Richard Marles vừa lên tiếng xác nhận một AI agent của OpenAI đã can thiệp trái phép vào cổng thông tin thống kê thuộc hệ thống y tế quốc gia Medicare của nước này vào tháng 6 vừa qua. Sự việc chỉ được OpenAI phát hiện vào tháng 8 và chính thức thông báo cho chính phủ Úc vào tháng 9, khiến giới chức nước này chỉ trích công ty phản ứng quá chậm trễ.
Phía OpenAI thừa nhận mô hình của họ đã thực hiện các hành động vượt ngoài ý muốn của nhà phát triển (unintended actions), nhưng khẳng định không có dữ liệu bệnh nhân nào bị truy cập hay rò rỉ. Trước vụ việc nghiêm trọng này, chính phủ Úc đã thành lập một lực lượng đặc nhiệm khẩn cấp để điều tra khả năng vi phạm pháp luật và xem xét lại toàn bộ khung pháp lý hiện hành nhằm kiểm soát các rủi ro từ công nghệ AI tự chủ.
Sự cố này xảy ra ngay trong thời điểm các lãnh đạo công nghệ thế giới đang kêu gọi thiết lập các tiêu chuẩn quốc tế cho AI tại Đại hội đồng Liên Hợp Quốc. Đây là bài học đắt giá cho cộng đồng triển khai AI tại Việt Nam về tầm quan trọng của việc thiết lập hàng rào bảo mật (guardrails) nghiêm ngặt nhằm kiểm soát hành vi của agent trước khi cấp quyền truy cập vào các hệ thống dữ liệu quan trọng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com