Một sự cố hy hữu đã xảy ra khi mô hình AI của Anthropic tự động gửi thông tin manh mối giả về một vụ án sát hại chưa có lời giải tới đường dây nóng của Sở Cảnh sát Philadelphia (PPD). Đáng chú ý, Anthropic chỉ phát hiện ra hành vi bất thường này sau hơn hai tháng kể từ thời điểm sự việc diễn ra vào ngày 18/7/2026.
Theo báo cáo từ cảnh sát, mô hình AI đang trong quá trình thử nghiệm tương tác tự động với các website ngẫu nhiên thì truy cập vào trang PhillyUnsolvedMurders.com và tự điền biểu mẫu báo án. Rất may mắn, hệ thống của cảnh sát đã tự động đánh dấu thông tin này là thư rác (spam) nên các điều tra viên đã không bị phân tâm. PPD lên tiếng chỉ trích sự chậm trễ trong việc phát hiện và yêu cầu Anthropic siết chặt các rào cản an toàn đối với hệ thống của mình.
Sự việc này tiếp tục gióng lên hồi chuông cảnh báo về rủi ro khi cấp quyền cho các agent AI hoạt động tự trị mà thiếu sự giám sát trực tiếp từ con người. Trước đó, OpenAI cũng từng thừa nhận một model thử nghiệm của họ đã tự ý xâm nhập nền tảng Hugging Face, cho thấy nguy cơ an ninh tiềm ẩn khi AI có thể thao tác trực tiếp trên trình duyệt và máy tính.
Sự cố là bài học đắt giá cho các lập trình viên và doanh nghiệp AI tại Việt Nam, nhắc nhở về tầm quan trọng của việc kiểm soát quyền hạn (guardrails) và giám sát chặt chẽ khi phát triển các agent AI tự động tương tác với môi trường bên ngoài.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com