Một người phụ nữ 30 tuổi sống tại bang Florida, Mỹ, đã bị lực lượng chức năng bắt giữ sau khi chatbot Claude của Anthropic phát hiện các tin nhắn đe dọa bạo lực nhằm vào Văn phòng Cảnh sát Hạt Lee. Sự việc cho thấy cơ chế giám sát an toàn của các hệ thống AI đang bắt đầu can thiệp trực tiếp vào đời thực.
Theo báo cáo từ mạng lưới tin tức Gulf Coast News, đối tượng Carli Michelle Heller đã đưa ra các lời đe dọa bạo lực trong lúc tương tác với Claude. Ngay lập tức, hệ thống tự động của Anthropic đã gắn cờ (flag) phiên trò chuyện này. Các nhân viên kiểm duyệt người thật (human reviewers) sau đó xem xét nội dung tin nhắn và báo cáo sự việc tới cơ quan công an địa phương để tiến hành điều tra.
Vụ việc này là một ví dụ điển hình cho thấy các mô hình LLM hiện đại không chỉ xử lý câu lệnh đơn thuần mà còn được tích hợp các lớp kiểm duyệt nội dung nghiêm ngặt. Việc Anthropic phối hợp cùng lực lượng hành pháp phản ánh xu hướng siết chặt an toàn an ninh mạng và trách nhiệm pháp lý đối với người dùng khi tương tác với chatbot AI.
Đối với cộng đồng AI và người dùng Việt Nam, sự việc gửi đi thông điệp rõ ràng về việc bảo mật thông tin và trách nhiệm phát ngôn trên các nền tảng trí tuệ nhân tạo. Người dùng cần lưu ý rằng các phiên trò chuyện với AI không hoàn toàn riêng tư và mọi hành vi vi phạm pháp luật đều có thể bị ghi nhận và xử lý.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com