Một vụ việc hy hữu vừa xảy ra tại bang Florida (Mỹ) khi cô Carli Michelle Heller bị bắt giữ và đối mặt với cáo buộc tội đại hình cấp độ hai sau khi sử dụng chatbot Claude như một cuốn nhật ký cá nhân. Trong các đoạn hội thoại, cô đã ghi lại nội dung đe dọa tấn công xả súng vào văn phòng Cảnh sát trưởng địa phương. Hệ thống an toàn của Anthropic đã lập tức gắn cờ nội dung này và chuyển cho nhân viên kiểm duyệt con người đánh giá.
Sau khi xác định đây là một mối đe dọa nghiêm trọng và có cơ sở, phía Anthropic đã chủ động liên hệ với cơ quan chức năng để cung cấp thông tin. Theo điều khoản dịch vụ, Anthropic có quyền chia sẻ dữ liệu người dùng trong các trường hợp khẩn cấp nhằm ngăn chặn nguy cơ tử vong hoặc thương tích nghiêm trọng. Đáng chú ý, đây không phải lần duy nhất các hãng AI đối mặt với áp lực an toàn, khi OpenAI gần đây cũng bị kiện liên quan đến các vụ xả súng do không kịp thời báo cáo các hội thoại nguy hiểm cho cảnh sát.
Sự việc là lời cảnh báo đắt giá cho người dùng AI tại Việt Nam về tính riêng tư của dữ liệu. Các nền tảng chatbot LLM không phải là nhật ký bảo mật cá nhân tuyệt đối, và các nội dung nhạy cảm hoặc vi phạm pháp luật hoàn toàn có thể bị hệ thống quét tự động hoặc nhân viên kiểm duyệt phát hiện và xử lý theo quy định pháp luật.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com