Jane Doe 4 đã gia nhập vụ kiện do ba thiếu niên Tennessee nộp đơn chống xAI, cáo buộc chatbot Grok của công ty đã bị người cha dượng dùng để biến một bức ảnh tuổi 11 của cô thành hơn 7.000 hình ảnh khiêu dâm. Các hình ảnh này được phát hiện trong một cuộc đột kích của lực lượng thực thi pháp luật, và cha dượng đã tự tử hai ngày sau khi vụ việc bị phát hiện.
Những thiếu niên đã khởi kiện xAI vì công ty không thực hiện các biện pháp ngăn chặn cơ bản, như lọc nội dung và giới hạn truy cập, để tránh công cụ tạo ra hình ảnh người thật, đặc biệt là trẻ vị thành niên. Vụ kiện yêu cầu xét xử dạng class action và đề nghị xAI phải cải thiện hệ thống kiểm duyệt, triển khai bộ lọc nội dung nghiêm ngặt.
Đây là một trong nhiều vụ việc liên quan tới việc các LLM tạo ra nội dung khiêu dâm, khiến các nhà quản lý và công chúng lo ngại về khả năng lạm dụng công nghệ AI để sản xuất tài liệu tội phạm. Các chuyên gia kêu gọi các công ty AI phải đưa ra chính sách an toàn và giám sát chặt chẽ hơn.
Nhận định: Vụ kiện có thể thúc đẩy các công ty AI, kể cả tại Việt Nam, triển khai các biện pháp bảo vệ người dùng mạnh mẽ hơn, giảm nguy cơ lạm dụng công nghệ tạo ảnh và video.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com