OpenAI tung công cụ mới chống tài liệu lạm dụng tình dục trẻ em trên ChatGPT

OpenAI hôm nay công bố bộ công cụ toàn diện chống tài liệu lạm dụng tình dục trẻ em (CSAM), bao gồm bộ phân loại hình ảnh mới có thể phát hiện cả CSAM do AI sinh ra. Công ty cho các đối tác truy cập miễn phí bộ phân loại này qua API, giúp giảm 48% lượng hình ảnh cần xem xét thủ công nhưng vẫn tìm ra được cùng số lượng nội dung vi phạm, và hình ảnh bị gắn cờ có khả năng là nội dung xấu gấp đôi so với trước.
Trên ChatGPT, người dùng thử图 tìm kiếm hoặc tạo nội dung tình dục hóa trẻ em sẽ gặp màn hình cảnh báo, được dẫn hướng đến hỗ trợ chuyên môn, và tài khoản bị khóa 24 giờ như hình thức cảnh cáo. Vi phạm lặp lại có thể dẫn đến khóa vĩnh viễn. OpenAI phát triển các thông điệp cảnh báo này cùng các tổ chức bảo vệ trẻ em như Protect Children, Lucy Faithfull Foundation và các nhà nghiên cứu độc lập.
Ngoài ra, OpenAI công bố hướng dẫn cho lập trình viên sử dụng công cụ của họ để ngăn chặn, phát hiện và báo cáo CSAM, đồng thời cung cấp plugin chuyên biệt, công cụ điều tra và phân tích dữ liệu phức tạp cho cơ quan thực thi pháp luật, kèm theo đào tạo và hướng dẫn thực địa.
Động thái này đến sau khi OpenAI đối mặt với nhiều kiện tụng và bị Common Sense Media đánh giá “rủi ro không chấp nhận được” đối với thanh thiếu niên. Đối với nhà phát triển và người dùng Việt Nam, đây là nhắc nhở rõ ràng: việc tích hợp AI vào sản phẩm phải đi kèm cơ chế an toàn trẻ em chặt chẽ, tuân thủ quy định pháp lý và chuẩn mực đạo đức quốc tế.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.