OpenAI ra mắt công cụ phát hiện deepfake CSAM hỗ trợ điều tra bạo lực trẻ em

The Verge · 2 phút đọc
openai ra mat cong cu phat hien deepfake csam ho tro dieu tra bao luc tre em

Tại một buổi briefing báo chí tại Washington DC, OpenAI đã công bố một classifier mới được thiết kế để hỗ trợ các điều tra viên bạo lực tình dục trẻ em (CSAM) lọc bỏ nhiễu và tập trung vào bằng chứng có thể hành động ngay. Công cụ này không chỉ phát hiện CSAM truyền thống mà còn có cờ riêng biệt cho nội dung deepfake do AI tạo ra — một tính năng đầu tiên trong các classifier CSAM phổ biến.

Theo OpenAI, classifier giảm 48% false positive (cảnh báo sai) so với phương pháp hiện tại, trong khi các hình ảnh được gắn cờ có khả năng chứa nội dung vi phạm cao gấp đôi. Nó được huấn luyện để bắt các deepfake từ nhiều nguồn: mô hình mở, ứng dụng “nudifying”, và các công cụ AI tạo sinh khác. OpenAI cung cấp miễn phí truy cập cho các tổ chức được kiểm duyệt, hướng dẫn cho lập trình viên cách tích hợp phát hiện nội dung này, và đào tạo cho cơ quan thực thi pháp luật về cách AI hỗ trợ điều tra.

Bối cảnh cấp bách: Đường dây nóng CyberTipline của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) nhận 400.000 báo cáo liên quan AI-generated CSAM năm 2025, tăng vọt từ 67.000 năm 2024. Luật sư bang North Carolina Jeff Jackson (cố vấn AI Task Force) cảnh báo: “Nếu tiếp tục tăng thế này, chúng ta sẽ thất bại trong sứ mệnh”. Luật Take It Down Act hiện yêu cầu nền tảng xóa ảnh khiêu dâm deepfake không đồng ý trong 48 giờ, và 48 bang đã có luật chống deepfake tình dục.

Tuy nhiên, OpenAI và các công ty AI khác đang đối mặt áp lực pháp lý ngày càng lớn: 8 bang vừa kiện OpenAI về hại trẻ em riêng biệt (khuyến nghị tự tử, ma túy), và chatbot Grok của xAI từng bị cáo buộc tạo nội dung cởi trói. Công cụ này là bước tiến kỹ thuật quan trọng, nhưng thách thức cốt lõi vẫn là quy mô khổng lồ của nội dung AI-generated tràn lan internet, đe dọa làm tê liệt hệ thống bảo vệ trẻ em.

Bài gốc · theverge.comĐọc bài gốc tại The Verge

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.