Meta đã để quảng cáo có nội dung lạm dụng trẻ em do AI tạo ra chạy trên các nền tảng của mình, bao gồm Facebook, Instagram, Messenger và Threads. Các quảng cáo này được hiển thị trong khoảng thời gian từ tháng 11 năm ngoái đến đầu tháng 8, một số đạt tới hàng nghìn tài khoản.
Nhóm nghiên cứu Tech Transparency Project (TTP) đã thu thập hơn 50 quảng cáo ảnh và video có nội dung lạm dụng, trong đó có những quảng cáo dẫn người dùng tới các ứng dụng “nudify” hoặc “undressing”. Một quảng cáo sử dụng ảnh thu nhỏ của một đứa trẻ kèm thông điệp “Realizing Deep Fantasies with Generation AI” và khi nhấp vào sẽ phát video người lớn, ghép khuôn mặt trẻ vào hành vi tình dục.
Meta đã nhanh chóng xóa các quảng cáo này sau khi chúng vi phạm chính sách về CSAM và nội dung người lớn. Tuy nhiên, một số quảng cáo vẫn tồn tại trong thư viện quảng cáo của Meta trong nhiều tháng mà không bị phát hiện, và một quảng cáo đã tiếp cận hơn 2.500 tài khoản ở châu Âu.
Những vụ việc này nhấn mạnh nguy cơ lạm dụng công nghệ AI trong quảng cáo và yêu cầu các nền tảng phải tăng cường kiểm soát, đặc biệt khi nội dung có thể gây hại nghiêm trọng cho trẻ em. Đối với cộng đồng AI Việt Nam, đây là lời cảnh báo mạnh mẽ về trách nhiệm đạo đức khi triển khai mô hình sinh ảnh.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com