Meta vừa công bố triển khai các công cụ AI mới nhằm phát hiện và ngăn chặn các quảng cáo cùng tài khoản ngầm dẫn người dùng đến các nội dung xâm hại tình dục trẻ em ngoài nền tảng. Trong 6 tháng đầu năm, công ty đã xử lý 33,2 triệu nội dung vi phạm trên Facebook và Instagram, trong đó hơn 97% được phát hiện chủ động trước khi có báo cáo từ người dùng.
Hệ thống mới của Meta ứng dụng một mô hình ngôn ngữ lớn (LLM) để đối phó với thủ đoạn “signposting” — hành vi dùng các quảng cáo trông hoàn toàn bình thường nhưng lại chứa đường dẫn ẩn đưa người dùng tới các trang web bất hợp pháp. Thay vì chỉ duyệt nội dung quảng cáo như trước, công nghệ AI mới sẽ quét và phân tích kỹ trang đích (destination) mà quảng cáo hướng tới, từ đó chặn các website vi phạm và xử lý các tài khoản đứng sau.
Bên cạnh đó, Meta còn đưa vào sử dụng một AI agent đóng vai trò “red-team” để liên tục tấn công thử nghiệm hệ thống an toàn của chính mình, nhằm phát hiện sớm các lỗ hổng bảo mật. Động thái này diễn ra trong bối cảnh Meta đối mặt với áp lực pháp lý lớn về an toàn cho trẻ em, bao gồm thỏa thuận dàn xếp trị giá 18 tỷ USD tại Mỹ vừa qua.
Việc nâng cấp công nghệ an toàn bằng LLM và AI agent cho thấy nỗ lực của Meta trong việc tạo ra môi trường mạng an toàn hơn. Điều này giúp người dùng mạng xã hội tại Việt Nam, đặc biệt là các phụ huynh, bớt lo ngại về các cạm bẫy quảng cáo độc hại đang ngày càng tinh vi.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com