Tập đoàn Meta vừa tuyên bố thực hiện các thay đổi đối với tính năng gợi ý prompt của chatbot Meta AI, sau khi một video lan truyền trên mạng xã hội cho thấy công cụ này tự động khai thác thông tin riêng tư về con nhỏ của một người dùng. Đại diện Meta thừa nhận công ty đã missed the mark (đi sai hướng) và khẳng định tính năng này đáng lẽ không bao giờ được đưa ra các câu hỏi riêng tư như vậy.
Sự việc bắt đầu khi người dùng Instagram Kalie Robins chia sẻ clip ghi lại cảnh Meta AI hiển thị dòng gợi ý “Who is the child passenger?” (Ai là hành khách trẻ em?) bên dưới video cô đăng tải. Khi chọn gợi ý này, Meta AI đã tự động tổng hợp thông tin về các con của cô từ những bài viết cũ, bài đăng của người thân và thậm chí hiển thị lại bức ảnh cô khẳng định đã xóa từ nhiều năm trước. Trợ lý AI sau đó tiếp tục gợi ý các câu hỏi sâu hơn về tuổi tác và nơi sinh sống của gia đình cô.
Meta cho biết đã khắc phục sự cố gây ra các gợi ý liên quan đến thông tin cá nhân riêng tư. Trước đó vào tháng 7, tập đoàn công nghệ này cũng từng phải gỡ bỏ tính năng cho phép tạo ảnh deepfake của người dùng Instagram khác sau khi hứng chịu làn sóng phản đối dữ dội từ cộng đồng.
Sự cố của Meta là lời cảnh báo quan trọng cho người dùng AI tại Việt Nam về rủi ro dữ liệu cá nhân khi chia sẻ nội dung trên các nền tảng mạng xã hội. Đối với giới công nghệ, trường hợp này nhấn mạnh tầm quan trọng của việc thiết lập ranh giới an toàn (guardrails) nghiêm ngặt nhằm bảo vệ riêng tư người dùng trong quá trình triển khai AI quy mô lớn.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com