Tổ chức phi lợi nhuận Common Sense Media vừa cảnh báo tính năng ChatGPT dành cho thanh thiếu niên của OpenAI chứa đựng rủi ro không thể chấp nhận. Mặc dù được ra mắt vào tháng 8 vừa qua với cam kết đi kèm các hàng rào bảo vệ an toàn và hỗ trợ học tập, nghiên cứu độc lập cho thấy các biện pháp bảo vệ này vẫn chưa đạt mức như OpenAI đã hứa hẹn với người dùng.
Theo báo cáo đánh giá, hệ thống của ChatGPT không gửi cảnh báo cho cha mẹ trong các tình huống khẩn cấp, chẳng hạn như khi thiếu niên thảo luận về hành vi tự hại suốt một giờ đồng hồ. Ngoài ra, chatbot AI này cũng không cung cấp sự trợ giúp phù hợp trong các cuộc khủng hoảng tâm lý và vẫn tiếp tục giải hộ bài tập về nhà cho học sinh, gây ảnh hưởng tiêu cực đến quá trình học tập tự chủ.
Phía OpenAI đã lên tiếng bác bỏ kết quả đánh giá, cho rằng phương pháp kiểm thử của Common Sense Media diễn ra trước khi tính năng kiểm soát của phụ huynh được kích hoạt hoàn toàn. Tuy nhiên, phía Common Sense Media vẫn bảo lưu kết quả và khẳng định rằng ngay cả với các tài khoản thử nghiệm đã kết nối lâu hơn thời gian chờ, hệ thống vẫn không hề phát thông báo cảnh báo nào tới phụ huynh.
Sự việc này là lời nhắc nhở quan trọng cho phụ huynh và các cơ quan quản lý tại Việt Nam trong việc giám sát thanh thiếu niên sử dụng công cụ AI. Việc quá tin tưởng vào các tính năng bảo vệ tự động của chatbot có thể tạo ra tâm lý chủ quan nguy hiểm đối với sự an toàn tinh thần của trẻ em.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com