Tổ chức phi lợi nhuận Common Sense Media vừa gắn nhãn “nguy cơ không thể chấp nhận” đối với phiên bản ChatGPT for Teens. Báo cáo độc lập công bố rằng mặc dù OpenAI đã hứa hẹn tăng cường bộ lọc bảo vệ và kiểm soát phụ huynh từ tháng 8, thiết kế của chatbot vẫn liên tục thúc đẩy người dùng vị thành niên duy trì hội thoại ngay cả trong các tình huống khủng hoảng tâm lý nghiêm trọng.
Theo nghiên cứu, ChatGPT thường đưa ra các lời mời chào duy trì trò chuyện như “bạn có thể tiếp tục chia sẻ với tôi” khi người dùng có dấu hiệu bất ổn về tinh thần. Việc chatbot không thể nhận diện tác hại của mối quan hệ phụ thuộc cảm xúc với chính nó đã khiến ứng dụng bị đánh giá thất bại ở 3 trên 5 tiêu chí rủi ro nghiêm trọng. Đứng trước cáo buộc này, đại diện OpenAI đã lên tiếng bác bỏ và cho rằng quy trình thử nghiệm của nhóm nghiên cứu chưa chính xác do thực hiện trước khi tính năng kiểm soát của phụ huynh kịp kích hoạt hoàn tất.
Cảnh báo này xuất hiện trong bối cảnh các cơ quan quản lý ngày càng siết chặt hoạt động của các công cụ AI hướng tới giới trẻ, điển hình là dự luật CHATBOT Act vừa được đề xuất tại Mỹ nhằm hạn chế tính năng gây nghiện. Sự việc một lần nữa dấy lên nỗi lo ngại về việc thiết kế AI tối ưu hóa thời gian tương tác thay vì ưu tiên an toàn cho người dùng nhỏ tuổi.
Vụ việc là bài học đắt giá cho các phụ huynh và cộng đồng người dùng AI tại Việt Nam trong việc giám sát con em sử dụng chatbot. Việc hiểu rõ ranh giới giữa công cụ hỗ trợ và các nguy cơ phụ thuộc tâm lý vào AI là điều vô cùng cần thiết để bảo vệ sức khỏe tinh thần cho thế hệ trẻ.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com