OpenAI vừa công bố “Community safety report” kèm theo các biện pháp bảo vệ mới dành cho thanh thiếu niên trong ChatGPT. Báo cáo nhấn mạnh việc mở rộng các lớp phòng ngừa để ngăn chặn nội dung bạo lực, tự tử và các hành vi nguy hiểm.
Trong phiên bản cập nhật, hệ thống sẽ thực hiện can thiệp sớm hơn khi người dùng đưa ra dấu hiệu rủi ro, đồng thời tăng cường đánh giá nội dung bằng mô hình LLM mới. Các biện pháp bao gồm:
- phát hiện và chặn tự động các câu hỏi về tự tử hoặc hành vi nguy hiểm
- cung cấp lời khuyên và liên kết tới dịch vụ hỗ trợ tâm lý
- hạn chế việc chia sẻ thông tin cá nhân của trẻ em
OpenAI cũng cam kết công khai các số liệu an toàn qua “public safety reporting”, giúp cộng đồng, nhà nghiên cứu và nhà quản lý có thể theo dõi hiệu quả của các biện pháp. Điều này thể hiện xu hướng tăng cường trách nhiệm xã hội trong phát triển AI.
Với việc bảo vệ thanh thiếu niên ngày càng được đặt lên hàng đầu, báo cáo này mang ý nghĩa quan trọng cho người dùng Việt Nam, khi chúng ta đang chứng kiến sự lan tỏa nhanh chóng của ChatGPT trong giáo dục và giải trí.
Nguồn: OpenAI — Biên dịch & tổng hợp: danhbaai.com