Nghiên cứu phát hiện LLM xử lý xung đột đạo đức khác biệt theo giới tính
Một nhóm nghiên cứu vừa công bố bài preprint trên arXiv với tiêu đề “Harsher on Male? Evaluating LLMs on Gender-Asymmetric Moral Framing in Conflicts”, chỉ ra sự bất đối xứng rõ rệt trong cách các LLM đánh giá hành vi đạo đức tùy theo giới tính của nhân vật trong câu chuyện.
Thí nghiệm thiết kế các tình huống xung đột đạo đức tương tự nhau, chỉ khác giới tính của chủ thể. Kết quả cho thấy các mô hình hiện hành — bao gồm cả GPT-4, Claude và Llama — đều có xu hướng phán định nam giới vi phạm chuẩn mực đạo đức nghiêm trọng hơn, đồng thời dễ dàng tha thứ hoặc tìm lý do biện minh cho nữ giới trong cùng hoàn cảnh.
Các nhà nghiên cứu đo lường sự khác biệt qua điểm số moral judgment và phát hiện hiệu ứng thống kê đáng kể (p < 0,01) trên hầu hết mô hình test. Thiên kiến này xuất hiện dù prompt được viết trung tính, không gợi mở giới tính, cho thấy nó bắt nguồn từ dữ liệu huấn luyện chứ không phải từ hướng dẫn người dùng.
Phát hiện này có ý nghĩa trực tiếp cho Việt Nam khi các tổ chức bắt đầu triển khai LLM vào tuyển dụng, chấm điểm hồ sơ, hoặc tư vấn pháp lý. Nếu không kiểm tra và khử thiên kiến giới, các hệ thống AI có thể vô tình củng cố định kiến xã hội, vi phạm quy định về bình đẳng giới trong Luật Lao động và các công ước quốc tế mà Việt Nam đã tham gia.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.