Sự phổ biến của các công cụ trí tuệ nhân tạo tạo sinh như ChatGPT đang làm thay đổi khái niệm “khách hàng luôn đúng” theo hướng phức tạp hơn. Tại nhiều nhà hàng, cửa hàng và địa điểm dịch vụ tại Mỹ, nhân viên đang phải đối mặt với tình trạng thực khách tin tưởng tuyệt đối vào các thông tin bị hiện tượng “ảo giác” (hallucination) của AI tạo ra, bất chấp cảnh báo từ con người.
Một nhân viên phục vụ tại New York chia sẻ rằng nhiều thực khách có tiền sử dị ứng hải sản nhưng vẫn quyết định gọi món chứa nước dùng hải sản chỉ vì ChatGPT khẳng định món đó “an toàn”. Nhiều khách hàng thậm chí từ chối sự tư vấn của chuyên gia rượu vang (sommelier) để gọi những chai rượu không hề tồn tại trên thị trường do chatbot tự bịa ra. Tình trạng tương tự cũng ghi nhận tại các rạp chiếu phim, cửa hàng Apple và công viên quốc gia, nơi du khách mang theo lịch trình vô lý do AI lập ra và yêu cầu dịch vụ không có thực.
Hiện tượng này phản ánh một nguy cơ đáng lo ngại khi người dùng có xu hướng mù quáng tin vào thông tin do các mô hình LLM đưa ra mà thiếu đi năng lực kiểm chứng. Nhân viên dịch vụ khách hàng đang trở thành đối tượng chịu đựng áp lực khi phải vừa xử lý công việc chuyên môn vừa ra sức giải thích để chữa lỗi cho AI.
Thực trạng này gửi đi lời cảnh báo quan trọng cho người dùng AI tại Việt Nam về giới hạn của các công cụ chatbot hiện nay. Việc chủ động xác minh thông tin từ thực tế và sử dụng AI một cách có phản biện là điều cần thiết để tránh những rủi ro về sức khỏe cũng như trải nghiệm hằng ngày.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com