Kinney Drugs, chuỗi nhà thuốc có trụ sở tại Burlington, Vermont, đã quyết định giảm quy mô sử dụng trợ lý AI có tên “Burt” sau khi nhận được hơn một trăm phản hồi tiêu cực từ khách hàng. Các khiếu nại chủ yếu liên quan tới các cuộc gọi không mạch lạc, đưa ra liều lượng thuốc sai và bỏ lỡ thông báo tái kê đơn.
Giám đốc Kinney Drugs, John Marraffa, thừa nhận rằng dù đã chú trọng tới bảo mật và tuân thủ HIPAA, nhưng trải nghiệm người dùng chưa đạt yêu cầu. “Chúng tôi không chỉ gặp khó khăn về bảo mật mà còn về trải nghiệm, và chúng tôi chịu trách nhiệm hoàn toàn,” ông nói.
Kế hoạch mới của Kinney là quay lại hệ thống điện thoại nhấn phím truyền thống cho các cuộc gọi đến, trong khi giữ Burt cho các kênh giao tiếp outbound như tin nhắn nhắc nhở tái kê đơn. Tuy nhiên, bệnh nhân phải tự đăng ký (opt‑in) để nhận các tin nhắn này, nhằm giảm lo ngại về quyền riêng tư.
Việc rút lại Burt cho thấy các doanh nghiệp Việt Nam cần cân nhắc kỹ lưỡng khi triển khai AI trong dịch vụ khách hàng, đặc biệt trong lĩnh vực y tế, nơi độ chính xác và bảo mật dữ liệu là yếu tố sống còn.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com