Một bệnh nhân tại Australia vừa trải qua phen hú vía khi phát hiện hồ sơ bệnh án của mình bị AI scribe ghi nhận sai lệch nghiêm trọng. Cụ thể, công cụ AI chép lại buổi khám đã tự ý đưa vào hồ sơ thông tin cho rằng bệnh nhân Rebecca Green đang sử dụng nấm psychedelic (ma túy) — điều hoàn toàn không có thật. Lỗi này chỉ được phát hiện sau khi cô đọc lá thư hậu phẫu gửi đến bác sĩ gia đình, khiến cô vô cùng hoang mang và lo ngại.
Sự cố xảy ra trong bối cảnh AI scribe đang ngày càng phổ biến trong ngành y tế, giúp các bác sĩ quá tải xử lý hồ sơ bệnh nhân. Theo ước tính của Royal Australian College of GPs (RACGP), khoảng 40% bác sĩ gia đình tại Úc đang thường xuyên sử dụng AI scribe. Tuy nhiên, các chuyên gia cảnh báo hiện tượng “hallucination” — nơi AI bịa ra thông tin không có thật — đang đặt ra rủi ro lớn cho cả bệnh nhân lẫn hệ thống y tế. Bệnh nhân Green特别 lo lắng vì cô đang trong quá trình nhận bồi thường lao động, và bất kỳ thông tin nào về chất cấm trong hồ sơ đều có thể ảnh hưởng nghiêm trọng đến quyền lợi của cô.
Bác sĩ điều trị đã gửi lời xin lỗi, thừa nhận không thể xác định rõ nguồn gốc lỗi và cho rằng vấn đề xảy ra trong quá trình “dictation hoặc transcription”. Bác sĩ cũng cam kết sẽ rà soát lại cách thức sử dụng AI trong phòng khám. Tuy nhiên, câu hỏi lớn được đặt ra là tại sao bác sĩ không kiểm tra kỹ nội dung trước khi gửi đi, đặc biệt trong bối cảnh AHPRA (cơ quan quản lý y khoa Australia) yêu cầu bác sĩ phải luôn xác minh mọi đầu ra từ AI scribe.
Đối với cộng đồng AI và người dùng Việt Nam, sự cố này là bài học quan trọng về việc không nên đặt niềm tin tuyệt đối vào AI, đặc biệt trong các lĩnh vực nhạy cảm như y tế. Việc sử dụng AI hỗ trợ rất hiệu quả, nhưng khâu xác thực và giám sát của con người vẫn là yếu tố không thể thiếu để đảm bảo an toàn.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com