Tòa án Tối cao bang New Mexico (Mỹ) vừa đưa ra quyết định xử phạt luật sư Stephen Aarons 5.000 USD và kết tội coi thường tòa án sau khi ông sử dụng ChatGPT để soạn đơn phúc thẩm cho một vụ án mạng, trong đó chứa thông tin nhân chứng và lời khai cảnh sát hoàn toàn bịa đặt do AI tự tạo ra.
Theo hồ sơ từ tòa án, bản tóm tắt pháp lý do Aarons nộp lên chứa nội dung sai sự thật về thông tin nhân chứng, cũng như chi tiết trang phục và ngoại hình của hung thủ. Tại phiên điều thanh, Aarons thừa nhận đã tin tưởng ChatGPT với suy nghĩ công cụ này sẽ tạo ra một bản tóm tắt “không thể bắt bẻ”. Thẩm phán C. Shannon Bacon đã chỉ trích gay gắt sự thiếu hiểu biết này, nhấn mạnh rằng rủi ro từ ảo giác (hallucination) của các công cụ AI đã là chủ đề nóng trên truyền thông hàng ngày mà bất kỳ luật sư nào cũng phải biết.
Vụ việc này nằm trong làn sóng các vụ xử phạt liên quan đến việc luật sư lạm dụng công cụ AI. Năm ngoái, nhiều công ty luật tại Mỹ cũng đã bị tòa án nghiêm trị vì nộp hồ sơ chứa các trích dẫn pháp lý giả mạo do LLM tạo ra. Dù luật sư Aarons đã bày tỏ sự hối hận và giải thích đây là sai sót vô ý, hình phạt vẫn được đưa ra như một lời cảnh báo cứng rắn.
Sự cố trên là bài học đắt giá cho cộng đồng người dùng và chuyên gia AI tại Việt Nam về nguy cơ ảo giác của LLM. Dù AI mang lại hiệu suất cao trong công việc soạn thảo, khâu kiểm chứng tính chính xác của thông tin đầu ra vẫn là trách nhiệm bắt buộc của con người.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com