Quân đội Mỹ vừa phải hủy bỏ khẩn cấp một chiến dịch quân sự nhắm vào một tàu chở hàng Trung Quốc ngay khi máy bay chiến đấu đã cất cánh, sau khi phát hiện toàn bộ thông tin tình báo dẫn đường đều do một chatbot AI tạo ra từ lỗi ảo giác (hallucination). Báo cáo sai lệch này cho rằng con tàu đang vận chuyển các linh kiện thuộc chương trình vũ khí hạt nhân.
Nguyên nhân xuất phát từ một phân tích viên thuộc Bộ Tư lệnh Chiến dịch Đặc biệt Mỹ khi sử dụng chatbot AI để tổng hợp dữ liệu tình báo. Chatbot đã nhận diện sai danh mục hàng hóa của con tàu, sau đó tiếp tục được dùng để định dạng thông tin giả này thành một bản tóm tắt chính thức và phát tán lên các kênh chỉ huy cấp cao. Sự việc cho thấy tốc độ xử lý nhanh của AI có thể khiến các sai sót lan truyền trong hệ thống trước khi kịp được kiểm chứng.
Sự cố là bài học đắt giá cho giới công nghệ và người dùng AI tại Việt Nam về việc không thể tin tưởng tuyệt đối vào đầu ra của các LLM. Việc áp dụng AI trong bất kỳ lĩnh vực nào cũng đòi hỏi quy trình kiểm duyệt nghiêm ngặt của con người để tránh những hậu quả nghiêm trọng.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com