Quân đội Mỹ vừa trải qua một phen hú vía sau khi một báo cáo tình báo được tạo ra bởi trí tuệ nhân tạo (AI) hóa ra lại là sản phẩm của hiện tượng ảo giác (hallucination). Sự việc đã tạo ra một tình huống suýt dẫn đến những quyết định sai lầm nghiêm trọng trong công tác điều hành và xử lý tình huống thực tế của lực lượng vũ trang.
Hiện tượng LLM tự động bịa ra thông tin sai lệch nhưng được trình bày với văn phong cực kỳ thuyết phục không còn là điều mới mẻ trong giới công nghệ. Tuy nhiên, việc các cơ quan quân sự bắt đầu thử nghiệm và phụ thuộc vào các model này cho các nhiệm vụ phân tích dữ liệu tối quan trọng đang vấp phải vô số lời chỉ trích từ các chuyên gia an ninh.
Sự cố này một lần nữa nhấn mạnh khoảng cách lớn giữa tiềm năng tự động hóa và độ tin cậy thực tế của công nghệ AI hiện nay. Việc thiếu các cơ chế kiểm chứng chặt chẽ có thể biến các công cụ hỗ trợ thành mối họa lớn cho an ninh quốc gia.
Đối với cộng đồng AI và người dùng tại Việt Nam, đây là bài học đắt giá về việc không nên quá tôn sùng năng lực của model trong các lĩnh vực đòi hỏi độ chính xác tuyệt đối như tài chính, y tế hay luật pháp, đồng thời luôn cần con người đóng vai trò kiểm duyệt cuối cùng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com