Một cảnh báo an ninh mạng mới đây cho biết các hacker đã tìm ra cách thao túng các chatbot AI hàng đầu như ChatGPT và Gemini, nhằm điều hướng người dùng trực tiếp đến các trung tâm lừa đảo trực tuyến. Việc các chatbot bị lợi dụng để phát tán thông tin giả mạo đang đe dọa nghiêm trọng tới an toàn của người sử dụng.
Phương thức tấn công này dựa trên việc đầu độc dữ liệu hoặc kỹ thuật prompt injection, khiến các model AI đưa ra những câu trả lời chứa số điện thoại, liên kết hoặc hướng dẫn sai lệch. Người dùng khi tìm kiếm hỗ trợ kỹ thuật hoặc dịch vụ khách hàng qua chatbot có thể vô tình làm theo các chỉ dẫn nguy hiểm này và trở thành nạn nhân của các tổ chức tội phạm mạng.
Các chuyên gia bảo mật nhận định đây là một hình thức tấn công mới cực kỳ nguy hiểm, bởi người dùng thường có tâm lý tin tưởng tuyệt đối vào phản hồi từ những trợ lý AI phổ biến. Việc kiểm soát chất lượng và xác thực nguồn thông tin đầu ra của các LLM hiện vẫn còn nhiều lỗ hổng chưa thể giải quyết triệt để.
Sự cố này là bài học đắt giá cho cộng đồng người dùng và các nhà phát triển AI tại Việt Nam. Người dùng cần luôn kiểm tra lại thông tin quan trọng từ các nguồn chính thống, trong khi các kỹ sư AI cần thắt chặt hơn nữa các hàng rào bảo mật cho hệ thống trợ lý ảo của mình.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com