Nghiên cứu phát hiện rò rỉ prompt AI quy mô lớn qua canary token

Nghiên cứu mới của HD Moore – Giám đốc Nghiên cứu tại Dragos – đã tiết lộ những lỗ hổng bảo mật đáng lo ngại trong chuỗi cung ứng AI. Trong 5 tháng từ 7 đến 11/2026, nhóm gửi gần 2 triệu prompt chứa các URL và credential canary token duy nhất đến các dịch vụ AI phổ biến, sau đó theo dõi nơi các bí mật này xuất hiện.
Kết quả cho thấy 3 phát hiện quan trọng: các reseller marketplace đã đánh cắp prompt của khách hàng để sử dụng lại; cài đặt quyền riêng tư và chính sách lưu giữ dữ liệu bị bỏ qua bởi nhiều nhà cung cấp; và dữ liệu suy luận (inference data) đi qua nhiều tổ chức khác nhau bao gồm nhà phát triển mô hình, vận hành đám mây, nền tảng suy luận và bên thứ ba.
Moore nhấn mạnh rằng dữ liệu suy luận – bao gồm cả prompt và phản hồi – thường có giá trị hơn cả tài nguyên GPU dùng để xử lý chúng. Chúng thường chứa mã nguồn bảo mật, thông tin liên lạc nội bộ, kế hoạch chiến lược và dữ liệu khách hàng. Việc sử dụng canary token (mã theo dõi duy nhất) cho phép phát hiện chính xác khi nào và ở đâu dữ liệu bị rò rỉ.
Để bảo vệ chuỗi cung ứng AI, các tổ chức cần triển khai canary token trong prompt, kiểm tra thường xuyên việc tuân thủ chính sách bảo mật của nhà cung cấp, và hạn chế chia sẻ dữ liệu nhạy cảm qua các API AI bên thứ ba. Đây là lời nhắc nhở quan trọng cho cộng đồng AI Việt Nam về rủi ro bảo mật khi sử dụng dịch vụ AI đám mây cho dữ liệu doanh nghiệp.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.