OpenAI công bố chiến lược chống ‘adversarial distillation’ bảo vệ reasoning của mô hình

OpenAI vừa công bố chiến lược toàn diện chống lại “adversarial distillation” — kỹ thuật mà kẻ xấu sử dụng đầu ra của mô hình tiên phong để huấn luyện mô hình khác có khả năng tương tự nhưng không kế thừa các biện pháp bảo vệ. Cách tiếp cận này tạo ra rủi ro an ninh nghiêm trọng, đặc biệt trong các lĩnh vực hai mặt như an ninh mạng và sinh học, nơi khả năng tìm lỗ hổng bảo mật hoặc nghiên cứu sinh học có thể bị lạm dụng cho mục đích tấn công.
Trọng tâm của biện pháp phòng thủ là bảo vệ “protected reasoning” — chuỗi suy luận trung gian (chain-of-thought) mà mô hình tạo ra nội bộ trước khi đưa ra câu trả lời cuối cùng. Các dấu vết suy luận này chứa thông tin giá trị mà câu trả lời cuối cùng không tiết lộ, khiến chúng trở thành dữ liệu huấn luyện cực kỳ hấp dẫn cho việc distillation trái phép. OpenAI đã tăng cường bảo vệ này trên GPT-6.2 Astra và GPT-6.2 Sol.
Kết quả đánh giá nội bộ cho thấy hiệu quả đáng kể: tỷ lệ tấn công thành công trung bình giảm từ 54,0% trên GPT-6 Astra với bảo vệ gốc xuống còn 0,2% trên GPT-6.2 Astra với bảo vệ cập nhật. Phương pháp kết hợp adversarial testing, huấn luyện mô hình chuyên biệt, classifier phát hiện và bảo vệ cấp API, đồng thời điều tra các nỗ lực trích xuất có tổ chức.
OpenAI nhấn mạnh rằng distillation là kỹ thuật machine learning phổ biến và hợp pháp, nhưng việc distillation trái phép tạo ra mô hình có khả năng tiên phong mà thiếu safeguard là mối đe dọa an toàn cốt lõi. Các bài học từ nỗ lực này được chia sẻ để củng cố phòng thủ cho toàn bộ ngành công nghiệp AI.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.