Doc-foundry dùng AI viết và kiểm chứng rule phát hiện mối đe dọa

Doc-foundry là một dự án nhằm biến thông tin về mối đe dọa, chẳng hạn CVE, mục trong CISA KEV, báo cáo sự cố hoặc kỹ thuật ATT&CK, thành phiên bản đầu tiên của một rule phát hiện bảo mật. Điểm nhấn của dự án không chỉ là để AI viết Sigma rule, mà còn tạo ra bằng chứng cho thấy rule hoạt động, chỉ ra cách đối thủ có thể né tránh phiên bản yếu và ghi lại quá trình rule được gia cố.
Quy trình sử dụng bốn agent LLM chuyên biệt gồm Threat Analyst, Blue Detection Engineer, Telemetry và Red-Team Adversary. Các agent đảm nhiệm phần sáng tạo, trong khi những quyết định về đúng/sai được giao cho một referee deterministic: đánh giá false positive và false negative, kiểm tra khả năng né tránh, xác định mức độ bao phủ, xác minh red team và quyết định có cho phép triển khai hay không. Cùng một đầu vào sẽ tạo ra cùng verdict và reproducibility hash.
Adversary được giới hạn bằng hai cuộc tấn công có thật và đã được ghi nhận. Red sẽ lặp lại chính hai cuộc tấn công này ở mỗi vòng, thay vì thay đổi mục tiêu để làm kết quả có vẻ tốt hơn. Một baseline được xem là đạt khi rule bắt được mọi cuộc tấn công trong corpus, không kích hoạt trước các mẫu lành tính tương tự và vượt qua hai cuộc tấn công của Red. Dự án cũng có Review Chain gồm các bước draft, Red Team, revision, SOC Lead và final rule.
Doc-foundry nhấn mạnh đây là baseline đã được kiểm chứng, không phải lời hứa về khả năng chống mọi cách né tránh trong tương lai. Cách tiếp cận này có thể hữu ích cho các nhóm bảo mật Việt Nam muốn tận dụng LLM nhưng vẫn cần quy trình có thể kiểm tra, tái lập và được con người phê duyệt trước khi triển khai.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.