Khi sử dụng các agent LLM để nghiên cứu lỗ hổng bảo mật, một vấn đề thường gặp là mô hình dần mất dấu các giả thuyết đã được xác nhận. Điều này dẫn tới việc đề xuất lại các phương án đã bị loại bỏ hoặc tiếp tục suy luận dựa trên thông tin sai.
Để khắc phục, tác giả đề xuất một hệ thống bộ nhớ dựa trên Datalog – một ngôn ngữ lập trình logic khai báo. Thay vì lưu trữ toàn bộ đoạn hội thoại, hệ thống chỉ ghi lại các facts (sự kiện) và rules (quy tắc) như controls(attacker, object_a). hay points_to(object_a, object_b).. Khi một giả thuyết thay đổi (ví dụ object_a does not point to object_b), bộ nhớ tự động cập nhật và loại bỏ các kết luận phụ thuộc không còn hợp lệ.
Quá trình tính toán dựa trên việc tìm điểm cố định (fixed point) của tập facts và rules. Nếu một fact mới được thêm hoặc một fact cũ bị sửa, chỉ những phần liên quan sẽ được tái tính, tránh việc mô hình phải “đọc lại” toàn bộ lịch sử. Điều này giống như việc một công cụ phân tích chương trình truyền thống chỉ cập nhật các phần bị ảnh hưởng thay vì chạy lại toàn bộ phân tích.
Những lợi ích rõ rệt: giảm thiểu hallucination, tăng tốc độ phản hồi của agent và cho phép các nhà nghiên cứu bảo mật tập trung vào việc khai thác thực tế thay vì sửa chữa lỗi nhớ của AI. Ở Việt Nam, giải pháp này có tiềm năng giúp các công ty và cộng đồng an ninh mạng nhanh chóng triển khai các trợ lý AI mạnh mẽ, đáng tin cậy hơn trong việc phân tích mã nguồn và phát hiện lỗ hổng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com