Startup về khả năng giải thích AI Goodfire vừa chính thức ra mắt giải pháp giám sát agent AI mới theo cơ chế từ trong ra ngoài. Thay vì tiêu tốn chi phí đắt đỏ cho một mô hình AI thứ hai đọc và kiểm tra lại toàn bộ dữ liệu đầu ra, hệ thống của Goodfire trực tiếp theo dõi các tín hiệu kích hoạt bên trong mô hình khi nó đang hoạt động.
Cơ chế này hoạt động tương tự như máy quét an ninh sân bay: các bộ dò (probe) nhỏ sẽ đọc tín hiệu thần kinh trung gian ở từng bước tính toán. Chỉ khi phát hiện dấu hiệu bất thường, hệ thống mới gọi một mô hình AI chuyên dụng đến kiểm tra kỹ hơn. Khách hàng trên nền tảng Baseten có thể tùy chỉnh giám sát các rủi ro như tấn công mạng, vũ khí sinh hóa hay thao túng phần thưởng (reward hacking), đồng thời thiết lập hành động tự động như ghi nhật ký, chuyển người duyệt hoặc từ chối yêu cầu.
Thử nghiệm trên mô hình Kimi K3 cho thấy việc giám sát khoảng 1.500 phiên làm việc chỉ tốn khoảng 51 USD, so với 233 USD khi dùng AI giá rẻ hoặc 10.000 USD nếu dùng AI cao cấp. Các bộ dò đã phát hiện thành công 94% phiên tấn công độc hại và chỉ làm tăng chưa đến 2% thời gian phản hồi của mô hình.
Giải pháp của Goodfire mang lại gợi ý quan trọng cho cộng đồng phát triển agent AI tại Việt Nam, giúp giải quyết bài toán cân bằng giữa an toàn bảo mật và chi phí vận hành khi triển khai các agent AI tự chủ vào thực tế.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com