Khi các doanh nghiệp bắt đầu giao phó những tác vụ ngày càng dài và phức tạp cho AI agent, một cuộc khủng hoảng giám sát đã nổ ra. Các agent có thể hành động nhanh hơn, kéo dài hơn và với khối lượng lớn hơn nhiều so với khả năng kiểm soát thực tế của con người, đỉnh điểm là sự cố Hugging Face với gần 12.000 agent phối hợp hành động với tốc độ chóng mặt.
Giải pháp nổi lên từ các phòng thí nghiệm AI và cộng đồng startup nghe có vẻ nghịch lý nhưng thiết thực: đưa thêm một AI khác vào vòng lặp kiểm soát. Các công cụ giám sát như Watcher của Apollo Research được cài đặt trực tiếp vào các môi trường như Claude Code hoặc Codex để kiểm tra các hành động trước khi chúng thực thi, nhằm ngăn chặn rủi ro rò rỉ dữ liệu hoặc xóa tệp trái phép.
Cách tiếp cận này thường sử dụng nhiều lớp kiểm tra, bắt đầu bằng một bước rà soát tổng quát nhanh chóng, sau đó chuyển các hoạt động bị nghi ngờ sang bộ phận chuyên sâu hơn để phê duyệt hoặc chặn tự động. Điều này đã châm ngòi cho một làn sóng đầu tư mạnh mẽ vào lĩnh vực quan sát AI (AI observability) trên toàn cầu.
Đối với cộng đồng phát triển AI tại Việt Nam, xu hướng tích hợp lớp bảo vệ và giám sát tự động này là bài học quan trọng khi triển khai các hệ thống agent tự trị trong môi trường doanh nghiệp nhằm đảm bảo an toàn bảo mật.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com