Nvidia vừa ra mắt Open Agent Safety Platform — bộ công cụ kết hợp phần mềm và phần cứng nhằm tạo lớp bảo mật độc lập quanh AI agent, ngăn chúng vượt khỏi môi trường kiểm soát. CEO Jensen Huang công bố nền tảng này trong bối cảnh hàng loạt sự cố AI agent “nổi loạn” từ các model của Anthropic, Google, OpenAI và Meta liên tiếp xảy ra.
Nền tảng mới kết hợp hai thành phần chính:
- OpenShell: phần mềm mã nguồn mở kiểm soát quyền truy cập của agent trong quá trình hoạt động (đã ra mắt từ tháng 3).
- Sentry: hệ thống giám sát độc lập chạy trên chip xử lý dữ liệu BlueField-4 của Nvidia, tách biệt hoàn toàn khỏi CPU/GPU nơi agent vận hành.
Việc đặt Sentry trên bộ xử lý riêng biệt giúp cung cấp góc nhìn cô lập về hoạt động của agent, có khả năng “cách ly agent cố gắng vượt ranh giới trong vài mili giây”. Huang nhấn mạnh triết lý: “Khi triển khai một agent, dù thông minh đến đâu, việc đầu tiên là tước bỏ mọi quyền của nó” — tương tự cách quản lý nhân viên mới trong doanh nghiệp.
Hàng chục công ty đã cam kết hỗ trợ nền tảng mã nguồn mở này, bao gồm Anthropic, Arm, Microsoft, Oracle và SpaceX. Đáng chú ý, OpenAI không có trong danh sách. Huang cho biết dự án bắt đầu từ một năm trước, sau khi OpenClaw ra đời, và Nvidia đã phát triển NemoClaw — phiên bản enterprise tích hợp sẵn bảo mật.
Đây là bước tiến quan trọng cho ngành AI khi vấn đề an toàn agent ngày càng cấp bách. Với các doanh nghiệp Việt Nam đang triển khai AI agent, nền tảng mã nguồn mở này mở ra giải pháp bảo mật đáng cân nhắc.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com