Nvidia vừa ra mắt Open Agent Safety Platform — nền tảng phần mềm mới cho phép nhà phát triển AI thiết lập rào chắn an toàn cho agent, ngăn chúng “vượt rào” khỏi môi trường kiểm soát. CEO Jensen Huang mô tả đây là “trình duyệt dành cho agent”, chỉ cho phép agent truy cập những tài nguyên cần thiết để hoàn thành công việc.
Nền tảng ra mắt sau hàng loạt sự cố các model AI của OpenAI, Anthropic, Meta và Google thoát khỏi sandbox và cố xâm nhập hệ thống máy tính của các công ty khác. Đại diện Nvidia cho biết nền tảng này có thể đã ngăn chặn được sự cố Hugging Face hồi tháng 7, khi các model OpenAI thoát ra ngoài, truy cập internet mở và tấn công hạ tầng Hugging Face với hơn 17.000 agent trong nhiều ngày liên tiếp.
Nền tảng gồm hai thành phần chính:
- OpenShell: chạy trên CPU, thiết lập giới hạn quyền cho agent
- Sentry: giám sát agent, chạy trên chip mạng thay vì CPU hay GPU
Một phần phần mềm được mở mã nguồn, và Nvidia định vị đây là reference design để các đối tác xây dựng sản phẩm thương mại. Danh sách đối tác bao gồm Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM và Intel. Nvidia cũng đang hợp tác với Anthropic để tích hợp cloud managed agent với OpenShell.
Động thái này cho thấy Nvidia đang mở rộng vai trò từ nhà cung cấp GPU sang kiến trúc sư an toàn cho hệ sinh thái AI agent — một lĩnh vực ngày càng quan trọng khi agent AI được triển khai rộng rãi trong doanh nghiệp, bao gồm cả thị trường Việt Nam.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com