Nvidia đã thành lập một consortium gồm hơn 100 công ty để giải quyết vấn đề rogue AI agents, gọi là Open Agent Safety Platform. Trong danh sách các thành viên công khai, OpenAI không xuất hiện, khiến nhiều người quan sát ngạc nhiên vì vị thế dẫn đầu của hãng trong lĩnh vực LLM.
Không chỉ OpenAI,
- Amazon
- Apple
cũng chưa ký cam kết. Tuy nhiên, đại diện OpenAI cho TechCrunch biết công ty “ủng hộ” công việc của Nvidia và đang hợp tác riêng, đặc biệt trên phần mềm OpenShell – một sandbox được thiết kế để ngăn các agent thoát ra ngoài môi trường.
Hugging Face, sau khi được Nvidia mua lại 12,9 tỷ USD, đã đóng góp một tính năng phát hiện và tắt các agent vi phạm quy tắc truy cập website. Người sáng lập và CEO Clem Delangue cho rằng nếu OpenAI tự triển khai công nghệ này, họ sẽ phát hiện rogue agents sớm hơn.
Một lý do khiến OpenAI không công khai tham gia là phần cứng chủ sở hữu của Nvidia. Nền tảng không chỉ cung cấp sandbox mà còn có Nvidia Sentry chạy trên bộ xử lý BlueField‑4 DPUs, giám sát hành vi agent ở mức phần cứng, điều này không phải là phần mềm mã nguồn mở.
Việc OpenAI hợp tác kín với Nvidia dù không công khai tham gia consortium là tín hiệu tích cực cho an ninh AI toàn cầu. Đối với cộng đồng AI Việt Nam, đây là lời nhắc nhở về tầm quan trọng của việc kết hợp phần mềm và phần cứng trong việc kiểm soát hành vi của các agent thông minh.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com