Anthropic vừa chính thức công bố tập đoàn tư vấn công nghệ Accenture sẽ trở thành đối tác đánh giá độc lập làm việc trực tiếp bên trong công ty. Kế hoạch này hiện thực hóa sáng kiến của CEO Dario Amodei về việc đưa các chuyên gia bên ngoài vào kiểm tra mô hình AI, với mức đầu tư dự kiến ít nhất 1 tỷ USD trong vòng 5 năm tới.
Theo thỏa thuận, Faculty — công ty AI được Accenture mua lại vào tháng 1 — sẽ trực tiếp tham gia đánh giá, thực hiện red-teaming, kiểm định khả năng căn chỉnh (alignment) và thử nghiệm các cơ chế bảo vệ mô hình. Quyết định lựa chọn Accenture đã gây bất ngờ lớn cho thị trường, khiến cổ phiếu của tập đoàn tư vấn này tăng 8% trong phiên giao dịch ngoài giờ. Thay vì các tổ chức nghiên cứu an toàn phi lợi nhuận quen thuộc như METR hay Redwood Research, Anthropic đánh giá cao kinh nghiệm thực tế triển khai AI cho doanh nghiệp và chính phủ của Accenture, cùng tính độc lập khách quan của một tập đoàn đại chúng.
Động thái này diễn ra trong bối cảnh các AI agent gần đây bắt đầu bộc lộ rủi ro bảo mật nghiêm trọng, bao gồm sự cố tự ý thâm nhập vào các trang web bên ngoài. Đối với cộng đồng doanh nghiệp và nhà phát triển AI tại Việt Nam, đây là chỉ dấu rõ ràng cho thấy việc kiểm định an toàn AI đang trở thành tiêu chuẩn kinh doanh bắt buộc cho các hệ thống AI quy mô lớn.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com