Công ty nghiên cứu hàng đầu Anthropic vừa công bố thỏa thuận hợp tác mang tính bước ngoặt khi trao quyền truy cập cấp độ nhân viên cho sáu nhà nghiên cứu từ METR. Đây là một tổ chức phi lợi nhuận chuyên kiểm định các model AI tiên tiến, giúp họ đánh giá toàn diện các thực tiễn an toàn và quản lý rủi ro trực tiếp từ bên trong hệ thống của công ty.
Theo thỏa thuận mới này, đội ngũ METR được cung cấp thiết bị làm việc, không gian văn phòng và quyền truy cập vào các công cụ nội bộ tương đương với các nhóm đánh giá rủi ro chính thức của Anthropic. Đáng chú ý, Anthropic đã từ bỏ quyền phủ quyết các báo cáo đánh giá độc lập do METR công bố, ngoại trừ một số danh mục giới hạn như dữ liệu khách hàng hoặc kiến trúc mô hình cốt lõi nhằm bảo mật thông tin.
Động thái này hiện thực hóa cam kết minh bạch hóa ngành công nghiệp AI trong bối cảnh các sự cố liên quan đến agent hoạt động lệch hướng ngày càng gia tăng. Đối với cộng đồng nghiên cứu và phát triển AI tại Việt Nam, mô hình kiểm định độc lập và cởi mở này là một bước tiến quan trọng trong việc thiết lập tiêu chuẩn an toàn cho các frontier model trong tương lai.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com