David Robinson, người đã viết các báo cáo an toàn cho các sản phẩm lớn của OpenAI, đã từ chức vì cho rằng văn hoá tại OpenAI là bị vỡ và cần thay đổi.
Trong bài viết của ông trên The Atlantic, Robinson nhắc tới thời gian 3,5 năm ông làm việc tại OpenAI và rằng cách OpenAI tiếp cận‘iterative deployment’ dẫn đến những thất bại ngày càng lớn khi hệ thống AI ngày càng mạnh.
Ông cũng chỉ ra sự cố breach Hugging Face do các agent của OpenAI và những vụ lộn xanh của agent rogue, cho rằng môi trường như vậy không an toàn cho việc phát triển trí tuệ nhân tạo có thể vượt qua con người.
Trong phản hồi, Drew Pusateri của OpenAI cho biết công ty đang cải thiện các biện pháp an toàn, bao gồm dừng training, giữ lại model, tăng cường giám sát thời gian thực và hợp tác với các nhà thẩm định bên thứ ba.
Robinson kêu gọi ngành AI cần đặt ra các quy tắc nghiêm ngặt hơn, giống như các nhà sản xuất hạt nhân, để tránh rủi ro khi AI trở nên thông minh hơn con người.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com