OpenAI đã chính thức giải thể đội ngũ Preparedness (đội ngũ chuyên trách đánh giá rủi ro) vào cuối tháng trước. Đây là nhóm có nhiệm vụ quan trọng trong việc đánh giá xem các mô hình AI có gây ra rủi ro nghiêm trọng hay không, bao gồm cả các nguy cơ về an ninh mạng hoặc khả năng mô hình tự ý thực hiện hành vi gây hại.
Theo thông tin từ Financial Times, trách nhiệm của đội ngũ này sẽ được phân chia lại cho các bộ phận chuyên biệt như sinh học và an ninh mạng. Đây là một phần trong quá trình tái cơ cấu lớn của OpenAI khi công ty đang hướng tới mục tiêu IPO, đồng thời đối mặt với làn sóng ra đi của nhiều nhân sự cấp cao trong mảng an toàn và đạo đức AI.
Nhiều chuyên gia lo ngại rằng việc ưu tiên phát triển sản phẩm thay vì duy trì các đội ngũ giám sát độc lập sẽ làm suy yếu khả năng kiểm soát AI. Đối với cộng đồng AI tại Việt Nam, sự kiện này là một bài học quan trọng về sự cân bằng giữa tốc độ đổi mới công nghệ và trách nhiệm đạo đức, đòi hỏi các đơn vị phát triển AI trong nước cần xây dựng khung quản trị rủi ro bền vững ngay từ đầu.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com