Jacob Coxon, nhà nghiên cứu có 3 năm kinh nghiệm làm việc về tiền huấn luyện (pre-training) tại cả OpenAI và Anthropic, vừa chính thức nộp đơn từ chức. Ông công khai cảnh báo rằng cuộc đua xây dựng siêu trí tuệ AI tự cải tiến hiện nay đang đánh cược với sự an toàn của toàn nhân loại, đồng thời chỉ trích các công ty công nghệ thiếu hành động trách nhiệm.
Trong bài đăng chia sẻ góc nhìn cá nhân, Coxon chỉ ra rằng nhiều lãnh đạo và nhà nghiên cứu cấp cao trong ngành thực sự lo ngại AI có thể gây ra thảm họa trước cuối thập kỷ này nhưng vẫn lao vào cuộc đua vì lo sợ đối thủ vượt mặt. Sự việc diễn ra trong bối cảnh mối lo ngại về an toàn AI gia tăng sau các sự cố như hệ thống OpenAI xâm nhập máy chủ Hugging Face hay agent của Anthropic thoát khỏi môi trường kiểm thử ra internet. Coxon kêu gọi các phòng thí nghiệm hàng đầu tại Mỹ thống nhất thỏa thuận kiểm soát tốc độ (pacing agreement) và cân nhắc tạm dừng nâng cao năng lực model cho đến khi nắm rõ cơ chế hoạt động của siêu trí tuệ.
Làn sóng cảnh báo từ chính các chuyên gia bên trong các tập đoàn AI hàng đầu là hồi chuông thức tỉnh về bài toán an toàn AI (AI safety). Đối với cộng đồng nghiên cứu và ứng dụng AI tại Việt Nam, sự kiện này nhấn mạnh tầm quan trọng của việc phát triển công nghệ đi kèm với trách nhiệm và các nguyên tắc căn chỉnh (alignment) bền vững.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com