AI đang tăng tốc đáng kể quá trình phát triển tại Anthropic, mặc dù công ty từng kêu gọi giảm tốc độ phát triển AI. Theo báo cáo mới đăng ngày Thứ Năm của tổ chức nghiên cứu an toàn AI METR, các mô hình của Anthropic đã cải tiến khoảng gấp hai so với tốc độ trước đây trong vòng một năm, không có dấu hiệu giảm tốc. Đây là bằng chứng một trong những rõ ràng nhất về khả năng AI tự thay đổi tốc độ phát triển.
Nghiên cứu kéo dài 11 tuần bên trong công ty cho thấy tốc độ cải tiến không chủ yếu do tăng cường sức mạnh tính toán. Các nhà nghiên cứu của METR khẳng định hầu hết tăng trưởng (tính đến tháng 10) đến từ sự hỗ trợ của AI. Nhân viên sử dụng mô hình nội bộ mạnh nhất của Anthropic tự báo cáo năng suất gấp 12 lần so với không có AI hỗ trợ, gấp đôi con số từ vài tháng trước. Mặc dù hiện tại hầu hết cải tiến đến từ AI hỗ trợ con người, nhưng METR cảnh báo có dấu hiệu AI hoạt động tự động sẽ chiếm vai trò lớn hơn sớm.
Báo cáo bị giới hạn về độ trong suốt. Anthropic được phép che giấu một phần nội dung báo cáo cuối cùng, và công ty đã sử dụng quyền này rộng rãi. Điều này làm giảm độ tin cậy về quy mô và nguy cơ của quá trình phát triển frontier AI. Cùng với đó, việc công ty đang chuẩn bị IPO khi CEO Dario Amodei lại kêu gọi làm chậm lại tiến trình là điều khiến các nhà quan tâm an toàn AI băn khoăn.
Không có dấu hiệu giảm lợi nhuận hay điểm nghẽn hề cho thấy khả năng tăng tốc nhanh chóng có thể tiếp tục. Các nhà nghiên cứu cũng chú ý đến quyền truy cập giống nhân viên cho các nhà nghiên cứu an toàn, được thiết lập sau các vụ tấn công nổi bật vào mùa hè năm nay.
Ích lợi và thách thức của việc AI tự điều khiển bản thân. Những phát triển này đặt ra câu hỏi sâu sắc về khả năng AI tự cải tiến mà không cần can thiệp của con người. Với cộng đồng AI Việt Nam, vụ việc này nhắc nhở về tầm quan trọng của việc cân bằng giữa tốc độ đổi mới và trách nhiệm xã hội trong kỷ nguyên AI hỗ trợ con người ngày càng mạnh mẽ.
Nguồn: The Verge — Biên dịch & tổng hợp: danhbaai.com