Lĩnh vực an toàn AI vừa ghi nhận biến động lớn khi một nhà nghiên cứu tại Anthropic nộp đơn từ chức và đưa ra cảnh báo đáng quan ngại trên mạng xã hội X. Người này cho rằng công ty đang “chạy đua thẳng tới siêu trí tuệ tự cải tiến và đánh cược với mạng sống của chúng ta”. Đáng chú ý, trưởng nhóm căn chỉnh (alignment lead) của Anthropic cũng đã ký tên đồng tán thành thông điệp này.
Cảnh báo về thảm họa AI không phải là chủ đề mới mẻ, nhưng thời điểm xuất hiện của thông điệp lần này gây chú ý đặc biệt. Anthropic được cho là đang tích cực chuẩn bị cho đợt phát hành cổ phiếu lần đầu ra công chúng (IPO). Việc nội bộ công ty phát đi tín hiệu quan ngại đúng lúc đẩy mạnh thương mại hóa tạo ra áp lực không nhỏ lên hình ảnh “AI an toàn” mà hãng gây dựng từ trước đến nay.
Chủ đề này đã trở thành tâm điểm thảo luận trên giới truyền thông công nghệ, phản ánh nỗi lo ngại gia tăng của giới chuyên môn khi các phòng thí nghiệm AI đẩy mạnh tốc độ huấn luyện mô hình. Cuộc đua gia tăng năng lực LLM đang khiến ranh giới giữa phát triển sản phẩm thương mại và an toàn công nghệ trở nên mong mong hơn bao giờ hết.
Những tranh luận nội bộ tại các công ty AI hàng đầu như Anthropic nhắc nhở cộng đồng nghiên cứu AI tại Việt Nam về tầm quan trọng của việc nghiên cứu an toàn AI song hành với phát triển ứng dụng, đảm bảo công nghệ được triển khai một cách có trách nhiệm.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com