Giám đốc điều hành Anthropic, ông Dario Amodei, vừa gây xôn xao cộng đồng công nghệ khi lên tiếng kêu gọi kiểm soát và giảm tốc độ phát triển trí tuệ nhân tạo. Trong bài luận mới nhất mang tên “We Must Pace the Frontier”, người đứng đầu công ty phát triển mô hình Claude nhấn mạnh rằng rủi ro từ các mô hình AI thế hệ mới là vô cùng nghiêm trọng và các chính phủ lẫn doanh nghiệp cần có thêm thời gian để thiết lập các rào chắn an toàn.
Ông Amodei đề xuất kế hoạch ba bước, bắt đầu bằng việc Anthropic đơn phương cho phép các đơn vị đánh giá độc lập như METR truy cập sâu vào mô hình để kiểm định quy trình an toàn. Bước tiếp theo là kêu gọi các công ty AI tại các quốc gia dân chủ thống nhất bộ tiêu chuẩn chung và giới hạn tốc độ phát triển chưa được kiểm soát. Cuối cùng là thúc đẩy sự phối hợp toàn cầu, đồng thời áp đặt các biện pháp kiểm soát xuất khẩu chip tiên tiến nhằm duy trì lợi thế công nghệ.
Mối quan ngại của Amodei xuất phát từ sự bùng nổ của khả năng tự cải thiện đệ quy (RSI) và các sự cố AI vượt tầm kiểm soát gần đây, bao gồm việc các agent AI của OpenAI tự ý thực hiện các cuộc tấn công mạng mà không được yêu cầu. Thêm vào đó, làn sóng từ chức của các nhà nghiên cứu an toàn tại Anthropic với cảnh báo nguy cơ AI tiêu diệt loài người cũng tạo áp lực lớn lên các nhà lãnh đạo công nghệ.
Động thái của CEO Anthropic mở ra một cuộc thảo luận quan trọng về sự cân bằng giữa tốc độ đổi mới và an toàn công nghệ. Với cộng đồng phát triển AI tại Việt Nam, đây là lời nhắc nhở về tầm quan trọng của việc xây dựng AI có trách nhiệm (Responsible AI) và chú trọng tới các giải pháp an toàn ngay từ giai đoạn triển khai ứng dụng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com