Anthropic vừa công bốo trong tài liệu S-1A rằng công ty đang gần đạt đạo luật RSI (Recursive Self-Improvement) – khả năng AI tự xây dựng lại bản thân một cách tự động, dẫn đến tăng trưởng nhanh chóng các khả năng. RSI đại diện cho một bước đột phá trong lịch sử AI, trong đó mô hình có thể tự cải tiến và phát triển mà không cần can thiệp từ con người.
Theo Anthropic, công ty đã sử dụng AI trong quá trình nghiên cứu và phát triển, nhưng nhận thấy một số mô hình đã cho kết quả cải tiến đáng kể mà họ không nhận thức được ngay lập tức. Điều này đặt ra rủi ro lớn khi tốc độ phát triển AI có thể vượt qua khả năng của con người kiểm soát và giám sát. Công ty nhấn mạnh rằng các mô hình hiện tại chưa vượt qua ngưỡng RSI, nhưng họ đang theo dõi chặt chẽ và cập nhật Chính sách Phát triển Có Trách nhiệm (Responsible Scaling Policy) để bảo vệ an toàn.
Không những thế, Anthropic cũng cho biết không dự định sử dụng Claude để tự động hóa hoàn toàn quá trình thiết kế và xây dựng các thế hệ mô hình frontier mà không có sự giám sát của con người. Công ty đang cân nhắc cập nhật chính sách để đảm bảo con người vẫn nằm trong vòng vận động của quá trình phát triển AI. Điều này phản ánh quan điểm cảnh giác của Anthropic đối với tiềm năng và nguy cơ từ RSI.
RSI không chỉ là một mục tiêu kỹ thuật mà còn là một vấn đề đạo đức và xã hội. Nếu AI có thể tự cải tiến mà không bị giới hạn, nó có thể dẫn đến những khả năng vượt trội nhưng đồng thời tăng rủi ro mất kiểm soát. Cộng đồng AI Việt Nam cần theo dõi sát sao các tiến bộ này và đóng góp vào các biện pháp phòng ngừa để bảo vệ lợi ích của xã hội.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com