Trong buổi tọa đàm do Dwarkesh Patel chủ trì, ba nhà nghiên cứu AI nổi tiếng bao gồm John Schulman (cựu đồng sáng lập OpenAI, hiện làm việc tại Thinking Machines), Beren Millidge (CTO Zyphra) và Charlie O’Neill (Baseten) đã cùng thảo luận về viễn cảnh AI tự cải tiến đệ quy (recursive self-improvement).
Các diễn giả đã phân tích lý do kỹ thuật khiến viễn cảnh siêu trí tuệ (superintelligence) thống trị vào năm 2036 có thể không xảy ra. Cuộc tranh luận đề cập tới hiện tượng tương tự nghịch lý Moravec: AI có thể giải quyết xuất sắc các bài toán toán học hay cờ vua khó, nhưng lại chưa thể tạo ra tác động thực tế tương xứng trên quy mô rộng lớn. Bên cạnh đó, vấn đề xác minh mã nguồn do agent tạo ra cũng đang trở thành nút thắt cổ chai lớn trong quá trình phát triển.
Góc nhìn sâu sắc từ cuộc thảo luận giúp cộng đồng nghiên cứu AI tại Việt Nam có cái nhìn thực tế hơn về lộ trình tiến tới AGI. Thay vì quá lo lắng trước những dự báo viễn tưởng, việc giải quyết các thách thức kỹ thuật hiện tại về kiểm thử và xác minh mô hình mới là chìa khóa then chốt.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com