Một nghiên cứu mới do các nhà khoa học tại Đại học Princeton dẫn đầu đã chỉ ra rằng viễn cảnh AI tự nâng cấp đệ quy (recursive self-improvement) mà không cần sự can thiệp của con người vẫn còn xa thực tế. Mặc dù các LLM hiện nay có thể viết code, tạo dữ liệu tổng hợp và tối ưu hóa chip, chúng vẫn thất bại khi đối mặt với các bài toán nghiên cứu AI mang tính mở.
Nhóm nghiên cứu đã áp dụng phương pháp đánh giá “shadow evaluation” bằng cách yêu cầu agent dựa trên Claude Opus 4.8 (chạy qua phần mềm nguồn mở OpenClaw) giải quyết các bài toán từ hai nghiên cứu chưa công bố gửi tới hội nghị NeurIPS 2026. Với ngân sách 3.000 USD API credit, tài nguyên GPU và 6 ngày làm việc, các agent đã thực hiện tốt các tác vụ kỹ thuật như duyệt tài liệu và chạy hàng trăm thử nghiệm.
Tuy nhiên, kết quả bài báo do AI tạo ra lại bị đánh giá rất thấp. Chúng tiến hành các thử nghiệm kỳ quặc trên tập dữ liệu tổng hợp siêu nhỏ, trình bày thiếu mạch lạc và không đưa ra được đóng góp mới nào cho ngành. Sự thiếu hụt về gu thẩm mỹ khoa học và tư duy sáng tạo đã ngăn cản AI tự thực hiện các nghiên cứu đột phá.
Kết quả này mang đến góc nhìn thực tế cho cộng đồng AI Việt Nam, giúp xoa dịu những lo ngại về việc AI nhanh chóng tự tiến hóa vượt tầm kiểm soát, đồng thời khẳng định vai trò trung tâm không thể thay thế của con người trong nghiên cứu chuyên sâu.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com