Cuộc tranh luận siêu trí tuệ nhân tạo: Kỹ sư đặt nghi vấn tính khả thi

Hacker News · 2 phút đọc
cuoc tranh luan sieu tri tue nhan tao ky su dat nghi van tinh kha thi

Cuộc tranh luận về siêu trí tuệ nhân tạo (ASI) đã bùng nổ hè vừa qua khi các nhân viên Anthropic và OpenAI công khai cảnh báo rủi ro tuyệt chủng. Nhà nghiên cứu Jacob Coxon từ chối làm việc, cảnh báo hai công ty đang “đua thẳng tới siêu trí tuệ tự cải tiến và cược với mạng sống chúng ta”. Trưởng khoa học căn chỉnh Evan Hubinger đồng ý, và CEO Dario Amodei cũng ủng hộ quan điểm này.

Tuy nhiên, một bài phân tích kỹ thuật mới từ một hội thảo tiến sĩ tại Đại học Georgetown đặt nghi vấn vào tính khả thi của ASI. Tác giả chỉ ra rằng khái niệm tự cải tiến đệ quy (RSI) xuất hiện từ năm 1965 qua bài báo của thống kê gia I.J. Good, sau đó được phổ biến bởi nhóm Extropians và các nhân vật như Eliezer Yudkowsky, Nick Bostrom. Đây vốn là thí nghiệm tư duy chứ chưa phải giải pháp kỹ thuật cụ thể.

Các phản biện chính bao gồm: RSI giả định trí tuệ là một đại lượng đơn nhất có thể tối ưu hóa vô hạn, trong khi thực tế trí tuệ bao gồm nhiều khả năng riêng biệt; giới hạn vật lý của phần cứng và năng lượng; và vấn đề căn chỉnh (alignment) trở nên khó khăn hơn theo cấp số nhân khi hệ thống phức tạp hơn. Anthropic và OpenAI gần đây đã chuyển từ lý thuyết sang thực nghiệm với các dự án như “When AI Builds Itself”, nhưng kết quả vẫn chưa chứng minh được bùng nổ trí tuệ.

Đối với cộng đồng AI Việt Nam, bài viết nhắc nhở nên tiếp cận các tuyên bố về ASI với tư duy phê phán, tập trung vào các rủi ro hiện tại (bias, hallucination, bảo mật) thay vì lo ngại về các kịch bản giả định. Việc phân biệt giữa marketing, triết học và thực tế kỹ thuật sẽ giúp định hướng nghiên cứu và ứng dụng AI bền vững hơn.

Bài gốc · spectrum.ieee.orgĐọc bài gốc tại Hacker News

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.