Một phân tích mới đây chỉ ra rằng cảm giác các mô hình ngôn ngữ lớn (LLM) có khả năng tư duy hay suy luận thực chất chỉ là một “ảo tưởng trí tuệ”. Thay vì sở hữu trí tuệ thực sự, các chatbot AI đang vô tình tự động hóa những kỹ thuật tâm lý tương tự như chiêu trò “đọc nguội” (cold reading) mà các nhà ngoại cảm thường sử dụng để tạo dựng niềm tin ở nạn nhân.
Về mặt bản chất, các LLM không sở hữu bộ não và không chia sẻ bất kỳ cơ chế tư duy nào với con người. Chúng đơn thuần là mô hình toán học dự đoán các token ngôn ngữ tiếp theo dựa trên xác suất thống kê. Tuy nhiên, bằng cách sử dụng các câu khẳng định mang tính xác nhận chung chung (hiệu ứng Forer), chatbot tạo cho người dùng cảm giác rằng nó đang thấu hiểu sâu sắc bối cảnh và công việc của họ. Tương tự như cách nhà ngoại cảm đưa ra các phát biểu mơ hồ nhưng khiến người nghe tự gán ý nghĩa cá nhân vào, AI cũng đang lợi dụng tâm lý sẵn sàng tin tưởng của người dùng.
Tác giả nghiên cứu cho rằng sự hào hứng hiện tại đối với AI có bản chất rất giống các bong bóng tâm lý. Việc lầm tưởng các mô hình dạng chat này có năng lực suy luận thực sự có thể dẫn đến việc triển khai AI vào các ứng dụng công việc vượt quá khả năng thực tế của chúng, thậm chí chạm ranh giới của sự ngụy khoa học.
Đối với cộng đồng phát triển và người dùng AI tại Việt Nam, góc nhìn này là một lời cảnh báo quan trọng giúp chúng ta tiếp cận công nghệ một cách tỉnh táo. Việc hiểu rõ bản chất thống kê của LLM sẽ giúp người dùng tránh đặt niềm tin mù quáng khi viết prompt và thiết kế sản phẩm đúng với năng lực thực tế của mô hình.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com