Nhà nghiên cứu Benjamin Skuse quyết định kiểm tra mức độ nguy hiểm của “AI slop” bằng cách tự mình tạo một bài báo khoa học hoàn toàn giả, chỉ dựa vào các mô hình miễn phí như ChatGPT Mini và Gemini 3 Flash.
Quá trình “vibe‑research” bao gồm việc đưa các lời nhắc để AI sinh ra giả thuyết, mã lệnh và nội dung văn bản mà không can thiệp chỉnh sửa. Skuse đã sử dụng tên tác giả và đơn vị của mình để tránh các dấu hiệu cảnh báo, đồng thời giới hạn mình trong các lĩnh vực mà mình có kiến thức nền.
Sau khi hoàn thiện bản thảo, Skuse gửi thử nghiệm tới IEEE Access, nơi biên tập viên Jenny Mahoney đồng ý tham gia “war‑game”. Kết quả: bài báo giả đã vượt qua một số vòng kiểm tra sơ bộ, cho thấy các hệ thống xét duyệt hiện tại chưa đủ mạnh để phát hiện nội dung được tạo ra bởi AI.
Thí nghiệm này làm nổi bật một thực tế đáng lo ngại: theo ước tính, đến năm 2025 hơn 57% các bài báo khoa học có dấu hiệu ảnh hưởng của LLM, trong khi chỉ 1/40 trong số đó công khai việc sử dụng AI. Điều này đe dọa niềm tin vào nền tảng khoa học và đặt ra yêu cầu cấp thiết cho các nhà xuất bản phát triển công cụ phát hiện AI.
Đối với cộng đồng nghiên cứu Việt Nam, kết quả này cảnh báo cần tăng cường đào tạo về đạo đức AI và triển khai các giải pháp kiểm tra tự động nhằm bảo vệ chất lượng công trình khoa học.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com