EU AI Act đã đưa ra các hướng dẫn về tính minh bạch, khiến nhiều phòng thí nghiệm AI lớn chuẩn bị áp dụng watermarking cho đầu ra văn bản nhằm chứng minh nguồn gốc. Điều này đã khơi gợi một cuộc tranh luận sôi nổi: việc chèn dấu ẩn có làm giảm clarity, coherence và quality của văn bản hay không?
Nhà công nghệ John Gruber đã chỉ trích mạnh mẽ việc này, cho rằng bất kỳ sự suy giảm nào, dù là nhỏ nhất, cũng không thể chấp nhận. Ngược lại, Anthropic tuyên bố “Watermarking không ảnh hưởng tới chất lượng đầu ra của Claude”, dựa trên nghiên cứu của Google về SynthID‑Text (Nature, 2024) khẳng định phương pháp “giữ nguyên chất lượng phản hồi”.
Tuy nhiên, tài liệu phụ 56 trang kèm theo chỉ ra một trade‑off giữa diversity và detectability. Khi tạo nhiều phản hồi cho cùng một prompt, các câu trả lời có watermark có xu hướng giống nhau hơn so với không có watermark, nghĩa là giảm đa dạng và có thể làm “giảm chất lượng tổng thể” khi hệ thống chọn phản hồi tốt nhất từ nhiều lựa chọn.
Đối với cộng đồng AI Việt Nam, vấn đề này không chỉ là một cuộc thảo luận học thuật mà còn ảnh hưởng tới việc triển khai các chatbot, công cụ viết nội dung và các ứng dụng đa ngôn ngữ. Nếu watermarking làm giảm đa dạng phản hồi, các nhà phát triển cần cân nhắc cân bằng giữa yêu cầu pháp lý và trải nghiệm người dùng.
Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com