FlashProve mở đường xác minh model nào đã tạo ra câu trả lời AI

Nhóm nghiên cứu đến từ Anthropic, EPFL, MIT và một số chương trình nghiên cứu liên quan vừa chia sẻ tiến triển về provable inference, hướng tiếp cận giúp người dùng xác minh một câu trả lời thực sự được tạo bởi model mà nhà cung cấp tuyên bố. Nhóm giới thiệu hệ thống có tên FlashProve, dựa trên một dạng bằng chứng mật mã mạnh gọi là zkSNARK.

Trong cách sử dụng AI hiện nay, người dùng gần như không có cách chắc chắn để biết phản hồi đến từ model đã chọn, hay bị thay thế bởi một model khác trong quá trình định tuyến nhằm giảm chi phí. Một kẻ tấn công cũng có thể can thiệp vào token stream mà không dễ bị phát hiện chỉ bằng cách đọc đầu ra. Vấn đề này đặc biệt đáng chú ý với các bên đánh giá độc lập, khách hàng dùng dịch vụ định tuyến của bên thứ ba và những ứng dụng cần chứng minh model đang được phục vụ.

Mục tiêu của provable inference là cho phép người dùng có tài nguyên tính toán hạn chế xác minh nguồn gốc phản hồi mà không cần biết model weights. zkSNARK được xem là phù hợp nhờ khả năng che giấu thông tin và hiệu quả, dù việc tạo bằng chứng cho các model lớn vẫn là bài toán khó. Nhóm nhấn mạnh đây mới là tiến triển trung gian, chưa phải một chương trình nghiên cứu hoàn chỉnh.

Mã nguồn, Lean proofs và tài liệu của dự án đã được phát hành theo giấy phép Apache 2.0 để cộng đồng kiểm tra, sử dụng và cải tiến. Nếu phát triển thành công, provable inference có thể củng cố niềm tin vào dịch vụ AI, hỗ trợ đánh giá độc lập và cung cấp thêm công cụ cho việc chứng minh tuân thủ các cam kết hoặc yêu cầu quản lý.

Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com

Danh Bạ AI
Logo
Register New Account