Anthropic đang phát triển FlashProve, một hệ thống mã nguồn mở nhằm xác minh model AI nào đã tạo ra một output cụ thể. Theo bài đăng của công ty, FlashProve hướng tới “provable inference”, tức bằng chứng mật mã có thể đưa ra bảo đảm toán học rằng câu trả lời đến từ một model nhất định. Người dùng nhờ đó có thể kiểm tra model đang phục vụ mình có đúng với thông tin được công bố hay không.
Các nhà nghiên cứu so sánh ý tưởng này với chữ ký mật mã trong email, vốn giúp người nhận xác nhận danh tính người gửi. FlashProve được thiết kế để chống lại những nỗ lực giả mạo, kể cả khi bên tìm cách đánh tráo model chính là phòng thí nghiệm phát triển và vận hành hệ thống. Công nghệ này có thể ngăn một công ty âm thầm thay model bằng phiên bản rẻ hơn để giảm chi phí, hoặc dùng model đắt hơn nhằm làm kết quả đánh giá có vẻ tốt hơn.
Hệ thống cũng có thể kiểm tra các tuyên bố của bên thứ ba, chẳng hạn một thư viện phần mềm đã được model an ninh mạng tiên tiến quét lỗ hổng hay một kế hoạch kinh doanh đã được model phù hợp phê duyệt. Để hoạt động, mỗi model cần công bố một “dấu vân tay” có thể đối chiếu với output bằng phương pháp mật mã. Dấu vân tay không tiết lộ weights, nên vẫn tương thích với model thương mại đóng; việc xác minh còn được thiết kế đủ nhẹ để chạy trên thiết bị cục bộ.
Anthropic đã công bố đặc tả kỹ thuật và code thử nghiệm trên GitHub, nhưng chưa có kế hoạch triển khai FlashProve. Đây là hướng nghiên cứu đáng chú ý cho niềm tin, kiểm toán và tính minh bạch của AI, đặc biệt với các doanh nghiệp Việt Nam cần xác thực nguồn gốc output.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com