Rumble-2-Flash: mô hình nhận dạng giọng nói 0,5B tham số mã nguồn mở hỗ trợ 40+ ngôn ngữ

Hugging Face · 1 phút đọc
rumble 2 flash mo hinh nhan dang giong noi 05b tham so ma nguon mo ho tro 40 ngon ngu

Reson8 vừa công bố Rumble-2-Flash — mô hình nhận dạng giọng nói (ASR) chỉ 0,5 tỷ tham số nhưng hiệu suất ngang ngửa các đối thủ lớn gấp 3 đến 60 lần. Mô hình được phát hành dưới giấy phép Apache 2.0, hỗ trợ 40+ ngôn ngữ và tích hợp sẵn trong thư viện Transformers cũng như vLLM, không cần code tùy chỉnh hay trust_remote_code. Kiến trúc gốc là Qwen3-ASR, cho phép day-0 support trên các stack phổ biến.

Điểm kỹ thuật nổi bật là phương pháp “on-policy distillation” kết hợp kỹ thuật GOLD (Gradient-based Optimal Label Distillation). Thay vì học từ bản chép của mô hình thầy (teacher), mô hình học sinh (student) tự chuyển giọng nói, sau đó teacher chấm điểm token-by-token — sửa lỗi chính xác tại vị trí mô hình học sinh sai. GOLD giải quyết bài toán tokenizer khác nhau bằng cách hợp nhất token nơi hai bộ từ vựng tách khác nhau, so sánh xác suất đã sắp xếp cho phần còn lại.

Kết quả: trên Open ASR Leaderboard đa ngôn ngữ (9 ngôn ngữ) đạt WER trung bình 6,96%, tốt hơn Meta omniASR-LLM 7B (lớn 15 lần) và Whisper large-v3. Trên tiếng Anh đạt 6,6% WER. Tốc độ vượt trội: >7.000 RTFx khi batch đầy — 1 giờ âm thanh xử lý trong ~0,5 giây. Trên benchmark trung tâm gọi điện AppTek (302 giờ, 14 giọng Anh) đạt 7,86% WER, ngang Nemotron 3.5 Transcribe 30B của NVIDIA. Với kích thước siêu nhỏ, Rumble-2-Flash là lựa chọn lý tưởng cho các ứng dụng ASR real-time, on-device hoặc đa ngôn ngữ tại Việt Nam — từ dịch vụ khách hàng, phụ đề tự động đến ghi chép hội thoại y tế/pháp lý.

Bài gốc · huggingface.coĐọc bài gốc tại Hugging Face

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.