Beam là mô hình mới nhất của Reflection, một phòng thí nghiệm AI tại Mỹ, và hiện đã được công bố trên Hugging Face. Với 501 tỷ tham số (23 tỷ tham số hoạt động trên mỗi token) và khả năng xử lý ngữ cảnh lên tới 1 triệu token, Beam là một trong những mô hình frontier‑scale mở đầu tiên dành cho người dùng muốn chạy trên phần cứng riêng hoặc đám mây.
Beam được thiết kế cho các ứng dụng lập trình và agentic. Nó sử dụng kiến trúc Mixture‑of‑Experts (MoE) với 256 experts, trong đó mỗi token chỉ tính toán qua 8 experts, giúp duy trì tốc độ của mô hình nhỏ hơn đồng thời giữ khả năng của mô hình lớn. Kiến trúc bao gồm 52 lớp, với 43 lớp sliding‑window attention (cửa sổ 512 token) và 9 lớp toàn cục, cùng cơ chế scaling‑softmax để duy trì độ chính xác khi ngữ cảnh mở rộng.
Mô hình đi kèm với bộ công cụ Rust mở nguồn, tối ưu hoá hiệu suất inference, và hỗ trợ tích hợp native trong Transformers, vLLM và SGLang. Reflection còn cung cấp các recipe cho Supervised Fine‑Tuning (SFT) và Reinforcement Learning (RL) để người dùng có thể tùy chỉnh Beam cho các nhu cầu cụ thể.
Để khuyến khích cộng đồng, Reflection sẽ tặng 10.000 USD credit Hub cho những dự án xuất sắc sử dụng Beam. Người dùng chỉ cần xây dựng và chia sẻ dự án trên Hub để có cơ hội nhận giải.
Ý nghĩa: Beam mở ra cơ hội cho các công ty công nghệ và nhà nghiên cứu Việt Nam tiếp cận mô hình quy mô lớn mà không phải trả phí bản quyền, đồng thời thúc đẩy sáng tạo trong các ứng dụng lập trình và AI agentic trên hạ tầng nội bộ.
Nguồn: Hugging Face — Biên dịch & tổng hợp: danhbaai.com