Hugging Face công bố Granite 4.2, bộ mô hình LLM mã nguồn mở đầu tiên tập trung vào khả năng suy luận. Ba kích thước – 3 billion, 8 billion và 30 billion tham số – đều được huấn luyện từ đầu trên khoảng 15 trillion token, theo chiến lược năm giai đoạn mở rộng ngữ cảnh lên tới 512 K token.
Quá trình huấn luyện bao gồm: (1) pre‑training cơ bản; (2) fine‑tuning có giám sát (SFT) với dữ liệu chain‑of‑thought, reasoning và agentic‑trajectory; (3) một pipeline reinforcement learning đa giai đoạn, trong đó các mô hình 8B và 30B trải qua agentic RL để học cách gọi công cụ, chỉnh sửa và chạy mã trong môi trường sandbox thực tế.
Mỗi mô hình Granite 4.2 có ba chế độ hoạt động: thinking (dành ngân sách suy luận đầy đủ), non‑thinking (trả lời nhanh mà không suy nghĩ) và low‑effort (dành ngân sách ngắn cho các câu hỏi dễ). Ngoài ra, chúng hỗ trợ native tool calling và xuất ra các lời gọi công cụ theo định dạng OpenAI function‑calling, cho phép tích hợp dễ dàng vào các hệ thống agent mà không cần lớp trung gian.
Toàn bộ bộ mô hình được phát hành dưới giấy phép Apache 2.0, cho phép cộng đồng tự do sử dụng, tùy biến và triển khai. Granite 4.2 cũng đã được tích hợp sẵn trong endpoint tương thích OpenAI (ví dụ vLLM) và trong SGLang, giúp các nhà phát triển Việt Nam nhanh chóng xây dựng các ứng dụng AI suy luận mạnh mẽ.
Với tính năng suy luận sâu và khả năng gọi công cụ nội địa, Granite 4.2 hứa hẹn sẽ là nền tảng quan trọng cho các dự án AI mở nguồn tại Việt Nam, đồng thời giảm rào cản tiếp cận công nghệ LLM hiện đại.
Nguồn: Hugging Face — Biên dịch & tổng hợp: danhbaai.com