DeepSeek‑V4.1‑Flash‑1017: Cải thiện tốc độ và chi phí cho các tác vụ LLM

DeepSeek‑V4.1‑Flash‑1017 là bản cập nhật phụ cho DeepSeek‑V4.1‑Flash, mang lại cải tiến mạnh mẽ về khả năng suy luận, lập trình, các tác vụ agentic và các benchmark hình ảnh. Nhờ giảm thời gian thực thi và độ dài output, mô hình cho phép người dùng hoàn thành nhiệm vụ nhanh hơn và chi phí thấp hơn, đẩy mạnh ranh giới hiệu suất‑chi phí trên nhiều môi trường agent.

Trong các thí nghiệm, DeepSeek‑V4.1‑Flash‑1017 đạt điểm cao hơn trên Terminal‑Bench 4.0 (sử dụng Claude Code harness) và Mini‑SWE‑V2 (được áp dụng cho DeepSWE v1.1). Bên cạnh đó, bản phát hành không kèm chat template dạng Jinja, nhưng thư mục encoding cung cấp một implementation Python tự chứa (encoding.py) với các test case cho hội thoại đa vòng, gọi công cụ, chế độ thinking, suy luận số học, tin nhắn hệ thống giữa chừng và nội dung hình ảnh xen kẽ.

Đối với môi trường production, DeepSeek cung cấp deepseek‑recipe – một bộ thư viện Rust có binding Python, chuyển đổi định dạng prompt sang Conversation, mã hoá thành token ID của DeepSeek V4/V4.1 và giải mã phản hồi. Bộ công cụ hỗ trợ thinking, tool calls, hình ảnh và các thiết lập sinh, trong khi việc inference, thực thi công cụ và truyền tải HTTP vẫn do người dùng tự triển khai.

Thư mục inference chứa hướng dẫn chi tiết về chuyển đổi trọng số và chạy inference trên máy cục bộ. Người dùng có thắc mắc có thể mở issue hoặc liên hệ qua [email protected].

Với cải tiến về tốc độ và chi phí, DeepSeek‑V4.1‑Flash‑1017 mở ra cơ hội cho cộng đồng AI Việt Nam triển khai mô hình LLM mạnh mẽ ngay trên hạ tầng nội bộ, thúc đẩy nghiên cứu và ứng dụng thực tiễn mà không phụ thuộc vào dịch vụ đám mây đắt đỏ.

Nguồn: Hacker News — Biên dịch & tổng hợp: danhbaai.com

Danh Bạ AI
Logo
Register New Account