BotPsy: Trợ lý cá nhân chạy trên thiết bị với mô hình ngôn ngữ chính xác 0,8 tỷ tham số

Tether AI Research vừa công bố BotPsy – một mô hình ngôn ngữ chỉ có 0,8 tỷ tham số, được thiết kế đặc biệt cho các tác vụ gọi hàm và quy trình agentic. Dựa trên nền tảng Qwen3.5-0.8B, BotPsy cho phép triển khai hoàn toàn trên thiết bị, giảm đáng kể chi phí hoạt động và đảm bảo quyền kiểm soát dữ liệu cá nhân.
BotPsy được tối ưu cho nhiều lĩnh vực ứng dụng thực tiễn như tìm kiếm web, du lịch, thương mại, tài chính, quản lý thiết bị và xử lý tài liệu. Mặc dù có quy mô nhỏ, mô hình này đã đạt hiệu suất SOTA so với mọi mô hình có số tham số lên tới 1,2 tỷ được test. Điều này cho thấy xu hướng ngày càng tốt hơn về tính hiệu quả per parameter đang thay đổi cách chúng ta nhìn nhận về khả năng của mô hình nhỏ gọn.
- Chạy trên thiết bị, bảo vệ dữ liệu cá nhân
- Hiệu suất tốt nhất trong các tác vụ gọi hàm và agent
- Chi phí thấp hơn so với các mô hình đám mây
- Phù hợp cho các công việc đơn giản đến trung bình
Khác biệt chính của BotPsy là khả năng tích hợp sâu vào các dịch vụ địa phương và thiết bị. Tương lai, Tether sẽ mở rộng khả năng trao đổi P2P, cho phép BotPsy giao tiếp an toàn với các thiết bị khác trong mạng nội bộ mà không rò rỉ dữ liệu. Đây là một bước tiến quan trọng đối với người dùng Việt Nam đang quan tâm đến quyền riêng tư và an toàn dữ liệu khi sử dụng dịch vụ AI.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.