Apple ra mắt ứng dụng Harbor để chạy mô hình AI địa phương trên Mac

Apple vừa công bố kế hoạch phát triển Harbor, một công cụ cho phép người dùng chạy các mô hình AI mở trọng lượng trực tiếp trên các máy Mac sử dụng chip Apple silicon. Ứng dụng này được thiết kế để biến mỗi Mac thành một server inference riêng tư, giúp dữ liệu không bao giờ rời khỏi thiết bị và tránh các rủi ro liên quan tới đám mây.
Harbor cho phép người dùng tải và chạy các mô hình open-weight như Llama, Mistral hay Gemma trên Apple silicon mà không cần kết nối internet. Với khả năng kết nối nhiều Mac qua cổng Thunderbolt 5, hệ thống có thể chia sẻ bộ nhớ unified memory, từ đó chạy mô hình lớn hơn và xử lý nhiều yêu cầu đồng thời mà một máy đơn độc không thể làm được.
Năm 2024, dòng Mac đã ngày càng phổ biến nhờ các mẫu như MacBook Neo giá rẻ và Mac Studio mạnh mẽ, tạo ra cơ sở tuyệt vững để chạy AI địa phương. Apple đang tập trung phát triển các giải pháp cho người dùng cá nhân và doanh nghiệp, muốn cung cấp trải nghiệm AI nhanh gọn, bảo mật và không phụ thuộc vào dịch vụ bên ngoài.
Hiện tại Harbor vẫn ở giai đoạn preview riêng tư dưới thương hiệu Claris của Apple, nhưng các nguồn cho biết ứng dụng có thể ra mắt công chúng trong vòng vài tuần tới. Khi được mở rộng, Harbor dự kiến sẽ hỗ trợ nhiều mô hình AI phổ biến và tích hợp với các công cụ phát triển như Xcode.
Với Harbor, người dùng Việt Nam sẽ có một công cụ mạnh mẽ để thử nghiệm và triển khai các mô hình AI địa phương, giảm chi phí và bảo vệ quyền riêng tư. Điều này mở ra cơ hội mới cho cộng đồng AI trong nước, thúc đẩy nghiên cứu và ứng dụng thực tiễn trên nền tảng Apple.
Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.