Google hôm thứ Ba công bố TorchTPU, dự án mã nguồn mở cho phép các nhà phát triển chuyển các mô hình PyTorch sang Tensor Processing Units (TPU) của Google mà không cần viết lại mã. Sự kiện này đánh dấu sự tham gia của Google vào cuộc chiến giảm sự thống trị của Nvidia trong lĩnh vực AI.
PyTorch hiện được 85 % các ứng dụng AI sử dụng, và hầu hết các tính năng của nó được tối ưu cho GPU Nvidia. TorchTPU cung cấp một lớp cấu hình duy nhất, cho phép chuyển đổi nhanh chóng sang TPU và triển khai trên Google Cloud. Điều này giúp các startup và nhóm nghiên cứu giảm chi phí phần cứng và tận dụng sức mạnh tính toán của TPU.
- Hỗ trợ trực tiếp các công cụ phổ biến như Hugging Face, vLLM, SGLang.
- Công cụ TPU Agent Suite hỗ trợ di chuyển, gỡ lỗi và tối ưu hoá ứng dụng.
- Phiên bản LiteRT được cập nhật để chạy tốt hơn trên thiết bị di động và nhúng.
Amazon cũng vừa ra mắt TorchNeuron, cho phép chuyển sang chip Trainium và nền tảng AWS. Hai công ty đang đẩy mạnh việc tách PyTorch khỏi các phụ thuộc phần cứng, nhằm mở rộng lựa chọn cho các nhà phát triển.
Mặc dù không đồng nghĩa với việc các nhà phát triển sẽ ngay lập tức bỏ Nvidia, TorchTPU và TorchNeuron tạo ra một môi trường đa dạng hơn, giúp giảm chi phí và tăng tính linh hoạt cho các dự án AI tại Việt Nam.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com