Google ra mắt hai TPU mới cho AI bảo mật và workload lớn

TechCrunch · 1 phút đọc
google ra mat hai tpu moi cho ai bao mat va workload lon

Google vừa công bố hai biến thể mới của tensor processing unit (TPU), mở rộng danh mục chip AI do hãng tự phát triển cho Google Cloud. TPU 8tx hướng đến đào tạo và chạy model trong môi trường bảo mật, còn TPU 8i Max phục vụ các workload cần nhiều bộ nhớ hơn. Cả hai thuộc thế hệ TPU thứ tám được Google giới thiệu từ tháng 4.

TPU 8tx được thiết kế cùng AMD và dựa trên chip TPU 8t. Theo Google, chip này tích hợp cơ chế bảo mật ngay ở lớp hardware, giúp dữ liệu nhạy cảm và trọng số model được bảo vệ, cô lập ngay cả khi đang hoạt động. TPU 8tx cũng có mạng inferencing tùy biến, cho phép thực hiện reasoning song song với quá trình training.

Khả năng này có thể hỗ trợ doanh nghiệp distill và training các model nhỏ ngay trong lúc xử lý dữ liệu độc quyền, hạn chế nhu cầu di chuyển dữ liệu giữa nhiều thiết bị. Trong khi đó, TPU 8i Max kết hợp hai chip TPU 8i tập trung cho inference vào cùng một package, qua đó tăng gấp đôi memory capacity, processing power và bandwidth. Google cho biết thiết kế này giúp model xử lý phạm vi thông tin lớn hơn trong các truy vấn.

Động thái diễn ra khi Microsoft, Amazon, OpenAI và Anthropic cũng phát triển semiconductor chuyên dụng cùng software riêng để giảm phụ thuộc vào Nvidia. Với cộng đồng AI và doanh nghiệp Việt Nam, các TPU mới cho thấy hạ tầng AI đang ngày càng đa dạng, đặc biệt ở các bài toán bảo mật dữ liệu và inference quy mô lớn.

Bài gốc · techcrunch.comĐọc bài gốc tại TechCrunch

Bài được AI biên dịch và tóm tắt từ nguồn trên. Xem bài gốc để có đầy đủ thông tin.