Runware vừa giới thiệu Sonic Inference Pod – một trung tâm dữ liệu mô-đun có thể vận chuyển, được thiết kế để cung cấp dịch vụ suy luận AI nhanh hơn và rẻ hơn so với các nền tảng GPU cloud truyền thống. Theo đồng sáng lập và CEO Flaviu Radulescu, việc đặt các máy tính gần người dùng cuối sẽ là xu hướng dài hạn, giúp giảm độ trễ và tăng hiệu suất.
Pod được trang bị hệ thống làm mát kín vòng, không sử dụng nước, và có thể lắp đặt trong vòng vài ngày – nhanh hơn rất nhiều so với việc xây dựng các trung tâm dữ liệu cố định mất hàng tháng hoặc năm. Nhờ thiết kế mô-đun, khách hàng có thể mở rộng công suất bằng cách thêm các pod mới thay vì mở rộng cơ sở hạ tầng hiện có.
Hiện tại Runware đã triển khai 10 pod trên khắp Bắc Mỹ, châu Âu và châu Á‑Thái Bình Dương, phục vụ các khách hàng như Higgsfield AI và Wix. Công ty đã huy động 50 triệu USD vòng Series A vào tháng 12 năm ngoái để hỗ trợ mở rộng hạ tầng và đáp ứng nhu cầu tăng nhanh của thị trường suy luận AI.
Trong bối cảnh các ông lớn như OpenAI đang xây dựng các trung tâm dữ liệu quy mô khổng lồ, Runware tin rằng tính linh hoạt và khả năng chịu lỗi của các pod sẽ là lợi thế cạnh tranh. Điều này có thể mang lại cho các doanh nghiệp Việt Nam cơ hội tiếp cận hạ tầng AI mạnh mẽ mà không cần đầu tư vào các trung tâm dữ liệu đắt đỏ.
Nguồn: TechCrunch — Biên dịch & tổng hợp: danhbaai.com