Runware giới thiệu trung tâm dữ liệu di động dạng pod cho suy luận AI

Runware, một công ty cơ sở hạ tầng AI, đã công bố ra mắt trung tâm dữ liệu mô-đun có tên Sonic Inference Pod, một đơn vị vận chuyển duy nhất đại diện cho một loại hình tính toán linh hoạt hơn. Pod được thiết kế để cung cấp khả năng suy luận với chất lượng cao hơn và chi phí thấp hơn so với các nền tảng suy luận không máy chủ và các đám mây GPU khác, và thiết kế mô-đun của nó cho phép mở rộng công suất nhanh chóng mà không cần xây dựng trung tâm dữ liệu cố định. Theo CEO Flaviu Radulescu, tính toán phân tán được đặt gần người dùng cuối hơn sẽ chiến thắng trong dài hạn, và các pod có thể mở rộng nhanh chóng, triển khai ở bất cứ đâu có điện, và thích ứng với phần cứng mới. Các pod sử dụng hệ thống làm mát vòng kín không cần nước và có thể được xây dựng trong vài ngày. Runware hiện có 10 pod được triển khai trên khắp Hoa Kỳ, Châu Âu và Châu Á - Thái Bình Dương, phục vụ các công ty như Higgsfield AI và Wix, với 160 địa điểm có sẵn. Công ty đã huy động được 50 triệu đô la trong vòng Series A vào tháng 12. Trong khi các phòng thí nghiệm AI như OpenAI và SpaceX đang xây dựng các trung tâm dữ liệu khổng lồ, Radulescu coi các pod là bổ sung, lưu ý rằng nếu một pod ngoại tuyến, lưu lượng truy cập sẽ chuyển sang pod khác, và những khách hàng muốn phần cứng chuyên dụng sẽ nhận được toàn bộ pod. Ông cũng hạ thấp sự cạnh tranh, viện dẫn chu kỳ thiết kế phần cứng chậm và nguồn nhân tài nhỏ. Mặc dù việc xây dựng trung tâm dữ liệu AI gây tranh cãi do sử dụng tài nguyên, Radulescu tin rằng mức tiêu thụ điện của AI sẽ tăng bất kể điều gì, và Runware tập trung vào việc đáp ứng nhu cầu một cách hiệu quả với không tổn thất truyền tải, không làm mát bằng nước, và sử dụng công suất điện hiện có.