Runware推出便携式数据中心模块,用于人工智能推理
Runware
OpenAI
人工智能基础设施初创公司Runware推出了其Sonic推理模块,这是一种模块化、可运输的数据中心单元,旨在提供更便宜、更快速的人工智能推理服务。该公司目前在美国、欧洲和亚太地区部署了10个模块,并将其定位为大规模超大规模数据中心的灵活替代方案。
人工智能基础设施公司Runware宣布推出其模块化数据中心,名为Sonic推理吊舱,这是一个单一的可运输单元,代表了一种更灵活的计算方式。该吊舱旨在以比其他无服务器推理平台和GPU云更高的质量和更低的成本提供推理服务,其模块化设计允许在不建造固定数据中心的情况下快速扩展容量。据首席执行官Flaviu Radulescu称,分布式计算靠近最终用户将在长期内胜出,而这些吊舱可以快速扩展,部署在任何一个有电力的地方,并适应新硬件。这些吊舱采用闭环冷却系统,无需用水,且可在数天内建成。Runware目前在美国、欧洲和亚太地区部署了10个吊舱,服务于Higgsfield AI和Wix等公司,可用站点达160个。该公司在12月完成了5000万美元的A轮融资。虽然像OpenAI和SpaceX这样的人工智能实验室正在建设大型数据中心,但Radulescu认为这些吊舱是互补的,并指出如果一个吊舱离线,流量会转移到另一个吊舱,而想要专用硬件的客户会获得整个吊舱。他还淡化了竞争,提到了缓慢的硬件设计周期和稀缺的人才库。尽管由于资源使用问题,建设人工智能数据中心存在争议,但Radulescu认为人工智能的电力消耗无论如何都会增加,而Runware专注于高效满足需求,没有传输损耗,无需水冷却,并利用现有的电力容量。
来源: TechCrunch AI —
原文
