硬件与推理 RSS

硬件与推理 🇨🇳

AI基础设施面临新挑战:模型增长、异构计算与智能体复杂性重塑领域

随着AI模型架构日益复杂多样,AI基础设施需适应异构计算、多模型流水线及日益增长的智能体驱动工作负载。来自华为、Inferact vLLM和第四范式的专家讨论了关键挑战:管理多样化的AI加速器(如NVIDIA、Ascend、寒武纪等)、优化多模态推理,以及AI如何最终自动化大部分基础设施管理,使工程师从实施转向规划和SLA定义。

HuaweiHuawei 4Paradigm (Fourth Paradigm)4Paradigm (Fourth Paradigm) DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen Cosmos (NVIDIA)Cosmos (NVIDIA) Google/DeepMindGoogle/DeepMind MetaMeta AnthropicAnthropic
InfoQ 中国29.07 · 06:01
商业与市场 🇨🇳

冥能科技完成数千万元融资,自研脉冲神经网络类脑芯片

中国初创公司冥能科技,专注于生理类脑芯片,已完成由蓝湾资本和无锡创投领投的数千万人民币股权融资。资金将用于医疗级标准模块的量产、全链路闭环生理调节系统的开发以及生态系统的扩展。该公司已开发出一种事件驱动的脉冲神经网络(即SNN)类脑核心,模拟人脑的异步处理方式,旨在解决可穿戴医疗设备中的功耗和延迟问题。

36Kr29.07 · 05:02
最新新闻