Hardware e Inferencia RSS

La infraestructura de IA enfrenta nuevos desafíos: los modelos crecen, la computación heterogénea y la complejidad de los agentes reconfiguran el campo

A medida que las arquitecturas de modelos de IA se vuelven cada vez más complejas y diversas, la infraestructura de IA debe adaptarse a la computación heterogénea, los pipelines multimodelo y el aumento de cargas de trabajo impulsadas por agentes. Expertos de Huawei, Inferact vLLM y 4Paradigm discuten los desafíos clave: gestionar diversos aceleradores de IA (NVIDIA, Ascend, Cambricon, etc.), optimizar la inferencia multimodal y cómo la IA podría eventualmente automatizar gran parte de la gestión de infraestructura, desplazando a los ingenieros de la implementación a la planificación y definición de SLA.

HuaweiHuawei 4Paradigm (Fourth Paradigm)4Paradigm (Fourth Paradigm) DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen Cosmos (NVIDIA)Cosmos (NVIDIA) Google/DeepMindGoogle/DeepMind MetaMeta AnthropicAnthropic
InfoQ 中国29.07 · 06:01

Mineng Technology consigue financiación de decenas de millones para su chip neuromórfico SNN de desarrollo propio

La empresa emergente china Mineng Technology, especializada en chips neuromórficos fisiológicos, ha completado una ronda de financiación de capital por decenas de millones de RMB liderada por Blue Bay Capital y Wuxi Venture Capital. Los fondos se utilizarán para la producción en masa de módulos estándar de grado médico, el desarrollo de un sistema de regulación fisiológica de bucle cerrado de cadena completa y la expansión del ecosistema. La empresa ha desarrollado un núcleo neuromórfico de red neuronal de picos (SNN) impulsado por eventos que imita el procesamiento asíncrono del cerebro humano, con el objetivo de resolver los problemas de consumo de energía y latencia en dispositivos médicos portátiles.

36Kr29.07 · 05:02
Noticias frescas