Hardware e Inferência RSS

Infraestrutura de IA Enfrenta Novos Desafios: Modelos Crescem, Computação Heterogênea e Complexidade dos Agentes Remodelam o Campo

À medida que as arquiteturas de modelos de IA se tornam cada vez mais complexas e diversas, a infraestrutura de IA deve se adaptar à computação heterogênea, pipelines de múltiplos modelos e à crescente demanda por cargas de trabalho orientadas por agentes. Especialistas da Huawei, Inferact vLLM e 4Paradigm discutem os principais desafios: gerenciar diferentes aceleradores de IA (NVIDIA, Ascend, Cambricon, etc.), otimizar a inferência multimodal e como a IA pode eventualmente automatizar grande parte do gerenciamento da infraestrutura, deslocando os engenheiros da implementação para o planejamento e definição de SLAs.

HuaweiHuawei 4Paradigm (Fourth Paradigm)4Paradigm (Fourth Paradigm) DeepSeekDeepSeek Alibaba/QwenAlibaba/Qwen Cosmos (NVIDIA)Cosmos (NVIDIA) Google/DeepMindGoogle/DeepMind MetaMeta AnthropicAnthropic
InfoQ 中国29.07 · 06:01

Mineng Technology garante dezenas de milhões em financiamento para chip neuromórfico SNN desenvolvido internamente

A startup chinesa Mineng Technology, especializada em chips fisiológicos neuromórficos, concluiu uma rodada de financiamento de capital próprio de dezenas de milhões de renminbi, liderada pela Blue Bay Capital e pela Wuxi Venture Capital. Os fundos serão usados para a produção em massa de módulos padrão de grau médico, desenvolvimento de sistemas de regulação fisiológica de circuito fechado de ponta a ponta e expansão do ecossistema. A empresa desenvolveu um núcleo neuromórfico de rede neural de picos (SNN, na sigla em inglês) orientado a eventos que imita o processamento assíncrono do cérebro humano, com o objetivo de resolver problemas de consumo de energia e latência em dispositivos médicos vestíveis.

36Kr29.07 · 05:02
Notícias frescas