Cosmos (NVIDIA)

L'infrastructure IA face à de nouveaux défis : croissance des modèles, calcul hétérogène et complexité des agents redessinent le paysage

Alors que les architectures des modèles d'IA deviennent de plus en plus complexes et diversifiées, l'infrastructure IA doit s'adapter au calcul hétérogène, aux pipelines multi-modèles et à l'essor des charges de travail pilotées par les agents. Des experts de Huawei, Inferact vLLM et 4Paradigm discutent des principaux défis : gestion de divers accélérateurs IA (NVIDIA, Ascend, Cambricon, etc.), optimisation de l'inférence multi-modale, et comment l'IA pourrait un jour automatiser une grande partie de la gestion de l'infrastructure, faisant passer les ingénieurs de la mise en œuvre à la planification et à la définition des SLA.

Huawei 4Paradigm (Fourth Paradigm) DeepSeek Alibaba/Qwen Cosmos (NVIDIA) Google/DeepMind Meta Anthropic