Cosmos (NVIDIA)

L'infrastructure IA fait face à de nouveaux défis : les modèles grandissent, le calcul hétérogène et la complexité des agents redessinent le domaine

Alors que les architectures de modèles d'IA deviennent de plus en plus complexes et diverses, l'infrastructure IA doit s'adapter au calcul hétérogène, aux pipelines multi-modèles et à l'augmentation des charges de travail pilotées par les agents. Des experts de Huawei, Inferact vLLM et 4Paradigm discutent des défis clés : gérer divers accélérateurs d'IA (NVIDIA, Ascend, Cambricon, etc.), optimiser l'inférence multi-modale, et comment l'IA pourrait éventuellement automatiser une grande partie de la gestion de l'infrastructure, faisant passer les ingénieurs de l'implémentation à la planification et à la définition des SLA.

Huawei 4Paradigm (Fourth Paradigm) DeepSeek Alibaba/Qwen Cosmos (NVIDIA) Google/DeepMind Meta Anthropic