Tout ne nécessite pas un LLM : boosting, embeddings et règles gagnent en production

Lors de la conférence UWDC 2026 à Iekaterinbourg, une discussion a eu lieu sur le choix entre les grands modèles de langage (LLM), l'apprentissage automatique classique (ML) et le développement traditionnel. Les participants — Kamil Shakirov (ingénieur IA chez DAR), Nikita Ovchinnikov (ingénieur ML chez RUTUBE) et Yan Anisimov (chef technique DS/DS+ chez Yandex Practicum) — ont convenu que les entreprises n'ont souvent pas besoin d'un modèle universel, mais plutôt d'un système qui résout efficacement un problème spécifique. Le ML classique l'emporte grâce à sa prévisibilité, son déterminisme et sa facilité de validation : les modèles peuvent être testés avec des métriques compréhensibles pour l'entreprise. En revanche, les LLM fournissent des réponses impressionnantes mais hallucinent, nécessitent une surveillance constante et des mises à jour tous les trois mois, et leur inférence est coûteuse. En pratique, les architectures hybrides avec des règles et des heuristiques au niveau inférieur, du ML au niveau intermédiaire et des LLM au niveau supérieur réduisent les coûts et améliorent la qualité. La validation des résultats des LLM reste un défi majeur, nécessitant une annotation manuelle et des outils supplémentaires. Les experts ont noté qu'il est incorrect d'opposer le ML aux LLM — chaque approche convient à ses propres tâches.