Modèles d'IA de raisonnement : leur fonctionnement et leur importance

À l'automne 2024, OpenAI a présenté le modèle o1, qui a fait sensation : à l'examen de mathématiques AIME, il a obtenu 74 % en mode de tentative unique, et jusqu'à 93 % en mode consensus, tandis que GPT-4o n'a réussi que 12 % des problèmes. Sur le benchmark GPQA Diamond, o1 a atteint 78 %, dépassant la moyenne des experts. Ces résultats montrent les capacités des grands modèles de raisonnement (LRM), qui imitent la pensée lente de « Système 2 » décrite par Kahneman. Parmi les autres modèles classés comme LRM, on trouve ceux d'Anthropic (Claude Fable 5, Mythos 5, Opus 4.8), le Gemini 3.1 Pro de Google, DeepSeek R1 et GLM-5.2. Contrairement aux grands modèles de langage autorégressifs classiques (LLM), qui fonctionnent comme le « Système 1 » rapide, les modèles de raisonnement utilisent des chaînes de pensée, du calcul supplémentaire au moment de l'inférence (calcul au moment du test) et un apprentissage par renforcement. Ils génèrent des jetons de raisonnement invisibles pour l'utilisateur, ce qui allonge la durée de traitement des requêtes à une minute ou plus. La recherche a montré que la stratégie « réfléchir plus longtemps » est plus efficace que la simple augmentation de la taille du modèle : un modèle peut être aussi performant qu'un LLM 14 fois plus grand s'il dispose d'assez de temps pour réfléchir. Le DeepSeek-R1 chinois a intégré le raisonnement directement dans le modèle lui-même, en se passant d'un « critique » externe.