Un mathématicien réfute la percée d'OpenAI en 24 heures : « L'IA a prouvé chaque phrase, mais il ne s'agit plus de la conjecture originale »

OpenAI a affirmé que son modèle d'IA de nouvelle génération avait résolu dix problèmes mathématiques de classe mondiale, notamment en réfutant la conjecture de rigidité de Connes. Le lendemain, une mathématicienne a répondu par un article arguant que le contre-exemple de l'IA était invalide. L'auteure, J. L. Nielsen du Centre de physique topologique de l'Université du Kansas, a retracé les 37 000 lignes de code Lean 4 d'OpenAI du début à la fin, en mappant chaque objet à son prototype mathématique, et a identifié deux chemins d'échec indépendants. La conjecture de rigidité de Connes stipule que si deux groupes ont la même structure algébrique associée et satisfont deux conditions supplémentaires (ICC et la propriété (T) de Kazhdan), alors les groupes doivent être isomorphes. Le modèle d'OpenAI a construit deux groupes non isomorphes générant la même algèbre, avec des preuves que les deux groupes satisfont ICC et la propriété (T). Nielsen a souligné que l'un des groupes construits par l'IA ne satisfaisait pas réellement les conditions supplémentaires, n'étant ni ICC ni ayant la propriété (T). Elle a énuméré trois raisons possibles : la représentation de la propriété (T) dans le code ne correspondait pas fidèlement à la définition originale de Kazhdan ; la preuve ne tenait que pour une partie du groupe mais était appliquée à l'ensemble ; ou le groupe dans le code n'est pas celui décrit dans le document explicatif. Nielsen a également effectué une vérification ligne par ligne du code, répertoriant le nom de chaque objet mathématique et son numéro de ligne dans un tableau de correspondance. Elle a découvert que les lemmes utilisés pour prouver ICC s'appliquaient à des objets après une transformation duale, et non au groupe original avec ses éléments centraux, donc ils ne couvraient pas directement les éléments critiques. Elle a écrit ses deux réfutations en code Lean et les a compilées sous Lean 4.32.2. La dernière section de l'article aborde le contexte plus large : le noyau Lean garantit l'exactitude formelle, mais pas si l'énoncé prouve réellement la conclusion visée. Citant Terence Tao, vérifier une preuve vérifie l'énoncé formel lui-même, pas sa conformité à l'intention, de sorte que l'examen humain ne peut pas être remplacé. Des audits antérieurs de cinq références Lean courantes ont trouvé 4 833 problèmes, notamment des contre-exemples, des théorèmes vides et des axiomes non fiables, tous vérifiés par machine, avec des humains construisant ensuite des contre-exemples pour montrer que les énoncés prouvés étaient faux. Nielsen a écrit que la formalisation d'OpenAI a peut-être correctement établi toutes les conclusions qu'elle revendique, mais ce qu'elle n'a pas établi—et ce que le noyau Lean ne peut pas vérifier—est de savoir si ces conclusions se rapportent au libellé de la conjecture originale. La conjecture de rigidité de Connes reste ouverte.