Astra d'OpenAI résout 10 problèmes mathématiques majeurs, mais suscite de vives inquiétudes

OpenAI a annoncé qu'une version interne de son modèle de nouvelle génération, Astra, a résolu ou fait progresser de manière décisive dix problèmes ouverts en mathématiques et en informatique théorique, pour environ 2 000 dollars par problème. Bien que saluée comme une percée, les mathématiciens avertissent que le flot de preuves générées par l'IA submerge la capacité du domaine à les vérifier et à les comprendre, risquant un avenir où les problèmes sont « résolus » sans compréhension humaine.

Le 1er août, OpenAI a publié un billet de blog affirmant qu'une version interne d'Astra, son modèle linguistique de nouvelle génération, a résolu ou fait progresser de manière décisive dix problèmes ouverts en mathématiques et en informatique théorique. Les problèmes couvrent des sujets avancés comme la géométrie en haute dimension, la théorie des codes, la complexité des circuits arithmétiques, la théorie des groupes, les algèbres d'opérateurs, la complexité quantique, la cryptographie basée sur les réseaux et la combinatoire extrémale. OpenAI a déclaré que l'ensemble de l'exploit a coûté environ 2 000 dollars en jetons par problème, avec des résultats certifiés à l'aide de l'assistant de preuve formelle Lean. L'annonce a suscité à la fois excitation et inquiétude au sein de la communauté mathématique. Le chercheur Jay Cummins a noté que pour la première fois, une IA a résolu un problème sur lequel il avait personnellement travaillé pendant des années, rendant la défaite difficile à accepter. L'investisseur Nicolas Bustamante a remis en question l'avenir de la médaille Fields, demandant qui reçoit le crédit lorsque les problèmes sont à un prompt de distance. Notamment, le médaillé Fields Jacob Tsimerman a mis en pause son poste à l'Université de Toronto pour rejoindre OpenAI fin juillet, se concentrant non pas sur les capacités mathématiques mais sur la sécurité de l'IA. Terence Tao, un autre médaillé Fields, a mis en garde contre un changement dangereux : avec la génération automatisée de preuves par l'IA, les mathématiques passent de la rareté à l'abondance, mais les chercheurs ne peuvent pas suivre le rythme de la vérification et de la « digestion » des preuves. Il a comparé les preuves brutes de l'IA à des « carcasses d'animaux mystérieux » déposées lors d'un repas partagé communautaire, où personne n'a le temps de les nettoyer et de les cuisiner. Tsimerman a également déploré l'essor du « slop mathématique » venant d'utilisateurs sans expertise qui soumettent des sorties brutes de ChatGPT aux laboratoires. Tous deux ont averti que des solutions formelles à des conjectures célèbres pourraient tuer le financement et l'intérêt pour ces sujets, même si aucun humain ne comprend les solutions, conduisant à une discipline qui progresse sans compréhension.

Source: Numerama — original