Mathematiker lehnen OpenAIs Konjektur-Durchbruch binnen 24 Stunden ab: „KI hat jeden Satz bewiesen, aber es geht nicht mehr um die ursprüngliche Konjektur“

OpenAI behauptete, dass ihr KI-Modell der nächsten Generation zehn weltklasse mathematische Probleme gelöst habe, darunter die Widerlegung der Connes-Starrachheitsvermutung. Am nächsten Tag reagierte eine menschliche Mathematikerin mit einem Papier, das argumentiert, dass das Gegenbeispiel der KI ungültig ist. Die Autorin, J. L. Nielsen vom Topologie-Physik-Zentrum der Universität von Kansas, verfolgte die 37.000 Zeilen Lean-4-Code von OpenAI von Anfang bis Ende, bildete jedes Objekt auf sein mathematisches Gegenstück ab und identifizierte zwei unabhängige Fehlerpfade. Die Connes-Starrachheitsvermutung besagt, dass, wenn zwei Gruppen dieselbe assoziierte algebraische Struktur haben und zwei zusätzliche Bedingungen (ICC und Kazhdans Eigenschaft (T)) erfüllen, die Gruppen isomorph sein müssen. OpenAIs Modell konstruierte zwei nicht-isomorphe Gruppen, die dieselbe Algebra erzeugen, mit Beweisen, dass beide Gruppen ICC und Eigenschaft (T) erfüllen. Nielsen wies darauf hin, dass eine der von der KI konstruierten Gruppen tatsächlich die zusätzlichen Bedingungen nicht erfüllte, da sie weder ICC noch Eigenschaft (T) hatte. Sie nannte drei mögliche Gründe: Die Darstellung der Eigenschaft (T) im Code entsprach nicht getreu Kazhdans ursprünglicher Definition; der Beweis galt nur für einen Teil der Gruppe, wurde aber auf die gesamte Gruppe angewendet; oder die Gruppe im Code ist nicht das, was das erklärende Dokument beschreibt. Nielsen führte auch eine zeilenweise Prüfung des Codes durch und listete in einer Querverweistabelle den Namen jedes mathematischen Objekts und die Zeilennummer auf. Sie fand heraus, dass die Lemmas, die zum Beweis von ICC verwendet wurden, auf Objekte nach einer dualen Transformation angewendet wurden, nicht auf die ursprüngliche Gruppe mit ihren zentralen Elementen, sodass sie die kritischen Elemente nicht direkt abdeckten. Sie schrieb ihre beiden Widerlegungen als Lean-Code und kompilierte sie unter Lean 4.32.2. Der letzte Abschnitt des Papiers diskutiert den breiteren Kontext: Der Lean-Kernel gewährleistet formale Korrektheit, aber nicht, ob die Aussage tatsächlich die beabsichtigte Schlussfolgerung beweist. Unter Berufung auf Terence Tao: Die Verifizierung eines Beweises prüft die formale Aussage selbst, nicht ihre Übereinstimmung mit der Absicht, daher kann die menschliche Überprüfung nicht ersetzt werden. Frühere Audits von fünf gängigen Lean-Benchmarks ergaben 4.833 Probleme, darunter Gegenbeispiele, leere Theoreme und unzuverlässige Axiome, alle maschinell verifiziert, wobei Menschen später Gegenbeispiele konstruierten, um zu zeigen, dass die bewiesenen Aussagen falsch waren. Nielsen schrieb, dass OpenAIs Formalisierung möglicherweise alle Schlussfolgerungen korrekt etabliert hat, die sie behauptet, aber was sie nicht etabliert hat – und was der Lean-Kernel nicht überprüfen kann – ist, ob diese Schlussfolgerungen mit dem Wortlaut der ursprünglichen Vermutung zusammenhängen. Die Connes-Starrachheitsvermutung bleibt offen.