OpenAI's Astra lost tien grote wiskundeproblemen op, maar roept diepe zorgen op

OpenAI heeft aangekondigd dat een interne versie van zijn volgende generatie model, Astra, tien open problemen in de wiskunde en theoretische informatica heeft opgelost of beslissend vooruitgeholpen, voor ongeveer 2000 dollar per probleem. Hoewel dit wordt gevierd als een doorbraak, waarschuwen wiskundigen dat de stroom van door AI gegenereerde bewijzen het vakgebied overspoelt en de mogelijkheid om ze te verifiëren en te begrijpen overstijgt, met het risico van een toekomst waarin problemen worden 'opgelost' zonder menselijk begrip.

Op 1 augustus publiceerde OpenAI een blogpost waarin werd beweerd dat een interne versie van Astra, hun volgende generatie taalmodel, tien open problemen in de wiskunde en theoretische informatica heeft opgelost of beslissend vooruit heeft geholpen. De problemen bestrijken geavanceerde onderwerpen zoals hoogdimensionale meetkunde, coderingstheorie, rekenkundige circuitcomplexiteit, groepentheorie, operatoralgebra's, quantumcomplexiteit, op roosters gebaseerde cryptografie en extremale combinatoriek. OpenAI meldde dat de hele prestatie ongeveer 2000 dollar aan tokens per probleem kostte, met resultaten gecertificeerd met behulp van de formele bewijsassistent Lean. De aankondiging veroorzaakte zowel opwinding als bezorgdheid binnen de wiskundegemeenschap. Onderzoeker Jay Cummins merkte op dat voor het eerst een AI een probleem oploste waar hij persoonlijk jaren aan had gewerkt, waardoor de nederlaag moeilijk te accepteren was. Investeerder Nicolas Bustamante vroeg zich af wat de toekomst van de Fields Medal is, en wie de eer krijgt wanneer problemen op slechts een prompt afstand liggen. Opvallend is dat Fieldsmedaillewinnaar Jacob Tsimerman eind juli zijn leerstoel aan de Universiteit van Toronto pauzeerde om zich bij OpenAI aan te sluiten, waarbij hij zich niet richtte op wiskundige mogelijkheden, maar op AI-veiligheid. Terence Tao, een andere Fieldsmedaillewinnaar, waarschuwde voor een gevaarlijke verschuiving: met geautomatiseerde bewijsgeneratie door AI verschuift de wiskunde van schaarste naar overvloed, maar onderzoekers kunnen de verificatie en 'vertering' van bewijzen niet bijbenen. Hij vergeleek ruwe AI-bewijzen met 'mysterieuze dierkadavers' die worden gedumpt bij een buurtpotluck, waar niemand tijd heeft om ze schoon te maken en te bereiden. Tsimerman betreurde ook de opkomst van 'wiskundige rommel' van gebruikers zonder expertise die rauwe ChatGPT-output naar laboratoria sturen. Beiden waarschuwden dat formele oplossingen voor beroemde vermoedens de financiering en interesse in die onderwerpen zouden kunnen doen verdwijnen, ook al begrijpt geen mens de oplossingen, wat leidt tot een discipline die vooruitgang boekt zonder begrip.

Bron: Numerama — origineel