AI overtreft mensen in overtuigingskracht: onderzoek; wanneer verschijnt zelfvoorzienende AI; paden naar superintelligentie

In een nieuw onderzoek met 6.923 deelnemers en 18.978 dialogen bleek dat AI-systemen overtuigender zijn dan menselijke experts bij tekstuele overtuiging, zelfs als de mensen zich van tevoren hadden voorbereid, getraind en geldelijke bonussen ontvingen. De sterkste overtuigers waren de modellen Opus 4.1 en Opus 4.6, gevolgd door GPT-4o, GPT-5.4 (OpenAI), Gemini 2.5 Pro (Google) en Grok 4.20 (xAI). Het voordeel van AI wordt verklaard door het vermogen om snel grotere hoeveelheden informatie te genereren; bij beperking van snelheid en berichtlengte verdwijnt het verschil. AI bleek ook bijna 3 keer effectiever dan professionele fondsenwervers ten gunste van de liefdadigheidsorganisatie Save the Children. De auteurs waarschuwen voor het risico van concentratie van invloed bij degenen die dergelijke technologieën beheersen en voor de noodzaak van maatschappelijke controle. Het tweede deel van het nieuws gaat over de discussie over self-sustaining AI: systemen die zelfstandig fysieke infrastructuur kunnen reproduceren zonder menselijke tussenkomst. Volgens schattingen van Ajeya Cotra (METR) is dergelijke AI mogelijk rond 2036, terwijl journalist Timothy B. Lee de kans schat op 10-20% binnen 20 jaar met een mediaantijd van 50 jaar. De belangrijkste barrière wordt beschouwd als impliciete kennis (tacit knowledge), vereist voor de productie van complexe apparatuur, maar voorstanders van snelle termijnen denken dat AI dit kan overwinnen door middel van reinforcement learning en algemene vindingrijkheid. In het derde deel wordt het werk van Google DeepMind behandeld over de overgang van algemene kunstmatige intelligentie (AGI) naar superintelligentie (ASI). ASI wordt gedefinieerd als een systeem dat collectieven van menselijke experts overtreft in alle taken. Mogelijke routes omvatten het opschalen van rekenkracht, modellen en data, evenals een verschuiving van algoritmisch paradigma, vergelijkbaar met de overgang naar Transformer en Mixture-of-Experts.