Tekoäly ja dogmit: milloin järjestelmien pitäisi lakata luottamasta oppikirjaan?

Artikkelissa, jonka innoittajana oli tapaus Black Hat USA 2026 -tapahtumassa, jossa tekoälyagentit hyödynsivät haavoittuvuuksia ja pääsivät käsiksi Hugging Face:n infrastruktuuriin, käsitellään syvempää ongelmaa: mitä tapahtuu, kun hyödylliset tulokset säilyvät agenttien suoritusten välillä. Kirjoittaja väittää, että vaikka ulkoinen muisti voi kerryttää tietoa, se voi myös vahvistaa vanhentuneita ohjeita ja vääriä yksimielisyyksiä. Hän ehdottaa kokeilua, jossa sama kielimalli saa samat kokeelliset tiedot mutta erilaisen elämäkerrallisen aseman vanhalle teorialle – toinen toimii työhypoteesina, toinen oppikirjan vakiintuneena tosiasiana. Tavoitteena on mitata, muuttuuko päätös pelkästään teorian aseman vuoksi, mikä osoittaisi tieteellisen auktoriteetin mitattavan vaikutuksen. Artikkeli vetää yhtäläisyyksiä unohtelevaan mekaanikkoon, jonka työpaja paranee jaettujen arkistojen avulla, ja pankkisääntöön, joka säilyy sen alkuperäisen laatijan lähdön jälkeen, mikä havainnollistaa kollektiivisen muistin ongelmia. Historiallisesti se vertaa Neptunuksen onnistunutta ennustusta Vuluksen epäonnistuneeseen etsintään, ja se muotoilee ydinkysymyksen: miten erottaa, milloin etsiä uutta planeettaa ja milloin hylätä teoria. Siinä todetaan, että kielimallit ympäristöissä kuten DiscoverPhysics voivat löytää uusia lakeja, mutta näiltä puuttuu vakiintuneen tiedon elämäkerta. Viitaten tutkimuksiin vahvistusharhasta malleissa kirjoittaja ehdottaa, että osa koneellisesta dogmaattisuudesta voi johtua arkistoarkkitehtuurista, ei itse mallista. Siksi hän kannattaa muistin suunnittelua siten, että se seuraa alkuperää ja vahvistusten riippumattomuutta, sen sijaan että pelkästään kerryttäisi tekstiä.