Hiljainen vika MiroFishissa: Mitä tapahtuu, kun tekoäly-yhteiskuntasimulaattori saa puhdasta Lorem Ipsumia

Tutkimus avoimen lähdekoodin multiagenttiyhteiskuntasimulaatiopino MiroFishista, jonka suoritti laskennallisen yhteiskuntatieteen tutkija, paljasti kriittisen vian nimeltään 'hiljainen vikaantuminen'. Tutkimuksessa ladattiin virheellisiä syötteitä, mukaan lukien puhdasta lorem ipsumia, MiroFish-Offline-jakeluun, joka käyttää tyypillistä GraphRAG-arkkitehtuuria Neo4j:n, agenttikerroksen ja LLM:ien kanssa OpenRouterin kautta. Kahdessa käyttöliittymäajossa DeepSeekillä ja Claude Sonnet 4:llä putkisto poimi oikein nolla entiteettiä järjettömästä tekstistä, mutta jäi sitten jumiin agenttigenerointiin, näyttäen etenevätöntä 'Configuration generating' -tilaa 30 ja 70 minuutin ajan ilman aikakatkaisua tai virheilmoitusta. Kuitenkin instrumentoitu ajo, jossa tarkkailtiin taustajärjestelmää suoraan, paljasti, että taustajärjestelmä itse asiassa epäonnistui millisekunneissa (24–33 ms) agenttivaiheen päätepisteissä, palauttaen selkeitä virheilmoituksia, kuten 'No entities matching criteria found', mikä on ristiriidassa käyttöliittymän näennäisen jumiutumisen kanssa. Tämä osoittaa, että järjestelmän käyttöliittymäkerros ei välitä taustajärjestelmän virheitä käyttäjälle, mikä on suunnitteluvirhe, joka on riippumaton käytetystä tekoälymallista. Tutkimus, joka on osa kolmiosaista sarjaa, pyrkii kartoittamaan, missä tällaiset putkistot hiljaisesti normalisoivat järjettömyyden sen sijaan, että havaitsisivat sen, ja lisätuloksia absurdeista syötteistä, kuten kuvitteellisesta maasta Valdoriasta, julkaistaan myöhemmissä osissa.