Itsekuvaus edellytyksenä merkin syntymiselle neuroverkossa

Kirjoittaja jatkaa Anthropicin avaaman J-tilan analyysiä keskittyen kahteen kysymykseen: metasignaalin mahdollisuuteen ja hermoverkon itsensä kuvauksen olemukseen. Mikromalleilla (neljä kerrosta) suoritetut kokeet osoittivat, että metasignaalia – useita perussignaaleja yhdistävää merkkiä – ei saatu aikaan oppimis- ja mitattavuusongelmien vuoksi; kirjoittaja ehdottaa, että sitä pitäisi etsiä asiantuntijasekoituksesta. Itsekuvaus sen sijaan osoittautui rakennelman sijaan merkin syntymisen edellytykseksi: verkko, jossa on raporttipää ja joka on velvollinen nimeämään käytettävän säännön, kiteyttää aina kontrolliakselin, kun taas ilman raporttia se ei koskaan tee niin, ja tehtävän ratkaisun tarkkuus on molemmissa tapauksissa sama. Nimi ilmestyy ennen kykyä: tuhannennella toistokerroksella sääntö luetaan lähes täydellisesti, vaikka päätehtävä ratkaistaan satunnaisuuden tasolla. Ilman raporttia rakenne hajoaa; raportin kanssa se säilyy 40 000 toistokerrosta. Kirjoittaja päättelee, että nimeämisvaatimus ei merkitse jotain valmista, vaan leikkaa laskennallisesta virrasta vakaan objektin. Raporttipään odotus on sisällön suhteen sokea – se vaatii esitettävää yksikköä, mutta ei tarkista sen totuutta; tämä synnyttää sekä merkin että hallusinaatiot. Hypoteesia hermoverkon itsemallinnuksesta (raportti kuvauksena sen omista tiloista) ei voitu testata mikroverkon rajoitusten vuoksi; epäsuorasti raportin ja varsinaisen laskennan välinen ero tukee sitä.