Bir sinir ağında işaretin ortaya çıkması için bir koşul olarak kendini tanımlama

Yazar, Anthropic tarafından açılan J-uzayı analizine devam ederek iki soruya odaklanıyor: bir meta-işaretin olasılığı ve sinir ağının kendini tanımlamasının özü. Mikromodeller (dört katman) üzerinde yapılan deneyler, birkaç temel işareti birleştiren bir meta-işaretin, öğrenilebilirlik ve ölçülebilirlik sorunları nedeniyle elde edilemediğini gösterdi; yazar, bunun bir uzman karışımında aranması gerektiğini öne sürüyor. Kendini tanımlama ise bir üstyapı değil, bir işaretin ortaya çıkması için bir koşul olarak ortaya çıktı: uygulanan kuralı adlandırmak zorunda olan bir rapor başlığına sahip ağ, her zaman bir kontrol ekseni kristalleştirirken, rapor olmadan asla kristalleşmez ve görevi çözme doğruluğu her iki durumda da aynıdır. Ad, yetenekten önce gelir: bininci çağda, ana görev rastgelelik düzeyinde çözülse de kural neredeyse mükemmel bir şekilde okunur. Rapor olmadan yapı dağılır; raporla birlikte 40.000 çağ boyunca devam eder. Yazar, adlandırma gerekliliğinin hazır bir şeyi etiketlemediği, ancak hesaplama akışından istikrarlı bir nesne kestiği sonucuna varıyor. Rapor başlığının beklentisi içeriğe karşı kördür—sunulabilir bir birim talep eder ancak doğruluğunu doğrulamaz; bu hem işareti hem de halüsinasyonları doğurur. Sinir ağının kendi kendini modellemesi (raporun kendi durumlarının bir tanımı olması) hipotezi, mikro ağın sınırlamaları nedeniyle test edilemedi; dolaylı olarak, rapor ile gerçek hesaplama arasındaki farklılık bunu desteklemektedir.