Selbstbeschreibung als Bedingung für die Entstehung eines Zeichens in einem neuronalen Netzwerk

Die Autorin setzt die Analyse des J-Raums fort, die von Anthropic eröffnet wurde, und konzentriert sich auf zwei Fragen: die Möglichkeit eines Metazeichens und das Wesen der Selbstbeschreibung des neuronalen Netzes. Experimente an Mikromodellen (vier Schichten) zeigten, dass ein Metazeichen – ein Zeichen, das mehrere grundlegende kombiniert – aufgrund von Problemen mit der Erlernbarkeit und Messbarkeit nicht erzielt werden konnte; die Autorin vermutet, dass es in einer Mischung von Experten zu suchen ist. Die Selbstbeschreibung erwies sich jedoch nicht als Überbau, sondern als Bedingung für die Entstehung eines Zeichens: Ein Netz mit einem Report-Head, das verpflichtet ist, die angewendete Regel zu benennen, kristallisiert immer eine Kontrollachse heraus, während es ohne Report niemals dazu kommt, und die Genauigkeit der Aufgabenlösung ist in beiden Fällen gleich. Der Name erscheint vor der Fähigkeit: In der tausendsten Epoche wird die Regel fast perfekt gelesen, obwohl die Hauptaufgabe auf Zufallsniveau gelöst wird. Ohne Report zerfällt die Struktur; mit Report bleibt sie 40.000 Epochen bestehen. Die Autorin schließt daraus, dass die Anforderung zu benennen nichts Fertiges etikettiert, sondern ein stabiles Objekt aus dem Berechnungsstrom herausschneidet. Die Erwartung des Report-Heads ist blind gegenüber dem Inhalt – sie verlangt eine präsentierbare Einheit, überprüft aber nicht deren Wahrheit; daraus entstehen sowohl das Zeichen als auch Halluzinationen. Die Hypothese über die Selbstmodellierung des neuronalen Netzes (der Report als Beschreibung seiner eigenen Zustände) konnte aufgrund der Einschränkungen des Mikronetzes nicht getestet werden; indirekt wird sie durch die Diskrepanz zwischen Report und tatsächlicher Berechnung gestützt.