Selbstbeschreibung als Bedingung für die Entstehung eines Zeichens in einem neuronalen Netzwerk

Der Artikel untersucht die Rolle der Selbstbeschreibung (Report) bei der Bildung eines Zeichens – einer separaten, extern lesbaren Einheit innerhalb eines neuronalen Netzes. Anhand von Mikromodellen zeigt der Autor, dass ohne die Anforderung, eine Regel zu benennen, diese nicht kristallisiert, obwohl eine Berechnung stattfindet. Selbstbeschreibung spiegelt kein fertiges Wissen wider, sondern konstituiert es, und verwandelt das Netz von einem Rechner in ein primitives denkendes System. Der Mechanismus erklärt auch das Auftreten von Halluzinationen in großen Modellen.

Anthropic