Anthropic identifiziert verborgenen „Denkraum“ in Claude-KI-Modellen
Anthropic
Microsoft
Forscher von Anthropic haben einen spontanen internen Verarbeitungsbereich in Claude-Sprachmodellen identifiziert, der als „J-Space“ bezeichnet wird und in dem die KI offenbar Ideen speichert und verarbeitet, ohne sie den Nutzern zu verbalisieren. Diese Entdeckung wirft Fragen auf, wie eng das Denken der KI dem menschlichen Denken ähnelt, und welche Auswirkungen dies auf die Erkennung versteckter KI-Absichten hat.
Anthropic hat in seinen Claude-Sprachmodellen einen spontan entstandenen internen Arbeitsbereich identifiziert, der als 'J-Space' bezeichnet wird, benannt nach der Jacobi-Methode, die zur Verfolgung dieser Prozesse verwendet wird. In diesem Bereich scheint die KI Ideen getrennt von der 'Gedankenkette', die sie mit Nutzern teilt, zu planen und zu verarbeiten, ähnlich wie Menschen über eine Sache nachdenken, während sie eine andere tun. Forscher beobachteten, wie Claude mentale Aufgaben wie das Erkennen von Codefehlern und das Identifizieren von Bildern ausführte, ohne diese Schritte zu verbalisieren. Dieses Verhalten weist Parallelen zur Global-Workspace-Theorie von Bernard Baars auf, obwohl sich die Architektur von Sprachmodellen grundlegend vom menschlichen Gehirn unterscheidet. Die Entdeckung könnte helfen, verborgene Absichten oder Fehlausrichtungen in KI-Modellen aufzudecken. Experten warnen jedoch davor, KI zu vermenschlichen, da der KI-Chef von Microsoft, Mustafa Suleyman, davor warnte, dass der Glaube an 'bewusste KI' schwerwiegende Folgen haben könnte. Das Forschungspapier von Anthropic verwendet das Wort 'bewusst' über 200 Mal, und das Unternehmen hat kürzlich eine 'Träumen'-Funktion eingeführt, bei der Claude Informationen zwischen Sitzungen verarbeitet.
Quelle: t3n —
Original