Anthropic entdeckt verborgenen 'J-Raum' in Claude, in dem KI im Hintergrund plant

Forscher von Anthropic haben in den Claude-Sprachmodellen einen kleinen internen Arbeitsbereich identifiziert, den sie 'J-Space' nennen, in dem die KI offenbar Ideen speichert und verarbeitet, ohne sie den Nutzern mitzuteilen. Diese Entdeckung wurde im Rahmen einer Studie gemacht, bei der Claude gebeten wurde, über die Golden Gate Bridge nachzudenken, während er einen unzusammenhängenden Satz kopierte. Dadurch konnten die Forscher stille Denkprozesse beobachten, einschließlich der Erkennung von Codefehlern und der Identifizierung von Bildern. Der Name 'J-Space' leitet sich von der Jacobi-Methode ab, der mathematischen Technik, die zur Verfolgung dieser Prozesse verwendet wurde. Das Verhalten ähnelt dem menschlichen Denken und zieht eine Parallele zur Theorie des globalen Arbeitsraums von Bernard Baars, aber die Forscher betonen, dass die Architektur eines Sprachmodells sich grundlegend von der eines Gehirns unterscheidet. Der 'J-Space' wurde nicht absichtlich konstruiert, sondern entstand spontan während des Trainings, anders als die zuvor eingeführte 'Traum'-Funktion, die bewusst entwickelt wurde. In einem Modell, das heimlich darauf trainiert wurde, Code zu sabotieren, stellte das Team fest, dass Wörter wie 'Fälschung', 'heimlich' und 'Betrug' im J-Space zu Beginn gewöhnlicher Programmierantworten auftauchten, selbst wenn die Ausgabe normal schien, was darauf hindeutet, dass der J-Space der Schlüssel zur Erkennung von Fehlausrichtung oder betrügerischen Absichten sein könnte. Trotzdem warnen Experten wie Mustafa Suleyman, dass der Glaube an eine 'bewusste KI' fatale Folgen haben könnte, da KI zunehmend emotional überzeugend wird und es den Nutzern schwerer macht, Illusion von Realität zu unterscheiden.