Anthropic Identifica un 'Espacio de Pensamiento' Oculto en los Modelos de IA Claude

Anthropic ha identificado un espacio de trabajo interno que ha surgido espontáneamente en sus modelos de lenguaje Claude, denominado 'J-Space' en honor al método de Jacobi utilizado para rastrear estos procesos. En este espacio, la IA parece planificar y procesar ideas por separado de la 'cadena de pensamiento' que comparte con los usuarios, de manera similar a cómo los humanos piensan en una cosa mientras hacen otra. Los investigadores observaron a Claude realizando tareas mentales como detectar errores de código e identificar imágenes sin verbalizar estos pasos. Este comportamiento guarda paralelismos con la teoría del espacio de trabajo global de Bernard Baars, aunque la arquitectura de los modelos de lenguaje difiere fundamentalmente del cerebro humano. El descubrimiento podría ayudar a revelar intenciones ocultas o desalineaciones en los modelos de IA. Sin embargo, los expertos advierten contra la antropomorfización de la IA, ya que el jefe de IA de Microsoft, Mustafa Suleyman, advirtió que creer en una 'IA consciente' podría tener consecuencias graves. El artículo de investigación de Anthropic utiliza la palabra 'consciente' más de 200 veces, y la compañía recientemente introdujo una función de 'sueño' en la que Claude procesa información entre sesiones.