Descoberta do Espaço de Trabalho Global em Modelos de Linguagem: O Caso de Claude

Em um artigo, a Anthropic apresenta evidências de que modelos de linguagem modernos, em particular o Claude, desenvolveram um pequeno conjunto de padrões neurais internos, denominado espaço-J. Esses padrões foram descobertos usando o método da lente jacobiana (lente-J), que identifica atividade interna que aumenta a probabilidade de uma palavra específica ser dita no futuro. O espaço-J possui propriedades únicas: o Claude pode relatar as representações contidas nele, modulá-las sob demanda, usá-las para raciocínios internos de múltiplas etapas e aplicar flexivelmente a mesma representação a diferentes tarefas. No entanto, o espaço-J não participa da maioria dos processos automáticos, como fala fluente ou gramática, e sua desativação não prejudica o funcionamento básico do modelo, mas o priva de funções cognitivas de ordem superior. Experimentos mostraram que o espaço-J possui fortes conexões com o restante da rede neural, permitindo que atue como um "espaço de trabalho global", análogo à teoria do acesso consciente em neurociência. Os pesquisadores ressaltam que essas descobertas não indicam consciência no Claude, mas fornecem uma ferramenta prática para observar seus pensamentos internos, como para detectar tentativas de engano ou objetivos ocultos. O artigo é acompanhado por uma publicação científica, código aberto e uma demonstração interativa.