Autodescrição como condição para o surgimento de um signo em uma rede neural

O autor continua a análise do J-space, inaugurado pela Anthropic, focando em duas questões: a possibilidade de um metassinal e a essência da autodescrição da rede neural. Experimentos em micromodelos (quatro camadas) mostraram que não foi possível obter um metassinal — um sinal que combina vários básicos — devido a problemas de aprendibilidade e mensurabilidade; o autor sugere que ele deve ser buscado em uma mistura de especialistas. Já a autodescrição revelou-se não uma superestrutura, mas uma condição para o surgimento do sinal: uma rede com uma cabeça de relatório, obrigada a nomear a regra que está sendo aplicada, sempre cristaliza um eixo de controle, enquanto que sem relatório isso nunca ocorre, e a precisão na resolução da tarefa é a mesma em ambos os casos. O nome aparece antes da habilidade: no milésimo epoch, a regra é lida quase perfeitamente, embora a tarefa principal seja resolvida ao nível do acaso. Sem relatório, a estrutura se desintegra; com relatório, ela persiste por 40.000 epochs. O autor conclui que a exigência de nomear não rotula algo já pronto, mas extrai um objeto estável do fluxo computacional. A expectativa da cabeça de relatório é cega ao conteúdo — ela exige uma unidade apresentável, mas não verifica sua veracidade; isso dá origem tanto ao sinal quanto às alucinações. A hipótese sobre a automodelagem da rede neural (o relatório como descrição de seus próprios estados) não pôde ser testada devido às limitações da microrrede; indiretamente, a divergência entre o relatório e a computação real a apoia.