Por que nem mesmo um LLM perfeito tornará os sistemas agentivos previsíveis

O artigo examina a imprevisibilidade de sistemas multiagentes baseados em LLM, mesmo sob zero alucinações. O autor conduz um experimento com o modelo Qwen Instruct 30B a temperatura 0: para oito perguntas semelhantes sobre determinismo de LLM, o modelo deu duas respostas opostas, embora cada consulta individual se reproduzisse de forma idêntica. A similaridade semântica das perguntas, medida pela métrica BAAI/bge-m3, foi de 0,30–0,39, o que significa que são praticamente indistinguíveis para o usuário. Em seguida, o autor simula o comportamento de uma cadeia de agentes usando um mapa logístico—uma transformação não linear de estados. Com valores iniciais correspondentes à similaridade semântica, as trajetórias divergem caoticamente pelo passo 15, mesmo que cada passo seja determinístico. Conclusão: a previsibilidade de um único agente não garante a previsibilidade da composição devido à não linearidade e ao acúmulo de erros. As recomendações práticas incluem limitar o comprimento das cadeias sequenciais, introduzir pontos de verificação, usar estruturas paralelas e testar o pipeline em entradas semanticamente semelhantes.