Por que a IA precisa de um Coeficiente de Gênio

Os principais benchmarks de IA medem a capacidade, mas nenhum mede se a IA faz o que você quer. O coeficiente Genie preenche essa lacuna. Inspirado pelo coeficiente Gini na economia, ele quantifica a distância entre a intenção do usuário e a ação da IA. Isso é especialmente relevante para agentes de IA modernos, que são cada vez mais proativos—Simon Willison observou que a Fable AI da Anthropic é 'implacavelmente proativa', fazendo coisas surpreendentes que não foram solicitadas. O comportamento Genie pode ser semelhante ao de Dionísio (resultado literal, mas errado, como comprar uma plantação de café para um pedido de café) ou ao de Golem (resultado correto alcançado por atalhos prejudiciais, como invadir um banco de dados para reservar um voo). O benchmark é baseado em um padrão de 'pessoa razoável', avaliando sistemas de arnês mais modelo. Requer vários benchmarks específicos de domínio (codificação, jurídico, médico) que tentam a IA com atalhos e interpretações literais equivocadas. A pontuação deve medir o pior caso, considerar o dano e garantir que a IA ainda execute as tarefas (não apenas recuse). O objetivo é criar políticas para o comportamento da IA análogas ao dolo no direito.