6 Lições para Criar Benchmarks do Tutorial NeurIPS

No tutorial do NeurIPS "A Arte de Benchmarking", com a participação dos autores do SWE-bench, GPQA e pesquisadores do Google DeepMind, NYU e Berkeley, foram discutidos problemas e armadilhas essenciais na criação de benchmarks. Isso inclui a tirania das métricas, onde métricas têm pontos ideais que permitem que os modelos "hackeiem" o teste, com a correlação de Pearson falhando ao detectar esses pontos. Também foi observado que usar LLMs como fontes de avaliação é perigoso: eles se correlacionam com humanos apenas no conjunto de calibração, e o viés próprio leva a resultados inflados. A única abordagem correta é gerar exemplos nos quais o modelo falha. Entre os seis principais erros cometidos pelos criadores de benchmarks: lançar um benchmark com 70-80% de precisão no melhor modelo (deve-se buscar 0-1%), falta de verificação da verdadeira multimodalidade da tarefa, confiança na própria teoria de inteligência, falha em filtrar spam de multidões (até 25% de respostas aleatórias), concentração de trabalho em um único trabalhador da multidão e publicar resultados sem valores-p e intervalos de confiança. No futuro, precisamos de benchmarks dinâmicos, estudos longitudinais do impacto dos LLMs em humanos, calibração do conhecimento do modelo e tarefas que um gato pode resolver, mas o GPT não.