Grandes Modelos Retornam à Corrida de Parâmetros: 2 Trilhões se Torna o Padrão, 3 Trilhões é o Próximo Marco?
Os grandes modelos chineses estão reentrando em uma corrida de parâmetros, com 2 trilhões de parâmetros se tornando um padrão comum e 3 trilhões visto como o próximo marco. Essa tendência é impulsionada por pressões competitivas e pela crença de que modelos maiores levam a um desempenho melhor, embora também levante preocupações sobre custos computacionais e eficiência.
O artigo relata que a indústria chinesa de grandes modelos está novamente focada em aumentar a escala de parâmetros, com 2 trilhões de parâmetros se tornando a nova referência para os modelos de ponta. Insiders do setor sugerem que o próximo alvo é 3 trilhões de parâmetros, refletindo uma ênfase renovada no tamanho puro do modelo como um diferencial competitivo chave. Essa mudança ocorre depois de um período em que eficiência e modelos menores eram priorizados, mas agora a corrida por escala está de volta, impulsionada pela suposição de que modelos maiores geram capacidades superiores. No entanto, essa direção também traz desafios significativos, incluindo requisitos imensos de recursos computacionais, altos custos de treinamento e a necessidade de técnicas de otimização mais avançadas. A tendência é observada em todas as principais empresas chinesas de inteligência artificial, que estão investindo pesadamente para acompanhar o ritmo na corrida global de IA. Especialistas alertam que simplesmente aumentar os parâmetros pode não garantir melhor desempenho, e mais atenção deve ser dada à qualidade dos dados e à inovação em algoritmos.
Fonte: Moonshot Kimi (GNews) —
original