大模型重回参数竞赛：2万亿成标配，3万亿是下一站？

报道称，中国大模型行业再次聚焦于参数规模的扩大，2万亿参数已成为顶尖模型的新基准。业内消息人士指出，下一个目标是3万亿参数，这反映出业界重新将模型规模视为关键竞争差异点。这一转变发生在之前一段时间内优先考虑效率和较小模型之后，但现在，规模竞赛再度兴起，其背后的假设是更大模型能带来更优的能力。然而，这一方向也带来了重大挑战，包括对计算资源的巨大需求、高昂的训练成本以及更为先进的优化技术的需求。这一趋势在中国各大AI公司中均有体现，它们正大力投资以在全球AI竞赛中保持步伐。专家警告说，单纯增加参数并不一定带来更好的性能，应更多关注数据质量和算法创新。