28万亿tokens不是极限：中国AI模型Kimi K4目标更高，GPU成瓶颈

Moonshot AI，Kimi系列大型语言模型的开发者，宣布了其下一代模型Kimi K4。公司创始人兼首席执行官表示，Kimi K4的规模将超过Kimi K3，后者在28.8万亿个token（令牌）上进行了训练。他强调，模型大小的主要限制并非技术抱负，而是图形处理器（GPU）的可用性，指出硬件限制是关键瓶颈。