28 Billionen Token sind nicht die Grenze: Das chinesische KI-Modell Kimi K4 strebt höher, GPUs sind der Engpass
Moonshot AI
Moonshot AI entwickelt ein neues Modell, Kimi K4, das voraussichtlich seinen Vorgänger Kimi K3 übertreffen wird, der mit 28,8 Billionen Token trainiert wurde. Der CEO des Unternehmens deutete an, dass der Umfang des Modells durch die Verfügbarkeit von GPUs begrenzt wird, was Hardware-Engpässe als Hindernis hervorhebt.
Moonshot AI, der Entwickler der Kimi-Serie großer Sprachmodelle, hat sein neuestes Modell Kimi K4 angekündigt. Der Gründer und Chief Executive Officer des Unternehmens erklärte, dass der Umfang von Kimi K4 den von Kimi K3 übertreffen werde, das mit 28,8 Billionen Tokens trainiert wurde. Er betonte, dass die Hauptbeschränkung für die Modellgröße nicht der technologische Ehrgeiz sei, sondern die Verfügbarkeit von Grafikprozessoren, und verwies auf Hardware-Beschränkungen als den entscheidenden Engpass.
Quelle: DeepSeek (GNews) —
Original