ByteDance erwägt Training eines Modells mit über 5 Billionen Parametern; Zhang Yiming: keine Destillation, sich nicht von kurzfristigen Trends wie Coding beeinflussen lassen

ByteDance befindet sich nach Angaben interner Quellen in Gesprächen über das Training eines hochmodernen KI-Modells mit mehr als 5 Billionen Parametern. Der Firmengründer Zhang Yiming hat erklärt, dass man keine Destillation einsetzen werde, eine Technik, bei der ein kleineres Modell von einem größeren lernt, und riet davon ab, sich von kurzfristigen Trends in diesem Bereich, wie der aktuellen Fokussierung auf Codierung, ablenken zu lassen. Dieser Schritt zeigt ByteDances Ambitionen, an der Spitze der KI-Entwicklung mitzuwirken, selbst angesichts der Konkurrenz durch andere Technologiegiganten in China. Die Nachricht wurde von Sina Finance unter Berufung auf Gespräche innerhalb des Unternehmens gemeldet.