ByteDance bespreekt training van model met meer dan 5 biljoen parameters; Zhang Yiming zegt geen distillatie, laat je niet meeslepen door kortetermijntrends zoals coderen

ByteDance zou in gesprekken zijn over het trainen van een state-of-the-art AI-model met meer dan 5 biljoen parameters, volgens interne bronnen. De oprichter van het bedrijf, Zhang Yiming, heeft verklaard dat ze geen gebruik zullen maken van distillatie, een techniek waarbij een kleiner model leert van een groter model, en adviseerde om zich niet te laten afleiden door kortetermijntrends in het veld, zoals de huidige focus op coderen. Deze zet onderstreept de ambitie van ByteDance om voorop te lopen in AI-ontwikkeling, zelfs terwijl het concurrentie ondervindt van andere techgiganten in China. Het nieuws werd gerapporteerd door Sina Finance, die zich baseerde op gesprekken binnen het bedrijf.