ByteDance, Çin'in En Büyük Yapay Zeka Modelini Geliştiriyor

Financial Times'a göre ByteDance, on trilyon parametreye kadar eğitilen bir yapay zeka modeli üzerinde çalışıyor ve bu, Çin'deki en büyük model olma özelliğini taşıyor. Bu, önceki en büyük Çin modeli olan Moonshot'ın Kimi K3'ünden üç kat daha büyük ve sektör tahminlerine göre yaklaşık sekiz trilyon parametreye sahip olan Anthropic'in Mythos 5'ine yaklaşıyor; ancak Anthropic resmi rakamlar açıklamadı. Üç içeriden öğrenen kişi Financial Times'a modelin ön eğitim aşamasında olduğunu ve bu aşamanın genellikle üç ila altı ay sürdüğünü söyledi. Parametreler, bir modelin ne kadar depolayabileceğini belirler, ancak performans aynı zamanda veri kalitesine ve eğitim yöntemlerine de bağlıdır. Bir kaynak, ByteDance'in bir yıldan uzun süredir damıtma (diğer modellerin çıktıları üzerinde ince ayar) yapmaktan kaçındığını söyledi. Kurucu Zhang Yiming, 2.000 kişilik Seed ekibini uzun vadede dünya lideri model yetenekleri elde etmeye teşvik etti. Bu arada Elon Musk'ın xAI'sinin, Colossus 2 kümesinde altı ve on trilyon parametreli Grok varyantlarını eğittiği bildiriliyor.