Kimi K3 Mac'te Yerel Olarak Çalışıyor, Cevap Mimarisi Gizli
Moonshot AI
Moonshot AI'nin Kimi K3 modeli artık Mac üzerinde yerel olarak çalışabiliyor; bu yetenek, mimari tasarımına atfediliyor. OSCHINA'dan gelen habere göre, modelin mimarisi bulut kaynaklarına ihtiyaç duymadan yerel yürütmeyi mümkün kılıyor.
OSCHINA'daki bir makaleye göre, Moonshot AI'nin Kimi K3 modeli bir Mac bilgisayarda yerel olarak çalıştırılabiliyor. Makale, bu yerel çalıştırma yeteneğinin anahtarının, modelin bulut tabanlı altyapıya bağımlı olmadan çalışmasına olanak tanıyan mimarisinde bulunduğunu belirtiyor. Bu, kayda değer bir durum çünkü birçok büyük dil modeli, genellikle yalnızca veri merkezlerinde bulunan önemli ölçüde hesaplama kaynağı gerektiriyor; ancak Kimi K3'ün tasarımı, cihaz üzerinde verimli çıkarım yapmayı mümkün kılıyor gibi görünüyor.
Kaynak: Moonshot Kimi (GNews) —
orijinal