Wie Kimi K3 funktioniert: 2,8 Billionen Parameter, lineare Aufmerksamkeit und Agenten mit Millionen Tokens
Moonshot AI hat die Gewichte seines Kimi-K3-Modells veröffentlicht, einem multimodalen Modell, das auf einer Mixture-of-Experts-Architektur mit 2,8 Billionen Parametern basiert, von denen 104 Milliarden pro Token aktiviert werden. In bestimmten Programmier- und Tool-Nutzungs-Benchmarks übertrifft das Modell die Konkurrenz, bleibt aber im Durchschnitt hinter einigen davon zurück.
Moonshot AI
Anthropic
OpenAI

