Tussen Kimi K3 en DeepSeek V4: de tijdskloof van native multimodaliteit

Het artikel van 36Kr bespreekt hoe native multimodale mogelijkheden een concurrentiekloof creëren tussen modellen zoals Kimi K3 en DeepSeek V4. Een multimodaal onderzoeker merkt op dat voor taken met lange ketens, feedback op code-niveau alleen leidt tot accumulatie van fouten, terwijl visuele feedback nauwkeuriger is en dichter bij de bedoeling van de gebruiker ligt. Het stuk legt uit dat native multimodaliteit betekent dat afbeeldingen en tekst gezamenlijk het hoofdmodel vormen vanaf de pre-training, en dit voortzetten tijdens de post-training en de perceptie van de agent. Kimi K3 stond bovenaan het Arena Frontend Code-klassement met 1679 punten, en in een test door Puter identificeerde het alle vijf visuele afwijkingen zonder vals-positieven. Het artikel contrasteert dit met de aanpak van DeepSeek, die zich richt op tekst-only modellen en externe tools, en merkt op dat, ondanks de sterke codeer- en redeneervaardigheden van DeepSeek V4, het geen native visie heeft. Andere Chinese laboratoria zoals Alibaba en ByteDance volgen ook het pad van native multimodaliteit. Het stuk bespreekt de kosten: het integreren van visie kan taal-, redeneer- en codeervaardigheden verdunnen, wat meer rekenkracht en data vereist. K3 gebruikt een model met 2,8 biljoen parameters en 104 miljard geactiveerde parameters per token, en een aangepaste visie-encoder genaamd MoonViT-V2. Het artikel merkt de afweging op tussen investeren in coderen nu versus voorbereiden op multimodale toekomsten, en vermeldt dat talentwervers na de release van K3 naar de omgeving van Moonshot AI trekken.