AI-agenten zouden CUDA-rivalen kunnen bouwen, maar Nvidia staat niet stil

Nvidia's voordeel ligt niet alleen in zijn GPU-versnellers, maar ook in zijn CUDA-softwareplatform, dat kant-en-klare code voor veelvoorkomende AI-taken, debuggingtools en applicaties omvat die duizenden chips in staat stellen om tijdens het trainen van modellen samen te werken. De diepe verankering van CUDA in miljoenen regels code en workflows creëert een sterk lock-ineffect, waardoor alternatieven duur en moeilijk te adopteren zijn. Zo noemen interne Amazon-documenten CUDA als de belangrijkste belemmering voor de adoptie van de eigen AI-chips Trainium en Inferentia. Sommige experts beweren echter dat AI de creatie van systeemsoftware kan automatiseren, een historisch gezien moeilijke taak. Jeremy Nixon, voormalig Google Brain-onderzoeker en oprichter van AI-softwarestartup Infinity, zei dat zijn bedrijf AI-agenten gebruikte om in slechts 10 uur CUDA-achtige software voor D-Matrix te bouwen, wat aantoont dat deze barrière om Nvidia te verlaten overkomelijk is. OpenAI en Anthropic hebben ook laten zien dat AI-modellen systeemsoftware kunnen genereren, en DeepSeek-oprichter Liang Wenfeng zei dat AI-agenten, samen met de eigen programmeertaal TileLang van zijn startup, het creëren van AI-software aanzienlijk hebben vereenvoudigd. Nvidia countert dat ontwikkelaars steeds vaker CUDA-codebibliotheken gebruiken voor AI-toepassingen en dat het ook software-AI-agenten gebruikt om CUDA-ontwikkeling en -verificatie te versnellen. Het bedrijf merkt op dat naarmate AI verschuift naar inferentie- en agentische workloads, de behoefte aan diepe, full-stack optimalisatie toeneemt, waardoor de waarde van de geïntegreerde hardware en software toeneemt. Bing Xu, oprichter van AI-softwarestartup INT21, zei echter dat het volwassen ecosysteem van verificatietools en andere functies van CUDA programmeeragenten helpt efficiënter te werken, waardoor het de volgende verdedigingsbarrière is. Agenten kunnen snel veel code genereren, maar verificatie is de bottleneck, zei hij. Hoewel AI concurrenten kan helpen in te lopen, profiteert Nvidia van dezelfde technologische vooruitgang, voegde Xu toe, waarbij hij opmerkte dat de chipmaker niet slaapt. Modular CEO Chris Lattner merkte op dat het schrijven van code slechts een klein onderdeel is van softwareontwikkeling in vergelijking met moeilijkere taken zoals optimalisatie voor industrieel gebruik.