AI-agent doorbreekt Nvidia's 20-jarige CUDA-muur in 10 uur

Jeremy Nixon, oprichter van AI-softwarestartup Infinity en voormalig onderzoeker bij Google Brain, onthulde dat het AI-agent van zijn team, Ignition, slechts 10 uur nodig had om CUDA-achtige software te bouwen voor AI-chipstartup d-Matrix. Ignition genereert GPU-kernels, voert tests uit, vindt fouten, meet prestaties en herschrijft code automatisch, terwijl mensen alleen de grote lijnen aangeven. Dit nieuws benadrukt dat, hoewel het trainen van AI-modellen nog steeds sterk afhankelijk is van CUDA, de inferentiemarkt een strijdtoneel wordt waar de dominantie van CUDA zwakker is. Bedrijven zoals d-Matrix, Rebellions en Cerebras richten zich op deze kloof. Experts waarschuwen echter dat 10 uur gegenereerde code niet gelijkstaat aan 20 jaar aan ecosysteem, bibliotheken en verificatietools van CUDA. Bing Xu, oprichter van INT21, merkt op dat verificatie de grootste bottleneck is, niet het genereren van code. Chris Lattner van Modular zegt dat codeeragenten incrementele verbeteringen brengen en dat de hype overdreven is. Nvidia gebruikt ook AI-agenten om CUDA sneller te ontwikkelen, dus de race hangt af van of concurrenten sneller kunnen inhalen dan Nvidia kan itereren.