NVIDIA Vera Rubin: Maksimaalista älykkyyttä dollaria kohden agenttitekoälylle
NVIDIA
Prime Intellect
Perplexity AI
Together AI
NVIDIA esitteli Vera Rubin -alustan, joka on suunniteltu agenttitekoälymallien jatkuvaan jälkikoulutukseen. Keskeiseksi mittariksi nousee 'älykkyys dollaria kohden', joka yhdistää token-kustannuksen ja koulutustehokkuuden. Alusta lupaa nelinkertaista GPU-määrän vähennystä Blackwelliin verrattuna.
NVIDIA selittää blogissaan, että agenttitekoälyssä jälkikoulutus (post-training) ei ole enää kertaluonteinen vaihe, vaan jatkuva prosessi. Toisin kuin generatiiviset mallit, agenttimallien on kyettävä suunnittelemaan, käyttämään työkaluja ja sopeutumaan muuttuviin olosuhteisiin. Jälkikoulutus sisältää eteenpäin- ja taaksepäinlaskennan syklejä, joissa malli parantaa taitojaan vahvistusoppimisen (RL) avulla. Keskeiseksi mittariksi nousee ”älykkyys dollaria kohden” (intelligence per dollar), joka yhdistää päättelyn tokenkustannuksen (cost per token) ja koulutuksen tehokkuuden. NVIDIA Vera Rubin -alusta, Blackwellin seuraaja, on suunniteltu tähän käyttötapaukseen: se mahdollistaa suurimpien mallien kouluttamisen neljäsosalla grafiikkasuorittimista. Esimerkkinä mainitaan Nemotron 3 Ultra -malli, jossa on 550 miljardia parametria (MoE-arkkitehtuuri) ja joka saavutti 71,7 prosenttia SWE-bench verified -testissä. Vera Rubin -alusta hyödyntää integraatiota NeMo-kirjastojen (NeMo Gym, NeMo RL) kanssa ja on optimoitu tuhansien ympäristöjen rinnakkaiskäyttöönottoon. Kumppaneita ovat Prime Intellect (30 prosentin läpäisytehon lisäys Vera-suorittimilla verrattuna x86:een), Perplexity (RL-pino, jossa painojen RDMA-synkronointi kestää alle kaksi sekuntia) ja Together AI (jälkikoulutus palveluna AI Native Cloud -alustalla).
Lähde: NVIDIA blog —
Alkuperäinen
