HiDream.ai:n algoritmitieteilijä tohtori Pan Yingwei puhuu AICon Shenzhenissä siirtymisestä token-ennustuksesta tilan ennustukseen: kohti natiivisti multimodaalisia maailmanmalleja

Seuraava tekoälykilpailun vaihe siirtyy mallien ominaisuuksista kohti luotettavien agenttien rakentamista, tekoälyjärjestelmien parantamista ja vakaan toiminnan varmistamista monimutkaisissa ympäristöissä. AICon Global AI Development and Application -konferenssissa Shenzhenissä 21.–22. elokuuta tohtori Pan Yingwei, HiDream.ai:n algoritmitieteilijä, pitää pääpuheen otsikolla ”Tokenien ennustamisesta tilan ennustamiseen: natiivien multimodaalisten mallien polku maailmanmalleihin”. Hän väittää, että tekoälyn painopiste on siirtymässä suurista kielimalleista maailmanmalleihin, joissa tavoite muuttuu seuraavan tokenin ennustamisesta seuraavan tilan ennustamiseen, mikä edellyttää suorituskykytekniikan paradigmojen uudelleenrakentamista. Perinteiset multimodaaliset mallit ovat pohjimmiltaan ”yksimodaalisten mallien ketjuuntumia”, jotka menettävät tietoa jokaisessa moduulien välisessä siirrossa eivätkä pysty rakentamaan yhtenäistä fysikaalisen maailman tilan ymmärrystä. HiDream on valinnut vaihtoehtoisen polun itse kehitetyllä UiT-arkkitehtuurillaan, joka yhdistää raakat signaalit, kuten kuvapikselit, tekstin tokenit, videon, 3D-mallit ja toiminnot, yhteiseen esitysavaruuteen yhtenäisellä tokenisoinnilla ja päästä päähän -käsittelyllä yhdessä verkossa. Puheessa jaetaan oivalluksia mallisuunnittelusta, koulutusparadigmoista ja päättelyarkkitehtuureista sekä tutkitaan ratkaisevia muuttujia natiivien multimodaalisten mallien kehittymisessä maailmanmalleiksi. Muita pääpuheita pitävät asiantuntijat, kuten tohtori Wu Zheming, Qunqing Intelligentin perustajaosakas ja toimitusjohtaja; tohtori Zhou Jingsen Zhejiangin yliopistosta; Tao Jianhui, TDenginen perustaja ja toimitusjohtaja; sekä tohtori Wang Chenglu, Shen Kaihongin toimitusjohtaja, ja aiheet kattavat muun muassa teollisen ruumiillistuneen älykkyyden ja fyysisen tekoälyn.