Open Dreamer: Open-Source Implementatie van Dreamer 4 Pipeline in JAX/Flax met Volledig Trainingsrecept
Een team van AI-onderzoekers heeft Open Dreamer uitgebracht, een open-source implementatie van de Dreamer 4 wereldmodel-pipeline gebouwd met JAX en Flax NNX. Het project omvat een trainingspijplijn, een lokale inferentieomgeving en een browserdemo die een Minecraft-wereld in realtime genereert. Het model gebruikt een blok-causale transformator-backbone, behaalt 57-58% model FLOPs-benutting en het team benadrukt dat stabiliteit de grootste uitdaging was, niet de doorvoer.
Onderzoekers Francesco Sacco, Diego Martí en Edward Hu, gesponsord door Reactor, hebben Open Dreamer uitgebracht, een open implementatie van Dreamer 4 in JAX/Flax NNX. Er zijn twee repositories uitgebracht: een voor training (tokenizer, dynamisch model, rollout, FVD-scoring) en een voor lokale inferentie. Een browsergame streamt een gegenereerde Minecraft-wereld en maakt het mogelijk om te schakelen tussen een echte game en het wereldmodel. De architectuur gebruikt een block-causal transformer backbone voor zowel tokenizer als dynamisch model. De tokenizer is een op transformer gebaseerde Masked Autoencoder die ruwweg 100× compressie bereikt zonder KL- of adversarial loss. Het dynamisch model (1,6 miljard parameters) voert next-frame prediction uit met behulp van diffusion forcing, flow matching en shortcut models, en voorspelt ook de volgende actie. De training duurt 200.000 stappen met de Muon optimizer, WSD-schema, piekleersnelheid 3e-4 en EMA-verval 0,999. Het team behaalde een model FLOPs-utilisatie van 57-58% op B200 GPU's, waarbij de modelstatus in ongeveer 24 GiB paste. Activations waren de grootste geheugenkosten, opgelost door data parallellisme en activation checkpointing. Stabiliteitsproblemen vormden de grootste uitdaging; zes oplossingen zijn onder andere de Muon optimizer, verplichte EMA-gewichten, zorgvuldige gemengde precisie, v-space loss weighting, minibatch barycentric optimal transport en het verminderen van de nadruk op μ-parametrisatie. De repository bevat geen behavior-cloning- of RL-trainingslus, en FVD-scores zijn niet gepubliceerd.
Bron: MarkTechPost —
origineel