Adobe Research et des scientifiques de Stanford et Princeton proposent des modèles de monde vidéo avec mémoire à long terme basés sur les modèles d'espace d'état
Des chercheurs d'Adobe Research, de l'Université Stanford et de l'Université Princeton ont développé l'architecture LSSVWM pour les modèles de monde vidéo qui résout le problème de la mémoire à long terme. Le modèle utilise des modèles d'espace d'état (State-Space Models, SSM) et un schéma de balayage par blocs, ainsi qu'une attention locale dense, pour combiner efficacité et rétention de contexte. Les expériences sur les ensembles de données Memory Maze et Minecraft ont montré une amélioration significative de la rétention d'informations sur de longs intervalles de temps.
Princeton University (Sengupta Lab)
Synced27.07 · 17:06
