Induction Labs Photon-1: Desktop Simulation, Checkers, and Billiard Physics After One Pretraining
Induction Labs released the Imagination Models architecture and the Photon-1 model, which trains on raw video without action labels. Photon-1 can simulate desktop operations, play checkers, and model billiard physics after a single pretraining phase.
Большинство агентов, обучающихся по видео, вынуждены знать, какое действие привело к каждому кадру. Induction Labs утверждает, что это требование является узким местом. На прошлой неделе компания представила Imagination Models — архитектуру фундаментальной модели, которая предобучается на сыром видео вообще без меток действий. Тестовой системой стала Photon-1 — разреженная смесь экспертов (MoE) объёмом 106 миллиардов параметров с 5 миллиардами активных (106B-A5B). После одного цикла предобучения модель демонстрирует способность симулировать работу компьютерного десктопа, играть в шашки и моделировать физику бильярда.
출처: MarkTechPost —
원문