PRX Часть 4: Наша стратегия данных — создание разнообразного предтренировочного корпуса
Photoroom
Команда PRX из Photoroom описывает свою стратегию данных: сбор разнообразного предтренировочного набора данных из публичных и внутренних источников, повторная разметка всех изображений с помощью VLM, хранение данных в формате Lance для курирования и MDS для потоковой передачи. Они отдают приоритет широте охвата, а не эстетике, используют JPEG с качеством 92 и вычисляют скрытые представления текста на лету с помощью Qwen3-VL.
Команда PRX из Photoroom делится своей стратегией работы с данными для предварительного обучения 7B-модели генерации изображений по текстовому описанию. Они собирают обучающие данные из смеси публичных и внутренних наборов, отдавая приоритет разнообразию и широте охвата, а не идеальному качеству каждого отдельного изображения. Все изображения повторно подписываются с помощью VLM (модели
Показать ещё ↓
Источник: Hugging Face blog —
оригинал