PRX, Part 4: Our Data Strategy

Разработчики модели PRX из компании Photoroom в четвёртой части серии статей описали свою стратегию подготовки данных для предобучения. Основной принцип — собрать большой и разнообразный датасет, чтобы модель изучила широкий спектр визуальных концепций, а не только эстетически привлекательные изображения. Данные собираются из смеси публичных и внутренних источников; при этом авторы опираются на уже существующую курацию (фильтрацию качества, дедупликацию, удаление NSFW-контента и персональной информации), чтобы не повторять эту работу с нуля. Все изображения повторно описываются с помощью VLM для обеспечения единого стиля и длины подписей. Для построения и исследования датасета используется колоночный формат Lance, поддерживающий полнотекстовый поиск и поиск по векторным эмбеддингам, что позволяет быстро профилировать данные и выявлять проблемы. Для обучения применяется формат MDS (Mosaic Data Shards), который хорошо подходит для распределённой тренировки и потоковой передачи данных из облачных хранилищ. Текстовые латенты вычисляются на лету с помощью энкодера Qwen3-VL, что добавляет лишь 3–4% к затратам на обучение, но избавляет от необходимости предварительно вычислять и хранить латенты. Изображения кодируются в JPEG с качеством 92; эксперименты показали, что это не оказывает заметного влияния на качество генерации по сравнению с PNG, при этом значительно экономя место. Также в статье приведены практические советы по работе с форматом Lance, в частности, по контролю фрагментации таблиц для ускорения запросов.