PRX, Teil 4: Unsere Datenstrategie
Photoroom
Das Team von Photoroom erläuterte ihre Strategie zur Datensammlung für das Vortraining des PRX-Modells: Sie nutzen eine Mischung aus öffentlichen und internen Datensätzen, versehen Bilder mit neuen Beschriftungen mithilfe eines visuellen Sprachmodells (VLM) und konvertieren das endgültige Korpus in das MDS-Format für Streaming. Der Schwerpunkt liegt auf Diversität und Breite der Abdeckung statt auf Perfektion für jedes einzelne Bild. Für die Datenverarbeitung und -kennzeichnung verwenden sie das spaltenorientierte Lance-Format und für das Training MDS (Mosaic Data Shards). Die Textkodierung erfolgt on-the-fly mit Qwen3-VL, und Bilder werden als JPEG mit Qualität 92 gespeichert, was die Generierungsqualität im Vergleich zu PNG nicht beeinträchtigt.
Die Entwickler des Modells PRX von Photoroom haben im vierten Teil einer Artikelreihe ihre Strategie zur Datenaufbereitung für das Pretraining beschrieben. Das grundlegende Prinzip besteht darin, einen großen und vielfältigen Datensatz zu sammeln, damit das Modell ein breites Spektrum visueller Konzepte erlernt und nicht nur ästhetisch ansprechende Bilder. Die Daten stammen aus einer Mischung öffentlicher und interner Quellen; dabei stützen sich die Autoren auf bereits vorhandene Kuratierung (Qualitätsfilterung, Deduplizierung, Entfernung von NSFW-Inhalten und persönlichen Informationen), um diese Arbeit nicht von Grund auf neu durchführen zu müssen. Alle Bilder werden mithilfe eines VLM (Vision Language Model) neu beschrieben, um einen einheitlichen Stil und eine einheitliche Länge der Bildunterschriften zu gewährleisten. Für den Aufbau und die Untersuchung des Datensatzes wird das Spaltenformat Lance verwendet, das Volltextsuche und Suche nach Vektoreinbettungen unterstützt und so eine schnelle Profilierung der Daten sowie das Erkennen von Problemen ermöglicht. Für das Training wird das Format MDS (Mosaic Data Shards) eingesetzt, das sich gut für verteiltes Training und das Streaming von Daten aus Cloud-Speichern eignet. Text-Latents werden mit dem Encoder Qwen3-VL im laufenden Betrieb berechnet, was nur 3–4 % der Trainingskosten ausmacht, aber die Notwendigkeit entfallen lässt, Latents vorab zu berechnen und zu speichern. Die Bilder werden mit einer Qualität von 92 in JPEG kodiert; Experimente haben gezeigt, dass dies im Vergleich zu PNG keinen merklichen Einfluss auf die Generierungsqualität hat, während es deutlich Platz spart. Der Artikel enthält auch praktische Tipps für die Arbeit mit dem Lance-Format, insbesondere zur Kontrolle der Tabellenfragmentierung, um Abfragen zu beschleunigen.
Quelle: Hugging Face blog —
Original