PRX, Part 4: Our Data Strategy
Photoroom
The Photoroom team shared their data collection strategy for pre-training the PRX model: they use a mix of public and internal datasets, re-caption images with a VLM, and convert the final corpus into MDS format for streaming. The main focus is on diversity and breadth of coverage rather than perfectionism for each individual image. For data processing and labeling, they use the Lance columnar format, and for training, MDS (Mosaic Data Shards). Text encoding is done on the fly with Qwen3-VL, and images are stored in JPEG with quality 92, which does not degrade generation quality compared to PNG.
Photoroom कंपनी के PRX मॉडल के डेवलपर्स ने लेखों की चौथी श्रृंखला में प्रीट्रेनिंग के लिए अपनी डेटा तैयारी रणनीति का वर्णन किया। मूल सिद्धांत एक बड़ा और विविध डेटासेट इकट्ठा करना है, ताकि मॉडल केवल सौंदर्य की दृष्टि से आकर्षक छवियों के बजाय दृश्य अवधारणाओं की एक विस्तृत श्रृंखला सीख सके। डेटा सार्वजनिक और आंतरिक स्रोतों के मिश्रण से एकत्र किया जाता है; लेखक मौजूदा क्यूरेशन (गुणवत्ता फ़िल्टरिंग, डिडुप्लिकेशन, NSFW सामग्री और व्यक्तिगत जानकारी को हटाना) पर भरोसा करते हैं, ताकि इस काम को शुरू से दोहराना न पड़े। सभी छवियों को एक समान शैली और कैप्शन की लंबाई सुनिश्चित करने के लिए VLM का उपयोग करके पुनः वर्णित किया जाता है। डेटासेट के निर्माण और अन्वेषण के लिए Lance कॉलम फ़ॉर्मेट का उपयोग किया जाता है, जो फुल-टेक्स्ट सर्च और वेक्टर एम्बेडिंग सर्च का समर्थन करता है, जिससे डेटा का तेज़ी से प्रोफाइलिंग और समस्याओं का पता लगाना संभव होता है। प्रशिक्षण के लिए MDS (Mosaic Data Shards) फ़ॉर्मेट का उपयोग किया जाता है, जो वितरित प्रशिक्षण और क्लाउड स्टोरेज से डेटा स्ट्रीमिंग के लिए उपयुक्त है। टेक्स्ट लैटेंट्स को Qwen3-VL एन्कोडर का उपयोग करके ऑन-द-फ्लाई कंप्यूट किया जाता है, जो प्रशिक्षण लागत में केवल 3–4% जोड़ता है, लेकिन लैटेंट्स को पहले से कंप्यूट और स्टोर करने की आवश्यकता को समाप्त करता है। छवियों को गुणवत्ता 92 के साथ JPEG में एन्कोड किया जाता है; प्रयोगों से पता चला है कि PNG की तुलना में इसका जनरेशन गुणवत्ता पर कोई उल्लेखनीय प्रभाव नहीं पड़ता है, जबकि यह महत्वपूर्ण रूप से स्थान बचाता है। लेख में Lance फ़ॉर्मेट के साथ काम करने के लिए व्यावहारिक सुझाव भी दिए गए हैं, विशेष रूप से क्वेरी को गति देने के लिए तालिका विखंडन को नियंत्रित करने पर।
स्रोत: Hugging Face blog —
मूल