डिफ्यूज़न मॉडल की रचनात्मकता: गूगल रिसर्च से एक गणितीय व्याख्या

गूगल रिसर्च के शोधकर्ताओं ने एक अध्ययन प्रस्तुत किया जिसमें डिफ्यूजन मॉडल्स में रचनात्मकता की प्रकृति को समझाया गया। उन्होंने दिखाया कि मॉडल की प्रशिक्षण उदाहरणों को केवल कॉपी करने के बजाय नया डेटा उत्पन्न करने की क्षमता, न्यूरल नेटवर्क के प्रशिक्षित होने के तरीके का एक गणितीय रूप से पूर्वानुमान योग्य परिणाम है। प्रशिक्षण के दौरान, न्यूरल नेटवर्क स्वाभाविक रूप से स्कोर फ़ंक्शन (एक वेक्टर फील्ड जो डिनॉइज़िंग प्रक्रिया का मार्गदर्शन करता है) को स्मूथ करता है। इस स्मूथिंग को स्कोर स्मूथिंग कहा जाता है, जिसके कारण कण प्रशिक्षण बिंदुओं को बिल्कुल पुनरुत्पादित करने के बजाय मध्यवर्ती स्थितियों पर रुक जाते हैं, जिससे नए और प्रशंसनीय नमूने बनते हैं। उच्च-आयामी स्पेस में, यह प्रभाव केवल लेटेंट डेटा मैनिफोल्ड के स्पर्शरेखा दिशाओं के साथ दिखाई देता है, बिना मैनिफोल्ड में अभिसरण को धीमा किए। इस प्रकार, मॉडल गुणवत्ता और नवीनता के बीच संतुलन प्राप्त करता है: चित्र यथार्थवादी और मौलिक दोनों होते हैं। यह कार्य आईसीएलआर 2026 में प्रस्तुत किया गया था।