Diffüzyon Modellerinin Yaratıcılığı: Google Araştırma'dan Matematiksel Bir Açıklama
Google/DeepMind
Google araştırmacıları, diffüzyon modellerinin eğitim setini basitçe ezberlemek yerine yeni veri üretebilme yeteneğinin, sinir ağı eğitimi sırasında skor fonksiyonunun yumuşatılmasının matematiksel bir sonucu olduğunu göstermiştir. Yumuşatma, modeli veri noktaları arasında enterpolasyon yapmaya zorlayarak yeni, makul örnekler oluşturur.
Google Araştırma'dan araştırmacılar, yayılım modellerinde yaratıcılığın doğasını açıklayan bir çalışma sundu. Bir modelin, eğitim örneklerini kopyalamak yerine yeni veriler üretme yeteneğinin, sinir ağlarının nasıl eğitildiğinin matematiksel olarak öngörülebilir bir sonucu olduğunu gösterdiler. Eğitim sırasında sinir ağı, gürültü giderme sürecini yönlendiren bir vektör alanı olan skor fonksiyonunu doğal olarak pürüzsüzleştirir. Skor pürüzsüzleştirme adı verilen bu işlem, parçacıkların eğitim noktalarını tam olarak yeniden üretmek yerine ara konumlarda durmasına ve yeni, makul örnekler oluşturmasına neden olur. Yüksek boyutlu uzaylarda bu etki, yalnızca gizli veri manifolduna teğet yönlerde ortaya çıkar ve manifoldun kendisine yakınsamayı yavaşlatmaz. Böylece model, kalite ve yenilik arasında bir denge kurar: görüntüler hem gerçekçi hem de özgündür. Çalışma, ICLR 2026'da sunuldu.
Kaynak: Google Research —
orijinal
