Kreativitas Model Difusi: Penjelasan Matematis dari Google Research

Para peneliti dari Google Research mempresentasikan sebuah studi yang menjelaskan sifat kreativitas dalam model difusi. Mereka menunjukkan bahwa kemampuan model untuk menghasilkan data baru, alih-alih sekadar menyalin contoh pelatihan, merupakan konsekuensi yang dapat diprediksi secara matematis dari cara pelatihan jaringan saraf. Selama pelatihan, jaringan saraf secara alami menghaluskan fungsi skor—sebuah medan vektor yang memandu proses denoising. Penghalusan ini, yang disebut penghalusan skor, menyebabkan partikel berhenti pada posisi perantara alih-alih mereproduksi titik pelatihan secara tepat, sehingga menciptakan sampel baru yang masuk akal. Dalam ruang berdimensi tinggi, efek ini hanya muncul di sepanjang arah tangen terhadap manifold data laten, tanpa memperlambat konvergensi ke manifold itu sendiri. Dengan demikian, model mencapai keseimbangan antara kualitas dan kebaruan: gambar yang dihasilkan bersifat realistis sekaligus orisinal. Karya ini dipresentasikan di ICLR 2026.