Tính sáng tạo của mô hình khuếch tán: Giải thích toán học từ Google Research

Các nhà nghiên cứu từ Google Research đã trình bày một nghiên cứu giải thích bản chất của tính sáng tạo trong các mô hình khuếch tán (diffusion models). Họ chỉ ra rằng khả năng tạo ra dữ liệu mới của một mô hình, thay vì chỉ sao chép các ví dụ huấn luyện, là một hệ quả có thể dự đoán về mặt toán học của cách các mạng nơ-ron được huấn luyện. Trong quá trình huấn luyện, mạng nơ-ron tự nhiên làm mịn hàm điểm (score function) — một trường vectơ hướng dẫn quá trình khử nhiễu. Sự làm mịn này, được gọi là làm mịn điểm (score smoothing), khiến các hạt dừng lại ở các vị trí trung gian thay vì tái tạo chính xác các điểm huấn luyện, tạo ra các mẫu mới hợp lý. Trong không gian nhiều chiều, hiệu ứng này chỉ xuất hiện dọc theo các hướng tiếp tuyến với đa tạp dữ liệu tiềm ẩn (latent data manifold), mà không làm chậm quá trình hội tụ tới chính đa tạp đó. Do đó, mô hình đạt được sự cân bằng giữa chất lượng và tính mới lạ: hình ảnh vừa chân thực vừa độc đáo. Công trình này đã được trình bày tại ICLR 2026.