PCA Üzerine Beş Bakış Açısı: Varyans Maksimizasyonundan SVD'ye
Makale, Temel Bileşen Analizini (PCA) beş farklı bakış açısıyla inceliyor: varyans maksimizasyonu, korelasyonsuzlaştırma, beyazlatma, SVD ve geometrik yorumlar. Her perspektif, aynı yöntemin farklı matematiksel temellerini ortaya koyuyor ve veri analizindeki önemini vurguluyor.
Makale PCA'yı beş açıdan ele alıyor; varyans maksimizasyonu ile başlıyor: ilk temel bileşen, izdüşüm varyansını en üst düzeye çıkaran yöndür ve kovaryans matrisinin en büyük özdeğerine karşılık gelen özvektör olarak bulunur. Sonraki bileşenler dikeydir ve daha düşük özdeğerlere karşılık gelir. Kovaryans matrisi simetrik ve pozitif yarı tanımlıdır, bu da negatif olmayan özdeğerlere yol açar. PCA, temel bileşenlerin köşegen bir kovaryans matrisine sahip olması nedeniyle verinin korelasyonunu çözer. Beyazlatma, PCA'yı bileşenleri birim varyansa ölçekleyerek genişletir, ancak bu gürültüyü artırabilir. Diğer bir bakış açısı, PCA'yı ortalanmış veri matrisinin Tekil Değer Ayrışımının (İngilizcesi "Singular Value Decomposition", kısaca SVD) özel bir durumu olarak ele alır ve tekil vektörleri kovaryans matrislerinin özvektörleriyle ilişkilendirir. Makale ayrıca spektral ayrışım, dik izdüşüm operatörleri ve afin dönüşümlerine de değinir; bunların hepsi birleşik bir geometrik görünümü destekler. Tartışma, Alexander Bernstein'ın Skoltech'teki makine öğrenimi geometrik yöntemler dersinden esinlenmiştir.
Kaynak: Habr — хаб ML —
orijinal