Pourquoi l'APC est-elle sensible aux valeurs aberrantes?

Il existe de nombreux articles sur cette SE qui discutent des approches robustes de l'analyse en composantes principales (ACP), mais je ne trouve pas une seule bonne explication de la raison pour laquelle l' ACP est sensible aux valeurs aberrantes en premier lieu.

machine-learning pca outliers

— Psi
source

Parce que la contribution à la norme L2 est très élevée pour les valeurs aberrantes. Ensuite, lors de la minimisation de la norme L2 (ce que PCA essaie de faire), ces points seront plus difficiles à ajuster que les points plus proches de la moyenne.

— mathreadler

Cette réponse vous indique tout ce dont vous avez besoin. Imaginez une valeur aberrante et lisez attentivement.

— S.Kolassa - Rétablir Monica

L'une des raisons est que l'ACP peut être considérée comme une décomposition de bas rang des données qui minimise la somme des normes des résidus de la décomposition. C'est-à-dire si est vos données ( vecteurs de dimensions), et est la base PCA ( vecteurs de dimensions), alors la décomposition minimisera strictement Ici est la matrice des coefficients de décomposition PCA et est une norme Frobenius de la matrice $L_2$ $Y$ $m$ $n$ $X$ $k$ $n$

‖ Y - X A ‖_{F}^{2} = \sum_{j = 1}^{m} ‖ Y_{j} - X A_{j .} ‖^{2}

$\lVert Y-XA \rVert^2_F = \sum_{j=1}^{m} \lVert Y_j - X A_{j.} \rVert^2$

A

$A$

‖ \cdot ‖_{F}

$\lVert \cdot \rVert_F$

Parce que l'ACP minimise les normes $L_2$ (c'est-à-dire les normes quadratiques), elle a les mêmes problèmes de moindres carrés ou d'ajustement d'un gaussien en étant sensible aux valeurs aberrantes. En raison de la quadrature des écarts par rapport aux valeurs aberrantes, ils domineront la norme totale et entraîneront donc les composants de l'ACP.

— sega_sai
source