Adaptation de nouvelles images à partir d'un calcul SVD / PCA

J'essaie de reproduire les idées de la page Eigenface sur wikipedia. A partir d'une centaine d'échantillons d'images représentés par une matrice de données (où chaque image aplatie en un vecteur de longueur , donc est une matrice par ), j'ai calculé une décomposition SVD: $\bf X$ $n$ $\bf X$ $100$ $n$

X = U Σ V^{T}

$\begin{equation} \bf X = U \Sigma V^{T} \end{equation}$

Par conséquent:

X X^{T} = U Σ^{2} U^{T}

$\begin{equation} \bf X X^{T} = U \Sigma^2 U^{T} \end{equation}$

En prenant un sous-ensemble des plus grands modes propres , je peux approximer la matrice (soit ): $q$ $\sigma_1 \ge \sigma_2 \ge \cdots$

X \approx σ_{1} u_{1} v_{1}^{T} + σ_{2} u_{2} v_{2}^{T} + \dots + σ_{q} u_{q} v_{q}^{T}

$\begin{equation} {\bf X} \approx \sigma_1 u_1 v_1^{T} + \sigma_2 u_2 v_2^{T} + \cdots + \sigma_q u_q v_q^{T} \end{equation}$

Maintenant, étant donné un nouveau vecteur , qui représente une image qui n'est pas dans , comment puis-je déterminer la pondération des vecteurs propres pour représenter au mieux ma nouvelle image ? À l'exception des cas pathologiques, cette représentation est-elle unique? $y$ $\bf X$ $q$ $\bf U$ $y$

En bref, ce que j'aimerais faire, c'est ceci (à partir de la page wiki):

Ces faces propres peuvent maintenant être utilisées pour représenter à la fois les faces existantes et nouvelles : nous pouvons projeter une nouvelle image (moyenne soustraite) sur les faces propres et ainsi enregistrer en quoi cette nouvelle face diffère de la face moyenne.

Comment faire cette projection?

computer-vision linear-systems linear-algebra

— Accroché
source

Les futurs lecteurs pourraient trouver cette implémentation utile.

— Emre

La "projection" à laquelle il est fait référence est une projection vectorielle . Pour calculer la projection du vecteur sur le vecteur , vous utilisez le produit interne des deux vecteurs: $\mathbf{a}$ $\mathbf{b}$

a_{p r o j} = ⟨ a, b ⟩ b

$\mathbf{a_{proj}} = \langle \mathbf{a}, \mathbf{b} \rangle \mathbf{b}$

dans ce cas est la composante vectorielle de qui se trouve dans la même direction que . Dans l'espace euclidien, l'opérateur de produit interne est défini comme leurproduit scalaire: $\mathbf{a_{proj}}$ $\mathbf{a}$ $\mathbf{b}$

⟨ a, b ⟩ = a \cdot b = \sum_{i = 1}^{n} a_{i} b_{i}

$\langle \mathbf{a}, \mathbf{b} \rangle = \mathbf{a} \cdot \mathbf{b} = \sum_{i=1}^{n}a_ib_i$

où est le nombre de composants dans les vecteurs et et et sont respectivement le ème composant des vecteurs et . Intuitivement, en calculant le produit intérieur des deux vecteurs, vous trouvez "combien de" vecteur va dans la direction du vecteur . Notez qu'il s'agit d'une quantité signée, donc une valeur négative signifierait que l'angle entre les deux vecteurs est supérieur à 90 degrés, comme illustré par une autre définition pour l'opérateur de projection: $n$ $\mathbf{a}$ $\mathbf{b}$ $a_i$ $b_i$ $i$ $\mathbf{a}$ $\mathbf{b}$ $\mathbf{a}$ $\mathbf{b}$

a_{p r o j} = | a | \cos (θ) b

$\mathbf{a_{proj}} = |\mathbf{a}| \cos(\theta) \mathbf{b}$

où est l'angle entre les deux vecteurs. $\theta$

Donc, étant donné un vecteur et un tas de vecteurs de base , on peut trouver "combien de " va dans chacune des directions de chacun des vecteurs de base. Typiquement, ces vecteurs de base seront tous mutuellement orthogonaux. Dans votre cas, la SVD est une décomposition orthogonale, donc cette condition doit être remplie. Donc, pour accomplir ce que vous décrivez, vous devez prendre la matrice des vecteurs propres et calculer le produit interne du vecteur candidat avec chacune des colonnes de la matrice: $\mathbf{a}$ $\mathbf{b_i}$ $\mathbf{a}$ $\mathbf{U}$ $\mathbf{y}$

p_{i} = y \cdot u_{i}

$p_i = \mathbf{y} \cdot \mathbf{u_i}$

La valeur scalaire que vous obtenez de chaque produit intérieur représente la façon dont le vecteur "s'est aligné" avec le ème vecteur propre. Étant donné que les vecteurs propres sont orthonormés , vous pouvez alors reconstruire le vecteur d'origine comme suit: $p_i$ $\mathbf{y}$ $i$ $\mathbf{y}$

y = \sum_{i = 1}^{n} p_{i} u_{i}

$\mathbf{y} = \sum_{i=1}^n p_i \mathbf{u_i}$

Vous avez demandé si cette représentation est unique; Je ne sais pas exactement ce que vous voulez dire, mais ce n'est pas unique dans le sens où un vecteur donné pourrait être décomposé par projection sur n'importe quel nombre de bases orthonormales. Les vecteurs propres contenus dans la matrice sont un exemple, mais vous pouvez en utiliser plusieurs autres. Par exemple, le calcul de la transformée de Fourier discrète de peut être considéré comme la projetant sur une base orthonormée de vecteurs exponentiels complexes de fréquence variable. $\mathbf{y}$ $\mathbf{U}$ $\mathbf{y}$

— Jason R
source

Grande réponse merci! Par "unique", je voulais dire unique au sens de la base donnée par le SVD. Je suppose que, étant donné une base orthonormée, alors le

vous calculez doit être unique - mais si la base n'est pas orthonormée, ce n'est peut-être pas le cas (car s'ils n'étaient pas orthogonaux, nous pourrions trouver un ensemble de bases plus petit)?

y

$\bf y$

— accroché

Vous ne savez toujours pas où vous en êtes.

est le vecteur vers lequel vous avez distillé votre nouvelle image, il est donc aussi unique que l'image d'origine et le processus que vous utilisez pour déterminer le vecteur correspondant. Une base d'espace vectoriel par définition est constituée de vecteurs linéairement indépendants, ce qui force la propriété de l'orthogonalité mutuelle. Vous notez correctement que si vous projetez

sur un ensemble de vecteurs non orthogonaux, vous pourriez éventuellement arriver à une représentation plus compacte si l'espace couvert par les vecteurs avait une dimensionnalité sous-jacente moindre (une base plus petite).

y

$\mathbf{y}$

y

$\mathbf{y}$

— Jason R