Ce sera une réponse non technique.
Vous avez raison: l'ACP est essentiellement une rotation des axes de coordonnées, choisie de telle sorte que chaque axe réussi capture autant de variance que possible.
Dans certaines disciplines (comme par exemple la psychologie), les gens aiment appliquer l'ACP afin d'interpréter les axes résultants. C'est-à-dire qu'ils veulent pouvoir dire que l'axe principal n ° 1 (qui est une certaine combinaison linéaire de variables originales) a une signification particulière. Pour deviner ce sens, ils examineraient les poids dans la combinaison linéaire. Cependant, ces poids sont souvent désordonnés et aucune signification claire ne peut être discernée.
Dans ces cas, les gens choisissent parfois de bricoler un peu avec la solution PCA vanille. Ils prennent un certain nombre d'axes principaux (qui sont considérés comme "significatifs" par certains critères) et les font tourner en plus, essayant de réaliser une "structure simple" --- c'est-à-dire des combinaisons linéaires qui seraient plus faciles à interpréter. Il existe des algorithmes spécifiques qui recherchent la structure la plus simple possible; l'un d'eux est appelé varimax. Après rotation varimax, les composants successifs ne captent plus autant de variance que possible! Cette fonctionnalité de PCA est rompue en effectuant la rotation varimax supplémentaire (ou toute autre).
Donc, avant d'appliquer la rotation varimax, vous avez des composants principaux "non tournés". Et après, vous obtenez des composants principaux "tournés". En d'autres termes, cette terminologie fait référence au post-traitement des résultats de l'ACP et non à la rotation de l'ACP elle-même.
Tout cela est quelque peu compliqué par le fait que ce qui est mis en rotation, ce sont les chargements et non les axes principaux en tant que tels. Cependant, pour les détails mathématiques, je vous renvoie (et tout lecteur intéressé) à ma longue réponse ici: L'ACP suivie d'une rotation (comme varimax) est-elle toujours PCA?