Des manuels sur le calcul matriciel?

20

Petite histoire: j'ai lu Les éléments de l'apprentissage statistique et j'ai été frustré lorsque j'essayais de vérifier certains résultats, par exemple, étant donné puis I je cherche un livre de calcul matriciel qui est écrit comme votre livre de calcul traditionnel (ie, preuves de théorèmes, exemples, exercices de calcul, etc.). J'ai déjà vu cette question

RSS (β) = {(y - X β)}^{T} (y - X β),

$\text{RSS}(\beta) = \left(\mathbf{y}-\mathbf{X}\beta\right)^{T}\left(\mathbf{y}-\mathbf{X}\beta\right)\text{,}$

\begin{aligned} \frac{\partial RSS}{\partial β} = - 2 X^{T} (y - X β) \\ \frac{\partial^{2} RSS}{\partial β \partial β^{T}} = 2 X^{T} X . \end{aligned}

$\begin{align}&\dfrac{\partial\text{RSS}}{\partial \beta} = -2\mathbf{X}^{T}\left(\mathbf{y}-\mathbf{X}\beta\right) \\ &\dfrac{\partial^2\text{RSS}}{\partial \beta\text{ }\partial \beta^{T}} = 2\mathbf{X}^{T}\mathbf{X}\text{.} \end{align}$ et je pense que le texte de Magnus et Neudecker se concentre trop sur la théorie, et le texte que j'ai de Gentle se concentre trop peu sur la théorie et trop sur le côté calcul.

Existe-t-il un juste milieu accessible à une personne ayant une formation en analyse de premier cycle?

references matrix matrix-calculus

— Clarinettiste
source

4

Avez-vous considéré Harville, Matrix Algebra du point de vue des statisticiens ? Les premiers chapitres devraient être relativement élémentaires mais ensuite ça reprend.

— usεr11852 dit Réintégrer Monic le

2

amazon.com/Matrix-Algebra-Econometric-Exercises-Vol/dp/…

— Khashaa

1

J'utilise souvent cette entrée Wikipédia pour trouver des identités de problèmes de calcul matriciel: en.wikipedia.org/wiki/Matrix_calculus

— Tommy L

9

Pour la plupart des questions matricielles, je me réfère toujours d'abord au "Livre de recettes Matrix" (voir ici ).

Il est régulièrement mis à jour en raison des commentaires de diverses sources. Il contient des preuves, mais il est principalement conçu comme un manuel.

— Laurens van de Wiel
source

3

Si vous avez trouvé trop de théorie dans le livre de Magnus et Neudecker, je recommande celui-ci, également écrit par Magnus:

Abadir, KM et Magnus, JR Matrix Algebra Cambridge University Press, 2005

qui met davantage l'accent sur les applications du calcul matriciel.

— Arrigo Benedetti
source

2

Un utilisateur a supprimé automatiquement la réponse utile suivante, que je reproduis ici dans son intégralité afin que ses informations ne soient pas perdues:

Vous n'avez pas vraiment besoin de beaucoup de résultats sur les dérivés vectoriels et matriciels pour ML, et l'article de Tom Minka en couvre la plupart, mais le traitement définitif est le calcul différentiel matriciel de Magnus & Neudecker avec des applications en statistiques et en économétrie .

En effet, Magnus & Neudecker a d'excellentes critiques sur le papier d'Amazon et Tom Minka ( Old and New Matrix Algebra Utile pour Statistics , 2000) contient de nombreuses formules utiles, bien qu'il avertisse "c'est du matériel avancé".

— Whuber
source

1

Je recommande fortement ce document de 26 pages de l'Université de Stanford:

" Revue et référence d'algèbre linéaire " par Zico Kolter

Il se concentre vraiment sur les calculs de somme typiques avec beaucoup de i et j partout et vous indique le calcul matriciel correspondant (c'est-à-dire en utilisant leur implémentation "vectorisée").

Il vous aide à reconnaître immédiatement le type de formule matricielle que vous devez écrire pour effectuer vos calculs.

— tmangin
source