Questions marquées «machine-learning»

Nouveau dans l'apprentissage statistique et automatique et prenant des cours en ligne. J'essaie de comprendre la régression logistique plus en détail et j'ai remarqué une différence dans la formule entre le cours Andrew Ng et le cours d'apprentissage statistique de Stanford. Ci-dessous, je poste une image de lien vers les …

8 regression  machine-learning  logistic 

Je suis nouveau dans la conversion de formules en formulaire matriciel. Mais cela est nécessaire pour un code d'apprentissage automatique efficace. Je veux donc comprendre la "bonne" façon, pas les trucs de cow-boy que je fais. D'accord, j'essaie de convertir la somme pondérée des carrés de la forme ci-dessous en …

8 regression  machine-learning  linear-algebra 

Nous étudions souvent le modèle de mélange gaussien comme un modèle utile dans l'apprentissage automatique et ses applications. Quelle est la signification physique de ce " mélange "? Est-il utilisé parce qu'un modèle de mélange gaussien modélise la probabilité d'un certain nombre de variables aléatoires ayant chacune sa propre valeur …

8 machine-learning  distributions  gaussian-mixture  mixture  mathematical-statistics 

De Wikipédia: En modélisation statistique, l' analyse de régression est un processus statistique permettant d'estimer les relations entre les variables. Il comprend de nombreuses techniques de modélisation et d'analyse de plusieurs variables, lorsque l'accent est mis sur la relation entre une variable dépendante et une ou plusieurs variables indépendantes (ou …

8 regression  machine-learning  classification  definition 

Question: Quelqu'un connaît-il des manuels introduisant l'apprentissage automatique (pour la première fois) via l' approche spatiale du noyau de reproduction Hilbert ? C'est-à-dire, qui supposent l'analyse fonctionnelle comme condition préalable, mais ne supposent pas une connaissance préalable de l'apprentissage automatique? Tout article d'enquête serait une seconde proche. Aucun document de …

8 machine-learning  references 

Pour la première fois (excuse imprécision / erreurs) j'ai regardé les processus gaussiens , et plus précisément, j'ai regardé cette vidéo de Nando de Freitas . Les notes sont disponibles en ligne ici . À un moment donné, il tire échantillons aléatoires d'une normale multivariée générée en construisant une matrice …

8 machine-learning  simulation  stochastic-processes  gaussian-process 

Dans SGD, une époque serait la présentation complète des données d'entraînement, puis il y aurait N mises à jour de poids par époque (s'il y a N exemples de données dans l'ensemble d'entraînement). Si nous faisons maintenant des mini-lots à la place, disons par lots de 20. Une époque se …

8 machine-learning  neural-networks 

Je voulais former un réseau avec des non-linéarités qui souffrent de la disparition (ou du problème de gradient explosif mais principalement de la disparition). Je sais que la méthode standard (actuelle) consiste à utiliser la normalisation par lots 1 [BN] 1 ou simplement à abandonner la non-linéarité et à utiliser …

8 machine-learning  neural-networks  conv-neural-network  batch-normalization 

En général, dois-je recycler mon réseau de neurones avec moins de neurones afin qu'il ait moins de neurones ReLU morts? J'ai lu des opinions contradictoires sur les ReLU morts. Certaines sources affirment que les ReLU morts sont bons car ils encouragent la rareté. D'autres disent qu'ils sont mauvais parce que …

8 machine-learning  neural-networks  conv-neural-network 

Soit f [x] un mélange gaussien pdf avec n termes de poids uniforme, signifie , et les variances correspondantes :{μ1,...,μn}{μ1,...,μn}\{\mu_{1},...,\mu_{n}\}{σ1,...,σn}{σ1,...,σn}\{\sigma_{1},...,\sigma_{n}\} f(x)≡1n∑i=1n12πσ2i−−−−√e−(x−μi)22σ2if(x)≡1n∑i=1n12πσi2e−(x−μi)22σi2f(x)\equiv\frac{1}{n}\sum_{i=1}^{n}\frac{1}{\sqrt{2\pi\sigma_{i}^{2}}}e^{-\frac{(x-\mu_{i})^{2}}{2\sigma_{i}^{2}}} Il semble intuitif que la log-liklihood échantillonnée aux n centres gaussiens serait supérieure (ou égale) à la log-liklihood moyenne: 1n∑j=1nln(f(μj))≥∫f(x)ln(f(x))dx1n∑j=1nln(f(μj))≥∫f(x)ln(f(x))dx\frac{1}{n}\sum_{j=1}^{n}ln(f(\mu_{j}))\geq\int f(x)ln(f(x))dx C'est évidemment vrai pour les petites variances (chaque …

8 machine-learning  gaussian-mixture 

J'ai commencé à lire sur les réseaux neuronaux récurrents (RNN) et la mémoire à court terme (LSTM) ... (... oh, pas assez de points de répétition ici pour lister les références ...) Une chose que je ne comprends pas: il semble toujours que les neurones dans chaque instance d'une couche …

8 machine-learning  neural-networks  backpropagation 

J'ai récemment étudié la théorie derrière les ANN et je voulais comprendre la «magie» derrière leur capacité de classification multi-classe non linéaire. Cela m'a conduit à ce site Web qui explique bien comment géométriquement cette approximation est réalisée. Voici comment je l'ai compris (en 3D): Les couches cachées peuvent être …

8 machine-learning  neural-networks  approximation  intuition  function 

L'apprentissage statistique et ses résultats sont actuellement omniprésents en sciences sociales. Il y a quelques mois, Guido Imbens a déclaré: "LASSO est le nouvel OLS". J'ai un peu étudié le Machine Learning et je sais que son objectif principal est la prédiction. Je suis également d'accord avec la distinction de …

8 machine-learning  lasso  causality 

Supposons que j'alimente une matrice 2D de forme (99,13) en entrée d'une couche LSTM. J'ai n nombre de fichiers, où chacun contient (99,13) des vecteurs de taille. J'ai décidé de considérer 13 comme le nombre de fonctionnalités et 99 comme les pas de temps. (Lors de l'implémentation avec Keras, j'ai …

8 machine-learning  lstm  rnn 

https://www.tensorflow.org/ Tous les projets sur TensorFlow que j'ai vus dans GitHub implémentent une sorte de modèle de réseau neuronal. Étant donné que TensorFlow est une amélioration par rapport au DAG (il n'est plus acyclique), je me demandais si certaines lacunes inhérentes le rendaient inapproprié pour le modèle général d'apprentissage automatique. …

8 machine-learning  neural-networks  deep-learning  supervised-learning  tensorflow