Statistiques et Big Data neural-networks

1

Entropie croisée ou log vraisemblance dans la couche de sortie

J'ai lu cette page: http://neuralnetworksanddeeplearning.com/chap3.html et il a dit que la couche de sortie sigmoïde avec entropie croisée est assez similaire à la couche de sortie softmax avec log-vraisemblance. que se passe-t-il si j'utilise sigmoïde avec log-vraisemblance ou softmax avec entropie croisée dans la couche de sortie? ça va? parce …

31 neural-networks maximum-likelihood softmax

2

Qu'est-ce que mon réseau de neurones vient d'apprendre? De quelles fonctionnalités se soucie-t-il et pourquoi?

Un réseau neuronal apprend les caractéristiques d'un ensemble de données comme moyen d'atteindre un objectif. Une fois cela fait, nous pouvons vouloir savoir ce que le réseau neuronal a appris. Quelles étaient les fonctionnalités et pourquoi s'en souciait-il? Quelqu'un peut-il donner quelques références sur l'ensemble des travaux qui concernent ce …

30 neural-networks deep-learning

2

Réseaux de neurones convolutifs: les neurones centraux ne sont-ils pas surreprésentés en sortie?

[Cette question a également été posée au débordement de la pile] La question en bref J'étudie les réseaux de neurones convolutifs, et je crois que ces réseaux ne traitent pas chaque neurone d'entrée (pixel / paramètre) de manière équivalente. Imaginez que nous ayons un réseau profond (plusieurs couches) qui applique …

30 machine-learning neural-networks convolution

6

Différence entre le réseau de Bayes, le réseau de neurones, l'arbre de décision et les réseaux de Petri

Quelle est la différence entre le réseau neuronal , le réseau bayésien , l' arbre de décision et les réseaux de Petri , même s'ils sont tous des modèles graphiques et décrivent visuellement la relation de cause à effet.

30 machine-learning neural-networks bayesian-network fuzzy

7

Danger de mettre tous les poids initiaux à zéro dans la rétropropagation

Pourquoi est-il dangereux d'initialiser des poids avec des zéros? Y a-t-il un exemple simple qui le démontre?

30 neural-networks backpropagation

2

Que signifie le terme non-linéarités saturantes?

Je lisais l'article ImageNet Classification with Deep Convolutional Neural Networks et dans la section 3, ils expliquaient l'architecture de leur Convolutional Neural Network, ils expliquaient comment ils préféraient utiliser: non linéarité non saturanteF( x ) = m a x ( 0 , x ) .F(X)=muneX(0,X).f(x) = max(0, x). car il …

30 machine-learning neural-networks terminology conv-neural-network

5

Comment gérer les données hiérarchiques / imbriquées dans l'apprentissage automatique

Je vais expliquer mon problème avec un exemple. Supposons que vous souhaitiez prédire le revenu d'un individu en fonction de certains attributs: {âge, sexe, pays, région, ville}. Vous avez un ensemble de données de formation comme ça train <- data.frame(CountryID=c(1,1,1,1, 2,2,2,2, 3,3,3,3), RegionID=c(1,1,1,2, 3,3,4,4, 5,5,5,5), CityID=c(1,1,2,3, 4,5,6,6, 7,7,7,8), Age=c(23,48,62,63, 25,41,45,19, …

29 regression machine-learning multilevel-analysis correlation dataset spatial paired-comparisons cross-correlation clustering aic bic dependent-variable k-means mean standard-error measurement-error errors-in-variables regression multiple-regression pca linear-model dimensionality-reduction machine-learning neural-networks deep-learning conv-neural-network computer-vision clustering spss r weighted-data wilcoxon-signed-rank bayesian hierarchical-bayesian bugs stan distributions categorical-data variance ecology r survival regression r-squared descriptive-statistics cross-section maximum-likelihood factor-analysis likert r multiple-imputation propensity-scores distributions t-test logit probit z-test confidence-interval poisson-distribution deep-learning conv-neural-network residual-networks r survey wilcoxon-mann-whitney ranking kruskal-wallis bias loss-functions frequentist decision-theory risk machine-learning distributions normal-distribution multivariate-analysis inference dataset factor-analysis survey multilevel-analysis clinical-trials

3

Pourquoi les nœuds de polarisation sont-ils utilisés dans les réseaux de neurones?

Pourquoi les nœuds de polarisation sont-ils utilisés dans les réseaux de neurones? Combien devez-vous utiliser? Dans quels calques devez-vous les utiliser: tous les calques masqués et le calque de sortie?

29 machine-learning neural-networks bias-node

3

R: Random Forest lançant NaN / Inf dans l'erreur «appel de fonction étrangère» malgré l'absence de NaN dans l'ensemble de données [fermé]

Fermé. Cette question est hors sujet . Il n'accepte pas actuellement de réponses. Voulez-vous améliorer cette question? Mettez à jour la question afin qu'elle soit sur le sujet pour la validation croisée. Fermé il y a 2 ans . J'utilise caret pour exécuter une forêt aléatoire validée de façon croisée …

29 r random-forest caret regression prediction fitting social-science poisson-distribution distributions characteristic-function bayesian prior regression normal-distribution interaction nonparametric skewness svm standard-deviation standard-error regression-coefficients igraph natural-language word2vec word-embeddings regression machine-learning sampling r regression machine-learning random-forest ensemble sampling unbiased-estimator proof estimators mse probability conditional-probability bayes anova missing-data neural-networks recommender-system r confidence-interval sample multiple-imputation r time-series forecasting mase

4

Comment est-il possible que la perte de validation augmente alors que la précision de validation augmente également

J'entraîne un réseau neuronal simple sur l'ensemble de données CIFAR10. Après un certain temps, la perte de validation a commencé à augmenter, tandis que la précision de validation augmente également. La perte de test et la précision du test continuent de s'améliorer. Comment est-ce possible? Il semble que si la …

28 neural-networks deep-learning conv-neural-network overfitting

3

Ne peut-on pas dire maintenant que les modèles d'apprentissage profond sont interprétables? Les nœuds sont-ils des fonctionnalités?

Pour les modèles statistiques et d'apprentissage automatique, il existe plusieurs niveaux d'interprétabilité: 1) l'algorithme dans son ensemble, 2) des parties de l'algorithme en général 3) des parties de l'algorithme sur des entrées particulières, et ces trois niveaux divisés en deux parties chacun, un pour la formation et un pour la …

27 neural-networks deep-learning interpretation

2

Réseau de neurones: pour la classification binaire, utiliser 1 ou 2 neurones de sortie?

Supposons que je veuille faire une classification binaire (quelque chose appartient à la classe A ou à la classe B). Il existe certaines possibilités pour ce faire dans la couche de sortie d'un réseau de neurones: Utilisez 1 nœud de sortie. La sortie 0 (<0,5) est considérée comme classe A …

27 machine-learning classification neural-networks

2

Fonction de perte de coefficient de dés vs entropie croisée

Lorsque vous entraînez des réseaux neuronaux de segmentation de pixels, tels que des réseaux entièrement convolutionnels, comment décidez-vous d'utiliser la fonction de perte d'entropie croisée par rapport à la fonction de perte de coefficient de dés? Je me rends compte que c'est une question courte, mais je ne sais pas …

27 neural-networks loss-functions cross-entropy

5

Le réseau de neurones profond peut-il se rapprocher de la fonction de multiplication sans normalisation?

Disons que nous voulons faire une régression pour simple en f = x * yutilisant un réseau de neurones profond standard. Je me souviens qu'il y a des reseraches qui disent que NN avec une couche cachée peut apoximer n'importe quelle fonction, mais j'ai essayé et sans normalisation NN n'a …

27 regression machine-learning neural-networks deep-learning

1

Pourquoi les fonctions d'activation non centrées sur zéro sont-elles un problème dans la rétropropagation?

J'ai lu ici ce qui suit: Les sorties sigmoïdes ne sont pas centrées sur zéro . Cela n'est pas souhaitable car les neurones des couches ultérieures de traitement dans un réseau de neurones (plus à ce sujet bientôt) recevraient des données qui ne sont pas centrées sur zéro. Cela a …

26 neural-networks deep-learning backpropagation

Questions marquées «neural-networks»