Statistiques et Big Data

2

Meilleure façon d'initialiser l'état LSTM

Je me demandais quelle était la meilleure façon d'initialiser l'état des LSTM. Actuellement, je viens de l'initialiser à tous les zéros. Je ne trouve vraiment rien en ligne sur la façon de l'initialiser. Une chose que je pensais faire était de faire de l'état initial un paramètre entraînable. Aucun conseil?

10 neural-networks lstm

2

Comment définir la taille du mini-lot dans SGD en keras

Je suis nouveau à Keras et j'ai besoin de votre aide. J'entraîne un réseau neuronal à Keras et ma fonction de perte est la sortie et la valeur cible de la différence nette au noir et blanc. Je veux optimiser cela en utilisant Gradient Descent. Après avoir parcouru quelques liens …

10 neural-networks python gradient-descent keras sgd

1

Qu'est-ce que le sous-espace principal dans l'ACP probabiliste?

si est observé matrice de données et est variable latente alorsXXXYYY X=WY+μ+ϵX=WY+μ+ϵX=WY+\mu+\epsilon Où est la moyenne des données observées, et est l'erreur / bruit gaussien dans les données, et est appelé sous-espace principal.μμ\muϵϵ\epsilonWWW Ma question est quand une PCA normale est utilisée, nous obtiendrions un ensemble de vecteurs propres orthonormés …

10 machine-learning pca latent-variable eigenvalues

1

estimateur cohérent racine-n, mais racine-n ne converge pas?

J'ai entendu le terme «estimateur cohérent racine-n» utilisé à plusieurs reprises. D'après les ressources qui m'ont été fournies, j'ai pensé qu'un estimateur cohérent "root-n" signifiait que: l'estimateur converge vers la vraie valeur (d'où le mot "cohérent") l'estimateur converge à un taux de1/n−−√1/n1/\sqrt{n} Cela me laisse perplexe, car ne converge pas? …

10 convergence estimators consistency

1

Est-il acceptable d'utiliser la fonction de perte d'entropie croisée avec des étiquettes souples?

J'ai un problème de classification où les pixels seront étiquetés avec des étiquettes souples (qui dénotent des probabilités) plutôt qu'avec des étiquettes rigides 0,1. Auparavant, avec un étiquetage dur de 0,1 pixel, la fonction de perte d'entropie croisée (sigmoidCross entropyLossLayer de Caffe) donnait des résultats décents. Est-il acceptable d'utiliser la …

10 classification loss-functions

3

Abandon: mise à l'échelle de l'activation par rapport à l'inversion de l'abandon

Lors de l'application du décrochage dans les réseaux de neurones artificiels, il faut compenser le fait qu'au moment de l'entraînement, une partie des neurones était désactivée. Pour ce faire, il existe deux stratégies communes: mise à l'échelle de l'activation au moment du test inverser le décrochage pendant la phase de …

10 neural-networks deep-learning dropout

3

Nombre d'échantillons Monte Carlo de la chaîne Markov

Il existe de nombreuses publications sur les diagnostics de convergence de la chaîne de Markov Monte Carlo (MCMC), y compris le diagnostic Gelman-Rubin le plus populaire. Cependant, tous ces éléments évaluent la convergence de la chaîne de Markov et abordent ainsi la question du rodage. Une fois que j'ai compris …

10 sample-size mcmc monte-carlo markov-process

3

Rapport de vraisemblance vs test de Wald

D'après ce que j'ai lu, entre autres sur le site du groupe de consultation en statistiques de l' UCLA, les tests de rapport de vraisemblance et les tests wald sont assez similaires pour tester si deux modèles glm montrent une différence significative dans l'ajustement pour un ensemble de données (excusez-moi …

10 r regression likelihood-ratio

2

Formulation de régression de crête sous contrainte versus pénalisée: comment sont-elles équivalentes?

Je semble mal comprendre une affirmation sur les méthodes de régression linéaire que j'ai vu à divers endroits. Les paramètres du problème sont: Contribution: NNN échantillons de données de quantités constituées chacune d'une quantité de "réponse" et de quantités de "prédicteur"p+1p+1p+1yiyiy_ipppxijxijx_{ij} Le résultat souhaité est un "bon ajustement linéaire" qui …

10 regression ridge-regression

1

Test de Johansen pour la cointégration

Je teste la cointégration en utilisant le test de Johansen. J'ai vu des questions comme comment interpréter les résultats des tests, mais quand j'interprète les miens, j'ai des doutes. Dans mes résultats r = 3depuis 4.10 < 10.49, je ne peux donc pas former une série stationnaire. Il est le …

10 r hypothesis-testing cointegration

2

Intervalle de confiance d'amorçage à partir d'une prédiction de régression

Pour les devoirs, on m'a donné des données pour créer / former un prédicteur qui utilise la régression au lasso. Je crée le prédicteur et je l'entraîne à l'aide de la bibliothèque lasso python de scikit learn. Alors maintenant, j'ai ce prédicteur qui, une fois donné, peut prédire la sortie. …

10 regression machine-learning self-study confidence-interval bootstrap

1

Estimateur du maximum de vraisemblance du paramètre de localisation de la distribution de Cauchy

J'ai atteint jusqu'à dlnLdμ=∑i=1n2(xi−u)1+(xi−u)2dln⁡Ldμ=∑i=1n2(xi−u)1+(xi−u)2\frac{d\ln L}{d\mu}=\sum_{i=1}^n \frac{2(x_i-u)}{1+(x_i-u)^2} Où est le paramètre d'emplacement. Et est la fonction de vraisemblance. Je ne sais pas comment procéder. Veuillez aider.uuuLLL

10 self-study maximum-likelihood cauchy

1

Que sont les valeurs p bayésiennes?

Je cherche une réponse qui satisferait un lecteur qui comprend les valeurs p fréquentistes mais ne comprend que les rudiments des approches bayésiennes des statistiques. À l'heure actuelle, les recherches Google ne révèlent aucune définition ni sur une page Wikipédia ni sur aucune autre ressource communément acceptée. Cette question semble …

10 bayesian p-value

5

Si et sont des événements indépendants et que et sont des événements indépendants, comment puis-je montrer que et sont indépendants?

Soit et des événements indépendants, et que et soient des événements indépendants. Comment puis-je montrer que et sont également des événements indépendants?UNEUNEABBBUNEUNEACCCUNEUNEAB ∪ CB∪CB\cup C Selon la définition des événements indépendants, et sont indépendants si et seulement siUNEUNEAB ∪ CB∪CB\cup CP( A ∩ ( B ∪ C) ) = P( …

10 probability self-study independence

2

Interpréter les coefficients de régression après diverses différences

Il y a peu d'explications que je peux trouver qui décrivent comment interpréter les coefficients de régression linéaire après avoir différencié une série chronologique (pour éliminer une racine unitaire). Est-ce si simple qu'il n'est pas nécessaire de le déclarer formellement? (Je suis au courant de cette question , mais je …

10 time-series multiple-regression econometrics linear-model inference