Statistiques et Big Data softmax

1

Consigner les probabilités en référence au classificateur softmax

Dans ce https://cs231n.github.io/neural-networks-case-study/ pourquoi mentionne-t-il "le classificateur Softmax interprète chaque élément de ff comme détenant les probabilités de log (non normalisées) des trois classes." Je comprends pourquoi il n'est pas normalisé mais pas pourquoi il s'agit d'un journal? Que signifie une probabilité logarithmique? Pourquoi ne pas simplement dire des probabilités …

9 machine-learning neural-networks information-theory softmax

1

Qu'est-ce que le normalisateur de gradient-log?

Dans le wiki, la fonction softmax est définie comme le normalisateur de gradient-log de la distribution de probabilité catégorielle . Une explication partielle du normalisateur de journal se trouve ici , mais que signifie normalisateur de journal de gradient ?

9 softmax

1

Définition de la fonction softmax

Cette question fait suite à stats.stackexchange.com/q/233658 Le modèle de régression logistique pour les classes {0, 1} est P(y=1|x)=exp(wTx)1+exp(wTx)P(y=0|x)=11+exp(wTx)P(y=1|x)=exp⁡(wTx)1+exp⁡(wTx)P(y=0|x)=11+exp⁡(wTx) \mathbb{P} (y = 1 \;|\; x) = \frac{\exp(w^T x)}{1 + \exp(w^T x)} \\ \mathbb{P} (y = 0 \;|\; x) = \frac{1}{1 + \exp(w^T x)} Clairement, ces probabilités sont à 1. En définissant …

8 logistic neural-networks multinomial-logit softmax identifiability

2

Comment dérive l'unité softmax et quelle en est l'implication?

J'essaie de comprendre pourquoi la fonction softmax est définie comme telle: ezjΣKk = 1ezk= σ( z)ezjΣk=1Kezk=σ(z)\frac{e^{z_{j}}} {\Sigma^{K}_{k=1}{e^{z_{k}}}} = \sigma(z) Je comprends comment cela normalise les données et correspond correctement à une certaine plage (0, 1), mais la différence entre les probabilités de poids varie de manière exponentielle plutôt que linéaire. …

8 probability neural-networks softmax

Questions marquées «softmax»