seuil de calcul pour le classificateur de risque minimum?

Supposons que deux classes et ont un attribut et ont la distribution et . si nous avons égal pour la matrice de coût suivante: $C_1$ $C_2$ $x$ $\cal{N} (0, 0.5)$ $\cal{N} (1, 0.5)$ $P(C_1)=P(C_2)=0.5$

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix}$

pourquoi, est le seuil du classificateur de risque (coût) minimum? $x_0 < 0.5$

Ceci est mon exemple de note que je comprends mal (c.-à-d. Comment ce seuil est atteint?)

Edit 1: Je pense que pour les seuils de rapport de vraisemblance, nous pouvons utiliser P (C1) / P (C2).

Edit 2: J'ajoute de Duda Book on Pattern du texte sur le seuil. entrez la description de l'image ici

— user153695
source

Pour une matrice de coûts

L = [\begin{matrix} 0 & 0.5 \\ 1 & 0 \end{matrix}] \begin{matrix} c_{1} \\ c_{2} \end{matrix} prediction \begin{matrix} c_{1} & c_{2} \end{matrix} truth

$L= \begin{bmatrix} 0 & 0.5 \\ 1 & 0 \end{bmatrix} \begin{matrix} c_1 \\ c_2 \end{matrix} \;\text{prediction} \\ \hspace{-1.9cm} \begin{matrix} c_1 & c_2 \end{matrix} \\ \hspace{-1.9cm}\text{truth}$

la perte de prédire la classe lorsque la vérité est la classe est , et le coût de prédire la classe lorsque la vérité est la classe est . Il n'y a aucun coût pour des prédictions correctes, . Le risque conditionnel pour prédire l'une ou l'autre classe est alors $c_1$ $c_2$ $L_{12} = 0.5$ $c_2$ $c_1$ $L_{21} = 1$ $L_{11} = L_{22} = 0$ $R$ $k$

\begin{aligned} R (c_{1} | x) & = L_{11} Pr (c_{1} | x) + L_{12} Pr (c_{2} | x) = L_{12} Pr (c_{2} | x) \\ R (c_{2} | x) & = L_{22} Pr (c_{2} | x) + L_{21} Pr (c_{1} | x) = L_{21} Pr (c_{1} | x) \end{aligned}

$\begin{align} R(c_1|x) &= L_{11} \Pr (c_1|x) + L_{12} \Pr (c_2|x) = L_{12} \Pr (c_2|x) \\ R(c_2|x) &= L_{22} \Pr (c_2|x) + L_{21} \Pr (c_1|x) = L_{21} \Pr (c_1|x) \end{align}$ Pour un référence voir ces notes à la page 15.

Afin de minimiser le risque / la perte, vous prédisez si le coût de l'erreur de le faire (c'est la perte de la mauvaise prédiction multiplié par la probabilité postérieure que la prédiction est fausse ) est inférieur au coût de la prévision erronée de l'alternative, $c_1$ $L_{12} \Pr (c_2|x)$

\begin{aligned} L_{12} Pr (c_{2} | x) & < L_{21} Pr (c_{1} | x) \\ L_{12} Pr (x | c_{2}) Pr (c_{2}) & < L_{21} Pr (x | c_{1}) Pr (c_{1}) \\ \frac{L_{12} Pr (c_{2})}{L_{21} Pr (c_{1})} & < \frac{Pr (x | c_{1})}{Pr (x | c_{2})} \end{aligned}

$\begin{align} L_{12} \Pr (c_2|x) &< L_{21} \Pr (c_1|x) \\ L_{12} \Pr (x|c_2) \Pr (c_2) &< L_{21} \Pr (x|c_1) \Pr (c_1) \\ \frac{L_{12} \Pr (c_2)}{L_{21} \Pr (c_1)} &< \frac{\Pr (x|c_1)}{ \Pr (x|c_2)} \end{align}$ où la deuxième ligne utilise la règle de Bayes . À probabilités antérieures égales vous obtenez

Pr (c_{2} | x) \propto Pr (x | c_{2}) Pr (c_{2})

$\Pr (c_2|x) \propto \Pr (x|c_2) \Pr (c_2)$

Pr (c_{1}) = Pr (c_{2}) = 0.5

$\Pr (c_1) = \Pr (c_2) = 0.5$

\frac{1}{2} < \frac{Pr (x | c_{1})}{Pr (x | c_{2})}

$\frac{1}{2} < \frac{\Pr (x|c_1)}{ \Pr (x|c_2)}$

vous choisissez donc de classer une observation car est le rapport de vraisemblance supérieur à ce seuil. Maintenant, il n'est pas clair pour moi si vous vouliez connaître le "meilleur seuil" en termes de rapports de vraisemblance ou en termes d'attribut . La réponse change en fonction de la fonction de coût. Utilisation du gaussien dans l'inégalité avec et , , $c_1$ $x$ $\sigma_1 = \sigma_2 = \sigma$ $\mu_1 = 0$ $\mu_2 = 1$

\begin{aligned} \frac{1}{2} & < \frac{\frac{1}{\sqrt{2 π} σ} \exp [- \frac{1}{2 σ^{2}} (x - μ_{1})^{2}]}{\frac{1}{\sqrt{2 π} σ} \exp [- \frac{1}{2 σ^{2}} (x - μ_{2})^{2}]} \\ \log (\frac{1}{2}) & < \log (\frac{1}{\sqrt{2 π} σ}) - \frac{1}{2 σ^{2}} (x - 0)^{2} - [\log (\frac{1}{\sqrt{2 π} σ}) - \frac{1}{2 σ^{2}} (x - 1)^{2}] \\ \log (\frac{1}{2}) & < - \frac{x^{2}}{2 σ^{2}} + \frac{x^{2}}{2 σ^{2}} - \frac{2 x}{2 σ^{2}} + \frac{1}{2 σ^{2}} \\ \frac{x}{σ^{2}} & < \frac{1}{2 σ^{2}} - \log (\frac{1}{2}) \\ x & < \frac{1}{2} - \log (\frac{1}{2}) σ^{2} \end{aligned}

$\begin{align} \frac{1}{2} &< \frac{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_1)^2 \right]}{\frac{1}{\sqrt{2\pi}\sigma}\exp \left[ -\frac{1}{2\sigma^2}(x-\mu_2)^2 \right]} \\ \log \left(\frac{1}{2}\right) &< \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-0)^2 - \left[ \log \left(\frac{1}{\sqrt{2\pi}\sigma}\right) -\frac{1}{2\sigma^2}(x-1)^2 \right] \\ \log \left(\frac{1}{2}\right) &< -\frac{x^2}{2\sigma^2} + \frac{x^2}{2\sigma^2} - \frac{2x}{2\sigma^2} + \frac{1}{2\sigma^2} \\ \frac{x}{\sigma^2} &< \frac{1}{2\sigma^2} - \log \left(\frac{1}{2}\right) \\ x &< \frac{1}{2} - \log \left(\frac{1}{2}\right) \sigma^2 \end{align}$ donc un seuil de prédiction en termes de

x

$x$ que vous recherchez ne peut être atteint que si les pertes résultant de fausses prédictions sont les mêmes, c.-à-d. car alors seulement vous pouvez avoir et vous obtenez le .

L_{12} = L_{21}

$L_{12} = L_{21}$

\log (\frac{L_{12}}{L_{21}}) = \log (1) = 0

$\log \left( \frac{L_{12}}{L_{21}} \right) = \log (1) = 0$

x_{0} < \frac{1}{2}

$x_0 < \frac{1}{2}$

— Andy
source

Belle réponse, mais m'a confondu! si vous voulez choisir ou , lequel est correct?

x_{0} = 0.5

$x_0=0.5$

x_{0} < 0.5

$x_0<0.5$

— user153695

Donc, juste sur la frontière de décision vous ne pouvez pas dire exactement si une observation doit être dans la classe un ou deux (car elle est exactement sur la frontière). Donc, choisissez si l'observation doit être dans la classe 1 si ou vous appartient. Avec des échantillons suffisamment grands, cela devrait se produire pour très peu d'observations, donc à la marge, il importera de la litière pour votre résultat.

x_{0} = 0.5

$x_0=0.5$

i

$i$

x_{0} \leq 0.5

$x_0 \leq 0.5$

x_{0} < 0.5

$x_0 < 0.5$

— Andy

tout mon problème qui lui a valu la générosité avec mon prof. calculé et n'accepte pas s'il vous plaît voir ma modification en question, je seuil mince devrait être .

x_{0} < 0.5

$x_0<0.5$

x_{0} = 0.5

$x_0=0.5$

x_{0} < 0.5

$x_0<0.5$

— user153695

peut-être 0,5 ln :)

— user153695

@whuber merci, j'ai complètement raté ça, alors je suis parti d'une mauvaise fin.

— Andy