Régression quantile: fonction de perte

J'essaie de comprendre la régression quantile, mais une chose qui me fait souffrir est le choix de la fonction de perte.

$\rho_\tau(u) = u(\tau-1_{\{u<0\}})$

Je sais que le minimum de l'attente de est égal au -quantile, mais quelle est la raison intuitive de commencer avec cette fonction? Je ne vois pas la relation entre la minimisation de cette fonction et le quantile. Quelqu'un peut-il me l'expliquer?τ $\rho_\tau(y-u)$$\tau\%$

Je comprends cette question comme demandant un aperçu de la façon dont on pourrait trouver une fonction de perte qui produit un quantile donné comme minimiseur de perte, quelle que soit la distribution sous-jacente. Il ne serait donc pas satisfaisant de répéter l'analyse sur Wikipedia ou ailleurs qui montre que cette fonction de perte particulière fonctionne.

Commençons par quelque chose de familier et de simple.

Qu'est - ce que vous parlez est de trouver un « emplacement » par rapport à une distribution ou un ensemble de données . Il est bien connu, par exemple, que la moyenne ˉ x minimise le carré résiduel attendu; c'est-à-dire que c'est une valeur pour laquelle$x^{*}$$F$$\bar x$

$$\mathcal{L}_F(\bar x)=\int_{\mathbb{R}} (x - \bar x)^2 dF(x)$$

est aussi petit que possible. J'ai utilisé cette notation pour nous rappeler que est dérivé d'une perte , qu'il est déterminé par F , mais plus important encore, cela dépend du nombre ˉ x .$\mathcal{L}$$F$$\bar x$

La façon standard de montrer que minimise toute fonction commence par démontrer que la valeur de la fonction ne diminue pas lorsque x ∗ est légèrement modifié. Une telle valeur est appelée un point critique de la fonction.$x^{*}$$x^{*}$

Quel type de fonction de perte ferait d'un centile F - 1 ( α ) un point critique? La perte pour cette valeur serait$\Lambda$$F^{-1}(\alpha)$

$$\mathcal{L}_F(F^{-1}(\alpha)) = \int_{\mathbb{R}} \Lambda(x-F^{-1}(\alpha))dF(x)=\int_0^1\Lambda\left(F^{-1}(u)-F^{-1}(\alpha)\right)du.$$

Pour que ce soit un point critique, sa dérivée doit être nulle. Puisque nous essayons juste de trouver une solution, nous ne nous arrêterons pas pour voir si les manipulations sont légitimes: nous prévoyons de vérifier les détails techniques (comme si nous pouvons vraiment différencier , etc. ) à la fin. Ainsi$\Lambda$

$$\eqalign{0 &=\mathcal{L}_F^\prime(x^{*})= \mathcal{L}_F^\prime(F^{-1}(\alpha))= -\int_0^1 \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du \\ &= -\int_0^{\alpha} \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du -\int_{\alpha}^1 \Lambda^\prime\left(F^{-1}(u)-F^{-1}(\alpha)\right)du.\tag{1} }$$

Sur le côté gauche, l'argument de est négatif, tandis que sur le côté droit il est positif. En dehors de cela, nous avons peu de contrôle sur les valeurs de ces intégrales car F pourrait être n'importe quelle fonction de distribution. Par conséquent, notre seul espoir est de faire dépendre Λ ′ uniquement du signe de son argument, et sinon il doit être constant.$\Lambda$$F$$\Lambda^\prime$

Cela implique que sera linéaire par morceaux, potentiellement avec des pentes différentes à gauche et à droite de zéro. De toute évidence, il devrait diminuer à l'approche de zéro - c'est, après tout, une perte et non un gain . De plus, le redimensionnement de Λ par une constante ne changera pas ses propriétés, nous pouvons donc nous sentir libres de régler la pente de gauche sur - 1 . Soit τ > 0 la pente de droite. Alors ( 1 ) se simplifie pour$\Lambda$$\Lambda$$-1$$\tau \gt 0$$(1)$

$$0 = \alpha - \tau (1 - \alpha),$$

d'où la solution unique est, jusqu'à un multiple positif,

$$\Lambda(x) = \cases{-x, \ x \le 0 \\ \frac{\alpha}{1-\alpha}x, \ x \ge 0.}$$

La multiplication de cette solution (naturelle) par , pour effacer le dénominateur, produit la fonction de perte présentée dans la question.$1-\alpha$

Clairement, toutes nos manipulations sont mathématiquement légitimes lorsque a cette forme. $\Lambda$

$$\rho_\tau(X-m) = (X-m)(\tau-1_{(X-m<0)}) = \begin{cases} \tau |X-m| & if \; X-m \ge 0 \\ (1 - \tau) |X-m| & if \; X-m < 0) \end{cases}$$

$\tau$$X$$\tau$$0.25$

$m=0.25$$m$$\tau$