Existe-t-il une interprétation bayésienne, ML ou MDL connue de la validation croisée? Puis-je interpréter la validation croisée comme effectuant la bonne mise à jour sur une version antérieure spécialement conçue?
Existe-t-il une interprétation bayésienne, ML ou MDL connue de la validation croisée? Puis-je interpréter la validation croisée comme effectuant la bonne mise à jour sur une version antérieure spécialement conçue?
Réponses:
La validation croisée vise à une estimation impartiale du risque (alias Erreur de test ou Erreur de prédiction). Dans le cas où votre fonction de perte est inférieure à la probabilité log (générative), la validation croisée renverra la probabilité log attendue de votre modèle. Il en va de même si votre fonction de perte a une motivation bayésienne.
MDL vise également à une estimation non biaisée du risque. Il s'agit donc d'une approche analytique de ce que CV fait par calcul.
Voir la section 7.2 dans Éléments d'apprentissage statistique .