J'utilise XGboost pour prédire une variable cible 2 classes sur les demandes d'assurance. J'ai un modèle (formation avec validation croisée, réglage d'hyper paramètres etc ...) que je lance sur un autre jeu de données.
Ma question est :
existe-t-il un moyen de savoir pourquoi une revendication donnée a été affectée à une classe, c'est-à-dire les caractéristiques qui expliquent le choix fait par le modèle?
Le but est de pouvoir justifier le choix fait par la machine à un tiers humain.
Merci pour votre réponse.