Cela pourrait être une question fondamentale: quelle est la différence entre le biais et le sous-ajustement? Et, par analogie, quelle est la différence entre la variance et le sur-ajustement? Les termes de chaque paire signifient-ils la même chose? Sinon, quelle est la différence?
Réponses:
Ils ne signifient pas exactement la même chose, mais ils sont corrélés de la manière suivante:
Un sur-ajustement se produit lorsque le modèle capture le bruit et les valeurs aberrantes dans les données avec le motif sous-jacent. Ces modèles ont généralement une variance élevée et un faible biais. Ces modèles sont généralement complexes comme les arbres de décision, les SVM ou les réseaux de neurones qui sont sujets à un ajustement excessif.
Le sous-ajustement se produit lorsque le modèle n'est pas en mesure de capturer le modèle sous-jacent des données. Ces modèles ont généralement une faible variance et un biais élevé. Ces modèles sont généralement simples et ne peuvent pas capturer les modèles complexes dans les données comme les régressions linéaires et logistiques.