Erreur quadratique moyenne

En statistique , l' erreur quadratique moyenne ( MSE ) ou l'écart quadratique moyen ( MSD ) d'un estimateur (d'une procédure d'estimation d'une quantité non observée) mesure la moyenne des carrés des erreurs , c'est-à-dire la différence quadratique moyenne entre les valeurs estimées et la valeur réelle. L'MSE est une fonction de risque , correspondant à la valeur attendue de la perte par erreur quadratique . Le fait que l'MSE soit presque toujours strictement positive (et non nulle) est dû au caractère aléatoire ou au fait que l'estimateur ne tient pas compte des informations qui pourraient produire une estimation plus précise. Dans l'apprentissage automatique , en particulier la minimisation du risque empirique , l'MSE peut faire référence au risque empirique (la perte moyenne sur un ensemble de données observées), en tant qu'estimation du véritable MSE (le véritable risque : la perte moyenne sur la distribution de population réelle).

L'erreur quadratique moyenne est une mesure de la qualité d'un estimateur. Comme elle est dérivée du carré de la distance euclidienne , il s'agit toujours d'une valeur positive qui diminue à mesure que l'erreur se rapproche de zéro.

L'erreur quadratique moyenne est le deuxième moment (autour de l'origine) de l'erreur, et intègre donc à la fois la variance de l'estimateur (la dispersion des estimations d'un échantillon de données à l'autre) et son biais (la distance entre la valeur moyenne estimée et la valeur vraie). Pour un estimateur sans biais , l'erreur quadratique moyenne est la variance de l'estimateur. Comme la variance, l'erreur quadratique moyenne a les mêmes unités de mesure que le carré de la quantité estimée. Par analogie avec l'écart type , prendre la racine carrée de l'erreur quadratique moyenne donne l' erreur quadratique moyenne ou l'écart quadratique moyen (RMSE ou RMSD), qui a les mêmes unités que la quantité estimée ; pour un estimateur sans biais, l'erreur quadratique moyenne est la racine carrée de la variance , appelée erreur type .

L'erreur quadratique moyenne évalue soit la qualité d'un prédicteur (c'est-à-dire une fonction associant des entrées arbitraires à un échantillon de valeurs d'une variable aléatoire ), soit celle d'un estimateur (c'est-à-dire une fonction mathématique associant un échantillon de données à une estimation d'un paramètre de la population à partir de laquelle les données sont échantillonnées). Dans le contexte de la prédiction, il peut également être utile de comprendre l' intervalle de prédiction , car il fournit une plage dans laquelle une observation future se situera, avec une certaine probabilité. La définition d'une erreur quadratique moyenne diffère selon que l'on décrit un prédicteur ou un estimateur.

Si un vecteur de prédictions est généré à partir d'un échantillon de points de données sur toutes les variables, et est le vecteur des valeurs observées de la variable prédite, avec les valeurs prédites (par exemple à partir d'un ajustement des moindres carrés ), alors l'erreur quadratique moyenne intra-échantillon du prédicteur est calculée comme

En d'autres termes, l'erreur quadratique moyenne est la moyenne des carrés des erreurs . Il s'agit d'une quantité facilement calculable pour un échantillon particulier (et qui dépend donc de l'échantillon).

En notation matricielle ,

où est et est un vecteur colonne.

Le MSE peut également être calculé sur q points de données qui n'ont pas été utilisés dans l'estimation du modèle, soit parce qu'ils ont été retenus à cette fin, soit parce que ces données ont été obtenues récemment. Dans ce processus, connu sous le nom de validation croisée , le MSE est souvent appelé MSE de test, et est calculé comme

L'erreur quadratique moyenne d'un estimateur par rapport à un paramètre inconnu est définie comme

Cette définition dépend du paramètre inconnu, mais l'erreur quadratique moyenne est a priori une propriété d'un estimateur. L'erreur quadratique moyenne pourrait être une fonction de paramètres inconnus, auquel cas tout estimateur de l'erreur quadratique moyenne basé sur les estimations de ces paramètres serait une fonction des données (et donc une variable aléatoire). Si l'estimateur est dérivé d'une statistique d'échantillon et est utilisé pour estimer un paramètre de population, alors l'espérance est relative à la distribution d'échantillonnage de la statistique d'échantillon.

L'erreur quadratique moyenne peut être écrite comme la somme de la variance de l'estimateur et du biais au carré de l'estimateur, ce qui constitue un moyen utile de calculer l'erreur quadratique moyenne et implique que dans le cas d'estimateurs sans biais, l'erreur quadratique moyenne et la variance sont équivalentes.

Une preuve encore plus courte peut être obtenue en utilisant la formule bien connue selon laquelle pour une variable aléatoire , . En remplaçant par, , nous avons Mais dans le cas d'une modélisation réelle, l'erreur quadratique moyenne pourrait être décrite comme l'addition de la variance du modèle, du biais du modèle et de l'incertitude irréductible (voir Compromis biais-variance ). Selon la relation, l'erreur quadratique moyenne des estimateurs pourrait être simplement utilisée pour la comparaison d'efficacité , qui inclut les informations sur la variance et le biais de l'estimateur. C'est ce qu'on appelle le critère de l'erreur quadratique moyenne.

Dans l'analyse de régression , le traçage est une façon plus naturelle de visualiser la tendance générale de l'ensemble des données. La moyenne de la distance entre chaque point et le modèle de régression prédit peut être calculée et affichée sous la forme de l'erreur quadratique moyenne. La mise au carré est essentielle pour réduire la complexité avec des signes négatifs. Pour minimiser l'erreur quadratique moyenne, le modèle pourrait être plus précis, ce qui signifierait que le modèle est plus proche des données réelles. Un exemple de régression linéaire utilisant cette méthode est la méthode des moindres carrés , qui évalue la pertinence du modèle de régression linéaire pour modéliser un ensemble de données bivariées , mais dont la limitation est liée à la distribution connue des données.

Le terme erreur quadratique moyenne est parfois utilisé pour désigner l'estimation non biaisée de la variance d'erreur : la somme résiduelle des carrés divisée par le nombre de degrés de liberté . Cette définition d'une quantité connue et calculée diffère de la définition ci-dessus pour l'erreur quadratique moyenne calculée d'un prédicteur, dans la mesure où un dénominateur différent est utilisé. Le dénominateur est la taille de l'échantillon réduite du nombre de paramètres du modèle estimés à partir des mêmes données, ( n − p ) pour les régresseurs p ou ( n − p −1) si une interception est utilisée (voir erreurs et résidus en statistiques pour plus de détails). Bien que l'erreur quadratique moyenne (telle que définie dans cet article) ne soit pas un estimateur non biaisé de la variance d'erreur, elle est cohérente , compte tenu de la cohérence du prédicteur.

Dans l'analyse de régression, l'« erreur quadratique moyenne », souvent appelée erreur quadratique moyenne de prédiction ou « erreur quadratique moyenne hors échantillon », peut également désigner la valeur moyenne des écarts au carré des prédictions par rapport aux valeurs réelles, sur un espace de test hors échantillon , généré par un modèle estimé sur un espace d'échantillon particulier . Il s'agit également d'une quantité connue et calculée, qui varie selon l'échantillon et selon l'espace de test hors échantillon.

Dans le contexte des algorithmes de descente de gradient, il est courant d'introduire un facteur de dans l'erreur quadratique moyenne pour faciliter le calcul après avoir pris la dérivée. Ainsi, une valeur qui est techniquement la moitié de la moyenne des erreurs quadratiques peut être appelée l'erreur quadratique moyenne.

Supposons que nous ayons un échantillon aléatoire de taille provenant d'une population, . Supposons que les unités d'échantillon aient été choisies avec remplacement . C'est-à-dire que les unités sont sélectionnées une par une, et les unités précédemment sélectionnées sont toujours éligibles à la sélection pour tous les tirages. L'estimateur habituel pour le est la moyenne de l'échantillon

qui a une valeur attendue égale à la vraie moyenne (donc elle est sans biais) et une erreur quadratique moyenne de

où est la variance de la population .

Pour une distribution gaussienne , il s'agit du meilleur estimateur non biaisé (c'est-à-dire celui avec l'erreur quadratique moyenne la plus faible parmi tous les estimateurs non biaisés), mais pas, par exemple, pour une distribution uniforme .

L'estimateur habituel de la variance est la variance corrigée de l'échantillon :

Il s'agit d'une variance non biaisée (sa valeur attendue est ), donc également appelée variance d'échantillon non biaisée, et son MSE est

où est le quatrième moment central de la distribution ou de la population, et est l' excès de kurtosis .

Cependant, on peut utiliser d'autres estimateurs pour qui sont proportionnels à , et un choix approprié peut toujours donner une erreur quadratique moyenne plus faible. Si nous définissons

alors on calcule :

Ceci est minimisé lorsque

Pour une distribution gaussienne , où , cela signifie que l'erreur quadratique moyenne est minimisée en divisant la somme par . L'excès d'aplatissement minimal est , qui est obtenu par une distribution de Bernoulli avec p = 1/2 (un lancer de pièce), et l'erreur quadratique moyenne est minimisée pour Ainsi, quelle que soit l'aplatissement, nous obtenons une « meilleure » estimation (au sens d'avoir une erreur quadratique moyenne plus faible) en réduisant un peu l'estimateur sans biais ; c'est un exemple simple d' estimateur par rétrécissement : on « rétrécit » l'estimateur vers zéro (on réduit l'estimateur sans biais).

De plus, bien que la variance d'échantillon corrigée soit le meilleur estimateur non biaisé (erreur quadratique moyenne minimale parmi les estimateurs non biaisés) de la variance pour les distributions gaussiennes, si la distribution n'est pas gaussienne, alors même parmi les estimateurs non biaisés, le meilleur estimateur non biaisé de la variance peut ne pas être

Le tableau suivant donne plusieurs estimateurs des vrais paramètres de la population, μ et σ ² , pour le cas gaussien.

Un MSE de zéro, signifiant que l'estimateur prédit les observations du paramètre avec une précision parfaite, est idéal (mais généralement pas possible).

Les valeurs de l'erreur quadratique moyenne peuvent être utilisées à des fins de comparaison. Deux ou plusieurs modèles statistiques peuvent être comparés à l'aide de leur erreur quadratique moyenne, qui mesure la façon dont ils expliquent un ensemble donné d'observations : un estimateur sans biais (estimé à partir d'un modèle statistique) présentant la plus petite variance parmi tous les estimateurs sans biais est le meilleur estimateur sans biais ou MVUE ( Minimum-Variance Unbiased Estimator ).

Les techniques d'analyse de la variance et de régression linéaire estiment l'erreur quadratique moyenne dans le cadre de l'analyse et utilisent l'erreur quadratique moyenne estimée pour déterminer la signification statistique des facteurs ou des prédicteurs étudiés. L'objectif de la conception expérimentale est de construire des expériences de telle manière que lorsque les observations sont analysées, l'erreur quadratique moyenne soit proche de zéro par rapport à l'ampleur d'au moins un des effets de traitement estimés.

Dans l'analyse de la variance à un facteur , l'erreur quadratique moyenne peut être calculée en divisant la somme des erreurs au carré par le degré de liberté. De plus, la valeur f est le rapport entre le carré moyen du traitement et l'erreur quadratique moyenne.

L'MSE est également utilisé dans plusieurs techniques de régression par étapes dans le cadre de la détermination du nombre de prédicteurs d'un ensemble de candidats à inclure dans un modèle pour un ensemble donné d'observations.

• La minimisation de l'erreur quadratique moyenne est un critère essentiel dans la sélection des estimateurs : voir erreur quadratique moyenne minimale . Parmi les estimateurs non biaisés, minimiser l'erreur quadratique moyenne équivaut à minimiser la variance, et l'estimateur qui y parvient est l' estimateur non biaisé à variance minimale . Cependant, un estimateur biaisé peut avoir une erreur quadratique moyenne inférieure ; voir biais de l'estimateur .
• Dans la modélisation statistique, l'erreur quadratique moyenne peut représenter la différence entre les observations réelles et les valeurs d'observation prédites par le modèle. Dans ce contexte, elle est utilisée pour déterminer dans quelle mesure le modèle s'adapte aux données et si la suppression de certaines variables explicatives est possible sans nuire de manière significative à la capacité prédictive du modèle.
• En matière de prévision et de prédiction , le score de Brier est une mesure de la compétence de prévision basée sur le MSE.

La perte par erreur quadratique est l'une des fonctions de perte les plus largement utilisées en statistique, bien que son utilisation répandue soit davantage due à des raisons de commodité mathématique qu'à des considérations de perte réelle dans les applications. Carl Friedrich Gauss , qui a introduit l'utilisation de l'erreur quadratique moyenne, était conscient de son caractère arbitraire et était d'accord avec les objections à son égard pour ces raisons. Les avantages mathématiques de l'erreur quadratique moyenne sont particulièrement évidents dans son utilisation pour analyser les performances de la régression linéaire , car elle permet de partitionner la variation d'un ensemble de données en variation expliquée par le modèle et variation expliquée par le hasard.

L'utilisation de l'erreur quadratique moyenne sans discussion a été critiquée par le théoricien de la décision James Berger . L'erreur quadratique moyenne est l'inverse de la valeur attendue d'une fonction d'utilité spécifique , la fonction d'utilité quadratique, qui peut ne pas être la fonction d'utilité appropriée à utiliser dans un ensemble de circonstances donné. Il existe cependant certains scénarios dans lesquels l'erreur quadratique moyenne peut servir de bonne approximation d'une fonction de perte se produisant naturellement dans une application.

Comme la variance , l'erreur quadratique moyenne présente l'inconvénient de pondérer fortement les valeurs aberrantes . Cela résulte de la mise au carré de chaque terme, qui pondère effectivement les grandes erreurs plus lourdement que les petites. Cette propriété, indésirable dans de nombreuses applications, a conduit les chercheurs à utiliser des alternatives telles que l' erreur absolue moyenne ou celles basées sur la médiane .