Statistiques PRESSE

En statistique , la somme des carrés des erreurs résiduelles prédites ( PRESS ) est une forme de validation croisée utilisée dans l'analyse de régression pour fournir une mesure récapitulative de l' ajustement d'un modèle à un échantillon d'observations qui n'ont pas été elles-mêmes utilisées pour estimer le modèle. Elle est calculée comme la somme des carrés des résidus de prédiction pour ces observations. Plus précisément, la statistique PRESS est une forme exhaustive de validation croisée , car elle teste toutes les manières possibles de diviser les données d'origine en un ensemble d'apprentissage et un ensemble de validation.

Au lieu d' adapter un seul modèle à toutes les données, la validation croisée avec omission d'un point est utilisée pour ajuster N modèles (sur N observations) où, pour chaque modèle, un point de données est exclu de l' ensemble d'apprentissage . La valeur prédite hors échantillon est calculée pour l'observation omise dans chaque cas, et la statistique PRESS est calculée comme la somme des carrés de toutes les erreurs de prédiction résultantes :

Grâce à cette procédure, la statistique PRESS peut être calculée pour un certain nombre de structures de modèles candidates pour le même ensemble de données, les valeurs les plus basses de PRESS indiquant les meilleures structures. Les modèles sur-paramétrés ( sur-ajustés ) tendent à donner de petits résidus pour les observations incluses dans l'ajustement du modèle, mais de grands résidus pour les observations exclues. La statistique PRESS a été largement utilisée dans l'apprentissage paresseux et l'apprentissage localement linéaire pour accélérer l'évaluation et la sélection de la taille du voisinage.