Analyse de la variance

L'analyse de la variance ( ANOVA ) est un ensemble de modèles statistiques et de procédures d'estimation associées (telles que la « variation » parmi et entre les groupes) utilisés pour analyser les différences entre les moyennes. L'ANOVA a été développée par le statisticien Ronald Fisher . L'ANOVA est basée sur la loi de la variance totale , où la variance observée dans une variable particulière est divisée en composantes attribuables à différentes sources de variation. Dans sa forme la plus simple, l'ANOVA fournit un test statistique pour savoir si deux ou plusieurs moyennes de population sont égales, et généralise donc le test t au-delà de deux moyennes. En d'autres termes, l'ANOVA est utilisée pour tester la différence entre deux ou plusieurs moyennes.

Bien que l'analyse de la variance ait atteint ses fruits au XXe siècle, les antécédents remontent à des siècles dans le passé selon Stigler . Il s'agit notamment des tests d'hypothèses, du partitionnement des sommes de carrés, des techniques expérimentales et du modèle additif. Laplace effectuait des tests d'hypothèses dans les années 1770. Vers 1800, Laplace et Gauss ont développé la méthode des moindres carrés pour combiner les observations, qui a amélioré les méthodes alors utilisées en astronomie et en géodésie . Elle a également initié de nombreuses études sur les contributions aux sommes de carrés. Laplace savait comment estimer une variance à partir d'une somme résiduelle (plutôt que totale) de carrés. En 1827, Laplace utilisait des méthodes des moindres carrés pour résoudre les problèmes d'ANOVA concernant les mesures des marées atmosphériques. Avant 1800, les astronomes avaient isolé les erreurs d'observation résultant des temps de réaction (l'« équation personnelle ») et avaient développé des méthodes pour réduire les erreurs. Les méthodes expérimentales utilisées dans l'étude de l'équation personnelle ont été plus tard acceptées par le domaine émergent de la psychologie qui a développé des méthodes expérimentales solides (factorielles complètes) auxquelles la randomisation et l'aveuglement ont rapidement été ajoutés. Une explication non mathématique éloquente du modèle à effets additifs était disponible en 1885.

Ronald Fisher a introduit le terme de variance et a proposé son analyse formelle dans un article de 1918 sur la génétique théorique des populations, The Correlation Between Relatives on the Supposition of Mendelian Inheritance . Sa première application de l'analyse de la variance à l'analyse des données a été publiée en 1921, Studies in Crop Variation I. [ Cet ouvrage divisait la variation d'une série chronologique en composantes représentant les causes annuelles et la détérioration lente. L'article suivant de Fisher, Studies in Crop Variation II , écrit avec Winifred Mackenzie et publié en 1923, étudiait la variation du rendement sur des parcelles semées avec différentes variétés et soumises à différents traitements d'engrais. L'analyse de la variance est devenue largement connue après avoir été incluse dans le livre de Fisher de 1925 Statistical Methods for Research Workers .

Les modèles de randomisation ont été développés par plusieurs chercheurs. Le premier a été publié en polonais par Jerzy Neyman en 1923.

L'analyse de la variance peut être utilisée pour décrire des relations complexes entre variables. Une exposition canine en est un exemple. Une exposition canine n'est pas un échantillonnage aléatoire de la race : elle se limite généralement aux chiens adultes, de race pure et exemplaires. Un histogramme du poids des chiens d'une exposition est susceptible d'être assez compliqué, comme la distribution jaune-orange montrée dans les illustrations. Supposons que nous voulions prédire le poids d'un chien en fonction d'un certain ensemble de caractéristiques de chaque chien. Une façon de le faire est d' expliquer la distribution des poids en divisant la population canine en groupes en fonction de ces caractéristiques. Un regroupement réussi divisera les chiens de telle sorte que (a) chaque groupe ait une faible variance du poids des chiens (ce qui signifie que le groupe est relativement homogène) et (b) la moyenne de chaque groupe soit distincte (si deux groupes ont la même moyenne, il n'est alors pas raisonnable de conclure que les groupes sont, en fait, séparés de manière significative).

Dans les illustrations de droite, les groupes sont identifiés par X ₁ , X ₂ , etc. Dans la première illustration, les chiens sont divisés selon le produit (interaction) de deux groupes binaires : jeunes vs vieux, et à poils courts vs à poils longs (par exemple, le groupe 1 est composé de jeunes chiens à poils courts, le groupe 2 est composé de jeunes chiens à poils longs, etc.). Étant donné que les distributions du poids des chiens au sein de chacun des groupes (indiquées en bleu) présentent une variance relativement importante et que les moyennes sont très similaires d'un groupe à l'autre, le regroupement des chiens selon ces caractéristiques ne permet pas d'expliquer efficacement la variation du poids des chiens : savoir dans quel groupe se trouve un chien ne nous permet pas de prédire son poids beaucoup mieux que de simplement savoir que le chien participe à une exposition canine. Ainsi, ce regroupement ne parvient pas à expliquer la variation de la distribution globale (jaune-orange).

Une tentative d'explication de la distribution du poids en regroupant les chiens en races de compagnie et de travail et en races moins athlétiques et plus athlétiques serait probablement un peu plus réussie (adéquation raisonnable). Les chiens d'exposition les plus lourds sont probablement des races de travail grandes et fortes, tandis que les races gardées comme animaux de compagnie ont tendance à être plus petites et donc plus légères. Comme le montre la deuxième illustration, les distributions ont des variances considérablement plus faibles que dans le premier cas, et les moyennes sont plus faciles à distinguer. Cependant, le chevauchement important des distributions, par exemple, signifie que nous ne pouvons pas distinguer X ₁ et X ₂ de manière fiable. Le regroupement des chiens selon un tirage au sort peut produire des distributions qui semblent similaires.

Une tentative d'explication du poids par race est susceptible de produire une très bonne adéquation. Tous les Chihuahuas sont légers et tous les Saint-Bernards sont lourds. La différence de poids entre les Setters et les Pointers ne justifie pas la distinction des races. L'analyse de la variance fournit les outils formels pour justifier ces jugements intuitifs. Une utilisation courante de la méthode est l'analyse de données expérimentales ou le développement de modèles. La méthode présente certains avantages par rapport à la corrélation : toutes les données ne doivent pas nécessairement être numériques et l'un des résultats de la méthode est un jugement sur la confiance dans une relation explicative.

Il existe trois classes de modèles utilisés dans l’analyse de la variance, et celles-ci sont décrites ici.

Le modèle à effets fixes (classe I) d'analyse de la variance s'applique aux situations dans lesquelles l'expérimentateur applique un ou plusieurs traitements aux sujets de l'expérience pour voir si les valeurs des variables de réponse changent. Cela permet à l'expérimentateur d'estimer les plages de valeurs des variables de réponse que le traitement générerait dans la population dans son ensemble.

Le modèle à effets aléatoires (classe II) est utilisé lorsque les traitements ne sont pas fixes. Cela se produit lorsque les différents niveaux de facteurs sont échantillonnés à partir d'une population plus large. Étant donné que les niveaux eux-mêmes sont des variables aléatoires , certaines hypothèses et la méthode de comparaison des traitements (une généralisation multivariable de différences simples) diffèrent du modèle à effets fixes.

Un modèle à effets mixtes (classe III) contient des facteurs expérimentaux de type à effets fixes et aléatoires, avec des interprétations et des analyses appropriées différentes pour les deux types.

Des expériences pédagogiques pourraient être réalisées par un département d'université ou de collège pour trouver un bon manuel d'introduction, chaque texte étant considéré comme un traitement. Le modèle à effets fixes comparerait une liste de textes candidats. Le modèle à effets aléatoires déterminerait s'il existe des différences importantes entre une liste de textes sélectionnés au hasard. Le modèle à effets mixtes comparerait les textes en vigueur (fixes) à des alternatives sélectionnées au hasard.

La définition des effets fixes et aléatoires s’est avérée difficile, avec de multiples définitions concurrentes.

L'analyse de la variance a été étudiée à partir de plusieurs approches, la plus courante utilisant un modèle linéaire qui relie la réponse aux traitements et aux blocs. Notez que le modèle est linéaire en termes de paramètres mais peut être non linéaire selon les niveaux de facteurs. L'interprétation est facile lorsque les données sont équilibrées entre les facteurs, mais une compréhension beaucoup plus approfondie est nécessaire pour les données non équilibrées.

L'analyse de la variance peut être présentée sous la forme d'un modèle linéaire , qui fait les hypothèses suivantes sur la distribution de probabilité des réponses :

• Indépendance des observations – il s’agit d’une hypothèse du modèle qui simplifie l’analyse statistique.
• Normalité – les distributions des résidus sont normales .
• Égalité (ou « homogénéité ») des variances, appelée homoscédasticité : la variance des données dans les groupes doit être la même.

Les hypothèses distinctes du modèle du manuel impliquent que les erreurs sont distribuées de manière indépendante, identique et normale pour les modèles à effets fixes, c'est-à-dire que les erreurs ( ) sont indépendantes et

Dans une expérience contrôlée randomisée , les traitements sont assignés aléatoirement aux unités expérimentales, selon le protocole expérimental. Cette randomisation est objective et déclarée avant que l'expérience ne soit réalisée. L'assignation aléatoire objective est utilisée pour tester la signification de l' hypothèse nulle , selon les idées de CS Peirce et Ronald Fisher . Cette analyse basée sur la conception a été discutée et développée par Francis J. Anscombe à la station expérimentale de Rothamsted et par Oscar Kempthorne à l'université d'État de l'Iowa . Kempthorne et ses étudiants font une hypothèse d' additivité du traitement unitaire , qui est discutée dans les livres de Kempthorne et David R. Cox .

Dans sa forme la plus simple, l'hypothèse d'additivité unité-traitement stipule que la réponse observée de l'unité expérimentale lors de la réception d'un traitement peut s'écrire comme la somme de la réponse de l'unité et de l'effet du traitement , c'est-à-dire L'hypothèse d'additivité unité-traitement implique que, pour chaque traitement , le ème traitement a exactement le même effet sur chaque unité expérimentale.

Selon Cox et Kempthorne, l'hypothèse d'additivité des traitements unitaires ne peut généralement pas être directement réfutée . Cependant, de nombreuses conséquences de l'additivité des traitements unitaires peuvent être réfutées. Pour une expérience randomisée, l'hypothèse d'additivité des traitements unitaires implique que la variance est constante pour tous les traitements. Par conséquent, par opposition , une condition nécessaire à l'additivité des traitements unitaires est que la variance soit constante.

L’utilisation de l’additivité du traitement unitaire et de la randomisation est similaire à l’inférence basée sur la conception qui est la norme dans l’échantillonnage d’enquête à population finie .

Kempthorne utilise la distribution de randomisation et l'hypothèse d' additivité du traitement unitaire pour produire un modèle linéaire dérivé , très similaire au modèle de manuel discuté précédemment. Les statistiques de test de ce modèle linéaire dérivé sont étroitement approchées par les statistiques de test d'un modèle linéaire normal approprié, selon les théorèmes d'approximation et les études de simulation. Cependant, il existe des différences. Par exemple, l'analyse basée sur la randomisation aboutit à une corrélation faible mais (strictement) négative entre les observations. Dans l'analyse basée sur la randomisation, il n'y a pas d'hypothèse de distribution normale et certainement pas d'hypothèse d' indépendance . Au contraire, les observations sont dépendantes !

L'analyse basée sur la randomisation présente l'inconvénient que son exposé implique une algèbre fastidieuse et prend beaucoup de temps. Comme l'analyse basée sur la randomisation est compliquée et qu'elle est très proche de l'approche utilisant un modèle linéaire normal, la plupart des enseignants mettent l'accent sur l'approche du modèle linéaire normal. Peu de statisticiens s'opposent à l'analyse basée sur un modèle d'expériences randomisées équilibrées.

Cependant, lorsqu'elle est appliquée à des données provenant d'expériences non randomisées ou d'études observationnelles , l'analyse basée sur un modèle n'a pas la garantie d'une randomisation. Pour les données observationnelles, la dérivation des intervalles de confiance doit utiliser des modèles subjectifs , comme l'ont souligné Ronald Fisher et ses disciples. Dans la pratique, les estimations des effets du traitement à partir d'études observationnelles sont généralement souvent incohérentes. Dans la pratique, les « modèles statistiques » et les données observationnelles sont utiles pour suggérer des hypothèses qui devraient être traitées avec beaucoup de prudence par le public.

L'analyse ANOVA basée sur le modèle normal suppose l'indépendance, la normalité et l'homogénéité des variances des résidus. L'analyse basée sur la randomisation suppose uniquement l'homogénéité des variances des résidus (en conséquence de l'additivité du traitement unitaire) et utilise la procédure de randomisation de l'expérience. Ces deux analyses nécessitent l'homoscédasticité , comme hypothèse pour l'analyse du modèle normal et comme conséquence de la randomisation et de l'additivité pour l'analyse basée sur la randomisation.

Cependant, des études sur les processus qui modifient les variances plutôt que les moyennes (appelés effets de dispersion) ont été menées avec succès à l'aide de l'ANOVA. Il n'y a pas d'hypothèses nécessaires pour l'ANOVA dans toute sa généralité, mais le test F utilisé pour les tests d'hypothèses de l'ANOVA comporte des hypothèses et des limites pratiques qui présentent un intérêt permanent.

Les problèmes qui ne satisfont pas aux hypothèses de l'ANOVA peuvent souvent être transformés pour satisfaire ces hypothèses. La propriété d'additivité du traitement unitaire n'est pas invariante sous un « changement d'échelle », de sorte que les statisticiens utilisent souvent des transformations pour obtenir l'additivité du traitement unitaire. Si l'on s'attend à ce que la variable de réponse suive une famille paramétrique de distributions de probabilité, le statisticien peut alors spécifier (dans le protocole de l'expérience ou de l'étude observationnelle) que les réponses soient transformées pour stabiliser la variance. De plus, un statisticien peut spécifier que des transformations logarithmiques soient appliquées aux réponses qui sont censées suivre un modèle multiplicatif. Selon le théorème de l'équation fonctionnelle de Cauchy , le logarithme est la seule transformation continue qui transforme la multiplication réelle en addition.

L'ANOVA est utilisée dans l'analyse des expériences comparatives, celles dans lesquelles seule la différence des résultats est intéressante. La signification statistique de l'expérience est déterminée par un rapport de deux variances. Ce rapport est indépendant de plusieurs modifications possibles des observations expérimentales : l'ajout d'une constante à toutes les observations ne modifie pas la signification. La multiplication de toutes les observations par une constante ne modifie pas la signification. Ainsi, le résultat de la signification statistique de l'ANOVA est indépendant du biais constant et des erreurs d'échelle ainsi que des unités utilisées pour exprimer les observations. À l'ère du calcul mécanique, il était courant de soustraire une constante de toutes les observations (ce qui équivalait à supprimer les premiers chiffres) pour simplifier la saisie des données. Ceci est un exemple de codage des données .

Les calculs de l'ANOVA peuvent être caractérisés comme le calcul d'un certain nombre de moyennes et de variances, la division de deux variances et la comparaison du rapport à une valeur de référence pour déterminer la signification statistique. Le calcul d'un effet de traitement est alors trivial : « l'effet de tout traitement est estimé en prenant la différence entre la moyenne des observations qui reçoivent le traitement et la moyenne générale ».

L'ANOVA utilise une terminologie standardisée traditionnelle. L'équation de définition de la variance de l'échantillon est , où le diviseur est appelé degrés de liberté (DF), la somme est appelée somme des carrés (SS), le résultat est appelé carré moyen (MS) et les termes au carré sont les écarts par rapport à la moyenne de l'échantillon. L'ANOVA estime 3 variances d'échantillon : une variance totale basée sur tous les écarts d'observation par rapport à la moyenne générale, une variance d'erreur basée sur tous les écarts d'observation par rapport à leurs moyennes de traitement appropriées et une variance de traitement. La variance de traitement est basée sur les écarts des moyennes de traitement par rapport à la moyenne générale, le résultat étant multiplié par le nombre d'observations dans chaque traitement pour tenir compte de la différence entre la variance des observations et la variance des moyennes.

La technique fondamentale consiste à partitionner la somme totale des carrés SS en composantes liées aux effets utilisés dans le modèle. Par exemple, le modèle pour une ANOVA simplifiée avec un type de traitement à différents niveaux.

Le nombre de degrés de liberté DF peut être partitionné de manière similaire : l'un de ces composants (celui de l'erreur) spécifie une distribution du chi carré qui décrit la somme des carrés associée, tandis que la même chose est vraie pour les « traitements » s'il n'y a pas d'effet de traitement.

Le test F est utilisé pour comparer les facteurs de l'écart total. Par exemple, dans une ANOVA à un facteur, ou à un seul facteur, la signification statistique est testée en comparant la statistique du test F

où MS est le carré moyen, le nombre de traitements et le nombre total de cas

à la distribution F avec les degrés de liberté au numérateur et les degrés de liberté au dénominateur. L'utilisation de la distribution F est un candidat naturel car la statistique de test est le rapport de deux sommes de carrés mises à l'échelle, chacune d'elles suivant une distribution du khi carré mise à l'échelle .

La valeur attendue de F est (où est la taille de l'échantillon de traitement) qui est de 1 pour aucun effet de traitement. Lorsque les valeurs de F augmentent au-dessus de 1, les preuves sont de plus en plus incompatibles avec l'hypothèse nulle. Deux méthodes expérimentales apparentes pour augmenter F consistent à augmenter la taille de l'échantillon et à réduire la variance d'erreur par des contrôles expérimentaux stricts.

Il existe deux méthodes pour conclure le test d'hypothèse ANOVA, qui produisent toutes deux le même résultat :

• La méthode classique consiste à comparer la valeur observée de F avec la valeur critique de F déterminée à partir de tableaux. La valeur critique de F est une fonction des degrés de liberté du numérateur et du dénominateur et du niveau de signification ( α ). Si F ≥ F _Critique , l'hypothèse nulle est rejetée.
• La méthode informatique calcule la probabilité (p-value) d'une valeur de F supérieure ou égale à la valeur observée. L'hypothèse nulle est rejetée si cette probabilité est inférieure ou égale au seuil de signification ( α ).

Le test F de l'ANOVA est connu pour être presque optimal dans le sens où il minimise les erreurs faussement négatives pour un taux fixe d'erreurs faussement positives (c'est-à-dire qu'il maximise la puissance pour un niveau de signification fixe). Par exemple, pour tester l'hypothèse selon laquelle divers traitements médicaux ont exactement le même effet, les valeurs p du test F se rapprochent étroitement des valeurs p du test de permutation : l'approximation est particulièrement proche lorsque le plan est équilibré. De tels tests de permutation caractérisent les tests avec une puissance maximale contre toutes les hypothèses alternatives , comme l'a observé Rosenbaum . Le test F de l'ANOVA (de l'hypothèse nulle selon laquelle tous les traitements ont exactement le même effet) est recommandé comme test pratique, en raison de sa robustesse contre de nombreuses distributions alternatives.

L'ANOVA est constituée de parties séparables ; les sources de variance et les tests d'hypothèses peuvent être utilisés individuellement. L'ANOVA est utilisée pour soutenir d'autres outils statistiques. La régression est d'abord utilisée pour adapter des modèles plus complexes aux données, puis l'ANOVA est utilisée pour comparer les modèles dans le but de sélectionner des modèles plus simples qui décrivent adéquatement les données. « De tels modèles pourraient être ajustés sans aucune référence à l'ANOVA, mais les outils ANOVA pourraient ensuite être utilisés pour donner un sens aux modèles ajustés et pour tester des hypothèses sur des lots de coefficients. » « [N]ous considérons l'analyse de la variance comme un moyen de comprendre et de structurer des modèles multiniveaux, non pas comme une alternative à la régression, mais comme un outil permettant de résumer des inférences complexes de grande dimension... »

L'expérience la plus simple adaptée à l'analyse ANOVA est l'expérience entièrement randomisée avec un seul facteur. Les expériences plus complexes avec un seul facteur impliquent des contraintes sur la randomisation et incluent des blocs entièrement randomisés et des carrés latins (et des variantes : carrés gréco-latins , etc.). Les expériences plus complexes partagent de nombreuses complexités liées à des facteurs multiples.

Il existe quelques alternatives à l'analyse de variance à un facteur conventionnelle, par exemple : le test F hétéroscédastique de Welch, le test F hétéroscédastique de Welch avec moyennes tronquées et variances winsorisées, le test de Brown-Forsythe, le test d'Alexander-Govern, le test du second ordre de James et le test de Kruskal-Wallis, disponibles dans les tests à un facteur R

Il est utile de représenter chaque point de données sous la forme suivante, appelée modèle statistique : où

• i = 1, 2, 3, ..., R
• j = 1, 2, 3, ..., C
• μ = moyenne globale (moyenne)
• τ _j = effet différentiel (réponse) associé au niveau j de X ;cela suppose que globalement les valeurs de τ _j s'additionnent à zéro (c'est-à-dire )
• ε _ij = bruit ou erreur associé à la valeur de données ij particulière

Autrement dit, nous envisageons un modèle additif qui stipule que chaque point de données peut être représenté en additionnant trois quantités : la vraie moyenne, calculée sur tous les niveaux de facteurs étudiés, plus une composante incrémentielle associée à la colonne particulière (niveau de facteur), plus une composante finale associée à tout ce qui affecte cette valeur de données spécifique.

L'ANOVA se généralise à l'étude des effets de multiples facteurs. Lorsque l'expérience comprend des observations à toutes les combinaisons de niveaux de chaque facteur, elle est dite factorielle . Les expériences factorielles sont plus efficaces qu'une série d'expériences à facteur unique et l'efficacité augmente à mesure que le nombre de facteurs augmente. Par conséquent, les plans factoriels sont largement utilisés.

L'utilisation de l'ANOVA pour étudier les effets de plusieurs facteurs présente une complication. Dans une ANOVA à 3 facteurs avec les facteurs x, y et z, le modèle ANOVA inclut des termes pour les effets principaux (x, y, z) et des termes pour les interactions (xy, xz, yz, xyz). Tous les termes nécessitent des tests d'hypothèse. La prolifération des termes d'interaction augmente le risque qu'un test d'hypothèse produise un faux positif par hasard. Heureusement, l'expérience montre que les interactions d'ordre élevé sont rares. La capacité à détecter les interactions est un avantage majeur de l'ANOVA à facteurs multiples. Le test d'un facteur à la fois masque les interactions, mais produit des résultats expérimentaux apparemment incohérents.

La prudence est de mise lorsqu'on rencontre des interactions ; testez d'abord les termes d'interaction et étendez l'analyse au-delà de l'ANOVA si des interactions sont trouvées. Les textes varient dans leurs recommandations concernant la poursuite de la procédure ANOVA après avoir rencontré une interaction. Les interactions compliquent l'interprétation des données expérimentales. Ni les calculs de signification ni les effets estimés du traitement ne peuvent être pris au pied de la lettre. « Une interaction significative masquera souvent la signification des effets principaux. » Les méthodes graphiques sont recommandées pour améliorer la compréhension. La régression est souvent utile. Une longue discussion sur les interactions est disponible dans Cox (1958). Certaines interactions peuvent être supprimées (par des transformations) tandis que d'autres ne le peuvent pas.

Diverses techniques sont utilisées avec l'ANOVA multifactorielle pour réduire les coûts. Une technique utilisée dans les plans factoriels consiste à minimiser la réplication (éventuellement aucune réplication avec l'aide d' astuces analytiques ) et à combiner les groupes lorsque les effets s'avèrent statistiquement (ou pratiquement) insignifiants. Une expérience avec de nombreux facteurs insignifiants peut se réduire à une expérience avec quelques facteurs appuyés par de nombreuses réplications.

Certaines analyses sont nécessaires pour étayer la conception de l'expérience, tandis que d'autres sont effectuées après que l'on a formellement constaté que les changements dans les facteurs produisent des changements statistiquement significatifs dans les réponses. L'expérimentation étant itérative, les résultats d'une expérience modifient les plans des expériences suivantes.

Lors de la conception d'une expérience, le nombre d'unités expérimentales est planifié pour satisfaire aux objectifs de l'expérience. L'expérimentation est souvent séquentielle.

Les premières expériences sont souvent conçues pour fournir des estimations sans biais moyen des effets du traitement et de l'erreur expérimentale. Les expériences ultérieures sont souvent conçues pour tester une hypothèse selon laquelle l'effet d'un traitement a une ampleur importante ; dans ce cas, le nombre d'unités expérimentales est choisi de manière à ce que l'expérience soit dans les limites du budget et ait une puissance adéquate, entre autres objectifs.

En psychologie, il est généralement exigé de rendre compte de l'analyse de la taille de l'échantillon. « Fournir des informations sur la taille de l'échantillon et le processus qui a conduit aux décisions concernant la taille de l'échantillon. » L'analyse, qui est rédigée dans le protocole expérimental avant que l'expérience ne soit menée, est examinée dans les demandes de subvention et les comités d'examen administratif.

Outre l'analyse de puissance, il existe des méthodes moins formelles pour sélectionner le nombre d'unités expérimentales. Il s'agit notamment des méthodes graphiques basées sur la limitation de la probabilité d'erreurs faussement négatives, des méthodes graphiques basées sur une augmentation de la variation attendue (au-dessus des résidus) et des méthodes basées sur l'obtention d'un intervalle de confiance souhaité.

L'analyse de puissance est souvent appliquée dans le contexte de l'ANOVA afin d'évaluer la probabilité de rejeter avec succès l'hypothèse nulle si l'on suppose une certaine conception de l'ANOVA, une certaine taille d'effet dans la population, une certaine taille d'échantillon et un certain niveau de signification. L'analyse de puissance peut aider à la conception de l'étude en déterminant la taille de l'échantillon qui serait nécessaire pour avoir une chance raisonnable de rejeter l'hypothèse nulle lorsque l'hypothèse alternative est vraie.

Plusieurs mesures d'effet standardisées ont été proposées pour l'ANOVA afin de résumer la force de l'association entre un ou plusieurs prédicteurs et la variable dépendante ou la différence standardisée globale du modèle complet. Les estimations de taille d'effet standardisées facilitent la comparaison des résultats entre les études et les disciplines. Cependant, bien que les tailles d'effet standardisées soient couramment utilisées dans une grande partie de la littérature professionnelle, une mesure non standardisée de la taille d'effet qui a des unités immédiatement « significatives » peut être préférable à des fins de reporting.

Des tests sont parfois effectués pour déterminer si les hypothèses de l'ANOVA semblent violées. Les résidus sont examinés ou analysés pour confirmer l'homoscédasticité et la normalité grossière. Les résidus doivent avoir l'apparence d'un bruit (distribution normale moyenne nulle) lorsqu'ils sont représentés en fonction de n'importe quoi, y compris le temps et les valeurs des données modélisées. Les tendances suggèrent des interactions entre facteurs ou entre observations.

Un effet statistiquement significatif dans l'ANOVA est souvent suivi de tests supplémentaires. Cela peut être fait afin d'évaluer quels groupes sont différents des autres groupes ou pour tester diverses autres hypothèses ciblées. Les tests de suivi sont souvent distingués selon qu'ils sont « planifiés » ( a priori ) ou « post hoc ». Les tests planifiés sont déterminés avant d'examiner les données, et les tests post hoc ne sont conçus qu'après avoir examiné les données (bien que le terme « post hoc » soit utilisé de manière incohérente).

Les tests de suivi peuvent être des comparaisons « simples » par paires de moyennes de groupes individuels ou des comparaisons « composées » (par exemple, comparer la moyenne des groupes A, B et C à la moyenne du groupe D). Les comparaisons peuvent également porter sur des tests de tendance, tels que des relations linéaires et quadratiques, lorsque la variable indépendante implique des niveaux ordonnés. Souvent, les tests de suivi intègrent une méthode d'ajustement pour le problème des comparaisons multiples .

Les tests de suivi pour identifier les groupes, variables ou facteurs spécifiques qui ont des moyennes statistiquement différentes incluent le test de portée de Tukey et le nouveau test de portée multiple de Duncan . À leur tour, ces tests sont souvent suivis d'une méthodologie d'affichage de lettres compactes (CLD) afin de rendre le résultat des tests mentionnés plus transparent pour un public non statisticien.

Il existe plusieurs types d'ANOVA. De nombreux statisticiens basent l'ANOVA sur la conception de l'expérience , en particulier sur le protocole qui spécifie l' attribution aléatoire des traitements aux sujets ; la description du mécanisme d'attribution dans le protocole doit inclure une spécification de la structure des traitements et de tout blocage . Il est également courant d'appliquer l'ANOVA aux données d'observation en utilisant un modèle statistique approprié.

Certaines conceptions populaires utilisent les types d’ANOVA suivants :

• L'ANOVA à un facteur est utilisée pour tester les différences entre deux ou plusieurs groupes indépendants (moyennes), par exemple différents niveaux d'application d'urée dans une culture, ou différents niveaux d'action d'antibiotiques sur plusieurs espèces bactériennes différentes, ou différents niveaux d'effet de certains médicaments sur des groupes de patients. Cependant, si ces groupes ne sont pas indépendants et qu'il existe un ordre dans les groupes (comme une maladie légère, modérée et grave), ou dans la dose d'un médicament (comme 5 mg/mL, 10 mg/mL, 20 mg/mL) administrée au même groupe de patients, alors une estimation de tendance linéaire doit être utilisée. Cependant, en général, l'ANOVA à un facteur est utilisée pour tester les différences entre au moins trois groupes, car le cas de deux groupes peut être couvert par un test t . Lorsqu'il n'y a que deux moyennes à comparer, le test t et le test F de l'ANOVA sont équivalents ; la relation entre l'ANOVA et t est donnée par F = t ² .
• L'ANOVA factorielle est utilisée lorsqu'il y a plus d'un facteur.
• L'ANOVA à mesures répétées est utilisée lorsque les mêmes sujets sont utilisés pour chaque facteur (par exemple, dans une étude longitudinale ).
• L'analyse de la variance multivariée (MANOVA) est utilisée lorsqu'il y a plus d'une variable de réponse .

Les expériences équilibrées (celles avec un échantillon de taille égale pour chaque traitement) sont relativement faciles à interpréter ; les expériences non équilibrées sont plus complexes. Pour l'ANOVA à facteur unique (à un facteur), l'ajustement pour les données non équilibrées est facile, mais l'analyse non équilibrée manque à la fois de robustesse et de puissance. Pour les modèles plus complexes, le manque d'équilibre entraîne d'autres complications. « La propriété d'orthogonalité des principaux effets et interactions présents dans les données équilibrées ne s'applique pas au cas non équilibré. Cela signifie que les techniques habituelles d'analyse de la variance ne s'appliquent pas. Par conséquent, l'analyse des facteurs non équilibrés est beaucoup plus difficile que celle des modèles équilibrés. » Dans le cas général, « l'analyse de la variance peut également être appliquée aux données non équilibrées, mais les sommes des carrés, les carrés moyens et les ratios F dépendront alors de l'ordre dans lequel les sources de variation sont prises en compte. »

L'ANOVA est (en partie) un test de signification statistique. L'American Psychological Association (et de nombreuses autres organisations) estime que le simple fait de signaler la signification statistique est insuffisant et qu'il est préférable de signaler les limites de confiance.

L'ANOVA est considérée comme un cas particulier de régression linéaire qui est à son tour un cas particulier du modèle linéaire général . Tous considèrent les observations comme la somme d'un modèle (ajustement) et d'un résidu (erreur) à minimiser.

Le test de Kruskal-Wallis et le test de Friedman sont des tests non paramétriques qui ne reposent pas sur une hypothèse de normalité.

Ci-dessous, nous clarifions le lien entre l’ANOVA multidimensionnelle et la régression linéaire.

Réorganisez linéairement les données de sorte que la -ième observation soit associée à une réponse et que les facteurs où désignent les différents facteurs et sont le nombre total de facteurs. Dans l'ANOVA à un facteur et dans l'ANOVA à deux facteurs . De plus, nous supposons que le -ième facteur a des niveaux, à savoir . Maintenant, nous pouvons encoder à chaud les facteurs dans le vecteur dimensionnel .

La fonction de codage one-hot est définie de telle sorte que la -ième entrée de soit Le vecteur est la concaténation de tous les vecteurs ci-dessus pour tous les . Ainsi, . Afin d'obtenir une ANOVA d'interaction à voies entièrement générale, nous devons également concaténer chaque terme d'interaction supplémentaire dans le vecteur , puis ajouter un terme d'interception. Soit ce vecteur .

Grâce à cette notation, nous avons maintenant le lien exact avec la régression linéaire. Nous régressons simplement la réponse par rapport au vecteur . Cependant, il existe un problème d' identifiabilité . Afin de surmonter ces problèmes, nous supposons que la somme des paramètres dans chaque ensemble d'interactions est égale à zéro. À partir de là, on peut utiliser les statistiques F ou d'autres méthodes pour déterminer la pertinence des facteurs individuels.

Nous pouvons considérer l’exemple d’interaction à double sens où nous supposons que le premier facteur a 2 niveaux et le deuxième facteur a 3 niveaux.

Définir si et si , c'est- à-dire est le codage one-hot du premier facteur et est le codage one-hot du deuxième facteur.

Avec cela, où le dernier terme est un terme d'interception. Pour un exemple plus concret, supposons que Alors,