Modélisation par équations structurelles

Figure 1. Exemple de modèle d'équations structurelles après estimation. Les variables latentes sont parfois représentées par des ovales, tandis que les variables observées sont représentées par des rectangles. Les résidus et les variances sont parfois représentés par des flèches à double sens (comme ici) ou par des flèches simples et un cercle (comme dans la figure 2). La variance du QI latent est fixée à 1 pour donner une échelle au modèle. La figure 1 illustre les erreurs de mesure influençant chaque indicateur d'intelligence latente et chaque indicateur de réussite latente. Ni les indicateurs ni leurs erreurs de mesure ne sont modélisés comme influençant les variables latentes.

La modélisation par équations structurelles ( SEM ) regroupe un ensemble de méthodes variées utilisées par les scientifiques dans le cadre de recherches observationnelles et expérimentales. La SEM est principalement employée en sciences sociales et comportementales, mais également en épidémiologie , en gestion et dans d'autres domaines. Selon une définition classique, la SEM est « une classe de méthodologies visant à représenter des hypothèses concernant les moyennes, les variances et les covariances des données observées à l'aide d'un nombre réduit de paramètres structurels, définis par un modèle conceptuel ou théorique sous-jacent hypothétique »

La modélisation par équations structurelles (SEM) consiste à représenter la manière dont différents aspects d'un phénomène sont supposés être liés causalement . Les modèles d'équations structurelles contiennent souvent des liens de causalité postulés entre certaines variables latentes (variables supposées exister mais non observables directement). Des liens de causalité supplémentaires relient ces variables latentes aux variables observées dont les valeurs figurent dans un ensemble de données. Ces liens de causalité sont représentés par des équations , mais la structuration postulée peut également être présentée à l'aide de diagrammes comportant des flèches, comme dans les figures 1 et 2. Les structures causales impliquent l'apparition de schémas spécifiques parmi les valeurs des variables observées. Il est ainsi possible d'utiliser les liens entre les valeurs des variables observées pour estimer l'ampleur des effets postulés et de vérifier si les données observées sont compatibles avec les exigences des structures causales hypothétiques.

La frontière entre ce qui constitue un modèle d'équations structurelles et ce qui n'en est pas un n'est pas toujours nette. Cependant, les modèles d'équations structurelles (MES) contiennent souvent des liens de causalité postulés entre un ensemble de variables latentes (variables supposées exister mais non observables directement, telles qu'une attitude, l'intelligence ou une maladie mentale) et des liens de causalité reliant ces variables latentes postulées à des variables observables dont les valeurs sont disponibles dans un jeu de données. Les variations dans les types de liens de causalité latents, les variations dans les variables observées mesurant les variables latentes et les variations dans les stratégies d'estimation statistique donnent naissance à la boîte à outils des MES, qui comprend l'analyse factorielle confirmatoire (AFC), l'analyse composite confirmatoire , l'analyse de cheminement , la modélisation multi-groupes, la modélisation longitudinale, la modélisation par les moindres carrés partiels , la modélisation de la croissance latente et la modélisation hiérarchique ou multiniveau.

Les chercheurs en modélisation par équations structurelles (SEM) utilisent des programmes informatiques pour estimer la force et le signe des coefficients correspondant aux connexions structurelles modélisées, par exemple les nombres associés aux flèches de la figure 1. Étant donné qu'un modèle postulé tel que celui de la figure 1 peut ne pas correspondre aux forces réelles qui régissent les mesures des données observées, les programmes fournissent également des tests de modèle et des indices de diagnostic suggérant quels indicateurs, ou quelles composantes du modèle, pourraient introduire une incohérence entre le modèle et les données observées. Les critiques formulées à l'encontre des méthodes SEM incluent le fait de négliger les tests de modèle disponibles, les problèmes de spécification du modèle, une tendance à accepter les modèles sans considérer leur validité externe et d'éventuels biais philosophiques.

Un avantage majeur de la modélisation par équations structurelles (SEM) réside dans le fait que toutes ces mesures et tous ces tests sont effectués simultanément au sein d'une seule procédure d'estimation statistique, où tous les coefficients du modèle sont calculés à partir de l'ensemble des informations issues des variables observées. De ce fait, les estimations sont plus précises que si le chercheur calculait chaque partie du modèle séparément.

Sewall Wright a fourni des interprétations causales explicites pour un ensemble d'équations de type régression, fondées sur une solide compréhension des mécanismes physiques et physiologiques produisant des effets directs et indirects entre ses variables observées. Les équations étaient estimées comme des équations de régression ordinaires, mais le contexte substantiel des variables mesurées permettait une compréhension causale claire, et non simplement prédictive. Otis D. Duncan a introduit la SEM dans les sciences sociales dans son ouvrage de 1975, et la SEM a connu un essor considérable à la fin des années 1970 et dans les années 1980, lorsque l'augmentation de la puissance de calcul a permis une estimation pratique des modèles. En 1987, Leslie A. Hayduk a publié la première introduction complète à la modélisation par équations structurelles avec variables latentes, rapidement suivie par l'ouvrage de vulgarisation de Kenneth Bollen (1989).

Différentes approches de modélisation, mathématiquement liées, se sont développées en psychologie, en sociologie et en économie. Les premiers travaux de la Commission Cowles sur l'estimation par équations simultanées s'appuyaient sur les algorithmes de Koopman et Hood (1953), issus de l'économie des transports et du calcul de routes optimales, avec une estimation du maximum de vraisemblance et des calculs algébriques sous forme analytique, les techniques de recherche itérative de solutions étant limitées avant l'avènement de l'informatique. La convergence de deux de ces courants de développement (l'analyse factorielle en psychologie et l'analyse de cheminement en sociologie via Duncan) a donné naissance au noyau actuel des modèles d'équations structurelles (SEM). LISREL , un des nombreux programmes développés par Karl Jöreskog au sein d' Educational Testing Service , intégrait des variables latentes (connues des psychologues sous le nom de facteurs latents en analyse factorielle) dans des équations de type analyse de cheminement (héritées par les sociologues de Sewall Wright et Otis Duncan ). La partie du modèle structurée en facteurs intégrait des erreurs de mesure qui permettaient un ajustement des erreurs de mesure, mais pas nécessairement une estimation sans erreur, des effets reliant différentes variables latentes postulées.

Les traces de la convergence historique entre l'analyse factorielle et l'analyse de cheminement persistent, notamment dans la distinction entre les volets mesure et structurel des modèles, et dans les désaccords récurrents concernant la validation des modèles et la question de savoir si les mesures doivent précéder ou accompagner les estimations structurelles. Considérer l'analyse factorielle comme une technique de réduction des données tend à minimiser l'importance des tests, contrairement à l'analyse de cheminement qui valorise la vérification des liens de causalité postulés – un résultat pouvant révéler une erreur de spécification du modèle. Les tensions entre ces deux approches continuent d'apparaître dans la littérature.

L'analyse de chemin de Wright a influencé Herman Wold , son élève Karl Jöreskog et l'élève de ce dernier, Claes Fornell . Cependant, la modélisation par équations structurelles (SEM) n'a jamais rencontré un large succès auprès des économètres américains, probablement en raison de différences fondamentales dans les objectifs de modélisation et les structures de données typiques. La longue séparation de la branche économique de la SEM a engendré des différences procédurales et terminologiques, malgré des liens mathématiques et statistiques profonds. Ces différences disciplinaires se manifestent dans les discussions sur l'endogénéité au sein de SEMNET, ainsi que dans les discussions sur la causalité via les graphes acycliques orientés (DAG). Des discussions comparant diverses approches de la SEM sont disponibles mettant en lumière les différences disciplinaires dans les structures de données et les problématiques sous-jacentes aux modèles économiques.

Judea Pearl a étendu les modèles d'équations structurelles (SEM) des modèles linéaires aux modèles non paramétriques et a proposé des interprétations causales et contrefactuelles des équations. Les SEM non paramétriques permettent d'estimer les effets totaux, directs et indirects sans s'engager sur la linéarité des effets ni faire d'hypothèses sur la distribution des termes d'erreur.

Les analyses par équations structurelles (SEM) sont courantes en sciences sociales car ces techniques analytiques permettent de décomposer des concepts complexes et de comprendre les processus causaux. Cependant, la complexité des modèles peut engendrer une variabilité importante des résultats selon la présence ou l'absence de variables de contrôle classiques, la taille de l'échantillon et les variables d'intérêt. Le recours à des plans d'expérience peut permettre de lever certaines de ces incertitudes.

Aujourd'hui, la modélisation par équations structurelles (SEM) constitue l'un des fondements de l'apprentissage automatique et des réseaux de neurones (interprétables) . Les analyses factorielles exploratoires et confirmatoires en statistique classique reflètent l'apprentissage automatique non supervisé et supervisé.

Étapes générales et considérations

Les considérations suivantes s'appliquent à la construction et à l'évaluation de nombreux modèles d'équations structurelles.

Spécifications du modèle

La construction ou la spécification d'un modèle nécessite de prendre en compte :

l'ensemble des variables à utiliser,
ce que l'on sait des variables,
ce qui est théorisé ou hypothétique concernant les liens et les déconnexions causales entre les variables,
ce que le chercheur cherche à apprendre de la modélisation, et
les cas de valeurs manquantes et/ou la nécessité d'imputation.

Les modèles d'équations structurelles tentent de refléter les forces du monde réel à l'œuvre dans des cas causalement homogènes – c'est-à-dire des cas imbriqués dans les mêmes structures causales, mais dont les valeurs des causes diffèrent et qui, par conséquent, présentent des valeurs différentes pour les variables de résultat. L'homogénéité causale peut être facilitée par la sélection des cas ou par leur regroupement dans un modèle multigroupe. La spécification d'un modèle n'est complète que lorsque le chercheur spécifie :

quels effets et/ou corrélations/covariances doivent être inclus et estimés,
quels effets et autres coefficients sont interdits ou présumés inutiles,
et quels coefficients se verront attribuer des valeurs fixes/invariables (par exemple, pour fournir des échelles de mesure pour les variables latentes comme dans la figure 2).

Le niveau latent d'un modèle est composé de variables endogènes et exogènes . Les variables latentes endogènes sont les variables de score réel, supposées recevoir des effets d'au moins une autre variable modélisée. Chaque variable endogène est modélisée comme la variable dépendante dans une équation de type régression. Les variables latentes exogènes sont des variables de contexte, supposées être à l'origine d'une ou plusieurs variables endogènes, et sont modélisées comme les variables explicatives dans des équations de type régression. Les liens de causalité entre les variables exogènes ne sont pas explicitement modélisés, mais sont généralement pris en compte en modélisant les variables exogènes comme étant librement corrélées entre elles. Le modèle peut inclure des variables intermédiaires – des variables recevant des effets de certaines variables, mais en exerçant également des effets sur d'autres. Comme en régression, chaque variable endogène se voit attribuer une variable résiduelle ou d'erreur, qui intègre les effets de causes non disponibles et généralement inconnues. Chaque variable latente, qu'elle soit exogène ou endogène , est considérée comme contenant les scores réels des cas sur cette variable, et ces scores réels contribuent causalement à des variations valides/authentiques dans une ou plusieurs des variables indicatrices observées/déclarées.

Le programme LISREL attribuait des noms grecs aux éléments d'un ensemble de matrices afin de suivre les différentes composantes du modèle. Ces noms sont devenus une notation relativement standard, bien que cette notation ait été étendue et modifiée pour tenir compte de diverses considérations statistiques. Les textes et les programmes qui « simplifient » la spécification du modèle par des diagrammes ou en utilisant des équations permettant à l'utilisateur de choisir les noms des variables, reconvertissent en arrière-plan le modèle de l'utilisateur sous une forme matricielle standard. Ces « simplifications » sont obtenues en introduisant implicitement des « hypothèses » par défaut du programme concernant les caractéristiques du modèle, hypothèses dont les utilisateurs n'ont soi-disant pas à se préoccuper. Malheureusement, ces hypothèses par défaut masquent facilement des composantes du modèle, laissant ainsi des problèmes non identifiés au sein de sa structure et des matrices sous-jacentes.

En modélisation par équations structurelles (SEM), on distingue deux composantes principales : le modèle structurel, qui met en évidence les dépendances causales potentielles entre les variables latentes endogènes et exogènes , et le modèle de mesure, qui établit les liens de causalité entre les variables latentes et les indicateurs. Les modèles d’analyse factorielle exploratoire et confirmatoire , par exemple, se concentrent sur les liens de causalité liés à la mesure, tandis que les modèles de cheminement correspondent davantage aux liens structurels latents des SEM.

Dans un modèle, chaque coefficient peut être estimé librement ou fixé à une valeur donnée. Les coefficients libres peuvent représenter des effets postulés que le chercheur souhaite tester, des corrélations sous-jacentes entre les variables exogènes, ou encore les variances des variables résiduelles ou d'erreur, apportant des variations supplémentaires aux variables latentes endogènes. Les coefficients fixes peuvent prendre des valeurs telles que 1,0 (figure 2), qui définissent une échelle pour les variables latentes, ou 0,0, qui indiquent une absence de causalité, comme l'absence d'effet direct (absence de flèches) entre la réussite scolaire et les quatre échelles de la figure 1. Les logiciels de modélisation par équations structurelles (SEM) fournissent des estimations et des tests des coefficients libres, tandis que les coefficients fixes contribuent de manière importante à la validation de la structure globale du modèle. Différents types de contraintes entre les coefficients peuvent également être utilisés. La spécification du modèle dépend des connaissances issues de la littérature, de l'expérience du chercheur avec les variables indicatrices modélisées et des caractéristiques étudiées à l'aide de la structure de modèle spécifique.

Le nombre de coefficients pouvant être estimés dans un modèle est limité. Si le nombre de points de données est inférieur au nombre de coefficients estimés, le modèle résultant est dit « non identifié » et aucune estimation de coefficients ne peut être obtenue. Les effets réciproques et autres boucles causales peuvent également perturber l’estimation.

Estimation des coefficients du modèle libre

Les coefficients du modèle fixés à 0,0, 1,0 ou d'autres valeurs ne nécessitent pas d'estimation puisqu'ils ont déjà des valeurs spécifiées. Les valeurs estimées des coefficients libres du modèle sont obtenues en maximisant l'ajustement aux données, ou en minimisant l'écart par rapport à ce que seraient les caractéristiques des données si les coefficients libres du modèle prenaient les valeurs estimées. Les implications du modèle sur l'apparence des données pour un ensemble spécifique de valeurs de coefficients dépendent de : a) la position des coefficients dans le modèle (par exemple, les variables connectées/déconnectées), b) la nature des connexions entre les variables (covariances ou effets ; les effets étant souvent supposés linéaires), c) la nature des variables d'erreur ou résiduelles (souvent supposées indépendantes de nombreuses variables, ou causalement déconnectées de celles-ci), et d) les échelles de mesure appropriées aux variables (une mesure d'intervalle est souvent supposée).

Un effet plus marqué entre deux variables latentes implique une corrélation plus forte entre leurs indicateurs. Par conséquent, une estimation raisonnable de l'effet d'une variable latente correspond à la valeur qui minimise les corrélations entre les indicateurs des variables latentes correspondantes, c'est-à-dire l'estimation qui maximise l'adéquation aux données ou minimise les écarts par rapport à celles-ci. Avec l'estimation du maximum de vraisemblance, les valeurs numériques de tous les coefficients libres du modèle sont ajustées individuellement (progressivement augmentées ou diminuées à partir de leurs valeurs initiales) jusqu'à maximiser la vraisemblance d'observer les données de l'échantillon, que ces données correspondent aux covariances/corrélations des variables ou aux valeurs réelles des variables indicatrices pour les observations. Les estimations par les moindres carrés ordinaires correspondent aux valeurs des coefficients qui minimisent la somme des carrés des différences entre les données et ce à quoi elles ressembleraient si le modèle était correctement spécifié, c'est-à-dire si toutes les caractéristiques estimées du modèle correspondaient à des caractéristiques réelles.

Le choix de la caractéristique statistique à maximiser ou à minimiser pour obtenir des estimations dépend du niveau de mesure des variables (l'estimation est généralement plus aisée avec des mesures d'intervalle qu'avec des mesures nominales ou ordinales) et de la position de la variable dans le modèle (par exemple, les variables dichotomiques endogènes sont plus difficiles à estimer que les variables dichotomiques exogènes). La plupart des logiciels de modélisation par équations structurelles (SEM) proposent plusieurs options pour déterminer la caractéristique à maximiser ou à minimiser afin d'estimer les coefficients du modèle. Parmi ces options figurent souvent l'estimation du maximum de vraisemblance (MV), l'estimation du maximum de vraisemblance à information complète (FIML), les moindres carrés ordinaires (MCO), les moindres carrés pondérés (MCP), les moindres carrés pondérés diagonalement (MCPD) et les moindres carrés à deux étapes.

Un problème fréquent est la sous-estimation de la valeur d'un coefficient, due à une contrainte insuffisante du modèle et des données. Il n'existe pas d'estimation optimale unique à moins que le modèle et les données ne contraignent ou ne restreignent suffisamment la valeur du coefficient. Par exemple, l'ampleur d'une corrélation isolée entre deux variables est insuffisante pour estimer une paire d'effets réciproques modélisés entre ces variables. Cette corrélation peut s'expliquer par un effet réciproque plus fort que l'autre, ou inversement, ou encore par des effets d'amplitude égale. Il est possible d'identifier les estimations d'effets sous-estimées en introduisant des contraintes supplémentaires dans le modèle et/ou les données. Par exemple, on peut identifier les effets réciproques en contraignant une estimation à être le double, le triple ou l'égale de l'autre , mais les estimations obtenues ne seront fiables que si la contrainte supplémentaire du modèle correspond à la réalité. Des données sur une troisième variable, qui n'influence directement qu'une seule des deux variables liées causalement de manière réciproque, peuvent également faciliter l'identification. Le fait de contraindre une troisième variable à ne pas être la cause directe de l'une des variables réciproques rompt la symétrie qui, autrement, affecte les estimations de l'effet réciproque, car cette troisième variable doit être plus fortement corrélée avec la variable qu'elle cause directement qu'avec la variable située à l'« autre » extrémité de la relation réciproque, qu'elle n'influence qu'indirectement. Notons que cela présuppose à nouveau la validité de la spécification causale du modèle – à savoir qu'il existe réellement un effet direct de la troisième variable sur la variable située à cette extrémité de la relation réciproque et aucun effet direct sur la variable située à l'« autre » extrémité de la paire de variables réciproques. Les exigences théoriques d'effets nuls/annuels fournissent des contraintes utiles pour l'estimation, bien que les théories omettent souvent de préciser clairement quels effets sont supposément inexistants.

Évaluation du modèle

chi-carré ) est la probabilité que les données puissent résulter de variations d'échantillonnage aléatoires si le modèle estimé constituait les forces causales sous-jacentes réelles de la population. Une faible probabilité

Étapes générales et considérations

Spécifications du modèle

Estimation des coefficients du modèle libre

Évaluation du modèle

Logiciel