Article de reference

Fonction caractéristique (théorie des probabilités)

Fonction caractéristique d'une variable aléatoire uniforme U (–1,1). Cette fonction est à valeurs réelles car elle correspond à une variable aléatoire symétrique par rapport à l...

Fonction caractéristique d'une variable aléatoire uniforme U (–1,1). Cette fonction est à valeurs réelles car elle correspond à une variable aléatoire symétrique par rapport à l'origine ; cependant, les fonctions caractéristiques peuvent généralement être à valeurs complexes.

En théorie des probabilités et en statistique , la fonction caractéristique de toute variable aléatoire à valeur réelle définit complètement sa distribution de probabilité . Si une variable aléatoire admet une fonction de densité de probabilité , alors la fonction caractéristique est la transformée de Fourier (avec inversion de signe) de la fonction de densité de probabilité. Elle offre ainsi une voie alternative aux résultats analytiques par rapport au travail direct avec les fonctions de densité de probabilité ou les fonctions de distribution cumulative . Il existe des résultats particulièrement simples pour les fonctions caractéristiques des distributions définies par les sommes pondérées de variables aléatoires.

Outre les distributions univariées , des fonctions caractéristiques peuvent être définies pour des variables aléatoires à valeurs vectorielles ou matricielles, et peuvent également être étendues à des cas plus génériques.

La fonction caractéristique existe toujours lorsqu'elle est traitée comme une fonction d'un argument à valeur réelle, contrairement à la fonction génératrice de moments . Il existe des relations entre le comportement de la fonction caractéristique d'une distribution et les propriétés de la distribution, telles que l'existence de moments et l'existence d'une fonction de densité.

Introduction

La fonction caractéristique est une façon de décrire une variable aléatoire . La fonction caractéristique ,

une fonction de t détermine le comportement et les propriétés de la distribution de probabilité de la variable aléatoire X. Elle est équivalente à une fonction de densité de probabilité ou à une fonction de distribution cumulative dans le sens où, connaissant l'une des fonctions, il est toujours possible de trouver les autres, mais elles fournissent des informations différentes pour comprendre les caractéristiques de la variable aléatoire. De plus, dans des cas particuliers, il peut y avoir des différences quant à la possibilité de représenter ces fonctions sous forme d'expressions impliquant des fonctions standard simples.

Si une variable aléatoire admet une fonction de densité , alors la fonction caractéristique est son dual de Fourier , dans le sens où chacune d'elles est une transformée de Fourier de l'autre. Si une variable aléatoire a une fonction génératrice de moments , alors le domaine de la fonction caractéristique peut être étendu au plan complexe, et

Notez cependant que la fonction caractéristique d'une distribution est bien définie pour toutes les valeurs réelles de t , même lorsque la fonction génératrice de moments n'est pas bien définie pour toutes les valeurs réelles de t .

L'approche par les fonctions caractéristiques est particulièrement utile dans l'analyse des combinaisons linéaires de variables aléatoires indépendantes : une preuve classique du théorème central limite utilise les fonctions caractéristiques et le théorème de continuité de Lévy . Une autre application importante concerne la théorie de la décomposabilité des variables aléatoires.

Définition

Pour une variable aléatoire scalaire X, la fonction caractéristique est définie comme la valeur attendue de e itX , où i est l' unité imaginaire et tR est l'argument de la fonction caractéristique :

Français Ici F X est la fonction de distribution cumulative de X , f X est la fonction de densité de probabilité correspondante , Q X ( p ) est la fonction de distribution cumulative inverse correspondante également appelée fonction quantile , et les intégrales sont de type Riemann-Stieltjes . Si une variable aléatoire X a une fonction de densité de probabilité alors la fonction caractéristique est sa transformée de Fourier avec inversion de signe dans l'exponentielle complexe . Cette convention pour les constantes apparaissant dans la définition de la fonction caractéristique diffère de la convention habituelle pour la transformée de Fourier. Par exemple, certains auteurs définissent φ X ( t ) = E[ e −2 πitX ] , qui est essentiellement un changement de paramètre. D'autres notations peuvent être rencontrées dans la littérature : comme la fonction caractéristique d'une mesure de probabilité p , ou comme la fonction caractéristique correspondant à une densité f .

Généralisations

La notion de fonctions caractéristiques se généralise aux variables aléatoires multivariées et aux éléments aléatoires plus complexes . L'argument de la fonction caractéristique appartiendra toujours au dual continu de l'espace où la variable aléatoire X prend ses valeurs. Pour les cas courants, de telles définitions sont énumérées ci-dessous :

Exemples

Oberhettinger (1973) fournit des tableaux détaillés de fonctions caractéristiques.

Propriétés

  • La fonction caractéristique d'une variable aléatoire à valeur réelle existe toujours, puisqu'elle est une intégrale d'une fonction continue bornée sur un espace dont la mesure est finie.
  • Une fonction caractéristique est uniformément continue sur tout l'espace.
  • Elle est non nulle dans une région autour de zéro : φ (0) = 1 .
  • Elle est délimitée : | φ ( t ) | ≤ 1 .
  • Elle est hermitienne : φ (− t ) = φ ( t ) . En particulier, la fonction caractéristique d'une variable aléatoire symétrique (autour de l'origine) est réelle et paire .
  • Il existe une bijection entre les distributions de probabilité et les fonctions caractéristiques. Autrement dit, pour deux variables aléatoires quelconques X 1 , X 2 , les deux ont la même distribution de probabilité si et seulement si .
  • Si une variable aléatoire X possède des moments jusqu'à l'ordre k , alors la fonction caractéristique φ X est k fois continûment différentiable sur toute la droite réelle. Dans ce cas
  • Si une fonction caractéristique φ X a une dérivée k -ième à zéro, alors la variable aléatoire X a tous les moments jusqu'à k si k est pair, mais seulement jusqu'à k – 1 si k est impair.
  • Si X 1 , ..., X n sont des variables aléatoires indépendantes et a 1 , ..., a n sont des constantes, alors la fonction caractéristique de la combinaison linéaire des variables X i est Un cas particulier est la somme de deux variables aléatoires indépendantes X 1 et X 2 dans ce cas on a
  • Soient et deux variables aléatoires de fonctions caractéristiques et . et sont indépendantes si et seulement si .
  • Le comportement de la queue de la fonction caractéristique détermine la régularité de la fonction de densité correspondante.
  • Soit la variable aléatoire la transformation linéaire d'une variable aléatoire . La fonction caractéristique de est . Pour les vecteurs aléatoires et (où A est une matrice constante et B un vecteur constant), nous avons .

Continuité

La bijection énoncée ci-dessus entre les distributions de probabilité et les fonctions caractéristiques est séquentiellement continue . C'est-à-dire que chaque fois qu'une séquence de fonctions de distribution F j ( x ) converge (faiblement) vers une certaine distribution F ( x ) , la séquence correspondante de fonctions caractéristiques φ j ( t ) convergera également, et la limite φ ( t ) correspondra à la fonction caractéristique de la loi F . Plus formellement, cela s'énonce comme suit :

Théorème de continuité de Lévy : Une suite X j devariables aléatoires à n variables converge en distribution vers la variable aléatoire X si et seulement si la suite φ X j converge ponctuellement vers une fonction φ continue à l'origine. Où φ est la fonction caractéristique de X .

Ce théorème peut être utilisé pour prouver la loi des grands nombres et le théorème central limite .

Formule d'inversion

Il existe une correspondance bijective entre les fonctions de distribution cumulative et les fonctions caractéristiques, il est donc possible de trouver l'une de ces fonctions si l'on connaît l'autre. La formule de la définition de la fonction caractéristique nous permet de calculer φ lorsque nous connaissons la fonction de distribution F (ou la densité f ). Si, au contraire, nous connaissons la fonction caractéristique φ et que nous voulons trouver la fonction de distribution correspondante, alors l'un des théorèmes d'inversion suivants peut être utilisé.

Théorème . Si la fonction caractéristique φ X d'une variable aléatoire X est intégrable , alors F X est absolument continue, et donc X a une fonction de densité de probabilité . Dans le cas univarié (c'est-à-dire lorsque X est à valeur scalaire) la fonction de densité est donnée par

Dans le cas multivarié, c'est

où est le produit scalaire .

La fonction de densité est la dérivée de Radon–Nikodym de la distribution μ X par rapport à la mesure de Lebesgue λ :

Théorème (Lévy) . Si φ X est une fonction caractéristique de la fonction de répartition F X , deux points a < b sont tels que { x | a < x < b } est un ensemble de continuité de μ X (dans le cas univarié cette condition est équivalente à la continuité de F X aux points a et b ), alors

  • Si X est scalaire : Cette formule peut être reformulée sous une forme plus pratique pour le calcul numérique comme Pour une variable aléatoire délimitée par le bas, on peut obtenir en prenant tel que Sinon, si une variable aléatoire n'est pas délimitée par le bas, la limite pour donne , mais est numériquement impraticable.
  • Si X est une variable aléatoire vectorielle :

Théorème . Si a est (éventuellement) un atome de X (dans le cas univarié cela signifie un point de discontinuité de F X ) alors

  • Si X est scalaire :
  • Si X est une variable aléatoire vectorielle :

Théorème (Gil-Pelaez) . Pour une variable aléatoire univariée X , si x est un point de continuité de F X alors

où la partie imaginaire d'un nombre complexe est donnée par .

Et sa fonction de densité est :

L'intégrale peut ne pas être intégrable au sens de Lebesgue ; par exemple, lorsque X est la variable aléatoire discrète qui est toujours 0, elle devient l' intégrale de Dirichlet .

Des formules d'inversion pour les distributions multivariées sont disponibles.

Critères pour les fonctions caractéristiques

L'ensemble de toutes les fonctions caractéristiques est fermé sous certaines opérations :

  • Une combinaison linéaire convexe (avec ) d'un nombre fini ou dénombrable de fonctions caractéristiques est également une fonction caractéristique.
  • Le produit d'un nombre fini de fonctions caractéristiques est également une fonction caractéristique. Il en est de même pour un produit infini pourvu qu'il converge vers une fonction continue à l'origine.
  • Si φ est une fonction caractéristique et α est un nombre réel, alors , Re( φ ), | φ | 2 et φ ( αt ) sont également des fonctions caractéristiques.

Il est bien connu que toute fonction càdlàg non décroissante F avec des limites F (−∞) = 0 , F (+∞) = 1 correspond à une fonction de distribution cumulative d'une variable aléatoire. Il existe également un intérêt à trouver des critères simples similaires pour déterminer quand une fonction donnée φ pourrait être la fonction caractéristique d'une variable aléatoire. Le résultat central ici est le théorème de Bochner , bien que son utilité soit limitée car la condition principale du théorème, la non-définition négative , est très difficile à vérifier. D'autres théorèmes existent également, tels que celui de Khinchine, de Mathias ou de Cramér, bien que leur application soit tout aussi difficile. Le théorème de Pólya , d'autre part, fournit une condition de convexité très simple qui est suffisante mais pas nécessaire. Les fonctions caractéristiques qui satisfont cette condition sont dites de type Pólya.

Théorème de Bochner . Une fonction arbitraire φ : R nC est la fonction caractéristique d'une variable aléatoire si et seulement si φ est définie positive , continue à l'origine, et si φ (0) = 1 .

Critère de Khinchine . Une fonction φ à valeurs complexes, absolument continue , avec φ (0) = 1 , est une fonction caractéristique si et seulement si elle admet la représentation

Théorème de Mathias . Une fonction φ à valeurs réelles, paire, continue, absolument intégrable , avec φ (0) = 1 , est une fonction caractéristique si et seulement si

pour n = 0,1,2,... , et tout p > 0 . Ici H 2 n désigne le polynôme d'Hermite de degré 2 n .

Le théorème de Pólya peut être utilisé pour construire un exemple de deux variables aléatoires dont les fonctions caractéristiques coïncident sur un intervalle fini mais sont différentes ailleurs.

Théorème de Pólya . Si est une fonction continue, paire et à valeurs réelles qui satisfait les conditions

  • ,
  • est convexe pour ,0 t > 0 {\displaystyle t>0} 0}" data-src="https://wikimedia.org/api/rest_v1/media/math/render/svg/29a2960e88369263fe3cfe00ccbfeb83daee212a">
  • ,

alors φ ( t ) est la fonction caractéristique d'une distribution absolument continue symétrique par rapport à 0.

Utilisations

En raison du théorème de continuité , les fonctions caractéristiques sont utilisées dans la démonstration la plus fréquente du théorème central limite . La principale technique utilisée pour effectuer des calculs avec une fonction caractéristique consiste à reconnaître la fonction comme la fonction caractéristique d'une distribution particulière.

Manipulations de base des distributions

Les fonctions caractéristiques sont particulièrement utiles pour traiter des fonctions linéaires de variables aléatoires indépendantes . Par exemple, si X 1 , X 2 , ..., X n est une séquence de variables aléatoires indépendantes (et pas nécessairement identiquement distribuées), et

où les a i sont des constantes, alors la fonction caractéristique de S n est donnée par

En particulier, φ X+Y ( t ) = φ X ( t ) φ Y ( t ) . Pour le voir, écrivez la définition de la fonction caractéristique :

L'indépendance de X et Y est nécessaire pour établir l'égalité des troisième et quatrième expressions.

Un autre cas particulier intéressant pour les variables aléatoires distribuées de manière identique est celui où a i = 1 / n et S n est la moyenne de l'échantillon. Dans ce cas, en écrivant X pour la moyenne,

Moments

Les fonctions caractéristiques peuvent également être utilisées pour trouver les moments d'une variable aléatoire. À condition que le n - ième moment existe, la fonction caractéristique peut être différenciée n fois :

Ceci peut être formellement écrit en utilisant les dérivées de la fonction delta de Dirac : qui permet une solution formelle au problème des moments . Par exemple, supposons que X ait une distribution de Cauchy standard . Alors φ X ( t ) = e −| t | . Ceci n'est pas différentiable à t = 0 , montrant que la distribution de Cauchy n'a pas d'espérance . De plus, la fonction caractéristique de la moyenne de l'échantillon X de n observations indépendantes a une fonction caractéristique φ X ( t ) = ( e −| t |/ n ) n = e −| t | , en utilisant le résultat de la section précédente. C'est la fonction caractéristique de la distribution de Cauchy standard : ainsi, la moyenne de l'échantillon a la même distribution que la population elle-même.

À titre d'exemple supplémentaire, supposons que X suive une distribution gaussienne, c'est-à-dire . Alors et

Un calcul similaire est montré et est plus facile à réaliser que l'application de la définition de l'espérance et l'utilisation de l'intégration par parties pour évaluer .

Le logarithme d'une fonction caractéristique est une fonction génératrice de cumulants , qui est utile pour trouver des cumulants ; certains définissent plutôt la fonction génératrice de cumulants comme le logarithme de la fonction génératrice de moments , et appellent le logarithme de la fonction caractéristique la deuxième fonction génératrice de cumulants.

Analyse des données

Les fonctions caractéristiques peuvent être utilisées dans le cadre de procédures d'ajustement des distributions de probabilité à des échantillons de données. Les cas où cela fournit une option pratique par rapport à d'autres possibilités incluent l'ajustement de la distribution stable puisque les expressions sous forme fermée pour la densité ne sont pas disponibles, ce qui rend la mise en œuvre de l'estimation du maximum de vraisemblance difficile. Des procédures d'estimation sont disponibles qui font correspondre la fonction caractéristique théorique à la fonction caractéristique empirique , calculée à partir des données. Paulson et al. (1975) et Heathcote (1977) fournissent un certain contexte théorique pour une telle procédure d'estimation. De plus, Yu (2004) décrit des applications de fonctions caractéristiques empiriques pour ajuster des modèles de séries chronologiques lorsque les procédures de vraisemblance ne sont pas pratiques. Des fonctions caractéristiques empiriques ont également été utilisées par Ansari et al. (2020) et Li et al. (2020) pour la formation de réseaux antagonistes génératifs .

Exemple

La distribution gamma avec un paramètre d'échelle θ et un paramètre de forme k a pour fonction caractéristique

Supposons maintenant que nous ayons

avec X et Y indépendants l'un de l'autre, et nous souhaitons savoir quelle est la distribution de X + Y. Les fonctions caractéristiques sont

qui, par l'indépendance et les propriétés fondamentales de la fonction caractéristique, conduit à

Il s'agit de la fonction caractéristique du paramètre d'échelle de distribution gamma θ et du paramètre de forme k 1 + k 2 , et nous concluons donc

Le résultat peut être étendu à n variables aléatoires indépendantes distribuées gamma avec le même paramètre d'échelle et nous obtenons

Fonctions caractéristiques entières

Comme défini ci-dessus, l'argument de la fonction caractéristique est traité comme un nombre réel : cependant, certains aspects de la théorie des fonctions caractéristiques sont avancés en étendant la définition dans le plan complexe par continuation analytique , dans les cas où cela est possible.

Concepts connexes

Les concepts associés incluent la fonction génératrice des moments et la fonction génératrice des probabilités . La fonction caractéristique existe pour toutes les distributions de probabilité. Ce n'est pas le cas pour la fonction génératrice des moments.

La fonction caractéristique est étroitement liée à la transformée de Fourier : la fonction caractéristique d'une fonction de densité de probabilité p ( x ) est le conjugué complexe de la transformée de Fourier continue de p ( x ) (selon la convention usuelle ; voir transformée de Fourier continue – autres conventions ).

P ( t ) désigne la transformée de Fourier continue de la fonction de densité de probabilité p ( x ) . De même, p ( x ) peut être récupéré à partir de φ X ( t ) par la transformée de Fourier inverse :

En effet, même lorsque la variable aléatoire n’a pas de densité, la fonction caractéristique peut être vue comme la transformée de Fourier de la mesure correspondant à la variable aléatoire.

Un autre concept connexe est la représentation des distributions de probabilité comme éléments d'un espace de Hilbert à noyau reproducteur via l' incorporation de noyaux de distributions . Ce cadre peut être considéré comme une généralisation de la fonction caractéristique sous des choix spécifiques de la fonction noyau .

Plus d articles de Worldlex Wiki

Revenez a l index pour explorer davantage de pages sur l histoire, la science, la culture, la geographie et la societe en francais.

Explorer l index