Échantillonnage par transformation inverse

L'échantillonnage par transformation inverse (également connu sous le nom d'échantillonnage par inversion , de transformation intégrale de probabilité inverse , de méthode de transformation inverse ou de transformation de Smirnov ) est une méthode de base pour l'échantillonnage de nombres pseudo-aléatoires , c'est-à-dire pour générer des nombres d'échantillons au hasard à partir de n'importe quelle distribution de probabilité étant donné sa fonction de distribution cumulative .

L'échantillonnage par transformation inverse prélève des échantillons uniformes d'un nombre ${\displaystyle u <semantics><mrow><mstyle><mi>vous</mi></mstyle></mrow><annotation>{\displaystyle u}</annotation></semantics></math><img src=$ ${\displaystyle x\in \mathbb {R} <semantics><mrow><mstyle><mi>x</mi><mo>∈</mo><mrow><mi>R</mi></mrow></mstyle></mrow><annotation>{\displaystyle x\in \mathbb {R} }</annotation></semantics></math><img src=$ ${\displaystyle F(x)\geq u <semantics><mrow><mstyle><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo><mo>≥</mo><mi>vous</mi></mstyle></mrow><annotation>{\displaystyle F(x)\geq u}</annotation></semantics></math><img src=$ ${\displaystyle F <semantics><mrow><mstyle><mi>F</mi></mstyle></mrow><annotation>{\displaystyle F}</annotation></semantics></math><img src=$ ${\displaystyle F <semantics><mrow><mstyle><mi>F</mi></mstyle></mrow><annotation>{\displaystyle F}</annotation></semantics></math><img src=$

Échantillonnage par transformation inverse pour une distribution normale

Nous choisissons aléatoirement une proportion de l'aire sous la courbe et renvoyons la valeur correspondante dans le domaine, telle que cette proportion se situe exactement à gauche de cette valeur. Intuitivement, il est peu probable de choisir une valeur à l'extrémité de la distribution, car l'aire y est très faible, ce qui obligerait à choisir une valeur très proche de zéro ou de un.

Du point de vue du calcul, cette méthode consiste à calculer la fonction quantile de la distribution, c'est-à-dire sa fonction de répartition (qui associe à chaque nombre du domaine une probabilité comprise entre 0 et 1), puis à inverser cette fonction. C'est l'origine des termes « inverse » ou « inversion » souvent utilisés pour désigner cette méthode. Il est à noter que pour une distribution discrète , le calcul de la fonction de répartition n'est généralement pas très complexe : il suffit d'additionner les probabilités individuelles des différents points de la distribution. En revanche, pour une distribution continue , il est nécessaire d'intégrer sa fonction de densité de probabilité , ce qui est impossible à faire analytiquement pour la plupart des distributions (y compris la distribution normale ). Par conséquent, cette méthode peut s'avérer inefficace pour de nombreuses distributions et d'autres méthodes sont alors préférables ; elle reste néanmoins utile pour construire des échantillonneurs plus généraux, tels que ceux basés sur l'échantillonnage par rejet .

Pour la loi normale , l'absence d' expression analytique de la fonction quantile correspondante implique que d'autres méthodes (par exemple, la transformation de Box-Muller ) peuvent être préférables du point de vue du calcul. Il arrive souvent que, même pour des distributions simples, la méthode d'échantillonnage par transformation inverse puisse être améliorée : voir, par exemple, l' algorithme de ziggourat et l'échantillonnage par rejet . Par ailleurs, il est possible d'approximer la fonction quantile de la loi normale avec une très grande précision à l'aide de polynômes de degré modéré, et cette méthode est si rapide que l'échantillonnage par inversion est désormais la méthode par défaut pour l'échantillonnage d'une loi normale dans le logiciel statistique R.

Déclaration formelle

Pour toute variable aléatoire ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle \mathbb {R} <semantics><mrow><mstyle><mrow><mi>R</mi></mrow></mstyle></mrow><annotation>{\displaystyle \mathbb {R} }</annotation></semantics></math><img src=$ ${\displaystyle F_{X}^{-1}(U) <semantics><mrow><mstyle><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><mi>U</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F_{X}^{-1}(U)}</annotation></semantics></math><img src=$ ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle F_{X}^{-1 <semantics><mrow><mstyle><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup></mstyle></mrow><annotation>{\displaystyle F_{X}^{-1}}</annotation></semantics></math><img src=$ ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$ ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle U <semantics><mrow><mstyle><mi>U</mi></mstyle></mrow><annotation>{\displaystyle U}</annotation></semantics></math><img src=$ ${\displaystyle [0,1] <semantics><mrow><mstyle><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{\displaystyle [0,1]}</annotation></semantics></math><img src=$

Pour les variables aléatoires continues , la transformation intégrale de probabilité inverse est bien l'inverse de la transformation intégrale de probabilité , qui stipule que pour une variable aléatoire continue ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$ ${\displaystyle U=F_{X}(X) <semantics><mrow><mstyle><mi>U</mi><mo>=</mo><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub><mo>(</mo><mi>X</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle U=F_{X}(X)}</annotation></semantics></math><img src=$ ${\displaystyle [0,1] <semantics><mrow><mstyle><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{\displaystyle [0,1]}</annotation></semantics></math><img src=$

Graphique de la technique d'inversion à partir de ${\displaystyle x <semantics><mrow><mstyle><mi>x</mi></mstyle></mrow><annotation>{\displaystyle x}</annotation></semantics></math></span><img src=$ ${\displaystyle F(x) <semantics><mrow><mstyle><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F(x)}</annotation></semantics></math></span><img src=$

Intuition

Depuis ${\displaystyle U\sim \mathrm {Unif} [0,1] <semantics><mrow><mstyle><mi>U</mi><mo>∼</mo><mrow><mi>U</mi><mi>n</mi><mi>je</mi><mi>f</mi></mrow><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{ displaystyle U sim mathrm {Unif} [0,1]}</annotation></semantics></math><img src=$ ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle F_{X}(x). <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub><mo>(</mo><mi>x</mi><mo>)</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle F_{X}(x).}</annotation></semantics></math><img src=$ ${\displaystyle F_{X}(x) <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub><mo>(</mo><mi>x</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F_{X}(x)}</annotation></semantics></math><img src=$

Nous voulons voir si nous pouvons trouver une transformation strictement monotone ${\displaystyle T:[0,1]\mapsto \mathbb {R} <semantics><mrow><mstyle><mi>T</mi><mo>:</mo><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo><mo>↦</mo><mrow><mi>R</mi></mrow></mstyle></mrow><annotation>{\displaystyle T:[0,1]\mapsto \mathbb {R} }</annotation></semantics></math><img src=$ ${\displaystyle T(U){\overset {d}{=}}X <semantics><mrow><mstyle><mi>T</mi><mo>(</mo><mi>U</mi><mo>)</mo><mrow><mover><mo>=</mo><mi>d</mi></mover></mrow><mi>X</mi></mstyle></mrow><annotation>{\displaystyle T(U){\overset {d}{=}}X}</annotation></semantics></math><img src=$

${\displaystyle F_{X}(x)=\Pr(X\leq x)=\Pr(T(U)\leq x)=\Pr(U\leq T^{-1}(x))=T^{-1}(x),{ ext{ for }}x\in \mathbb {R} , <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub><mo>(</mo><mi>x</mi><mo>)</mo><mo>=</mo><mo>Pr</mo><mo>(</mo><mi>X</mi><mo>≤</mo><mi>x</mi><mo>)</mo><mo>=</mo><mo>Pr</mo><mo>(</mo><mi>T</mi><mo>(</mo><mi>U</mi><mo>)</mo><mo>≤</mo><mi>x</mi><mo>)</mo><mo>=</mo><mo>Pr</mo><mo>(</mo><mi>U</mi><mo>≤</mo><msup><mi>T</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>x</mi><mo>)</mo><mo>)</mo><mo>=</mo><msup><mi>T</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>x</mi><mo>)</mo><mo>,</mo><mrow><mtext> pour </mtext></mrow><mi>x</mi><mo>∈</mo><mrow><mi>R</mi></mrow><mo>,</mo></mstyle></mrow><annotation>{\displaystyle F_{X}(x)=\Pr(X\leq x)=\Pr(T(U)\leq x)=\Pr(U\leq T^{-1}(x))=T^{-1}(x),{ ext{ pour }}x\in \mathbb {R} ,}</annotation></semantics></math><img src=$

où la dernière étape a utilisé cela ${\displaystyle \Pr(U\leq y)=y <semantics><mrow><mstyle><mo>Pr</mo><mo>(</mo><mi>U</mi><mo>≤</mo><mi>y</mi><mo>)</mo><mo>=</mo><mi>y</mi></mstyle></mrow><annotation>{ displaystyle Pr (U leq y) = y}</annotation></semantics></math><img src=$ ${\displaystyle U <semantics><mrow><mstyle><mi>U</mi></mstyle></mrow><annotation>{\displaystyle U}</annotation></semantics></math><img src=$ ${\displaystyle [0,1] <semantics><mrow><mstyle><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{\displaystyle [0,1]}</annotation></semantics></math><img src=$

Alors on a eu ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$ ${\displaystyle T <semantics><mrow><mstyle><mi>T</mi></mstyle></mrow><annotation>{\displaystyle T}</annotation></semantics></math><img src=$ ${\displaystyle T(u)=F_{X}^{-1}(u),u\in [0,1]. <semantics><mrow><mstyle><mi>T</mi><mo>(</mo><mi>vous</mi><mo>)</mo><mo>=</mo><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><mi>vous</mi><mo>)</mo><mo>,</mo><mi>vous</mi><mo>∈</mo><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle T(u)=F_{X}^{-1}(u),u\in [0,1].}</annotation></semantics></math><img src=$

Par conséquent, nous pouvons générer ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle F_{X}^{-1}(U). <semantics><mrow><mstyle><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><mi>U</mi><mo>)</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle F_{X}^{-1}(U).}</annotation></semantics></math><img src=$

La méthode

Une animation illustrant comment l'échantillonnage par transformation inverse génère des valeurs aléatoires normalement distribuées à partir de valeurs aléatoires uniformément distribuées.

Le problème que résout la méthode d'échantillonnage par transformation inverse est le suivant :

Laisser ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$ ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$
Nous voulons générer des valeurs de ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$

La méthode d'échantillonnage par transformation inverse fonctionne comme suit :

Générer un nombre aléatoire ${\displaystyle u <semantics><mrow><mstyle><mi>vous</mi></mstyle></mrow><annotation>{\displaystyle u}</annotation></semantics></math><img src=$ ${\displaystyle [0,1] <semantics><mrow><mstyle><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{\displaystyle [0,1]}</annotation></semantics></math><img src=$ ${\displaystyle U\sim \mathrm {Unif} [0,1]. <semantics><mrow><mstyle><mi>U</mi><mo>∼</mo><mrow><mi>U</mi><mi>n</mi><mi>je</mi><mi>f</mi></mrow><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle U\sim \mathrm {Unif} [0,1].}</annotation></semantics></math><img src=$
Trouvez l' inverse généralisée de la fonction de répartition cumulative (CDF) souhaitée, c'est-à-dire ${\displaystyle F_{X}^{-1}(u) <semantics><mrow><mstyle><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><mi>vous</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F_{X}^{-1}(u)}</annotation></semantics></math><img src=$
Calculer ${\displaystyle X'(u)=F_{X}^{-1}(u) <semantics><mrow><mstyle><msup><mi>X</mi><mo>′</mo></msup><mo>(</mo><mi>vous</mi><mo>)</mo><mo>=</mo><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><mi>vous</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle X'(u)=F_{X}^{-1}(u)}</annotation></semantics></math><img src=$ ${\displaystyle X'(U) <semantics><mrow><mstyle><msup><mi>X</mi><mo>′</mo></msup><mo>(</mo><mi>U</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle X'(U)}</annotation></semantics></math><img src=$ ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$ ${\displaystyle X <semantics><mrow><mstyle><mi>X</mi></mstyle></mrow><annotation>{\displaystyle X}</annotation></semantics></math><img src=$

Autrement dit, étant donné une fonction de répartition cumulative ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$ ${\displaystyle U\in [0,1] <semantics><mrow><mstyle><mi>U</mi><mo>∈</mo><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{\displaystyle U\in [0,1]}</annotation></semantics></math><img src=$ ${\displaystyle X=F_{X}^{-1}(U) <semantics><mrow><mstyle><mi>X</mi><mo>=</mo><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><mi>U</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle X=F_{X}^{-1}(U)}</annotation></semantics></math><img src=$ ${\displaystyle F_{X <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub></mstyle></mrow><annotation>{\displaystyle F_{X}}</annotation></semantics></math><img src=$

Dans le cas continu, on peut traiter ces fonctions inverses comme des objets satisfaisant des équations différentielles. Certaines de ces équations différentielles admettent des solutions explicites sous forme de séries entières , malgré leur non-linéarité.

Exemples

À titre d'exemple, supposons que nous ayons une variable aléatoire ${\displaystyle U\sim \mathrm {Unif} (0,1) <semantics><mrow><mstyle><mi>U</mi><mo>∼</mo><mrow><mi>U</mi><mi>n</mi><mi>je</mi><mi>f</mi></mrow><mo>(</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>)</mo></mstyle></mrow><annotation>{\displaystyle U\sim \mathrm {Unif} (0,1)}</annotation></semantics></math><img src=$

{\displaystyle {\begin{aligned}F(x)=1-\exp(-{\sqrt {x}})\end{aligned <semantics><mrow><mstyle><mrow><mtable><mtr><mtd><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo><mo>=</mo><mn>1</mn><mo>−</mo><mi>exp</mi><mo>⁡</mo><mo>(</mo><mo>−</mo><mrow><msqrt><mi>x</mi></msqrt></mrow><mo>)</mo></mtd></mtr></mtable></mrow></mstyle></mrow><annotation>{\displaystyle {\begin{aligned}F(x)=1-\exp(-{\sqrt {x}})\end{aligned}}}</annotation></semantics></math></span><img src=

Pour effectuer une inversion, nous devons résoudre pour

{\displaystyle F(F^{-1}(u))=u <semantics><mrow><mstyle><mi>F</mi><mo>(</mo><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo><mo>)</mo><mo>=</mo><mi>vous</mi></mstyle></mrow><annotation>{\displaystyle F(F^{-1}(u))=u}</annotation></semantics></math></span><img src=

{\displaystyle {\begin{aligned}F(F^{-1}(u))&=u\\1-\exp \left(-{\sqrt {F^{-1}(u)}} ight)&=u\\F^{-1}(u)&=(-\log(1-u))^{2}\\&=(\log(1-u))^{2}\end{aligned <semantics><mrow><mstyle><mrow><mtable><mtr><mtd><mi>F</mi><mo>(</mo><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo><mo>)</mo></mtd><mtd><mi></mi><mo>=</mo><mi>vous</mi></mtd></mtr><mtr><mtd><mn>1</mn><mo>−</mo><mi>exp</mi><mo>⁡</mo><mrow><mo>(</mo><mrow><mo>−</mo><mrow><msqrt><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo></msqrt></mrow></mrow><mo>)</mo></mrow></mtd><mtd><mi></mi><mo>=</mo><mi>vous</mi></mtd></mtr><mtr><mtd><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo></mtd><mtd><mi></mi><mo>=</mo><mo>(</mo><mo>−</mo><mi>enregistrer</mi><mo>⁡</mo><mo>(</mo><mn>1</mn><mo>−</mo><mi>vous</mi><mo>)</mo><msup><mo>)</mo><mrow><mn>2</mn></mrow></msup></mtd></mtr><mtr><mtd></mtd><mtd><mi></mi><mo>=</mo><mo>(</mo><mi>enregistrer</mi><mo>⁡</mo><mo>(</mo><mn>1</mn><mo>−</mo><mi>vous</mi><mo>)</mo><msup><mo>)</mo><mrow><mn>2</mn></mrow></msup></mtd></mtr></mtable></mrow></mstyle></mrow><annotation>{\displaystyle {\begin{aligned}F(F^{-1}(u))&=u\\1-\exp \left(-{\sqrt {F^{-1}(u)}} ight)&=u\\F^{-1}(u)&=(-\log(1-u))^{2}\\&=(\log(1-u))^{2}\end{aligned}}}</annotation></semantics></math></span><img src=

À partir de là, nous effectuerions les étapes un, deux et trois.

À titre d'exemple supplémentaire, nous utilisons la distribution exponentielle avec ${\displaystyle F_{X}(x)=1-e^{-\lambda x <semantics><mrow><mstyle><msub><mi>F</mi><mrow><mi>X</mi></mrow></msub><mo>(</mo><mi>x</mi><mo>)</mo><mo>=</mo><mn>1</mn><mo>−</mo><msup><mi>e</mi><mrow><mo>−</mo><mi>λ</mi><mi>x</mi></mrow></msup></mstyle></mrow><annotation>{\displaystyle F_{X}(x)=1-e^{-\lambda x}}</annotation></semantics></math><img src=$

{\displaystyle x=F^{-1}(y)=-{\frac {1}{\lambda }}\ln(1-y). <semantics><mrow><mstyle><mi>x</mi><mo>=</mo><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>y</mi><mo>)</mo><mo>=</mo><mo>−</mo><mrow><mfrac><mn>1</mn><mi>λ</mi></mfrac></mrow><mi>ln</mi><mo>⁡</mo><mo>(</mo><mn>1</mn><mo>−</mo><mi>y</mi><mo>)</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle x=F^{-1}(y)=-{\frac {1}{\lambda }}\ln(1-y).}</annotation></semantics></math></span><img src=

Cela signifie que si nous dessinons certains

{\displaystyle y_{0 <semantics><mrow><mstyle><msub><mi>y</mi><mrow><mn>0</mn></mrow></msub></mstyle></mrow><annotation>{\displaystyle y_{0}}</annotation></semantics></math></span><img src=

{\displaystyle U\sim \mathrm {Unif} (0,1) <semantics><mrow><mstyle><mi>U</mi><mo>∼</mo><mrow><mi>U</mi><mi>n</mi><mi>je</mi><mi>f</mi></mrow><mo>(</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>)</mo></mstyle></mrow><annotation>{\displaystyle U\sim \mathrm {Unif} (0,1)}</annotation></semantics></math></span><img src=

{\displaystyle x_{0}=F_{X}^{-1}(y_{0})=-{\frac {1}{\lambda }}\ln(1-y_{0}), <semantics><mrow><mstyle><msub><mi>x</mi><mrow><mn>0</mn></mrow></msub><mo>=</mo><msubsup><mi>F</mi><mrow><mi>X</mi></mrow><mrow><mo>−</mo><mn>1</mn></mrow></msubsup><mo>(</mo><msub><mi>y</mi><mrow><mn>0</mn></mrow></msub><mo>)</mo><mo>=</mo><mo>−</mo><mrow><mfrac><mn>1</mn><mi>λ</mi></mfrac></mrow><mi>ln</mi><mo>⁡</mo><mo>(</mo><mn>1</mn><mo>−</mo><msub><mi>y</mi><mrow><mn>0</mn></mrow></msub><mo>)</mo><mo>,</mo></mstyle></mrow><annotation>{\displaystyle x_{0}=F_{X}^{-1}(y_{0})=-{\frac {1}{\lambda }}\ln(1-y_{0}),}</annotation></semantics></math></span><img src=

{\displaystyle x_{0 <semantics><mrow><mstyle><msub><mi>x</mi><mrow><mn>0</mn></mrow></msub></mstyle></mrow><annotation>{\displaystyle x_{0}}</annotation></semantics></math></span><img src=

Cette idée est illustrée dans le graphique suivant :

Notez que la distribution ne change pas si l'on commence par 1-y au lieu de y. Pour les calculs, il suffit donc de générer des nombres aléatoires y dans [0, 1] et de calculer ensuite simplement

{\displaystyle x=F^{-1}(y)=-{\frac {1}{\lambda }}\ln(y). <semantics><mrow><mstyle><mi>x</mi><mo>=</mo><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>y</mi><mo>)</mo><mo>=</mo><mo>−</mo><mrow><mfrac><mn>1</mn><mi>λ</mi></mfrac></mrow><mi>ln</mi><mo>⁡</mo><mo>(</mo><mi>y</mi><mo>)</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle x=F^{-1}(y)=-{\frac {1}{\lambda }}\ln(y).}</annotation></semantics></math></span><img src=

Preuve de justesse

Laisser ${\displaystyle F <semantics><mrow><mstyle><mi>F</mi></mstyle></mrow><annotation>{\displaystyle F}</annotation></semantics></math><img src=$ ${\displaystyle F^{-1 <semantics><mrow><mstyle><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup></mstyle></mrow><annotation>{\displaystyle F^{-1}}</annotation></semantics></math><img src=$

{\displaystyle F^{-1}(u)=\inf \;\{x\mid F(x)\geq u\}\qquad (0<u<1). <semantics><mrow><mstyle><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo><mo>=</mo><mo>inf</mo><mspace></mspace><mo>{</mo><mi>x</mi><mo>∣</mo><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo><mo>≥</mo><mi>vous</mi><mo>}</mo><mspace></mspace><mo>(</mo><mn>0</mn><mo><</mo><mi>vous</mi><mo><</mo><mn>1</mn><mo>)</mo><mo>.</mo></mstyle></mrow><annotation>{\displaystyle F^{-1}(u)=\inf \;\{x\mid F(x)\geq u\}\qquad (0<u<1).}</annotation></semantics></math></span><img src=

Affirmation : Si ${\displaystyle U <semantics><mrow><mstyle><mi>U</mi></mstyle></mrow><annotation>{\displaystyle U}</annotation></semantics></math><img src=$ ${\displaystyle [0,1] <semantics><mrow><mstyle><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo></mstyle></mrow><annotation>{\displaystyle [0,1]}</annotation></semantics></math><img src=$ ${\displaystyle F^{-1}(U) <semantics><mrow><mstyle><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>U</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F^{-1}(U)}</annotation></semantics></math><img src=$ ${\displaystyle F <semantics><mrow><mstyle><mi>F</mi></mstyle></mrow><annotation>{\displaystyle F}</annotation></semantics></math><img src=$

Preuve:

{\displaystyle {\begin{aligned}&\Pr(F^{-1}(U)\leq x)\\&{}=\Pr(U\leq F(x))\quad &(F{ ext{ is right-continuous, so }}\{u:F^{-1}(u)\leq x\}=\{u:u\leq F(x)\})\\&{}=F(x)\quad &({ ext{because }}\Pr(U\leq u)=u,{ ext{ when }}U{ ext{ is uniform on }}[0,1])\\\end{aligned <semantics><mrow><mstyle><mrow><mtable><mtr><mtd></mtd><mtd><mi></mi><mo>Pr</mo><mo>(</mo><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>U</mi><mo>)</mo><mo>≤</mo><mi>x</mi><mo>)</mo></mtd></mtr><mtr><mtd></mtd><mtd><mi></mi><mrow></mrow><mo>=</mo><mo>Pr</mo><mo>(</mo><mi>U</mi><mo>≤</mo><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo><mo>)</mo><mspace></mspace></mtd><mtd><mo>(</mo><mi>F</mi><mrow><mtext> est continue à droite, donc </mtext></mrow><mo>{</mo><mi>vous</mi><mo>:</mo><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo><mo>≤</mo><mi>x</mi><mo>}</mo><mo>=</mo><mo>{</mo><mi>vous</mi><mo>:</mo><mi>vous</mi><mo>≤</mo><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo><mo>}</mo><mo>)</mo></mtd></mtr><mtr><mtd></mtd><mtd><mi></mi><mrow></mrow><mo>=</mo><mi>F</mi><mo>(</mo><mi>x</mi><mo>)</mo><mspace></mspace></mtd><mtd><mo>(</mo><mrow><mtext>parce que </mtext></mrow><mo>Pr</mo><mo>(</mo><mi>U</mi><mo>≤</mo><mi>vous</mi><mo>)</mo><mo>=</mo><mi>vous</mi><mo>,</mo><mrow><mtext> quand </mtext></mrow><mi>U</mi><mrow><mtext> est uniforme sur </mtext></mrow><mo>[</mo><mn>0</mn><mo>,</mo><mn>1</mn><mo>]</mo><mo>)</mo></mtd></mtr></mtable></mrow></mstyle></mrow><annotation>{\displaystyle {\begin{aligned}&\Pr(F^{-1}(U)\leq x)\\&{}=\Pr(U\leq F(x))\quad &(F{ ext{ is right-continuous, so }}\{u:F^{-1}(u)\leq x\}=\{u:u\leq F(x)\})\\&{}=F(x)\quad &({ ext{because }}\Pr(U\leq u)=u,{ ext{ when }}U{ ext{ is uniform on }}[0,1])\\\end{aligned}}}</annotation></semantics></math></span><img src=

Distribution tronquée

L'échantillonnage par transformation inverse peut être simplement étendu aux cas de distributions tronquées sur l'intervalle ${\displaystyle (a,b] <semantics><mrow><mstyle><mo>(</mo><mi>un</mi><mo>,</mo><mi>b</mi><mo>]</mo></mstyle></mrow><annotation>{\displaystyle (a,b]}</annotation></semantics></math><img src=$ ${\displaystyle u <semantics><mrow><mstyle><mi>vous</mi></mstyle></mrow><annotation>{\displaystyle u}</annotation></semantics></math><img src=$ ${\displaystyle u <semantics><mrow><mstyle><mi>vous</mi></mstyle></mrow><annotation>{\displaystyle u}</annotation></semantics></math><img src=$ ${\displaystyle F(a) <semantics><mrow><mstyle><mi>F</mi><mo>(</mo><mi>un</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F(a)}</annotation></semantics></math><img src=$ ${\displaystyle F(b) <semantics><mrow><mstyle><mi>F</mi><mo>(</mo><mi>b</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F(b)}</annotation></semantics></math><img src=$ ${\displaystyle F^{-1}(u) <semantics><mrow><mstyle><msup><mi>F</mi><mrow><mo>−</mo><mn>1</mn></mrow></msup><mo>(</mo><mi>vous</mi><mo>)</mo></mstyle></mrow><annotation>{\displaystyle F^{-1}(u)}</annotation></semantics></math><img src=$

Réduction du nombre d'inversions

Pour obtenir un grand nombre d'échantillons, il est nécessaire d'effectuer autant d'inversions de la distribution. Une méthode permettant de réduire le nombre d'inversions tout en obtenant un grand nombre d'échantillons consiste à utiliser l'échantillonneur Monte Carlo par collocation stochastique (échantillonneur SCMC) dans le cadre d'un développement en chaos polynomial . Ceci permet de générer un nombre quelconque d'échantillons Monte Carlo avec seulement quelques inversions de la distribution originale, à partir d'échantillons indépendants d'une variable dont les inversions sont disponibles analytiquement, par exemple la variable normale centrée réduite.

implémentations logicielles

Il existe des implémentations logicielles permettant d'appliquer la méthode d'échantillonnage inverse en utilisant des approximations numériques de l'inverse lorsque celle-ci n'est pas disponible sous forme analytique. Par exemple, une approximation de l'inverse peut être calculée si l'utilisateur fournit des informations sur les distributions, telles que la fonction de densité de probabilité (PDF) ou la fonction de répartition (CDF).

Bibliothèque C UNU.RAN
Bibliothèque R Runuran
Échantillonnage de sous-packages Python dans scipy.stats