Article de reference

séquence aléatoire algorithmique

ou 011010 … {\displaystyle 011010\dots } a une probabilité égale à zéro. Il est impossible d'affirmer qu'une séquence est « plus aléatoire » qu'une autre, en utilisant le langag...

ou

Comme on considère différents types d'algorithmes, allant de ceux dont le temps d'exécution est limité à ceux qui interrogent un oracle , il existe différentes notions d'aléatoire. La plus courante est l' aléatoire de Martin-Löf (ou aléatoire de type K, ou aléatoire de type 1 ), mais il existe aussi des formes d'aléatoire plus ou moins fortes. Lorsque l'expression « aléatoire algorithmique » est utilisée pour désigner une séquence particulière (finie ou infinie) sans autre précision, on l'entend généralement comme « incompressible » ou, si la séquence est infinie et préfixée « aléatoire algorithmique » (c'est-à-dire K-incompressible), comme « aléatoire de Martin-Löf-Chaitin ».

Depuis sa formulation, l'aléatoire de Martin-Löf s'est révélé admettre de nombreuses caractérisations équivalentes – en termes de compression , de tests d'aléatoire et de paris – qui, de prime abord, ne ressemblent guère à la définition originale. Pourtant, chacune de ces caractérisations satisfait notre intuition des propriétés que devraient posséder les suites aléatoires : elles devraient être incompressibles, réussir les tests statistiques d'aléatoire et il devrait être difficile de gagner de l'argent en pariant dessus. L'existence de ces multiples définitions de l'aléatoire de Martin-Löf, ainsi que leur stabilité sous différents modèles de calcul, prouvent que l'aléatoire de Martin-Löf est naturel et non un accident lié au modèle particulier de Martin-Löf.

Il est important de faire la distinction entre l'aléatoire algorithmique et l'aléatoire stochastique. Contrairement à l'aléatoire algorithmique, qui est défini pour les processus calculables (et donc déterministes), l'aléatoire stochastique est généralement considéré comme une propriété d'une séquence dont on sait a priori qu'elle est générée par (ou qu'elle est le résultat de) un processus stochastique indépendant , identiquement distribué et équiprobable .

Puisque les suites infinies de bits peuvent être assimilées à des nombres réels compris entre 1 et 2, les suites binaires aléatoires sont souvent appelées (algorithmiquement) nombres réels aléatoires . De plus, les suites binaires infinies correspondent à des fonctions caractéristiques d'ensembles de nombres naturels ; par conséquent, ces suites peuvent être considérées comme des ensembles de nombres naturels.

La classe de toutes les séquences aléatoires (binaires) de Martin-Löf est désignée par RAND ou MLR.

Histoire

Richard von Mises

Richard von Mises a formalisé la notion de test d'aléatoire afin de définir une séquence aléatoire comme une séquence qui réussit tous les tests d'aléatoire. Il a défini un « collectif » ( kollektiv ) comme une chaîne binaire infinie.

  • Il existe une limite
  • Pour toute règle « admissible », telle qu'elle sélectionne une sous-suite infinie

Pour extraire une sous-séquence , commencez par choisir une fonction binaire.

En d'autres termes, chaque chaîne binaire infinie est un jeu de pile ou face, et une règle admissible permet à un joueur de décider quand miser. Un collectif est un jeu de pile ou face où aucun joueur ne peut surpasser un autre sur le long terme. Autrement dit, aucun système de jeu n'est efficace pour ce type de jeu.

La définition se généralise de l'alphabet binaire à l'alphabet dénombrable :

  • La fréquence de chaque lettre converge vers une limite supérieure à zéro.
  • Pour toute règle « admissible », telle qu'elle sélectionne une sous-suite infinie

Généralement, les règles admissibles sont définies comme des règles calculables par une machine de Turing, et nous exigeonssuites aléatoires de Mises-Wald-Church . Il ne s'agit pas d'une restriction, car étant donné une suite avec

Théorème ( Abraham Wald , 1936, 1937) S'il n'existe qu'un nombre dénombrable de règles admissibles, alors presque toute séquence est un collectif.

Esquisse de la démonstration : Utiliser la probabilité basée sur la théorie de la mesure.

Définissons une règle admissible. Tirons une séquence aléatoire de l'espace de Bernoulli. Avec une probabilité de 1 (en utilisant des martingales), la sous-séquence choisie par la règle admissible possède toujours

Cependant, cette définition s'est avérée insuffisante. Intuitivement, la moyenne à long terme d'une séquence aléatoire devrait osciller de part et d'autre de

Construction de Ville (Jean Ville, 1939) Il existe un collectif muni d'une infinité dénombrable de règles admissibles tel que, pour tout

Per Martin-Löf

La construction de Ville suggère que la conception de l'aléatoire selon Mises-Wald-Church est insuffisante, car certaines suites aléatoires ne satisfont pas à certaines lois de l'aléatoire. Par exemple, la construction de Ville ne satisfait pas à l'une des lois du logarithme itéré .

Selon Martin-Löf (1966) , le « aléatoire de Martin-Löf » est défini comme n'admettant que les lois d'aléatoire calculables par une machine de Turing. Autrement dit, une séquence est aléatoire si et seulement si elle satisfait à tous les tests d'aléatoire calculables par une machine de Turing.

La thèse selon laquelle la définition de l’aléatoire de Martin-Löf capture « correctement » la notion intuitive d’aléatoire a été appelée la thèse de Martin-Löf-Chaitin ; elle est quelque peu similaire à la thèse de Church-Turing .

Thèse de Church-Turing. Le concept mathématique de « calculable par une machine de Turing » traduit la notion intuitive de « calculabilité » d'une fonction. De même que la calculabilité par une machine de Turing admet de nombreuses définitions équivalentes, l'aléatoire de Martin-Löf en admet également de nombreuses. Voir la section suivante.

Trois définitions équivalentes

La définition originale de Martin-Löf d'une suite aléatoire s'appuyait sur les couvertures nulles constructives ; il définissait une suite comme aléatoire si elle n'appartenait à aucune de ces couvertures. Gregory Chaitin , Leonid Levin et Claus Peter Schnorr ont démontré une caractérisation en termes de complexité algorithmique : une suite est aléatoire s'il existe une borne uniforme sur la compressibilité de ses segments initiaux. Schnorr a proposé une troisième définition équivalente en termes de martingales . L'ouvrage de Li et Vitanyi, *An Introduction to Kolmogorov Complexity and Its Applications*, constitue l'introduction de référence à ces concepts.

  • Complexité algorithmique (Chaitin 1969, Schnorr 1973, Levin 1973) : La complexité algorithmique (également appelée complexité de Kolmogorov sans préfixe ou complexité de taille de programme) peut être vue comme une borne inférieure de la compressibilité algorithmique d'une séquence finie (de caractères ou de chiffres binaires). Elle associe à chaque séquence w un entier naturel K(w) qui, intuitivement, mesure la longueur minimale d'un programme informatique (écrit dans un langage de programmation donné) ne prenant aucune entrée et produisant w lors de son exécution. Étant donné un entier naturel c et une séquence w , on dit que w est c -incompressible si
Une suite infinie S est aléatoire au sens de Martin-Löf si et seulement s'il existe une constante c telle que tous S soient c -incompressibles. Plus succinctement,.
  • Couvertures nulles constructives (Martin-Löf 1966) : Il s'agit de la définition originale de Martin-Löf. Pour une chaîne binaire finie w, on note C<sub> w </sub> le cylindre engendré par w . C'est l'ensemble de toutes les suites infinies commençant par w , qui est un ouvert de base dans l'espace de Cantor . La mesure produit μ( C<sub> w</sub> ) du cylindre engendré par w est définie comme 2 − | w | . Tout ouvert de l'espace de Cantor est l'union d'une suite dénombrable d'ouverts de base disjoints, et la mesure d'un ouvert est la somme des mesures de toute suite de ce type. Un ouvert effectif est un ouvert qui est l'union de la suite d'ouverts de base déterminée par une suite récursivement énumérable de chaînes binaires. Une couverture nulle constructive , ou ensemble de mesure effectif 0 , est une suite récursivement énumérable de chaînes binaires.i . Chaque couverture nulle effective détermine un de mesure 0, à savoir l'intersection des ensembles
Une séquence est dite aléatoire au sens de Martin-Löf si elle n'est contenue dans aucun intervalle quelconque.
  • Martingales constructives (Schnorr 1971) : Une martingale est une fonctionw ,a et b . On appelle cela la « condition d'équité » : si une martingale est considérée comme une stratégie de pari, alors la condition ci-dessus exige que le parieur joue contre des cotes équitables. Une martingale d est dite performante sur une séquence S siLes n premiers bits de S sont . Une martingale d est constructive (également appelée faiblement calculable , semi-calculable inférieure ) s'il existe une fonction calculablew
  1. t ,
Une séquence est aléatoire au sens de Martin-Löf si et seulement si aucune martingale constructive ne réussit sur elle.

Interprétations des définitions

La caractérisation de la complexité de Kolmogorov traduit l'intuition qu'une séquence aléatoire est incompressible : aucun préfixe ne peut être produit par un programme beaucoup plus court que le préfixe.

La caractérisation par couverture nulle traduit l'intuition qu'un nombre réel aléatoire ne devrait posséder aucune propriété « rare ». Chaque ensemble de mesure 0 peut être vu comme une propriété rare. Une suite ne peut appartenir à aucun ensemble de mesure 0, car tout ensemble à un point est de mesure 0. L'idée de Martin-Löf était de restreindre la définition aux ensembles de mesure 0 qui sont effectivement descriptibles ; la définition d'une couverture nulle effective détermine une collection dénombrable d'ensembles de mesure 0 effectivement descriptibles et définit une suite comme aléatoire si elle n'appartient à aucun de ces ensembles de mesure 0 particuliers. Puisque l'union d'une collection dénombrable d'ensembles de mesure 0 est de mesure 0, cette définition conduit immédiatement au théorème selon lequel il existe un ensemble de mesure 1 de suites aléatoires. Notons que si l'on identifie l'espace de Cantor des suites binaires à l'intervalle [0,1] des nombres réels, la mesure sur l'espace de Cantor coïncide avec la mesure de Lebesgue .

Un ensemble de mesure effective 0 peut être interprété comme une machine de Turing capable de déterminer, étant donné une chaîne binaire infinie, si cette chaîne semble aléatoire à des niveaux de signification statistique . Cet ensemble est l'intersection d'ensembles décroissants.

La caractérisation par les martingales traduit l'intuition qu'aucune procédure efficace ne devrait permettre de gagner de l'argent en pariant contre une séquence aléatoire. Une martingale d est une stratégie de pari. d lit une chaîne finie w et parie de l'argent sur le bit suivant. Elle parie une partie de son argent sur le fait que le bit suivant sera 0, et le reste sur le fait qu'il sera 1. d double sa mise sur le bit effectivement obtenu et perd le reste. d ( w ) représente le montant d'argent dont elle dispose après avoir vu la chaîne w . Puisque la mise placée après avoir vu la chaîne w peut être calculée à partir des valeurs d ( w ), d ( w0 ) et d ( w1 ), calculer le montant d'argent disponible est équivalent à calculer la mise. La caractérisation par les martingales stipule qu'aucune stratégie de pari implémentable par un ordinateur (même au sens faible des stratégies constructives, qui ne sont pas nécessairement calculables ) ne peut permettre de gagner de l'argent en pariant sur une séquence aléatoire.

Propriétés et exemples de suites aléatoires de Martin-Löf

Universalité

Il existe une martingale constructive universelle d . Cette martingale est universelle en ce sens que, pour toute martingale constructive d , si d réussit sur une suite, alors d réussit également sur cette suite. Ainsi, d réussit sur toute suite de RAND c (mais, comme d est constructive, elle ne réussit sur aucune suite de RAND). (Schnorr 1971)

Il existe une couverture nulle constructive de RAND c . Cela signifie que tous les tests efficaces d'aléatoire (c'est-à-dire les couvertures nulles constructives) sont, en un sens, subsumés par ce test universel d'aléatoire, puisque toute séquence qui réussit ce test unique d'aléatoire réussira tous les tests d'aléatoire. (Martin-Löf 1966) Intuitivement, ce test universel d'aléatoire stipule : « Si la séquence a des préfixes de plus en plus longs qui peuvent être de plus en plus compressés sur cette machine de Turing universelle », alors elle n'est pas aléatoire. » – voir la section suivante.

Schéma de construction : Énumérer les couvertures nulles effectives comme

Réussir les tests d'aléatoire

Si une séquence échoue à un test d'aléatoire algorithmique, alors elle est compressible algorithmiquement. Réciproquement, si elle est compressible algorithmiquement, alors elle échoue à un test d'aléatoire algorithmique.

Schéma de construction : Supposons que la séquence échoue à un test d’aléatoire ; elle peut alors être compressée en énumérant lexicographiquement toutes les séquences qui échouent au test, puis en codant la position de la séquence dans la liste de toutes ces séquences. C’est ce qu’on appelle « l’encodage de source énumératif ».

Inversement, si la suite est compressible, alors, d'après le principe des tiroirs de Dirichlet , seule une fraction infime des suites le sont. On peut donc définir un nouveau critère d'aléatoire : « admet une compression par cette machine de Turing universelle ». Ce critère est d'ailleurs le critère universel d'aléatoire.

Par exemple, considérons une séquence binaire échantillonnée de manière indépendante et identiquement distribuée (IID) selon une loi de Bernoulli . Après avoir prélevé un grand nombre

Par approximation de Stirling ,

Impossibilité d'un système de jeu

sous-ensemble de l'espace de Cantor, oùS appartient à RAND si et seulement s'il existe un ouvert dans le recouvrement nul effectif universel qui ne contient pas S ; cette propriété peut être définie par un
  • Il existe une séquence aléatoire qui est
  • Aucune séquence aléatoire n'est décidable , énumérable par calcul ou énumérable par co-calcul . Puisque ces propriétés correspondent à la
  • Toute suite est Turing-réductible à une suite aléatoire (Kučera 1985/1989, Gács 1986). Il existe donc des suites aléatoires de degré de Turing arbitrairement élevé .
  • Aléatoire relatif

    Puisque chaque définition équivalente d'une suite aléatoire de Martin-Löf repose sur ce qui est calculable par une machine de Turing, on peut naturellement se demander ce qui est calculable par une machine oracle de Turing . Pour un oracle A fixé , une suite B qui est non seulement aléatoire mais qui, de plus, satisfait les définitions équivalentes de calculabilité par rapport à A (par exemple, aucune martingale constructive par rapport à l'oracle A ne réussit sur B ) est dite aléatoire par rapport à A. Deux suites, bien qu'aléatoires en elles-mêmes, peuvent contenir des informations très similaires, et par conséquent, aucune ne sera aléatoire par rapport à l'autre. Dès lors qu'il existe une réduction de Turing d'une suite à une autre, la seconde suite ne peut être aléatoire par rapport à la première, de même que les suites calculables ne sont pas aléatoires ; en particulier, cela signifie que Ω de Chaitin n'est pas aléatoire par rapport au problème de l'arrêt .

    Un résultat important concernant l'aléatoire relatif est le théorème de van Lambalgen , qui stipule que si C est la séquence composée de A et B en entrelaçant le premier bit de A , le premier bit de B , le deuxième bit de A , le deuxième bit de B , et ainsi de suite, alors C est algorithmiquement aléatoire si et seulement si A est algorithmiquement aléatoire, et B est algorithmiquement aléatoire par rapport à A. Une conséquence étroitement liée est que si A et B sont tous deux aléatoires, alors A est aléatoire par rapport à B si et seulement si B est aléatoire par rapport à A.

    Plus fort que le hasard de Martin-Löf

    L'aléatoire relatif nous donne la première notion plus forte que l'aléatoire de Martin-Löf, à savoir l'aléatoire par rapport à un oracle fixe A. Pour tout oracle, cette notion est au moins aussi forte, et pour la plupart des oracles, elle est strictement plus forte, puisqu'il existera des séquences aléatoires de Martin-Löf qui ne sont pas aléatoires par rapport à l'oracle A. Parmi les oracles importants souvent considérés figurent le problème de l'arrêt,n -ième saut,n -aléatoire ; une suite est donc 1-aléatoire si et seulement si elle est aléatoire au sens de Martin-Löf. Une suite n -aléatoire pour tout n est dite arithmétiquement aléatoire. Les suites n -aléatoires apparaissent parfois lorsqu'on considère des propriétés plus complexes. Par exemple, il n'existe qu'une infinité dénombrable de suites n-aléatoires.

    Plus faible que le hasard de Martin-Löf

    De plus, plusieurs notions d'aléatoire sont plus faibles que l'aléatoire de Martin-Löf. Parmi celles-ci, on trouve l'aléatoire faible de type 1, l'aléatoire de Schnorr, l'aléatoire calculable et l'aléatoire partiellement calculable. Yongge Wang a démontré que l'aléatoire de Schnorr diffère de l'aléatoire calculable. Par ailleurs, l'aléatoire de Kolmogorov-Loveland n'est pas plus fort que l'aléatoire de Martin-Löf, mais on ignore s'il est en réalité plus faible.

    À l'autre extrémité du spectre de l'aléatoire se trouve la notion d' ensemble K-trivial . Ces ensembles sont anti-aléatoires en ce sens que tout segment initial est logarithmiquement compressible (c'est-à-dire,

    Plus d articles de Worldlex Wiki

    Revenez a l index pour explorer davantage de pages sur l histoire, la science, la culture, la geographie et la societe en francais.

    Explorer l index