Cette thèse est consacrée à l'étude des matrices aléatoires et à quelques unes de leurs applications en physique, en particulier en physique statistique et en physique quantique.C'est un travail essentiellement analytique complété par quelques simulations numériques Monte Carlo. Dans un premier temps j'introduis la théorie des matrices aléatoires de façon assez générale : je définis les principaux ensembles de matrices aléatoires (en particulier gaussiens) et décris leurs propriétés fondamentales (distribution des valeurs propres, densité, etc). Dans un second temps je m'intéresse à des systèmes physiques d'interfaces à l'équilibre qui peuvent être modélisés par des marcheurs ''vicieux'', c'est-à-dire des marcheurs aléatoires conditionnés à ne pas se croiser. On peut montrer que la distribution des positions des marcheurs à un temps donné est exactement celle des valeurs propres d'une matrice aléatoire. J'étudie ensuite un problème physique qui relève d'un domaine très différent, celui de l'information quantique, mais qui est également étroitement relié aux matrices aléatoires: celui de l'intrication pour des états aléatoires dans un système quantique bipartite (fait de deux sous-parties) de grande taille. Enfin je m'intéresse à certaines propriétés des matrices aléatoires comme la distribution du nombre de valeurs propres positives ou encore la distribution de la valeur propre maximale (loi de Tracy-Widom près de la moyenne et grandes déviations loin de la moyenne).

Dans la limite "diluée" où les nombres d'arêtes et de sommets divergent de manière comparable, il est naturel d'espérer que divers invariants classiques en théorie des graphes seront essentiellement déterminés par la seule "géométrie locale" du graphe -- c'est à dire, informellement, par l'aspect d'une boule de petit rayon autour d'un "sommet typique". Cette heuristique a pour origine l'étude des systèmes de particules en physique statistique, où sous certaines conditions, les contributions microscopiques provenant de sites suffisamment éloignés peuvent être considérées comme mutuellement indépendantes dans le calcul des grandeurs macroscopiques fondamentales du système. Mathématiquement, cette précieuse absence d'intéractions à longue portée peut se décrire rigoureusement à l'aide d'une propriété topologique : la continuité de l'invariant considéré vis-à-vis de la convergence locale faible des graphes. Tout invariant pour lequel on peut établir une telle continuité admettra aussitôt une limite déterministe le long de la plupart des suites de graphes aléatoires classiques, et pourra être efficacement approximé par des algorithmes locaux et distribués, indépendamment de la taille totale du système. Dans cette thèse, nous établissons la continuité de quatre invariants de graphes qui jouent un rôle essentiel en théorie comme dans les applications : la distribution spectrale empirique, la dimension du noyau de la matrice d'adjacence, la taille d'un couplage maximum, et le polynôme énumérant certaines familles de sous-graphes couvrants. Plus précisément, nous montrons qu'il existe une unique manière localement cohérente d'étendre chacune de ces notions aux limites locales faibles de graphes finis, et que ce prolongement est continu. Pour les modèles de graphes aléatoires classiques, les équations de cohérence locale se simplifient en une équation aux distributions que nous résolvons explicitement. Cela conduit à de nouvelles formules asymptotiques, ainsi qu'à la simplification, l'unification et la généralisation de divers résultats jusqu'alors isolés.

Cette thèse est consacrée à l'étude de trois modèles combinatoires intervenant dans la théorie des probabilités. Nous nous intéressons tout d'abord à la hauteur d'arbres de fragmentation. À mesure de dislocation fixée, deux régimes bien différents peuvent apparaître selon la capacité des sommets : au-delà d'une capacité critique, les hauteurs ont même asymptotique tandis que, en deçà de ce paramètre critique, les arbres sont de plus en plus hauts à mesure que le seuil de rupture diminue. Nous présentons ensuite des résultats obtenus avec Nicolas Curien sur le quadtree. Nous explicitons les comportements asymptotiques des coûts moyens des requêtes partielles. La théorie des fragmentations joue encore un rôle clé. Nous étudions enfin les grands graphes aléatoires, critiques pour le modèle de configuration. Sous certaines hypothèses, nous prouvons que, correctement remises à l'échelle, les suites des tailles des composantes connexes de ces graphes convergent en un certain sens vers une suite aléatoire non triviale que nous caractérisons. La situation est bien différente selon que la loi des degrés d'un sommet a un moment d'ordre 3 fini ou est une loi de puissance d'exposant compris entre 3 et 4.

Ce mémoire de thèse est consacré à l'étude de quelques problèmes de probabilités provenant de l'informatique théorique. Dans une première partie, nous étudions un algorithme probabiliste qui compte le nombre de mots différents dans une liste. Nous montrons que l'étude peut se ramener à un problème d'estimation, et qu'en modifiant légèrement cet algorithme, il est d'une certaine manière optimal. La deuxième partie est consacrée à l'étude de plusieurs problèmes de convergences pour des systèmes finis de particules, nous envisageons différents types de passage à une limite infinie. La première famille de systèmes considérés est une classe particulière d'automates cellulaires. En dimension 1, il apparaît des marches aléatoires dont nous caractérisons de façon complète les comportements limites. En dimension 2, sur une grille carrée, nous étudions quelques-un des cas les plus représentatifs. Nous en déterminons le temps moyen de convergence vers une configuration fixe. Enfin, nous étudions un modèle d'urnes avec des boules à deux états. Dans la troisième partie, nous étudions deux problèmes particuliers de marches aléatoires. Ces deux questions sont initialement motivées par l'étude de certains automates cellulaires, mais nous les présentons de façon indépendante. Le premier de ces deux problèmes est l'étude de marches aléatoires sur un tore discret, réfléchies les unes sur les autres. On montre la convergence de ce processus vers une limite brownienne. Nous étudions enfin de façon entièrement combinatoire une famille de marches aléatoires sur un intervalle, biaisées vers le bas. Nous en déterminons le temps moyen de sortie vers le haut.

Ce document de synthèse présente différents travaux de recherche centrés sur le comportement asymptotique de processus stochastiques. Ces travaux analysent des équations différentielles stochastiques ou des systèmes d'EDS dirigés par des mouvements browniens. Ils font effectivement appel au calcul asymptotique: dans les questions posées, il s'agit bien souvent de considérer la limite d'un paramètre du système dynamique. Cela peut être: le coefficient de diffusion qui tend vers $0$, le temps qui croît à l'infini, le nombre de particules dans un système de particules en interaction qui tend vers l'infini, le pas de temps d'une marche aléatoire qui tend vers $0$. Les techniques utilisées sont donc spécifiques à ces passages à la limite: grandes déviations, estimation d'intégrales par la méthode de Laplace, limite de McKean-Vlasov, propagation du chaos, critère de tension des lois de processus, décomposition spectrale des semi-groupes.

Dans cette thèse, nous considérons la question de sélection de variable dans deux deux problèmes pratiques. Le premier concerne une préoccupation très récurrente en génétique des populations qui consiste à regrouper les individus d'un échantillon d'organismes vivants dans des classes génétiquement homogènes sur la base d'informations procurées par un certain nombre de marqueurs génétiques. Nous supposons ne disposer d'aucune information à priori sur la population cible : il s'agit alors d'un problème de classification non supervisée. Par ailleurs, certaines variables peuvent ajouter du bruit à la classification. Nous proposons de résoudre simultanément le problème de sélection de variable et celui de sélection du nombre de composants du mélange dans une procédure de sélection de modèle. La sélection est ensuite faite via pénalisation du maximum de vraisemblance pénalisé. Sous des hypothèses faibles sur la fonction de pénalité, nous montrons que la procédure de sélection est consistance. Nous construisons ensuite une fonction de pénalité garantissant une inégalité oracle non-asymptotique. Bien que ce deuxième résultat ne soit pas directement utilisable, il suggère une pénalité de la forme du produit de la dimension des modèles en compétition et d'un paramètre données-dépendant que nous calibrons grâce à l'heuristique de la pente. Nous montrons sur des données simulées que cette calibration répond en partie au problème du choix du critère de sélection en fonction de la taille de l'échantillon. Le deuxième problème est motivé par le contrôle de la transmission de Plasmodium à travers son vecteur moustique. Nous disposons de données décrites par des variables diverses dont le nombre est de l'ordre de la taille de l'échantillon. Nous appliquons tout d'abord une procédure de sélection de variable qui repose sur l'importance des variables obtenues des forêts aléatoires. Les variables sélectionnées sont ensuite évaluées dans le modèle binomial négatif modifié en zéro.

L'objet de ce mémoire est de présenter de façon succincte les travaux que j'ai menés et auxquels j'ai collaboré depuis la fin de ma thèse. Ces travaux sont reliés par le thème central de la structure arborescente aléatoire ou du processus de branchement.

Cette thèse s'inscrit dans le cadre de l'apprentissage statistique et est consacrée à l'étude de la méthode des forêts aléatoires, introduite par Breiman en 2001. Les forêts aléatoires sont une méthode statistique non paramétrique, qui s'avère être très performante dans de nombreuses applications, aussi bien pour des problèmes de régression que de classification supervisée. Elles présentent également un bon comportement sur des données de très grande dimension, pour lesquelles le nombre de variables dépasse largement le nombre d'observations. Dans une première partie, nous développons une procédure de sélection de variables, basée sur l'indice d'importance des variables calculée par les forêts aléatoires. Cet indice d'importance permet de distinguer les variables pertinentes des variables inutiles. La procédure consiste alors à sélectionner automatiquement un sous-ensemble de variables dans un but d'interprétation ou de prédiction. La deuxième partie illustre la capacité de cette procédure de sélection de variables à être performante pour des problèmes très différents. La première application est un problème de classification en très grande dimension sur des données de neuroimagerie, alors que la seconde traite des données génomiques qui constituent un problème de régression en plus petite dimension. Une dernière partie, théorique, établit des bornes de risque pour une version simplifiée des forêts aléatoires. Dans un contexte de régression, avec une seule variable explicative, nous montrons d'une part que les estimateurs associés à un arbre et à une forêt atteignent tous deux la vitesse minimax de convergence, et d'autre part que la forêt apporte une amélioration en réduisant la variance de l'estimateur d'un facteur de trois quarts.

Quatre parties indépendantes composent la présente thèse. La première partie porte sur la construction du processus de Dunkl affine, qui est un processus de Markov càdlàg dont le générateur infinitésimal est donné par le laplacien de Dunkl pour un système de racines de type affine. Cette construction est obtenue par une décomposition de type skew-product, entre sa partie radiale et un processus de sauts sur le groupe de Weyl affine associé. La seconde partie est consacrée à l'étude des valeurs propres à droite de matrices aléatoires gaussiennes à entrées quaternioniques, où nous montrons la convergence presque sûre de la mesure spectrale empirique. Dans la troisième partie, nous étudions des marches aléatoires non-commutatives qui sont des approximations en temps discret de certains processus des valeurs propres issus des mineurs du mouvement brownien hermitien. Le contexte naturel pour cette étude est la théorie des invariants qui permet alors de caractériser le caractère markovien de certains de ces processus. Enfin, dans la dernière partie nous montrons un théorème de type Courant sur la propriété d'entrelacement des zéros des fonctions propres d'un opérateur de Schrödinger sur un arbre fini.

Nous étudions la transition de phase survenant dans le gaz de Bose pour des systèmes sans invariance par translation. Bien qu'il soit prouvé depuis les années 60 que la condensation de Bose Einstein (CBE) est absente des systèmes invariants par translation en dimension 1 ou 2, on peut néanmoins déclencher cette transition de phase dans des gaz de Bose en faible dimension en ajoutant un potentiel externe approprié (et par conséquent, en perdant l'invariance par translation). Cependant, le condensat ainsi obtenu se trouve dans des états localisés, alors que la CBE est généralement comprise comme l'occupation macroscopique d'états cinétiques étendus. Il n'est pas à priori évident que cette transition de phase obtenue grace à la localisation est de la même nature que celle reliée au concept habituel de CBE. Dans cette thèse, nous considérons deux classes de systèmes localisés. La première est une famille de modèles aléatoires, pour lesquels le gaz de Bose est contenu dans un milieu désordonné, ce que nous modélisons par un potentiel externe aléatoire. La deuxième est constituée de modèles incluant un potentiel externe faible (d'échelle). Nous commençons par un rappel des conditions nécessaires sur ces potentiels pour obtenir une condensation dans les états localisés. Nous montrons sous certaines hypothèses très générales que dans ces modèles, la CBE au sens habituel est aussi présente, dans un sens généralisé. Cela signifie que les particules sont condensées dans des états cinétiques ayant une énergie arbitrairement faible. Pour le gaz de Bose sans interactions, nous pouvons en plus prouver que les densités des deux condensats sont en fait égales. Nous approfondissons ensuite notre étude de la CBE, en demandant si il est possible d'obtenir une condensation sur un seul état cinétique. Nous montrons qu'en dépit de l'existence à la fois d'une transition de phase et de la CBE généralisée, aucune condensation ne survient sur un seul état cinétique. En particulier, la fameuse condensation sur l'état fondamental est absente pour ces modèles localisés. Finalement, nous établissons une généralisation possible de l'approximation de nombres complexes de Bogoliubov pour prendre en compte les propriétés très particulières de la CBE en présence de localisation, et nous discutons la faon d'interpréter le resultat du problème variationnel correspondant.