Quatre parties indépendantes composent la présente thèse. La première partie porte sur la construction du processus de Dunkl affine, qui est un processus de Markov càdlàg dont le générateur infinitésimal est donné par le laplacien de Dunkl pour un système de racines de type affine. Cette construction est obtenue par une décomposition de type skew-product, entre sa partie radiale et un processus de sauts sur le groupe de Weyl affine associé. La seconde partie est consacrée à l'étude des valeurs propres à droite de matrices aléatoires gaussiennes à entrées quaternioniques, où nous montrons la convergence presque sûre de la mesure spectrale empirique. Dans la troisième partie, nous étudions des marches aléatoires non-commutatives qui sont des approximations en temps discret de certains processus des valeurs propres issus des mineurs du mouvement brownien hermitien. Le contexte naturel pour cette étude est la théorie des invariants qui permet alors de caractériser le caractère markovien de certains de ces processus. Enfin, dans la dernière partie nous montrons un théorème de type Courant sur la propriété d'entrelacement des zéros des fonctions propres d'un opérateur de Schrödinger sur un arbre fini.

Le modèle auto-régressif linéaire (AR) en temps discret et à coefficients aléatoires englobe de nombreuses classes de modèles très utilisés en modélisation statistique. Sous des hypothèses simples, ce modèle a une unique solution stationnaire. Le comportement à l'infini de sa queue a été étudié par H. Kesten, E. LePage puis C. Goldie lorsque les coefficients sont indépendants. Cette thèse étend leurs résultats dans deux directions. Dans une première partie, on étudie le modèle AR scalaire à régime markovien introduit par J. D. Hamilton en économétrie. On obtient un résultat similaire au cas indépendant qui s'étend aussi au temps continu. Dans une deuxième partie, on s'intéresse au modèle multidimensionnel à coefficient indépendants. On étend les résultats existants à une vaste classe de coefficients vérifiant une condition d'irréductibilité et de proximalité. Les techniques utilisées dans les deux parties font appel à la théorie du renouvellement et des opérateurs markoviens.

Dans cette thèse, nous utilisons et contribuons à la théorie des produits de matrices aléatoires afin d'étudier des propriétés génériques des éléments et des sous-groupes des groupes linéaires. Notre premier résultat donne une version probabiliste de l'alternative de Tits : nous montrons que si M_n et M'_n sont deux marches aléatoires indépendantes sur un groupe linéaire de type fini non virtuellement résoluble alors presque sûrement les deux marches finiront par engendrer un sous-groupe libre non abélien à deux générateurs. Cela répond par l'affirmative à une question de Guivarc'h et de Gilman, Miasnikov et Osin. Plus précisément, nous montrons que la probabilité que M_n et M'_n n'engendrent pas un sous-groupe libre décroit exponentiellement vite vers zéro. Notre outil principal est la théorie des produits de matrices aléatoires. Durant la preuve, nous établissons de nouveaux théorèmes limites dans cette théorie, d'une part en généralisant des résultats connus dans le cadre des produits de matrices à valeurs dans les corps archimédiens à tout corps local, d'autre part en donnant des résultats qui sont nouveaux même sur R. Par exemple, nous montrons que sous des hypothèses naturelles sur la marche aléatoire, les composantes suivant K de M_n dans la décomposition KAK deviennent asymptotiquement indépendantes avec vitesse exponentielle. Dans la deuxième partie de la thèse, nous utilisons ces résultats pour étudier la transience des sous-variétés des groupes algébriques. Un de nos résultats peut être formulé comme suit: soient H un sous-groupe non élémentaire de SL_2(R), une probabilité adaptée sur H ayant un moment exponentiel, alors pour toute sous-variété algébrique propre V de SL_2(R), la probabilité que la marche aléatoire appartienne à V décroit exponentiellement vite vers zéro. Par conséquent, la sous-variété algébrique V est transiente pour la marche aléatoire. Nous généralisons cet énoncé au cas ou la marche aléatoire est adaptée sur un groupe Zariski dense des points réels d'un groupe algébrique défini et déployé sur R. Ces résultats sont à comparer avec des travaux récents de Kowalski et de Rivin.

Le modèle à deux matrices a été introduit pour étudier le modèle d'Ising sur surface aléatoire. Depuis, le lien entre les modèles de matrices et la combinatoire de surfaces discrétisées s'est beaucoup développé Cette thèse a pour propos d'approfondir ces liens et de les étendre au delà des modèles de matrices en suivant l'évolution de mes travaux de recherche. Tout d'abord, je m'attache à définir rigoureusement le modèle à deux matrices hermitiennes formel donnant accès aux fonctions génératrices de surfaces discrétisées portant une structure de spin. Je montre alors comment calculer, par des méthodes de g'eométrie algébrique, tous les termes du développement topologique des observables comme formes différentielles définies sur une courbe algébrique associée au modèle: la courbe spectrale. Dans un second temps, je montre comment, imitant la construction du modèle à deux matrices, on peut définir de telles formes différentielles sur n'importe quelle courbe algébrique possédant de nombreuses propriétés d'invariance sous les déformations de la courbe algébrique considérée. En particulier, on peut montrer que si cette courbe est la courbe spectrale d'un modèle de matrices, ces invariants reconstituent les termes des développements topologiques des observables du modèle. Finalement,<br /><br />je montre que pour un choix particulier des paramètres, ces objets peuvent être rendus invariants modulaires et sont solutions des équations d'anomalie holomorphe de la théorie de Kodaira-Spencer donnant un nouvel élément vers la preuve de la conjecture de Dijkgraaf-Vafa.

Cette thèse présente une étude des propriétés de la lumière émise par des diffuseurs atomiques distribués aléatoirement dans l'espace euclidien, et interagissant avec le champ électromagnétique. Dans ce cadre, une théorie ab initio des lasers aléatoires est formulée en terme des propriétés statistiques de la 'matrice de Green'. Cette dernière appartient à la famille des matrices aléatoires euclidiennes (MAE) pour lesquelles nous développons une théorie analytique donnant notamment accès à la distribution de probabilité de leurs valeurs propres. Dans un premier temps, nous démontrons les équations quantiques microscopiques régissant la dynamique du champ électrique ainsi que celle des opérateurs atomiques, et explicitons comment la matrice de Green (dont les éléments sont égaux à la fonction de Green de l'équation de Helmholtz évaluée entre les différentes paires d'atomes constituant le milieu) émerge naturellement du formalisme quantique. Nous exprimons à la fois l'intensité et le spectre de la lumière en termes des propriétés de la matrice de Green, caractérisons les forces de Langevin quantiques, et montrons de quelle manière le seuil semi-classique d'un laser aléatoire est affecté par la prise en considération des fluctuations quantiques (chapitres 2 et 3). Une description mésoscopique et semi-classique de la lumière diffusée par un grand nombre d'atomes soumis à une pompe externe et distribués aléatoirement dans l'espace libre est présentée dans le quatrième chapitre. Après avoir établi une condition de seuil laser universelle, valide quelle que soit la configuration des atomes, nous démontrons une équation de transport obéie par l'intensité moyenne en présence de gain, discutons différentes approximations de cette dernière (équation de Bethe-Salpeter, équation de Boltzmann, équation de diffusion), établissons un 'mapping' avec les MAE, et analysons la condition de seuil laser déduite de l'équation de transport. Poussés par la volonté de caractériser analytiquement les propriétés statistiques de la matrice de Green, nous développons dans les chapitres 5 et 6 une théorie générale des MAE, hermitiennes et non hermitiennes, valide dans la limite de grande taille matricielle. Nous obtenons des équations couplées pour la résolvante et le corrélateur des vecteur propres d'une MAE arbitraire, puis testons la validité de nos résultats sur trois matrices jouant un rôle important dans l'étude de la propagation des ondes en milieux désordonnés: la matrice de Green dans l'espace tridimensionnel, sa partie imaginaire, et sa partie réelle. D'un point de vue physique, nous sommes capables de décrire analytiquement avec une bonne précision la distribution de probabilité des taux d'émission lumineux dus à un grand nombre d'atomes, ainsi que celle du déplacement lumineux collectif dû à l'interaction lumière-matière. Par ailleurs, nous proposons d'utiliser la distribution des valeurs propres de la matrice de Green non hermitienne comme une carte unique sur laquelle peuvent s'identifier différents régimes de désordre (balistique, diffusif, localisé, milieu effectif, superradiance). Finalement, nous combinons les équations microscopiques de l'interaction lumière-matière avec nos résultats relatifs aux MAE non-hermitiennes afin de caractériser dans le détail le comportement des lasers aléatoires. Le seuil laser ainsi que l'intensité au delà du seuil sont calculés analytiquement dans l'approximation semi-classique, et le spectre de la lumière sous le seuil est évalué en prenant en compte les effets quantiques. Notre théorie s'applique aussi bien à basse densité qu'à haute densité de diffuseurs atomiques.

Cette thèse s'inscrit dans le domaine des matrices aléatoires et des techniques de grandes déviations. On s'attachera dans un premier temps à donner des inégalités de déviations pour différentes fonctionnelles du spectre qui reflètent leurs comportement de grandes déviations, pour des matrices de Wigner vérifiant une propriété de concentration indexée par un paramètre alpha ∈ (0,2]. Nous présenterons ensuite le principe de grandes déviations obtenu pour la plus grande valeur propre des matrices de Wigner sans queues Gaussiennes, dans la lignée du travail de Bordenave et Caputo, puis l'étude des grandes déviations des traces de matrices aléatoires que l'on aborde dans trois cas : le cas des beta-ensembles, celui des matrices de Wigner Gaussiennes, et enfin des matrices de Wigner sans queues Gaussiennes. Le cas Gaussien a été l'occasion de revisiter la preuve de Borell et Ledoux des grandes déviations des chaos de Wiener, que l'on prolonge en proposant un énoncé général de grandes déviations qui nous permet donner une autre preuve des principes de grandes déviations des matrices de Wigner sans queues Gaussiennes. Enfin, nous donnons une nouvelle preuve des grandes déviations de la mesure spectrale empirique des beta-ensembles associés à un potentiel quadratique, qui ne repose que sur leur représentation tridiagonale. / This thesis falls within the theory of random matrices and large deviations techniques. We mainly consider large deviations problems which involve a heavy-tail phenomenon. In a first phase, we will focus on finding concentration inequalities for different spectral functionals which reflect their large deviations behavior, for random Hermitian matrices satisfying a concentration property indexed by some alpha ∈ (0,2]. Then we will present the large deviations principle we obtained for the largest eigenvalue of Wigner matrices without Gaussian tails, in line with the work of Bordenave and Caputo. Another example of heavy-tail phenomenon is given by the large deviations of traces of random matrices which we investigate in three cases: the case of beta-ensembles, of Gaussian Wigner matrices, and the case of Wigner matrices without Gaussian tails. The Gaussian case was the opportunity to revisit Borell and Ledoux's proof of the large deviations of Wiener chaoses, which we investigate further by proposing a general large deviations statement, allowing us to give another proof of the large deviations principles known for the Wigner matrices without Gaussian tail. Finally, we give a new proof of the large deviations principles for the beta-ensembles with a quadratic potential, which relies only on the tridiagonal representation of these models. In particular, this result gives a proof of the large deviations of the GUE and GOE which does not rely on the knowledge of the law of the spectrum.

Le résultat principal de cette thèse est une formule asymptotique pour le quatrième moment des fonctions L automorphes de niveau p', où p est un nombre premier et v-x. Il prolonge le travail de Rouymi, qui a calculé les trois premiers moments de niveau p, et il généralise les résultats obtenus en niveau premier par Duke, Friedlander & Iwaniec et Kowalski, Michel & Vanderkam. / The main result of this dissertation is an asymptotic formula for the fourth moment of automorphic L-functions of prime power level p, v-x. This is a continuation of the work of Rouymi, who computed the first three moments at prime power level, and a generalisation of results obtained for prime level by Duke, Friedlander & Iwaniec and Kowalski, Michel & Vanderkam.

L'objectif principal de cette thèse est de répondre à la question: étant donné une matrice aléatoire avec spectre réel, combien de valeurs propres tomber entre A et B? Ceci est une question fondamentale dans la théorie des matrices aléatoires et toutes ses applications, autant de problèmes peuvent être traduits en comptant les valeurs propres à l'intérieur des régions du spectre. Nous appliquons la méthode de gaz Coulomb à ce problème général dans le cadre de différents ensembles de matrice aléatoire et l'on obtient de résultats pour intervalles générales [a, b]. Ces résultats sont particulièrement intéressants dans l'étude des variations des systèmes fermioniques unidimensionnelles de particules confinées non-interaction à la température zéro. / The main goal of this thesis is to answer the question: given a random matrix with real spectrum, how many eigenvalues fall between a and b? This is a fundamental question in random matrix theory and all of its applications, as many problems can be translated into counting eigenvalues inside regions of the spectrum. We apply the Coulomb gas method to this general problem in the context of different random matrix ensembles and we obtain many results for general intervals [a,b]. These results are particularly interesting in the study of fermionic fluctuations for one-dimensional systems of confined non-interacting particles at zero temperature.

De nos jours, il est de plus en plus fréquent de travailler sur des bases de données de très grandes tailles dans plein de domaines différents. Cela ouvre la voie à de nouvelles possibilités d'exploitation ou d'exploration de l'information, et de nombreuses technologies numériques ont été créées récemment dans cette optique. D'un point de vue théorique, ce problème nous contraint à revoir notre manière d'analyser et de comprendre les données enregistrées. En effet, dans cet univers communément appelé « Big Data », un bon nombre de méthodes traditionnelles d'inférence statistique multivariée deviennent inadaptées. Le but de cette thèse est donc de mieux comprendre ce phénomène, appelé fléau (ou malédiction) de la dimension, et ensuite de proposer différents outils statistiques exploitant explicitement la dimension du problème et permettant d'extraire des informations fiables des données. Pour cela, nous nous intéresserons beaucoup aux vecteurs propres de matrices symétriques. Nous verrons qu’il est possible d’extraire de l'information présentant un certain degré d’universalité. En particulier, cela nous permettra de construire des estimateurs optimaux, observables, et cohérents avec le régime de grande dimension. / Nowadays, it is easy to get a lot ofquantitative or qualitative data in a lot ofdifferent fields. This access to new databrought new challenges about data processingand there are now many different numericaltools to exploit very large database. In atheoretical standpoint, this framework appealsfor new or refined results to deal with thisamount of data. Indeed, it appears that mostresults of classical multivariate statisticsbecome inaccurate in this era of “Big Data”.The aim of this thesis is twofold: the first one isto understand theoretically this so-called curseof dimensionality that describes phenomenawhich arise in high-dimensional space.Then, we shall see how we can use these toolsto extract signals that are consistent with thedimension of the problem. We shall study thestatistics of the eigenvalues and especially theeigenvectors of large symmetrical matrices. Wewill highlight that we can extract someuniversal properties of these eigenvectors andthat will help us to construct estimators that areoptimal, observable and consistent with thehigh dimensional framework.

Le "Big Data'' et les grands systèmes d'apprentissage sont omniprésents dans les problèmes d'apprentissage automatique aujourd’hui. Contrairement à l'apprentissage de petite dimension, les algorithmes d'apprentissage en grande dimension sont sujets à divers phénomènes contre-intuitifs et se comportent de manière très différente des intuitions de petite dimension sur lesquelles ils sont construits. Cependant, en supposant que la dimension et le nombre des données sont à la fois grands et comparables, la théorie des matrices aléatoires (RMT) fournit une approche systématique pour évaluer le comportement statistique de ces grands systèmes d'apprentissage, lorsqu'ils sont appliqués à des données de grande dimension. L’objectif principal de cette thèse est de proposer un schéma d'analyse basé sur la RMT, pour une grande famille de systèmes d’apprentissage automatique: d'évaluer leurs performances, de mieux les comprendre et finalement les améliorer, afin de mieux gérer les problèmes de grandes dimensions aujourd'hui.Précisément, nous commençons par exploiter la connexion entre les grandes matrices à noyau, les projection aléatoires non-linéaires et les réseaux de neurones aléatoires simples. En considérant que les données sont tirées indépendamment d'un modèle de mélange gaussien, nous fournissons une caractérisation précise des performances de ces systèmes d'apprentissage en grande dimension, exprimée en fonction des statistiques de données, de la dimensionnalité et, surtout, des hyper-paramètres du problème. Lorsque des algorithmes d'apprentissage plus complexes sont considérés, ce schéma d'analyse peut être étendu pour accéder à de systèmes d'apprentissage qui sont définis (implicitement) par des problèmes d'optimisation convexes, lorsque des points optimaux sont atteints. Pour trouver ces points, des méthodes d'optimisation telles que la descente de gradient sont régulièrement utilisées. À cet égard, dans le but d'avoir une meilleur compréhension théorique des mécanismes internes de ces méthodes d'optimisation et, en particulier, leur impact sur le modèle d'apprentissage, nous évaluons aussi la dynamique de descente de gradient dans les problèmes d'optimisation convexes et non convexes.Ces études préliminaires fournissent une première compréhension quantitative des algorithmes d'apprentissage pour le traitement de données en grandes dimensions, ce qui permet de proposer de meilleurs critères de conception pour les grands systèmes d’apprentissage et, par conséquent, d'avoir un gain de performance remarquable lorsqu'il est appliqué à des jeux de données réels. Profondément ancré dans l'idée d'exploiter des données de grandes dimensions avec des informations répétées à un niveau "global'' plutôt qu'à un niveau "local'', ce schéma d'analyse RMT permet une compréhension renouvelée et la possibilité de contrôler et d'améliorer une famille beaucoup plus large de méthodes d'apprentissage automatique, ouvrant ainsi la porte à un nouveau schéma d'apprentissage automatique pour l'intelligence artificielle. / Large dimensional data and learning systems are ubiquitous in modern machine learning. As opposed to small dimensional learning, large dimensional machine learning algorithms are prone to various counterintuitive phenomena and behave strikingly differently from the low dimensional intuitions upon which they are built. Nonetheless, by assuming the data dimension and their number to be both large and comparable, random matrix theory (RMT) provides a systematic approach to assess the (statistical) behavior of these large learning systems, when applied on large dimensional data. The major objective of this thesis is to propose a full-fledged RMT-based framework for various machine learning systems: to assess their performance, to properly understand and to carefully refine them, so as to better handle large dimensional problems that are increasingly needed in artificial intelligence applications.Precisely, we exploit the close connection between kernel matrices, random feature maps, and single-hidden-layer random neural networks. Under a simple Gaussian mixture modeling for the input data, we provide a precise characterization of the performance of these large dimensional learning systems as a function of the data statistics, the dimensionality, and most importantly the hyperparameters (e.g., the choice of the kernel function or activation function) of the problem. Further addressing more involved learning algorithms, we extend the present RMT analysis framework to access large learning systems that are implicitly defined by convex optimization problems (e.g., logistic regression), when optimal points are assumed reachable. To find these optimal points, optimization methods such as gradient descent are regularly used. Aiming to have a better theoretical grasp of the inner mechanism of optimization methods and their impact on the resulting learning model, we further evaluate the gradient descent dynamics in training convex and non-convex objects.These preliminary studies provide a first quantitative understanding of the aforementioned learning algorithms when large dimensional data are processed, which further helps propose better design criteria for large learning systems that result in remarkable gains in performance when applied on real-world datasets. Deeply rooted in the idea of mining large dimensional data with repeated patterns at a global rather than a local level, the proposed RMT analysis framework allows for a renewed understanding and the possibility to control and improve a much larger range of machine learning approaches, and thereby opening the door to a renewed machine learning framework for artificial intelligence.