Cette thèse traite des aspects géométriques et d'intégrabilité associés aux modèles de matrices aléatoires. Son but est de présenter diverses applications des modèles de matrices aléatoires allant de la géométrie algébrique aux équations aux dérivées partielles des systèmes intégrables. Ces différentes applications permettent en particulier de montrer en quoi les modèles de matrices possèdent une grande richesse d'un point de vue mathématique. Ainsi, cette thèse abordera d'abord l'étude de la jonction de deux intervalles du support de la densité des valeurs propres au voisinage d'un point singulier. On montrera plus précisément en quoi ce régime limite particulier aboutit aux équations universelles de la hiérarchie de Painlevé II des systèmes intégrables. Ensuite, l'approche des polynômes (bi)-orthogonaux, introduite par Mehta pour le calcul des fonctions de partition, permettra d'énoncer des problèmes de Riemann-Hilbert et d'isomonodromies associés aux modèles de matrices, faisant ainsi le lien avec la théorie de Jimbo-Miwa-Ueno. On montrera en particulier que le cas des modèles à deux matrices hermitiens se transpose à un cas dégénéré de la théorie isomonodromique de Jimbo-Miwa-Ueno qui sera alors généralisé. La méthode des équations de boucles avec ses notions centrales de courbe spectrale et de développement topologique permettra quant à elle de faire le lien avec les invariants symplectiques de géométrie algébrique introduits récemment par Eynard et Orantin. Ce dernier point fera également l'objet d'une généralisation aux modèles de matrices non-hermitien ($\beta$ quelconque) ouvrant ainsi la voie à la ''géométrie algébrique quantique'' et à la généralisation de ces invariants symplectiques pour des courbes ''quantiques''. Enfin, une dernière partie sera consacrée aux liens étroits entre les modèles de matrices et les problèmes de combinatoire. En particulier, l'accent sera mis sur les aspects géométriques de la théorie des cordes topologiques avec la construction explicite d'un modèle de matrices aléatoires donnant le dénombrement des invariants de Gromov-Witten pour les variétés de Calabi-Yau toriques de dimension complexe trois utilisées en théorie des cordes topologiques.

Travail réalisé en cotutelle avec l'université Paris-Diderot et le Commissariat à l'Energie Atomique sous la direction de John Harnad et Bertrand Eynard. / Cette thèse traite des aspects géométriques et d'intégrabilité associés aux modèles de matrices aléatoires. Son but est de présenter diverses applications des modèles de matrices aléatoires allant de la géométrie algébrique aux équations aux dérivées partielles des systèmes intégrables. Ces différentes applications permettent en particulier de montrer en quoi les modèles de matrices possèdent une grande richesse d'un point de vue mathématique. Ainsi, cette thèse abordera d'abord l'étude de la jonction de deux intervalles du support de la densité des valeurs propres au voisinage d'un point singulier. On montrera plus précisément en quoi ce régime limite particulier aboutit aux équations universelles de la hiérarchie de Painlevé II des systèmes intégrables. Ensuite, l'approche des polynômes (bi)-orthogonaux, introduite par Mehta pour le calcul des fonctions de partition, permettra d'énoncer des problèmes de Riemann-Hilbert et d'isomonodromies associés aux modèles de matrices, faisant ainsi le lien avec la théorie de Jimbo-Miwa-Ueno. On montrera en particulier que le cas des modèles à deux matrices hermitiens se transpose à un cas dégénéré de la théorie isomonodromique de Jimbo-Miwa-Ueno qui sera alors généralisé. La méthode des équations de boucles avec ses notions centrales de courbe spectrale et de développement topologique permettra quant à elle de faire le lien avec les invariants symplectiques de géométrie algébrique introduits récemment par Eynard et Orantin. Ce dernier point fera également l'objet d'une généralisation aux modèles de matrices non-hermitien (beta quelconque) ouvrant ainsi la voie à la ``géométrie algébrique quantique'' et à la généralisation de ces invariants symplectiques pour des courbes ``quantiques''. Enfin, une dernière partie sera consacrée aux liens étroits entre les modèles de matrices et les problèmes de combinatoire. En particulier, l'accent sera mis sur les aspects géométriques de la théorie des cordes topologiques avec la construction explicite d'un modèle de matrices aléatoires donnant le dénombrement des invariants de Gromov-Witten pour les variétés de Calabi-Yau toriques de dimension complexe trois utilisées en théorie des cordes topologiques. L'étendue des domaines abordés étant très vaste, l'objectif de la thèse est de présenter de façon la plus simple possible chacun des domaines mentionnés précédemment et d'analyser en quoi les modèles de matrices peuvent apporter une aide précieuse dans leur résolution. Le fil conducteur étant les modèles matriciels, chaque partie a été conçue pour être abordable pour un spécialiste des modèles de matrices ne connaissant pas forcément tous les domaines d'application présentés ici. / This thesis deals with the geometric and integrable aspects associated with random matrix models. Its purpose is to provide various applications of random matrix theory, from algebraic geometry to partial differential equations of integrable systems. The variety of these applications shows why matrix models are important from a mathematical point of view. First, the thesis will focus on the study of the merging of two intervals of the eigenvalues density near a singular point. Specifically, we will show why this special limit gives universal equations from the Painlevé II hierarchy of integrable systems theory. Then, following the approach of (bi) orthogonal polynomials introduced by Mehta to compute partition functions, we will find Riemann-Hilbert and isomonodromic problems connected to matrix models, making the link with the theory of Jimbo, Miwa and Ueno. In particular, we will describe how the hermitian two-matrix models provide a degenerate case of Jimbo-Miwa-Ueno's theory that we will generalize in this context. Furthermore, the loop equations method, with its central notions of spectral curve and topological expansion, will lead to the symplectic invariants of algebraic geometry recently proposed by Eynard and Orantin. This last point will be generalized to the case of non-hermitian matrix models (arbitrary beta) paving the way to ``quantum algebraic geometry'' and to the generalization of symplectic invariants to ``quantum curves''. Finally, this set up will be applied to combinatorics in the context of topological string theory, with the explicit computation of an hermitian random matrix model enumerating the Gromov-Witten invariants of a toric Calabi-Yau threefold. Since the range of the applications encountered is large, we try to present every domain in a simple way and explain how random matrix models can bring new insights to those fields. The common element of the thesis being matrix models, each part has been written so that readers unfamiliar with the domains of application but familiar with matrix models should be able to understand it.

Cette thèse porte sur diverses applications de la théorie des cordes topologiques basée sur différents types de variétés de Calabi-Yau (CY). Le premier type considéré est la variété torique CY, qui est intimement liée aux problèmes spectraux des différents opérateurs. L'exemple particulier considéré dans la thèse ressemble beaucoup au modèle de Harper-Hofstadter en physique de la matière condensée. Nous étudions d’abord les secteurs non perturbatifs dans ce modèle et proposons une nouvelle façon de les calculer en utilisant la théorie topologique des cordes. Dans la deuxième partie de la thèse, nous considérons les fonctions de partition sur des variétés de CY elliptiquement fibrées. Celles-ci présentent un comportement modulaire intéressant. Nous montrons que pour les géométries qui ne conduisent pas à des symétries de jauge non abéliennes, les fonctions de partition des cordes topologiques peuvent être reconstruites avec seulement les invariants de Gromov-Witten du genre zéro. Finalement, nous discutons des travaux en cours concernant la relation entre les fonctions de partitionnement des cordes topologiques sur les soi-disant arbres de Higgsing dans la théorie de F. / This thesis focuses on various applications of topological string theory based on different types of Calabi-Yau (CY) manifolds. The first type considered is the toric CY manifold, which is intimately related to spectral problems of difference operators. The particular example considered in the thesis closely resembles the Harper-Hofstadter model in condensed matter physics. We first study the non-perturbative sectors in this model, and then propose a new way to compute them using topological string theory. In the second part of the thesis, we consider partition functions on elliptically fibered CY manifolds. These exhibit interesting modular behavior. We show that for geometries which don't lead to non-abelian gauge symmetries, the topological string partition functions can be reconstructed based solely on genus zero Gromov-Witten invariants. Finally, we discuss ongoing work regarding the relation of the topological string partition functions on the so-called Higgsing trees in F-theory.

Cette thèse traite des aspects géométriques et d'intégrabilité associés aux modèles de matrices aléatoires. Son but est de présenter diverses applications des modèles de matrices aléatoires allant de la géométrie algébrique aux équations aux dérivées partielles des systèmes intégrables. Ces différentes applications permettent en particulier de montrer en quoi les modèles de matrices possèdent une grande richesse d'un point de vue mathématique. Ainsi, cette thèse abordera d'abord l'étude de la jonction de deux intervalles du support de la densité des valeurs propres au voisinage d'un point singulier. On montrera plus précisément en quoi ce régime limite particulier aboutit aux équations universelles de la hiérarchie de Painlevé II des systèmes intégrables. Ensuite, l'approche des polynômes (bi)-orthogonaux, introduite par Mehta pour le calcul des fonctions de partition, permettra d'énoncer des problèmes de Riemann-Hilbert et d'isomonodromies associés aux modèles de matrices, faisant ainsi le lien avec la théorie de Jimbo-Miwa-Ueno. On montrera en particulier que le cas des modèles à deux matrices hermitiens se transpose à un cas dégénéré de la théorie isomonodromique de Jimbo-Miwa-Ueno qui sera alors généralisé. La méthode des équations de boucles avec ses notions centrales de courbe spectrale et de développement topologique permettra quant à elle de faire le lien avec les invariants symplectiques de géométrie algébrique introduits récemment par Eynard et Orantin. Ce dernier point fera également l'objet d'une généralisation aux modèles de matrices non-hermitien (beta quelconque) ouvrant ainsi la voie à la ``géométrie algébrique quantique'' et à la généralisation de ces invariants symplectiques pour des courbes ``quantiques''. Enfin, une dernière partie sera consacrée aux liens étroits entre les modèles de matrices et les problèmes de combinatoire. En particulier, l'accent sera mis sur les aspects géométriques de la théorie des cordes topologiques avec la construction explicite d'un modèle de matrices aléatoires donnant le dénombrement des invariants de Gromov-Witten pour les variétés de Calabi-Yau toriques de dimension complexe trois utilisées en théorie des cordes topologiques. L'étendue des domaines abordés étant très vaste, l'objectif de la thèse est de présenter de façon la plus simple possible chacun des domaines mentionnés précédemment et d'analyser en quoi les modèles de matrices peuvent apporter une aide précieuse dans leur résolution. Le fil conducteur étant les modèles matriciels, chaque partie a été conçue pour être abordable pour un spécialiste des modèles de matrices ne connaissant pas forcément tous les domaines d'application présentés ici. / This thesis deals with the geometric and integrable aspects associated with random matrix models. Its purpose is to provide various applications of random matrix theory, from algebraic geometry to partial differential equations of integrable systems. The variety of these applications shows why matrix models are important from a mathematical point of view. First, the thesis will focus on the study of the merging of two intervals of the eigenvalues density near a singular point. Specifically, we will show why this special limit gives universal equations from the Painlevé II hierarchy of integrable systems theory. Then, following the approach of (bi) orthogonal polynomials introduced by Mehta to compute partition functions, we will find Riemann-Hilbert and isomonodromic problems connected to matrix models, making the link with the theory of Jimbo, Miwa and Ueno. In particular, we will describe how the hermitian two-matrix models provide a degenerate case of Jimbo-Miwa-Ueno's theory that we will generalize in this context. Furthermore, the loop equations method, with its central notions of spectral curve and topological expansion, will lead to the symplectic invariants of algebraic geometry recently proposed by Eynard and Orantin. This last point will be generalized to the case of non-hermitian matrix models (arbitrary beta) paving the way to ``quantum algebraic geometry'' and to the generalization of symplectic invariants to ``quantum curves''. Finally, this set up will be applied to combinatorics in the context of topological string theory, with the explicit computation of an hermitian random matrix model enumerating the Gromov-Witten invariants of a toric Calabi-Yau threefold. Since the range of the applications encountered is large, we try to present every domain in a simple way and explain how random matrix models can bring new insights to those fields. The common element of the thesis being matrix models, each part has been written so that readers unfamiliar with the domains of application but familiar with matrix models should be able to understand it. / Travail réalisé en cotutelle avec l'université Paris-Diderot et le Commissariat à l'Energie Atomique sous la direction de John Harnad et Bertrand Eynard.