Cette thèse porte essentiellement sur l'étude de la distribution spectrale limite de grandes matrices aléatoires dont les entrées sont corrélées et traite également d'inégalités de déviation pour la plus grande valeur propre d'une somme de matrices aléatoires auto-adjointes et géométriquement absolument réguliers. On s'intéresse au comportement asymptotique de grandes matrices de covariances et de matrices de type Wigner dont les entrées sont des fonctionnelles d'une suite de variables aléatoires à valeurs réelles indépendantes et de même loi. On montre que dans ce contexte la distribution spectrale empirique des matrices peut être obtenue en analysant une matrice gaussienne ayant la même structure de covariance. Cette approche est valide que ce soit pour des processus à mémoire courte ou pour des processus exhibant de la mémoire longue, et on montre ainsi un résultat d'universalité concernant le comportement asymptotique du spectre de ces matrices. Notre approche consiste en un mélange de la méthode de Lindeberg par blocs et d'une technique d'interpolation Gaussienne. Une nouvelle inégalité de concentration pour la transformée de Stieltjes pour des matrices symétriques ayant des lignes $m$-dépendantes est établie. Notre méthode permet d'obtenir, sous de faibles conditions, l'équation intégrale satisfaite par la transformée de Stieltjes de la distribution spectrale limite. Ce résultat s'applique à des matrices associées à des fonctions de processus linéaires, à des modèles ARCH ainsi qu'à des modèles non-linéaires de type Volterra. On traite également le cas des matrices de Gram dont les entrées sont des fonctionnelles d'un processus absolument régulier (i.e. $beta$-mélangeant).On établit une inégalité de concentration qui nous permet de montrer, sous une condition de décroissance arithmétique des coefficients de $beta$-mélange, que la transformée de Stieltjes se concentre autour de sa moyenne. On réduit ensuite le problème à l'étude d'une matrice gaussienne ayant une structure de covariance similaire via la méthode de Lindeberg par blocs. Des applications à des chaînes de Markov stationnaires et Harris récurrentes ainsi qu'à des systèmes dynamiques sont données. Dans le dernier chapitre de cette thèse, on étudie des inégalités de déviation pour la plus grande valeur propre d'une somme de matrices aléatoires auto-adjointes. Plus précisément, on établit une inégalité de type Bernstein pour la plus grande valeur propre de la somme de matrices auto-ajointes, centrées et géométriquement $beta$-mélangeantes dont la plus grande valeur propre est bornée. Ceci étend d'une part le résultat de Merlevède et al. (2009) à un cadre matriciel et généralise d'autre part, à un facteur logarithmique près, les résultats de Tropp (2012) pour des sommes de matrices indépendantes / In this thesis, we investigate mainly the limiting spectral distribution of random matrices having correlated entries and prove as well a Bernstein-type inequality for the largest eigenvalue of the sum of self-adjoint random matrices that are geometrically absolutely regular. We are interested in the asymptotic spectral behavior of sample covariance matrices and Wigner-type matrices having correlated entries that are functions of independent random variables. We show that the limiting spectral distribution can be obtained by analyzing a Gaussian matrix having the same covariance structure. This approximation approach is valid for both short and long range dependent stationary random processes just having moments of second order. Our approach is based on a blend of a blocking procedure, Lindeberg's method and the Gaussian interpolation technique. We also develop new tools including a concentration inequality for the spectral measure for matrices having $K$-dependent rows. This method permits to derive, under mild conditions, an integral equation of the Stieltjes transform of the limiting spectral distribution. Applications to matrices whose entries consist of functions of linear processes, ARCH processes or non-linear Volterra-type processes are also given.We also investigate the asymptotic behavior of Gram matrices having correlated entries that are functions of an absolutely regular random process. We give a concentration inequality of the Stieltjes transform and prove that, under an arithmetical decay condition on the absolute regular coefficients, it is almost surely concentrated around its expectation. The study is then reduced to Gaussian matrices, with a close covariance structure, proving then the universality of the limiting spectral distribution. Applications to stationary Harris recurrent Markov chains and to dynamical systems are also given.In the last chapter, we prove a Bernstein type inequality for the largest eigenvalue of the sum of self-adjoint centered and geometrically absolutely regular random matrices with bounded largest eigenvalue. This inequality is an extension to the matrix setting of the Bernstein-type inequality obtained by Merlev`ede et al. (2009) and a generalization, up to a logarithmic term, of Tropp's inequality (2012) by relaxing the independence hypothesis

Cette thèse porte essentiellement sur l'étude de la distribution spectrale limite de grandes matrices aléatoires dont les entrées sont corrélées et traite également d'inégalités de déviation pour la plus grande valeur propre d'une somme de matrices aléatoires auto-adjointes et géométriquement absolument réguliers. On s'intéresse au comportement asymptotique de grandes matrices de covariances et de matrices de type Wigner dont les entrées sont des fonctionnelles d'une suite de variables aléatoires à valeurs réelles indépendantes et de même loi. On montre que dans ce contexte la distribution spectrale empirique des matrices peut être obtenue en analysant une matrice gaussienne ayant la même structure de covariance. Cette approche est valide que ce soit pour des processus à mémoire courte ou pour des processus exhibant de la mémoire longue, et on montre ainsi un résultat d'universalité concernant le comportement asymptotique du spectre de ces matrices. Notre approche consiste en un mélange de la méthode de Lindeberg par blocs et d'une technique d'interpolation Gaussienne. Une nouvelle inégalité de concentration pour la transformée de Stieltjes pour des matrices symétriques ayant des lignes $m$-dépendantes est établie. Notre méthode permet d'obtenir, sous de faibles conditions, l'équation intégrale satisfaite par la transformée de Stieltjes de la distribution spectrale limite. Ce résultat s'applique à des matrices associées à des fonctions de processus linéaires, à des modèles ARCH ainsi qu'à des modèles non-linéaires de type Volterra. On traite également le cas des matrices de Gram dont les entrées sont des fonctionnelles d'un processus absolument régulier (i.e. $beta$-mélangeant).On établit une inégalité de concentration qui nous permet de montrer, sous une condition de décroissance arithmétique des coefficients de $beta$-mélange, que la transformée de Stieltjes se concentre autour de sa moyenne. On réduit ensuite le problème à l'étude d'une matrice gaussienne ayant une structure de covariance similaire via la méthode de Lindeberg par blocs. Des applications à des chaînes de Markov stationnaires et Harris récurrentes ainsi qu'à des systèmes dynamiques sont données. Dans le dernier chapitre de cette thèse, on étudie des inégalités de déviation pour la plus grande valeur propre d'une somme de matrices aléatoires auto-adjointes. Plus précisément, on établit une inégalité de type Bernstein pour la plus grande valeur propre de la somme de matrices auto-ajointes, centrées et géométriquement $beta$-mélangeantes dont la plus grande valeur propre est bornée. Ceci étend d'une part le résultat de Merlevède et al. (2009) à un cadre matriciel et généralise d'autre part, à un facteur logarithmique près, les résultats de Tropp (2012) pour des sommes de matrices indépendantes / In this thesis, we investigate mainly the limiting spectral distribution of random matrices having correlated entries and prove as well a Bernstein-type inequality for the largest eigenvalue of the sum of self-adjoint random matrices that are geometrically absolutely regular. We are interested in the asymptotic spectral behavior of sample covariance matrices and Wigner-type matrices having correlated entries that are functions of independent random variables. We show that the limiting spectral distribution can be obtained by analyzing a Gaussian matrix having the same covariance structure. This approximation approach is valid for both short and long range dependent stationary random processes just having moments of second order. Our approach is based on a blend of a blocking procedure, Lindeberg's method and the Gaussian interpolation technique. We also develop new tools including a concentration inequality for the spectral measure for matrices having $K$-dependent rows. This method permits to derive, under mild conditions, an integral equation of the Stieltjes transform of the limiting spectral distribution. Applications to matrices whose entries consist of functions of linear processes, ARCH processes or non-linear Volterra-type processes are also given.We also investigate the asymptotic behavior of Gram matrices having correlated entries that are functions of an absolutely regular random process. We give a concentration inequality of the Stieltjes transform and prove that, under an arithmetical decay condition on the absolute regular coefficients, it is almost surely concentrated around its expectation. The study is then reduced to Gaussian matrices, with a close covariance structure, proving then the universality of the limiting spectral distribution. Applications to stationary Harris recurrent Markov chains and to dynamical systems are also given.In the last chapter, we prove a Bernstein type inequality for the largest eigenvalue of the sum of self-adjoint centered and geometrically absolutely regular random matrices with bounded largest eigenvalue. This inequality is an extension to the matrix setting of the Bernstein-type inequality obtained by Merlev`ede et al. (2009) and a generalization, up to a logarithmic term, of Tropp's inequality (2012) by relaxing the independence hypothesis