Le résultat principal de cette thèse est une formule asymptotique pour le quatrième moment des fonctions L automorphes de niveau p', où p est un nombre premier et v-x. Il prolonge le travail de Rouymi, qui a calculé les trois premiers moments de niveau p, et il généralise les résultats obtenus en niveau premier par Duke, Friedlander & Iwaniec et Kowalski, Michel & Vanderkam. / The main result of this dissertation is an asymptotic formula for the fourth moment of automorphic L-functions of prime power level p, v-x. This is a continuation of the work of Rouymi, who computed the first three moments at prime power level, and a generalisation of results obtained for prime level by Duke, Friedlander & Iwaniec and Kowalski, Michel & Vanderkam.

Le "Big Data'' et les grands systèmes d'apprentissage sont omniprésents dans les problèmes d'apprentissage automatique aujourd’hui. Contrairement à l'apprentissage de petite dimension, les algorithmes d'apprentissage en grande dimension sont sujets à divers phénomènes contre-intuitifs et se comportent de manière très différente des intuitions de petite dimension sur lesquelles ils sont construits. Cependant, en supposant que la dimension et le nombre des données sont à la fois grands et comparables, la théorie des matrices aléatoires (RMT) fournit une approche systématique pour évaluer le comportement statistique de ces grands systèmes d'apprentissage, lorsqu'ils sont appliqués à des données de grande dimension. L’objectif principal de cette thèse est de proposer un schéma d'analyse basé sur la RMT, pour une grande famille de systèmes d’apprentissage automatique: d'évaluer leurs performances, de mieux les comprendre et finalement les améliorer, afin de mieux gérer les problèmes de grandes dimensions aujourd'hui.Précisément, nous commençons par exploiter la connexion entre les grandes matrices à noyau, les projection aléatoires non-linéaires et les réseaux de neurones aléatoires simples. En considérant que les données sont tirées indépendamment d'un modèle de mélange gaussien, nous fournissons une caractérisation précise des performances de ces systèmes d'apprentissage en grande dimension, exprimée en fonction des statistiques de données, de la dimensionnalité et, surtout, des hyper-paramètres du problème. Lorsque des algorithmes d'apprentissage plus complexes sont considérés, ce schéma d'analyse peut être étendu pour accéder à de systèmes d'apprentissage qui sont définis (implicitement) par des problèmes d'optimisation convexes, lorsque des points optimaux sont atteints. Pour trouver ces points, des méthodes d'optimisation telles que la descente de gradient sont régulièrement utilisées. À cet égard, dans le but d'avoir une meilleur compréhension théorique des mécanismes internes de ces méthodes d'optimisation et, en particulier, leur impact sur le modèle d'apprentissage, nous évaluons aussi la dynamique de descente de gradient dans les problèmes d'optimisation convexes et non convexes.Ces études préliminaires fournissent une première compréhension quantitative des algorithmes d'apprentissage pour le traitement de données en grandes dimensions, ce qui permet de proposer de meilleurs critères de conception pour les grands systèmes d’apprentissage et, par conséquent, d'avoir un gain de performance remarquable lorsqu'il est appliqué à des jeux de données réels. Profondément ancré dans l'idée d'exploiter des données de grandes dimensions avec des informations répétées à un niveau "global'' plutôt qu'à un niveau "local'', ce schéma d'analyse RMT permet une compréhension renouvelée et la possibilité de contrôler et d'améliorer une famille beaucoup plus large de méthodes d'apprentissage automatique, ouvrant ainsi la porte à un nouveau schéma d'apprentissage automatique pour l'intelligence artificielle. / Large dimensional data and learning systems are ubiquitous in modern machine learning. As opposed to small dimensional learning, large dimensional machine learning algorithms are prone to various counterintuitive phenomena and behave strikingly differently from the low dimensional intuitions upon which they are built. Nonetheless, by assuming the data dimension and their number to be both large and comparable, random matrix theory (RMT) provides a systematic approach to assess the (statistical) behavior of these large learning systems, when applied on large dimensional data. The major objective of this thesis is to propose a full-fledged RMT-based framework for various machine learning systems: to assess their performance, to properly understand and to carefully refine them, so as to better handle large dimensional problems that are increasingly needed in artificial intelligence applications.Precisely, we exploit the close connection between kernel matrices, random feature maps, and single-hidden-layer random neural networks. Under a simple Gaussian mixture modeling for the input data, we provide a precise characterization of the performance of these large dimensional learning systems as a function of the data statistics, the dimensionality, and most importantly the hyperparameters (e.g., the choice of the kernel function or activation function) of the problem. Further addressing more involved learning algorithms, we extend the present RMT analysis framework to access large learning systems that are implicitly defined by convex optimization problems (e.g., logistic regression), when optimal points are assumed reachable. To find these optimal points, optimization methods such as gradient descent are regularly used. Aiming to have a better theoretical grasp of the inner mechanism of optimization methods and their impact on the resulting learning model, we further evaluate the gradient descent dynamics in training convex and non-convex objects.These preliminary studies provide a first quantitative understanding of the aforementioned learning algorithms when large dimensional data are processed, which further helps propose better design criteria for large learning systems that result in remarkable gains in performance when applied on real-world datasets. Deeply rooted in the idea of mining large dimensional data with repeated patterns at a global rather than a local level, the proposed RMT analysis framework allows for a renewed understanding and the possibility to control and improve a much larger range of machine learning approaches, and thereby opening the door to a renewed machine learning framework for artificial intelligence.

La théorie des matrices aléatoires présente un ensemble d'outils mathématiques efficaces pour l'étude de performances des systèmes de communications numériques. L'objectif de cette thèse est de développer des résultats analytiques basés sur la théorie des matrices aléatoires pour étudier les fluctuations de quelques indices de performances pour les systèmes de communications sans fil. Nous étudions dans un premier temps, les fluctuations de formes quadratiques aléatoires. Basés sur l'approche REFORM, nous montrons les fluctuations gaussiennes des formes quadratiques associées à des matrices aléatoires. De point de vue applicatif, le SINR (rapport signal sur bruit), indice de performance mesuré à la sortie d'un récepteur linéaire de Wiener, peut être modélisé sous forme de formes quadratiques aléatoires. Nous nous intéressons également à l'établissement d'un théorème central limit pour une fonctionnelle spectrale de matrices de Gram pour un modèle de matrices dont les entrées sont indépendantes non centrées et non identiquement distribuées. Sur le plan applicatif, cette fonctionnelle modélise la capacité d'un canal de transmission dans le cadre des systèmes de transmission multi-antennes.

Dans cette thèse, nous considérons le problème de la localisation de source dans les grands réseaux de capteurs, quand le nombre d'antennes du réseau et le nombre d'échantillons du signal observé sont grands et du même ordre de grandeur. Nous considérons le cas où les signaux source émis sont déterministes, et nous développons un algorithme de localisation amélioré, basé sur la méthode MUSIC. Pour ce faire, nous montrons de nouveaux résultats concernant la localisation des valeurs propres des grandes matrices aléatoires gaussiennes complexes de type information plus bruit / In this thesis, we consider the problem of source localization in large sensor networks, when the number of antennas of the network and the number of samples of the observed signal are large and of the same order of magnitude. We also consider the case where the source signals are deterministic, and we develop an improved algorithm for source localization, based on the MUSIC method. For this, we fist show new results concerning the position of the eigen values of large information plus noise complex gaussian random matrices

Dans cette thèse, nous considérons le problème de la localisation de source dans les grands réseaux de capteurs, quand le nombre d'antennes du réseau et le nombre d'échantillons du signal observé sont grands et du même ordre de grandeur. Nous considérons le cas où les signaux source émis sont déterministes, et nous développons un algorithme de localisation amélioré, basé sur la méthode MUSIC. Pour ce faire, nous montrons de nouveaux résultats concernant la localisation des valeurs propres des grandes matrices aléatoires gaussiennes complexes de type information plus bruit

Cette thèse s'inscrit dans la théorie des matrices aléatoires, à l'intersection avec la théorie des probabilités libres et des algèbres d'opérateurs. Elle s'insère dans une démarche générale qui a fait ses preuves ces dernières décennies : importer les techniques et les concepts de la théorie des probabilités non commutatives pour l'étude du spectre de grandes matrices aléatoires. On s'intéresse ici à des généralisations du théorème de liberté asymptotique de Voiculescu. Dans les Chapitres 1 et 2, nous montrons des résultats de liberté asymptotique forte pour des matrices gaussiennes, unitaires aléatoires et déterministes. Dans les Chapitres 3 et 4, nous introduisons la notion de fausse liberté asymptotique pour des matrices déterministes et certaines matrices hermitiennes à entrées sous diagonales indépendantes, interpolant les modèles de matrices de Wigner et de Lévy.

La synchronisation temporelle des systèmes MIMO a été abondamment étudiée dans les quinze dernières années, mais la plupart des techniques existantes supposent que le bruit est blanc temporellement et spatialement, ce qui ne permet pas de modéliser la présence d'interférence. Nous considérons donc le cas de bruits blancs temporellement mais pas spatialement, dont la matrice de covariance spatiale est inconnue. En formulant le problème de l'estimation de l'instant de synchronisation comme un test d'hypothèses, nous aboutissons au test du rapport de vraisemblance généralisé (GLRT) qui donne lieu à la comparaison avec un seuil d'une statistique de test eta_GLRT. Cependant, pour des raisons de complexité, l'utilisation de cette statistique n'est pas toujours considérée comme réaliste. La première partie de ce travail a donc été consacrée à mettre en évidence des tests alternatifs moins complexes à mettre en œuvre, tout en ayant des performances similaires. Une analyse comparative exhaustive, prenant en considération le bruit et l'interférence, le type de canal, le nombre d'antennes en émission et en réception, et l'orthogonalité de la séquence de synchronisation est réalisée. Enfin, nous étudions le problème de l'optimisation du nombre d'antennes en émission K pour la synchronisation temporelle, montrant que pour un RSB élevé, les performances augmentent avec K dès que le produit de K avec le nombre d'antennes de réception M n'est pas supérieur à 8.Le deuxième aspect de ce travail est une analyse statistique de eta_GLRT dans le cas où la taille de la séquence d'apprentissage N est du même ordre de grandeur que M, ce qui conduit naturellement à étudier le comportement de eta_GLRT dans le régime asymptotique des grands systèmes M tend vers l'infini, N tend l'infini de telle sorte que M/N tende vers une constante non nulle. Nous considérons le cadre applicatif d'un système muni d'une unique antenne d'émission et d'un canal à trajets multiples, qui est formellement identique à celui d'un système MIMO dont le nombre d'antennes d'émissions correspondrait au nombre de trajets. Lorsque le nombre de trajets L est beaucoup plus faible que N et M, nous établissons que eta_GLRT a un comportement gaussien avec l'espérance asymptotique L log (1 / (1-M/N)) et la variance (L/N)*(M/N)/(1-M/N). Ceci est en contraste avec le régime asymptotique standard quand N tend vers l'infini et M et L fixe où eta_GLRT a un comportement chi2. Sous l'hypothèse H_1, eta_GLRT a aussi un comportement gaussien. Nous considérons également le cas où le nombre de trajets L tend vers l'infini à la même vitesse que M et N. Nous utilisons des résultats connus concernant le comportement des statistiques linéaires des valeurs propres des grandes F matrices, et déduisons que dans le régime où L,M,N tendent vers l'infini à la même vitesse, eta_GLRT a encore un comportement gaussien sous H_0, mais avec une espérance et variance différentes. L'analyse de eta_GLRT sous H_1 lorsque L,M,L convergent vers l'infini nécessite l'établissement d'un théorème central limite pour les statistiques linéaires des valeurs propres de matrices F de moyennes non-nulles, une tâche difficile. Motivé par les résultats obtenus dans le cas où L reste fini, nous proposons d'approximer la distribution asymptotique par une distribution gaussienne dont l'espérance et la variance sont la somme de l'espérance et la variance asymptotique sous H_0quand L tend vers l'infini avec l'espérance et la variance asymptotique sous H_1 dans le régime classique N tend vers l'infini et M fixé. Des simulations numériques permettent de comparer les courbes ROC des différents approximant avec des courbes ROC empiriques. Les résultats montrent que nos approximant de grandes dimensions fournissent de meilleurs résultats quand M/N augmente, tout en permettant de capturer la performance réelle pour les petites valeurs de M/N / Time synchronization of MIMO systems have been strongly studied in the last fifteen years, but most of the existing techniques assume a spatially and temporally white noise, which does not allow modeling the presence of interference. We consider thus a temporally white but spatially colored noise, with an unknown covariance matrix. Formulating the estimation problem as a hypothesis testing problem, we obtain a Generalized likelihood ratio test (GLRT), which gives us a synchronization statistics eta_GLRT. However, for complexity reasons, it is not always considered realistic for practical situations. A part of this work has thus been devoted to showing that there exist non-GLRT statistics that are less complex to implement than theet a_GLRT, while having similar performance. Furthermore, we perform a comparative parameter analysis, taking into consideration the noise type, channel type, the number of transmit and receive antennas, and the orthogonality of the synchronization sequence. Lastly, the problem of optimization of the number of transmit antennas K for time synchronization has been investigated. showing, for high SNR, increasing performance with K as long as the product KM is not larger than 8, where M is the number of receive antennas. The second aspect of MIMO synchronization studied in thesis is asymptotic analysis of the same GLRT, but for large M. In this context, the synchronization sequence length N is the same order of magnitude as M, and this leads us naturally to the study of the the behavior of eta_GLRT in the asymptotic regime where M,N go towards infinity such that M/N go towards a non-zero constant. We consider the case of a single transmit antenna in a multi-path channel, which formally is equivalent to the MIMO system where the transmit antennas correspond to the number of paths. We address the case When the number of paths L does not scale with M and N, we establish that eta_GLRT has a Gaussian behavior with asymptotic mean L log (1/ (1 - M/N))and variance (L/N)*(M/N)/(1-M/N).This is in contrast with the standard asymptotic regime N goes to infinity and M fixed where eta_GLRT has a chi^2 behaviour. Under hypothesis H_1, eta_GLRT still has a Gaussian behaviour. The corresponding asymptotic mean and variance are obtained as the sum of the asymptotic mean and variance in the standard regime N goes to infinity and M fixed, and L log(1/(1-/M/N))L log (1 / (1-M/N)) and (L/N)*(M/N)/(1-M/N)respectively, i.e. the asymptotic mean and variance under H_0.We also consider the case where the number of paths L converges towards infinity at the same rate as M and N. Using known results of concerning the behaviour of linear statistics of the eigenvalues of large F-matrices, we deduce that in the regime where L,M,N converge to infinity at the same rate, eta_GLRT still has a Gaussian behaviour under H_0, but with a different mean and variance. The analysis of eta_GLRT under H_1 whenL,M,N converge to infinity needs to establish a central limit theorem for linear statistics of the eigenvalues of large non zero-mean F-matrices, a difficult ask. Motivated by the results obtained in the case where L remains finite, we propose to approximate the asymptotic distribution of eta_GLRT by a Gaussian distribution whose mean and variance are the sum of the asymptotic mean and variance under H_0when L goes to infinity with the asymptotic mean and variance under H_1 in the standard regime N goes to infinity and M fixed. Numerical simulations allow to compare the ROC curves obtained with the different approximations with the empirical ROC curves. The results show that the large-system approximations provide better results when M/N increases, while also allowing to capture the actual performance for small values of M/N

Les futurs systèmes de communication sans fil devront utiliser des architectures cellulaires hétérogènes composées de grandes cellules (macro) plus performantes et de petites cellules (femto, micro, ou pico) très denses, afin de soutenir la demande de débit en augmentation exponentielle au niveau de la couche physique. Ces structures provoquent un niveau d'interférence sans précèdent à l'intérieur, comme à l'extérieur des cellules, qui doit être atténué ou, idéalement, exploité afin d'améliorer l'efficacité spectrale globale du réseau. Des techniques comme le MIMO à grande échelle (dit massive MIMO), la coopération, etc., qui contribuent aussi à la gestion des interférences, vont encore augmenter la taille des grandes architectures hétérogènes, qui échappent ainsi à toute possibilité d'analyse théorique par des techniques statistiques traditionnelles.Par conséquent, dans cette thèse, nous allons appliquer et améliorer des résultats connus de la théorie des matrices aléatoires à grande échelle (RMT) afin d'analyser le problème d'interférence et de proposer de nouveaux systèmes de précodage qui s'appuient sur les résultats acquis par l'analyse du système à grande échelle. Nous allons d'abord proposer et analyser une nouvelle famille de précodeurs qui réduit la complexité de calcul de précodage pour les stations de base équipées d'un grand nombre d'antennes, tout en conservant la plupart des capacités d'atténuation d'interférence de l'approche classique et le caractère quasi-optimal du précodeur regularised zero forcing. Dans un deuxième temps, nous allons proposer une variation de la structure de précodage linéaire optimal (obtenue pour de nombreuses mesures de performance) qui permet de réduire le niveau d'interférence induit aux autres cellules. Ceci permet aux petites cellules d'atténuer efficacement les interférences induites et reçues au moyen d'une coopération minimale. Afin de faciliter l'utilisation de l'approche analytique RMT pour les futures générations de chercheurs, nous fournissons également un tutoriel exhaustif sur l'application pratique de la RMT pour les problèmes de communication en début du manuscrit. / Future wireless communication systems will need to feature multi cellular heterogeneous architectures consisting of improved macro cells and very dense small cells, in order to support the exponentially rising demand for physical layer throughput. Such structures cause unprecedented levels of inter and intra cell interference, which needs to be mitigated or, ideally, exploited in order to improve overall spectral efficiency of the communication network. Techniques like massive multiple input multiple output (MIMO), cooperation, etc., that also help with interference management, will increase the size of the already large heterogeneous architectures to truly enormous networks, that defy theoretical analysis via traditional statistical methods.Accordingly, in this thesis we will apply and improve the already known framework of large random matrix theory (RMT) to analyse the interference problem and propose solutions centred around new precoding schemes, which rely on large system analysis based insights. First, we will propose and analyse a new family of precoding schemes that reduce the computational precoding complexity of base stations equipped with a large number of antennas, while maintaining most of the interference mitigation capabilities of conventional close-to-optimal regularized zero forcing. Second, we will propose an interference aware linear precoder, based on an intuitive trade-off and recent results on multi cell regularized zero forcing, that allows small cells to effectively mitigate induced interference with minimal cooperation. In order to facilitate utilization of the analytic RMT approach for future generations of interested researchers, we will also provide a comprehensive tutorial on the practical application of RMT in communication problems.

Partant du constat que dans plus en plus d'applications, la taille des données à traiter augmente, il semble pertinent d'utiliser des outils appropriés tels que la théorie des matrices aléatoires dans le régime en grandes dimensions. Plus particulièrement, dans les applications de traitement d'antenne et radar spécifiques STAP et MIMO-STAP, nous nous sommes intéressés au traitement d'un signal d'intérêt corrompu par un bruit additif composé d'une partie dite rang faible et d'un bruit blanc gaussien. Ainsi l'objet de cette thèse est d'étudier dans le régime en grandes dimensions la détection et le filtrage dit rang faible (fonction de projecteurs) pour le traitement d'antenne en utilisant la théorie des matrices aléatoires.La thèse propose alors trois contributions principales, dans le cadre de l'analyse asymptotique de fonctionnelles de projecteurs. Ainsi, premièrement, le régime en grandes dimensions permet ici de déterminer une approximation/prédiction des performances théoriques non asymptotiques, plus précise que ce qui existe actuellement en régime asymptotique classique (le nombre de données d'estimation tends vers l'infini à taille des données fixe). Deuxièmement, deux nouveaux filtres et deux nouveaux détecteurs adaptatifs rang faible ont été proposés et il a été montré qu'ils présentaient de meilleures performances en fonction des paramètres du système en terme de perte en RSB, probabilité de fausse alarme et probabilité de détection. Enfin, les résultats ont été validés sur une application de brouillage, puis appliqués aux traitements radar STAP et MIMO-STAP sparse. L'étude a alors mis en évidence une différence notable avec l'application de brouillage liée aux modèles de matrice de covariance traités dans cette thèse. / Nowadays, more and more applications deal with increasing dimensions. Thus, it seems relevant to exploit the appropriated tools as the random matrix theory in the large dimensional regime. More particularly, in the specific array processing applications as the STAP and MIMO-STAP radar applications, we were interested in the treatment of a signal of interest corrupted by an additive noise composed of a low rang noise and a white Gaussian. Therefore, the aim of this thesis is to study the low rank filtering and detection (function of projectors) in the large dimensional regime for array processing with random matrix theory tools.This thesis has three main contributions in the context of asymptotic analysis of projector functionals. Thus, the large dimensional regime first allows to determine an approximation/prediction of theoretical non asymptotic performance, much more precise than the literature in the classical asymptotic regime (when the number of estimation data tends to infinity at a fixed dimension). Secondly, two new low rank adaptive filters and detectors have been proposed and it has been shown that they have better performance as a function of the system parameters, in terms of SINR loss, false alarm probability and detection probability. Finally, the results have been validated on a jamming application and have been secondly applied to the STAP and sparse MIMO-STAP processings. Hence, the study highlighted a noticeable difference with the jamming application, related to the covariance matrix models concerned by this thesis.

La théorie des matrices aléatoires présente un ensemble d'outils mathématiques efficaces pour l'étude de performances des systèmes de communications numériques. L'objectif de cette thèse est de développer des résultats analytique basés sur la théorie des matrices aléatoires pour étudier les fluctuations de quelques indices de performances pour les systèmes de communications sans fil. Nous étudions dans un premier temps, les fluctuations du rapport signal sur bruit (SINR), indice de performance mesuré à la sortie d'un récepteur linéaire de Wiener, récepteur minimisant l'erreur quadratique des symboles estimés (LMMSE) pour les transmissions par la technique CDMA. Basés sur la méthode REFORM, nous montrons le comportement gaussien asymptotique pour le SINR. L'étude du SINR permet la compréhension de comportements d'autres indices de performances comme l'erreur binaire et la probabilité de dépassement. Basés sur la nature gaussienne des entrées de la matrice canal, nous utilisons des outils mathématiques dédiés aux variables gaussiennes pour évaluer ces deux indices de performances. Des simulations montrent bien la pertinence de cette approche. Il est bien connu que l'information mutuelle entre le signal émis et le signal reçu augmente avec l'utilisation des techniques de transmission multi-antennes. Nous nous intéressons à l'étude des fluctuations de cette statistique pour un modèle séparable non centré, cas Rice. Nous développons des outils mathématiques basés sur la théorie des matrices aléatoires permettant de montrer la nature gaussienne des fluctuations de l'information mutuelle.