Les grandes matrices de covariance constituent certainement l’un des modèles les plus utiles pour les applications en statistiques en grande dimension, en communication numérique, en biologie mathématique, en finance, etc. Les travaux de Marcenko et Pastur (1967) ont permis de décrire le comportement asymptotique de la mesure spectrale de telles matrices formées à partir de N copies indépendantes de n observations d’une suite de variables aléatoires iid et sa convergence vers une distribution de probabilité déterministe lorsque N et n convergent vers l’infini à la même vitesse. Plus récemment, Merlevède et Peligrad (2016) ont démontré que dans le cas de grandes matrices de covariance issues de copies indépendantes d’observations d’un processus strictement stationnaire centré, de carré intégrable et satisfaisant des conditions faibles de régularité, presque sûrement, la distribution spectrale empirique convergeait étroitement vers une distribution non aléatoire ne dépendant que de la densité spectrale du processus sous-jacent. En particulier, si la densité spectrale est continue et bornée (ce qui est le cas des processus linéaires dont les coefficients sont absolument sommables), alors la distribution spectrale limite a un support compact. Par contre si le processus stationnaire exhibe de la longue mémoire (en particulier si les covariances ne sont pas absolument sommables), le support de la loi limite n'est plus compact et des études plus fines du comportement des valeurs propres sont alors nécessaires. Ainsi, cette thèse porte essentiellement sur l’étude des asymptotiques et des fluctuations des plus grandes valeurs propres de grandes matrices de covariance associées à des processus stationnaires à longue mémoire. Dans le cas où le processus stationnaire sous-jacent est Gaussien, l’étude peut être simplifiée via un modèle linéaire dont la matrice de covariance de population sous-jacente est une matrice de Toeplitz hermitienne. On montrera ainsi que dans le cas de processus stationnaires gaussiens à longue mémoire, les fluctuations des plus grandes valeurs propres de la grande matrice de covariance empirique convenablement renormalisées sont gaussiennes. Ce comportement indique une différence significative par rapport aux grandes matrices de covariance empirique issues de processus à courte mémoire, pour lesquelles les fluctuations de la plus grande valeur propre convenablement renormalisée suivent asymptotiquement la loi de Tracy-Widom. Pour démontrer notre résultat de fluctuations gaussiennes, en plus des techniques usuelles de matrices aléatoires, une étude fine du comportement des valeurs propres et vecteurs propres de la matrice de Toeplitz sous-jacente est nécessaire. On montre en particulier que dans le cas de la longue mémoire, les m plus grandes valeurs propres de la matrice de Toeplitz convergent vers l’infini et satisfont une propriété de type « trou spectral multiple ». Par ailleurs, on démontre une propriété de délocalisation de leurs vecteurs propres associés. Dans cette thèse, on s’intéresse également à l’universalité de nos résultats dans le cas du modèle simplifié ainsi qu’au cas de grandes matrices de covariance lorsque les matrices de Toeplitz sont remplacées par des matrices diagonales par blocs / Large covariance matrices play a fundamental role in the multivariate analysis and high-dimensional statistics. Since the pioneer’s works of Marcenko and Pastur (1967), the asymptotic behavior of the spectral measure of such matrices associated with N independent copies of n observations of a sequence of iid random variables is known: almost surely, it converges in distribution to a deterministic law when N and n tend to infinity at the same rate. More recently, Merlevède and Peligrad (2016) have proved that in the case of large covariance matrices associated with independent copies of observations of a strictly stationary centered process which is square integrable and satisfies some weak regularity assumptions, almost surely, the empirical spectral distribution converges weakly to a nonrandom distribution depending only on the spectral density of the underlying process. In particular, if the spectral density is continuous and bounded (which is the case for linear processes with absolutely summable coefficients), the limiting spectral distribution has a compact support. However, if the underlying stationary process exhibits long memory, the support of the limiting distribution is not compact anymore and studying the limiting behavior of the eigenvalues and eigenvectors of the associated large covariance matrices can give more information on the underlying process. This thesis is in this direction and aims at studying the asymptotics and the fluctuations of the largest eigenvalues of large covariance matrices associated with stationary processes exhibiting long memory. In the case where the underlying stationary process is Gaussian, the study can be simplified by a linear model whose underlying population covariance matrix is a Hermitian Toeplitz matrix. In the case of stationary Gaussian processes exhibiting long memory, we then show that the fluctuations of the largest eigenvalues suitably renormalized are Gaussian. This limiting behavior shows a difference compared to the one when large covariance matrices associated with short memory processes are considered. Indeed in this last case, the fluctuations of the largest eigenvalues suitably renormalized follow asymptotically the Tracy-Widom law. To prove our results on Gaussian fluctuations, additionally to usual techniques developed in random matrices analysis, a deep study of the eigenvalues and eigenvectors behavior of the underlying Toeplitz matrix is necessary. In particular, we show that in the case of long memory, the largest eigenvalues of the Toeplitz matrix converge to infinity and satisfy a property of “multiple spectral gaps”. Moreover, we prove a delocalization property of their associated eigenvectors. In this thesis, we are also interested in the universality of our results in the case of the simplified model and also in the case of large covariance matrices when the Toeplitz matrices are replaced by bloc diagonal matrices

La synchronisation temporelle des systèmes MIMO a été abondamment étudiée dans les quinze dernières années, mais la plupart des techniques existantes supposent que le bruit est blanc temporellement et spatialement, ce qui ne permet pas de modéliser la présence d'interférence. Nous considérons donc le cas de bruits blancs temporellement mais pas spatialement, dont la matrice de covariance spatiale est inconnue. En formulant le problème de l'estimation de l'instant de synchronisation comme un test d'hypothèses, nous aboutissons au test du rapport de vraisemblance généralisé (GLRT) qui donne lieu à la comparaison avec un seuil d'une statistique de test eta_GLRT. Cependant, pour des raisons de complexité, l'utilisation de cette statistique n'est pas toujours considérée comme réaliste. La première partie de ce travail a donc été consacrée à mettre en évidence des tests alternatifs moins complexes à mettre en œuvre, tout en ayant des performances similaires. Une analyse comparative exhaustive, prenant en considération le bruit et l'interférence, le type de canal, le nombre d'antennes en émission et en réception, et l'orthogonalité de la séquence de synchronisation est réalisée. Enfin, nous étudions le problème de l'optimisation du nombre d'antennes en émission K pour la synchronisation temporelle, montrant que pour un RSB élevé, les performances augmentent avec K dès que le produit de K avec le nombre d'antennes de réception M n'est pas supérieur à 8.Le deuxième aspect de ce travail est une analyse statistique de eta_GLRT dans le cas où la taille de la séquence d'apprentissage N est du même ordre de grandeur que M, ce qui conduit naturellement à étudier le comportement de eta_GLRT dans le régime asymptotique des grands systèmes M tend vers l'infini, N tend l'infini de telle sorte que M/N tende vers une constante non nulle. Nous considérons le cadre applicatif d'un système muni d'une unique antenne d'émission et d'un canal à trajets multiples, qui est formellement identique à celui d'un système MIMO dont le nombre d'antennes d'émissions correspondrait au nombre de trajets. Lorsque le nombre de trajets L est beaucoup plus faible que N et M, nous établissons que eta_GLRT a un comportement gaussien avec l'espérance asymptotique L log (1 / (1-M/N)) et la variance (L/N)*(M/N)/(1-M/N). Ceci est en contraste avec le régime asymptotique standard quand N tend vers l'infini et M et L fixe où eta_GLRT a un comportement chi2. Sous l'hypothèse H_1, eta_GLRT a aussi un comportement gaussien. Nous considérons également le cas où le nombre de trajets L tend vers l'infini à la même vitesse que M et N. Nous utilisons des résultats connus concernant le comportement des statistiques linéaires des valeurs propres des grandes F matrices, et déduisons que dans le régime où L,M,N tendent vers l'infini à la même vitesse, eta_GLRT a encore un comportement gaussien sous H_0, mais avec une espérance et variance différentes. L'analyse de eta_GLRT sous H_1 lorsque L,M,L convergent vers l'infini nécessite l'établissement d'un théorème central limite pour les statistiques linéaires des valeurs propres de matrices F de moyennes non-nulles, une tâche difficile. Motivé par les résultats obtenus dans le cas où L reste fini, nous proposons d'approximer la distribution asymptotique par une distribution gaussienne dont l'espérance et la variance sont la somme de l'espérance et la variance asymptotique sous H_0quand L tend vers l'infini avec l'espérance et la variance asymptotique sous H_1 dans le régime classique N tend vers l'infini et M fixé. Des simulations numériques permettent de comparer les courbes ROC des différents approximant avec des courbes ROC empiriques. Les résultats montrent que nos approximant de grandes dimensions fournissent de meilleurs résultats quand M/N augmente, tout en permettant de capturer la performance réelle pour les petites valeurs de M/N / Time synchronization of MIMO systems have been strongly studied in the last fifteen years, but most of the existing techniques assume a spatially and temporally white noise, which does not allow modeling the presence of interference. We consider thus a temporally white but spatially colored noise, with an unknown covariance matrix. Formulating the estimation problem as a hypothesis testing problem, we obtain a Generalized likelihood ratio test (GLRT), which gives us a synchronization statistics eta_GLRT. However, for complexity reasons, it is not always considered realistic for practical situations. A part of this work has thus been devoted to showing that there exist non-GLRT statistics that are less complex to implement than theet a_GLRT, while having similar performance. Furthermore, we perform a comparative parameter analysis, taking into consideration the noise type, channel type, the number of transmit and receive antennas, and the orthogonality of the synchronization sequence. Lastly, the problem of optimization of the number of transmit antennas K for time synchronization has been investigated. showing, for high SNR, increasing performance with K as long as the product KM is not larger than 8, where M is the number of receive antennas. The second aspect of MIMO synchronization studied in thesis is asymptotic analysis of the same GLRT, but for large M. In this context, the synchronization sequence length N is the same order of magnitude as M, and this leads us naturally to the study of the the behavior of eta_GLRT in the asymptotic regime where M,N go towards infinity such that M/N go towards a non-zero constant. We consider the case of a single transmit antenna in a multi-path channel, which formally is equivalent to the MIMO system where the transmit antennas correspond to the number of paths. We address the case When the number of paths L does not scale with M and N, we establish that eta_GLRT has a Gaussian behavior with asymptotic mean L log (1/ (1 - M/N))and variance (L/N)*(M/N)/(1-M/N).This is in contrast with the standard asymptotic regime N goes to infinity and M fixed where eta_GLRT has a chi^2 behaviour. Under hypothesis H_1, eta_GLRT still has a Gaussian behaviour. The corresponding asymptotic mean and variance are obtained as the sum of the asymptotic mean and variance in the standard regime N goes to infinity and M fixed, and L log(1/(1-/M/N))L log (1 / (1-M/N)) and (L/N)*(M/N)/(1-M/N)respectively, i.e. the asymptotic mean and variance under H_0.We also consider the case where the number of paths L converges towards infinity at the same rate as M and N. Using known results of concerning the behaviour of linear statistics of the eigenvalues of large F-matrices, we deduce that in the regime where L,M,N converge to infinity at the same rate, eta_GLRT still has a Gaussian behaviour under H_0, but with a different mean and variance. The analysis of eta_GLRT under H_1 whenL,M,N converge to infinity needs to establish a central limit theorem for linear statistics of the eigenvalues of large non zero-mean F-matrices, a difficult ask. Motivated by the results obtained in the case where L remains finite, we propose to approximate the asymptotic distribution of eta_GLRT by a Gaussian distribution whose mean and variance are the sum of the asymptotic mean and variance under H_0when L goes to infinity with the asymptotic mean and variance under H_1 in the standard regime N goes to infinity and M fixed. Numerical simulations allow to compare the ROC curves obtained with the different approximations with the empirical ROC curves. The results show that the large-system approximations provide better results when M/N increases, while also allowing to capture the actual performance for small values of M/N

Une interface est une zone de l'espace qui sépare deux régions possédant des propriétés physiques différentes. La plupart des interfaces de la nature résultent d'un processus de croissance, mêlant une composante aléatoire et une dynamique déterministe régie par les symétries du problème. Le résultat du processus de croissance est un objet présentant des corrélations à longue portée. Dans cette thèse, nous nous proposons d'étudier la statistique d'extrême de différents types d'interfaces. Une première motivation est de raffiner la compréhension géométrique de tels objets, via leur maximum. Une seconde motivation s'inscrit dans la démarche plus générale de la statistique d'extrême de variables aléatoires fortement corrélées. A l'aide de méthodes analytiques d'intégrales de chemin nous analysons la distribution du maximum d'interfaces à l'équilibre, dont l'énergie es t purement élastique à courte portée. Nous attaquons ensuite le problème d'interfaces élastiques en milieu désordonné, principalement à l'aide de simulations numériques. Enfin nous étudierons une interface hors-équilibre dans son régime de croissance. L'équivalence de ce type d'interface avec le polymère dirigé en milieu aléatoire, un des paradigmes de la physique statistique des systèmes désordonnés, donne une portée étendue aux résultats concernant la statistique du maximum de l'interface. Nous exposerons les résultats que nous avons obtenus sur un modèle de mouvements browniens qui ne se croisent pas, tout en explicitant le lien entre ce modèle, l'interface en croissance et le polymère dirigé. / An interface is an area of space that separates two regions having different physical properties. Most interfaces in nature are the result of a growth process, mixing a random behavior and a deterministic dynamic derived from the symmetries of the problem. This growth process gives an object with extended correlations. In this thesis, we focus on the study of the extremum of different kinds of interfaces. A first motivation is to refine the geometric properties of such objects, looking at their maximum. A second motivation is to explore the extreme value statistics of strongly correlated random variables. Using path integral techniques we analyse the probability distribution of the maximum of equilibrium interfaces, possessing short range elastic energy. We then extend this to elastic interfaces in random media, with essentially numerical simulations. Finally we study a particular type of out-of-equilibrium interface, in its growing regime. Such interface is equivalent to the directed polymer in random media, a paradigm of the statistical mechanics of disordered systems. This equivalence reinforces the interest in the extreme value statistics of the interface. We will show the exact results we obtained for a non-intersecting Brownian motion model, explaining precisely the link with the growing interface and the directed polymer.

Les futurs systèmes de communication sans fil devront utiliser des architectures cellulaires hétérogènes composées de grandes cellules (macro) plus performantes et de petites cellules (femto, micro, ou pico) très denses, afin de soutenir la demande de débit en augmentation exponentielle au niveau de la couche physique. Ces structures provoquent un niveau d'interférence sans précèdent à l'intérieur, comme à l'extérieur des cellules, qui doit être atténué ou, idéalement, exploité afin d'améliorer l'efficacité spectrale globale du réseau. Des techniques comme le MIMO à grande échelle (dit massive MIMO), la coopération, etc., qui contribuent aussi à la gestion des interférences, vont encore augmenter la taille des grandes architectures hétérogènes, qui échappent ainsi à toute possibilité d'analyse théorique par des techniques statistiques traditionnelles.Par conséquent, dans cette thèse, nous allons appliquer et améliorer des résultats connus de la théorie des matrices aléatoires à grande échelle (RMT) afin d'analyser le problème d'interférence et de proposer de nouveaux systèmes de précodage qui s'appuient sur les résultats acquis par l'analyse du système à grande échelle. Nous allons d'abord proposer et analyser une nouvelle famille de précodeurs qui réduit la complexité de calcul de précodage pour les stations de base équipées d'un grand nombre d'antennes, tout en conservant la plupart des capacités d'atténuation d'interférence de l'approche classique et le caractère quasi-optimal du précodeur regularised zero forcing. Dans un deuxième temps, nous allons proposer une variation de la structure de précodage linéaire optimal (obtenue pour de nombreuses mesures de performance) qui permet de réduire le niveau d'interférence induit aux autres cellules. Ceci permet aux petites cellules d'atténuer efficacement les interférences induites et reçues au moyen d'une coopération minimale. Afin de faciliter l'utilisation de l'approche analytique RMT pour les futures générations de chercheurs, nous fournissons également un tutoriel exhaustif sur l'application pratique de la RMT pour les problèmes de communication en début du manuscrit. / Future wireless communication systems will need to feature multi cellular heterogeneous architectures consisting of improved macro cells and very dense small cells, in order to support the exponentially rising demand for physical layer throughput. Such structures cause unprecedented levels of inter and intra cell interference, which needs to be mitigated or, ideally, exploited in order to improve overall spectral efficiency of the communication network. Techniques like massive multiple input multiple output (MIMO), cooperation, etc., that also help with interference management, will increase the size of the already large heterogeneous architectures to truly enormous networks, that defy theoretical analysis via traditional statistical methods.Accordingly, in this thesis we will apply and improve the already known framework of large random matrix theory (RMT) to analyse the interference problem and propose solutions centred around new precoding schemes, which rely on large system analysis based insights. First, we will propose and analyse a new family of precoding schemes that reduce the computational precoding complexity of base stations equipped with a large number of antennas, while maintaining most of the interference mitigation capabilities of conventional close-to-optimal regularized zero forcing. Second, we will propose an interference aware linear precoder, based on an intuitive trade-off and recent results on multi cell regularized zero forcing, that allows small cells to effectively mitigate induced interference with minimal cooperation. In order to facilitate utilization of the analytic RMT approach for future generations of interested researchers, we will also provide a comprehensive tutorial on the practical application of RMT in communication problems.

Partant du constat que dans plus en plus d'applications, la taille des données à traiter augmente, il semble pertinent d'utiliser des outils appropriés tels que la théorie des matrices aléatoires dans le régime en grandes dimensions. Plus particulièrement, dans les applications de traitement d'antenne et radar spécifiques STAP et MIMO-STAP, nous nous sommes intéressés au traitement d'un signal d'intérêt corrompu par un bruit additif composé d'une partie dite rang faible et d'un bruit blanc gaussien. Ainsi l'objet de cette thèse est d'étudier dans le régime en grandes dimensions la détection et le filtrage dit rang faible (fonction de projecteurs) pour le traitement d'antenne en utilisant la théorie des matrices aléatoires.La thèse propose alors trois contributions principales, dans le cadre de l'analyse asymptotique de fonctionnelles de projecteurs. Ainsi, premièrement, le régime en grandes dimensions permet ici de déterminer une approximation/prédiction des performances théoriques non asymptotiques, plus précise que ce qui existe actuellement en régime asymptotique classique (le nombre de données d'estimation tends vers l'infini à taille des données fixe). Deuxièmement, deux nouveaux filtres et deux nouveaux détecteurs adaptatifs rang faible ont été proposés et il a été montré qu'ils présentaient de meilleures performances en fonction des paramètres du système en terme de perte en RSB, probabilité de fausse alarme et probabilité de détection. Enfin, les résultats ont été validés sur une application de brouillage, puis appliqués aux traitements radar STAP et MIMO-STAP sparse. L'étude a alors mis en évidence une différence notable avec l'application de brouillage liée aux modèles de matrice de covariance traités dans cette thèse. / Nowadays, more and more applications deal with increasing dimensions. Thus, it seems relevant to exploit the appropriated tools as the random matrix theory in the large dimensional regime. More particularly, in the specific array processing applications as the STAP and MIMO-STAP radar applications, we were interested in the treatment of a signal of interest corrupted by an additive noise composed of a low rang noise and a white Gaussian. Therefore, the aim of this thesis is to study the low rank filtering and detection (function of projectors) in the large dimensional regime for array processing with random matrix theory tools.This thesis has three main contributions in the context of asymptotic analysis of projector functionals. Thus, the large dimensional regime first allows to determine an approximation/prediction of theoretical non asymptotic performance, much more precise than the literature in the classical asymptotic regime (when the number of estimation data tends to infinity at a fixed dimension). Secondly, two new low rank adaptive filters and detectors have been proposed and it has been shown that they have better performance as a function of the system parameters, in terms of SINR loss, false alarm probability and detection probability. Finally, the results have been validated on a jamming application and have been secondly applied to the STAP and sparse MIMO-STAP processings. Hence, the study highlighted a noticeable difference with the jamming application, related to the covariance matrix models concerned by this thesis.

Dans cette thèse, nous utilisons et contribuons à la théorie des produits de matrices aléatoires afin d'étudier des propriétés génériques des éléments et des sous-groupes des groupes linéaires. Notre premier résultat donne une version probabiliste de l'alternative de Tits : nous montrons que si M_n et M'_n sont deux marches aléatoires indépendantes sur un groupe linéaire de type fini non virtuellement résoluble alors presque sûrement les deux marches finiront par engendrer un sous-groupe libre non abélien à deux générateurs. Cela répond par l'affirmative à une question de Guivarc'h et de Gilman, Miasnikov et Osin. Plus précisément, nous montrons que la probabilité que M_n et M'_n n'engendrent pas un sous-groupe libre décroit exponentiellement vite vers zéro. Notre outil principal est la théorie des produits de matrices aléatoires. Durant la preuve, nous établissons de nouveaux théorèmes limites dans cette théorie, d'une part en généralisant des résultats connus dans le cadre des produits de matrices à valeurs dans les corps archimédiens à tout corps local, d'autre part en donnant des résultats qui sont nouveaux même sur R. Par exemple, nous montrons que sous des hypothèses naturelles sur la marche aléatoire, les composantes suivant K de M_n dans la décomposition KAK deviennent asymptotiquement indépendantes avec vitesse exponentielle. Dans la deuxième partie de la thèse, nous utilisons ces résultats pour étudier la transience des sous-variétés des groupes algébriques. Un de nos résultats peut être formulé comme suit: soient H un sous-groupe non élémentaire de SL_2(R), une probabilité adaptée sur H ayant un moment exponentiel, alors pour toute sous-variété algébrique propre V de SL_2(R), la probabilité que la marche aléatoire appartienne à V décroit exponentiellement vite vers zéro. Par conséquent, la sous-variété algébrique V est transiente pour la marche aléatoire. Nous généralisons cet énoncé au cas ou la marche aléatoire est adaptée sur un groupe Zariski dense des points réels d'un groupe algébrique défini et déployé sur R. Ces résultats sont à comparer avec des travaux récents de Kowalski et de Rivin. / In this thesis, we use and contribute to the theory of random matrix products in order to study generic properties of elements and subgroups of linear groups. Our first result gives a probabilistic version of the Tits alternative : we show that two independent random walks M_n and M'_n on a non virtually solvable finitely generated linear group will eventually generate a non abelian free subgroup. This answers a question of Guivarc'h and Gilman, Miasnikov and Osin. We show in fact that the probability that M_n and M'_n do not generate a free subgroup decreases exponentially fast to zero. Our methods rely deeply on random matrix products theory. During the proof we give some new limit theorems concerning this theory, some of them will be the generalization of known results for matrices taking value in archimedean fields to arbitrary local fields, others will be new even over R. For example, we show that under natural assumptions on the random walk, the K-parts of M_n in the KAK decomposition become asymptotically independent with exponential speed. Next, we use these properties to study the transience of algebraic subvarieties in algebraic groups. One of our results can be formulated as follows: let H be a non elementary subgroup of SL_2(R), a probability measure with an exponential moment whose support generates H, then for every proper algebraic subvariety V of SL_2(R), the probability that the random walk lies in V decreases exponentially fast to zero. This shows that every proper algebraic subvariety is transient for the random walk. We generalize this result to the case where the support of the probability measure generates a Zariski dense subgroup of the real points of an algebraic group defined and split over R. These results share common flavor with recent works of Kowalski and Rivin

Les travaux présentés concernent trois thématiques autonomes :<br /><br />(1) Modèles biologiques et statistique : modèles compartimentaux, pharmacocinétique et pharmacodynamie de population, estimateurs pour problèmes inverses stochastiques, modèles non-linéaires à effets mixtes, modèles de mélanges, algorithmes de type EM et ICF, modèles graphiques de covariance, modélisation en cancérologie, processus ponctuels, particules, files d'attentes, renormalisation de processus markoviens inhomogènes et formules de Feynman-Kac<br /><br />(2) Inégalités fonctionnelles : inégalités de type Sobolev, concentration de la mesure, isopérimétrie rôle de la convexité dans les inégalités entropiques, tensorisation, noyau de la chaleur, groupe d'Heisenberg et dynamiques hypoelliptiques, files d'attentes, mélanges de lois<br /> <br />(3) Matrices aléatoires : spectre des matrices markoviennes aléatoires, graphes à poids aléatoires, théorèmes de type Wigner, Marchenko-Pastur, et Girko-Bai, convergence des valeurs propres extrémales, déformations de rang un.<br /><br />Le concept le plus récurrent ici est celui de dynamique markovienne. Dans la première partie, ce sont les modèles à compartiments de la pharmacologie qui sont liés à de telles dynamiques. La seconde partie traite d'inégalités fonctionnelles associées à la vitesse et à la géométrie de dynamiques markoviennes. Enfin, la troisième partie traite de dynamiques markoviennes aléatoires. Ces trois parties ne se réduisent pas à l'étude de facettes de problèmes markoviens. Leur contenu balaye un spectre à la fois théorique et appliqué, et met en oeuvre des techniques et des concepts variés issus de l'analyse, des probabilités, et de la statistique.

La théorie des matrices aléatoires présente un ensemble d'outils mathématiques efficaces pour l'étude de performances des systèmes de communications numériques. L'objectif de cette thèse est de développer des résultats analytique basés sur la théorie des matrices aléatoires pour étudier les fluctuations de quelques indices de performances pour les systèmes de communications sans fil. Nous étudions dans un premier temps, les fluctuations du rapport signal sur bruit (SINR), indice de performance mesuré à la sortie d'un récepteur linéaire de Wiener, récepteur minimisant l'erreur quadratique des symboles estimés (LMMSE) pour les transmissions par la technique CDMA. Basés sur la méthode REFORM, nous montrons le comportement gaussien asymptotique pour le SINR. L'étude du SINR permet la compréhension de comportements d'autres indices de performances comme l'erreur binaire et la probabilité de dépassement. Basés sur la nature gaussienne des entrées de la matrice canal, nous utilisons des outils mathématiques dédiés aux variables gaussiennes pour évaluer ces deux indices de performances. Des simulations montrent bien la pertinence de cette approche. Il est bien connu que l'information mutuelle entre le signal émis et le signal reçu augmente avec l'utilisation des techniques de transmission multi-antennes. Nous nous intéressons à l'étude des fluctuations de cette statistique pour un modèle séparable non centré, cas Rice. Nous développons des outils mathématiques basés sur la théorie des matrices aléatoires permettant de montrer la nature gaussienne des fluctuations de l'information mutuelle.

La géométrie complexe est un outil puissant pour étudier les systèmes intégrables classiques, la physique statistique sur réseau aléatoire, les problèmes de matrices aléatoires, la théorie topologique des cordes, ...Tous ces problèmes ont en commun la présence de relations, appelées équations de boucle ou contraintes de Virasoro. Dans le cas le plus simple, leur solution complète a été trouvée récemment, et se formule naturellement en termes de géométrie différentielle sur une surface de Riemann : la "courbe spectrale", qui dépend du problème. Cette thèse est une contribution au développement de ces techniques et de leurs applications.Pour commencer, nous abordons les questions de développement asymptotique à tous les ordres lorsque N tend vers l'infini, des intégrales N-dimensionnelles venant de la théorie des matrices aléatoires de taille N par N, ou plus généralement des gaz de Coulomb. Nous expliquons comment établir, dans les modèles de matrice beta et dans un régime à une coupure, le développement asymptotique à tous les ordres en puissances de N. Nous appliquons ces résultats à l'étude des grandes déviations du maximum des valeurs propres dans les modèles beta, et en déduisons de façon heuristique des informations sur l'asymptotique à tous les ordres de la loi de Tracy-Widom beta, pour tout beta positif. Ensuite, nous examinons le lien entre intégrabilité et équations de boucle. En corolaire, nous pouvons démontrer l'heuristique précédente concernant l'asymptotique de la loi de Tracy-Widom pour les matrices hermitiennes.Nous terminons avec la résolution de problèmes combinatoires en toute topologie. En théorie topologique des cordes, une conjecture de Bouchard, Klemm, Mariño et Pasquetti affirme que des séries génératrices bien choisies d'invariants de Gromov-Witten dans les espaces de Calabi-Yau toriques, sont solution d'équations de boucle. Nous l'avons démontré dans le cas le plus simple, où ces invariants coïncident avec les nombres de Hurwitz simples. Nous expliquons les progrès récents vers la conjecture générale, en relation avec nos travaux. En physique statistique sur réseau aléatoire, nous avons résolu le modèle O(n) trivalent sur réseau aléatoire introduit par Kostov, et expliquons la démarche à suivre pour résoudre des modèles plus généraux.Tous ces travaux soulignent l'importance de certaines "intégrales de matrices généralisées" pour les applications futures. Nous indiquons quelques éléments appelant à une théorie générale, encore basée sur des "équations de boucles", pour les calculer

Il est attendu que les radios flexibles constituent un tournant technologique majeur dans le domaine des communications sans fil. Le point de vue adopté en radios flexibles est de considérer les canaux de communication comme un ensemble de ressources qui peuvent être accédées sur demande par un réseau primaire sous licence ou de manière opportuniste par un réseau secondaire à plus faible priorité. Pour la couche physique, le réseau primaire n'a idéalement aucune information sur l'existence d'un ou plusieurs réseaux secondaires, de sorte que ces derniers doivent explorer l'environnement aérien de manière autonome à la recherche d'opportunités d'accès au canal et exploiter ces ressources de manière optimale au sein du réseau secondaire. Les phases d'exploration et d'exploitation, qui impliquent la gestion de nombreux agents, doivent être très fiables, rapides et efficaces. L'objectif du présent rapport est de modéliser, d'analyser et de proposer des solutions efficaces et quasi optimales pour ces dernières opérations. En particulier, en ce qui concerne la phase d'exploration, nous nous appuierons sur le principe d'entropie maximale pour modéliser des canaux de communication, pour lesquels nous calculerons le test optimal de Neyman-Pearson de détection de plusieurs sources via un réseau de capteurs. Cette procédure permet à un réseau secondaire d'établir la présence de ressources spectrales disponibles. La complexité calculatoire de l'approche optimale appelle cependant la mise en place de méthodes moins onéreuses, que nous rappellerons et discuterons. Nous étendrons alors le test de détection en l'estimation aveugle de la position de sources multiples, qui permet l'acquisition d'informations détaillées sur les ressources spectrales disponibles. Le dernier chapitre d'importance sera consacré à la phase d'exploitation optimale des ressources au niveau du réseau secondaire. Pour ce faire, nous obtiendrons une approximation fine du débit ergodique d'un canal multi-antennes à accès multiples et proposerons des solutions peu coûteuses en termes de feedback afin que les réseaux secondaires s'adaptent rapidement aux évolutions rapides du réseau primaire. Les outils mathématiques et algorithmes proposés dans ce rapport proviennent essentiellement de récents progrès en théorie des matrices aléatoires, et plus spécifiquement de l'étude de matrices aléatoires à grandes dimensions et à entrées statistiquement indépendantes. Une introduction précise des concepts principaux ainsi que des résultats récents requis à la compréhension complète du présent document sont également proposés.