In this thesis, we review some applications of random matrix theory in machine learning and theoretical deep learning. More specifically, we review data modelling in the regime of numerous and large dimensional data, a method for estimating covariance matrix distances in the aforementioned regime, as well as an asymptotic analysis of a simple neural network model in the limit where the number of neurons is large and the data is both numerous and large dimensional. We also review some recent research where random matrix models and methods have been applied to Hessian matrices of neural networks with interesting results. As becomes apparent, random matrix theory is a useful tool for various machine learning applications and it is a fruitful field of mathematics toexplore, in particular, in the context of theoretical deep learning. / I denna uppsatsen undersöker vi några tillämpningar av slumpmatristeori inom maskininlärning och teoretisk djupinlärning. Mer specifikt undersöker vi datamodellering i domänet där både datamängden och dimensionen på datan är stor, en metod för att uppskatta avstånd mellan kovariansmatriser i det tidigare nämnda domänet, samt en asymptotisk analys av en enkel neuronnätsmodell i gränsen där antalet neuroner är stort och både datamängden och dimensionen pådatan är stor. Vi undersöker också en del aktuell forskning där slumpmatrismodeller och metoder från slumpmatristeorin har tillämpats på Hessianska matriserför artificiella neuronnätverk med intressanta resultat. Det visar sig att slumpmatristeori är ett användbart verktyg för olika maskininlärningstillämpningaroch är ett område av matematik som är särskilt givande att utforska inom kontexten för teoretisk djupinlärning.

It is commonly expected, that the entanglement entropy for eigenstates of quantum chaotic systems can be described by random matrix theory. However, the random matrix predictions account for structureless random states, only. It is unclear, how the subsystem structure of actual bipartite systems influences the entanglement. We investigate the effect of such a structure on the bipartite entanglement for eigenstates of time-periodically kicked Floquet systems. To this end, the expression for the eigenstate entanglement is transferred into a dynamical quantity, which is particularly suited for an evaluation using analytical methods for time evolution. We present three approaches and apply each to an appropriate minimal model. Based on the supersymmetry method, we compute the entanglement of structureless random matrices and thereby establish exact results for the entropy of random matrix eigenstates. The Weingarten calculus is used for computing the entanglement of an inherent bipartite random matrix ensemble. Moreover, based on semiclassical path integrals, we devise a trace formula, which quantifies entanglement of chaotic Floquet systems in terms of classical orbits. We thereby show, that the entanglement of strongly coupled bipartite Floquet systems coincides in the semiclassical limit with the entanglement of structureless random matrices. Several possible generalizations of our methods to autonomous systems and other entropies are discussed.:1. Introduction 2. Fundamentals on bipartite systems and entanglement 2.1. Classical and quantum chaotic systems . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 2.1.1. Classical mechanical systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 2.1.2. Quantum systems and random matrix theory . . . . . . . . . . . . . . . . . . . 8 2.2. Bipartite systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 2.3. Entanglement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 2.4. Objective of the thesis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 3. Random matrix methods for entanglement in bipartite chaotic systems 3.1. Entropy formulation in terms of Green’s functions . . . . . . . . . . . . . . . . . . . . . 23 3.2. Weingarten calculus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 3.2.1. Spectral form factor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3.2.2. Inverse participation ratio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36 3.2.3. Linear entropy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 3.3. Linear entropy by the supersymmetry method . . . . . . . . . . . . . . . . . . . . . . . 43 3.3.1. Gaussian integrals and the generating function . . . . . . . . . . . . . . . . . . 44 3.3.2. Supersymmetric integrals and generating function . . . . . . . . . . . . . . . . . 46 3.3.3. Entropy of the CUE case . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 4. Semiclassical method for entanglement in bipartite chaotic systems 4.1. Path integrals and trace formulas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60 4.1.1. Path integral formulation of propagators . . . . . . . . . . . . . . . . . . . . . . 60 4.1.2. Trace formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 4.2. Rescaled path integral formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65 4.2.1. Spectral form factor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66 4.2.2. Linear entropy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69 4.2.3. Order \hbar correction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 5. Generalizations 5.1. Supersymmetry method for bipartite systems . . . . . . . . . . . . . . . . . . . . . . . 80 5.2. Resummation via Cayley-Hamilton inverse . . . . . . . . . . . . . . . . . . . . . . . . . 84 5.3. Havrda-Charvát-Tsallis entropies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 5.4. Autonomous systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 5.5. Entanglement generated by a time evolution . . . . . . . . . . . . . . . . . . . . . . . . 93 6. Summary and outlook Appendix A. Weingarten calculus for the first steps of the IPR signal function . . . . . . . . . . .99 B. Color-Flavor transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100 C. Detailed calculation of moments using SVD . . . . . . . . . . . . . . . . . . . . . . . . 102 D. Integral I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 E. Stationary phase approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105 F. Ergodic average of the coupling term . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106 List of Figures List of Tables / Es wird üblicherweise angenommen, dass die Verschränkungsentropie von Eigenzuständen quantenchaotischer Systeme durch die Theorie der Zufallsmatrizen beschrieben wird. Diese Zufallsmatrixvorhersage bezieht sich nur auf strukturlose Zufallszustände. Es ist nicht klar, wie sich die Subsystemstruktur realer, bipartiter Systeme auf die Verschränkung auswirkt. Wir untersuchen die Konsequenzen einer solchen Struktur auf die bipartite Verschränkung der Eigenzustände von zeit-periodisch gestoßenen Floquet-Systemen. Dazu wird der Ausdruck für die Eigenzustandsverschränkung in eine dynamische Größe überführt, welche besonders geeignet ist für die Anwendung analytischer Methoden zur Zeitentwicklung. Wir präsentieren drei Ansätze und wenden jeden auf ein zugehöriges minimales Modell an. Basierend auf der Supersymmetriemethode berechnen wir die Verschränkung in strukturlosen Zufallsmatrizen und erhalten exakte Resultate für die Entropie von Zufallsmatrixeigenzuständen. Der Weingarten-Formalismus wird genutzt, um die Verschränkung in einem inhärent bipartiten Zufallsmatrixmodell zu berechnen. Außerdem stellen wir, basierend auf semiklassischen Pfad-Integralen, eine Spurformel auf, welche die Verschränkung in chaotischen Floquet-Systemen mittels klassischer Orbits ausdrückt. Wir zeigen über diesen Weg, dass die Verschränkung in stark gekoppelten, bipartiten Floquet-Systemen im semiklassischen Limes mit der Verschränkung in strukturlosen Zufallsmatrizen übereinstimmt. Es werden mehrere Verallgemeinerungen unserer Methoden für autonome Systeme und andere Entropien diskutiert.:1. Introduction 2. Fundamentals on bipartite systems and entanglement 2.1. Classical and quantum chaotic systems . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 2.1.1. Classical mechanical systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 2.1.2. Quantum systems and random matrix theory . . . . . . . . . . . . . . . . . . . 8 2.2. Bipartite systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 2.3. Entanglement . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 2.4. Objective of the thesis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 3. Random matrix methods for entanglement in bipartite chaotic systems 3.1. Entropy formulation in terms of Green’s functions . . . . . . . . . . . . . . . . . . . . . 23 3.2. Weingarten calculus . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27 3.2.1. Spectral form factor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3.2.2. Inverse participation ratio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36 3.2.3. Linear entropy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 3.3. Linear entropy by the supersymmetry method . . . . . . . . . . . . . . . . . . . . . . . 43 3.3.1. Gaussian integrals and the generating function . . . . . . . . . . . . . . . . . . 44 3.3.2. Supersymmetric integrals and generating function . . . . . . . . . . . . . . . . . 46 3.3.3. Entropy of the CUE case . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 4. Semiclassical method for entanglement in bipartite chaotic systems 4.1. Path integrals and trace formulas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 60 4.1.1. Path integral formulation of propagators . . . . . . . . . . . . . . . . . . . . . . 60 4.1.2. Trace formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 62 4.2. Rescaled path integral formula . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65 4.2.1. Spectral form factor . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66 4.2.2. Linear entropy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69 4.2.3. Order \hbar correction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 5. Generalizations 5.1. Supersymmetry method for bipartite systems . . . . . . . . . . . . . . . . . . . . . . . 80 5.2. Resummation via Cayley-Hamilton inverse . . . . . . . . . . . . . . . . . . . . . . . . . 84 5.3. Havrda-Charvát-Tsallis entropies . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89 5.4. Autonomous systems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 5.5. Entanglement generated by a time evolution . . . . . . . . . . . . . . . . . . . . . . . . 93 6. Summary and outlook Appendix A. Weingarten calculus for the first steps of the IPR signal function . . . . . . . . . . .99 B. Color-Flavor transformation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 100 C. Detailed calculation of moments using SVD . . . . . . . . . . . . . . . . . . . . . . . . 102 D. Integral I . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 E. Stationary phase approximation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105 F. Ergodic average of the coupling term . . . . . . . . . . . . . . . . . . . . . . . . . . . . 106 List of Figures List of Tables

La synchronisation temporelle des systèmes MIMO a été abondamment étudiée dans les quinze dernières années, mais la plupart des techniques existantes supposent que le bruit est blanc temporellement et spatialement, ce qui ne permet pas de modéliser la présence d'interférence. Nous considérons donc le cas de bruits blancs temporellement mais pas spatialement, dont la matrice de covariance spatiale est inconnue. En formulant le problème de l'estimation de l'instant de synchronisation comme un test d'hypothèses, nous aboutissons au test du rapport de vraisemblance généralisé (GLRT) qui donne lieu à la comparaison avec un seuil d'une statistique de test eta_GLRT. Cependant, pour des raisons de complexité, l'utilisation de cette statistique n'est pas toujours considérée comme réaliste. La première partie de ce travail a donc été consacrée à mettre en évidence des tests alternatifs moins complexes à mettre en œuvre, tout en ayant des performances similaires. Une analyse comparative exhaustive, prenant en considération le bruit et l'interférence, le type de canal, le nombre d'antennes en émission et en réception, et l'orthogonalité de la séquence de synchronisation est réalisée. Enfin, nous étudions le problème de l'optimisation du nombre d'antennes en émission K pour la synchronisation temporelle, montrant que pour un RSB élevé, les performances augmentent avec K dès que le produit de K avec le nombre d'antennes de réception M n'est pas supérieur à 8.Le deuxième aspect de ce travail est une analyse statistique de eta_GLRT dans le cas où la taille de la séquence d'apprentissage N est du même ordre de grandeur que M, ce qui conduit naturellement à étudier le comportement de eta_GLRT dans le régime asymptotique des grands systèmes M tend vers l'infini, N tend l'infini de telle sorte que M/N tende vers une constante non nulle. Nous considérons le cadre applicatif d'un système muni d'une unique antenne d'émission et d'un canal à trajets multiples, qui est formellement identique à celui d'un système MIMO dont le nombre d'antennes d'émissions correspondrait au nombre de trajets. Lorsque le nombre de trajets L est beaucoup plus faible que N et M, nous établissons que eta_GLRT a un comportement gaussien avec l'espérance asymptotique L log (1 / (1-M/N)) et la variance (L/N)*(M/N)/(1-M/N). Ceci est en contraste avec le régime asymptotique standard quand N tend vers l'infini et M et L fixe où eta_GLRT a un comportement chi2. Sous l'hypothèse H_1, eta_GLRT a aussi un comportement gaussien. Nous considérons également le cas où le nombre de trajets L tend vers l'infini à la même vitesse que M et N. Nous utilisons des résultats connus concernant le comportement des statistiques linéaires des valeurs propres des grandes F matrices, et déduisons que dans le régime où L,M,N tendent vers l'infini à la même vitesse, eta_GLRT a encore un comportement gaussien sous H_0, mais avec une espérance et variance différentes. L'analyse de eta_GLRT sous H_1 lorsque L,M,L convergent vers l'infini nécessite l'établissement d'un théorème central limite pour les statistiques linéaires des valeurs propres de matrices F de moyennes non-nulles, une tâche difficile. Motivé par les résultats obtenus dans le cas où L reste fini, nous proposons d'approximer la distribution asymptotique par une distribution gaussienne dont l'espérance et la variance sont la somme de l'espérance et la variance asymptotique sous H_0quand L tend vers l'infini avec l'espérance et la variance asymptotique sous H_1 dans le régime classique N tend vers l'infini et M fixé. Des simulations numériques permettent de comparer les courbes ROC des différents approximant avec des courbes ROC empiriques. Les résultats montrent que nos approximant de grandes dimensions fournissent de meilleurs résultats quand M/N augmente, tout en permettant de capturer la performance réelle pour les petites valeurs de M/N / Time synchronization of MIMO systems have been strongly studied in the last fifteen years, but most of the existing techniques assume a spatially and temporally white noise, which does not allow modeling the presence of interference. We consider thus a temporally white but spatially colored noise, with an unknown covariance matrix. Formulating the estimation problem as a hypothesis testing problem, we obtain a Generalized likelihood ratio test (GLRT), which gives us a synchronization statistics eta_GLRT. However, for complexity reasons, it is not always considered realistic for practical situations. A part of this work has thus been devoted to showing that there exist non-GLRT statistics that are less complex to implement than theet a_GLRT, while having similar performance. Furthermore, we perform a comparative parameter analysis, taking into consideration the noise type, channel type, the number of transmit and receive antennas, and the orthogonality of the synchronization sequence. Lastly, the problem of optimization of the number of transmit antennas K for time synchronization has been investigated. showing, for high SNR, increasing performance with K as long as the product KM is not larger than 8, where M is the number of receive antennas. The second aspect of MIMO synchronization studied in thesis is asymptotic analysis of the same GLRT, but for large M. In this context, the synchronization sequence length N is the same order of magnitude as M, and this leads us naturally to the study of the the behavior of eta_GLRT in the asymptotic regime where M,N go towards infinity such that M/N go towards a non-zero constant. We consider the case of a single transmit antenna in a multi-path channel, which formally is equivalent to the MIMO system where the transmit antennas correspond to the number of paths. We address the case When the number of paths L does not scale with M and N, we establish that eta_GLRT has a Gaussian behavior with asymptotic mean L log (1/ (1 - M/N))and variance (L/N)*(M/N)/(1-M/N).This is in contrast with the standard asymptotic regime N goes to infinity and M fixed where eta_GLRT has a chi^2 behaviour. Under hypothesis H_1, eta_GLRT still has a Gaussian behaviour. The corresponding asymptotic mean and variance are obtained as the sum of the asymptotic mean and variance in the standard regime N goes to infinity and M fixed, and L log(1/(1-/M/N))L log (1 / (1-M/N)) and (L/N)*(M/N)/(1-M/N)respectively, i.e. the asymptotic mean and variance under H_0.We also consider the case where the number of paths L converges towards infinity at the same rate as M and N. Using known results of concerning the behaviour of linear statistics of the eigenvalues of large F-matrices, we deduce that in the regime where L,M,N converge to infinity at the same rate, eta_GLRT still has a Gaussian behaviour under H_0, but with a different mean and variance. The analysis of eta_GLRT under H_1 whenL,M,N converge to infinity needs to establish a central limit theorem for linear statistics of the eigenvalues of large non zero-mean F-matrices, a difficult ask. Motivated by the results obtained in the case where L remains finite, we propose to approximate the asymptotic distribution of eta_GLRT by a Gaussian distribution whose mean and variance are the sum of the asymptotic mean and variance under H_0when L goes to infinity with the asymptotic mean and variance under H_1 in the standard regime N goes to infinity and M fixed. Numerical simulations allow to compare the ROC curves obtained with the different approximations with the empirical ROC curves. The results show that the large-system approximations provide better results when M/N increases, while also allowing to capture the actual performance for small values of M/N

Une interface est une zone de l'espace qui sépare deux régions possédant des propriétés physiques différentes. La plupart des interfaces de la nature résultent d'un processus de croissance, mêlant une composante aléatoire et une dynamique déterministe régie par les symétries du problème. Le résultat du processus de croissance est un objet présentant des corrélations à longue portée. Dans cette thèse, nous nous proposons d'étudier la statistique d'extrême de différents types d'interfaces. Une première motivation est de raffiner la compréhension géométrique de tels objets, via leur maximum. Une seconde motivation s'inscrit dans la démarche plus générale de la statistique d'extrême de variables aléatoires fortement corrélées. A l'aide de méthodes analytiques d'intégrales de chemin nous analysons la distribution du maximum d'interfaces à l'équilibre, dont l'énergie es t purement élastique à courte portée. Nous attaquons ensuite le problème d'interfaces élastiques en milieu désordonné, principalement à l'aide de simulations numériques. Enfin nous étudierons une interface hors-équilibre dans son régime de croissance. L'équivalence de ce type d'interface avec le polymère dirigé en milieu aléatoire, un des paradigmes de la physique statistique des systèmes désordonnés, donne une portée étendue aux résultats concernant la statistique du maximum de l'interface. Nous exposerons les résultats que nous avons obtenus sur un modèle de mouvements browniens qui ne se croisent pas, tout en explicitant le lien entre ce modèle, l'interface en croissance et le polymère dirigé. / An interface is an area of space that separates two regions having different physical properties. Most interfaces in nature are the result of a growth process, mixing a random behavior and a deterministic dynamic derived from the symmetries of the problem. This growth process gives an object with extended correlations. In this thesis, we focus on the study of the extremum of different kinds of interfaces. A first motivation is to refine the geometric properties of such objects, looking at their maximum. A second motivation is to explore the extreme value statistics of strongly correlated random variables. Using path integral techniques we analyse the probability distribution of the maximum of equilibrium interfaces, possessing short range elastic energy. We then extend this to elastic interfaces in random media, with essentially numerical simulations. Finally we study a particular type of out-of-equilibrium interface, in its growing regime. Such interface is equivalent to the directed polymer in random media, a paradigm of the statistical mechanics of disordered systems. This equivalence reinforces the interest in the extreme value statistics of the interface. We will show the exact results we obtained for a non-intersecting Brownian motion model, explaining precisely the link with the growing interface and the directed polymer.

Das Ziel dieser Dissertation besteht darin, die Realisierbarkeit der Berechnungen der Niederenergie-Konstanten der chiralen Lagrangedichte zur Gewinnung physikalischer Informationen im epsilon--Regime der quenched QCD zu erforschen. Wir haben der Neuberger Operator und Overlap Hyperkubus Operator eingesetzt. Ein Hauptergebniss dieser Arbeit ist der Vergleich der Wahrscheinlichkeitsverteilungen einzelner Eigenwerte des Neuberger Operators in der QCD mit den analytischen Vorhersagen der Theorie der Zufallsmatritzen. Wir beobachten eine gute Übereinstimmung solange jede Seite des physikalischen Volumens größ er als etwa 1.12 fm ist. Dabei kann auch das chirale Kondensat Sigma abgeschätzt werden. Es ergab sich, daß diese untere Schranke von L allgemein gilt und die Größ e des physikalischen Volumens, auf dem der Axialkorrelator den Vorhersagen des chiralen Störungstheorie folgt, festlegt. Damit koennen wir die Pionzerfallskonstante bestimmen. Unsere Simulationen zeigen, daß wegen der groß en Wahrscheinlichkeit niedriger Eigenwerte die Messung des Axialkorrelators im topologischen neutralen Sektor extrem aufwändig ist. Doch reicht die Empfindlichkeit der Vorhersagen der chiralen Störungstheorie in höheren topologischen Sektoren bei der gegebenen Statistik nicht zur Bestimmung von Sigma aus. Als alternative Methode, gehen wir dazu über, allein den Beitrag der Nullmoden zu betrachten. Hier koennen wir Abschätzungen für die Pionzerfallskonstante und alpha gewinnen. Wir berechnen die topologische Suszeptibilität für den Neuberger und Overlap Hyperkubus Operator. Im letzten Fall ist der berechnete Wert näher beim Kontinuumslimes. Die Lokalisierung für den Overlap Hyperkubus Operator ist auch besser als für den Neuberger Operator. Unser anderes Ziel ist die Erforschung einer topologieerhaltenden Eichwirkung. / This thesis is dedicated to explore the feasibility of extraction of the low energy constants of the chiral Lagrangian in the epsilon--regime of quenched QCD. We apply two formulations of the Ginsparg-Wilson fermions, namely, the Neuberger operator and the hypercube overlap operator to compute the observables of interest. As a main result we present the comparison of the distributions of the leading individual eigenvalues of the Neuberger operator in QCD and the analytical predictions of chiral random matrix theory. We observe a good agreement as long as each side of the physical volume exceeds about 1.12 fm. At the same time the chiral condensate Sigma can also be estimated. It turns out that this bound for L is generic and sets the size of the physical volume where the axial correlator behaves according to chiral perturbation theory. This allows us to compute a value for the pion decay constant. The simulations also show that due to the high probability of the near-zero modes it is prohibitively difficult to sample the axial correlator in the neutral topological sector. In the higher sectors, however, we observe that the sensitivity of the analytical predictions for the axial correlator to extract Sigma is lost to a large extent. As an alternative procedure we only consider the contribution from the zero modes. Here we are able to obtain an estimate for the pion decay constant and alpha, where alpha is a low energy constant peculiar to quenching. We calculate the topological susceptibility, both for the Neuberger operator and for the overlap hypercube operator. It turns out that the result with the overlap hypercube operator is closer to the continuum limit. Also the locality properties are superior to those of the Neuberger fermions. As a theoretical development the Lüscher topology conserving gauge action is investigated. This enables us to sample the observables of interest in the epsilon--regime without recomputing the index.

O estudo de matrizes aleatórias na física tradicionalmente ocorre no contexto dos modelos de Wigner e na estatística por modelos de Wishart, que se conectam através do threefold way de Dyson para matrizes aleatórias reais, complexas e de quaternios indexadas respectivamente pelo índice B = 1; 2; 4 de Dyson. Estudos recentes mostraram o caminho para que estes modelos fossem generalizados para valores reais de B, permitindo o estudo de ensembles com índice arbitrário. Neste trabalho, estudamos as propriedades estatísticas destes sistemas e exploramos a física subjacente nos modelos de Wigner e Wishart e investigamos, através de cálculos numéricos, os efeitos de localização nos modelos de geral. Também introduzimos quebras na simetria desta nova forma e estudamos numericamente os resultados da estatística dos sistemas perturbados. / The study of random matrices in physics has traditionally occurred in the context of Wigner models and in statistics by Wishart models, which are connected through Dyson\'s threefold way for real, complex and quaternion random matrices index by the Dyson _ = 1; 2; 4 index, respectively. Recent studies have shown the way by which these models are generalized for real values of _, allowing for the study the ensembles with arbitrary index. In this work, we study the statistical properties of these systems and explore the underlying physics in Wigner\'s and Wishart\'s models through and investigate through numerical calculations the e_ects of localization in general _ models. We also introduce symmetry breaks in this new form and study numerically the results of the statistics of the disturbed systems.

Les futurs systèmes de communication sans fil devront utiliser des architectures cellulaires hétérogènes composées de grandes cellules (macro) plus performantes et de petites cellules (femto, micro, ou pico) très denses, afin de soutenir la demande de débit en augmentation exponentielle au niveau de la couche physique. Ces structures provoquent un niveau d'interférence sans précèdent à l'intérieur, comme à l'extérieur des cellules, qui doit être atténué ou, idéalement, exploité afin d'améliorer l'efficacité spectrale globale du réseau. Des techniques comme le MIMO à grande échelle (dit massive MIMO), la coopération, etc., qui contribuent aussi à la gestion des interférences, vont encore augmenter la taille des grandes architectures hétérogènes, qui échappent ainsi à toute possibilité d'analyse théorique par des techniques statistiques traditionnelles.Par conséquent, dans cette thèse, nous allons appliquer et améliorer des résultats connus de la théorie des matrices aléatoires à grande échelle (RMT) afin d'analyser le problème d'interférence et de proposer de nouveaux systèmes de précodage qui s'appuient sur les résultats acquis par l'analyse du système à grande échelle. Nous allons d'abord proposer et analyser une nouvelle famille de précodeurs qui réduit la complexité de calcul de précodage pour les stations de base équipées d'un grand nombre d'antennes, tout en conservant la plupart des capacités d'atténuation d'interférence de l'approche classique et le caractère quasi-optimal du précodeur regularised zero forcing. Dans un deuxième temps, nous allons proposer une variation de la structure de précodage linéaire optimal (obtenue pour de nombreuses mesures de performance) qui permet de réduire le niveau d'interférence induit aux autres cellules. Ceci permet aux petites cellules d'atténuer efficacement les interférences induites et reçues au moyen d'une coopération minimale. Afin de faciliter l'utilisation de l'approche analytique RMT pour les futures générations de chercheurs, nous fournissons également un tutoriel exhaustif sur l'application pratique de la RMT pour les problèmes de communication en début du manuscrit. / Future wireless communication systems will need to feature multi cellular heterogeneous architectures consisting of improved macro cells and very dense small cells, in order to support the exponentially rising demand for physical layer throughput. Such structures cause unprecedented levels of inter and intra cell interference, which needs to be mitigated or, ideally, exploited in order to improve overall spectral efficiency of the communication network. Techniques like massive multiple input multiple output (MIMO), cooperation, etc., that also help with interference management, will increase the size of the already large heterogeneous architectures to truly enormous networks, that defy theoretical analysis via traditional statistical methods.Accordingly, in this thesis we will apply and improve the already known framework of large random matrix theory (RMT) to analyse the interference problem and propose solutions centred around new precoding schemes, which rely on large system analysis based insights. First, we will propose and analyse a new family of precoding schemes that reduce the computational precoding complexity of base stations equipped with a large number of antennas, while maintaining most of the interference mitigation capabilities of conventional close-to-optimal regularized zero forcing. Second, we will propose an interference aware linear precoder, based on an intuitive trade-off and recent results on multi cell regularized zero forcing, that allows small cells to effectively mitigate induced interference with minimal cooperation. In order to facilitate utilization of the analytic RMT approach for future generations of interested researchers, we will also provide a comprehensive tutorial on the practical application of RMT in communication problems.

Partant du constat que dans plus en plus d'applications, la taille des données à traiter augmente, il semble pertinent d'utiliser des outils appropriés tels que la théorie des matrices aléatoires dans le régime en grandes dimensions. Plus particulièrement, dans les applications de traitement d'antenne et radar spécifiques STAP et MIMO-STAP, nous nous sommes intéressés au traitement d'un signal d'intérêt corrompu par un bruit additif composé d'une partie dite rang faible et d'un bruit blanc gaussien. Ainsi l'objet de cette thèse est d'étudier dans le régime en grandes dimensions la détection et le filtrage dit rang faible (fonction de projecteurs) pour le traitement d'antenne en utilisant la théorie des matrices aléatoires.La thèse propose alors trois contributions principales, dans le cadre de l'analyse asymptotique de fonctionnelles de projecteurs. Ainsi, premièrement, le régime en grandes dimensions permet ici de déterminer une approximation/prédiction des performances théoriques non asymptotiques, plus précise que ce qui existe actuellement en régime asymptotique classique (le nombre de données d'estimation tends vers l'infini à taille des données fixe). Deuxièmement, deux nouveaux filtres et deux nouveaux détecteurs adaptatifs rang faible ont été proposés et il a été montré qu'ils présentaient de meilleures performances en fonction des paramètres du système en terme de perte en RSB, probabilité de fausse alarme et probabilité de détection. Enfin, les résultats ont été validés sur une application de brouillage, puis appliqués aux traitements radar STAP et MIMO-STAP sparse. L'étude a alors mis en évidence une différence notable avec l'application de brouillage liée aux modèles de matrice de covariance traités dans cette thèse. / Nowadays, more and more applications deal with increasing dimensions. Thus, it seems relevant to exploit the appropriated tools as the random matrix theory in the large dimensional regime. More particularly, in the specific array processing applications as the STAP and MIMO-STAP radar applications, we were interested in the treatment of a signal of interest corrupted by an additive noise composed of a low rang noise and a white Gaussian. Therefore, the aim of this thesis is to study the low rank filtering and detection (function of projectors) in the large dimensional regime for array processing with random matrix theory tools.This thesis has three main contributions in the context of asymptotic analysis of projector functionals. Thus, the large dimensional regime first allows to determine an approximation/prediction of theoretical non asymptotic performance, much more precise than the literature in the classical asymptotic regime (when the number of estimation data tends to infinity at a fixed dimension). Secondly, two new low rank adaptive filters and detectors have been proposed and it has been shown that they have better performance as a function of the system parameters, in terms of SINR loss, false alarm probability and detection probability. Finally, the results have been validated on a jamming application and have been secondly applied to the STAP and sparse MIMO-STAP processings. Hence, the study highlighted a noticeable difference with the jamming application, related to the covariance matrix models concerned by this thesis.

Submitted by Mario BC (mario@bc.ufrpe.br) on 2017-02-07T13:36:07Z No. of bitstreams: 1 Thiago Conrado de Vasconcelos.pdf: 4646767 bytes, checksum: 61c228fc4590858e8ee056ac3909187e (MD5) / Made available in DSpace on 2017-02-07T13:36:07Z (GMT). No. of bitstreams: 1 Thiago Conrado de Vasconcelos.pdf: 4646767 bytes, checksum: 61c228fc4590858e8ee056ac3909187e (MD5) Previous issue date: 2016-02-22 / Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPES / Throughout the latest years, the interest on Spintronics has increased. The principal purposes of the eld are to detect, manipulate, create and polarize spin currents. Within this topic, it is possible to emphasize the Spin Hall E ect(SEH) and the Inverse Spin Hall E ect(ISEH). In this dissertation, we analytically investigate the universal fluctuation of the conductance of the spin in a chaotic quantum point with chiral symmetry at low temperatures. We used random matrices theory and the expansion of the diagrammatic method for that purpose. We showed that when the chirality is broken, the universal fluctuation of the conductance dispersion is in the order of rms hGf sHi 0:18e=4 and that when there is the preservation of the chiral symmetry, the universal fluctuation of the conductance dispersion occurs in the order of rms [GqsH] 0:283e=4 which coincides with the literature. We also worked on ISEH, through the analytical analysis with the semi-classic expansion of the conductance and showed that in the semi-classic limit the relation rms [GqsH] = p2 rms hGf sHi is valid. / Ao longo dos últimos anos tem aumentado o interesse pelo estudo da spintrônica. O objetivo principal deste campo é detectar, manipular, criar e polarizar correntes de spin. Dentro deste tópico, se destaca o Efeito Hall (SHE) de Spin e Efeito Hall de Spin Inverso (ISHE). Neste trabalho investigamos analiticamente a flutuação universal da condutância de spin num ponto quântico caótico com simetria quiral a baixas temperaturas. Para isso, utilizamos a teoria de matrizes aleatória e a expansão do método diagramático. Mostramos que, quando a simetria de quiralidade é quebrada, a flutuação universal da condutância tem uma dispersão na ordem de na ordem de rms[GfsH] p2 0:18 e/4 e que, quando a simetria de quiralidade é preservada, a flutuação universal da condutância ocorre na ordem de rms[GqsH] 0.283 e/4 , o que está de acordo com a literatura. Em nosso trabalho também investigamos o (ISHE), por meio de uma análise analítica utilizamos a expansão semi-clássica da condutância e mostramos que no limite semi-clássico vale a relação rms[GqIsH] = p2 rms[GfIsH].

En la última década, la cooperación entre usuarios ha generado un gran interés por la posibilidad de mejorar la velocidad de transmisión en las redes de comunicaciones inalámbricas. El objetivo es formar un array con las antenas de todos los dispositivos y, de esta forma, aplicar técnicas de procesado espacio-temporal. El esquema de cooperación más sencillo es el canal con relays: todos los terminales que escuchen una comunicación entre dos puntos pueden ayudar a la fuente retransmitiendo lo que hayan recibido.En un sistema realista, los relays no disponen de información sobre el canal en trasmisión. En este escenario, los códigos espacio-temporales (STC, del inglés space-time coding) son la alternativa más eficiente para aprovechar la diversidad introducida por los relays. Sin embargo, los STC clásicos están diseñados para un número limitado y fijo de antenas transmisoras y no se adaptan bien a sistemas cooperativos donde el número de relays puede ser elevado y, sobretodo, puede variar en el tiempo, según los usuarios entren o salgan de la red. El problema principal es la necesidad de usar un código nuevo cada vez que cambie la configuración de la red, generando un importante tráfico de señalización.Esta tesis analiza un código espacio-temporal a bloques de dispersión lineal (LD-STBC, del inglés linear-dispersion space-time block coding), aleatorio y distribuido: a cada relay se le asigna una matriz aleatoria que aplica una transformación lineal al vector que contiene los símbolos de la fuente. Cada matriz se genera de forma independiente y sin ninguna relación con el número de usuarios involucrados. De esta manera, el número de nodos puede variar sin necesidad de modificar los códigos existentes.La forma más intuitiva de construir matrices de dispersión lineal independientes es que sus elementos sean variables aleatorias independientes e idénticamente distribuidas (i.i.d.). Por esta razón, se estudia primero la eficiencia espectral obtenida por este tipo de LD-STBC. Es importante remarcar que la eficiencia espectral es una cantidad aleatoria, ya que es una función de los códigos aleatorios anteriormente descritos. Sin embargo, cuando las dimensiones de las matrices crecen infinitamente pero manteniendo constante la tasa del código (relación entre número de símbolos de la fuente sobre el número de símbolos de los relays), la eficiencia espectral converge rápidamente hacia una cantidad determinista. Este resultado se demuestra usando la teoría de las matrices aleatorias. Por esta razón, el sistema se analiza aproximando la eficiencia espectral con su limite. Por ejemplo, la comparación con el canal directo entre fuente y destino permite definir unas condiciones suficientes en donde el sistema con relays es superior a la comunicación punto a punto.Posteriormente se debe analizar la probabilidad de outage, es decir la probabilidad de que, debido a la baja calidad del canal, la eficiencia espectral sea menor que la velocidad de transmisión solicitada por el sistema. Como ya se ha mencionado anteriormente, los relays se introducen para aumentar la diversidad del canal y, con ella, el número de caminos independientes entre la fuente y el receptor, reduciendo la probabilidad de outage. Para los LD-STBC i.i.d. las prestaciones en términos de outage dependen del tipo de relay (amplify and forward o decode and forward) y son función de la tasa del código, que debe ser cuidadosamente elegida para maximizar el orden de diversidad sin desperdiciar demasiados recursos.Finalmente, en el último capítulo de la tesis se considera otro tipo de LD-STBC, distinto del i.i.d. analizado hasta ahora. En este caso, las matrices de dispersión lineal siguen siendo independientes la una de la otra pero se añade la restricción de que cada una tenga columnas (o filas, según la tasa del código) ortogonales. Así, se consigue que el código siga siendo flexible con respecto a las variaciones en el número de usuarios, pero su estructura permite reducir la interferencia generada por cada relay, como se puede notar comparando su eficiencia espectral con la eficiencia espectral obtenida por el código i.i.d. Cabe destacar que el análisis asintótico de estos códigos (llamados isométricos) se basa en herramientas matemáticas más sofisticadas que las anteriores y, por lo tanto, es necesario un estudio más profundo para poder entender cómo se comporta en términos de outage. / In the last decade, cooperation among multiple terminals has been seen as one of the more promising strategies to improve transmission speed in wireless communications networks. Basically, the idea is to mimic an antenna array and apply distributed versions of well-known space-diversity techniques. In this context, the simplest cooperative scheme is the relay channel: all the terminals (relays) that overhear a point-to-point communication between a source and a destination may decide to aid the source by forwarding (relaying) its message.In a mobile system, it is common to assume that the relays do not have any information about the channel between them and the destination. Under this hypothesis, the best solution to exploit the diversity offered by multiple transmitting antennas is to use space-time coding (STC). However, classical STC's are designed for systems with a fixed and usually low number of antennas. Thus, they are not suitable for relaying in most mobile communications systems where the number of terminals is potentially large and may vary as users join or leave the network. For each new configuration, a new code has to be chosen and notified to the relays, introducing a set-up overhead of signaling traffic.In this dissertation we will propose and analyze a randomized distributed linear-dispersion space-time block code (LD-STBC): each relay is assigned a specific matrix which linearly transforms (left-multiplies) the column vector of source symbols. Each matrix is independently generated and does not depend on the total number of transmitters, which can thus change without interrupting data transmission for a new code--relay assignment.The more intuitive way to build independent linear-dispersion matrices is to fill them with independent and identically distributed (i.i.d.) random variables. Therefore, we will first consider these i.i.d. codes and characterize the resulting spectral efficiency. In order to analyze the performance achieved by the system, we consider a large-system analysis based on random matrix theory. We will show that the random spectral efficiency (function of the random linear-dispersion matrices) converges almost surely to a deterministic quantity when the dimensions of the code grow indefinitely while keeping constant the coding rate. Since convergence is very fast, the random spectral efficiency will be approximated by the deterministic limit in the subsequent analysis. By comparison with the direct link, sufficient conditions are derived for the superiority of relaying.Next, we will analyze the outage probability of the system, that is the probability that the spectral efficiency falls below a given target rate due to channel fading. The main purpose of diversity techniques is to introduce alternative paths from the source to the destination, so that data transmission does not fail when the direct link undergoes deep fading. We will show that the diversity behavior of LD-STBC relaying mainly depends on both the coding rate and the relaying strategy (amplify and forward or decode and forward). It is then important to choose the coding rate that maximizes the diversity order without wasting too many resources.To conclude the dissertation, we will consider a different code based on independent isometric Haar-distributed random linear-dispersion matrices. Thenew code maintains the flexibility of the previous one with respect to variations in the number of relays. However, the more complex structure of the codes allows a noticeable reduction of the interference generated by the relays. Unfortunately, isometric codes also require more sophisticated mathematical tools for their asymptotic analysis. For this reason, we simply introduce the problem by showing that it is possible to have some spectral-efficiency gain with respect to i.i.d. codes. The outage-probability analysis requires a more thorough understanding and will be the subject of future work.