La statistique des valeurs extrêmes est une question majeure dans divers contextes scientifiques. Cependant, bien que la description de la statistique d'un extremum global soit certainement une caractéristique importante, celle-ci ne se concentre que sur une seule variable parmi un grand nombre de variables aléatoires. Une question naturelle qui se pose alors est la suivante: ces valeurs extrêmes sont-elles isolées, loin des autres variables ou bien au contraire existe-t-il un grand nombre d'autres variables proches de ces valeurs extrêmes ? Ces questions ont suscité l'étude de la densité d'état de ces événements quasi-extrêmes. Il existe pour cette quantité peu de résultats pour des variables fortement corrélées, qui est pourtant le cas rencontré dans de nombreux modèles fondamentaux. Deux pistes de modèles physiques de variables fortement corrélées pouvant être étudiés analytiquement se démarquent alors: les positions d’une marche aléatoire et les valeurs propres de matrice aléatoire. Cette thèse est ainsi consacrée à l’étude de statistique d’extrêmes pour ces deux modèles de variables fortement corrélées. Dans une première partie, j’étudie le cas où la collection de variables aléatoires est la position au cours du temps d’un mouvement brownien, qui peut être contraint à être périodique, positif... Ce mouvement brownien est vu comme la limite d’un marcheur aléatoire classique après un grand nombre de pas. Il est alors possible d’interprèter ce problème comme celui d’une particule quantique dans un potentiel ce qui permet d’utiliser des méthodes puissantes issues de la mécanique quantique comme l’utilisation de propagateurs et de l’intégrale de chemin. Ces outils permettent de calculer la densité moyenne à partir du maximum pour les différents mouvements browniens contraints et même la distribution complète de cette quantité pour certains cas. Il est également possible de généraliser cette démarche à l’étude de plusieurs marches aléatoires indépendantes ou avec interaction. Cette démarche permet également d’effectuer une étude temporelle, ainsi que de généraliser à l’étude d’autres fonctionnelle du maximum. Dans la seconde partie, j’étudie le cas où la collection de variables aléatoires est composée des valeurs propres d’une matrice aléatoire. Ce travail se concentre sur l’études des matrices des ensembles gaussiens (GOE, GUE et GSE) ainsi qu’à l’étude des matrices de Wishart. L’étude du voisinage de la valeur propre maximale pour ces deux modèles est faite en utilisant une méthode fondée sur les propriétés des polynômes orthogonaux. Dans le cas des matrices gaussiennes unitaires GUE, j’ai obtenu une formule analytique pour la distribution à partir du maximum ainsi qu’une nouvelle expression de la statistique du gap entre les deux plus grandes valeurs propres en termes d’une fonction transcendante de Painlevé. Ces résultats, et plus particulièrement leurs généralisations aux cas GOE, sont alors appliqués à un modèle de verre de spin sphérique en champs moyen. Dans le cas des matrices de Wishart, l’analyse des polynômes orthogonaux dans le régime de double échelle m’a permis de retrouver les différentes statistiques de la valeur propre minimale et également de prouver une conjecture sur la première correction de taille finie pour des grandes matrices de la distribution de la valeur propre minimale dans la limite dite de «hard edge». / Extreme value statistics plays a keyrole in various scientific contexts. Although the description of the statistics of a global extremum is certainly an important feature, it focuses on the fluctuations of a single variable among many others. A natural question that arises is then the following: is this extreme value lonely at the top or, on the contrary, are there many other variables close to it ? A natural and useful quantity to characterize the crowding is the density of states near extremes. For this quantity, there exist very few exact results for strongly correlated variables, which is however the case encountered in many situations. Two physical models of strongly correlated variables have attracted much attention because they can be studied analytically : the positions of a random walker and the eigenvalues of a random matrix. This thesis is devoted to the study of the statistics near the maximum of these two ensembles of strongly correlated variables. In the first part, I study the case where the collection of random variables is the position of a Brownian motion, which may be constrained to be periodic or positive. This Brownian motion is seen as the limit of a classical random walker after a large number of steps. It is then possible to interpret this problem as a quantum particle in a potential which allows us to use powerful methods from quantum mechanics as propagators and path integral. These tools are used to calculate the average density from the maximum for different constrained Brownian motions and the complete distribution of this observable in certain cases. It is also possible to generalize this approach to the study of several random walks, independent or with interaction, as well as to the study of other functional of the maximum. In the second part, I study the case of the eigenvalues of random matrices, belonging to both Gaussian and Wishart ensembles. The study near the maximal eigenvalues for both models is performed using a method based on semi-classical orthogonal polynomials. In the case of Gaussian unitary matrices, I have obtained an analytical formula for the density near the maximum as well as a new expression for the distribution of the gap between the two largest eigenvalues. These results, and in particular their generalizations to different Gaussian ensembles, are then applied to the relaxational dynamics of a mean-field spin glass model. Finally, for the case of Wishart matrices I proposed a new derivation of the distribution of the smallest eigenvalue using orthogonal polynomials. In addition, I proved a conjecture on the first finite size correction of this distribution in the «hard edge» limit.

Ce mémoire présente des travaux portant sur les ondes aux statistiques extrêmes qui représentent un sujet extrêmement attractif en optique depuis qu’une comparaison avec les vagues scélérates océaniques a été proposée fin 2007. Nous décrivons donc les mécanismes de formations de ces structures extrêmes dans le cadre de la propagation guidée de la lumière dans les fibres optiques. Dans une première partie, nous commençons par explorer les ondes scélérates optiques dans les supercontinuums générés par instabilité modulationnelle d’ordre 4 et proposons une méthode de stabilisation basée sur l’utilisation de deux germes continus. Puis, nous continuons avec une étude approfondie sur les amplificateurs Raman à fibre où des conditions d’apparitions des structures géantes sont déterminées. En effet, en présence d’une pompe partiellement incohérente comme le laser Raman fibré, un gain quasi-instantané et un faible walk-off mènent à des statistiques extrêmes. Cela a pu être vérifié que le signal soit continu ou impulsionnel et dans le cadre d’un amplificateur paramétrique basé sur l’instabilité modulationnelle d’ordre 2 incohérente. Dans la dernière partie, un système turbulent est étudié en fonction de l’incohérence ce qui nous a permis d’identifier trois régimes avec, en particulier, le second où il existe des quasi-solitons intermittents. Enfin, nous nous intéressons à des structures non-linéaires appelées Breathers d’Akhmediev, qui présentent des cycles de compression-décompression, et portons notre attention sur leur limite asymptotique : le soliton de Peregrine. Ce dernier est vu comme un prototype très intéressant des vagues scélérates. Nos études expérimentales, menées aux longueurs d’ondes des communications optiques et utilisant différentes méthodes de caractérisations spectro-temporelles, sont complétées par des études numériques et analytiques. / This thesis deals with extremes statistics which has become an attractive subject in optics since a comparison with oceanic rogue waves has been proposed at the end of 2007. We report some potential mechanisms stimulating the rogue wave formation in the context of guided propagation of light in optical fibers. In a first part, we explore optical rogue waves in supercontinuums generated by fourth-order modulation instability and we propose a stabilization method based on the use of two continuous seeds. Then, we present a detailed study on Raman fiber amplifiers where we determine the conditions of emergence of giant structures : in presence of a partially incoherent pumping wave, a quasi-instantaneous gain combined with a low walk-off lead to extremes statistics. We have validated these conditions for a continuous wave as well as a pulse train. Conclusions have also been successfully extended to a parametric amplifier based on incoherent second-order modulation instability. In the last part, a turbulent system is studied as a function of incoherence and we identify three regimes. In one of these regimes, we highlight the existence of intermittent quasi-solitons. Finally, we are interested in nonlinear structures called Akhmediev Breathers which present compression-decompression cycles and we focus our attention on its asymptotic limit: the Peregrine soliton. It corresponds to a very interesting prototype of rogue waves. Our experimental work, performed at optical communication wavelength and using several methods of spectro-temporal characterization, is complemented by numerical and analytical studies.

Cette thèse s'est développée à l'interface entre physique statistique et traitement statistique du signal, afin d'allier les perspectives de ces deux disciplines sur les problèmes de sommes et maxima de variables aléatoires. Nous avons exploré trois axes d'études qui mènent à s'éloigner des conditions classiques (i.i.d.) : l'importance des événements rares, le couplage avec la taille du système, et la corrélation. Combinés, ces trois axes mènent à des situations dans lesquelles les théorèmes de convergence classiques sont mis en défaut.Pour mieux comprendre l'effet du couplage avec la taille du système, nous avons étudié le comportement de la somme et du maximum de variables aléatoires indépendantes élevées à une puissance dépendante de la taille du signal. Dans le cas du maximum, nous avons mis en évidence l'apparition de lois limites non standards. Dans le cas de la somme, nous nous sommes intéressés au lien entre effet de linéarisation et transition vitreuse en physique statistique. Grâce à ce lien, nous avons pu définir une notion d'ordre critique des moments, montrant que, pour un processus multifractal, celui-ci ne dépend pas de la résolution du signal. Parallèlement, nous avons construit et étudié, théoriquement et numériquement, les performances d'un estimateur de cet ordre critique pour une classe de variables aléatoires indépendantes.Pour mieux cerner l'effet de la corrélation sur le maximum et la somme de variables aléatoires, nous nous sommes inspirés de la physique statistique pour construire une classe de variable aléatoires dont la probabilité jointe peut s'écrire comme un produit de matrices. Après une étude détaillée de ses propriétés statistiques, qui a montré la présence potentielle de corrélation à longue portée, nous avons proposé pour ces variables une méthode de synthèse en réussissant à reformuler le problème en termes de modèles à chaîne de Markov cachée. Enfin, nous concluons sur une analyse en profondeur du comportement limite de leur somme et de leur maximum. / This thesis has grown at the interface between statistical physics and signal processing, combining the perspectives of both disciplines to study the issues of sums and maxima of random variables. Three main axes, venturing beyond the classical (i.i.d) conditions, have been explored: The importance of rare events, the coupling between the behavior of individual random variable and the size of the system, and correlation. Together, these three axes have led us to situations where classical convergence theorems are no longer valid.To improve our understanding of the impact of the coupling with the system size, we have studied the behavior of the sum and the maximum of independent random variables raised to a power depending of the size of the signal. In the case of the maximum, we have brought to light non standard limit laws. In the case of the sum, we have studied the link between linearisation effect and glass transition in statistical physics. Following this link, we have defined a critical moment order such that for a multifractal process, this critical order does not depend on the signal resolution. Similarly, a critical moment estimator has been designed and studied theoretically and numerically for a class of independent random variables.To gain some intuition on the impact of correlation on the maximum or sum of random variables, following insights from statistical physics, we have constructed a class of random variables where the joint distribution probability can be expressed as a matrix product. After a detailed study of its statistical properties, showing that these variables can exhibit long range correlations, we have managed to recast this model into the framework of Hidden Markov Chain models, enabling us to design a synthesis procedure. Finally, we conclude by an in-depth study of the limit behavior of the sum and maximum of these random variables.