Ce mémoire présente des travaux portant sur les ondes aux statistiques extrêmes qui représentent un sujet extrêmement attractif en optique depuis qu'une comparaison avec les vagues scélérates océaniques a été proposée fin 2007. Nous décrivons donc les mécanismes de formations de ces structures extrêmes dans le cadre de la propagation guidée de la lumière dans les fibres optiques. Dans une première partie, nous commençons par explorer les ondes scélérates optiques dans les supercontinuums générés par instabilité modulationnelle d'ordre 4 et proposons une méthode de stabilisation basée sur l'utilisation de deux germes continus. Puis, nous continuons avec une étude approfondie sur les amplificateurs Raman à fibre où des conditions d'apparitions des structures géantes sont déterminées. En effet, en présence d'une pompe partiellement incohérente comme le laser Raman fibré, un gain quasi-instantané et un faible walk-off mènent à des statistiques extrêmes. Cela a pu être vérifié que le signal soit continu ou impulsionnel et dans le cadre d'un amplificateur paramétrique basé sur l'instabilité modulationnelle d'ordre 2 incohérente. Dans la dernière partie, un système turbulent est étudié en fonction de l'incohérence ce qui nous a permis d'identifier trois régimes avec, en particulier, le second où il existe des quasi-solitons intermittents. Enfin, nous nous intéressons à des structures non-linéaires appelées Breathers d'Akhmediev, qui présentent des cycles de compression-décompression, et portons notre attention sur leur limite asymptotique : le soliton de Peregrine. Ce dernier est vu comme un prototype très intéressant des vagues scélérates. Nos études expérimentales, menées aux longueurs d'ondes des communications optiques et utilisant différentes méthodes de caractérisations spectro-temporelles, sont complétées par des études numériques et analytiques.

Ce mémoire présente des travaux portant sur les ondes aux statistiques extrêmes qui représentent un sujet extrêmement attractif en optique depuis qu’une comparaison avec les vagues scélérates océaniques a été proposée fin 2007. Nous décrivons donc les mécanismes de formations de ces structures extrêmes dans le cadre de la propagation guidée de la lumière dans les fibres optiques. Dans une première partie, nous commençons par explorer les ondes scélérates optiques dans les supercontinuums générés par instabilité modulationnelle d’ordre 4 et proposons une méthode de stabilisation basée sur l’utilisation de deux germes continus. Puis, nous continuons avec une étude approfondie sur les amplificateurs Raman à fibre où des conditions d’apparitions des structures géantes sont déterminées. En effet, en présence d’une pompe partiellement incohérente comme le laser Raman fibré, un gain quasi-instantané et un faible walk-off mènent à des statistiques extrêmes. Cela a pu être vérifié que le signal soit continu ou impulsionnel et dans le cadre d’un amplificateur paramétrique basé sur l’instabilité modulationnelle d’ordre 2 incohérente. Dans la dernière partie, un système turbulent est étudié en fonction de l’incohérence ce qui nous a permis d’identifier trois régimes avec, en particulier, le second où il existe des quasi-solitons intermittents. Enfin, nous nous intéressons à des structures non-linéaires appelées Breathers d’Akhmediev, qui présentent des cycles de compression-décompression, et portons notre attention sur leur limite asymptotique : le soliton de Peregrine. Ce dernier est vu comme un prototype très intéressant des vagues scélérates. Nos études expérimentales, menées aux longueurs d’ondes des communications optiques et utilisant différentes méthodes de caractérisations spectro-temporelles, sont complétées par des études numériques et analytiques. / This thesis deals with extremes statistics which has become an attractive subject in optics since a comparison with oceanic rogue waves has been proposed at the end of 2007. We report some potential mechanisms stimulating the rogue wave formation in the context of guided propagation of light in optical fibers. In a first part, we explore optical rogue waves in supercontinuums generated by fourth-order modulation instability and we propose a stabilization method based on the use of two continuous seeds. Then, we present a detailed study on Raman fiber amplifiers where we determine the conditions of emergence of giant structures : in presence of a partially incoherent pumping wave, a quasi-instantaneous gain combined with a low walk-off lead to extremes statistics. We have validated these conditions for a continuous wave as well as a pulse train. Conclusions have also been successfully extended to a parametric amplifier based on incoherent second-order modulation instability. In the last part, a turbulent system is studied as a function of incoherence and we identify three regimes. In one of these regimes, we highlight the existence of intermittent quasi-solitons. Finally, we are interested in nonlinear structures called Akhmediev Breathers which present compression-decompression cycles and we focus our attention on its asymptotic limit: the Peregrine soliton. It corresponds to a very interesting prototype of rogue waves. Our experimental work, performed at optical communication wavelength and using several methods of spectro-temporal characterization, is complemented by numerical and analytical studies.