Les milieux Kerr soumis à des faisceaux optiques contrapropageants provenant, soit d'une cavité Pérot-Fabry plan-plan ou d'une boucle de rétro-action, ont été très étudiés pour la génération de structures transverses. De nombreux développements théoriques dans la configuration de la cavité ont prédit l'existence de structures localisées (solitons). Cependant aucune mise en évidence expérimentale de ces structures n'a été réalisée à ce jour. Dans la configuration de la boucle de rétro-action optique, les régimes fortement non linéaires présentent des structures rares et intenses, très localisées aussi bien spatialement que temporellement. C'est dans ce cadre que nous nous intéressons expérimentalement à la structuration localisée de la lumière dans ces deux systèmes. La première partie de cette thèse est consacrée à la mise en évidence expérimentale de solitons spatiaux dans une cavité Pérot-Fabry plan-plan Kerr à diffraction positive. Ensuite, nous étudions cette cavité quand elle est soumise à de la diffraction négative. Des parois de domaines propagatives sont alors observées. Celles-ci sont bloquées par le forçage spatial lié à l'inhomogénéité du profil de pompage optique gaussien qui donne lieu à une localisation de la lumière. Nous étudions succinctement le cas limite d'une cavité sans diffraction dans laquelle les parois de domaines survivent. Pour finir nous effectuons une étude du régime très fortement non linéaire dans le dispositif de rétro-action optique grâce à une approche statistique. Nous observons l'apparition de structures localisées scélérates associées à l'émission d'un supercontinuum spectral spatial.

Ce mémoire présente des travaux portant sur les ondes aux statistiques extrêmes qui représentent un sujet extrêmement attractif en optique depuis qu'une comparaison avec les vagues scélérates océaniques a été proposée fin 2007. Nous décrivons donc les mécanismes de formations de ces structures extrêmes dans le cadre de la propagation guidée de la lumière dans les fibres optiques. Dans une première partie, nous commençons par explorer les ondes scélérates optiques dans les supercontinuums générés par instabilité modulationnelle d'ordre 4 et proposons une méthode de stabilisation basée sur l'utilisation de deux germes continus. Puis, nous continuons avec une étude approfondie sur les amplificateurs Raman à fibre où des conditions d'apparitions des structures géantes sont déterminées. En effet, en présence d'une pompe partiellement incohérente comme le laser Raman fibré, un gain quasi-instantané et un faible walk-off mènent à des statistiques extrêmes. Cela a pu être vérifié que le signal soit continu ou impulsionnel et dans le cadre d'un amplificateur paramétrique basé sur l'instabilité modulationnelle d'ordre 2 incohérente. Dans la dernière partie, un système turbulent est étudié en fonction de l'incohérence ce qui nous a permis d'identifier trois régimes avec, en particulier, le second où il existe des quasi-solitons intermittents. Enfin, nous nous intéressons à des structures non-linéaires appelées Breathers d'Akhmediev, qui présentent des cycles de compression-décompression, et portons notre attention sur leur limite asymptotique : le soliton de Peregrine. Ce dernier est vu comme un prototype très intéressant des vagues scélérates. Nos études expérimentales, menées aux longueurs d'ondes des communications optiques et utilisant différentes méthodes de caractérisations spectro-temporelles, sont complétées par des études numériques et analytiques.

Le travail de cette thèse a porté sur l'étude de la propagation d'ondes dans une fibre optique à biréfringence forte. Nous avons procédé à une caractérisation générale de l'instabilité modulationelle en fonction des biréfringences linéaire et non linéaire, en dispersion anormale et surtout en dispersion normale. L'étude a été consacrée à une fibre optique non linéaire en régime "pulsé", où l'excitation n'est pas étendue mais plutôt localisée. Dans ce cas, l'analyse de stabilité linéaire standard ne parvient pas à décrire l'évolution linéaire de cette perturbation. Ainsi, nous avons eu recours à un problème à valeur initiale menant aux deux régimes convectif et absolu. Nons avons ensuite mis en évidence, pour la première fois, une transition du régime absolu vers le régime convectif, en caractérisant chacun des deux régimes en fonction des biréfringences. Les résultats numériques sont en excellent accord avec nos prédictions analytiques. Nous avons évalué l'impact de la brisure de symétrie sur la génération des supercontinuums. Ces derniers jouent un rôle primordial dans la formation des ondes scélérates. Nous avons opté pour une analyse statistique basée sur la fonction de densité de probabilité des pics les plus intenses. Nous avons analysé l'impact du "walk off" et de la dispersion d'ordre trois sur l'émergence de ces ondes. Nos simulations numériques montrent que les ondes scélérates peuvent être contrôlées par la biréfringence linéaire et elles sont encore plus prononcées en présence de la dispersion d'ordre trois. Finalement, une optimisation de la génération des ondes scélérates nous a permis de trouver une onde géante, reproduite par le soliton de Peregrine. / The work of this thesis has focused on the study of wave propagation in a high birefringent fiber. We have carried out a general characterization of the modulational instability as a function of the linear and nonlinear birefringences, in abnormal dispersion and especially in normal dispersion. The study was devoted to a non-linear optical fiber in a "pulsed" regime, where the excitation is not extended but rather localized in time. In this case, standard linear stability analysis fails to describe the linear evolution of this type of perturbations. Thus, we reformulate the problem as an initial value problem leading to convective and absolute instabilities. Then, we evidenced, for the first time, a transition from the absolute to the convective regime and we characterized each of them by linear and nonlinear birefringences. Numerical results are in excellent agreement with our analytical predictions. We evaluated the impact of the symmetry breaking on the generation of supercontinuums that play a crucial role in the formation of rogue waves. We performed a statistical analysis based on the probability density function of the most intense peaks. We analyzed the impact of the "walk off" and the third order dispersion on the emergence of these waves in abnormal and normal dispersion. The results of the numerical integration of the governing equations show that the rogue waves can be controlled by linear birefringence and are even more pronounced in presence of the third order dispersion. Finally, an optimization of the generation of extreme waves has allowed us to find a giant wave, reproduced by Pergerine soliton.

L’étude des ondes scélérates est un sujet en plein essor principalement en océanographie mais également dans d’autres domaines. Dans cette thèse, je construis par transformation de Darboux une famille multi-paramétrique de solutions quasi-rationnelles lisses de l’équation de Schödinger non linéaire qui présentent un comportement d’ondes scélérates. Pour un choix générique de paramètres les solutions de deuxième ordre donnent un modèle de "trois sœurs" (une succession de trois vagues plus hautes que prévues) alors que pour un choix particulier de paramètres on obtient les solutions présentées par Akhmediev et al. dans une série d’articles de 2009. Ces solutions me permettent ensuite de construire des solutions rationnelles de l’équation KP-I qui décrit le mouvement des vagues dans une eau peu profonde. / The study of rogue waves is a booming topic mainly in oceanography but also in other fields. In this thesis I construct via Darboux transform a multi-parametric family of smooth quasi-rational solutions of the nonlinear Schödinger equation that present a behavior of rogue waves. For a general choice of parameters the second-order solutions give a model of "three sisters" (three higher than expected waves in a row) while for a particular choice of parameters we obtain the solutions given by Akhmediev et al. in a serie of articles in 2009. Then these solutions allow me to construct rational solutions of the KP-I equation that describe waves in shallow water.

Ce mémoire présente des travaux portant sur les ondes aux statistiques extrêmes qui représentent un sujet extrêmement attractif en optique depuis qu’une comparaison avec les vagues scélérates océaniques a été proposée fin 2007. Nous décrivons donc les mécanismes de formations de ces structures extrêmes dans le cadre de la propagation guidée de la lumière dans les fibres optiques. Dans une première partie, nous commençons par explorer les ondes scélérates optiques dans les supercontinuums générés par instabilité modulationnelle d’ordre 4 et proposons une méthode de stabilisation basée sur l’utilisation de deux germes continus. Puis, nous continuons avec une étude approfondie sur les amplificateurs Raman à fibre où des conditions d’apparitions des structures géantes sont déterminées. En effet, en présence d’une pompe partiellement incohérente comme le laser Raman fibré, un gain quasi-instantané et un faible walk-off mènent à des statistiques extrêmes. Cela a pu être vérifié que le signal soit continu ou impulsionnel et dans le cadre d’un amplificateur paramétrique basé sur l’instabilité modulationnelle d’ordre 2 incohérente. Dans la dernière partie, un système turbulent est étudié en fonction de l’incohérence ce qui nous a permis d’identifier trois régimes avec, en particulier, le second où il existe des quasi-solitons intermittents. Enfin, nous nous intéressons à des structures non-linéaires appelées Breathers d’Akhmediev, qui présentent des cycles de compression-décompression, et portons notre attention sur leur limite asymptotique : le soliton de Peregrine. Ce dernier est vu comme un prototype très intéressant des vagues scélérates. Nos études expérimentales, menées aux longueurs d’ondes des communications optiques et utilisant différentes méthodes de caractérisations spectro-temporelles, sont complétées par des études numériques et analytiques. / This thesis deals with extremes statistics which has become an attractive subject in optics since a comparison with oceanic rogue waves has been proposed at the end of 2007. We report some potential mechanisms stimulating the rogue wave formation in the context of guided propagation of light in optical fibers. In a first part, we explore optical rogue waves in supercontinuums generated by fourth-order modulation instability and we propose a stabilization method based on the use of two continuous seeds. Then, we present a detailed study on Raman fiber amplifiers where we determine the conditions of emergence of giant structures : in presence of a partially incoherent pumping wave, a quasi-instantaneous gain combined with a low walk-off lead to extremes statistics. We have validated these conditions for a continuous wave as well as a pulse train. Conclusions have also been successfully extended to a parametric amplifier based on incoherent second-order modulation instability. In the last part, a turbulent system is studied as a function of incoherence and we identify three regimes. In one of these regimes, we highlight the existence of intermittent quasi-solitons. Finally, we are interested in nonlinear structures called Akhmediev Breathers which present compression-decompression cycles and we focus our attention on its asymptotic limit: the Peregrine soliton. It corresponds to a very interesting prototype of rogue waves. Our experimental work, performed at optical communication wavelength and using several methods of spectro-temporal characterization, is complemented by numerical and analytical studies.

Ce manuscrit de thèse présente l’étude d’instabilités non-linéaires et la génération d’ondes scélérates complexes liées à la propagation de la lumière dans des fibres optiques standards des télécommunications optiques. Un rappel est tout d’abord présenté sur les phénomènes physiques linéaires et non-linéaires impliqués et qui peuvent présenter une analogie directe avec le domaine de l’hydrodynamique. Les différentes formes d’ondes scélérates liées au processus d’instabilité de modulation, aussi appelées « breathers », sont alors présentées, elles sont obtenues par la résolution de l’équation de Schrödinger non-linéaire. À partir de ces solutions exactes, divers systèmes expérimentaux sont alors conçus par simulation numérique à partir de deux méthodes d’excitation d’ondes scélérates. La première est une génération exacte à partir des solutions analytiques en effectuant une mise en forme spectrale en intensité et en phase d’un peigne de fréquence optique. La seconde méthode est basée sur des conditions initiales approchées avec des ondes continues modulées sinusoïdalement. Les mesures expérimentales réalisées avec ces deux méthodes démontrent parfaitement la génération d’ondes scélérates complexes (solutions d’ordre supérieur du système) issues de la superposition non-linéaire ou collisions de « breathers » de premier ordre. Enfin, nous avons également étudié un système non-linéaire équivalent au modèle de Manakov, qui fait intervenir la propagation de deux ondes distinctes avec des polarisations orthogonales dans une fibre optique. L’analyse de stabilité et des simulations numériques de ce système multi-variable mettent en évidence un nouveau régime d’instabilité de modulation vectorielle ainsi que de nouvelles solutions d’ondes scélérates noires et couplées en polarisation. Un nouveau système expérimental mis en place a permis de confirmer ces prédictions théoriques avec un excellent accord quantitatif. / This manuscript presents the generation of complex rogue waves related to nonlinear instabilities occurring through the propagation of light in standard optical fibers. Linear and nonlinear physical phenomena involved are first listed, in particular some of them by analogy with the field of hydrodynamics. The different forms of rogue waves induced by the modulation instability process are then presented. They are also known as "breathers", and they are obtained by solving the nonlinear Schrödinger equation. From these exact solutions, various experimental systems were designed by means of numerical simulations based on two rogue-wave excitation methods. The first one is an exact generation of mathematical solutions based on the spectral shaping of an optical frequency comb. The second method uses approximate initial conditions with a simple sinusoidal modulation of continuous waves. For both cases, experimental measurements demonstrate the generation of complex rogue waves (i.e., higher-order solutions of the system) arising from the nonlinear superposition or collision of first-order breathers. Finally, we also studied a nonlinear fiber system equivalent to the Manakov model, which involves the propagation of two distinct waves with orthogonal polarizations. The stability analysis and numerical simulations of this multi-component system highlight a novel regime of vector modulation instability and the existence of coupled dark rogue-wave solutions. A new experimental system setup was conceived and theoretical predictions are confirmed with an excellent quantitative agreement.