Depuis quelques années, nous assistons à une augmentation soutenue de la demande en puissance des sources optiques. L'introduction des fibres à double gaine dopées Er3+/Yb3+ dans la conception des lasers et des amplificateurs a permis l'obtention de puissances très élevées, impossibles à imaginer quelques années auparavant. L'évolution de cette technologie, conçue en principe pour des systèmes télécom, permet d'envisager de nombreuses applications dans d'autres secteurs tels que le médical, la découpe laser, le marquage, le lidar, le perçage, le soudage, ou le traitement de surface, entre autres. Du fait des fortes puissances mises en jeu dans de tels composants, l'apparition des effets non linéaires devient incontournable. Les effets non linéaires sont à l'origine d'interférences ou de distorsions qui dégradent considérablement les signaux. La compréhension de ces effets devient donc indispensable dans l'optique de trouver des règles d'ingénierie aidant à les minimiser lors de la conception de nouveaux composants. Ce mémoire présente une contribution, à la fois théorique et expérimentale, à l'étude des effets non linéaires dans les lasers et amplificateurs de puissance à fibre double gaine dopée Er3+/Yb3+, portant plus particulièrement sur l'automodulation de phase et la diffusion Brillouin stimulée. L'automodulation de phase a été traitée dans le cas des impulsions d'une durée inférieure à 4 ps. Après une mise en évidence expérimentale, un outil de simulation a été créé à l'aide de l'équation de Schrödinger non linéaire avec gain. Afin d'obtenir des impulsions de puissance supérieure à celle imposée par l'automodulation de phase, un système d'amplification d'impulsions utilisant l'architecture CPA ('Chirped Pulse Amplification') a été mis en place, permettant l'obtention d'impulsions de 450 fs avec une puissance crête supérieure à 35 kW. Dans le cas des impulsions larges -d'une durée supérieure à 10 ns-, la puissance maximum de sortie est limitée par un autre effet: la diffusion Brillouin stimulée. Cet effet a également été mis en évidence de façon expérimentale, puis modélisé à l'aide d'un système de cinq équations couplées. Comme dans le cas de l'automodulation de phase, un outil de simulation a aussi été créé. D'autres effets, tels que la diffusion Raman stimulée ou l'amplification paramétrique ont également été étudiés de façon expérimentale.

L'étude des effets optiques non-linéaires suscite un vif intérêt pour un large champ d'applications dans les systèmes de transmission optiques, comme la régénération des données ou le démultiplexage temporel. La réalisation de ces fonctions exige de nouvelles fibres ou guides d'ondes qui possèdent une très forte non-linéarité Kerr. Dans le cadre de cette thèse nous avons retenu l'étude de guides polymères et de fibres en verres de chalcogénures pour leur très fort coefficient non-linéaire n2 dont la valeur atteint 10000 respectivement 500 fois celui de la silice à la longueur d'onde de 1550 nm. Dans cette thèse, nous proposons de nouvelles méthodes de caractérisations non-linéaires de fibres et guides optiques. Ces méthodes permettent de déterminer simultanément le coefficient non-linéaire Kerr et la dispersion ainsi que d'améliorer la précision de mesure par rapport aux techniques précédentes. Une nouvelle solution d'analyse modale est également développée. La méthode permet non seulement de calculer le nombre de modes, mais aussi de déterminer la distribution de puissance entre les modes. Nous proposons ensuite la caractérisation et la démonstration d'effets non-linéaires dans deux nouvelles fibres microstructurées en verre de AsSe fabriquées en 2010 et 2011 par Perfos, Lannion et SRC, Rennes. Deux records de non-linéarité de 31300 W-1km-1 et 41000 W-1km-1 sont mesurés Pour la dernière fibre (fabriquée en 2011), la conversion de longueur d'onde à 10 GHz et 42,7 GHz a été réalisée avec une puissance d'entrée compatible avec les télécoms. Finalement, les conditions nécessaires à l'observation des effets non-linéaires dans les guides polymères sont étudiées.

Du fait de leurs fortes propriétés non-linéaires, les structures photoniques semi-conductrices sont très intéressantes pour le traitement tout-optique du signal. La structuration à petite échelle permet de localiser la lumière et donc d'exalter les phénomènes non-linéaires, mais avec un pouvoir d'exaltation différent suivant l'ordre de la non-linéarité, introduisant ainsi une nouvelle hiérarchie des régimes d'interaction. Après une description théorique présentant le renforcement des processus non- linéaires par la localisation dans les semi-conducteurs, nous démontrons expérimentalement et quantitativement, pour la première fois, l'influence de la localisation sur l'exaltation des non- linéarités telles que l'effet Kerr, l'absorption à deux photons et les effets de porteurs libres, par l'étude d'un guide à cristal photonique de GaAs. Nous résolvons le problème de l'amplification Raman d'impulsions dans un nanoguide de silicium, en développant un modèle analytique permettant de montrer l'influence des effets de modulation de la phase non-linéaire sur la chute du gain Raman effectif dans le silicium. Ce modèle est validé expérimentalement. Finalement, nous abordons l'application de la localisation à la commutation non- linéaire tout-optique. Nous introduisons la notion de longueurs non-linéaire de commutation et d'absorption permettant d'étudier différents matériaux. Nous montrons que la commutation par effet Kerr pur est impossible pour le Si et le GaAs (contrairement à l'AlGaAs et au GaN), mais qu'une commutation par effet de porteurs libres y est envisageable pour certaines géométries de microstructures.

La course vers les impulsions ultra-courtes et énergétiques est en plein essor avec le développement de nombreuses applications. Dans ce manuscrit, plusieurs méthodes de réduction de la durée d'impulsion énergétique sont étudiées. La mise en oeuvre d’un système de post-compression basé sur le principe de SPM-NER dans une lame de silice a tout d'abord permis de produire, à partir d'impulsions de 50 fs, des impulsions de 16 fs-5mJ. Dans une seconde partie, nous proposons une nouvelle méthode de post-compression efficace basée sur l'ionisation d'un gaz rare dans un capillaire creux. Cette technique a permis d'obtenir à la fois des impulsions ultra-courtes et des énergies importantes (11 fs-13 mJ). Les résultats d'une modélisation réalisée au CEA/SPAM, en bon accord avec les résultats expérimentaux, ont permis d'approfondir la compréhension des divers mécanismes mis en jeu. Afin de produire des impulsions encore plus courtes, il est nécessaire de travailler directement dans les chaînes laser, en amont du système de post-compression. Le rétrécissement spectral par le gain dans leTi:saphir des chaînes laser, limite en général les durées des impulsions à 30 fs. Ce phénomène, étudié lors de cette thèse, a été compensé grâce à une modulation de perte spectrale (filtre) dans le pré-amplificateur (cavité régénérative), localisée au maximum de la courbe de gain. Des impulsions de l’ordre de 20 fs ont été obtenues. Ces études ont été complétées par une modélisation de l'amplification des impulsions qui s'est avérée en très bon accord avec les mesures expérimentales. La possibilité de combiner ces procédés permettra, àcourt terme, la production d'impulsions laser sub-10 fs énergétiques (~10 mJ) pour générer des impulsions XUV attosecondes isolées. / High energy ultrashort pulses are highly desirable for many applications. In thismanuscript, we described several methods for pulse duration reduction at high energy. A postcompressionsystem, using SPM-NER in a fused silica plate, has firstly provided 16 fs-5mJpulses, from 50 fs pulses. In a second part, we present a new efficient post compressiontechnique, achieved through ionization of gas in a capillary. With this technique, ultrashortand high energy pulses have been reached (11 fs-13 mJ). Results from modeling done atCEA/SPAM, in good agreement with the experimental ones, have been used to understanddeeply all the involved mechanisms. In order to get even shorter pulses, it is incontrovertibleto work on the laser chain, in front of the post-compression systems. In general, due tospectral gain narrowing in Ti:Saphir laser chain, the pulse duration is limited to 30 fs. Thiseffect, investigated in this thesis, has been compensated by modulating the spectral losses(filter) in the pre-amplifier (regenerative cavity), localized at the gain curve maximum. Pulseduration in the order of 20 fs has been obtained. This study has been completed with a pulseamplification model that shows very good agreement with the experimental measurements.The possibility to combine these processes should generate, in the short term, high energy (10mJ) sub-10 fs laser pulses to produce isolated XUV attosecond pulses.