L'étude des effets optiques non-linéaires suscite un vif intérêt pour un large champ d'applications dans les systèmes de transmission optiques, comme la régénération des données ou le démultiplexage temporel. La réalisation de ces fonctions exige de nouvelles fibres ou guides d'ondes qui possèdent une très forte non-linéarité Kerr. Dans le cadre de cette thèse nous avons retenu l'étude de guides polymères et de fibres en verres de chalcogénures pour leur très fort coefficient non-linéaire n2 dont la valeur atteint 10000 respectivement 500 fois celui de la silice à la longueur d'onde de 1550 nm. Dans cette thèse, nous proposons de nouvelles méthodes de caractérisations non-linéaires de fibres et guides optiques. Ces méthodes permettent de déterminer simultanément le coefficient non-linéaire Kerr et la dispersion ainsi que d'améliorer la précision de mesure par rapport aux techniques précédentes. Une nouvelle solution d'analyse modale est également développée. La méthode permet non seulement de calculer le nombre de modes, mais aussi de déterminer la distribution de puissance entre les modes. Nous proposons ensuite la caractérisation et la démonstration d'effets non-linéaires dans deux nouvelles fibres microstructurées en verre de AsSe fabriquées en 2010 et 2011 par Perfos, Lannion et SRC, Rennes. Deux records de non-linéarité de 31300 W-1km-1 et 41000 W-1km-1 sont mesurés Pour la dernière fibre (fabriquée en 2011), la conversion de longueur d'onde à 10 GHz et 42,7 GHz a été réalisée avec une puissance d'entrée compatible avec les télécoms. Finalement, les conditions nécessaires à l'observation des effets non-linéaires dans les guides polymères sont étudiées.

Le futur système de transmission multicanaux (WDM) pourrait mettre à profit l'utilisation d'amplificateurs optiques à semi-conducteurs (SOA), pour bénéficier notamment de leur grande bande passante optique pour l'amplification du signal. Dans ce travail, nous étudions l'influence des SOA sur la transmission cohérente de signaux OFDM optiques (CO OFDM). Cette technique, récemment proposée, permet à la fois d'augmenter l'efficacité spectrale de la transmission et de compenser les imperfections linéaires du canal optique. Nous avons développé, dans ce travail, une chaîne expérimentale de transmission de signaux à formats de modulation complexes tout-optiques et une plateforme de simulation au niveau système. Les résultats obtenus par simulation, au niveau composant et au niveau système, sont en très bon accord avec ceux obtenus par les mesures expérimentales à la fois pour des formats de modulation QPSK et QPSK CO-OFDM. À travers différentes mesures et simulations, l'étude a permis de cerner clairement l'influence des paramètres du SOA sur la qualité de transmission des données. Les non-linéarités induites par le SOA, telles que le couplage phase amplitude, l'auto modulation du gain et de la phase (SGM et SPM), la modulation croisée du gain et de la phase (XGM et XPM) et le mélange à quatre ondes (FWM), jouent de façon importante sur les performances de ce format de modulation multi-porteuses ; leur influence a donc été analysée avec précision. Les connaissances acquises permettront à l'avenir d'une part de mieux définir les conditions d'utilisation des SOA dans les réseaux de transmission et d'autre part aideront à l'optimisation de nouvelles structures de SOA conçues pour la transmission de données à très haut débit utilisant des formats de modulation complexes.

Le futur système de transmission multicanaux (WDM) pourrait mettre à profit l'utilisation d'amplificateurs optiques à semi-conducteurs (SOA), pour bénéficier notamment de leur grande bande passante optique pour l'amplification du signal. Dans ce travail, nous étudions l’influence des SOA sur la transmission cohérente de signaux OFDM optiques (CO OFDM). Cette technique, récemment proposée, permet à la fois d’augmenter l'efficacité spectrale de la transmission et de compenser les imperfections linéaires du canal optique. Nous avons développé, dans ce travail, une chaîne expérimentale de transmission de signaux à formats de modulation complexes tout-optiques et une plateforme de simulation au niveau système. Les résultats obtenus par simulation, au niveau composant et au niveau système, sont en très bon accord avec ceux obtenus par les mesures expérimentales à la fois pour des formats de modulation QPSK et QPSK CO-OFDM. À travers différentes mesures et simulations, l’étude a permis de cerner clairement l’influence des paramètres du SOA sur la qualité de transmission des données. Les non-linéarités induites par le SOA, telles que le couplage phase amplitude, l’auto modulation du gain et de la phase (SGM et SPM), la modulation croisée du gain et de la phase (XGM et XPM) et le mélange à quatre ondes (FWM), jouent de façon importante sur les performances de ce format de modulation multi-porteuses ; leur influence a donc été analysée avec précision. Les connaissances acquises permettront à l’avenir d’une part de mieux définir les conditions d’utilisation des SOA dans les réseaux de transmission et d’autre part aideront à l’optimisation de nouvelles structures de SOA conçues pour la transmission de données à très haut débit utilisant des formats de modulation complexes. / Future wavelength division multiplexing (WDM) systems might take advantage from the use of semiconductor optical amplifiers (SOA), especially to benefit from their large optical bandwidth for signal amplification. In this work, we study the influence of SOAs on the coherent optical-OFDM (CO OFDM) transmission system. This recently proposed technique allows both to increase the spectral efficiency of the transmission and to compensate the linear imperfections of the optical channel. In this work, we have developed an experimental setup for signal transmission operating with advanced optical modulation formats and a system level simulation platform. Simulation results, both at the component level and at the system level, are in very good agreement with those obtained from experimental measurements in the case of both QPSK and QPSK CO-OFDM signals. The study has clearly identified, through various measurements and simulations, the influence of SOA parameters on the quality of data transmission. Nonlinearities induced by the SOA, such as phase-amplitude coupling, self gain and phase modulation (SGM and SPM), cross gain and phase modulation (XGM and XPM) and the four-wave mixing (FWM) affect the performances of this multicarrier modulation format. Their influence is studied very precisely in this work. This acquired knowledge will allow, on the one hand, better defining the conditions of use of SOAs in the transmission networks and, on the other hand, helping to optimize new structures of SOA designed for very high bit rate data transmissions using complex modulation formats.