Ce travail de thèse examine la possibilité d'utiliser de nouvelles fibres optiques fortement non-linéaires pour des applications de régénération tout-optique à 40 Gbit/s. Les fibres optiques étudiées sont des fibres optiques microstructurées en verre de silice et en verre de chalcogénure fabriquées dans le cadre d'une collaboration avec la Plate-forme d'Etudes et de Recherche sur les Fibres Optiques Spéciales (PERFOS, Lannion) et l'Equipe Verres et Céramiques (EVC) de l'UMR Sciences Chimiques de Rennes. Le régénérateur optique étudié est le régénérateur proposé par P.V. Mamyshev, basé sur le phénomène d'automodulation de phase dans une fibre optique non-linéaire. Les résultats originaux obtenus lors de ce travail de thèse se situent sur les trois plans suivants : la modélisation de la propagation non-linéaire dans les fibres optiques, la caractérisation de fibres optiques non linéaires et l'étude d'un régénérateur tout-optique à 40 Gbit/s. <br />En ce qui concerne la modélisation de la propagation non-linéaire, ce travail passe en revue plusieurs méthodes de résolution de l'équation non-linéaire de Schrödinger (ENLS) connues sous le nom de méthodes split-step Fourier. Pour trois de ces méthodes, une modification astucieuse de l'algorithme de résolution numérique de l'ENLS permettant d'augmenter l'efficacité de la méthode est proposée. Ce travail présente également une nouvelle méthode split-step Fourier permettant de résoudre l'ENLS avec une précision choisie.<br />Pour la partie concernant la caractérisation de fibres optiques non-linéaires, ce travail présente, pour la première fois, les caractérisations optiques de fibres optiques microstructurées en verre de chalcogénure et démontre leur fort potentiel pour des applications non-linéaires. Des caractérisations non-linéaires de fibres optiques microstructurées en verre de silice présentant une faible atténuation et un gain Raman record sont également présentées. Une nouvelle méthode pour mesurer simultanément la dispersion chromatique et le coefficient non-linéaire de fibres optiques, basée sur l'effet de compression soliton, est proposée.<br />Concernant l'étude du régénérateur de Mamyshev, ce travail propose une étude théorique conduisant à l'élaboration d'un abaque pour le dimensionnement du régénérateur et permettant d'étudier le rôle du pré-filtrage et le mécanisme de gigue temporelle introduite par le régénérateur. L'étude expérimentale du régénérateur met en évidence le rôle néfaste de l'effet Brillouin et du mélange à quatre ondes sur les performances d'un régénérateur à 40 Gbit/s. Une nouvelle architecture de régénérateur, basée sur l'utilisation d'un compresseur d'impulsions, est proposée afin d'éliminer ces effets indésirables. Son efficacité est démontrée au cours d'une expérience de régénération en boucle à recirculation.

Ce travail de thèse est consacré à l'étude théorique et expérimentale de la régénération tout-optique pour les systèmes de télécommunications longue distance et très-haut débit. Nous nous intéressons plus particulièrement à des solutions compactes, bas coût, et compatibles avec des systèmes multiplexés en longueur d'onde (WDM). Ces travaux se sont orientés vers des dispositifs à base d'absorbant saturable en microcavité (AS) qui grâce à un couplage optique vertical et un démultiplexage spatial des longueurs d'onde rend ce composant très attractif pour des applications de régénération tout-optique dans des systèmes de transmission WDM. Premièrement, nous étudions une architecture de régénérateur optique 2R basé sur l'association d'un AS et d'un limiteur de puissance utilisant des effets non-linéaires dans une fibre optique. Durant cette thèse, un module AS à 8 canaux a été réalisé. Ce module a permis d'étudier la compatibilité de l'AS avec des systèmes de transmission WDM. L'efficacité de ce module AS pour la régénération 2R est validée à l'aide d'une boucle à recirculation de 100 km. Nous avons démontré expérimentalement sur les 8 canaux du module une amélioration de la distance de transmission d'un facteur 3,3 pour un taux d'erreur binaire de 10−4 . Deuxièmement, une solution alternative pour réaliser la fonction de limiteur de puissance basé également sur un AS est proposée. Nous étudions donc un dispositif de régénération qui associe un premier AS, permettant d'améliorer le taux d'extinction du signal, et un deuxième AS traitant les fluctuations des puissances optiques élevées (symbole "un"). Ensuite, un régénérateur 3R tout-optique basé sur le régénérateur 2R et une technique de modulation synchrone est considéré. La modulation synchrone est réalisée par une modulation d'absorption croisée dans l'AS obtenue en injectant une horloge optique issue d'une récupération d'horloge (RH) tout-optique. Cette RH utilise des lasers à verrouillage de modes à semi-conducteurs. Ce dispositif 3R a été inséré dans une boucle à recirculation de 100 km et étudié à un débit de 42,7 Gbit/s. L'étude expérimentale à montré un facteur d'amélioration de la distance de transmission de 22,5 pour un taux d'erreur binaire de 10−8 et correspondant à une distance de transmission de 18 000 km. Enfin, l'étude d'un dispositif de régénération tout-optique permettant de traiter un signal dont l'information est portée par la phase (DPSK) est menée. Nous avons étudié l'impact de l'AS quand il est utilisé comme limiteur de puissance dans un système de transmission DPSK. En effet, l'AS permet de limiter les fluctuations d'intensité et ainsi de se prévenir contre l'accumulation de bruit de phase non-linéaire. Nous avons démontré expérimentalement avec une boucle à recirculation de 100 km que ce type de régénérateur permet une amélioration jusqu'à un facteur 1,6 sur la distance de transmission pour un taux d'erreur binaire de 10−4.

Ce travail de thèse est consacré à l'étude d'architectures de fonctions optiques à base d'amplificateurs optiques à semi-conducteurs pour la conversion de longueur d'onde et la régénération tout-optique à très haut débit.<br />Après une présentation générale des systèmes de transmission optique, et notamment des dégradations subies par le signal lors de son transport, les principes de la conversion de longueur d'onde et de la régénération tout-optique sont abordés. Les notions de portes optiques, de fonction caractéristique, de régénération 1R, 2R et 3R sont introduites et expliquées, puis la problématique de caractérisation des fonctions optiques pour la conversion de longueur d'onde et surtout la régénération est traitée. Enfin, un état de l'art des différentes techniques est présenté.<br />L'amplificateur à semi-conducteurs (SOA) présentant de nombreux attraits pour les applications de conversion de longueur d'onde et de régénération, celui-ci a constitué le coeur des fonctions optiques étudiées.<br />Ainsi, l'association de deux convertisseurs en longueur d'onde, un miroir à boucle optique non-linéaire (NOLM-SOA) et un double étage de SOA (DSSOA), a permis de réaliser un régénérateur 3R original. L'introduction de celui-ci dans une boucle à recirculation de 100 km a montré sa capacité régénérative puisqu'une transmission sans erreur à 10 Gbit/s et sur 100 000 km a ainsi pu être réalisée. De plus, ce dispositif a montré une très grande stabilité, notamment aux variations de polarisation du signal de données. Une étude approfondie a mis en évidence qu'un même SOA peut être plus ou moins sensible à la polarisation selon sa configuration d'utilisation (auto-saturation, saturation croisée, selon les longueurs d'onde des signaux, leurs polarisations ...). Nous avons ainsi établi que le phénomène à l'origine de cette modification de sensibilité est un mélange d'ondes entre la pompe et la sonde conduisant à une dissymétrie du spectre de gain dépendante des états de polarisation respectifs des deux ondes.<br />Enfin, la montée en débit a constitué la dernière étape de ces travaux. Les SOA étant limités par le temps de récupération du gain, la problématique du raccourcissement et de mesure de ce temps a été traitée. Puis de nouvelles architectures, à base de SOA, compatibles avec les très hauts débits ont été recherchées. Une technique à base de modulation de phase croisée dans un SOA convertie en modulation d'amplitude par un filtre décalé a été étudiée à différents débits et pour différentes conditions de filtrage. Une conversion de longueur d'onde sans erreur à 80 Gbit/s a été obtenue grâce à un filtrage décalé vers les courtes longueurs d'onde.

Nous présentons dans ce rapport de thèse plusieurs études relatives à l'amélioration des signaux optiques d'information numérique dans les systèmes de télécommunications à très haut débit. L'amélioration du taux d'extinction des sources impulsionnelles permet une meilleure stabilité des signaux multiplexés temporellement (OTDM), en réduisant l'interférence entre les symboles. L'utilisation de portes optiques non-linéaires permet de régénérer le signal dans les liaisons dites “ point à point ” ainsi qu'aux nœuds de commutation des futurs réseaux tout-optiques. Les principales réalisations de cette thèse portent sur : <br />- La remise en forme d'impulsions optiques améliorant le taux d'extinction, par mélange à quatre ondes dans les amplificateurs à semi-conducteurs (SOA) <br />- La réalisation et la caractérisation de deux fonctions optiques non-linéaires à base de semi-conducteurs pour la régénération des signaux supérieurs à 10 Gbit/s : le Double-Etage de SOA et le miroir optique non-linéaire à base de SOA (NOLM-SOA). Les résultats présentés dans la thèse sont obtenus à partir des simulations et de mesures expérimentales en environnement système.

Nous étudions en détail les effets de polarisation dans les mélanges paramétriques à trois ondes en cavité. Nous nous intéressons tout d'abord à l'étude théorique de l'Oscillateur Paramétrique Optique (OPO) de type II dans lequel nous insérons une lame biréfringente. En type II signal et complémentaire sont polarisés orthogonalement et nous montrons que le couplage induit par la lame créée une zone d'accrochage où l'OPO fonctionne à dégénérescence de fréquence. Après avoir caractérisé de manière approfondie les propriétés classiques de ce système, nous étudions l'intrication quantique des faisceaux jumeaux et relions les résultats obtenus à différents critères d'information quantique. Nous faisons également l'étude expérimentale et théorique d'un système de régénération tout-optique basé sur la génération vectorielle de seconde harmonique à reconversion paramétrique de type II avec une double cavité et étudions la faisabilité d'un tel système dans des conditions télécom.

Face à l'augmentation constante du trafic lié notamment à Internet, la demande de capacité dans les réseaux cœur ne cesse de croitre : le débit par canal des systèmes WDM a atteint 40 Gbit/s et va bientôt atteindre 100 Gbit/s. A partir de 40 Gbit/s, le traitement tout optique du signal peut offrir une solution intéressante pour réduire la consommation ainsi que le coût des systèmes optiques du futur. L'objectif de cette thèse est de développer des portes optiques non linéaires et d'explorer des méthodes de récupération d'horloge optiques, toutes à base des semiconducteurs, pour la régénération tout optique de signaux à un débit égal ou supérieur à 40 Gbit/. La dynamique ultrarapide du gain des amplificateurs optiques à semiconducteur (SOA) est étudiée afin de l'exploiter pour développer des fonctions simples et compactes permettant la remise en forme du signal. Concernant la fonction de resynchronisation, différentes récupérations d'horloge tout optiques ont été étudiées dans cette thèse. La première partie des travaux a été consacrée entièrement aux portes optiques non linéaires à base des SOA pour des applications à la régénération 2R. L'expérience pompe sonde permettant mesurer le temps de récupération du gain a été réalisée pour étudier la dynamique des SOA. Dans cette thèse, il a été démontré que le SOA massif à fort confinement et le SOA ultra-long à boîtes quantiques sont les plus adaptés pour un fonctionnement à 40 Gbit/s avec des temps de récupération du gain respectivement de 20 ps et 10 ps. Les études expérimentales ainsi que numériques ont mis en évidence la contribution importante des effets intrabandes à la dynamique du gain lorsque des SOA sont saturés par des impulsions courtes (quelques picosecondes). Le SOA massif de fort confinement a été associé avec un absorbant saturable (SA) pour constituer une fonction de régénération 2R complète. L'efficacité du régénérateur SOA SA pour la remis en forme du signal à 40 Gbit/s a été démontrée expérimentalement and numériquement. La deuxième partie des travaux a été dédiée à la récupération d'horloge à base de lasers auto pulsants en vue d'une application à la régénération 3R à 40 Gbit/s. Nous avons proposé une technique originale pour évaluer la performance des fonctions de récupération d'horloge, qui consiste à remoduler l'horloge récupérée. Une nouvelle configuration a été élaborée pour améliorer la qualité de l'horloge récupérée par le laser auto pulsant à base de matériau massif. Elle consiste à introduire un pré filtrage passif devant le laser. La sensibilité à la polarisation des récupérations d'horloge a été également étudiée. La récupération d'horloge utilisant le laser massif suivi par le laser à boîtes quantiques a montré son insensibilité à la polarisation du signal injecté par la mesure du taux d'erreur binaire. Enfin, une étude préliminaire sur la tolérance des récupérations d'horloge à la dispersion modale de polarisation a été menée.

Cette thèse est consacrée à l'étude des absorbants saturables à multipuits quantiques (MPQ) InGaAs/InP dopés fer. Les non-linéarités de l'absorption excitonique sont exploitées pour la régénération tout-optique du signal à 1.55mm. Un modèle théorique permet de calculer les propriétés optiques non-linéaires des puits quantiques. L'efficacité du dopage fer des MPQ à réduire le temps de relaxation de l'absorption est démontrée expérimentalement et expliquée par un modèle dynamique de la capture des porteurs par les atomes de fer. L'insertion des MPQ dopés fer en microcavité, à mode accordé à la résonance excitonique, réduit la puissance de commande optique d'un facteur 50 et permet d'obtenir un contraste de 8dB. Un tel contraste augmente la distance de propagation de plus de 1000km pour un signal numérique à 10 Gb/s. Le temps de réponse peut être réduit à une valeur record de 290fs, tout en gardant un contraste de 5dB.

Les formats de modulation bidimensionnels (i.e. basés sur l’amplitude et la phase de l’onde porteuse) ont gagné depuis peu le domaine des transmissions par fibre optique grâce aux progrès conjoints de l’électronique rapide et du traitement du signal, indispensables pour réaliser les récepteurs opto-électroniques utilisant la détection cohérente des signaux optiques. Pour pallier les limites actuelles en rapidité de commutation des circuits intégrés électroniques, une voie de recherche a été ouverte il y a quelques années, consistant à utiliser des technologies optiques pour faciliter la parallélisation du traitement du signal, notamment dans l’étape d’échantillonnage ultra-rapide du signal rendu possible par des horloges optiques très performantes. Le thème principal de cette thèse concerne l’étude théorique et expérimentale de la fonction de conversion analogique-numérique (ADC) de signaux optiques par un récepteur opto-électronique cohérent, associant les étapes d’échantillonnage optique linéaire, de conversion analogique-numérique et de traitement du signal. Un prototype, utilisant une solution originale pour la source d’échantillonnage, est modélisé, réalisé et caractérisé, permettant la reconstruction temporelle de signaux optiques modulés selon divers formats : NRZ, QPSK, 16-QAM. Les limitations optiques et électroniques du système sont analysées, notamment l’impact sur la reconstruction des signaux de divers paramètres : le taux d’extinction de la source optique, les paramètres de l’ADC (bande passante BW, temps d’intégration et nombre effectif de bits ENOB). Par ailleurs, de nouveaux algorithmes de traitement du signal sont proposés dans le cadre de la transmission optique cohérente à haut débit utilisant des formats de modulation bidimensionnels (amplitude et phase) : deux solutions sont proposées pour la compensation du déséquilibre de quadrature IQ dans les transmissions mono-porteuses: une méthode originale de l’estimation du maximum du rapport signal sur bruit ainsi qu’une nouvelle structure de compensation et d’égalisation conjointes; ces deux méthodes sont validées expérimentalement et numériquement avec un signal 16-QAM. Par ailleurs, une solution améliorée de récupération de porteuse (décalage de fréquence et estimation de la phase), basée sur une décomposition harmonique circulaire de la fonction de maximum de vraisemblance logarithmique, est validée numériquement pour la première fois dans le contexte des transmissions optiques (jusqu’à une modulation de 128-QAM). Enfin les outils développés dans ce travail ont finalement permis la démonstration d’une transmission sur 100 km d’un signal QPSK à 10 Gbaud fortement limité par un bruit de phase non linéaire et régénéré optiquement à l’aide d’un limiteur de puissance préservant la phase basé sur une nanocavité de cristal photonique. / Bi-dimensional modulation formats based on amplitude and phase signal modulation, are now commonly used in optical communications thanks to breakthroughs in the field of electronic and digital signal processing (DSP) required in coherent optical receivers. Photonic solutions could compensate for nowadays limitations of electrical circuits bandwidth by facilitating the signal processing parallelization. Photonic is particularly interesting for signal sampling thanks to available stable optical clocks. The heart of the present work concerns analog-to-digital conversion (ADC) as a key element in coherent detection. A prototype of linear optical sampling using an original solution for the optical sampling source, is built and validated with the successful equivalent time reconstruction of NRZ, QPSK and 16-QAM signals. Some optical and electrical limitations of the system are experimentally and numerically analyzed, notably the extinction ratio of the optical source or the ADC parameters (bandwidth, integration time, effective number of bits ENOB). Moreover, some new DSPs tools are developed for optical transmission using bi-dimensional modulation formats (amplitude and phase). Two solutions are proposed for IQ quadrature imbalance compensation in single carrier optical coherent transmission: an original method of maximum signal-to-noise ratio estimation (MSEM) and a new structure for joint compensation and equalization; these methods are experimentally and numerically validated with 16-QAM signals. Moreover, an improved solution for carrier recovery (frequency offset and phase estimation) based on a circular harmonic expansion of a maximum loglikelihood function is studied for the first time in the context of optical telecommunications. This solution which can operate with any kind of bi-dimensional modulation format signal is numerically validated up to 128-QAM. All the DSP tools developed in this work are finally used in a demonstration of a 10 Gbaud QPSK 100 km transmission experiment, featuring a strong non-linear phase noise limitation and regenerated using a phase preserving and power limiting function based on a photonic crystal nanocavity.