Le trafic internet mondial étant toujours plus important, l’augmentation du débit transmis dans les fibres optiques de façon à diminuer le coût par bit est nécessaire. Les technologies actuelles sur fibres monomodes approchent une limite fondamentale empêchant une augmentation conséquente du débit dans les fibres optiques. Une nouvelle technique appelée le multiplexage de mode spatial est une solution pour dépasser cette limite. Plusieurs modes spatiaux, correspondant aux solutions des équations de propagation, sont multiplexés dans une fibre spécifique pour multiplier le débit transmis par le nombre de modes utilisés. Pour la mise en œuvre de cette technique, ma stratégie est de séparer les modes spatiaux de façon hybride, c'est-à-dire d’abord optiquement puis avec un traitement numérique relativement peu complexe. Dans cette approche, la diaphonie entre les modes non dégénérés n’est pas compensée et doit donc être minimisée sur toute la ligne de transmission pour une transmission de données de bonne qualité. Par l’utilisation d’un multiplexeur-démultiplexeur et d’une fibre pouvant propager six modes spatiaux et induisant peu de diaphonie, j’ai réalisé la transmission d’un signal monocanal de 6x100 Gbit/s dans une fibre de 40 km. Pour des transmissions plus longues que 80 km, un amplificateur est nécessaire pour compenser les pertes de la fibre optique. J’ai donc conçu un amplificateur à fibre dopé Erbium pour cinq modes spatiaux induisant peu de diaphonie et avec un gain supérieur à 15 dB pour tous les modes et réalisé la transmission d’un signal de 5x100 Gbit/s sur une distance de 80 km avec un traitement numérique relativement simple. / With the growth of the internet traffic, it is necessary to increase the throughput of optical fibers in such a manner that the cost per transmitted bit decreases. With the current single mode fiber technologies, we are approaching a fundamental limit which prevents us to continue to increase the throughput in these fibers. A new technique called spatial mode multiplexing is investigated as a solution to overcome this limit. Several spatial modes, corresponding to the solutions of the propagation equations in the fiber, are multiplexed into a specific fiber in order to multiply the throughput by the number of transmitted modes. To implement this technique, my strategy is to separate modes first optically and to use a relatively low complex digital signal processing (DSP). Thus the crosstalk between spatial modes should be minimized in the whole transmission line to retrieve the data. By using a multiplexer-demultiplexer and a fiber supporting six modes and inducing low crosstalk, I achieved 40 km long transmission of six modes each transporting 100 Gb/s on a single wavelength. Transmissions longer than 80 km need an amplifier supporting all modes to compensate the losses in the optical fiber. I thus built a five modes Erbium doped fiber amplifier with low crosstalk and >15 dB gain to achieve the transmission of five modes carrying each 100 Gbit/s in an 80 km long fiber with low complex DSP.

En propagation endo-atmosphérique et sur des longues distances (supérieure à quelques kilomètres), les effets de la turbulence atmosphérique sont importants pour les liaisons de télécommunication optique en espace libre (LOA). Le champ de l'onde subit des perturbations de phase qui modulent l'intensité reçue par le récepteur, dans des proportions pouvant être rédhibitoires pour la fiabilité de la liaison. La pré-compensation du champ émis à l'aide d'une optique adaptative (OA) a été proposée afin de limiter cet effet et de permettre d'augmenter la distance de propagation ainsi que le débit des LOA. L'objectif de cette thèse est d'évaluer les performances et les limites, en termes d'efficacité vis-à-vis des LOA, des différentes méthodes de corrections par OA et d'étudier la possibilité de concepts plus efficaces. Nous avons montré qu'une approche itérative de correction de phase et d'amplitude - qualifiée de correction optimale - permet d'atteindre des performances excellentes, la meilleure parmi les approches proposées jusque-là. L'étude de cette approche théorique, nous a permis de fixer les limites de l'apport d'un système d'OA et de montrer que la correction a encore un intérêt largement au-delà de la limite des faibles perturbations. Dans le régime de fortes turbulences, nous montrons les limites des approches classiques - OA par mesure de front d'onde (ASO), par modulation de phase ou itérative de phase (qualifiée de sous-optimale) - notamment à cause de la scintillation, des enroulements de phase et de la présence de bruit de mesure. Nous avons quantifié la baisse de leurs performances vis-à-vis de la correction optimale et proposé une solution permettant de s'affranchir des effets de la scintillation sur la mesure de front d'onde. Nous avons finalement proposé un dispositif pour la pré-compensation de phase et d'amplitude et plus particulièrement de la mesure et de la commande qui devrait permettre de mettre en œuvre la correction optimale.