Le travail de thèse est consacré à l'étude des potentialités magnéto-optiques de couches minces élaborées par voie sol-gel organique-inorganique et dopées par de nanoparticules magnétiques dans le but de réaliser des composants à effet non réciproque en configuration guidée tel que l'isolateur optique. Le choix de la voie sol-gel se justifie par sa qualité de chimie douce et son aptitude à élaborer des guides de faible indice pour une épaisseur ajustable. L'intérêt porté aux nanoparticules magnétiques s'explique par l'effet magnéto-optique intéressant qu'elles présentent. La finalité de la thèse consiste à réaliser la conversion entre les modes TE-TM. Deux paramètres doivent donc être contrôlés finement pour obtenir un guide d'onde planaire ayant des effets magnéto-optiques intéressants : la biréfringence modale et la rotation Faraday. Les résultats obtenus montrent une très forte potentialité de la matrice sol-gel dopée. Il s'agit d'une rotation Faraday spécifique de 250 °/cm et une biréfringence modale de 10^(-4) ce qui permet de prévoir potentiellement un taux de conversion s'élevant 80 %. De plus, l'application d'un champ magnétique pendant la gélification des couches induit une forte diminution de la biréfringence ce qui permet de prévoir un accord de phase. Une conversion de mode totale est donc potentiellement réalisable. D'autre part, la courbe de la rotation Faraday présente un cycle d'hystérésis caractérisé par une rotation rémanente de 40 % de la valeur de la rotation à saturation, soit qr = 100 °/cm. L'existence d'une telle rotation sans aucun champ appliqué ouvre la voie à la réalisation de composants auto-polarisés.

Les problèmes associés aux fluctuations de l'état de polarisation des signaux lumineux transitant dans la fibre optique limitent actuellement les débits en transmission. Les solutions basées sur un contrôle de la polarisation du signal utilisent principalement les propriétés de la fibre optique, des cristaux liquides ou du niobate de lithium (LiNbO3) pour les composants d'optique intégrée. Toutefois, la nature même de ces matériaux ne permet pas d'associer sur une même puce les fonctions optiques et électroniques. Pour relever le défit de la miniaturisation des dispositifs, l'utilisation des matériaux semiconducteurs s'impose. L'objectif de ce travail de thèse s'inscrit dans ce cadre : il s'agit d'étudier puis de concevoir un convertisseur de polarisation TE/TM intégré sur substrat semiconducteur III-V de type GaAs. Le composant se base sur les effets électro-optiques linéaires pour modifier l'état de polarisation du signal optique. Ainsi, en menant un étude sur les propriétés électro-optiques linéaires, nous avons montré que l'application de deux champs électriques croisés au niveau du guide optique permettait de modifier l'état de polarisation de la lumière avec une efficacité équivalente à celle des composants intégrés sur niobate de lithium. En modélisant la propagation des modes guidés à travers le composant, les paramètres structurels ont pu être déterminés de manière à répondre aux contraintes imposées par le mode de fonctionnement (biréfringence modale et pertes optiques TM minimales). Les guides de type "chargés enterrés" ont ensuite été réalisés en utilisant les techniques micro-photolithographiques. L'aspect relatif à la nature des contacts électriques a été ensuite développée puis les modulateurs ont été fabriqués. Les résultats issus de la caractérisation des composants sont très prometteurs et démontrent ainsi le potentiel des matériaux semiconducteurs.