La dispersion modale de polarisation (PMD) est devenue pour les transmissions optiques haut débit, un des principaux facteurs qui limite la qualité du signal. Au premier ordre, la PMD génère un dédoublement des impulsions alors qu'au deuxième ordre, c'est un élargissement et des distorsions d'impulsions qui se produisent. Plusieurs solutions optiques, pour la compensation de PMD, ont été proposées, toutes utilisent un contrôleur de polarisation. L'objectif de cette thèse est donc l'étude du contrôle de la polarisation rapide et sans fin pour la compensation de PMD. Trois architectures de contrôleur avec deux lames biréfringentes à axe tournant ont été proposées et testées. Ces architectures permettent de transformer continûment les états de polarisation avec seulement deux degrés de liberté. Des simulations et des études expérimentales ont été effectuées, et elles ont démontré la faisabilité des architectures et des algorithmes proposés. Parallèlement, nous nous sommes intéressés à l'évaluation qualitative et quantitative de l'impact de la PMD au deuxième ordre, avec compensation de PMD au premier ordre, en simulant des systèmes de transmission optique à 40Gbit/s. Les résultats ont démontré que les deux composantes de la PMD au deuxième ordre: dépolarisation et dispersion chromatique dépendant de la polarisation, ont des conséquences très différentes sur les pénalités du rapport signal à bruit optique.