L'objectif de cette thèse est d'étudier l'impact des courbures sur les guides d'onde qui interviennent dans la confection des dispositifs optiques. Ces guides doivent être conçus pour minimiser la perte du signal causée par la courbure. Nous nous proposons, dans ce travail, de résoudre les équations de Maxwell vectorielles qui modélisent la propagation du champ électromagnétique, pour différents types de guide d'onde. Ainsi, nous développons une formulation en coordonnées curvilignes générales de ces équations basée sur l'approche modale. Pour discrétiser notre problème, nous utilisons une méthode numérique basée sur les éléments finis, ce qui requiert la troncature du domaine de calcul et la considération d'une frontière artificielle. Cette frontière fictive induit des réflexions numériques importantes dans le cas des guides courbés. Pour remédier à ce problème, des conditions de frontières absorbantes sont utilisées. Notre choix porte sur les PML (couches parfaitement adaptées) qui ont montré leur efficacité dans plusieurs cas de problèmes posés sur des domaines ouverts. Pour satisfaire l'exigence de précision requise pour la détermination des constantes de propagation de ces guides, des éléments finis mixtes d'ordre élevé ont été développés. Dans le cas des géométries rectangulaires, nous proposons une nouvelle famille d'éléments quadrangulaires d'ordre 1 et 2 pour discrétiser les équations écrites en coordonnées cylindriques. Pour les géométries circulaires, où une transformation en coordonnées toroïdales est considérée, nous utilisons une nouvelle famille d’éléments axisymétriques d'ordre 1 et 2. Des analyses comparatives montrent la robustesse des formulations et l'efficacité des éléments finis d'ordre élevé développés.