Cette thèse s'inscrit dans le cadre de l'étude, à la fois théorique et numérique, de la diffraction d'une onde harmonique par la jonction entre deux guides d'ondes ouverts. Nous démontrons que ce problème est bien posé. Pour cela, nous utilisons des conditions de rayonnement modales, qui sont fondées sur la représentation de la solution dans un guide droit à l'aide des modes guidés (liés au spectre ponctuel de l'opérateur transverse) et des modes de radiation (liés au spectre continu de l'opérateur transverse). Cette représentation semble difficile à mettre en oeuvre dans une méthode numérique, à cause du continuum des modes de radiation. Comme alternative, nous utilisons des PMLs (Perfectly Matched Layers) pour borner le domaine de calcul dans les directions transverses, ce qui modifie singulièrement la nature de l'opérateur transverse : il perd son caractère autoadjoint et son spectre devient exclusivement discret. Parmi ses nouveaux modes, se trouvent désormais des modes à fuite, dont les propriétés sont étudiées. Nous expliquons en quoi la perte du caractère autoadjoint implique que le calcul des modes peut être délicat. Nous expliquons ensuite comment utiliser ces nouveaux modes (formant maintenant un ensemble discret) dans des méthodes numériques pour la jonction entre deux guides d'ondes ouverts (conditions aux limites transparentes fondées sur des opérateurs de Dirichlet-to-Neumann, méthode multimodale).