Les propriétés optiques des nanomatériaux, tels que les cristaux photoniques ou les métamatériaux, ont reçu beaucoup d’attention dans les dernières années [1–9]. La dérivation numérique de ces propriétés se révèle pourtant très compliquée, en particulier dans le cas des structures métallo-diélectriques, qui comportent des résonances plasmoniques. C’est pourquoi des méthodes numériques avancées et des modèles semi-analytiques sont nécessaires. Dans cette thèse, nous montrerons que le formalisme de la matrice de diffraction peut satisfaire ces deux aspects. La méthode de la matrice de diffraction est un concept très général en physique. Dans le cas des structures périodiques, on peut dériver la matrice de diffraction à l’aide de la méthode modale de Fourier [10]. Pour la description exacte des géométries planes, nous avons développé la méthode des coordonnées adaptées [11], qui nous donne un nouveau système de coordonnées, dans lequel les interfaces des matériaux sont des surfaces de coordonnées constantes. En combinaison avec la méthode de la résolution spatiale adaptative, la méthode des coordonnées adaptées permet d’améliorer considérablement la convergence de la méthode modale de Fourier, de telle sorte qu’on peut calculer des structures métalliques compliquées très efficacement. Si on utilise la matrice de diffraction, il est non seulement possible de dériver les propriétés optiques en illumination de champ lointain, comme la transmission, la réflexion, l’absorption, et le champ proche, mais aussi de décrire l’émission d’un objet à l’intérieur d’une structure et d’obtenir les résonances optiques d’un sytème. Dans cette thèse, nous présenterons une méthode efficace pour la dérivation des résonances optiques tridimensionnelles, utilisant directement la matrice de diffraction [14]. Si on connaît les résonances d’un système isolé, il est aussi possible d’obtenir une approximation des résonances dans le cas d’un système combiné à l’aide de notre méthode du couplage des résonances [15, 16]. Cette méthode permet de décrire le régime de couplage des champs lointain et proche, y compris le couplage fort avec les résonances Fabry-Perot, pour des systèmes qui se composent d’un empilement de deux structures planes et périodiques. Pour cette raison, on peut étudier efficacement le couplage de ces systèmes. Cette thèse est écrite de manière à donner une idée d’ensemble du formalisme de la matrice de diffraction et de la méthode modale de Fourier. En outre, nous décrivons notre généralisation de ces méthodes et nous montrons la validité de nos approches pour différents exemples. / The optical properties of nanostructures such as photonic crystals and metamaterials have drawn a lot of attention in recent years [1–9]. The numerical derivation of these properties, however, turned out to be quite complicated, especially in the case of metallo-dielectric structures with plasmonic resonances. Hence, advanced numerical methods as well as semi-analytical models are required. In this work, we will show that the scattering matrix formalism can provide both. The scattering matrix approach is a very general concept in physics. In the case of periodic grating structures, the scattering matrix can be derived by the Fourier modal method [10]. For an accurate description of non-trivial planar geometries, we have extended the Fourier modal method by the concept of matched coordinates [11], in which we introduce a new coordinate system that contains the material interfaces as surfaces of constant coordinates. In combination with adaptive spatial resolution [12,13], we can achieve a tremendously improved convergence behavior which allows us to calculate complex metallic shapes efficiently. Using the scattering matrix, it is not only possible to obtain the optical properties for far field incidence, such as transmission, reflection, absorption, and near field distributions, but also to solve the emission from objects inside a structure and to calculate the optical resonances of a system. In this work, we provide an efficient method for the ab initio derivation of three-dimensional optical resonances from the scattering matrix [14]. Knowing the resonances in a single system, it is in addition possible to obtain approximated resonance positions for stacked systems using our method of the resonant mode coupling [15, 16]. The method allows describing both near field and far field regime for stacked two-layer systems, including the strong coupling to Fabry-Perot resonances. Thus, we can study the mutual coupling in such systems efficiently. The work will provide the reader with a basic understanding of the scattering matrix formalism and the Fourier modal method. Furthermore, we will describe in detail our extensions to these methods and show their validity for several examples.