Les structures nanophotoniques sont généralement simulées par des méthodes de volumes, comme la méthode des différences finies dans le domaine temporel (FDTD), ou la méthode des éléments finis (FEM). Toutefois, pour les grandes structures, ou des structures plasmoniques métalliques qui nécessitent, la mémoire et le temps de calcul requis peuvent augmenter de façon spectaculaire.Les méthodes de surface, comme la méthode des éléments de frontière (BEM) ont été développées afin de réduire le nombre d'éléments de maillage. Ces méthodes consistent à exprimer le champ formé dans tout l'espace en fonction des courants électrique et magnétique à la surface de l’objet. Combinées avec la méthode multipôle rapide (FMM) qui permet une accélération du calcul de l'interaction entre les éléments lointain du maillage, de grands systèmes peuvent ainsi être manipulés.Nous avons développé, pour la première fois à notre connaissance, une FMM sur un nouveau formalisme BEM, basé sur les potentiels scalaire et vectoriel au lieu de courants électriques et magnétiques. Cette méthode a été montrée pour permettre une simulation précise des systèmes plasmoniques métalliques, tout en offrant une réduction significative des besoins de calcul. Des systèmes nanophotoniques complexes ont été simulés, comme une lentille plasmonique composé d'un ensemble de nanotubes d'or. / Nanophotonic structures are generally simulated by volume methods, as Finite-difference time-domain (FDTD) method, or Finite element method (FEM). However, for large structures, or metallic plasmonic structures, the memory and time computation required can increase dramatically, and make proper simulation infeasible.Surface methods, like the boundary element method (BEM) have been developed to reduce the number of mesh elements. These methods consist in expressing the electromagnetic filed in whole space as a function of electric and magnetic currents at the surface of scatterers. Combined with the fast multipole method (FMM) that enables a huge acceleration of the calculation of interaction between far mesh elements, very large systems can thus be handled.What we performed is the development of an FMM on a new BEM formalism, based on scalar and vector potentials instead of electric and magnetic currents, for the first time to our knowledge. This method was shown to enable accurate simulation of metallic plasmonic systems, while providing a significant reduction of computation requirements, compared to BEM-alone. Several thousands of unknowns could be handled on a standard computer. More complex nanophotonic systems have been simulated, such as a plasmonic lens consisting of a collection of gold nanorods.