Le traitement des systèmes pleins issus de modélisation d'interactions de type particulaires est un problème lourd que les méthodes multipôles proposent d'optimiser grâce à des approximations hiérarchiques basées sur la régularité des potentiels sous-jacents. Cette thèse offre des développements sur une nouvelle méthode multipôle pour l'électromagnétisme à la fois en terme d'un traitement unifié de l'ensemble des fréquences et informatique dans le cadre du paralléélisme et d'optimisations algorithmiques telles que le partitionnement par graphes et le recouvrement des communications par des calculs.

Le travail effectué dans cette thèse a consisté à analyser différents aspects mathématiques et numériques d'une stratégie de résolution des problèmes de propagation d'onde acoustique et électromagnétique en domaine extérieur. Nous nous intéressons plus particulièrement à la méthode de couplage entre éléments finis et représentation intégrale (CEFRI) où nous analysons un algorithme de résolution itérative par analogie avec une méthode de décomposition de domaine ainsi que l'utilisation de la méthode multipôles rapide (FMM). Le système à résoudre fait intervenir des opérateurs intégraux ce qui rend crucial le recours à des méthodes rapides telles que la FMM. L'analogie avec une méthode de décomposition de domaine s'obtient par extension au problème de Maxwell des résultats établis par F. Ben Belgacem et al. pour le problème de Helmholtz posé en domaine non borné. Pour cela, nous avons montré le lien entre la méthode CEFRI et la méthode de Schwarz avec recouvrement total pour la résolution du problème de Maxwell en domaine non borné. Cette relecture de la méthode CEFRI offre également une technique de préconditionnement pour les solveurs de Krylov et nous a permis d'avoir une idée préliminaire sur la convergence de ces méthodes. Ainsi, nous nous intéressons plutôt à des méthodes itératives rapides. Pour cela, nous avons mené une analyse théorique afin de montrer la convergence superlinéaire du GMRES dans une configuration sphérique. La validation de ces aspects a été réalisée par l'enrichissement de nombreux intégrants de la librairie éléments finis Mélina++, en C++. / We are concerned with the study of different aspects of a numerical strategy for the resolution of acoustic and electromagnetic scattering problems. We focus more particu- larly on a coupling of finite element and integral representation (CEFRI) : we study an iterative algorithm by analogy with a domain decomposition method, and consider the use of the Fast Multipole Method (FMM). The system to be solved involves integral operators which requires the use of fast methods such as the FMM. The correspondence with a domain decomposition method is obtained by extending to the exterior Maxwell problem the results derived by F. Ben Belgacem et al. for the Helmholtz problem posed in unbounded domain. To this aim, we show the analogy to the Schwarz method with total overlap. This interpretation of CEFRI suggests a preconditioner for Krylov solvers and enables us to have a preliminary idea of their convergence. We derive in this context an analytical proof of a superlinear convergence of GMRES in a spherical configuration. The validation of these aspects has been achieved by the enrichment of the finite element library Mélina++ in C++.