La simulation numérique de la propagation d'ondes sismiques est un besoin actuel, par exemple pour modéliser les vibrations induites dans les sols par le trafic ferroviaire ou pour analyser la propagation d'ondes sismiques ou l'interaction sol-structure. La modélisation de ce type de problèmes est complexe et nécessite l'utilisation de méthodes numériques avancées. La méthode des éléments de frontière (boundary element method, BEM) est une méthode très efficace pour la solution de problèmes de dynamique dans des régions étendues (idéalisées comme non-bornées), en particulier après le développement des méthodes BEM accélérées par multipôle rapide (Fast Multipole Method, FMM), la méthode utilisée dans ce travail de thèse. La BEM est basée sur une formulation intégrale qui nécessite de discrétiser uniquement la frontière du domaine (i.e. une surface en 3-D) et prend implicitement en compte les conditions de radiation à l'infini. En revanche, la BEM nécessite la résolution d'un système linéaire dont la matrice est pleine et (pour la formulation par collocation de la BEM) non-symétrique. Cette méthode est donc trop onéreuse pour des problèmes de grandes dimensions (par exemple O(106) DDLs). L'application à la BEM de la méthode multipôle rapide multi-niveaux (multi-level fast multipole method, ou ML-FMM diminue considérablement la complexité et les besoins de mémoire affectant les formulations BEM classiques, rendant la BEM très compétitive pour modéliser la propagation des ondes élastiques. La version élastodynamique de la ML-FMBEM, dans une forme étendue aux domaines homogènes par morceaux, a par exemple été appliquée avec succès dans un travail précédent (thèse S. Chaillat, ENPC, 2008) pour résoudre les problèmes de propagation des ondes sismiques. Cette thèse vise a développer les capacités de la version élastodynamique fréquentielle de la ML-FMBEM dans deux directions. Premièrement, la formulation de la ML-FMBEM a été étendue au cas de matériaux viscoélastiques linéaires faiblement dissipatifs. Deuxièmement, la ML-FMBEM et la méthode des éléments finis (finite element method, FEM) ont été couplées afin de permettre la résolution de problèmes plus compliqués. En effet, le couplage FEM/FMBEM permet de profiter d'un côté de la flexibilité de la FEM pour la modélisation de structures de géométrie complexe ou présentant des non-linéarités de comportement, de l'autre côté de la prise en compte naturelle par la ML-FMBEM des ondes se propageant dans un milieu étendu et rayonnant à l'infini. De nouvelles perspectives d'application (par exemple prise en compte d'hétérogénéités, non-linéarités de comportement) sont ainsi ouvertes. Dans cette thèse, nous avons considéré deux stratégies pour coupler la FMBEM et la FEM avec l'objectif de résoudre les problèmes tridimensionnels de propagation des ondes harmoniques dans le temps et dans des domaines non-bornés. L'idée principale consiste à séparer une ou plusieurs sous-régions pouvant contenir des structures complexes, de fortes hétérogénéités ou des non-linéarités (modélisées au moyen de la FEM) du milieu propagatif complémentaire semi-infini et (visco-) élastique (modélisé au moyen de la FMBEM). Cette séparation est effectuée au moyen d'une décomposition de domaines sans recouvrement. Le deux approches proposées ont été mises en oeuvre, et une série d'expérimentations numériques a été effectuée pour les évaluer et les comparer / The numerical simulation of elastic wave propagation in unbounded media is a topical issue. This need arises in a variety of real life engineering problems, from the modelling of railway- or machinery-induced vibrations to the analysis of seismic wave propagation and soil-structure interaction problems. Due to the complexity of the involved geometries and materials behavior, modelling such situations requires sophisticated numerical methods. The Boundary Element method (BEM) is a very effective approach for dynamical problems in spatially-extended regions (idealized as unbounded), especially since the advent of fast BEMs such as the Fast Multipole Method (FMM) used in this work. The BEM is based on a boundary integral formulation which requires the discretization of the only domain boundary (i.e. a surface in 3-D) and accounts implicitly for the radiation conditions at infinity. As a main disadvantage, the BEM leads a priori to a fully-populated and (using the collocation approach) non-symmetrical coefficient matrix, which make the traditional implementation of this method prohibitive for large problems (say O(106) boundary DoFs). Applied to the BEM, the Multi-Level Fast Multipole Method (ML-FMM) strongly lowers the complexity in computational work and memory that hinder the classical formulation, making the ML-FMBEM very competitive in modelling elastic wave propagation. The elastodynamic version of the Fast Multipole BEM (FMBEM), in a form enabling piecewise-homogeneous media, has for instance been successfully used to solve seismic wave propagation problems in a previous work (thesis dissertation of S. Chaillat, ENPC, 2008). This thesis aims at extending the capabilities of the existing frequency-domain elastodynamic FMBEM in two directions. Firstly, the time-harmonic elastodynamic ML-FMBEM formulation has been extended to the case of weakly dissipative viscoelastic media. Secondly, the FMBEM and the Finite Element Method (FEM) have been coupled to take advantage of the versatility of the FEM to model complex geometries and non-linearities while the FM-BEM accounts for wave propagation in the surrounding unbounded medium. In this thesis, we consider two strategies for coupling the FMBEM and the FEM to solve three-dimensional time-harmonic wave propagation problems in unbounded domains. The main idea is to separate one or more bounded subdomains (modelled by the FEM) from the complementary semi-infinite viscoelastic propagation medium (modelled by the FMBEM) through a non-overlapping domain decomposition. Two coupling strategies have been implemented and their performances assessed and compared on several examples