Cette thèse porte sur l'étude théorique et numérique des méthodes rapides pour résoudre les équations de l'élastodynamique 3D en domaine fréquentiel, et se place dans le cadre d'une collaboration avec la société Shell en vue d'optimiser la convergence des problèmes d'inversion sismique. La méthode repose sur l'utilisation des éléments finis de frontière (BEM) pour la discrétisation et sur les techniques de matrices hiérarchiques (H-matrices) pour l'accélération de la résolution du système linéaire. Dans le cadre de cette thèse on a développé un solveur direct pour les BEMs en utilisant une factorisation LU et un stockage hiérarchique. Si le concept des H-matrices est simple à comprendre, sa mise en oeuvre requiert des développements algorithmiques importants tels que la gestion de la multiplication de matrices représentées par des structures différentes (compressées ou non) qui ne comprend pas mois de 27 sous-cas. Un autre point délicat est l'utilisation des méthodes d'approximations par matrices compressées (de rang faible) dans le cadre des problèmes vectoriels. Une étude algorithmique a donc été faite pour mettre en oeuvre la méthode des H-matrices. Nous avons par ailleurs estimé théoriquement le rang faible attendu pour les noyaux oscillants, ce qui constitue une nouveauté, et montré que la méthode est utilisable en élastodynamique. En outre on a étudié l'influence des divers paramètres de la méthode en acoustique et en élastodynamique 3D, à fin de calibrer leur valeurs numériques optimales. Dans le cadre de la collaboration avec Shell, un cas test spécifique a été étudié. Il s'agit d'un problème de propagation d'une onde sismique dans un demi-espace élastique soumis à une force ponctuelle en surface. Enfin le solveur direct développé a été intégré au code COFFEE développé a POEMS (environ 25000 lignes en Fortran 90) / This thesis focuses on the theoretical and numerical study of fast methods to solve the equations of 3D elastodynamics in frequency-domain. We use the Boundary Element Method (BEM) as discretization technique, in association with the hierarchical matrices (H-matrices) technique for the fast solution of the resulting linear system. The BEM is based on a boundary integral formulation which requires the discretization of the only domain boundaries. Thus, this method is well suited to treat seismic wave propagation problems. A major drawback of classical BEM is that it results in dense matrices, which leads to high memory requirement (O (N 2 ), if N is the number of degrees of freedom) and computational costs.Therefore, the simulation of realistic problems is limited by the number of degrees of freedom. Several fast BEMs have been developed to improve the computational efficiency. We propose a fast H-matrix based direct BEM solver.