Le sujet de cette thèse est le développement de méthodes itératives permettant la résolution degrands systèmes linéaires creux d'équations présentant plusieurs seconds membres simultanément. Ces méthodes seront en particulier utilisées dans le cadre d'une application géophysique : la migration sismique visant à simuler la propagation d'ondes sous la surface de la terre. Le problème prend la forme d'une équation d'Helmholtz dans le domaine fréquentiel en trois dimensions, discrétisée par des différences finies et donnant lieu à un système linéaire creux, complexe, non-symétrique, non-hermitien. De plus, lorsque de grands nombres d'onde sont considérés, cette matrice possède une taille élevée et est indéfinie. Du fait de ces propriétés, nous nous proposons d'étudier des méthodes de Krylov préconditionnées par des techniques hiérarchiques deux niveaux. Un tel pre-conditionnement s'est montré particulièrement efficace en deux dimensions et le but de cette thèse est de relever le défi de l'adapter au cas tridimensionel. Pour ce faire, des méthodes de Krylov sont utilisées à la fois comme lisseur et comme méthode de résolution du problème grossier. Ces derniers choix induisent l'emploi de méthodes de Krylov dites flexibles. / The topic of this PhD thesis is the development of iterative methods for the solution of large sparse linear systems of equations with possibly multiple right-hand sides given at once. These methods will be used for a specific application in geophysics - seismic migration - related to the simulation of wave propagation in the subsurface of the Earth. Here the three-dimensional Helmholtz equation written in the frequency domain is considered. The finite difference discretization of the Helmholtz equation with the Perfect Matched Layer formulation produces, when high frequencies are considered, a complex linear system which is large, non-symmetric, non-Hermitian, indefinite and sparse. Thus we propose to study preconditioned flexible Krylov subspace methods, especially minimum residual norm methods, to solve this class of problems. As a preconditioner we consider multi-level techniques and especially focus on a two-level method. This twolevel preconditioner has shown efficient for two-dimensional applications and the purpose of this thesis is to extend this to the challenging three-dimensional case. This leads us to propose and analyze a perturbed two-level preconditioner for a flexible Krylov subspace method, where Krylov methods are used both as smoother and as approximate coarse grid solver.

Cette thèse s'inscrit dans le sujet des opérateurs intégraux de frontière définis sur le disque unitaire en trois dimensions, leurs relations avec les problèmes externes de Laplace et Helmholtz, et leurs applications au préconditionnement des systèmes linéaires obtenus en utilisant la méthode des éléments finis de frontière.On décrit d'abord les méthodes intégrales pour résoudre les problèmes de Laplace et de Helmholtz en dehors des objets à frontière régulière lipschitzienne, et en dehors des surfaces bidimensionnelles ouvertes dans un espace tridimensionnel. La formulation intégrale des problèmes de Laplace et de Helmholtz pour ces cas est décrite formellement. La mise en oeuvre d'une méthode numérique utilisant la méthode des éléments finis de frontière est également décrite. Les avantages et les défis inhérents à la méthode sont abordés : la complexité du calcul numérique (de mémoire et algorithmique) et le mal conditionnement inhérentes à des systèmes linéaires associés.Dans une deuxième partie on expose une technique optimale de préconditionnement (indépendante de la discrétisation) sur la base des opérateurs intégraux de frontière. On montre comment cette technique est facilement réalisable dans le cas de problèmes définis en dehors d'un objet régulier à frontière lipschitzienne, mais qu'elle pose des problèmes quand ils sont définis en dehors d'une surface ouverte dans un espace tridimensionnel. On montre que les opérateurs intégraux de frontière associés à la résolution des problèmes de Dirichlet et Neumann définis en dehors des surfaces ont des inverses bien définis. On montre également que ceux-ci pourraient conduire à des techniques de préconditionnement optimales, mais que ses formes explicites ne sont pas faciles à obtenir. Ensuite, on montre une méthode pour obtenir de tels opérateurs inverses de façon explicite lorsque la surface sur laquelle ils sont définis est un disque unitaire dans un espace tridimensionnel. Ces opérateurs inverses explicites seront, cependant, en forme des séries, et n'auront pas une adaptation immédiate pour leur utilisation dans des méthodes des éléments finis de frontière.Dans une troisième partie on montre comment certaines modifications aux opérateurs inverses mentionnés permettent d'obtenir des expressions variationnelles explicites et fermées, non plus sous la forme des séries, en conservant certaines caractéristiques importantes pour l'effet de préconditionnement cherché. Ces formes explicites sont en effet applicables aux méthodes des éléments finis frontière. On obtient des expressions variationnelles précises et on propose des calculs numériques pour leur utilisation avec des éléments finis frontière. Ces méthodes numériques sont testées en utilisant différentes identités obtenues dans la théorie développée, et sont ensuite utilisées pour produire des matrices préconditionnantes. Leur performance en tant que préconditionneurs de systèmes linéaires associés à des problèmes de Laplace et Helmholtz à l'extérieur du disque est testée. Enfin, on propose extension de cette méthode pour couvrir les cas de surfaces diverses. Ceci est illustré et étudié dans les cas précis des problèmes extérieurs à des surfaces en forme de carré et en forme de L dans un espace tridimensionnel. / This thesis is about some boundary integral operators defined on the unit disk in a three-dimensional spaces, their relation with the exterior Laplace and Helmholtz problems, and their application to the preconditioning of the systems arising when solving these problems using the boundary element method.We begin by describing the so-called integral method for the solution of the exterior Laplace and Helmholtz problems defined on the exterior of objects with Lipschitz-regular boundaries, or on the exterior of open two-dimensional surfaces in a three-dimensional space. We describe the integral formulation for the Laplace and Helmholtz problem in these cases, their numerical implementation using the boundary element method, and we discuss its advantages and challenges: its computational complexity (both algorithmic and memory complexity) and the inherent ill-conditioning of the associated linear systems.In the second part we show an optimal preconditioning technique (independent of the chosen discretization) based on operator preconditioning. We show that this technique is easily applicable in the case of problems defined on the exterior of objects with Lipschitz-regular boundary surfaces, but that its application fails for problems defined on the exterior of open surfaces in three-dimensional spaces. We show that the boundary integral operators associated with the resolution of the Dirichlet and Neumann problems defined on the exterior of open surfaces have inverse operators, and that these operators would provide optimal preconditioners, but that they are not easily obtainable. Then we show a technique to explicitly obtain such inverse operators for the particular case when the open surface is the unit disk in a three-dimensional space. Their explicit inverse operators will be given, however, in the form of series, and will not be immediately applicable in the use of boundary element methods.In the third part we show how some modifications to these inverse operators allow us to obtain variational explicit and closed form expressions, no longer expressed as series, but also conserve nonetheless some characteristics that are relevant for their preconditioning effect. These explicit and closed forms expressions are applicable in boundary element methods. We obtain precise variational expressions for them and propose numerical schemes to compute the integrals needed for their use with boundary elements. The proposed numerical methods are tested using identities available within the developed theory and then used to build preconditioning matrices. Their performance as preconditioners for linear systems is tested for the case of the Laplace and Helmholtz problems for the unit disk. Finally, we propose an extension of this method that allows for the treatment of cases of open surfaces other that the disk. We exemplify and study this extension in its use on a square-shaped and an L-shaped surface screen in a three-dimensional space.