Sur le plan international, deux formulations des problèmes de champs par les équations intégrales de frontières sur un potentiel scalaire se sont imposées. Au premier chapitre, nous établissons ces deux formulations: "globale" et "de l'identité de Green" à partir des équations physiques fondamentales et nous dégageons l'intérêt et les limites de chacune. Le domaine d'application privilégié de la première est l'électrostatique en raison de la linéarité des milieux généralement rencontrés et des conditions aux limites qui lui sont propres. La seconde est une généralisation de la première et permet de résoudre le problème de Laplace associé à n'importe quelles conditions aux limites : on peut de ce fait envisager dans l'avenir un couplage avec une méthode variationnelle pour la résolution des problèmes non linéaires. <br /><br />Le second chapitre est consacré à la méthode de l ' identité de Green en général. Dans un premier paragraphe, nous établissons de façon originale les conditions d'équivalence entre les équations physiques et les équations intégrales de frontières, ce qui nous conduit en particulier à une condition a priori d'équivalence pour les systèmes plans. Le traitement numérique et en particulier la discrétisation des équations introduit des erreurs que nous cherchons à caractériser au second paragraphe. Le troisième paragraphe est consacré plus spécialement aux problèmes associés à la discrétisation par des éléments finis isoparamétriques : critères de choix des ensembles de points où sont écrites les équations, de la méthode de résolution – directe ou projective – ; traitement particulier des points anguleux, rôle et utilisation du facteur angulaire de l'équation intégrale. Le chapitre se termine par un paragraphe consacré à l'exploitation des résultats : calcul des grandeurs en dehors des frontières et des grandeurs globales, tracé de lignes équipotentielles.<br /><br />Le troisième chapitre concerne la formulation axisymétrique de la méthode de l'identité de Green : lorsqu'un système possède une symétrie de révolution, il n'a en fait que deux dimensions et il est possible d'exprimer directement les équations intégrales dans ces deux dimensions. Après avoir établi les expressions analytiques nécessaires et montré la démarche faite pour les traiter numériquement, nous présentons des résultats de validation obtenus avec le programme d'ordinateur PHIAX que nous avons développé.

Cette thèse a consisté à élaborer une méthode qui permet de résoudre l’équation intégrale comportant comme inconnues les courants et les charges introduite récemment par Taskinen et Ylä-Oijala par une méthode d’éléments frontière sans aucune contrainte de continuité au niveau des interfaces des éléments aussi bien pour les courants que pour les charges. Nous avons d’abord montré comment on pouvait construire cette équation de façon simple et similaire à celle des formulations intégrales usuelles en imposant au problème intérieur relatif au système de Picard, qui est en fait une extension du système de Maxwell, des conditions aux limites adéquates. Pour des géométries régulières de l’objet diffractant, nous avons établi de façon théorique la stabilité et la convergence des schémas numériques ci-dessus en montrant que cette équation peut être décomposée sous la forme d’un système elliptique coercif et d’un opérateur compact dans le cadre des fonctions de carré intégrable.Toute cette étude a été confirmée par des tests numériques tridimensionnels. Comme pour les équations intégrales usuelles de seconde espèce, le cadre théorique valable pour des surfaces régulières ne l’est plus pour des surfaces avec des singularités. L’utilisation formelle de cette équation,pour des surfaces singulières, a donné des résultats entachés d’erreur. Nous avons mis en évidence l’origine des instabilités numériques à l’origine de ces erreurs lorsque les géométries sont singulières en développant une version bidimensionnelle de cette équation. Cette version nous a permis en particulier de montrer que les instabilités étaient dues à des oscillations parasites concentrées autour des singularités de la géométrie. Dans ce cadre nous avons pu mettre en oeuvre plus aisément des approches pour supprimer ou atténuer ces oscillations parasites ou leur effet sur les calculs en champ lointain. Nous avons montré qu’un procédé d’augmentation des degrés de liberté pour la charge par rapport au courant pouvait sensiblement réduire ces instabilités. A la suite de l’amélioration observée sur les résultats dans le cas 2D, nous avons transposé cette procédure au cas tridimensionnel. A travers divers tests, nous avons constaté l’amélioration de la qualité de l’approximation amenée par la procédure de stabilisation / The objective of this thesis was to develop a method that solves the integral equation whose unknowns are the currents and the charges, recently introduced by Taskinen and Ylä-Oijala, by a boundary element method without any continuity constraint at the interfaces of the elements,for both the unknowns. We first show how to construct this equation in a simple way, similar tothe usual integral formulations, through imposing to the internal problem related to the Picard system,which is an extension of the Maxwell system, appropriate boundary conditions. For regular geometries, we have established a theoretical background ensuring the stability and the convergence of numerical scheme, by proving that this equation can be decomposed in a coercive elliptic and a compact parts in the context of square integrable functions. Our study was validated by three-dimensional numerical tests. In the case of usual integral equations of the second kind, the theoretical background for smooth surfaces is no longer valid when the surfaces is singular. The formal use of this equation for singular surfaces gave erroneous results. We pointed out the origin of numerical instabilities bydeveloping a two-dimensional version of this equation. This version has allowed us to show that the instabilities were due to parasitic oscillations accumulating on the geometrical singularities. In this context, we have implemented some approaches to reduce this parasitic oscillations on the calculations in the far field.We have shown that the method of increasing the freedom degrees for the charges relatively to the current could significantly reduces these instabilities. As a result, we have implemented this procedure in three-dimensional case. Throughout various tests, we noted the improvement on the approximation brough bay to the stabilization procedure

Il existe une grande quantité de méthodes numériques adaptées d’une part à la modélisation, et d'autre part à la résolution des équations de Maxwell. En particulier, la méthode des éléments nis de frontière (BEM), ou méthode des Moments (MoM), semble appropriée pour la mise en équation des phénomènes de diffraction par des objets parfaitement conducteurs, en limitant le cadre de l'étude à la frontière entre l'objet diffractant et le milieu extérieur. Cette méthode mène systématiquement à la résolution d’un système linéaire dense, que nous parvenons à compresser en l'approchant numériquement par une matrice hiérarchique creuse, appelée H-matrice. Cette approximation peut être complétée d'une ré-agglomération permettant d'améliorer la sparsité de la H-matrice et ainsi d'optimiser davantage la résolution du système traité. La hiérarchisation du système s'effectue en considérant la matrice traitée par blocs, que l'on peut ou non compresser selon une condition d'admissibilité. L'Approximation en Croix Adaptative (ACA) ou l'Approximation en Croix Hybride (HCA) sont deux méthodes de compression que l'on peut alors appliquer aux blocs admissibles. Il existe une grande quantité de méthodes numériques adaptées d’une part à la modélisation, et d'autre part à la résolution des équations de Maxwell. En particulier, la méthode des éléments finis de frontière (BEM), ou méthode des Moments (MoM), semble appropriée pour la mise en équation des phénomènes de diffraction par des objets parfaitement conducteurs, en limitant le cadre de l'étude à la frontière entre l'objet diffractant et le milieu extérieur. Cette méthode mène systématiquement à la résolution d’un système linéaire dense, que nous parvenons à compresser en l'approchant numériquement par une matrice hiérarchique creuse, appelée H-matrice. Cette approximation peut être complétée d'une ré-agglomération permettant d'améliorer la sparsité de la H-matrice et ainsi d'optimiser davantage la résolution du système traité. La hiérarchisation du système s'effectue en considérant la matrice traitée par blocs, que l'on peut ou non compresser selon une condition d'admissibilité. L'Approximation en Croix Adaptative (ACA) ou l'Approximation en Croix Hybride (HCA) sont deux méthodes de compression que l'on peut alors appliquer aux blocs admissibles. Le travail de cette thèse consiste dans un premier temps à valider le format H-matrice en 2D et en 3D en utilisant l'ACA, puis d'y appliquer la méthode HCA, encore peu exploitée. Nous pouvons alors résoudre le système linéaire issu de la BEM en utilisant différents solveurs, directs ou non, adaptés au format hiérarchique. En particulier, nous pourrons constater l'efficacité du préconditionnement LU hiérarchique sur un solveur itératif. Nous pourrons alors appliquer ce formalisme au cas des surfaces rugueuses ou encore des fibres à cristaux photoniques (PCF). Il sera également possible de paralléliser certaines opérations sur architecture partagée afin de réduire de nouveau le coût temporel de la résolution. / A lot of numerical methods are available for the modelization as well as the solution of the Maxwell's equations. In particular the boundary element method (BEM), also known as Method of Moments (MoM), seems appropriate to put in equation the scattering problems by perfectly conducting objects, by restricting the study to the frontier between the diffracting object and its surrounding. This method automatically leads to a dense linear system which we are able to compress, numerically approaching it by a hierarchical sparse matrix, called H-matrix. This approximation can be completed with a coarsening which enhance the sparsity of the H -matrix and thus optimizes again the solution of the concerned system. The hierarchization of the system is done considering the concerned matrix by its blocks, which can or cannot be compressed according to an admissibility condition. The Adaptive Cross Approximation (ACA) or the Hybrid Cross Approximation (HCA) are among the possible compression methods available to compress the admissible blocks. This PhD thesis first focuses on the validation of the H-matrix format both in 2D and 3D using the ACA. We then apply to this format the HCA method, which is still quite unmined. Thus we can solve the linear system coming from the BEM using different direct and iterative solution methods which are adapted to suit the hierarchical format. In particular, we will observe the efficiency of the hierarchical LU preconditionning used to enhance an iterative solver. Thus we will be able to apply this formalism on cases such as rough surfaces or photonic crystal fibers (PCF). It will also be possible to make some operations parallel in order to further reduce the time cost of the solution.