Cette thèse vise à mettre en place une méthode de calcul automatique de forme optimale pour les antennes, par modification de la forme des motifs métalliques constituant les éléments rayonnants d'une antenne. La première partie propose un état de l'art des deux principales thématiques de cette thèse. Le chapitre 1 présente la simulation électromagnétique des antennes, basée sur la méthode des équations intégrales et résolue par éléments finis de frontière. Le chapitre 2 présente l'algorithme d'optimisation de forme utilisé, qui couple une analyse de sensibilité avec la méthode Level Set pour l’évolution de la géométrie. La deuxième partie s’intéresse à l'application de cet algorithme d'optimisation au problème qui a motivé cette thèse, à savoir le calcul de la forme optimale d'un motif métallique sur un élément rayonnant. Le calcul des champs électriques et magnétiques est effectué par la méthode des équations intégrales, qui renvoie notamment l’observable à minimiser : le coefficient de réflexion de l’antenne. Les chapitres 3 et 4 présentent les aspects théoriques de ce travail, dans le domaine continu et le domaine discret respectivement. La troisième partie explique la mise en œuvre numérique des résultats établis théoriquement dans la partie 2. Le chapitre 5 décrit la boucle globale de l'algorithme d'optimisation de forme. Les résultats obtenus par cet algorithme sont présentés dans le chapitre 6 : ils s’appuient sur plusieurs éléments rayonnants dont la forme de la métallisation évolue afin d’optimiser le coefficient de réflexion ainsi que d'autres critères dérivés. / This thesis aims at establishing a method which computes automatically the optimal design of an antenna, by modifying the shape of metallic patterns constituting the radiating elements of an antenna. In the first part is proposed a state of the art of the two main topics of this thesis. The electromagnetic simulation of antennas based on the integral equations method and solved by the boundary elements method is presented in Chapter 1. Chapter 2 presents the utilized shape optimization algorithm, which combines a sensitivity analysis and the Level Set method for tracking the evolution of the geometry. The second part deals with the application of this optimization algorithm to the problem that motivated this thesis, namely computing the optimal shape of a metallic pattern on a radiating element. The electric and magnetic fields computation is performed by the integral equation method which returns, among others, the observable to minimize: the reflection coefficient. Chapters 3 and 4 present the theoretical aspects of this work, in the continuous domain and the discrete domain respectively. In part 3 is explained the numerical implementation of the theoretical results established in part 2. Chapter 5 addresses the global loop of the shape optimization algorithm. The numerical results obtained by this algorithm are set out in chapter 6: they are based on several radiating elements whose shape of the metallization evolves in order to optimize the reflection coefficient as well as other derived criteria.