Cette thèse est consacrée à l'étude de la méthode PAW (projector augmented-wave) et d'une de ses modifications, baptisée méthode PAW variationnelle (VPAW), pour le calcul de l'état fondamental d'Hamiltoniens en géométrie périodique. Ces méthodes visent à améliorer la vitesse de convergence des méthodes d'ondes planes (ou méthodes de Fourier) en appliquant une transformation inversible au problème aux valeurs propres initial agissant au voisinage de chaque site atomique. Cette transformation permet de capter une partie des difficultés dues aux singularités coulombiennes. La méthode VPAW est analysée pour un opérateur de Schr\"odinger unidimensionnel avec des potentiels de Dirac. Les fonctions propres de ce modèle comprennent des sauts de dérivées similaires aux cusps électroniques. Le saut de dérivée des fonctions propres du problème aux valeurs propres issu de la méthode VPAW est réduit de façon importante. Cela entraîne une accélération de convergence en ondes planes du calcul des valeurs propres corroborée par une étude numérique. Une étude de la méthode VPAW est conduite pour des Hamiltoniens 3D périodiques avec des singularités coulombiennes, parvenant à des conclusions similaires. Pour la méthode PAW, la transformation inversible comporte des sommes infinies qui sont tronquées en pratique. Ceci introduit une erreur, qui est rarement quantifiée en pratique. Elle est analysée dans le cas de l'opérateur de Schrödinger unidimensionnel avec des potentiels de Dirac. Des bornes sur la plus basse valeur propre en fonction des paramètres PAW sont prouvées conformes aux tests numériques. / This thesis is devoted to the study of the PAW method (projector augmented-wave) and of a variant called the variational PAW method (VPAW). These methods aim to accelerate the convergence of plane-wave methods in electronic structure calculations. They rely on an invertible transformation applied to the eigenvalue problem, which acts in a neighborhood of each atomic site. The transformation captures some difficulties caused by the Coulomb singularities. The VPAW method is applied to a periodic one-dimensional Schr\"odinger operator with Dirac potentials and analyzed in this setting. Eigenfunctions of this model have derivative jumps similar to the electronic cusps. The derivative jumps of eigenfunctions of the VPAW eigenvalue problem are significantly reduced. Hence, a smaller plane-wave cut-off is required for a given accuracy level. The study of the VPAW method is also carried out for 3D periodic Hamiltonians with Coulomb singularities yielding similar results. In the PAW method, the invertible transformation has infinite sums that are truncated in practice. The induced error is analyzed in the case of the periodic one-dimensional Schrödinger operator with Dirac potentials. Error bounds on the lowest eigenvalue are proved depending on the PAW parameters.

Dans ce travail, nous nous intéressons à l'analyse numérique de problèmes aux valeurs propres non linéaires, comme on peut en trouver en chimie quantique ou en mécanique. La résolution de ces problèmes étant très coûteuse, l'idée est de proposer de nouvelles méthodes permettant de simplifier la résolution de ce type de problèmes et ainsi diminuer le coût de calcul. L'analyse numérique est nécessaire pour comprendre si l'impact positif sur le coût de calcul total n'a pas de mauvaise conséquence sur la précision des résultats. On propose un complément aux travaux existants sur les estimations d'erreur a priori, afin d'obtenir des résultats équivalents à ceux connus dans le cas de problèmes aux valeurs propres linéaires. Ces résultats ont été utilisés pour la mise en oeuvre et l'analyse numérique de nouveaux schémas à deux grilles pour l'approximation de problèmes aux valeurs propres non linéaires. Ensuite, on propose d'adapter ce type de méthode de sous-grilles, pour une utilisation associée à la méthode des bases réduites.

On étudie quelques familles de problèmes aux limites elliptiques non linéaires d'ordre 2, de la forme Au=f(λ,χ,u,ε) où les réels positifs λ et ε qui apparaissent dans la non linéarité de f jouent, respectivement, le rôle de paramètre de bifurcation et de paramètre de perturbation. On considère l'aspect branches de solutions, retournements, pour ε>0 et ε→0 dans 5 cas

L'objectif de cette thèse est de fournir des bornes d'erreur pour des problèmes aux valeurs propres linéaires et non linéaires issus du calcul de structure électronique, en particulier celui de l'état fondamental avec la théorie de la fonctionnelle de la densité. Ces bornes d'erreur reposent principalement sur des estimations a posteriori. D'abord, nous étudions un phénomène de compensation d'erreur de discrétisation pour un problème linéaire aux valeurs propres, grâce à une analyse a priori de l'erreur sur l'énergie. Ensuite, nous présentons une analyse a posteriori pour le problème du laplacien aux valeurs propres discrétisé par une large classe d'éléments finis. Les bornes d'erreur proposées pour les valeurs propres simples et leurs vecteurs propres associés sont garanties, calculables et efficaces. Nous nous concentrons alors sur des problèmes aux valeurs propres non linéaires. Nous proposons des bornes d'erreur pour l'équation de Gross-Pitaevskii, valables sous des hypothèses vérifiables numériquement, et pouvant être séparées en deux composantes venant respectivement de la discrétisation et de l'algorithme itératif utilisé pour résoudre le problème non linéaire aux valeurs propres. L'équilibrage de ces composantes d'erreur permet d'optimiser les ressources numériques. Enfin, nous présentons une méthode de post-traitement pour le problème de Kohn-Sham discrétisé en ondes planes, améliorant la précision des résultats à un faible coût de calcul. Les solutions post-traitées peuvent être utilisées soit comme solutions plus précises du problème, soit pour calculer une estimation de l'erreur de discrétisation, qui n'est plus garantie, mais néanmoins proche de l'erreur. / The objective of this thesis is to provide error bounds for linear and nonlinear eigenvalue problems arising from electronic structure calculation. We focus on ground-state calculations based on Density Functional Theory, including Kohn-Sham models. Our bounds mostly rely on a posteriori error analysis. More precisely, we start by studying a phenomenon of discretization error cancellation for a simple linear eigenvalue problem, for which analytical solutions are available. The mathematical study is based on an a priori analysis for the energy error. Then, we present an a posteriori analysis for the Laplace eigenvalue problem discretized with finite elements. For simple eigenvalues of the Laplace operator and their corresponding eigenvectors , we provide guaranteed, fully computable and efficient error bounds. Thereafter, we focus on nonlinear eigenvalue problems. First, we provide an a posteriori analysis for the Gross-Pitaevskii equation. The error bounds are valid under assumptions that can be numerically checked, and can be separated in two components coming respectively from the discretization and the iterative algorithm used to solve the nonlinear eigenvalue problem. Balancing these error components allows to optimize the computational resources. Second, we present a post-processing method for the Kohn-Sham problem, which improves the accuracy of planewave computations of ground state orbitals at a low computational cost. The post-processed solutions can be used either as a more precise solution of the problem, or used for computing an estimation of the discretization error. This estimation is not guaranteed, but in practice close to the real error.

Les contributions de cette thèse consistent en trois principaux résultats. Le premier résultat concerne la théorie des perturbations analytique pour les modèles de type Kohn-Sham. Nous montrons, sous certaines conditions techniques, l'existence, l'unicité et l'analyticité de la matrice densité de l'état fondamental du modèle de Hartree-Fock réduit pour des perturbations régulières provenant d'un potentiel extérieur. Notre analyse englobe le cas où le niveau de Fermi de l'état fondamental non-perturbé est une valeur propre dégénérée de l'opérateur de champ moyen et où les orbitales frontières sont partiellement occupées. Le deuxième résultat concerne la construction mathématique de pseudos potentiels pour les modèles Kohn-Sham. Nous définissons l'ensemble des pseudos potentiels semi-locaux à normes conservées de régularité de Sobolev donnée, et nous prouvons que cet ensemble est non-vide et fermé pour une topologie appropriée. Cela nous permet de proposer une nouvelle façon de construire des pseudos potentiels, qui consiste à optimiser sur cet ensemble un critère tenant compte des impératifs de régularité et de transférabilité. Le troisième résultat est une étude numérique du modèle de Hartree-Fock réduit pour les atomes. Nous proposons une méthode de discrétisation et un algorithme de résolution numérique des équations de Kohn-Sham pour un atome soumis à un potentiel extérieur à symétrie cylindrique. Nous calculons les niveaux d'énergie occupés et les nombres d'occupations pour tous les éléments des quatre premières rangées du tableau périodique et considérons le cas d'un atome soumis à un champ électrique uniforme / The contributions of this thesis consist of three main results. The first result is concerned with analytic perturbation theory for Kohn-Sham type models. We prove, under some technical conditions, the existence, uniqueness and analyticity of the perturbed reduced Hartree-Fock ground state density matrix for regular perturbations arising from an external potential. Our analysis encompasses the case when the Fermi level of the unperturbed ground state is a degenerate eigenvalue of the mean-field operator and the frontier orbitals are partially occupied. The second result is concerned with the mathematical construction of pseudo potentials for Kohn-Sham models. We define a set of admissible semi local norm-conserving pseudo potentials of given local Sobolev regularity and prove that this set is non-empty and closed for an appropriate topology. This allows us to propose a new way to construct pseudo potentials, which consists in optimizing on the latter set some criterion taking into account both smoothness and transferability requirements. The third result is a numerical study of the reduced Hartree-Fock model of atoms. We propose a discretization method and an algorithm to solve numerically the Kohn-Sham equations for an atom subjected to a cylindrically-symmetric external potential. We report the computed occupied energy levels and the occupation numbers for all the atoms of the four first rows of the periodic table and consider the case of an atom subjected to a uniform electric-field

En électromagnétisme les structures périodiques suscitent un grand intérêt. Ces structures agissent ainsi comme des filtres fréquentiels et permettent la fabrication de méta-matériaux, composites et artificiels. Elles présentent des propriétés électromagnétiques inédites pour les matériaux naturels telles que des bandes interdites. On a ainsi pu fabriquer de nouveaux dispositifs permettant de guider, de focaliser ou de stopper la propagation. C'est par exemple utile pour éviter le couplage entre différents éléments rayonnants notamment via la caractérisation des ondes de surface qui se propagent à l'interface entre l'air et la structure périodique. Ce travail de thèse s'inscrit dans ce contexte et propose une description de la méthode des éléments finis dédiée à la caractérisation des structures périodiques. La modélisation numérique aboutit à des problèmes de valeurs propres de grandes tailles. Elle implique la résolution de systèmes linéaires composés de matrices creuses. Une méthode est abordée pour résoudre ce type de problème, en optimisant et combinant différents algorithmes. Avant d'aborder les différents aspects de la méthode développée, nous établissons une liste exhaustive de l'ensemble des méthodes qui existent en énonçant leurs avantages et leurs inconvénients. Nous constatons notamment que la méthode des éléments finis permet de traiter un large éventail de structures périodiques en trois dimensions sans limitation sur leur forme géométrique. Nous présentons alors les différentes formulations de cette méthode. Ensuite les aspects algorithmiques de la méthode sont détaillés. Nous montrons notamment qu'une analyse des paramètres de résolution permet de préciser les interprétations physiques des résultats obtenus. Finalement nous présentons les performances de notre outil sur des cas d'applications issus de la littérature et nous abordons la caractérisation des ondes de surface. Pour cela, l'étude d'un réseau d'antennes patchs insérées dans des cavités métalliques est conduite. Notons pour conclure que les études conduites au cours de cette thèse ont abouti à la production d'un code utilisable dans un environnement de calcul initialement présent à l'ONERA.

Comme la puissance de calcul des systèmes de calcul haute performance continue de croître, en utilisant un grand nombre de cœurs CPU ou d’unités de calcul spécialisées, les applications hautes performances destinées à la résolution des problèmes de très grande échelle sont de plus en plus sujettes à des pannes. En conséquence, la communauté de calcul haute performance a proposé de nombreuses contributions pour concevoir des applications tolérantes aux pannes. Cette étude porte sur une nouvelle classe d’algorithmes numériques de tolérance aux pannes au niveau de l’application qui ne nécessite pas de ressources supplémentaires, à savoir, des unités de calcul ou du temps de calcul additionnel, en l’absence de pannes. En supposant qu’un mécanisme distinct assure la détection des pannes, nous proposons des algorithmes numériques pour extraire des informations pertinentes à partir des données disponibles après une pannes. Après l’extraction de données, les données critiques manquantes sont régénérées grâce à des stratégies d’interpolation pour constituer des informations pertinentes pour redémarrer numériquement l’algorithme. Nous avons conçu ces méthodes appelées techniques d’Interpolation-restart pour des problèmes d’algèbre linéaire numérique tels que la résolution de systèmes linéaires ou des problèmes aux valeurs propres qui sont indispensables dans de nombreux noyaux scientifiques et applications d’ingénierie. La résolution de ces problèmes est souvent la partie dominante; en termes de temps de calcul, des applications scientifiques. Dans le cadre solveurs linéaires du sous-espace de Krylov, les entrées perdues de l’itération sont interpolées en utilisant les entrées disponibles sur les nœuds encore disponibles pour définir une nouvelle estimation de la solution initiale avant de redémarrer la méthode de Krylov. En particulier, nous considérons deux politiques d’interpolation qui préservent les propriétés numériques clés de solveurs linéaires bien connus, à savoir la décroissance monotone de la norme-A de l’erreur du gradient conjugué ou la décroissance monotone de la norme résiduelle de GMRES. Nous avons évalué l’impact du taux de pannes et l’impact de la quantité de données perdues sur la robustesse des stratégies de résilience conçues. Les expériences ont montré que nos stratégies numériques sont robustes même en présence de grandes fréquences de pannes, et de perte de grand volume de données. Dans le but de concevoir des solveurs résilients de résolution de problèmes aux valeurs propres, nous avons modifié les stratégies d’interpolation conçues pour les systèmes linéaires. Nous avons revisité les méthodes itératives de l’état de l’art pour la résolution des problèmes de valeurs propres creux à la lumière des stratégies d’Interpolation-restart. Pour chaque méthode considérée, nous avons adapté les stratégies d’Interpolation-restart pour régénérer autant d’informations spectrale que possible. Afin d’évaluer la performance de nos stratégies numériques, nous avons considéré un solveur parallèle hybride (direct/itérative) pleinement fonctionnel nommé MaPHyS pour la résolution des systèmes linéaires creux, et nous proposons des solutions numériques pour concevoir une version tolérante aux pannes du solveur. Le solveur étant hybride, nous nous concentrons dans cette étude sur l’étape de résolution itérative, qui est souvent l’étape dominante dans la pratique. Les solutions numériques proposées comportent deux volets. A chaque fois que cela est possible, nous exploitons la redondance de données entre les processus du solveur pour effectuer une régénération exacte des données en faisant des copies astucieuses dans les processus. D’autre part, les données perdues qui ne sont plus disponibles sur aucun processus sont régénérées grâce à un mécanisme d’interpolation. / As the computational power of high performance computing (HPC) systems continues to increase by using huge number of cores or specialized processing units, HPC applications are increasingly prone to faults. This study covers a new class of numerical fault tolerance algorithms at application level that does not require extra resources, i.e., computational unit or computing time, when no fault occurs. Assuming that a separate mechanism ensures fault detection, we propose numerical algorithms to extract relevant information from available data after a fault. After data extraction, well chosen part of missing data is regenerated through interpolation strategies to constitute meaningful inputs to numerically restart the algorithm. We have designed these methods called Interpolation-restart techniques for numerical linear algebra problems such as the solution of linear systems or eigen-problems that are the inner most numerical kernels in many scientific and engineering applications and also often ones of the most time consuming parts. In the framework of Krylov subspace linear solvers the lost entries of the iterate are interpolated using the available entries on the still alive nodes to define a new initial guess before restarting the Krylov method. In particular, we consider two interpolation policies that preserve key numerical properties of well-known linear solvers, namely the monotony decrease of the A-norm of the error of the conjugate gradient or the residual norm decrease of GMRES. We assess the impact of the fault rate and the amount of lost data on the robustness of the resulting linear solvers.For eigensolvers, we revisited state-of-the-art methods for solving large sparse eigenvalue problems namely the Arnoldi methods, subspace iteration methods and the Jacobi-Davidson method, in the light of Interpolation-restart strategies. For each considered eigensolver, we adapted the Interpolation-restart strategies to regenerate as much spectral information as possible. Through intensive experiments, we illustrate the qualitative numerical behavior of the resulting schemes when the number of faults and the amount of lost data are varied; and we demonstrate that they exhibit a numerical robustness close to that of fault-free calculations. In order to assess the efficiency of our numerical strategies, we have consideredan actual fully-featured parallel sparse hybrid (direct/iterative) linear solver, MaPHyS, and we proposed numerical remedies to design a resilient version of the solver. The solver being hybrid, we focus in this study on the iterative solution step, which is often the dominant step in practice. The numerical remedies we propose are twofold. Whenever possible, we exploit the natural data redundancy between processes from the solver toperform an exact recovery through clever copies over processes. Otherwise, data that has been lost and is not available anymore on any process is recovered through Interpolationrestart strategies. These numerical remedies have been implemented in the MaPHyS parallel solver so that we can assess their efficiency on a large number of processing units (up to 12; 288 CPU cores) for solving large-scale real-life problems.