Cette thèse est consacrée à l'étude de trois modèles non linéaires issus de la mécanique quantique. Dans la première partie, nous démontrons l'existence d'un minimum et d'états excités approchés pour les modèles multi-configurations décrivant la structure électronique des molécules. Ces points critiques peuvent être calculés grâce à un nouvel algorithme. Des résultats numériques sont présentés pour le premier état excité de systèmes à deux électrons. Dans la seconde partie, nous étudions un lemme du col modélisant des réactions chimiques avec le modèle de Schrödinger indépendant du temps. Nous prouvons l'existence d'un point selle, sous l'hypothèse que les molécules à l'infini sont chargées ou polarisées. La dernière partie est consacrée à l'étude de la polarisation du vide grâce au modèle Bogoliubov-Dirac-Fock, une théorie relativiste de champ moyen issue de l'électrodynamique quantique. Nous montrons que l'énergie étudiée possède un minimum qui est le vide polarisé.

Ce mémoire est consacré à l'étude mathématique de divers modèles variationnels permettant la description de systèmes quantiques, en particulier infinis. Les outils mathématiques utilisés sont ceux de l'analyse non linéaire, du calcul des variations, des équations aux dérivées partielles, de la théorie spectrale et du calcul scientifique. <br /><br />Une première partie contient quelques résultats pour des systèmes finis. Nous étudions des approximations de l'équation de Schrödinger pour N électrons dans une molécule ou un atome, puis le modèle de Hartree-Fock-Bogoliubov pour un système de fermions interagissant avec une force de type gravitationnelle.<br /><br />Dans une seconde partie nous proposons une nouvelle méthode pour démontrer l'existence de la limite thermodynamique pour des systèmes quantiques interagissant avec la force de Coulomb.<br /><br />Ensuite, nous construisons deux modèles de type Hartree-Fock pour des systèmes infinis. Le premier est un modèle relativiste, déduit de l'électrodynamique quantique, et qui permet de décrire le comportement d'électrons, couplés avec celui du vide de Dirac qui peut se polariser. Le second modèle décrit l'état d'un cristal non relativiste en présence d'un défaut chargé ; il est complété par une nouvelle approche numérique.<br /><br />La dernière partie du mémoire est consacrée au problème de pollution spectrale, un phénomène observé lorsque l'on cherche à calculer des valeurs propres au milieu du spectre essentiel, par exemple pour des opérateurs de Dirac ou de Schrödinger périodique.