Ce mémoire est consacré à l'étude mathématique de divers modèles variationnels permettant la description de systèmes quantiques, en particulier infinis. Les outils mathématiques utilisés sont ceux de l'analyse non linéaire, du calcul des variations, des équations aux dérivées partielles, de la théorie spectrale et du calcul scientifique. <br /><br />Une première partie contient quelques résultats pour des systèmes finis. Nous étudions des approximations de l'équation de Schrödinger pour N électrons dans une molécule ou un atome, puis le modèle de Hartree-Fock-Bogoliubov pour un système de fermions interagissant avec une force de type gravitationnelle.<br /><br />Dans une seconde partie nous proposons une nouvelle méthode pour démontrer l'existence de la limite thermodynamique pour des systèmes quantiques interagissant avec la force de Coulomb.<br /><br />Ensuite, nous construisons deux modèles de type Hartree-Fock pour des systèmes infinis. Le premier est un modèle relativiste, déduit de l'électrodynamique quantique, et qui permet de décrire le comportement d'électrons, couplés avec celui du vide de Dirac qui peut se polariser. Le second modèle décrit l'état d'un cristal non relativiste en présence d'un défaut chargé ; il est complété par une nouvelle approche numérique.<br /><br />La dernière partie du mémoire est consacrée au problème de pollution spectrale, un phénomène observé lorsque l'on cherche à calculer des valeurs propres au milieu du spectre essentiel, par exemple pour des opérateurs de Dirac ou de Schrödinger périodique.