Cette thèse est consacrée à l'étude mathématique des propriétés de stabilité de systèmes quantiques infinis, décrits par des modèles non linéaires. Dans les chapitres 1 et 2, on étudie l'instabilité du vide relativiste menant au phénomène de création de paires électron-positron. Dans le chapitre 3, on considère la dynamique de ce même vide relativiste couplé à un champ scalaire. Les chapitres 4 et 5 sont consacrés au caractère dispersif de la dynamique non linéaire de Hartree pour des perturbations de la mer de Fermi, et en particulier à sa stabilité orbitale et asymptotique. Enfin, le chapitre 6 introduit une notion générale d'entropie relative entre deux états comportant une infinité de particules. / This thesis is devoted to the mathematical study of stability properties of infinite quantum systems described by nonlinear models. In chapters 1 and 2, we study the instability of the relativistic vacuum leading to the phenomenon of electron-positron pair production. In chapter 3, we consider the dynamics of this same relativistic vacuum coupled to a scalar field. Chapters 4 and 5 are devoted to the dispersive behaviour of the nonlinear Hartree dynamics for perturbations of the Fermi sea, and in particular to its orbital and asymptotic stability. Finally, chapter 6 introduces a general notion of relative entropy between states having infinitely many particles.

Les modèles de champ moyen en QED apparaissent naturellement dans la modélisation du nuage électronique des atomes lourds. Cette modélisation joue un rôle croissant en physique et chimie quantique, les effets relativistes ne pouvant pas être négligés pour ces atomes. En physique quantique relativiste, le vide est un milieu polarisable, susceptible de réagir à la présence de champ électromagnétique.On se place dans le cadre du modèle variationnel de Bogoliubov-Dirac-Fock (BDF) qui est une approximation de champ moyen de la QED sans photon (en particulier, les interactions considérées sont purement électrostatiques).Il est à noter que pour donner un sens au modèle BDF, il est nécessaire d'introduire une régularisation ultra-violette. Il se produit un phénomène de renormalisation de charge due à la polarisation du vide : la charge de l'électron observée dépend de la charge « nue » de l'électron et du paramètre de régularisation. On étudie rigoureusement ce phénomène ainsi que le problème de la renormalisation de la masse. Cette dernière est en lien avec l'existence d'un état fondamental pour le système d'un électron dans le vide, en l'absence de tout champ extérieur. En revanche, on montre l'absence de minimiseurs dans le cas de deux électrons.Enfin, on exhibe des points critiques de l'énergie BDF, interprétés comme des états excités du vide. On met en évidence le positronium, système métastable d'un électron et de son antiparticule le positron, ainsi que le dipositronium, molécule métastable constituée de deux électrons et de deux positrons.Les méthodes utilisées sont variationnelles (concentration-compacité, lemme de Borwein et Preiss). / In QED, mean-field models appear in the modelling of the electron clouds of heavy atoms. This modelling plays a increasing role in physics and in quantum chemistry: relativistic effects cannot be neglected in these atoms. In relativistic quantum physics the vacuum is a polarizable medium that can react to the presence of an electromagnetic field.We consider the so-called Bogoliubov-Dirac-Fock (BDF) model, a variational model which is a mean-field approximation of no-photon QED (in particular the interactions are purely electrostatic).We point out that an ultraviolet regularisation is necessary to properly define the BDF model. The vacuum polarisation leads to a \emph{renormalisation} phenomenon, the "observed" charge of the electron depends on its "bare" charge and the regularisation parameter. We rigorously study both the problem of charge renormalisation and mass renormalisation. This last one is linked to the existence of ground state in the case of an electron in the vacuum, without any external field. In contrast, we show there is no ground state in the case of two electrons.Finally we exhibit some critical points of the BDF energy which are interpreted as vacuum excited states. In particular, there are the positronium (a metastable system constituted by an electron and its antiparticle called the positron) and the dipositronium (a metastable molecule constituted by two electrons and two positrons).The methods that we use are variational (concentration-compactness, Borwein and Preiss's Lemma).