Ce mémoire est une synthèse, sous forme de sélection d'articles, des travaux développés depuis ma soutenance de thèse en 2001. De nombreuses lignes de recherche se sont dégagées dans les années qui ont suivi ma thèse et mes activités scientifiques se sont développées en suivant différentes directions. Le noyau atomique est un système quantique composé par N fermions qui nécessite un traitement théorique basé sur des modèles microscopiques. Les travaux développés et l'expérience acquise dans ce domaine se prêtent donc de manière très naturelle à des extensions interdisciplinaires pour l'étude d'autres systèmes quantiques formés par N fermions comme, par exemple, les agrégats métalliques ou les gaz d'atomes fermioniques piégés. J'ai exploré quelques-uns de ces liens interdisciplinaires et l'ensemble de ces activités a contribué à former ma vision générale du problème à N corps. Cela a par ailleurs enrichi et élargi mes perspectives de recherche en physique nucléaire. La plus longue partie du mémoire est consacrée à la réflexion autour des noyaux exotiques effectuée avec des modèles basés sur le champ moyen pour étudier : l'évolution de la structure loin de la stabilité et certains phénomènes exotiques liés à cette évolution, les corrélations d'appariement, les halos, l'effet sur les propriétés de l'état fondamental du terme tenseur et d'autres termes non standards dans l'interaction de Skyrme. Des applications dans les domaines des réactions et de l'astrophysique nucléaire sont aussi discutées. Quelques extensions de la méthode RPA sont détaillées. Ces travaux visent à une formulation complètement auto-consistante de la méthode pour un meilleur traitement des corrélations dans l'état fondamental des systèmes à N corps. Dans les conclusions et perspectives du mémoire, les limites de validité de l'approximation de champ moyen sont mises en évidence et un certain nombre de possibilités d'amélioration du pouvoir prédictif et de raffinement des modèles sont présentées et discutées.

Cette thèse porte sur l'étude de modèles non linéaires issus de la mécanique quantique relativiste.Dans la première partie, nous démontrons à l'aide d'une méthode de tir l'existence d'une infinité de solutions d'équations de Dirac non linéaires provenant d'un modèle de hadrons et d'un modèle de la physique des noyaux.Dans la seconde partie, nous prouvons par des méthodes variationnelles l'existence d'un état fondamental et d'états excités pour deux modèles de la physique des hadrons. Par la suite, nous étudions la transition de phase reliant les deux modèles grâce à la Gamma-convergence.La dernière partie est consacrée à l'étude d'un autre modèle de hadrons dans lequel les fonctions d'onde des quarks sont parfaitement localisées. Nous énonçons quelques résultats préliminaires que nous avons obtenus.

Cette thèse porte sur l'étude de modèles non linéaires issus de la mécanique quantique relativiste.Dans la première partie, nous démontrons à l'aide d'une méthode de tir l'existence d'une infinité de solutions d'équations de Dirac non linéaires provenant d'un modèle de hadrons et d'un modèle de la physique des noyaux.Dans la seconde partie, nous prouvons par des méthodes variationnelles l'existence d'un état fondamental et d'états excités pour deux modèles de la physique des hadrons. Par la suite, nous étudions la transition de phase reliant les deux modèles grâce à la Gamma-convergence.La dernière partie est consacrée à l'étude d'un autre modèle de hadrons dans lequel les fonctions d'onde des quarks sont parfaitement localisées. Nous énonçons quelques résultats préliminaires que nous avons obtenus. / This thesis is devoted to the study of nonlinear models from relativistic quantum mechanics.In the first part, we show thanks to a shooting method, the existence of infinitely many solutions of nonlinear Dirac equations of two models from the physics of hadrons and the physics of the nucleus.In the second part, we prove thanks to variational methods the existence of a ground state and excited states for two models of the physics of hadrons. Next, we study the phase transition which links the models thanks to the $\Gamma$-convergence.The last part is devoted to the study of another model from the physics of hadrons in which the wave functions are perfectly confined. We give some preliminary results.