Il est admis aujourd'hui que les nucléons sont constitués de quarks et de gluons, dont les interactions sont décrites par la Chromodynamique Quantique (QCD). Du fait du caractère non-perturbatif de QCD à l'échelle d'énergie de la physique nucléaire, une description du noyau atomique directement à partir des quarks et des gluons reste inaccessible à l'heure actuelle. Une alternative possible est d'utiliser des théories effectives hadroniques contraintes par QCD. Dans ce cadre, nous avons développé deux descriptions de la matière nucléaire infinie dans des théories de champ moyen relativistes prenant en compte la structure en quarks des hadrons. Dans une première approche, la modification dans le milieu des propriétés des mésons est obtenue dynamiquement dans un modèle de quarks de Nambu-Jona-Lasinio (NJL). Cette modification est prise en compte dans un modèle de champ moyen relativiste basé sur une interaction par échanges de mésons entre nucléons. L'évolution de la masse des mésons dans le milieu, et les propriétés de la matière nucléaire infinie ainsi obtenues, ont été étudiées. Dans une deuxième approche, les contributions de courte et logue portée à la modification du nucléon dans le milieu sont déterminées. La partie de courte portée est obtenue en construisant le nucléon à l'aide du modèle de quarks de NJL. La partie de longue portée, liée aux échanges de pions entre nucléons, a quant à elle été obtenue à l'aide de la théorie des perturbations chirales. Ces modifications ont été utilisées pour contraindre les couplages d'un modèle de champ moyen relativiste à couplages ponctuels. Une description réaliste des propriétés de saturation de la matière nucléaire est alors obtenue.

La théorie du champ moyen relativiste s'est imposée depuis quelques années comme l'une des plus prometteuses pour la description des noyaux atomiques. Néanmoins, de nombreuses approximations sont faites dans cette approche, qui ne sont pas toutes contrôlées de façon rigoureuse. Aussi avons-nous préféré développer un formalisme un peu différent, qui repose sur une paramétrisation des potentiels nucléaires, et qui présente de nombreux avantages (simplicité, fiabilité, liens avec la théorie des groupes de spineurs, etc.). Cette approche a permis de mettre en lumière, pour la première fois, la non-univocité du potentiel spin-orbite (y compris dans le cas non-relativiste), et l'influence de la masse effective sur les propriétés à un corps des noyaux atomiques. Notre but étant également d'obtenir un hamiltonien réellement performant pour tous les cas rencontrés habituellement en structure du noyau, l'accent a été mis sur la détermination la plus rigoureuse possible des meilleurs paramètres possibles des potentiels, faite au moyen d'une minimisation multi-dimensionnelle dans l'espace des paramètres, et les résultats montrent une excellente stabilité. Dans les noyaux sphériques, la description des propriétés à une particule (notamment la position des niveaux individuels) est souvent meilleure que dans toutes les approches concurrentes. Dans les noyaux déformés, il semble que l'approche relativiste soit la clef de la compréhension profonde du concept d'inertie pour les noyaux atomiques. Quelques applications supplémentaires ont été explorées : notamment, il est apparu que la structure en couches des états nucléaires présentait de larges "gaps" pour des déformations octupolaires correspondant à une symétrie tétrahédrale. Ces gaps sont une caractéristique constante des noyaux, des plus légers jusqu'aux éléments super-lourds. Nos premiers calculs suggèrent ainsi que ces derniers pourraient se stabiliser dans une forme tétraédrale plutôt que sphérique.