L'étude du noyau de l'atome a pour but d'approfondir notre connaissance de l'interaction nucléaire responsable de la cohésion du noyau. Les noyaux stables (Z≈N) furent les premiers étudiés, permettant une modélisation de l'interaction nucléaire. A cette époque, l'un des buts était de reproduire les propriétés singulières des noyaux ”magiques”. Avec le développement des accélérateurs, des noyaux riches ou déficients en neutrons ont été créées en laboratoire, donnant accès à l'évolution de l'interaction nucléaire avec l'isospin. Les études effectuées depuis les années 90 sur les noyaux exotiques ayant un nombre de neutrons N=28 ont montré que le caractère magique ne persistait pas loin de la stabilité. En particulier, le $^{44}*S (Z=16, N=28) est trouvé déformé dans son état fondamental. Du côté théorique, les calculs prédisent une coexistence de formes sphérique-déformé pour le modèle en couches et déformé-déformé pour le champ moyen. La mesure en 2005 d'un deuxième état $0^+$ à faible énergie d'excitation est venue confirmer cette hypothèse sans pouvoir apporter de réponse sur les déformations mises en jeu. L'expérience présentée ici a eu pour but de caractériser cette coexistence de formes à partir des mesures de la probabilité de transition réduite B(E2 ; $0^+_2 $→ $2^+ _1 $) et de la force de transition monopolaire $ρ^2$(E0; $0^+ _2$ → $0^+_1$). De la faible valeur B(E2 ; $0^+_2$ → $2^+_1$) obtenue, une interprétation sur le mélange des états $0^+_1$ et $0^+_2$ a été proposée ainsi qu'une comparaison aux résultats de calculs modèle en couches. La faible valeur $ρ^2*$ mesurée a été comparée aux systématiques puis deux interprétations ont été proposées dans le cadre du modèle en couches et du modèle collectif géométrique.

L'unification entre structure et réaction a toujours été un grand défi de la physique nucléaire. L'extrème complexité rencontrée dans la description des systèmes quantiques finis a en effet mené la théorie nucléaire à dissocier ces deux approches. Une voie possible pour les réconcilier est le modèle en couches avec couplage aux états du continuum. Jusqu'alors, les applications numériques reposant sur ce modèle utilisaient un puit de potentiel local pour générer la base individuelle et une interaction résiduelle schématique de portéenulle pour les couplages au continuum. Nous avons développé le formalisme du modèle en couches avec couplage aux états du continuum avec une interaction nucléon-nucléon de portée finie. Nous avons ensuite généralisé le formalisme de manière à prendre en compte un nombre arbitraire de particules dans un état de diffusion. Le grand avantage de cette approche réside dans le fait que la même interaction est utilisée pour la construction de la base individuelle et pour le couplage aux états du continuum. Nous avons donc posé les bases nécessaires à un calcul ab initio, le but étant de dériver le champ moyen, les mélanges de configurations et le couplage aux états du continuum à partir de la seule interaction nucléon-nucléon dans le vide. Nous avons effectuée une première application réaliste en calculant les spectres de 17F et 17O, et les déphasages de difusion élastique 16O(p, p)16O.

Les résultats expérimentaux récents concernant les noyaux aux limites de la stabilité ont motivé la recherche de nouveaux modèles nucléaires.<br> Pour cela, on a développé le modèle en couches avec couplage au continuum, qui permet de prendre en compte à la fois les corrélations entre nucléons et l'influence du continuum. Ce modèle a été utilisé dans ce travail pour l'étude des spectres des noyaux 17 F et 17 O. Aussi, on peut calculer des sections efficaces de capture radiative et de diffusion élastique, qu'on a appliqué aux réactions 16 O (p,p) 16 O et 16 O (p,gamma) 17 F. Cette dernière réaction a un intérêt astrophysique car elle joue un rôle important dans la formation des éléments légers dans les étoiles. On a de plus calculé les transitions bêta premières interdites des réactions 17 Ne -> 17 F et 17 N -> 17 O. Le formalisme étudié permet en effet de considérer avec le même hamiltonien les différentes observables de structure et de réaction.<br> Aussi, et c'est une première, on a introduit un nouveau modèle susceptible de donner de nouvelles informations sur les noyaux peu liés ou résonnants, le modèle en couches avec états de Gamow. Ce modèle est une généralisation du modèle en couche standard, car sa base est constituée d'états liés, résonnants et de diffusion. De plus, l'émission de plusieurs particules corrélés peut se faire, contrai- rement au modèle en couches avec couplage au continuum. On a étudié avec ce modèle les spectres des noyaux issus des chaînes d'isotopes d'oxygène de 17 O à 22 O et d'hélium de 5 He à 9 He, où le continuum a un rôle respectivement non négligeable et crucial. Aussi, on a considéré les transitions électromagnétiques et les densités de particules de valence de ces isotopes pour ces mêmes chaînes. On a pu montrer que ce modèle est utilisable d'un point de vue pratique, ce qui est intéressant car il possède la généralité du modèle en couches et n'a aucune restriction du nombre de particules dans le continuum.

Le modèle en couches constitue aujourd'hui un cadre théorique de référence pour appréhender les propriétés des noyaux à basse énergie. Son applicabilité demeure toutefois limitée par une croissance rédhibitoire de la dimension de l'espace des états aussi bien avec le nombre de couches de valence qu'avec le nombre de nucléons. Les méthodes Monte-Carlo quantiques (QMC) permettent a priori de contourner une telle difficulté en offrant une alternative à la diagonalisation du hamiltonien. Elles reposent sur une reformulation stochastique de l'équation de Schrödinger qui ramène le problème à N-corps à un ensemble de problèmes à un corps, numériquement solubles, et décrivant des particules indépendantes évoluant chacune dans un champ extérieur fluctuant. L'originalité de l'échantillonnage QMC proposé dans ce mémoire réside dans l'utilisation d'une approche variationnelle, avec restauration des symétries avant variation, pour guider le mouvement brownien et pour le contraindre afin de contrôler le problème de phase inhérent aux schémas QMC pour des fermions en interaction. Dans les couches sd et fp et avec les interactions résiduelles réalistes, nous avons ainsi pu obtenir une spectroscopie " yrast " en excellent accord avec les résultats issus de la diagonalisation du hamiltonien. En outre, une ouverture vers les systèmes d'électrons fortement corrélés est présentée au travers de nouveaux schémas QMC récemment suggérés pour le modèle de Hubbard en géométrie bidimensionnelle. Contrairement aux échantillonnages traditionnels, ils garantissent des trajectoires à poids positifs quel que soit le régime considéré. Nous avons prouvé que ces méthodes sont en réalité reliées à l'approche stochastique mise en oeuvre pour le modèle en couches. L'origine des erreurs systématiques qu'exhibent ces schémas, pourtant exempts de problème de signe avec le hamiltonien de Hubbard, est par ailleurs élucidée.