Les approches basées sur les modèles de champ moyen reproduisent avec succès certaines propriétés nucléaires comme les masses et les rayons, dans le cadre des théories de la fonctionnelle de la densité pour l'énergie (EDF). Cependant, plusieurs corrélations complexes sont absentes dans les théories de champ moyen et un certain nombre d'observables liées aux propriétés à une particule et collectives des systèmes nucléoniques ne peuvent pas être prédites avec précision. La nécessité de fournir une description précise des données disponibles ainsi que des prévisions fiables dans les régions exotiques de la carte nucléaire motive l'utilisation de modèles plus sophistiqués, qui vont au-delà du champ moyen. Des corrélations et des corrections d'ordre supérieur (au-delà du premier ordre, qui représente l'approximation de champ moyen) sont introduites dans ces modèles. Un aspect crucial dans ces calculs est le choix de l'interaction efficace qui doit être utilisée quand on va au-delà du premier ordre (les interactions efficaces existantes sont généralement ajustées avec des calculs de champ moyen). Dans la première partie de la thèse, nous traitons l'équation d'état de la matière nucléaire, évaluée jusqu'au deuxième ordre avec la force phénoménologique de Skyrme. Nous analysons la divergence ultraviolette qui est liée à la portée nulle de l'interaction et nous introduisons des interactions régularisées de type Skyrme qui peuvent être utilisées au deuxième ordre. Des procédures de régularisation avec un cutoff et des techniques de régularisation dimensionnelle sont analysées et appliquées. Dans le cas de la régularisation dimensionnelle, des connexions sont naturellement établies entre le cadre EDF et des techniques employées dans les théories de champ effectives. Dans la deuxième partie de la thèse, nous vérifions si les interactions régularisées introduites pour la matière nucléaire peuvent être utilisées également pour les noyaux finis. A titre d'illustration, cette analyse est effectuée dans le modèle de couplage particule vibration, qui représente un exemple de modèle qui va au-delà de l'approximation de champ moyen, où une divergence ultraviolette apparaît si des forces de portée nulle sont utilisées. Ces premières applications suggèrent plusieurs directions à explorer pour fournir à plus long terme des interactions régularisées qui sont bien adaptés pour les calculs au-delà du champ moyen pour les noyaux finis. Les conclusions et des perspectives sont illustrées à la fin du manuscrit. / Mean-field approaches successfully reproduce nuclear bulk properties like masses and radii within the Energy Density Functional (EDF) framework. However, complex correlations are missing in mean-field theories and several observables related to single-particle and collective nuclear properties cannot be predicted accurately. The necessity to provide a precise description of the available data as well as reliable predictions in the exotic regions of the nuclear chart motivates the use of more sophisticated beyond-mean-field models. Correlations and higher-order corrections (beyond the leading mean-field order) are introduced. A crucial aspect in these calculations is the choice of the effective interaction to be used when one goes beyond the leading order (available effective interactions are commonly adjusted at the mean-field level). In the first part, we deal with the equation of state of nuclear matter evaluated up to the second order with the phenomenological Skyrme force. We analyze the ultraviolet divergence that is related to the zero range of the interaction and we introduce Skyrme-type regularized interactions that can be used at second order for matter. Cutoff regularization and dimensional regularization techniques are explored and applied. In the latter case, connections are naturally established between the EDF framework and some techniques employed in Effective Field Theories. In the second part, we check whether the regularized interactions introduced for nuclear matter can be employed also for finite nuclei. As an illustration, this analysis is performed within the particle-vibration model that represents an example of beyond mean-field models where an ultraviolet divergence appears if zero-range forces are used. These first applications suggest several directions to be explored to finally provide regularized interactions that are specially tailored for beyond-mean-field calculations for finite nuclei. Conclusions and perspectives are finally illustrated.

Les symétries géométriques jouent un rôle important dans la compréhension de la stabilité de tout système physique. En structure nucléaire, elles sont reliées à la forme du champ moyen utilisé pour décrire les propriétés des noyaux atomiques. Dans le cadre de cette thèse, nous avons utilisé les prédictions obtenues avec l'aide du Hamiltonien du champ moyen nucléaire avec le potentiel de Woods-Saxon Universel pour étudier les effets des symétries dites de « Haut-Rang ». Ces symétries ponctuelles mènent à des dégénérescences des états nucléaires d’ordre 4. Il est prédit que la symétrie tétraédrique influence la stabilité des noyaux proches des nombres magiques tétraédriques [Z,N]=[32,40,56,64,70,90-94,136]. Nous avons sélectionné la région des Terres-Rares proche du noyau doublement magique tétraédrique 154Gd pour notre étude. Dans cette région, il existe des structures de parité négative qui sont mal comprises. Or la symétrie tétraédrique, en tant que déformation octupolaire non-axiale, brise la symétrie par réflexion et doit produire des états de parité négative. Après une étude systématique des propriétés expérimentales des noyaux de la région, nous avons sélectionné le 156Gd comme objet de notre étude des modes d’excitation octupolaire. Nous avons utilisé les probabilités réduites de transition gamma pour discerner ces différents modes. Pour atteindre cet objectif, nous avons réalisé trois expériences de spectroscopie gamma à l’ILL de Grenoble avec les détecteurs EXILL et GAMS afin de mesurer les durées de vie et les intensités des transitions gamma des états candidats. L'analyse de nos résultats montre que notamment la forme tétraédrique aide à comprendre les probabilités des transitions dipolaires. Ce résultat ouvre de nouvelles perspectives expérimentales et théoriques. / Geometrical symmetries play an important role in the understanding of all physical systems. In nuclear structure they are linked to the shape of the mean-field used to describe the atomic nuclei properties. In the framework of this thesis, we have used the predictions obtained with the help of the nuclear mean-field Hamiltonian with the Universal Woods-Saxon potential to study the effects of the so-called “High-Rank” symmetries. These point-group symmetries lead to a nuclear state degeneracy of the order of 4. It is predicted that the tetrahedral symmetry affects the stability of nuclei close to the tetrahedral magic numbers [Z,N]=[32,40,56,64,70,90-94,136]. We have selected the Rare-Earth region close to the tetrahedral doubly magic nucleus 154Gd for our study. In this region, there exists negative parity structures poorly understood. Yet the tetrahedral symmetry, as related to a non-axial octupole deformation, breaks the reflection symmetry and leads to the negative parity states. Following a systematics of experimental properties of the nuclei in this region, we have selected 156Gd as the object of our study for the octupole excitation modes. We have used the reduced transitions probabilities to discriminate between these modes. To achieve this goal, we have performed three gamma spectroscopy experiments at the ILL in Grenoble with the EXILL and GAMS detectors to measure the lifetimes and the gamma transition intensities from the candidate states. The analysis of our results shows that including the tetrahedral shape helps to understand the dipole transition probabilities. This result will open new experimental and theoretical perspectives.