L'4He et l'3He sont des systèmes modèles pour comprendre les propriétés quantiques de la matière fortement corrélée. C'est pour cette raison que plusieurs études ont été consacrées à la compréhension de leur dynamique. A basses températures où les effets quantiques jouent un rôle essentiel, les excitations élémentaires dans l'4He sont décrites par un mode collectif d'excitations: phonon-roton. Par contre pour un système d'3He la description est plus complexe, le spectre d'excitation a deux composantes: un mode collectif (zéro-son) et un continuum d'excitations incohérentes de type particule-trou. Les deux sont bien décrites par la théorie de Landau des liquides de Fermi qui trouve sa validité pour des petits vecteurs d'onde. Jusqu'à présent, on supposait que la dynamique dans les liquides de Fermi à vecteurs d'onde élevés était essentiellement incohérente. Cette thèse porte sur l'exploration, par diffusion inélastique de neutrons, des excitations collectives dans l'3He liquide 2D adsorbé sur un substrat de graphite. Un tel travail expérimental requiert trois ingrédients essentiels : un réfrigérateur à dilution afin de travailler à basses températures, un spectromètre temps de vol afin de mesurer le facteur de structure dynamique du système et un substrat solide (graphite exfolié ZYX) pour la préparation de films d'3He-2D par physisorption. Nos expériences sur ces films d'3He déposés en deuxième couche sur de l'4He solide adsorbé sur le graphite nous ont permis de faire les observations suivantes : à petit vecteur d'onde, le zéro-son est plus proche de la bande particule-trou que celui observé dans le cas de l'3He massif, tandis qu'à fort vecteur d'onde le mode collectif entre dans le continuum et réapparait de l'autre côté. Cette nouvelle branche, observée pour la première fois, est aujourd'hui décrite par la théorie dynamique à N-corps développée par nos collaborateurs de l'université Johannes Kepler de Linz, Autriche. Au cours de ce travail de thèse plusieurs techniques expérimentales ont été développées, en particulier, un réfrigérateur à dilution sans fluide cryogénique robuste adapté à des expériences de diffusion neutronique. Son optimisation a permis de réduire le temps de refroidissement de ce type de réfrigérateurs.

L'4He et l'3He sont des systèmes modèles pour comprendre les propriétés quantiques de la matière fortement corrélée. C'est pour cette raison que plusieurs études ont été consacrées à la compréhension de leur dynamique. A basses températures où les effets quantiques jouent un rôle essentiel, les excitations élémentaires dans l'4He sont décrites par un mode collectif d'excitations: phonon-roton. Par contre pour un système d'3He la description est plus complexe, le spectre d'excitation a deux composantes: un mode collectif (zéro-son) et un continuum d'excitations incohérentes de type particule-trou. Les deux sont bien décrites par la théorie de Landau des liquides de Fermi qui trouve sa validité pour des petits vecteurs d'onde. Jusqu'à présent, on supposait que la dynamique dans les liquides de Fermi à vecteurs d'onde élevés était essentiellement incohérente. Cette thèse porte sur l'exploration, par diffusion inélastique de neutrons, des excitations collectives dans l'3He liquide 2D adsorbé sur un substrat de graphite. Un tel travail expérimental requiert trois ingrédients essentiels : un réfrigérateur à dilution afin de travailler à basses températures, un spectromètre temps de vol afin de mesurer le facteur de structure dynamique du système et un substrat solide (graphite exfolié ZYX) pour la préparation de films d'3He-2D par physisorption. Nos expériences sur ces films d'3He déposés en deuxième couche sur de l'4He solide adsorbé sur le graphite nous ont permis de faire les observations suivantes : à petit vecteur d'onde, le zéro-son est plus proche de la bande particule-trou que celui observé dans le cas de l'3He massif, tandis qu'à fort vecteur d'onde le mode collectif entre dans le continuum et réapparait de l'autre côté. Cette nouvelle branche, observée pour la première fois, est aujourd'hui décrite par la théorie dynamique à N-corps développée par nos collaborateurs de l'université Johannes Kepler de Linz, Autriche. Au cours de ce travail de thèse plusieurs techniques expérimentales ont été développées, en particulier, un réfrigérateur à dilution sans fluide cryogénique robuste adapté à des expériences de diffusion neutronique. Son optimisation a permis de réduire le temps de refroidissement de ce type de réfrigérateurs. / 4He and 3He are model systems for understanding quantum properties of strongly interacting matter. For this reason many studies have been devoted for the understanding of their dynamics. At low temperatures at which quantum effects play an essential role, the elementary excitations in 4He are described by a phonon-roton collective mode. For 3He, the physical description is more complicated, the spectrum has two components: collective excitations (zero-sound) and incoherent particle-hole excitations. Both are described by Landau's theory of Fermi liquids which is valid at low wave vectors. So far, it was thus believed that the dynamics at high wave vectors is essentially incoherent. This thesis is mainly concerned by exploring the collective excitations of a two dimensional 3He film adsorbed on graphite, using inelastic neutron scattering. Such an experiment has three main requirements: a dilution refrigerator in order to work at low temperatures, a time of flight spectrometer for measuring the dynamical structure factor of 3He and a solid substrate (exfoliated graphite ZYX) to obtain a two dimensional film by physical adsorption. Our investigations of the dynamics in two-dimensional 3He adsorbed on graphite preplated with 4He films have revealed important features: At low wave-vectors, the zero-sound mode is considerably depressed compared to bulk 3He. At higher wave vectors, the collective excitations branch enters the particle-hole continuum, and reappears at the lower energy branch of the continuum. This new branch, observed for the first time, is described by the dynamic many-body theory developed by our collaborators from Johannes Kepler University, Linz, Austria. During this work several low temperature techniques have been developed, in particular a robust, cryogen-free dilution refrigerator adapted to the demanding conditions of a neutron scattering experiments. Due to its efficient design, the cooling time has been considerably reduced compared to that of refrigerators of the same type developed in the past.

Nous présentons une étude détaillée de l'évolution de l'aimantation nucléaire au sein d'une solution d'3He polarisé dans l'4He à pression de vapeur saturante à des températures de l'ordre de 1 K. En champ magnétique très faible (~mT), des mesures RMN précises sont réalisées sur des solutions 3He-4He hyperpolarisées, obtenues par liquéfaction de gaz polarisé par pompage optique. Nous avons mesuré deux quantités intrinsèques: le temps de relaxation longitudinale et le coefficient de diffusion de spin, susceptibles d'apporter des informations sur les interactions atomiques effectives dans les solutions non-dégénérées. Les précautions expérimentales prises (en particulier l'utilisation d'enduit de césium) garantissent une relaxation très peu influencée par les termes de surface et permettent d'extraire la relaxation due aux interactions dipolaires entre les noyaux des atomes d'3He. Nous avons mesuré des temps de relaxation allant jusqu'à 8 heures pour les solutions les plus diluées. Nous avons trouvé qu'à température fixée, le temps de relaxation dipolaire est inversement proportionnel à la densité en 3He, en accord avec la théorie des solutions quantiques diluées. Par contre, la mesure de la dépendance en température ne reflète pas clairement les prédictions théoriques existantes qui devront être revues. Nous avons mesuré des valeurs du coefficient de diffusion avec une grande précision et déterminé les conditions expérimentales où cette mesure n'est pas faussée par l'effet du champ dipolaire sur l'évolution de l'aimantation transverse. Nous avons systématiquement étudié l'évolution de cette aimantation après une simple impulsion 90° en fonction de la densité d'aimantation de l'échantillon et d'un gradient appliqué. Nous avons observé le développement d'instabilités dans l'évolution de l'aimantation dues au champ dipolaire. Il est également apparu que la refocalistion de l'aimantation transverse après une seconde impulsion 180° est profondément perturbée par le champ dipolaire.