L'4He et l'3He sont des systèmes modèles pour comprendre les propriétés quantiques de la matière fortement corrélée. C'est pour cette raison que plusieurs études ont été consacrées à la compréhension de leur dynamique. A basses températures où les effets quantiques jouent un rôle essentiel, les excitations élémentaires dans l'4He sont décrites par un mode collectif d'excitations: phonon-roton. Par contre pour un système d'3He la description est plus complexe, le spectre d'excitation a deux composantes: un mode collectif (zéro-son) et un continuum d'excitations incohérentes de type particule-trou. Les deux sont bien décrites par la théorie de Landau des liquides de Fermi qui trouve sa validité pour des petits vecteurs d'onde. Jusqu'à présent, on supposait que la dynamique dans les liquides de Fermi à vecteurs d'onde élevés était essentiellement incohérente. Cette thèse porte sur l'exploration, par diffusion inélastique de neutrons, des excitations collectives dans l'3He liquide 2D adsorbé sur un substrat de graphite. Un tel travail expérimental requiert trois ingrédients essentiels : un réfrigérateur à dilution afin de travailler à basses températures, un spectromètre temps de vol afin de mesurer le facteur de structure dynamique du système et un substrat solide (graphite exfolié ZYX) pour la préparation de films d'3He-2D par physisorption. Nos expériences sur ces films d'3He déposés en deuxième couche sur de l'4He solide adsorbé sur le graphite nous ont permis de faire les observations suivantes : à petit vecteur d'onde, le zéro-son est plus proche de la bande particule-trou que celui observé dans le cas de l'3He massif, tandis qu'à fort vecteur d'onde le mode collectif entre dans le continuum et réapparait de l'autre côté. Cette nouvelle branche, observée pour la première fois, est aujourd'hui décrite par la théorie dynamique à N-corps développée par nos collaborateurs de l'université Johannes Kepler de Linz, Autriche. Au cours de ce travail de thèse plusieurs techniques expérimentales ont été développées, en particulier, un réfrigérateur à dilution sans fluide cryogénique robuste adapté à des expériences de diffusion neutronique. Son optimisation a permis de réduire le temps de refroidissement de ce type de réfrigérateurs.

L'4He et l'3He sont des systèmes modèles pour comprendre les propriétés quantiques de la matière fortement corrélée. C'est pour cette raison que plusieurs études ont été consacrées à la compréhension de leur dynamique. A basses températures où les effets quantiques jouent un rôle essentiel, les excitations élémentaires dans l'4He sont décrites par un mode collectif d'excitations: phonon-roton. Par contre pour un système d'3He la description est plus complexe, le spectre d'excitation a deux composantes: un mode collectif (zéro-son) et un continuum d'excitations incohérentes de type particule-trou. Les deux sont bien décrites par la théorie de Landau des liquides de Fermi qui trouve sa validité pour des petits vecteurs d'onde. Jusqu'à présent, on supposait que la dynamique dans les liquides de Fermi à vecteurs d'onde élevés était essentiellement incohérente. Cette thèse porte sur l'exploration, par diffusion inélastique de neutrons, des excitations collectives dans l'3He liquide 2D adsorbé sur un substrat de graphite. Un tel travail expérimental requiert trois ingrédients essentiels : un réfrigérateur à dilution afin de travailler à basses températures, un spectromètre temps de vol afin de mesurer le facteur de structure dynamique du système et un substrat solide (graphite exfolié ZYX) pour la préparation de films d'3He-2D par physisorption. Nos expériences sur ces films d'3He déposés en deuxième couche sur de l'4He solide adsorbé sur le graphite nous ont permis de faire les observations suivantes : à petit vecteur d'onde, le zéro-son est plus proche de la bande particule-trou que celui observé dans le cas de l'3He massif, tandis qu'à fort vecteur d'onde le mode collectif entre dans le continuum et réapparait de l'autre côté. Cette nouvelle branche, observée pour la première fois, est aujourd'hui décrite par la théorie dynamique à N-corps développée par nos collaborateurs de l'université Johannes Kepler de Linz, Autriche. Au cours de ce travail de thèse plusieurs techniques expérimentales ont été développées, en particulier, un réfrigérateur à dilution sans fluide cryogénique robuste adapté à des expériences de diffusion neutronique. Son optimisation a permis de réduire le temps de refroidissement de ce type de réfrigérateurs. / 4He and 3He are model systems for understanding quantum properties of strongly interacting matter. For this reason many studies have been devoted for the understanding of their dynamics. At low temperatures at which quantum effects play an essential role, the elementary excitations in 4He are described by a phonon-roton collective mode. For 3He, the physical description is more complicated, the spectrum has two components: collective excitations (zero-sound) and incoherent particle-hole excitations. Both are described by Landau's theory of Fermi liquids which is valid at low wave vectors. So far, it was thus believed that the dynamics at high wave vectors is essentially incoherent. This thesis is mainly concerned by exploring the collective excitations of a two dimensional 3He film adsorbed on graphite, using inelastic neutron scattering. Such an experiment has three main requirements: a dilution refrigerator in order to work at low temperatures, a time of flight spectrometer for measuring the dynamical structure factor of 3He and a solid substrate (exfoliated graphite ZYX) to obtain a two dimensional film by physical adsorption. Our investigations of the dynamics in two-dimensional 3He adsorbed on graphite preplated with 4He films have revealed important features: At low wave-vectors, the zero-sound mode is considerably depressed compared to bulk 3He. At higher wave vectors, the collective excitations branch enters the particle-hole continuum, and reappears at the lower energy branch of the continuum. This new branch, observed for the first time, is described by the dynamic many-body theory developed by our collaborators from Johannes Kepler University, Linz, Austria. During this work several low temperature techniques have been developed, in particular a robust, cryogen-free dilution refrigerator adapted to the demanding conditions of a neutron scattering experiments. Due to its efficient design, the cooling time has been considerably reduced compared to that of refrigerators of the same type developed in the past.