Cette thèse présente deux expériences sur des gaz ultrafroids d'hélium métastable qui constituent l'extension, à des ondes de matière, d'expériences fondamentales en optique quantique. Le succès de ces expériences repose sur l'utilisation d'un détecteur d'atomes uniques capable de reconstruire la position des atomes en trois dimensions. Dans la première expérience nous avons comparé, sur le même dispositif expérimental, la fonction de corrélation à deux corps des atomes appartenant à un nuage froid de fermions identiques à celle d'un nuage froid de bosons identiques à la même température. Comme bosons et fermions suivent deux statistiques quantiques différentes, les deux fonctions de corrélation sont différentes : les bosons ont tendance à arriver groupés sur le détecteur, alors que les fermions ont tendance à arriver dégroupés, à cause du principe d'exclusion de Pauli. Dans la deuxième expérience nous avons étudié la corrélation entre paires d'atomes bosoniques générées dans la collision de deux condensats de Bose-Einstein. La mesure de la fonction de corrélation nous a permis de démontrer que les atomes d'impulsion opposée, dans le référentiel du centre de masse, sont corrélés par paires. De plus l'observation d'une corrélation de type Hanbury Brown Twiss entre paires d'atomes diffusés dans la même direction démontre que notre système ne peut pas être interprété en termes de mécanique classique, mais que la statistique bosonique y joue un rôle important. Une nouvelle génération de cette expérience permettra de mesurer la dépendance angulaire de la population des modes atomiques diffuses et d'étudier le squeezing de la différence de population entre modes opposés.

Ce manuscrit décrit les expériences menées sur le montage "hélium métastable" de 1998 à 2008. Dès mon arrivée à l'Institut d'Optique, nous avions décidé de nous lancer dans la course de la condensation de Bose-Einstein de l'hélium métastable. Cet atome a en effet un atout : sa métastabilité. Son énergie interne de 20 eV est suffisamment grande pour que cet atome puisse être détecté électroniquement de façon très efficace par une galette de micro-canaux ; il est ainsi possible de faire du comptage d'atomes uniques, d'où la thématique optique atomique quantique. De plus, la probabilité d'avoir une ionisation lors d'une collision entre deux ou trois atomes d'hélium métastable est assez importante aux densités atomiques auxquelles nous travaillons. Les ions produits, détectables par la même galette permettent d'avoir un diagnostic in situ original de la densité atomique. On peut chronologiquement distinguer trois périodes. De 1998 à 2004 nous avons obtenu le condensat et étudié ces propriétés collisionnelles. De 2004 à 2007 nous avons mesuré les propriétés de corrélation à deux corps des nuages au-dessus ou en dessous de la dégénérescence quantique, suite à une amélioration de notre système de détection. Depuis 2006, nous avons commencé une nouvelle thématique portant sur l'optique atomique quantique et une première expérience sur la création de paires d'atomes a déjà eu lieu.

En 2001, la condensation de Bose-Einstein (CBE) a été obtenue sur un gaz d'hélium métastable (He*). L'état métastable a un temps de vie de 9000 sec et une énergie interne de 20 eV. Cette énergie peut être utilisée pour détecter ces atomes avec une galette de micro-canaux. La très bonne réponse temporelle et le fort gain de ce détecteur ont permis une expérience de corrélation de densité similaire à celle de R. Twiss et R. Hanbury Brown (HBT) en optique. D'autre part, les collisions non élastiques dans l'échantillon d'He* produisent un flux d'ions, faible mais détectable, proportionnel à la densité du nuage. Ce flux permet de suivre la densité atomique vers la CBE, passant par la transition de phase, en temps réel et de manière non invasive.<br />Dans cette thèse nous rendons compte de trois expériences différentes : i) la détermination des constantes d'ionisation à deux et trois corps pour l'He*, ii) la détermination de la longueur de diffusion, a, de l'He* et iii) la mesure de la fonction de corrélation d'intensité d'un nuage d'He* en chute libre. Il a été montré postérieurement à notre mesure de a que celle-ci était entachée d'une erreur systématique dont nous proposons une explication. Nous décrivons des techniques de mesure de la température et de la fugacité d'un nuage thermique. Finalement un part importante de la thèse est dévolue à la dérivation d'une expression analytique de la fonction de corrélation d'intensité du flux atomique. Cette analyse a permis d'obtenir des valeurs typiques pour les longueurs de corrélation, transverse et longitudinale, et de confirmer la possibilité de réaliser une expérience de type HBT sur notre montage expérimental.