L'hélium métastable (23S1) est à ce jour le seul élément qui n'est pas dans son état électronique fondamental pour lequel la condensation de Bose-Einstein a été obtenue. Grâce à l'énergie interne qu'ils possèdent, ces atomes peuvent être détectés électroniquement de façon rapide et efficace par une galette de micro-canaux (MCP). De plus, cette énergie est responsable de collisions ionisantes au sein de l'échantillon piégé magnétiquement (ionisation Penning). Les ions ainsi formés sont également détectés par le MCP. Une fois les caractéristiques du système de détection déterminées, et la démarche expérimentale permettant de produire des condensats de Bose-Einstein détaillée, cette thèse présente les études réalisées pour déterminer l'origine des ions produits ainsi que certaines des nouvelles possibilités qu'offre le signal d'ions. Pour des échantillons de densité suffisamment faible, les ions proviennent majoritairement des collisions avec le gaz résiduel, et le signal est alors proportionnel au nombre d'atomes piégés. Pour des échantillons de densité suffisamment élevée, comme ceux obtenus proches du seuil de condensation, les ions proviennent majoritairement de collisions à deux corps et à trois corps. Le signal d'ions dépend alors également de la densité de l'échantillon. Suivant la gamme de densité, ce signal nous fournit donc une mesure " non-perturbative " en temps réel de ces différentes grandeurs. Nous avons notamment pu montrer qu'il était un précieux indicateur du moment où se produit la condensation, car il rend compte de la brusque augmentation de densité qui se produit alors. En étudiant le taux d'ions en fonction de la densité et du nombre d'atomes de condensats purs et de nuages thermiques au seuil de condensation, nous avons mesuré pour la première fois les constantes de collisions de ces processus d'ionisation. Les résultats trouvés sont en accord avec les prédictions théoriques.

Cette thèse présente des résultats obtenus par des méthodes originales sur les nuages d'atomes ultra-froids au voisinage de la condensation de Bose-Einstein. Les atomes qui constituent les nuages utilisés dans ces expériences sont particuliers du fait de leur métastabilité. Plus précisément, ce sont des atomes d'hélium métastable. Grâce à l'énergie interne qu'ils possèdent, ces atomes peuvent être détectés électroniquement de façon efficace par une galette de micro-canaux. L'utilisation de l'hélium métastable pour l'étude de la dégénérescence quantique est également particulière du fait de la présence de collisions ionisantes au sein de l'échantillon atomique. Les ions He+ créés lors d'une collision inélastique peuvent être détectés ''en temps réel", ce qui constitue un diagnostic nouveau et intéressant. En particulier, il est possible d'identifier très précisément le seuil de condensation de Bose-Einstein, c'est-à-dire le moment où commencent à s'accumuler les atomes dans l'état quantique fondamental. L'avantage d'utiliser le taux d'ions comme outil d'observation est sa nature ''non-invasive". Contrairement à la technique d'observation habituelle qui exige que les atomes soient lâchés du piège pour permettre leur observation, la mesure du taux d'ions produits par l'échantillon ne change en rien le comportement naturel du nuage. En utilisant cette méthode de diagnostic originale, une mesure des paramètres collisionnels régissant le comportement du nuage a été obtenue : constantes de collisions ionisantes et longueur de diffusion de l'atome d'hélium métastable.

Cette thèse présente deux expériences sur des gaz ultrafroids d'hélium métastable qui constituent l'extension, à des ondes de matière, d'expériences fondamentales en optique quantique. Le succès de ces expériences repose sur l'utilisation d'un détecteur d'atomes uniques capable de reconstruire la position des atomes en trois dimensions. Dans la première expérience nous avons comparé, sur le même dispositif expérimental, la fonction de corrélation à deux corps des atomes appartenant à un nuage froid de fermions identiques à celle d'un nuage froid de bosons identiques à la même température. Comme bosons et fermions suivent deux statistiques quantiques différentes, les deux fonctions de corrélation sont différentes : les bosons ont tendance à arriver groupés sur le détecteur, alors que les fermions ont tendance à arriver dégroupés, à cause du principe d'exclusion de Pauli. Dans la deuxième expérience nous avons étudié la corrélation entre paires d'atomes bosoniques générées dans la collision de deux condensats de Bose-Einstein. La mesure de la fonction de corrélation nous a permis de démontrer que les atomes d'impulsion opposée, dans le référentiel du centre de masse, sont corrélés par paires. De plus l'observation d'une corrélation de type Hanbury Brown Twiss entre paires d'atomes diffusés dans la même direction démontre que notre système ne peut pas être interprété en termes de mécanique classique, mais que la statistique bosonique y joue un rôle important. Une nouvelle génération de cette expérience permettra de mesurer la dépendance angulaire de la population des modes atomiques diffuses et d'étudier le squeezing de la différence de population entre modes opposés.

Ce manuscrit décrit les expériences menées sur le montage "hélium métastable" de 1998 à 2008. Dès mon arrivée à l'Institut d'Optique, nous avions décidé de nous lancer dans la course de la condensation de Bose-Einstein de l'hélium métastable. Cet atome a en effet un atout : sa métastabilité. Son énergie interne de 20 eV est suffisamment grande pour que cet atome puisse être détecté électroniquement de façon très efficace par une galette de micro-canaux ; il est ainsi possible de faire du comptage d'atomes uniques, d'où la thématique optique atomique quantique. De plus, la probabilité d'avoir une ionisation lors d'une collision entre deux ou trois atomes d'hélium métastable est assez importante aux densités atomiques auxquelles nous travaillons. Les ions produits, détectables par la même galette permettent d'avoir un diagnostic in situ original de la densité atomique. On peut chronologiquement distinguer trois périodes. De 1998 à 2004 nous avons obtenu le condensat et étudié ces propriétés collisionnelles. De 2004 à 2007 nous avons mesuré les propriétés de corrélation à deux corps des nuages au-dessus ou en dessous de la dégénérescence quantique, suite à une amélioration de notre système de détection. Depuis 2006, nous avons commencé une nouvelle thématique portant sur l'optique atomique quantique et une première expérience sur la création de paires d'atomes a déjà eu lieu.