Ce mémoire présente de nouvelles approches expérimentales et théoriques du refroidissement laser sub-recul par résonances noires. L'énergie de recul est l'énergie cinétique communiquée à un atome initialement immobile par l'absorption ou l'émission d'un seul photon. C'est une échelle importante dans le refroidissement d'atomes par laser, franchie pour la première fois en 1988, sur un jet d'hélium métastable, grâce à la méthode des résonances noires sélectives en vitesse. Ce travail porte sur les développements de cette méthode, d'une part dans le régime des temps longs, d'autre part à plusieurs dimensions. Le nouveau schéma expérimental repose sur la réalisation d'un piège laser d'atomes d'hélium métastables ultrafroids, à partir duquel on lâche en chute libre le nuage d'atomes piégés, dont les vitesses autorisent des temps d'interaction accrus par deux ordres de grandeur. Les champs magnétiques ont été compensés à un milligauss près par des expériences d'effet Hanle mécanique. Les premières expériences effectuées avec le nouveau dispositif ont permis d'atteindre un quarantième de l'énergie de recul (100 nanokelvins) à une dimension. La limite du recul à deux dimensions a pu être franchie pour la première fois (un vingtième de l'énergie du recul, soit 200 nanokelvins) Sur le plan théorique, on a développé un nouveau type de simulations Monte-Carlo quantiques beaucoup plus efficaces que la résolution des équations de Bloch optiques On a pu explorer ainsi le régime des temps longs. Ces simulations ont suggéré une approche statistique complètement nouvelle du problème, basée sur les statistiques de Lévy récemment introduites pour étudier la diffusion anormale. Cette approche a permis de confirmer une conjecture prédisant une décroissance de la température atteinte comme l'inverse du temps d'interaction. Elle fournit également des résultats analytiques nouveaux, par exemple sur la proportion d'atomes refroidis ou sur le rôle de la dimensionnalité.

Ce mémoire de thèse présente une nouvelle méthode de mesure de la température d'atomes ultra-froids à-partir de la fonction d'autocorrélation spatiale des paquets d'ondes atomiques. Nous déterminons ainsi la température d'atomes d'hélium 4 métastables refroidis par résonances noires sélectives en vitesse, une méthode qui refroidit les atomes en dessous de la température de recul liée à l'émission ou l'absorption d'un seul photon par un atome au repos. Un atome ainsi refroidi est préparé dans une superposition cohérente de deux paquets d'ondes d'impulsions moyennes opposées, initialement superposés et qu'on laisse ensuite se séparer. En mesurant la décroissance temporelle de leur recouvrement, nous avons accès à la transformée de Fourier de la distribution d'impulsion des atomes. Nous pouvons ainsi mesurer des températures aussi basses que 5 nK, soit 800 fois plus petites que la température de recul. Par ailleurs nous étudions en détail la forme exacte de la distribution d'impulsions et comparons les résultats expérimentaux avec deux approches théoriques différentes : une simulation Monte Carlo quantique et un modèle analytique du refroidissement basé sur les statistiques de Lévy. Nous comparons la forme de raie calculée avec les résultats des simulations puis confrontons séparément chacune des approches théoriques aux données expérimentales. Un très bon accord est trouvé entre tous ces résultats. Nous démontrons ainsi la validité du modèle statistique du refroidissement subrecul et, pour la première fois, mettons en évidence expérimentalement certaines de ces caractéristiques, comme l'absence d'état stationnaire, l'autosimilarité et le caractère non lorentzien de la distribution d'impulsion des atomes refroidis, tous ces aspects étant en relation directe avec le caractère non ergodique du refroidissement subrecul.

Les températures que l'on peut atteindre par refroidissement laser sub-recul d'atomes libres ne sont limitées que par le temps d'interaction. Cette thèse présente dans sa première partie une théorie du refroidissement sub-recul qui utilise les vols de Lévy, qui est confirmée par simulations Monte-Carlo et appliquée à la méthode du refroidissement Raman. Ce travail montre l'importance de la forme des impulsions Raman et donne la première expression quantitative de la température la plus basse que l'on peut atteindre avec une bonne efficacité dans un temps donné. En particulier, de simples impulsions carrées sont plus efficaces pour le refroidissement unidimensionnel que les impulsions Blackman utilisées auparavant. De plus, nous montrons comment la théorie et les simulations permettent de déterminer les valeurs optimales des paramètres tels que durée et désaccord des impulsions.<br /><br />Ces résultats nouveaux sont appliqués dans une expérience de refroidissement Raman unidimensionnel utilisant des atomes de césium. Le dispositif, qui utilise uniquement des diodes laser, comprend un piège magnéto-optique en cellule et deux lasers verrouillés en phase avec une différence de fréquence de 9.19 GHz pour exciter la transition Raman. En utilisant des impulsions carrées, on obtient une température unidimensionnelle de 2.8 nK avec une hauteur du pic à vitesse nulle qui est 10 fois celle de la distribution initiale. Nous avons atteint des températures encore plus basses, jusqu'à 0.8 nK, avec un gain légèrement inférieur. Ces résultats représentent à notre connaissance les plus basses températures atteintes par refroidissement laser. A ces températures, la fonction d'onde atomique est délocalisée sur plus de 10 longueurs d'onde optiques.<br /><br />Les applications d'un tel ensemble atomique ultrafroid vont de l'observation d'oscillations de Bloch d'atomes dans un potentiel périodique lumineux jusqu'à l'amélioration des horloges atomiques. Le refroidissement sub-recul d'atomes piégés dans un potentiel lumineux constitue une voie prometteuse pour la production d'un gaz quantique dégénéré avec des techniques purement optiques.