Les techniques de refroidissement d'atomes par laser ont permis d'atteindre des températures suffisamment basses pour que des effets liés à la statistique quantique deviennent observables. Toutefois, compte tenu des faibles densités mises en jeu dans ces expériences, de tels effets ne sont significatifs que lorsque la vitesse moyenne des atomes est inférieure à la vitesse de recul d'un seul photon. La première partie de cette thèse présente la mise en oeuvre expérimentale à une dimension d'une méthode de refroidissement laser permettant de franchir la limite du recul, le refroidissement Raman. Pour rendre possible la généralisation cette méthode à trois dimensions et au cas d'atomes confinés, un nouveau type de piège, le piège opto-électrique, a été mis au point. Dans la deuxième partie, la détection des effets quantiques collectifs par une méthode optique (mesures de l'indice de réfraction et de la section efficace de diffusion) est étudiée théoriquement dans le cas d'un nuage atomique homogène et de faible densité. Sous cette hypothèse, les effets statistiques induisent une perturbation du signal faible, quoique détectable.

Dans ce mémoire sont présentées plusieurs méthodes de refroidissement d'atomes de césium confinés dans un piège optique à faible taux de diffusion, le piège dipolaire croisé. Le piège est constitué de deux faisceaux focalisés croisés issus d'un laser Nd:YAG. Les atomes, dans l'un des sous-niveaux hyperfins de l'état fondamental, restent confinés au croisement des foyers pendant une à deux secondes. Les densités accessibles sont élevées 10^12 atomes/cm3 environ). Pour manipuler ces atomes, on utilise la transition Raman stimulée à deux photons entre les états hyperfins. Une nouvelle forme d'impulsion très efficace reposant sur un transfert adiabatique entre ces niveaux a été mise au point au cours de ce travail. Cette impulsion est utilisée dans toutes les expériences de refroidissement décrites dans cette thèse.<br /><br />Dans une première série d'expériences, on superpose au piège un réseau interférentiel unidimensionnel de pas comparable à la longueur d'onde optique. On peut résoudre la structure vibrationnelle induite avec les transitions Raman. Les atomes sont refroidis dans ce réseau par la méthode du refroidissement par bandes latérales initialement développée pour les ions et appliquée pour la première fois ici aux atomes neutres. On prépare ainsi un échantillon d'atomes froids avec 90% des atomes dans le niveau fondamental du réseau.<br /><br />Cette thèse présente également les résultats obtenus sur les atomes piégés par refroidissement Raman. Cette technique, très efficace à une dimension sur les atomes libres, est étendue à trois dimensions sur des atomes piégés, polarisés ou non. On a développé ici une méthode permettant simultanément de polariser et de refroidir les atomes en utilisant la transition Raman. On obtient des températures de l'ordre de 2 µK avec des densités atomiques de l'ordre de 10^12 atomes/cm3, ce qui représente un gain de trois à quatre ordres de grandeur par rapport à un piège magnéto-optique. On montre que la limite atteinte est due à la réabsorption par les atomes refroidis de photons résonnants issus du repompage. En réduisant volontairement la densité atomique, on limite la réabsorption, ce qui permet d'atteindre des températures encore plus basses (680 nK).

Les températures que l'on peut atteindre par refroidissement laser sub-recul d'atomes libres ne sont limitées que par le temps d'interaction. Cette thèse présente dans sa première partie une théorie du refroidissement sub-recul qui utilise les vols de Lévy, qui est confirmée par simulations Monte-Carlo et appliquée à la méthode du refroidissement Raman. Ce travail montre l'importance de la forme des impulsions Raman et donne la première expression quantitative de la température la plus basse que l'on peut atteindre avec une bonne efficacité dans un temps donné. En particulier, de simples impulsions carrées sont plus efficaces pour le refroidissement unidimensionnel que les impulsions Blackman utilisées auparavant. De plus, nous montrons comment la théorie et les simulations permettent de déterminer les valeurs optimales des paramètres tels que durée et désaccord des impulsions.<br /><br />Ces résultats nouveaux sont appliqués dans une expérience de refroidissement Raman unidimensionnel utilisant des atomes de césium. Le dispositif, qui utilise uniquement des diodes laser, comprend un piège magnéto-optique en cellule et deux lasers verrouillés en phase avec une différence de fréquence de 9.19 GHz pour exciter la transition Raman. En utilisant des impulsions carrées, on obtient une température unidimensionnelle de 2.8 nK avec une hauteur du pic à vitesse nulle qui est 10 fois celle de la distribution initiale. Nous avons atteint des températures encore plus basses, jusqu'à 0.8 nK, avec un gain légèrement inférieur. Ces résultats représentent à notre connaissance les plus basses températures atteintes par refroidissement laser. A ces températures, la fonction d'onde atomique est délocalisée sur plus de 10 longueurs d'onde optiques.<br /><br />Les applications d'un tel ensemble atomique ultrafroid vont de l'observation d'oscillations de Bloch d'atomes dans un potentiel périodique lumineux jusqu'à l'amélioration des horloges atomiques. Le refroidissement sub-recul d'atomes piégés dans un potentiel lumineux constitue une voie prometteuse pour la production d'un gaz quantique dégénéré avec des techniques purement optiques.