Dans ce mémoire sont présentées plusieurs méthodes de refroidissement d'atomes de césium confinés dans un piège optique à faible taux de diffusion, le piège dipolaire croisé. Le piège est constitué de deux faisceaux focalisés croisés issus d'un laser Nd:YAG. Les atomes, dans l'un des sous-niveaux hyperfins de l'état fondamental, restent confinés au croisement des foyers pendant une à deux secondes. Les densités accessibles sont élevées 10^12 atomes/cm3 environ). Pour manipuler ces atomes, on utilise la transition Raman stimulée à deux photons entre les états hyperfins. Une nouvelle forme d'impulsion très efficace reposant sur un transfert adiabatique entre ces niveaux a été mise au point au cours de ce travail. Cette impulsion est utilisée dans toutes les expériences de refroidissement décrites dans cette thèse.<br /><br />Dans une première série d'expériences, on superpose au piège un réseau interférentiel unidimensionnel de pas comparable à la longueur d'onde optique. On peut résoudre la structure vibrationnelle induite avec les transitions Raman. Les atomes sont refroidis dans ce réseau par la méthode du refroidissement par bandes latérales initialement développée pour les ions et appliquée pour la première fois ici aux atomes neutres. On prépare ainsi un échantillon d'atomes froids avec 90% des atomes dans le niveau fondamental du réseau.<br /><br />Cette thèse présente également les résultats obtenus sur les atomes piégés par refroidissement Raman. Cette technique, très efficace à une dimension sur les atomes libres, est étendue à trois dimensions sur des atomes piégés, polarisés ou non. On a développé ici une méthode permettant simultanément de polariser et de refroidir les atomes en utilisant la transition Raman. On obtient des températures de l'ordre de 2 µK avec des densités atomiques de l'ordre de 10^12 atomes/cm3, ce qui représente un gain de trois à quatre ordres de grandeur par rapport à un piège magnéto-optique. On montre que la limite atteinte est due à la réabsorption par les atomes refroidis de photons résonnants issus du repompage. En réduisant volontairement la densité atomique, on limite la réabsorption, ce qui permet d'atteindre des températures encore plus basses (680 nK).

Les températures que l'on peut atteindre par refroidissement laser sub-recul d'atomes libres ne sont limitées que par le temps d'interaction. Cette thèse présente dans sa première partie une théorie du refroidissement sub-recul qui utilise les vols de Lévy, qui est confirmée par simulations Monte-Carlo et appliquée à la méthode du refroidissement Raman. Ce travail montre l'importance de la forme des impulsions Raman et donne la première expression quantitative de la température la plus basse que l'on peut atteindre avec une bonne efficacité dans un temps donné. En particulier, de simples impulsions carrées sont plus efficaces pour le refroidissement unidimensionnel que les impulsions Blackman utilisées auparavant. De plus, nous montrons comment la théorie et les simulations permettent de déterminer les valeurs optimales des paramètres tels que durée et désaccord des impulsions.<br /><br />Ces résultats nouveaux sont appliqués dans une expérience de refroidissement Raman unidimensionnel utilisant des atomes de césium. Le dispositif, qui utilise uniquement des diodes laser, comprend un piège magnéto-optique en cellule et deux lasers verrouillés en phase avec une différence de fréquence de 9.19 GHz pour exciter la transition Raman. En utilisant des impulsions carrées, on obtient une température unidimensionnelle de 2.8 nK avec une hauteur du pic à vitesse nulle qui est 10 fois celle de la distribution initiale. Nous avons atteint des températures encore plus basses, jusqu'à 0.8 nK, avec un gain légèrement inférieur. Ces résultats représentent à notre connaissance les plus basses températures atteintes par refroidissement laser. A ces températures, la fonction d'onde atomique est délocalisée sur plus de 10 longueurs d'onde optiques.<br /><br />Les applications d'un tel ensemble atomique ultrafroid vont de l'observation d'oscillations de Bloch d'atomes dans un potentiel périodique lumineux jusqu'à l'amélioration des horloges atomiques. Le refroidissement sub-recul d'atomes piégés dans un potentiel lumineux constitue une voie prometteuse pour la production d'un gaz quantique dégénéré avec des techniques purement optiques.

Cette thèse est consacrée à l'étude expérimentale des réseaux optiques brillants dans des situations où le potentiel lumineux perd partiellement ou totalement ses propriétés de périodicité spatiale. Elle s'inscrit dans le domaine du refroidissement d'atomes par laser tout en étudiant des systèmes qui partagent leurs propriétés de symétrie avec les quasicristaux (structures ordonnées non périodiques découvertes en physique des solides).<br /><br />Nous décrivons comment obtenir des potentiels lumineux quasi-périodiques et nous expliquons comment nous avons refroidi et piégé des atomes de césium dans des réseaux optiques incommensurables, dans des super-réseaux optiques (potentiels lumineux modulés à grande échelle) et dans des quasicristaux<br />optiques avec une symétrie rotationnelle d'ordre cinq.<br /><br />Nous avons caractérisé ces nouveaux systèmes physiques par des techniques de temps de vol, de spectroscopie pompe-sonde, de diffraction de Bragg et d'imagerie directe. Nous avons ainsi obtenu des informations sur la température cinétique, sur<br />le mouvement des atomes dans les puits de potentiel lumineux, sur la distribution de densité atomique (ordre à grande échelle) et sur les propriétés de transport des réseaux optiques quasi-périodiques.<br /><br />Dans une dernière partie de la thèse, nous avons effectué une étude<br />numérique par simulation Monte-Carlo semi-classique des réseaux optiques périodiques et quasi-périodiques à trois dimensions. Les résultats de ces simulations sur la température, la localisation et les propriétés de transport sont en bon accord qualitatif avec les expériences. Ces simulations ont permis d'améliorer notablement la compréhension du comportement des atomes dans ce nouveau type de réseau optique.

Cette thèse est consacrée à l'étude expérimentale d'atomes piégés<br />et refroidis dans plusieurs types de structures lumineuses. Nous avons utilisé pour caractériser ces milieux des techniques de temps de vol, d'imagerie directe du nuage atomique et de spectroscopie pompe-sonde, afin d'obtenir des informations sur la température et la diffusion spatiale des atomes ainsi que sur leur mouvement dans les puits de potentiel.<br /><br />Nous avons d'abord étudié la dynamique d'atomes de césium dans des<br />réseaux optiques tri-dimensionnels brillants en présence d'un champ<br />magnétique, et nous avons en particulier montré que les réseaux optiques fonctionnant en régime sautant donnent lieu à un refroidissement et un piégeage efficaces, et qu'un mécanisme de rétrécissement par le mouvement y conduit à des raies vibrationnelles étroites sur les spectres de transmission pompe-sonde. Avec des atomes de césium, nous avons également créé et<br />caractérisé un réseau optique tri-dimensionnel brillant obtenu avec<br />seulement deux faisceaux laser grâce à l'effet Talbot, puis un milieu aléatoire engendré à partir d'un champ de tavelures.<br /><br />Enfin, nous avons étudié un ``moteur brownien'' pour des atomes de $^(87)$Rb dans un réseau gris asymétrique. Les résultats de l'étude<br />expérimentale sont en bon accord qualitatif avec des simulations numériques Monte-Carlo semi-classiques.