Les techniques de refroidissement d'atomes par laser dans les mélasses optiques conduisent à des "températures" minimales de quelques microkelvins. Dans ce régime ultra-froid, le mouvement des atomes n'est plus descriptible en termes d'une force de friction visqueuse et d'une diffusion en impulsion. Pour obtenir les limites du refroidissement, nous avons donc développé de nouvelles approches, dont la plus fructueuse traite quantiquement le mouvement atomique dans le potentiel créé par la lumière. Les mélasses sont étudiées pour les deux configurations laser modèles à une dimension, σ+ — σ- et Ox — Oy. Les atomes ont alors une impulsion quadratique moyenne minimale d'environ 6\hbar k, où \hbar k est la quantité de mouvement d'un photon laser.

L'objet de cette thèse est l'étude de deux applications des atomes refroidis par laser. La première porte sur la production d'atomes refroidis à quelques microKelvins en microgravité. Un allongement considérable du temps de séjour des atomes dans un volume réduit a été ainsi démontré. La deuxième, plus fondamentale, met à profit les méthodes de l'optique non-linéaire pour étudier les mécanismes de refroidissement eux-mêmes. Les signaux de spectroscopies Raman et Rayleigh stimulées donnent accès à une mesure directe de la force subie par un atome dans une mélasse en "tire-bouchon"à une dimension. Ils permettent aussi, dans le cas des mélasses "Sisyphe"(à une, deux ou trois dimensions), la mise en évidence de la localisation des atomes au fond des puits du potentiel créé par la lumière. Ces derniers étant situés sur un réseau bien ordonné, l'image du milieu visqueux créé par les photons laser cède la place à l'image d'un cristal optique induit par la lumière.

Cette thèse s'inscrit dans le cadre de l'étude théorique des réseaux optiques brillants et gris, par des modèles uni- ou multidimensionnels. Nous présentons d'abord une méthode d'élaboration et de classification systématique des réseaux optiques multidimensionnels en utilisant des arguments de cristallographie. Une approche semi-classique basée sur des simulations de Monte-Carlo est ensuite mise au point dans le cadre des réseaux optiques unidimensionnels pour diverses transitions atomiques. Ce modèle, ainsi que le modèle quantique des bandes, sont utilisés pour l'étude de la température et du magnétisme des réseaux optiques brillants et gris. Le comportement magnétique général trouvé est en bon accord avec des expériences récentes. Nous étudions enfin un nouveau type de réseau gris bidimensionnel, comportant une structure périodique d'antiplots. La dynamique atomique au sein de ce réseau est analysée au moyen de spectroscopie pompe-sonde, permettant de mettre en évidence un comportement dynamique très original.

Cette thèse a deux volets : d'abord l'étude du refroidissement et de la dynamique d'atomes dans des mélasses grises et des réseaux gris, puis la présentation d'une nouvelle méthode de spectroscopie pour étudier la dynamique d'atomes dans des réseaux brillants. Dans les structures de potentiel lumineux que constituent les mélasses grises, les atomes de Césium sont refroidis à des températures particulièrement basses (800 nK) car ils sont piégés dans des états où ils ne subissent pratiquement plus l'influence de la lumière. L'addition d'un fort champ magnétique statique transforme alors la structure de potentiel vue par l'atome en un paysage de collines régulièrement séparées par des vallées plates. Dans ce nouvel environnement dénommé réseau gris, le comportement dynamique des atomes devient inhabituel : ils rebondissent de plot en plot comme des billes de flipper. Les réseaux brillants, en comparaison, présentent une structure de potentiel en forme de fosses (puits de potentiel) dans lesquelles les atomes restent piégés. C'est pour étudier plus en détail la dynamique atomique dans ces réseaux brillants que nous avons mis au point la technique spectroscopique de "transitoire cohérent". Grâce à son très bon rapport signal sur bruit et une sélectivité en fréquence accrue, cette technique nous a permis d'attribuer à l'anharmonicité du potentiel la majeure partie de la relaxation du mouvement oscillatoire des atomes dans les puits. Par ailleurs, elle a permis une étude quantitative du transport atomique dans les réseaux brillants.

Cette thèse porte sur l'étude expérimentale et théorique des corrélations de photons diffusés par des atomes refroidis par laser. Le spectre de corrélations d'intensité (ou, dans le domaine temporel, la fonction de corrélation) fournit différents types d'information selon la nature de l'échantillon atomique. Dans le cas d'un gaz d'atomes désordonné, nous montrons qu'il permet de mesurer là température de l'échantillon, mais c'est dans le cadre de l'étude de la dynamique atomique dans un potentiel optique tridimensionnel et périodique (un réseau atomique) que la technique se révèle la plus intéressante. Les spectres et fonctions de corrélations, interprétés grâce à des modèles numériques que nous exposons en détail, donnent en effet accès aux propriétés du transport des atomes dans le réseau, à petite comme à grande échelle. A l'instar d'autres techniques éprouvées, les corrélations d'intensité permettent de caractériser en détail la dynamique locale et le mouvement vibrationnel. Pour tirer parti de la nature particulière de la polarisation de la lumière diffusée dans les réseaux que nous étudions, nous introduisons la technique des corrélations d'intensité sélectives en polarisation qui nous permet d'obtenir des résultats originaux. En particulier, la fonction de corrélations croisées entre composantes de polarisation différente met en évidence la nature diffusive du mouvement* atomique dans certàines directions et porte la signature d'un nouvel effet de dégroupement de photons.