Les techniques de refroidissement d'atomes par laser dans les mélasses optiques conduisent à des "températures" minimales de quelques microkelvins. Dans ce régime ultra-froid, le mouvement des atomes n'est plus descriptible en termes d'une force de friction visqueuse et d'une diffusion en impulsion. Pour obtenir les limites du refroidissement, nous avons donc développé de nouvelles approches, dont la plus fructueuse traite quantiquement le mouvement atomique dans le potentiel créé par la lumière. Les mélasses sont étudiées pour les deux configurations laser modèles à une dimension, σ+ — σ- et Ox — Oy. Les atomes ont alors une impulsion quadratique moyenne minimale d'environ 6\hbar k, où \hbar k est la quantité de mouvement d'un photon laser.

L'objet de cette thèse est l'étude de deux applications des atomes refroidis par laser. La première porte sur la production d'atomes refroidis à quelques microKelvins en microgravité. Un allongement considérable du temps de séjour des atomes dans un volume réduit a été ainsi démontré. La deuxième, plus fondamentale, met à profit les méthodes de l'optique non-linéaire pour étudier les mécanismes de refroidissement eux-mêmes. Les signaux de spectroscopies Raman et Rayleigh stimulées donnent accès à une mesure directe de la force subie par un atome dans une mélasse en "tire-bouchon"à une dimension. Ils permettent aussi, dans le cas des mélasses "Sisyphe"(à une, deux ou trois dimensions), la mise en évidence de la localisation des atomes au fond des puits du potentiel créé par la lumière. Ces derniers étant situés sur un réseau bien ordonné, l'image du milieu visqueux créé par les photons laser cède la place à l'image d'un cristal optique induit par la lumière.

La spectroscopie Raman et Rayleigh stimulée des atomes refroidis par laser donne accès à de nombreuses propriétés des mélasses optiques. Nous interprétons les spectres de transmission et de conjugaison de phase observés dans les deux configurations lasers à une dimension lin+lin et σ+-σ-. Dans le premier cas, les résonances Raman stimulées montrent la localisation et la quantification du mouvement atomique dans le potentiel créé par la lumière. Les résonances Rayleigh stimulées donnent des informations sur les propriétés dynamiques de la mélasse et prouvent l'ordre spatial anti-ferromagnétique des atomes. Dans le second cas, les structures Raman montrent l'existence de différences de populations et de déplacements lumineux dans l'état fondamental. La résonance Rayleigh donne un accès expérimental direct au coefficient de friction de la force de refroidissement.