Dans un processus de photoassociation, deux atomes froids de césium absorbent un photon au cours de leur collision pour former une molécule froide électroniquement excitée dans un niveau de rotation et de vibration défini. L'énergie cinétique initiale des atomes libres étant très faible, le processus est résonnant et permet d'effectuer une spectroscopie à haute résolution qui donne accès à des niveaux de vibration de grande élongation, proches de la limite de dissociation. Nous présentons dans cette thèse les spectres des états corrélés à la limite 6S+6P et mettons en évidence le caractère purement longue distance de l'état 1u (6S+6P3/2). Cet état consiste en une paire d'atomes uniquement lié à 1,5 nm par l'interaction électrostatique multipolaire. La modulation de l'intensité des raies pour une progression vibrationnelle donnée reflète la structure nodale de la fonction radiale en onde s de deux atomes en collision dans l'état fondamental. La photoassociation par excitation de l'état 0g-(6S +6P3/2) d'atomes polarisés permet de déterminer les valeurs de la longueur de diffusion de l'état triplet du césium (aT = -530 a0) et du coefficient de Van der Waals de l'état fondamental moléculaire (C6 = 6510 u.a.). La photoassociation d'atomes froids de césium permet aussi la formation de molécules froides dans l'état fondamental singulet ou triplet après émission spontanée des molécules photoassociées. Différents schémas de formation sont caractérisés. Notament, les potentiels en double-puits 0g-(6S+6P3/2) et 1u(6S+6P3/2) présentent un point de Condon à distance intermédiare et constituent un cas idéal pour la formation de molécules froides. Le nuage moléculaire froid est analysé : des températures aussi basses que 20 microKelvins ont été mesurées et la distribution des niveaux de rotation et de vibration est étudiée. Les efficacités pour la réaction de photoassociation et pour la formation de molécules froides sont mesurées et comparées aux calculs théoriques.

Cette thèse expose différentes expériences de spectroscopie dans des cellules de vapeur ultra minces d'épaisseurs comprises entre 30 et 1300 nm. Nous présentons la réponse optique en transmission et en réflexion de la transition D1 du Cs en fonction de l'épaisseur. Elle est transitoire car induite par le confinement des atomes entre les parois. L'interaction de van der Waals attractive entre atome et surface résolue avec la distance est observée et nous proposons un modèle théorique d'interaction avec deux parois utilisant les réflexions multiples du dipôle atomique fluctuant. Le niveau de Cs(6D3/2) est peuplé par différentes techniques à deux photons pour des épaisseurs inférieures à 100 nm. Nous présentons aussi une investigation du croisement des potentiels répulsif (de ce niveau résonnant avec la surface de saphir) et attractif (du niveau 6D5/2 non résonnant) pour une distance à la surface estimée à 5 nm.