Le laser aléatoire est un nouveau type de laser, dont les propriétés d'émission sont basées sur la diffusion multiple de lumière dans un milieu désordonné, en présence de gain. Nous avons comme projet de réaliser un tel laser aléatoire, avec comme milieu à gain un nuage d'atomes froids de 85Rb, piégés dans un piège magnéto-optique. Cette thèse présente les premières étapes de recherche, portant sur les processus de gain dans le nuage d'atomes. Nous avons étudié théoriquement et expérimentalement trois types de gain : le gain Mollow, le gain Raman, et le mélange à quatre ondes. L'existence de ces gains nous permet de produire de façon classique un laser, en plaçant le nuage d'atomes dans une cavité Fabry-Pérot ; ce qui représente une étape préliminaire, et essentielle, dans la réalisation d'un laser aléatoire. D'autre part, une étude est menée sur le comportement de la lumière diffusée par le nuage d'atome en présence de gain.

Ce manuscrit s'intéresse aux phénomènes de transport de la lumière en milieux désordonnés non linéaires, dans lesquels la lumière est susceptible de subir une redistribution en fréquence lors de la diffusion. Plus spécifiquement, il étudie la possibilité d'utiliser des vapeurs atomiques éclairées à résonance pour caractériser deux régimes singuliers de transport : le laser aléatoire et les vols de Lévy des photons. Nous commençons par introduire un formalisme standard d'étude du transport de la lumière dans une vapeur atomique diluée. Les équations de Bloch optiques décrivent la réponse d'un atome à un champ extérieur cohérent; elles permettent d'obtenir les sections efficaces qui caractérisent la marche aléatoire de la lumière dans le milieu. Le plus souvent, celle-ci peut être décrite par une équation de la diffusion. En présence de gain, l'équation de la diffusion prévoit un emballement de l'intensité diffuse lorsque l'échantillon dépasse une taille critique: c'est le laser aléatoire. La seconde partie de ce manuscrit étudie par une double approche théorique et expérimentale la possibilité d'obtenir du gain dans un nuage d'atomes froids, en le soumettant à un pompage optique externe; puis de le combiner à la diffusion pour obtenir un laser aléatoire. Dans la configuration de gain Raman hyperfin, qui ressort comme la meilleure candidate à cette fin, l'impact du rayonnement diffus piégé au sein du milieu sur l'émission de l'échantillon est clairement mis en évidence. La plupart des effets observées peuvent être expliquées par un modèle de piégeage radiatif, en l'absence de gain; certaines observations, cependant, pourraient être attribuées à un laser aléatoire. Dans une dernière partie, nous nous intéressons aux vapeurs atomiques chaudes dans lesquelles une redistribution en fréquence intervient du fait de l'effet Doppler y compris en milieu passif. Le phénomène crée des photons fortement désaccordés par rapport à la résonance atomique, qui sont faiblement diffusés et peuvent parcourir de longues distances dans le milieu. Ces évènements rares de grande amplitude brisent les hypothèses du modèle diffusif. Nous présentons ici un dispositif qui permet une mesure directe de la distribution de la taille des pas des photons dans une vapeur chaude de rubidium. Le résultat obtenu est caractéristique d'un régime de diffusion anormale dit de vols de Lévy.