Dans ce travail, nous nous intéressons à la spectroscopie optique par réflexion d’une vapeur diluée de césium infiltrée dans des opales artificielles Langmuir-Blodgett. Après une étude microscopique de la structure des opales, nous rapportons des expériences de réflexion, transmission et diffraction (sans atomes) effectuées sur diverses opales, dans le but d’explorer la propagation du champ lumineux dans ces milieux. En effectuant des expériences de réflexion sélective, nous observons que pour une polarisation TM, le signal atomique s’annule à 45° et à l’angle de Brewster, et entre ces deux zéros le signe du signal est inversé. Cet effet était prédit théoriquement mais n’avait jamais été observé. Nous rapportons aussi les expériences de spectroscopie par réflexion d’une vapeur infiltrée dans diverses opales et pour différentes longueurs d’onde. Sur des opales multicouches, nous observons des spectres sub-Doppler en incidence oblique, dont la forme est sensible à l’incidence, la polarisation et la longueur d’onde. Ces spectres ont été interprétés comme une signature d’un confinement tridimensionnel. Les expériences sur une opale multizone montre que sur une opale monocouche, nous observons aussi un signal sub-Doppler où il n’y a pas de confinement tridimensionnel. / In this work, we are interested in reflection optical spectroscopy of diluted cesium vapor infiltrated in Langmuir-Blodgett artificial opals. After a microscopic study of the structure of opals, we report experiments of reflection, transmission and diffraction (without atoms) carried out on various opals, with the aim of exploring the propagation of the light field in these media. By carrying out selective reflection experiments, we observe that for a TM polarization the atomic signal vanishes at 45° and the Brewster angle, and between these two zeros the sign of the signal is reversed. This effect was predicted theoretically but had never been observed. We also report the experiments of reflection spectroscopy of a vapor infiltrated in various opals and for different wavelengths. On multi-layered opals, we observe sub-Doppler spectra in oblique incidence, the shape of wich in sensitive to incidence, polarization and wavelength. These spectra were interpreted as a signature of a three-dimensional confinement. Experiments on a multi-zone opal show that on a monolayer opal, we also observe a sub-Doppler signal where there is no three-dimensional confinement.

Cette thèse présente l'étude de l'interaction de lumière cohérente avec une couche sub-longueur d'onde de vapeur alcaline atomique confinée en nano-cellule et applications pour la formation de résonances optiques étroites.Nous développons un modèle théorique décrivant l'interaction résonante de lumière laser avec la couche mince de vapeur alcaline en présence d'un champ magnétique. Nous montrons qu'en raison d'un régime transitoire d'interaction, seuls les atomes lents contribuent au signal et leur spectre de transmission est essentiellement sans effet Doppler. La nature des spectres obtenus fait de la spectroscopie de transmission, en nano-cellule, une technique pratique pour l'étude de transitions très rapprochées et l'évolution de leur comportement dans un champ magnétique. Des expériences réalisées pour des champs magnétiques jusqu'à 7000 G montrent un excellent accord entre théorie et expérience.Nous explorons aussi la rotation Faraday du plan de polarisation de la lumière lors de sa propagation dans la couche mince atomique. Bien que l'angle de rotation soit très faible, nous observons que les résonances des spectres de rotation Faraday sont plus étroites que celles de transmission. Enfin, nous étudions de nouvelles possibilités pour former des résonances optiques étroites et montrons qu'un traitement par deuxième dérivée des spectres de transmission donne le meilleur rétrécissement de raies parmi toutes les méthodes étudiées dans cette thèse. / This thesis presents the study of coherent light interaction with a sub-wavelength atomic alkali vapor layer confined in a nano-cell and applications for the formation of narrow optical resonances.We develop a theoretical model describing the resonant interaction of the laser light with the thin alkali vapor layer in the presence of an external static magnetic field. We show that due to a transient regime of interaction, only slow atoms contribute to the signal and their transmission spectrum is essentially Doppler-free. The nature of the obtained spectra makes the transmission spectroscopy from a nano-cell a convenient technique to perform studies of closely-spaced atomic transitions and investigate their behavior in magnetic fields. Experimental realizations for magnetic field up to 7000~G show an excellent agreement between theory and experiment.We also explore the Faraday rotation of the plane polarization of light with the propagation through the thin atomic slab. We see that despite a small angle of rotation, Faraday rotation spectra exhibit resonances narrower than that for transmission. At last, we investigate new possibilities to form narrow optical resonances in nano-cells and show that second derivation processing of transmission spectra yields the strongest line narrowing among all methods studied in this thesis.

Ce mémoire rapporte diverses expériences de spectroscopie visant à étudier le comportement d'une vapeur atomique soumise à un confinement tridimensionnel sub-micrométrique. Nous présentons notamment les spectres expérimentaux de réflexion (raies D1 et D2) réalisées sur des cellules macroscopiques contenant une vapeur de césium et une opale constituée d'un nombre contrôlé de couches de nano-billes de silice (déposé par la technique Langmuir-Blodgett). En fonction de l'angle incidence du faisceau illuminant l'opale, deux types de signaux sub-Doppler sont observés via une détection par modulation de fréquence : l'un observable à des angles d'incidence faibles, rappelant les formes de raies habituelles d'une réflexion sélective sur une interface plane de verre, et l'autre, superposé à un signal de fond large, pour des angles d'incidence importants. Cette structure, inédite pour des expériences de réflexion sélective, peut être isolée par une expérience pompe-sonde ou une détection 2f. Elle pourrait être la signature d'un rétrécissement Dicke, conséquence du confinement des atomes sur une distance équivalente à une fraction de longueur d'onde.

Cette thèse expose différentes expériences de spectroscopie dans des cellules de vapeur ultra minces d'épaisseurs comprises entre 30 et 1300 nm. Nous présentons la réponse optique en transmission et en réflexion de la transition D1 du Cs en fonction de l'épaisseur. Elle est transitoire car induite par le confinement des atomes entre les parois. L'interaction de van der Waals attractive entre atome et surface résolue avec la distance est observée et nous proposons un modèle théorique d'interaction avec deux parois utilisant les réflexions multiples du dipôle atomique fluctuant. Le niveau de Cs(6D3/2) est peuplé par différentes techniques à deux photons pour des épaisseurs inférieures à 100 nm. Nous présentons aussi une investigation du croisement des potentiels répulsif (de ce niveau résonnant avec la surface de saphir) et attractif (du niveau 6D5/2 non résonnant) pour une distance à la surface estimée à 5 nm.