Dans ce travail, nous nous intéressons à la spectroscopie optique par réflexion d’une vapeur diluée de césium infiltrée dans des opales artificielles Langmuir-Blodgett. Après une étude microscopique de la structure des opales, nous rapportons des expériences de réflexion, transmission et diffraction (sans atomes) effectuées sur diverses opales, dans le but d’explorer la propagation du champ lumineux dans ces milieux. En effectuant des expériences de réflexion sélective, nous observons que pour une polarisation TM, le signal atomique s’annule à 45° et à l’angle de Brewster, et entre ces deux zéros le signe du signal est inversé. Cet effet était prédit théoriquement mais n’avait jamais été observé. Nous rapportons aussi les expériences de spectroscopie par réflexion d’une vapeur infiltrée dans diverses opales et pour différentes longueurs d’onde. Sur des opales multicouches, nous observons des spectres sub-Doppler en incidence oblique, dont la forme est sensible à l’incidence, la polarisation et la longueur d’onde. Ces spectres ont été interprétés comme une signature d’un confinement tridimensionnel. Les expériences sur une opale multizone montre que sur une opale monocouche, nous observons aussi un signal sub-Doppler où il n’y a pas de confinement tridimensionnel. / In this work, we are interested in reflection optical spectroscopy of diluted cesium vapor infiltrated in Langmuir-Blodgett artificial opals. After a microscopic study of the structure of opals, we report experiments of reflection, transmission and diffraction (without atoms) carried out on various opals, with the aim of exploring the propagation of the light field in these media. By carrying out selective reflection experiments, we observe that for a TM polarization the atomic signal vanishes at 45° and the Brewster angle, and between these two zeros the sign of the signal is reversed. This effect was predicted theoretically but had never been observed. We also report the experiments of reflection spectroscopy of a vapor infiltrated in various opals and for different wavelengths. On multi-layered opals, we observe sub-Doppler spectra in oblique incidence, the shape of wich in sensitive to incidence, polarization and wavelength. These spectra were interpreted as a signature of a three-dimensional confinement. Experiments on a multi-zone opal show that on a monolayer opal, we also observe a sub-Doppler signal where there is no three-dimensional confinement.

Cette thèse présente l'étude de l'interaction de lumière cohérente avec une couche sub-longueur d'onde de vapeur alcaline atomique confinée en nano-cellule et applications pour la formation de résonances optiques étroites.Nous développons un modèle théorique décrivant l'interaction résonante de lumière laser avec la couche mince de vapeur alcaline en présence d'un champ magnétique. Nous montrons qu'en raison d'un régime transitoire d'interaction, seuls les atomes lents contribuent au signal et leur spectre de transmission est essentiellement sans effet Doppler. La nature des spectres obtenus fait de la spectroscopie de transmission, en nano-cellule, une technique pratique pour l'étude de transitions très rapprochées et l'évolution de leur comportement dans un champ magnétique. Des expériences réalisées pour des champs magnétiques jusqu'à 7000 G montrent un excellent accord entre théorie et expérience.Nous explorons aussi la rotation Faraday du plan de polarisation de la lumière lors de sa propagation dans la couche mince atomique. Bien que l'angle de rotation soit très faible, nous observons que les résonances des spectres de rotation Faraday sont plus étroites que celles de transmission. Enfin, nous étudions de nouvelles possibilités pour former des résonances optiques étroites et montrons qu'un traitement par deuxième dérivée des spectres de transmission donne le meilleur rétrécissement de raies parmi toutes les méthodes étudiées dans cette thèse. / This thesis presents the study of coherent light interaction with a sub-wavelength atomic alkali vapor layer confined in a nano-cell and applications for the formation of narrow optical resonances.We develop a theoretical model describing the resonant interaction of the laser light with the thin alkali vapor layer in the presence of an external static magnetic field. We show that due to a transient regime of interaction, only slow atoms contribute to the signal and their transmission spectrum is essentially Doppler-free. The nature of the obtained spectra makes the transmission spectroscopy from a nano-cell a convenient technique to perform studies of closely-spaced atomic transitions and investigate their behavior in magnetic fields. Experimental realizations for magnetic field up to 7000~G show an excellent agreement between theory and experiment.We also explore the Faraday rotation of the plane polarization of light with the propagation through the thin atomic slab. We see that despite a small angle of rotation, Faraday rotation spectra exhibit resonances narrower than that for transmission. At last, we investigate new possibilities to form narrow optical resonances in nano-cells and show that second derivation processing of transmission spectra yields the strongest line narrowing among all methods studied in this thesis.

Cette thèse concerne la spectroscopie atomique pour le développement de microcellules photoniques à base de vapeur atomique alcaline (PMC). Le travail est motivé par reproduire les performances remarquables obtenues dans les domaines des références de fréquences et de l’optique cohérente en environnement laboratoire et à les transférer dans des dispositifs très compacts et autonomes accessibles à une communauté scientifique plus large ou à un marché commercial. Dans notre cas, ces futurs composants seront basés sur une fibre à cristal photonique à coeur creux (HC-PCF) remplie d'un matériau en phase gazeuse pour former la PMC et se distingue par une longueur d'interaction ultra longue associée à des dimensions modales transverses micrométriques. Cependant, cette échelle micrométrique du coeur creux de la fibre contenant les atomes soulève plusieurs défis techniques et scientifiques. Parmi les défis techniques, nous énumérons le développement d'un processus efficace pour le chargement d'atomes dans une telle fibre optique, la suppression ou l'atténuation de la réactivité physio-chimique des atomes (c'est-à-dire le rubidium) avec la surface interne silice entourant le coeur de la fibre, etc... En parallèle, le rapport large surface / volume du coeur de la fibre soulève des questions comme la dynamique de relaxation de la cohérence et la nature et l'effet de l'interaction atome-surface. Ainsi, les travaux de thèse reposent sur l’utilisation de revêtements spécifiques de la surface interne du coeur de la fibre avec différents matériaux pour atténuer ces réactions physico-chimiques, sur l'amincissement des larges coeurs creux des HC-PCF Kagomé à couplage inhibé et sur une technique de soudure qui garantit de faibles pertes d’insertion et l’absence de réactivité avec les atomes. Parallèlement, la thèse rapporte un ensemble d'expériences de spectroscopie pour évaluer la dynamique de relaxation des atomes à l'intérieur des HC-PCF et l’observation de nouvelles transparences sous-Doppler. / This thesis reported on atomic spectroscopy for the development of alkaline atomic vapor photonic microcell (PMC). The work is motivated by reproducing the outstanding laboratory environment based performances achieved in the fields of frequency standard and coherent optics in highly compact and stand-alone devices that can be accessible to a wider scientific community or to a commercial market. In our case these future devices will be based a Hollow-core photonic crystal fiber (HC-PCF) filled with a gas phase material to form a PMC, and outstands with an ultra-long long interaction length and micrometric modal area. However, the micrometric scale of the fiber core harboring the atoms raises several technical and scientific challenges. Among the technical challenges, we list the development of efficient process for atom loading inside long hollow fiber with small core diameter, the suppression or mitigation of physio-chemical reactivity of the atoms (i.e. Rubidium) with the fiber core inner-surface silica etc. In parallel, the large surface-to-volume ratio of the fiber-core raises questions like the coherence relaxation dynamics and the nature and effect of the atom-surface interaction. The thesis reports on fiber-core inner surface coating with different materials to mitigate the physio-chemical reactions of the confined atoms with the surface, on tapering large core inhibited coupling Kagome HC-PCF, and splicing technique that ensures low splice loss and no atomic reactivity during the splicing process. In parallel, the thesis reports on a set of spectroscopy experiments to assess the relaxation dynamics of atoms inside HC-PCF and to report on novel sub-Doppler transparencies.

Noise-immune cavity-enhanced optical heterodyne molecular spectro-metry (NICE-OHMS) is one of the most sensitive laser-based absorption techniques. The high sensitivity of NICE-OHMS is obtained by a unique combination of cavity enhancement (for increased interaction length with a sample) with frequency modulation spectrometry (for reduction of noise). Moreover, sub-Doppler detection is possible due to the presence of high intensity counter-propagating waves inside an external resonator, which provides an excellent spectral selectivity. The high sensitivity and selectivity make NICE-OHMS particularly suitable for trace gas detection. Despite this, the technique has so far not been often used for practical applications due to its technical complexity, originating primarily from the requirement of an active stabilization of the laser frequency to a cavity mode. The main aim of the work presented in this thesis has been to develop a simpler and more robust NICE-OHMS instrumentation without compro-mising the high sensitivity and selectivity of the technique. A compact NICE-OHMS setup based on a fiber laser and a fiber-coupled electro-optic modulator has been constructed. The main advantage of the fiber laser is its narrow free-running linewidth, which significantly simplifies the frequency stabilization procedure. It has been demonstrated, using acetylene and carbon dioxide as pilot species, that the system is capable of detecting relative absorption down to 3 × 10-9 on a Doppler-broadened transition, and sub-Doppler optical phase shift down to 1.6 × 10-10, the latter corresponding to a detection limit of 1 × 10-12 atm of C2H2. Moreover, the potential of dual frequency modulation dispersion spectrometry (DFM-DS), an integral part of NICE-OHMS, for concentration measurements has been assessed. This thesis contributes also to the theoretical description of Doppler-broadened and sub-Doppler NICE-OHMS signals, as well as DFM-DS signals. It has been shown that the concentration of an analyte can be deduced from a Doppler-broadened NICE-OHMS signal detected at an arbitrary and unknown detection phase, provided that a fit of the theoretical lineshape to the experimental data is performed. The influence of optical saturation on Doppler-broadened NICE-OHMS signals has been described theoretically and demonstrated experimentally. In particular, it has been shown that the Doppler-broadened dispersion signal is unaffected by optical saturation in the Doppler limit. An expression for the sub-Doppler optical phase shift, valid for high degrees of saturation, has been derived and verified experimentally up to degrees of saturation of 100.

Ce mémoire rapporte diverses expériences de spectroscopie visant à étudier le comportement d'une vapeur atomique soumise à un confinement tridimensionnel sub-micrométrique. Nous présentons notamment les spectres expérimentaux de réflexion (raies D1 et D2) réalisées sur des cellules macroscopiques contenant une vapeur de césium et une opale constituée d'un nombre contrôlé de couches de nano-billes de silice (déposé par la technique Langmuir-Blodgett). En fonction de l'angle incidence du faisceau illuminant l'opale, deux types de signaux sub-Doppler sont observés via une détection par modulation de fréquence : l'un observable à des angles d'incidence faibles, rappelant les formes de raies habituelles d'une réflexion sélective sur une interface plane de verre, et l'autre, superposé à un signal de fond large, pour des angles d'incidence importants. Cette structure, inédite pour des expériences de réflexion sélective, peut être isolée par une expérience pompe-sonde ou une détection 2f. Elle pourrait être la signature d'un rétrécissement Dicke, conséquence du confinement des atomes sur une distance équivalente à une fraction de longueur d'onde.

Cette thèse expose différentes expériences de spectroscopie dans des cellules de vapeur ultra minces d'épaisseurs comprises entre 30 et 1300 nm. Nous présentons la réponse optique en transmission et en réflexion de la transition D1 du Cs en fonction de l'épaisseur. Elle est transitoire car induite par le confinement des atomes entre les parois. L'interaction de van der Waals attractive entre atome et surface résolue avec la distance est observée et nous proposons un modèle théorique d'interaction avec deux parois utilisant les réflexions multiples du dipôle atomique fluctuant. Le niveau de Cs(6D3/2) est peuplé par différentes techniques à deux photons pour des épaisseurs inférieures à 100 nm. Nous présentons aussi une investigation du croisement des potentiels répulsif (de ce niveau résonnant avec la surface de saphir) et attractif (du niveau 6D5/2 non résonnant) pour une distance à la surface estimée à 5 nm.