Les transitions D1 d'atomes 39K confinées en nano-cellule, soumis à des champs magnétiques externes ont été étudiées dans les cas de polarisation sigma+ et pi de la radiation laser. Il est montré, pour la première fois, le découplage du moment angulaire total J et du moment nucléaire I (régime Paschen-Back hyperfin) sous champ magnétique externe. Le découplage se produit pour un champ B >> 165 G. Dans le cas d'une polarisation linéaire du laser, nous montrons que pour B > 400 G, le spectre de transmission consiste en 2 groupes de transitions et chaque groupe contient une transition appelée transition guide (GT). La GT indique la valeur asymptotique des probabilités des transitions dans un groupe et la valeur des dérivées des décalages en fréquence (pentes de fréquence) dans un champ magnétique.Pour la première fois, il est montré l'absence de résonances cross-over dans le spectre d'absorption saturée. Nous avons utilisé des micro cellules remplies de rubidium. L'épaisseur de la colonne de vapeur atomique était de 30 - 40 micromètres. L'utilisation d'une micro cellule a permis l'investigation des transitions atomiques individuelles dans des champs magnétiques intenses (30 - 6000 G) en utilisant la technique d'absorption saturée. Nous avons aussi déterminé expérimentalement et théoriquement que pour certaines valeurs du champ magnétique externe (300 - 2000 G), on observait un très grand accroissement des probabilités des transitions atomiques Fg = 3 --> Fe = 5 de la raie D2 du Cs. Sous champ B, les probabilités de ces transitions (qui sont interdites en l'absence de champ magnétique) augmentent brutalement et excédent les probabilités des transitions atomiques permises. / It has been investigated the D1 line transitions of 39K atoms in external magnetic fields using nanocells for the cases of sigma+ and pi polarizations of laser radiation. For the first time it is demonstrated the decoupling of electronic total angular momentum J and nuclear momentum I (complete hyperfine Paschen-Back regime) in external magnetic field. For 39K the decoupling takes place at B >> 165 G. In the case of linear polarization it is shown that for B > 400 G the transmission spectrum consists of 2 groups of transitions and each group contains of one so-called "Guiding transition" (GT). The GT indicates the asymptotic value of all transitions probabilities in the group and the frequency shifts derivatives value (frequency slopes) in magnetic field.For the first time it is demonstrated the absence of cross-over resonances in the spectrum of saturated absorption. For that Rb filled micro-cell has been used with atomic vapor thickness 30-40 µm. The use of micro cell allowed the investigation of individual atomic transitions in strong external magnetic fields 30 - 6000 G ) using the saturated absorption technique. It is experimentally and theoretically manifested that at certain values of the external magnetic fields (300 - 2000 G) the probabilities of the Cs D2 line Fg=3 --> Fe=5 atomic transitions experience huge increase. These probabilities, which are forbidden at zero magnetic field, exceed the probabilities of allowed atomic transitions.

Cette thèse présente l'étude de l'interaction de lumière cohérente avec une couche sub-longueur d'onde de vapeur alcaline atomique confinée en nano-cellule et applications pour la formation de résonances optiques étroites.Nous développons un modèle théorique décrivant l'interaction résonante de lumière laser avec la couche mince de vapeur alcaline en présence d'un champ magnétique. Nous montrons qu'en raison d'un régime transitoire d'interaction, seuls les atomes lents contribuent au signal et leur spectre de transmission est essentiellement sans effet Doppler. La nature des spectres obtenus fait de la spectroscopie de transmission, en nano-cellule, une technique pratique pour l'étude de transitions très rapprochées et l'évolution de leur comportement dans un champ magnétique. Des expériences réalisées pour des champs magnétiques jusqu'à 7000 G montrent un excellent accord entre théorie et expérience.Nous explorons aussi la rotation Faraday du plan de polarisation de la lumière lors de sa propagation dans la couche mince atomique. Bien que l'angle de rotation soit très faible, nous observons que les résonances des spectres de rotation Faraday sont plus étroites que celles de transmission. Enfin, nous étudions de nouvelles possibilités pour former des résonances optiques étroites et montrons qu'un traitement par deuxième dérivée des spectres de transmission donne le meilleur rétrécissement de raies parmi toutes les méthodes étudiées dans cette thèse. / This thesis presents the study of coherent light interaction with a sub-wavelength atomic alkali vapor layer confined in a nano-cell and applications for the formation of narrow optical resonances.We develop a theoretical model describing the resonant interaction of the laser light with the thin alkali vapor layer in the presence of an external static magnetic field. We show that due to a transient regime of interaction, only slow atoms contribute to the signal and their transmission spectrum is essentially Doppler-free. The nature of the obtained spectra makes the transmission spectroscopy from a nano-cell a convenient technique to perform studies of closely-spaced atomic transitions and investigate their behavior in magnetic fields. Experimental realizations for magnetic field up to 7000~G show an excellent agreement between theory and experiment.We also explore the Faraday rotation of the plane polarization of light with the propagation through the thin atomic slab. We see that despite a small angle of rotation, Faraday rotation spectra exhibit resonances narrower than that for transmission. At last, we investigate new possibilities to form narrow optical resonances in nano-cells and show that second derivation processing of transmission spectra yields the strongest line narrowing among all methods studied in this thesis.

Les vapeurs atomiques confinées dans des cellules nanométriques constituent une plateforme intéressante pour la réalisation de senseurs atomiques. Dans cette thèse, nous étudions l’interaction entre la lumière et un ensemble d’atomes d’alcalins dans une telle cellule. Nous nous concentrons sur les phénomènes qui pourraient modifier la réponse optique du système et ainsi affecter la sensibilité du senseur. Premièrement, nous étudions la réponse non locale à la lumière induite par le mouvement des atomes dans la vapeur thermique. Quand la distance de relaxation des atomes excède la taille de la cellule, la réponse optique dépend de la taille du système. En transmission, nous avons montré que cela entraine une modification des propriétés de la vapeur avec une période égale à la longueur d’onde de la transition optique. Nous avons ensuite montré que lorsque la densité augmente, la réponse redevient locale. De plus, dans ce régime dense, l’interaction dipôle-dipôle résonnante engendre des déplacements de fréquences collectifs pour des ensembles sub-longueur d’onde. Nous avons démontré que ces shifts sont induits par la cavité formée par la cellule, clarifiant ainsi un débat de plus de 40 ans. Pour ce faire, nous avons développé un modèle pour extraire les effets de la densité déconvolués de ceux de la cavité. Proche des surfaces, la réponse optique des atomes est aussi impactée par l’interaction de van der Waals. Nous avons introduit une nouvelle méthode pour extraire avec précision la force de cette interaction. Nous avons également construit une nouvelle génération de nano-cellules super-polies en verre et enfin comparé les propriétés spectrales en transmission et spectroscopie hors d’axe. / Alkali vapors confined in nano-scale cells are promising tools for future integrated atom-based sensor. In this thesis, we investigate the interaction between light and an ensemble of atoms confined in a nano-geometry. We focus on the different processes that can modify the optical response of the atomic ensemble and possibly affect the sensitivity of a sensor based on that technology. First, we study the non-local response of atoms to a light excitation due the atomic motion in thermal vapors. When the distance over which the atoms relaxes is larger than the size of the cell, the optical response depends on the size of the system. We have observed that for transmission spectroscopy, this leads to a periodic modification of the optical response with a period equal to the wavelength of the optical transition. Subsequently we showed that when the density of atom increases, the atomic response becomes local again. In this dense regime, the resonant dipole-dipole interaction in a sub-wavelength geometry leads to collective frequency shifts of the spectral lines. We demonstrate that these shifts were induced by the cavity formed by the cell walls, hence clarifying a long-standing issue. We developed a model to extract the density shifts deconvolved from the cavity effects. Close to a surface, the optical response is also affected by the van der Waals atom-surface interaction. We introduced a new method to extract precisely the strength of this interaction. We also developed a new generation of super-polished glass nano-cells and we presented promising spectroscopic signals. Finally, using these cells, we have compared transmission and off-axis spectroscopic techniques.