Cette thèse vise à étudier l'interaction résonante d'un rayonnement laser avec une couche mince d'épaisseur sub-longueur d'onde de vapeur alcaline atomique confinée en nanocellule ; et les applications de détection qui en émergent.Nous nous concentrons sur la réflexion sélective se produisant à l'interface entre une fenêtre diélectrique et une vapeur résonante, et montrons que la dérivée des spectres de réflexion sélective est composée de résonances étroites dont les maxima correspondent aux positions des transitions atomiques. Ces résonances sont observées avec une largeur spectrale jusqu'à quinze fois plus fine que la largeur Doppler du milieu, et leurs amplitudes évoluent de façon linéaire avec celles des transitions. Grâce à ces propriétés et aux faibles épaisseurs de cellule pouvant être sondées, nous examinons les interactions atome-surface et mesurons le coefficient C3 de l'interaction de van der Waals.Nous présentons un modèle théorique décrivant l'interaction entre lumière quasi-résonante et nanocellule remplie d'une vapeur alcaline sous champ magnétique statique. Ce modèle se montre en excellent accord avec les résultats expérimentaux pour une large gamme de champs magnétiques depuis le régime Zeeman jusqu'au régime Paschen-Back. Au vu de ces résultats, nous proposons un concept de magnétomètre optique basé sur les nanocellules. Une preuve de faisabilité est présentée et une analyse en performance révèle un coefficient de variation des mesures de champs magnétiques inférieur à 5 % dans la gamme 0,4 - 2 kG. / This thesis is aimed at studying the resonant interaction of a laser radiation with an atomic alkali vapor layer of wavelength-scale thickness confined in an optical nanocell; and emerging sensing applications.We focus our attention on the selective reflection arising at the interface between a dielectric window and a resonant alkali vapor, and show that the derivative of selective reflection spectra exhibit narrow resonances whose maxima are located exactly at atomic resonance frequencies. These resonances are observed with a spectral linewidth up to fifteen times smaller than the Doppler linewidth of the medium and their amplitudes scale linearly with respect to the transitions ones. Owing to these properties and the possibility to probe thin atomic layers, we investigate atom-surface interaction and measure the C3 coefficient of the van der Waals interaction.We present a theoretical model describing the interaction of near-resonant laser light with alkali vapor-filled nanocell in the presence of an external static magnetic field. We show an excellent agreement between recorded and calculated spectra in a wide range of magnetic fields spanning from Zeeman to Paschen-Back regimes. Following these results, we propose a concept for a nanocell-based optical magnetometer. A proof of feasibility is presented and a performance analysis reveals a coefficient of variation for the magnetic field measurements less than 5% in the range 0.4 - 2 kG.

Les horloges atomiques miniatures présentent des stabilités de fréquence inégalées avec des volumes de quelquescentimètres cubes et des consommations inférieures à 100mW.Dans cette thèse, les paramètres optimaux concernant la conception et la fabrication des cellules à vapeur decésium, un des composant clés de ce type d’horloges, sont définis. Ainsi, les performances de plusieurs cellulesont été caractérisées en condition d’horloge à court et long terme. En parallèle, des solutions sont proposéespour pallier à certaines limitations telles que la plage de température opérationnelle, le coût de fabrication dudispositif et la facilité d’assemblage du module physique.Un nouveau mélange de gaz tampon composé de néon et d’hélium peut étendre la plage de fonctionnementau-dessus de 80 C, en adéquation avec les besoins industriels. A l’inverse des gaz tampon usuels, ce mélangeest compatible avec les dispensers de césium solides, dont la fiabilité est établie.Outre les gaz tampon, les revêtements permettent également de limiter la relaxation induite par les parois dela cellule. Ici, des revêtements d’octadécyltrichlorosilane sont étudiés. Un effet anti-relaxant a été observé dansdes cellules centimétriques et un procédé a été développé pour revêtir des cellules micro-fabriquées.D’autres sources de césium sont présentées pour s’affranchir des inconvénients propres aux dispensers solides.Un dispenser sous forme de pâte, qui peut être déposée collectivement, a été étudié et montre des densitésatomiques stables jusqu’à présent. Un concept de vannes hermétiques micro-fabriquées a été proposé poursceller hermétiquement et séparer des cellules d’un réservoir de césium commun.Les premières étapes vers un module physique micro-fabriqué sont ensuite présentées. En particulier, un designoriginal de cellule combinant des réseaux de diffraction à une cavité en silicium formée par gravure anisotropea été caractérisé et a montré des contrastes CPT remarquables malgré un volume de cavité réduit, ce qui permettraitde réaliser un module physique particulièrement compact. Enfin, des cellules intégrant des résistanceschauffantes et thermométriques ont été fabriquées et leur compatibilité vis-à-vis du champ magnétique généréa été caractérisée dans un prototype de module physique compact. / Chip-scale atomic clocks (CSACs) provide unprecedented frequency stability within volumes down to a fewcubic centimeters and power consumptions as low as 100mW.In this work, we determine the optimal parameters regarding the design and the fabrication of cesium vaporcells, one of the key components of a CSAC. For this purpose, cells were characterized on both short and longtermperformances in clock setups. In addition, we propose solutions to overcome present limitations includingthe operating temperature range, the device microfabrication cost and the ease of integration of the physicspackage.A novel mixture of buffer-gas composed of neon and helium was found to potentially extend the operating rangeof the device above 80 C, meeting the industrial requirements. Unlike the well-known buffer gas compositions,this mixture is compatible with solid cesium dispensers whose reliability is established. As an alternativeto buffer gases, wall coatings are known to limit the relaxation induced by sidewalls. Here, we investigatedoctadecyltrichlorosilane (OTS) coatings. An anti-relaxation effect has been observed in centimeter-scale cellsand a process was developed to coat microfabricated cells.Other cesium sources have been investigated to overcome the drawbacks imposed by solid cesium dispensers. Apaste-like dispenser, which can be deposited collectively, was explored and has shown stable atomic densities sofar. Single-use zero-leak micro valves were also proposed to hermetically seal and detach cells from a commoncesium reservoir.Eventually, the first steps toward a microfabricated physics package were made. In particular, an originalcell design combining diffraction gratings with an anisotropically etched single-crystalline silicon sidewalls wascharacterized and exhibited remarkable CPT contrasts despite a reduced cavity volume, which could lead to amore compact physics package. Finally, cells with integrated heating and temperature sensing resistors werefabricated and their magnetic field compliance was characterized in a compact physics package prototype.