Ce mémoire décrit la conception, la construction et la caractérisation d'un appareil capable de piéger et refroidir des atomes fermioniques de 6Li et 40K à des températures ultrabasses. L'étude des mélanges des gazes de Fermi dégénérés ouvre la porte vers la création des nouveaux systèmes quantiques à N corps. Nous présentons une nouvelle technique de refroidissement laser capable de refroidir simultanément 6Li et 40K à des températures sub-doppler basée sur un schéma de molasses grises fonctionnant sur la transition atomique D1. Cette stratégie améliore la densité dans le espace des phases des deux espèces atomiques à 104, la valeur la plus élevée rapportée dans la littérature pour le refroidissement laser du 6Li et du40K. L'optimisation d'un dispositif capable de transporter un nuage atomique piégé magnétiquement de l'enceinte MOT à une cellule de science est décrite. Dans cette cellule on effectue du refroidissement évaporatif d'abord dans un piège magnétique quadripolaire dont le zéro du champ est interdit par un potentiel répulsif et après dans un piège optique dipolaire. Nous rapportons la production d'un gaz quantique de Fermi dégénéré de 1.1x106 atomes de 40K dans un piège dipolaire croisé avec T/TF = 0.27,ouvrant la voie à la création des superfluides de 40K en interactions fortes. / This thesis describes the design, construction and characterization of an apparat us capable of trapping and cooling fermionic atoms of 6Li and 40K to ultracold temperatures.The study of mixtures of degenerate Fermi gases opens the door for the creation of new many-body quantum systems.We present a novel laser cooling technique able to simultaneously cool 6Li and 40K to the sub-Doppler regime based on the gray molasses scheme operating on the D1 atomic transition. This strategy enhances the phase space density of both atomic species to 104, the highest value reported in the literature for laser cooled 6Li and 40K. The optimization of a device able to transport a magnetically trapped atomic cloud from the MOT chamber to a science cell is described. In this cell evaporative cooling is performed first in a plugged magnetic quadrupole trap and then in an optical dipoletrap. We report the production of a quantum degenerate Fermi gas of 1.1x106 atoms40K in a crossed dipole trap with T/TF = 0.27, paving the way for the creation of strongly interacting superfluids of 40K.

Au cours de ma thèse, j'ai travaillé à la construction de l'expérience Fermix, consacrée à l'étude d'un mélange de fermions (6Li-40K) à très basses températures où les effets quantiques sont prédominants. Nous présentons ici deux résultats principaux. Premièrement, nous avons développé une nouvelle méthode de refroidissement sub-Doppler qui tire parti de l'existence d'états noirs dans la raie optique D1. Cette mélasse grise permet d'atteindre une densité de l'espace des phases de 10^-4, la valeur la plus élevée rapportée dans la littérature pour le refroidissement laser simultané des deux espèces. Grâce à cette étape, nous avons pu réaliser un gaz fortement dégénéré de 3x10^5 atomes de 40K, répartis dans deux états de spins, à une température de 62 nK, soit 17% de la température de Fermi. D'autre part, nous introduisons une transformation canonique pour montrer l'équivalence formelle entre le comportement de particules ultra-relativistes sans interactions (particules de Weyl) dans un potentiel harmonique et celui de fermions froids confinés dans un piège quadrupolaire. Nous étudions expérimentalement, numériquement et théoriquement la relaxation de tels systèmes vers un état stationnaire, non-Botlzmanien, caractérisé par des températures effectives fortement anisotropes. Cette analogie permet également d'interpréter des propriétés caractéristiques des particules relativistes. Ainsi, nous montrons que le paradoxe de Klein est analogue aux pertes Majorana. Pour finir, nous proposons une étude théorique des interactions médiées à longue distance par un système en dimensions mixtes. / During my PhD, I contributed to the design and construction of the Fermix experiment, dedicated to the study of a 6Li-40K fermionic mixture at ultra low temperatures. Our main results are twofold. First, we developed a new sub-Doppler laser cooling scheme, taking advantage of the existence of dark states in the D1 line of alkali atoms. This so-called \emph{grey molasses} allows for a phase space density up to $10^{-4}$, the highest value reported for the simultaneous laser cooling of those two species. The improvement due to this cooling step enabled the production of a quantum degenerate 40K gas in a dipole trap, with 3x10^5 atoms in two spin states at 62 nK, corresponding to 17% of the Fermi temperature. Second, introducing a canonical mapping, we showed that non-interacting ultra-relativistic particles (Weyl fermions) in a harmonic trap can be simulated by cold fermions confined in a quadrupole potential. We study experimentally, numerically and theoretically the relaxation of these systems towards a steady state which can not be described by a Boltzman distribution, but rather presents strongly anisotropic effective temperatures. This analogy also allows us to translate fundamental properties of relativistic particles in the language of cold atoms. In particular, we demonstrate that the Klein paradox is equivalent to Majorana losses.Finally, we present a theoretical study of the long range interactions between particles confined in two 2D layers immersed in a 3D atomic cloud.

Ce travail rend compte de nouvelles techniques développées pour l'étude expérimentale de gaz ultrafroids de lithium et de potassium fermioniques. Les améliorations de notre expérience 6Li-40K y sont décrites et caractérisées. Nous présentons un laser solide de grande finesse capable d'émettre 5W de puissance à 671 nm. Nous utilisons cette source laser dans le contexte d'une nouvelle technique de refroidissement sub-Doppler, reposant sur la transition atomique D1 des atomes alcalins, pour refroidir des atomes de lithium. Cette melasse D1 nous permet de refroidir simultanément les atomes de 6Li et de 40K à des températures bien inférieures à la limite Doppler, tout en manipulant des grands nombres d'atomes à des densités importantes. Nous avons mesuré une densité dans l'espace des phases après l'étape de mélasse de l'ordre de 10-4 à la fois pour le 6Li et le 40K. Le refroidissement laser D1 ouvre la voie à une évaporation rapide vers la dégénérescence quantique dans un piège magnétique ou optique. Nous présentons le refroidissement évaporatif d'atomes de 40K. L'évaporation débute dans une piège magnétique pluggé et continue dans un piège dipolaire optique. A l'issue de l'évaporation, nous obtenons un mélange de spins dégénéré, avec plus de 7x105 atomes dans chacun des deux états de spin et une température T/TF<0.34. / This thesis reports on novel techniques for experimental studies of ultracold, fermionic lithium and potassium quantum gases. The new parts of our 6Li-40K apparatus are described and characterised. We present a narrow-linewidth, all-solid-state laser source, emitting 5W at 671 nm. We employ the laser source in the context of a novel sub-Doppler cooling mechanism, operating on the D1 atomic transition of alkali atoms, for laser cooling of lithium. This D1 molasses allows us to simultaneously cool a mixture of 6Li and 40K atoms to deep sub-Doppler temperatures, while retaining large atom numbers and high atomic densities. The measured phase space densities after the molasses phase are on the order of 10-4 for both 6Li and 40K. The D1 laser cooling paves the way for fast evaporation to quantum degeneracy in magnetic and optical traps. We present the evaporative cooling of 40K atoms. The evaporation starts in an optically plugged magnetic quadrupole trap and continues in an optical dipole trap. At the end of the evaporation, we obtain a quantum degenerate spin-mixture of 40K atoms, with more than 7x105 atoms in each of the two spin states and T/TF<0.34.

Le potassium 39 est l'un des alcalins pour lesquels il est possible de contrôler les interactions entre atomes grâce à l'utilisation de résonances de Feshbach. Cette thèse présente un protocole rapide et performant de production de condensats de Bose-Einstein tout optiques de 39K. Notre technique s'appuie sur l'utilisation de mélasses grises permettant de refroidir suffisamment le nuage atomique pour charger directement un piège optique, ainsi que sur une phase d'évaporation optique réalisée au voisinage d'une résonance de Feshbach afin de contrôler le taux de collisions entre atomes. Des études dans divers mélanges de spins nous ont permis d'observer de nouvelles résonances de Feshbach en onde p ainsi qu'une résonance en onde d. Cette dernière, présentant des caractéristiques peu usuelles, a été étudiée plus en détails afin de comprendre les processus de collisions en jeu. Le modèle développé, faisant intervenir deux étapes de collision à deux corps, permet d'expliquer les résultats expérimentaux obtenus. Dans les gaz de Bose dégénérés de 39K produits, le contrôle des interactions au voisinage de la résonance de Feshbach à 560,7 Gauss pour les atomes de 39K dans l'état |F=1,mF=-1> nous a permis d'adresser différents problèmes physiques. Dans le cas d'interactions répulsives, nous étudions l'expansion d'un condensat de Bose-Einstein dans le crossover dimensionel 1D-3D tandis que pour des interactions attractives, nous formons des solitons brillants dans un piège optique unidimensionnel. Les perspectives d'étude de ces gaz de Bose dégénérés auto-confinés dans des milieux désordonnés sont également discutées. / Potassium 39 is an alkali allowing to control the interactions between atoms thanks to Feshbach resonances. This thesis presents a fast and efficient way to produce all-optical Bose-Einstein condensates of 39K. Our technique is first taking advantage of gray molasses cooling leading to a cold enough sample to directly load an optical trap. Then an optical evaporation is performed near a Feshbach resonance to control the collision rate. Studies in various spin mixtures have allowed us to observe new p-wave Feshbach resonances and a d-wave Feshbach resonance. The later presents unusual properties and has been studied in details to understand the collision processes involved. The model developped is a two stage model, each one of them involving a two body collision. It explains the experimental results obtained. In the produced 39K degenerate Bose gases, tuning interactions near the Feshbach resonance at 560,7 Gauss for the atoms in |F=1,mF=-1> has allowed us to adress different physical problems. For repulsive interactions, we study the expansion of a Bose-Einstein condensate in the 1D-3D dimensional crossover. For attractive interactions we produce bright solitons in a one-dimensional optical trap. Perspectives concerning the study of those degenerate self-confined Bose gases in disordered media are also discussed.

Cette thèse a deux volets : d'abord l'étude du refroidissement et de la dynamique d'atomes dans des mélasses grises et des réseaux gris, puis la présentation d'une nouvelle méthode de spectroscopie pour étudier la dynamique d'atomes dans des réseaux brillants. Dans les structures de potentiel lumineux que constituent les mélasses grises, les atomes de Césium sont refroidis à des températures particulièrement basses (800 nK) car ils sont piégés dans des états où ils ne subissent pratiquement plus l'influence de la lumière. L'addition d'un fort champ magnétique statique transforme alors la structure de potentiel vue par l'atome en un paysage de collines régulièrement séparées par des vallées plates. Dans ce nouvel environnement dénommé réseau gris, le comportement dynamique des atomes devient inhabituel : ils rebondissent de plot en plot comme des billes de flipper. Les réseaux brillants, en comparaison, présentent une structure de potentiel en forme de fosses (puits de potentiel) dans lesquelles les atomes restent piégés. C'est pour étudier plus en détail la dynamique atomique dans ces réseaux brillants que nous avons mis au point la technique spectroscopique de "transitoire cohérent". Grâce à son très bon rapport signal sur bruit et une sélectivité en fréquence accrue, cette technique nous a permis d'attribuer à l'anharmonicité du potentiel la majeure partie de la relaxation du mouvement oscillatoire des atomes dans les puits. Par ailleurs, elle a permis une étude quantitative du transport atomique dans les réseaux brillants.

Cette thèse présente de nouvelles techniques pour l'étude expérimentale des gaz quantique ultrafroids d'atomes fermioniques de lithium et de potassium. Dans la première partie de cette thèse, nous décrivons la conception et la caractérisation des nouveaux composants de notre dispositif expérimental capable de piéger et refroidir simultanément des atomes de $^6$Li et de $^{40}$K à des températures ultrabasses. Nous rendons compte d'une nouvelle technique de refroidissement sub-Doppler, reposant sur la transition de la raie D$_1$ des atomes alcalins, pour refroidir des atomes de lithium et de potassium par laser. Après cette étape de mélasse, nous avons mesuré une densité dans l'espace des phases de l'ordre de $10^{-4}$ à la fois pour le $^6$Li et le $^{40}$K. Nous présentons le refroidissement par évaporation forcée d'atomes de $^{40}$K qui commence dans un piège magnétique quadripolaire pluggé et continue dans un piège optique dipolaire. Dans ce contexte, nous rendons compte de la production d'un gaz quantique de Fermi dégénéré de $1.5\times10^5$ atomes de $^{40}$K dans un piège dipolaire croisé avec $T/T_{_F} = 0.17$, ce qui ouvre la voie à l'étude des superfluides de $^{40}$K en interaction forte. Dans la deuxième partie de cette thèse, nous présentons une source laser à état solide, de faible largeur spectrale et capable d'émettre 5.2 W de puissance autour de 671 nm, dans la gamme des longueurs d'onde des transitions de la raie D du lithium. La source repose sur un laser en anneau pompé par diode, émettant sur la transition à 1342 nm de Nd:YVO$_4$, capable de produire 6.5 W de lumière dans un faisceau monomode limité par la diffraction. Nous rendons compte de trois différentes approches pour la génération de seconde harmonique du faisceau de sortie, à savoir en utilisant une cavité amplificatrice comprenant un cristal ppKTP, par doublage de fréquence intracavité et par un structure de guide d'onde de ppZnO:LN. / This thesis presents novel techniques for the experimental study of ultracold quantum gases of fermionic lithium and potassium atoms. In the first part of this thesis, we describe the design and characterization of the new components of our experimental apparatus capable of trapping and cooling simultaneously $^6$Li and $^{40}$K atoms to ultracold temperatures. We report on a novel sub-Doppler cooling mechanism, operating on the D$_1$ line transition of alkali atoms, for laser cooling of lithium and potassium. The measured phase space densities after this molasses phase are on the order of $10^{-4}$ for both $^6$Li and $^{40}$K. We present the forced evaporative cooling of $^{40}$K atoms, starting in an optically plugged magnetic quadrupole trap and continuing in an optical dipole trap. In this context, we report on the production of a quantum degenerate Fermi gas of $1.5\times10^5$ atoms $^{40}$K in a crossed dipole trap with $T/T_{_F} = 0.17$, paving the way for the study of strongly interacting superfluids of $^{40}$K. In the second part of this thesis, we present a narrow-linewidth, all-solid-state laser source, emitting 5.2 W in the vicinity of the lithium D-line transitions at 671 nm. The source is based on a diode-end-pumped unidirectional ring laser operating on the 1342 nm transition of Nd:YVO$_4$, capable of producing 6.5 W of single-mode light delivered in a diffraction-limited beam. We report on three different approaches for second-haromonic generation of its output beam, namely by employing an enhancement cavity containing a ppKTP crystal, intracavity frequency doubling and a ppZnO:LN waveguide structure.

On trouve des manifestations de la physique quantique au niveau thermodynamique dansde nombreux systèmes. Un exemple marquant est la superfluidité, découverte au début du20ème siècle, que l’on retrouve de l’hélium aux étoiles à neutrons. Les gaz dilués ultrafroidsoffrent une polyvalence unique pour étudier des systèmes quantiquesmacroscopiques, pouvant directement tester les théories grâce à un environnementcontrôlé. Dans cette thèse, nous présentons plusieurs études expérimentales de gaz froidsde lithium. Le lithium fournit la possibilité de réaliser des ensembles de bosons et defermions, avec des interactions contrôlables entre les constituants. Nous présentons lestechniques utilisées pour préparer et étudier des gaz dégénérés de lithium, et uneamélioration possible des méthodes existantes. Nous décrivons premièrement une étudede la recombinaison à trois bosons avec une interaction à deux corps résonante. Comparésquantitativement à la théorie, ces résultats fournissent une référence pour les étudesfutures du gaz de Bose unitaire. Pour finir, nous présentons la première observationexpérimentale d’un mélange de superfluides de Bose et de Fermi. Nous démontrons queles deux composants sont superfluides et que leur écoulement relatif vérifie les propriétésdes écoulement superfluides, avec une absence de viscosité en dessous d’une vitessecritique puis la présence de dissipation au-delà. En utilisant des excitations collectives dece mélange, nous mesurons l’interaction entre les deux superfluides, en accord avec unmodèle théorique. / Manifestations of Quantum Physics at the thermodynamical level are found in a broadrange of physical systems. A famous example is superfluidity, discovered at the beginningof the 20th century and found in many different situations, from liquid helium to neutronstars. Dilute ultracold gases offer a unique versatility to engineer quantum many-bodysystems, which can be directly compared with theory thanks to the controllability of theirenvironment. In this thesis we present several experimental investigations led on ultracoldlithium gases. Lithium provides the possibility to study ensembles of bosons andfermions, with controllable interactions between the constituents. We present experimentaltechniques for preparation and studies of degenerate gases of lithium, with prospects forimprovement of the existing methods. We first report on an investigation of three-bodyrecombination of bosons under a resonant two-body interaction. This study, quantitativelycompared with theory constitutes a benchmark for further studies of the unitary Bose gas.Finally, we present the first experimental realization of a mixture of a Bose superfluid witha Fermi superfluid. We demon- strate that both components are in the superfluid regime,and that the counter-flow motion between them possesses the characteristics of superfluidflow, with the absence of viscosity below a critical velocity, and an onset of friction above.Using collective oscillations of the mixture, we measure the coupling between the twosuperfluids in close agreement with a theoretical model.