This thesis describes the design, construction and optimisation of two compact setups to produce ⁸⁷Rb Bose-Einstein condensates and dual ⁷Li-⁸⁷Rb Magneto- Optical Traps (MOTs). The motivation for compact systems is to have simplified systems to cool the atoms. The first experimental setup is based on a single pyrex glass cell without the need for atom chips. Fast evaporation will be achieved in a hybrid trap comprising of a magnetic quadrupole trap and an optical dipole trap created by a Nd:YVO4 laser and with future plans of using a Spatial Light Modulator (SLM). To enhance an efficient and rapid evaporation, we have investigated Light-Induced Atomic Desorption (LIAD) to modulate the Rb partial pressure during the cooling and trapping stage. With this technique, a ⁸⁷Rb MOT of 7 x 10⁷ atoms was loaded by shining violet light from a LED source into the glass cell, whose walls are coated with rubidium atoms. The atoms were then cooled by optical molasses and then loaded into a magnetic trap where lifetime measurements demonstrated that LIAD improves on magnetically-trapped atoms loaded from constant background pressure by a factor of six. This is quite encouraging and opens the possibility to do a rapid evaporation. In a second experiment, we have designed a compact system based on a stainless steel chamber to trap either ⁷Li or ⁶Li atoms in a MOT loaded from alkali-metal dispensers without the need of conventional oven-Zeeman slower. This setup can also load ⁸⁷Rb atoms, allowing future projects to simultaneously produce degenerate quantum gases of bosonic ⁸⁷Rb and fermionic ⁶Li atoms.

Ce travail rend compte de nouvelles techniques développées pour l'étude expérimentale de gaz ultrafroids de lithium et de potassium fermioniques. Les améliorations de notre expérience 6Li-40K y sont décrites et caractérisées. Nous présentons un laser solide de grande finesse capable d'émettre 5W de puissance à 671 nm. Nous utilisons cette source laser dans le contexte d'une nouvelle technique de refroidissement sub-Doppler, reposant sur la transition atomique D1 des atomes alcalins, pour refroidir des atomes de lithium. Cette melasse D1 nous permet de refroidir simultanément les atomes de 6Li et de 40K à des températures bien inférieures à la limite Doppler, tout en manipulant des grands nombres d'atomes à des densités importantes. Nous avons mesuré une densité dans l'espace des phases après l'étape de mélasse de l'ordre de 10-4 à la fois pour le 6Li et le 40K. Le refroidissement laser D1 ouvre la voie à une évaporation rapide vers la dégénérescence quantique dans un piège magnétique ou optique. Nous présentons le refroidissement évaporatif d'atomes de 40K. L'évaporation débute dans une piège magnétique pluggé et continue dans un piège dipolaire optique. A l'issue de l'évaporation, nous obtenons un mélange de spins dégénéré, avec plus de 7x105 atomes dans chacun des deux états de spin et une température T/TF<0.34. / This thesis reports on novel techniques for experimental studies of ultracold, fermionic lithium and potassium quantum gases. The new parts of our 6Li-40K apparatus are described and characterised. We present a narrow-linewidth, all-solid-state laser source, emitting 5W at 671 nm. We employ the laser source in the context of a novel sub-Doppler cooling mechanism, operating on the D1 atomic transition of alkali atoms, for laser cooling of lithium. This D1 molasses allows us to simultaneously cool a mixture of 6Li and 40K atoms to deep sub-Doppler temperatures, while retaining large atom numbers and high atomic densities. The measured phase space densities after the molasses phase are on the order of 10-4 for both 6Li and 40K. The D1 laser cooling paves the way for fast evaporation to quantum degeneracy in magnetic and optical traps. We present the evaporative cooling of 40K atoms. The evaporation starts in an optically plugged magnetic quadrupole trap and continues in an optical dipole trap. At the end of the evaporation, we obtain a quantum degenerate spin-mixture of 40K atoms, with more than 7x105 atoms in each of the two spin states and T/TF<0.34.

Cette thèse présente de nouvelles techniques pour l'étude expérimentale des gaz quantique ultrafroids d'atomes fermioniques de lithium et de potassium. Dans la première partie de cette thèse, nous décrivons la conception et la caractérisation des nouveaux composants de notre dispositif expérimental capable de piéger et refroidir simultanément des atomes de $^6$Li et de $^{40}$K à des températures ultrabasses. Nous rendons compte d'une nouvelle technique de refroidissement sub-Doppler, reposant sur la transition de la raie D$_1$ des atomes alcalins, pour refroidir des atomes de lithium et de potassium par laser. Après cette étape de mélasse, nous avons mesuré une densité dans l'espace des phases de l'ordre de $10^{-4}$ à la fois pour le $^6$Li et le $^{40}$K. Nous présentons le refroidissement par évaporation forcée d'atomes de $^{40}$K qui commence dans un piège magnétique quadripolaire pluggé et continue dans un piège optique dipolaire. Dans ce contexte, nous rendons compte de la production d'un gaz quantique de Fermi dégénéré de $1.5\times10^5$ atomes de $^{40}$K dans un piège dipolaire croisé avec $T/T_{_F} = 0.17$, ce qui ouvre la voie à l'étude des superfluides de $^{40}$K en interaction forte. Dans la deuxième partie de cette thèse, nous présentons une source laser à état solide, de faible largeur spectrale et capable d'émettre 5.2 W de puissance autour de 671 nm, dans la gamme des longueurs d'onde des transitions de la raie D du lithium. La source repose sur un laser en anneau pompé par diode, émettant sur la transition à 1342 nm de Nd:YVO$_4$, capable de produire 6.5 W de lumière dans un faisceau monomode limité par la diffraction. Nous rendons compte de trois différentes approches pour la génération de seconde harmonique du faisceau de sortie, à savoir en utilisant une cavité amplificatrice comprenant un cristal ppKTP, par doublage de fréquence intracavité et par un structure de guide d'onde de ppZnO:LN. / This thesis presents novel techniques for the experimental study of ultracold quantum gases of fermionic lithium and potassium atoms. In the first part of this thesis, we describe the design and characterization of the new components of our experimental apparatus capable of trapping and cooling simultaneously $^6$Li and $^{40}$K atoms to ultracold temperatures. We report on a novel sub-Doppler cooling mechanism, operating on the D$_1$ line transition of alkali atoms, for laser cooling of lithium and potassium. The measured phase space densities after this molasses phase are on the order of $10^{-4}$ for both $^6$Li and $^{40}$K. We present the forced evaporative cooling of $^{40}$K atoms, starting in an optically plugged magnetic quadrupole trap and continuing in an optical dipole trap. In this context, we report on the production of a quantum degenerate Fermi gas of $1.5\times10^5$ atoms $^{40}$K in a crossed dipole trap with $T/T_{_F} = 0.17$, paving the way for the study of strongly interacting superfluids of $^{40}$K. In the second part of this thesis, we present a narrow-linewidth, all-solid-state laser source, emitting 5.2 W in the vicinity of the lithium D-line transitions at 671 nm. The source is based on a diode-end-pumped unidirectional ring laser operating on the 1342 nm transition of Nd:YVO$_4$, capable of producing 6.5 W of single-mode light delivered in a diffraction-limited beam. We report on three different approaches for second-haromonic generation of its output beam, namely by employing an enhancement cavity containing a ppKTP crystal, intracavity frequency doubling and a ppZnO:LN waveguide structure.

On trouve des manifestations de la physique quantique au niveau thermodynamique dansde nombreux systèmes. Un exemple marquant est la superfluidité, découverte au début du20ème siècle, que l’on retrouve de l’hélium aux étoiles à neutrons. Les gaz dilués ultrafroidsoffrent une polyvalence unique pour étudier des systèmes quantiquesmacroscopiques, pouvant directement tester les théories grâce à un environnementcontrôlé. Dans cette thèse, nous présentons plusieurs études expérimentales de gaz froidsde lithium. Le lithium fournit la possibilité de réaliser des ensembles de bosons et defermions, avec des interactions contrôlables entre les constituants. Nous présentons lestechniques utilisées pour préparer et étudier des gaz dégénérés de lithium, et uneamélioration possible des méthodes existantes. Nous décrivons premièrement une étudede la recombinaison à trois bosons avec une interaction à deux corps résonante. Comparésquantitativement à la théorie, ces résultats fournissent une référence pour les étudesfutures du gaz de Bose unitaire. Pour finir, nous présentons la première observationexpérimentale d’un mélange de superfluides de Bose et de Fermi. Nous démontrons queles deux composants sont superfluides et que leur écoulement relatif vérifie les propriétésdes écoulement superfluides, avec une absence de viscosité en dessous d’une vitessecritique puis la présence de dissipation au-delà. En utilisant des excitations collectives dece mélange, nous mesurons l’interaction entre les deux superfluides, en accord avec unmodèle théorique. / Manifestations of Quantum Physics at the thermodynamical level are found in a broadrange of physical systems. A famous example is superfluidity, discovered at the beginningof the 20th century and found in many different situations, from liquid helium to neutronstars. Dilute ultracold gases offer a unique versatility to engineer quantum many-bodysystems, which can be directly compared with theory thanks to the controllability of theirenvironment. In this thesis we present several experimental investigations led on ultracoldlithium gases. Lithium provides the possibility to study ensembles of bosons andfermions, with controllable interactions between the constituents. We present experimentaltechniques for preparation and studies of degenerate gases of lithium, with prospects forimprovement of the existing methods. We first report on an investigation of three-bodyrecombination of bosons under a resonant two-body interaction. This study, quantitativelycompared with theory constitutes a benchmark for further studies of the unitary Bose gas.Finally, we present the first experimental realization of a mixture of a Bose superfluid witha Fermi superfluid. We demon- strate that both components are in the superfluid regime,and that the counter-flow motion between them possesses the characteristics of superfluidflow, with the absence of viscosity below a critical velocity, and an onset of friction above.Using collective oscillations of the mixture, we measure the coupling between the twosuperfluids in close agreement with a theoretical model.

Les atomes froids sont des outils uniques pour sonder la physique de la matière quantique. Hautement contrôlables, les gaz de Bose et de Fermi ultrafroids sont des systèmes idéaux pour la simulation quantique et pour explorer des manifestations spectaculaires des effets quantiques, comme la superfluidité. Avec des gaz froids de 6Li et de 7Li, nous avons produit le premier mélange de superfluides bosonique-fermionique, et étudié ses propriétés en initiant un contre-flot entre les nuages de Bose et de Fermi (mode dipolaire). La vitesse critique de superfluidité a été mesurée dans le crossover BEC-BCS et elle est trouvée proche de la vitesse du son dans le gaz de Fermi. Nous comparons nos mesures avec des prédictions théoriques récentes. En élevant la température du mélange, nous avons aussi observé une synchronisation inattendue entre les mouvements des deux nuages, interprétée comme un effet Zénon induit par la dissipation. Finalement, ce mélange de bosons et de fermions offre la possibilité unique de créer un piège homogène pour le gaz de Fermi. En ajustant finement les interactions, nous proposons d’utiliser la répulsion entre les bosons et les fermions pour compenser la courbure du piège harmonique pour les fermions. Pour des fermions présentant une polarisation de spin, nous prédisons théoriquement l’existence d’un superfluide avec une structure en “coquille” et fournissons les premières indications expérimentales de l’observation de ce superfluide topologiquement original. / Ultracold atoms are unique tools to probe the physics of quantum matter. Indeed, the high degree of tunability of ultracold Bose and Fermi gases makes them ideal systems for quantum simulation and for exploring macroscopic manifestations of quantum effects, such as superfluidity. In this work, we have realized the first Bose-Fermi superfluid mixture, with ultracold gases of 6Li and 7Li. The properties of the mixture are investigated by initiating a Bose-Fermi counterflow through their dipole modes. The superfluid critical velocity is measured in the BEC-BCS crossover, and is found close to the sound velocity of the Fermi gas near unitarity. We compare our findings to recent theoretical predictions. Raising the temperature of the mixture, we observe an unexpected synchronization of the motion of the two clouds, interpreted with a Zeno-like model induced by dissipation. Finally, this Bose-Fermi mixture offers the unique possibility to create a homogeneoustrap for the Fermi gas. By a fine tuning of the interactions, we propose to use the Bose-Fermi repulsion to compensate the curvature of the harmonic trap for fermions. For a spin-polarized Fermi gas in such a trap, we theoretically predict the existence of a superfluid with a shell structure and we provide first experimental evidence for this topologically new superfluid.