Ce mémoire de thèse présente une série d'expériences visant à caractériser la dynamique d'un condensat de Bose-Einstein dilué, en nous concentrant plus particulièrement sur sa mise en rotation. En utilisant un laser très désaccordé, nous avons pu réaliser un potentiel dipolaire simulant l'expérience du seau tournant effectuée précédemment sur l'hélium II : la mise en rotation s'accompagne alors de la formation de tourbillons quantifiés caractérisés par un défaut de phase en leur coeur. Ce défaut topologique a pu être mis en évidence par une expérience d'interférences atomiques entre deux paquets d'ondes séparés spatialement. De plus, nous avons mesuré le moment cinétique du nuage en étudiant le spectre de ses modes de surface, nous permettant ainsi de préciser le mécanisme de nucléation des tourbillons. Ceux-ci se forment suite à une instabilité dynamique du condensat, dépendant fortement de la géométrie du potentiel tournant.

Ce travail rend compte de nouvelles techniques développées pour l'étude expérimentale de gaz ultrafroids de lithium et de potassium fermioniques. Les améliorations de notre expérience 6Li-40K y sont décrites et caractérisées. Nous présentons un laser solide de grande finesse capable d'émettre 5W de puissance à 671 nm. Nous utilisons cette source laser dans le contexte d'une nouvelle technique de refroidissement sub-Doppler, reposant sur la transition atomique D1 des atomes alcalins, pour refroidir des atomes de lithium. Cette melasse D1 nous permet de refroidir simultanément les atomes de 6Li et de 40K à des températures bien inférieures à la limite Doppler, tout en manipulant des grands nombres d'atomes à des densités importantes. Nous avons mesuré une densité dans l'espace des phases après l'étape de mélasse de l'ordre de 10-4 à la fois pour le 6Li et le 40K. Le refroidissement laser D1 ouvre la voie à une évaporation rapide vers la dégénérescence quantique dans un piège magnétique ou optique. Nous présentons le refroidissement évaporatif d'atomes de 40K. L'évaporation débute dans une piège magnétique pluggé et continue dans un piège dipolaire optique. A l'issue de l'évaporation, nous obtenons un mélange de spins dégénéré, avec plus de 7x105 atomes dans chacun des deux états de spin et une température T/TF<0.34. / This thesis reports on novel techniques for experimental studies of ultracold, fermionic lithium and potassium quantum gases. The new parts of our 6Li-40K apparatus are described and characterised. We present a narrow-linewidth, all-solid-state laser source, emitting 5W at 671 nm. We employ the laser source in the context of a novel sub-Doppler cooling mechanism, operating on the D1 atomic transition of alkali atoms, for laser cooling of lithium. This D1 molasses allows us to simultaneously cool a mixture of 6Li and 40K atoms to deep sub-Doppler temperatures, while retaining large atom numbers and high atomic densities. The measured phase space densities after the molasses phase are on the order of 10-4 for both 6Li and 40K. The D1 laser cooling paves the way for fast evaporation to quantum degeneracy in magnetic and optical traps. We present the evaporative cooling of 40K atoms. The evaporation starts in an optically plugged magnetic quadrupole trap and continues in an optical dipole trap. At the end of the evaporation, we obtain a quantum degenerate spin-mixture of 40K atoms, with more than 7x105 atoms in each of the two spin states and T/TF<0.34.

Cette thèse présente de nouvelles techniques pour l'étude expérimentale des gaz quantique ultrafroids d'atomes fermioniques de lithium et de potassium. Dans la première partie de cette thèse, nous décrivons la conception et la caractérisation des nouveaux composants de notre dispositif expérimental capable de piéger et refroidir simultanément des atomes de $^6$Li et de $^{40}$K à des températures ultrabasses. Nous rendons compte d'une nouvelle technique de refroidissement sub-Doppler, reposant sur la transition de la raie D$_1$ des atomes alcalins, pour refroidir des atomes de lithium et de potassium par laser. Après cette étape de mélasse, nous avons mesuré une densité dans l'espace des phases de l'ordre de $10^{-4}$ à la fois pour le $^6$Li et le $^{40}$K. Nous présentons le refroidissement par évaporation forcée d'atomes de $^{40}$K qui commence dans un piège magnétique quadripolaire pluggé et continue dans un piège optique dipolaire. Dans ce contexte, nous rendons compte de la production d'un gaz quantique de Fermi dégénéré de $1.5\times10^5$ atomes de $^{40}$K dans un piège dipolaire croisé avec $T/T_{_F} = 0.17$, ce qui ouvre la voie à l'étude des superfluides de $^{40}$K en interaction forte. Dans la deuxième partie de cette thèse, nous présentons une source laser à état solide, de faible largeur spectrale et capable d'émettre 5.2 W de puissance autour de 671 nm, dans la gamme des longueurs d'onde des transitions de la raie D du lithium. La source repose sur un laser en anneau pompé par diode, émettant sur la transition à 1342 nm de Nd:YVO$_4$, capable de produire 6.5 W de lumière dans un faisceau monomode limité par la diffraction. Nous rendons compte de trois différentes approches pour la génération de seconde harmonique du faisceau de sortie, à savoir en utilisant une cavité amplificatrice comprenant un cristal ppKTP, par doublage de fréquence intracavité et par un structure de guide d'onde de ppZnO:LN. / This thesis presents novel techniques for the experimental study of ultracold quantum gases of fermionic lithium and potassium atoms. In the first part of this thesis, we describe the design and characterization of the new components of our experimental apparatus capable of trapping and cooling simultaneously $^6$Li and $^{40}$K atoms to ultracold temperatures. We report on a novel sub-Doppler cooling mechanism, operating on the D$_1$ line transition of alkali atoms, for laser cooling of lithium and potassium. The measured phase space densities after this molasses phase are on the order of $10^{-4}$ for both $^6$Li and $^{40}$K. We present the forced evaporative cooling of $^{40}$K atoms, starting in an optically plugged magnetic quadrupole trap and continuing in an optical dipole trap. In this context, we report on the production of a quantum degenerate Fermi gas of $1.5\times10^5$ atoms $^{40}$K in a crossed dipole trap with $T/T_{_F} = 0.17$, paving the way for the study of strongly interacting superfluids of $^{40}$K. In the second part of this thesis, we present a narrow-linewidth, all-solid-state laser source, emitting 5.2 W in the vicinity of the lithium D-line transitions at 671 nm. The source is based on a diode-end-pumped unidirectional ring laser operating on the 1342 nm transition of Nd:YVO$_4$, capable of producing 6.5 W of single-mode light delivered in a diffraction-limited beam. We report on three different approaches for second-haromonic generation of its output beam, namely by employing an enhancement cavity containing a ppKTP crystal, intracavity frequency doubling and a ppZnO:LN waveguide structure.

Cette thèse décrit l'étude des gaz de fermions $^6$Li et de bosons<br />$^7$Li dans le régime quantique à très basse température. Le<br />refroidissement est obtenu par évaporation du $^7$Li dans un piège<br />magnétique très confinant. Puisque le refroidissement évaporatif<br />d'un gaz de fermion polarisé est quasiment impossible, le $^6$Li<br />est refroidi sympathiquement par contact thermique avec le $^7$Li.<br />Dans une première série d'expériences, les propriétés des gaz<br />quantiques dans les états hyperfins les plus élevés, piégés<br />magnétiquement, sont étudiées. Un gaz de $10^5$ fermions a une<br />température de 0.25(5) fois la température de Fermi ($T_F$) est<br />obtenu. L'instabilité du condensat pour plus de 300 atomes<br />condensés, à cause des interactions attractives, limite la<br />dégénérescence que l'on peut atteindre. Pour s'affranchir de cette<br />limite, une autre série d'expérience est menée dans les états<br />hyperfins bas, piégeable magnétiquement, où les interactions entre<br />bosons sont faiblement répulsives. Les collisions<br />inter-isotopiques permettent alors la thermalisation du mélange.<br />Le mélange d'un condensat de Bose-Einstein (CBE) de $^7$Li et d'un<br />mer de Fermi de $^6$Li est produit. Le condensat est quasi<br />unidimensionnel et la fraction thermique peut être négligeable. La<br />dégénérescence atteinte correspond à $T/T_C=T/T_F=0.2(1)$. La<br />température est mesurée à partir de la fraction thermique des<br />bosons qui disparaît aux plus basses températures, et limite notre<br />précision de mesure. Dans une troisième série d'expérience, les<br />bosons sont transférés dans un piège optique, et placé dans l'état<br />interne $|F=1,m_F=1\rangle$, l'état fondamental pour les bosons.<br />Une résonance de Feshbach est repérée puis exploitée pour former<br />un condensai où les interactions sont ajustables. Quand les<br />interactions effectives entre les atomes sont attractives, on<br />observe la formation d'un soliton brillant de matière. La<br />propagation de ce soliton sans dispersion sur une distance de<br />$1.1\,$mm est observée.