Ce mémoire de thèse est divisé en deux parties. La première est consacrée à l'étude de la superfluidité dans un gaz de fermions ultra-froids. En utilisant un gaz dégénéré de lithium 6 au voisinage d'une résonance de Feshbach nous avons obtenu un superfluide fermionique et étudié son évolution en fonction de l'énergie de liaison des paires. Afin de caractériser la transition BEC-BCS entre un condensat de Bose-Einstein de molécules et un état BCS de paires de Cooper faiblement liées, nous avons étudié l'expansion du nuage en absence ou en présence d'interactions. Nous avons ainsi extrait la distribution en impulsion du système et sondé son caractère hydrodynamique. La seconde partie concerne la conception et la réalisation d'un montage expérimental de seconde génération. Par rapport à l'ancien dispositif, ses principaux atouts sont un gain d'un ordre de grandeur sur le nombre d'atomes piégés, un bon accès optique, une grande stabilité et reproductibilité ainsi qu'un taux de répétition cinq fois supérieur. La nouvelle expérience a déjà permis d'atteindre le seuil de dégénérescence quantique du lithium 7 avec des performances très satisfaisantes et donne accès à la simulation de hamiltoniens de matière condensée avec des fermions ultra-froids.

Ce mémoire de thèse présente les résultats d'expériences menées sur des gaz atomiques dégénérés de lithium bosonique 7Li et fermionique 6Li. L'état fondamental à N corps de ces gaz dépend de manière cruciale de l'interaction atomique dont on peut ajuster l'intensité et changer la nature, attractive ou répulsive en variant un champ magnétique autour d'une résonance de Feshbach. L'utilisation d'une telle résonance dans 7Li nous permet de produire le premier soliton d'ondes de matière. Il s'agit d'une fonction d'onde atomique unidimensionelle dans laquelle l'interaction attractive compense la dispersion naturelle : elle se propage donc sans déformation. Nous produisons un soliton à partir d'un condensat de Bose-Einstein de 7Li transféré dans un guide d'ondes optique unidimensionnel. Sa propagation caractéristique est observée sur une distance de plus d'un millimètre. Dans un gaz de fermions 6Li en interaction, une autre résonance de Feshbach est utilisée pour former très efficacement des molécules de 6Li2 ultra-froides piégées. De façon surprenante, ces dimères de fermions présentent une durée de vie considérablement plus longue que les dimères de bosons formés de manière similaire. C'est une conséquence du principe de Pauli. Cette grande stabilité nous permet de produire un condensat de Bose-Einstein pur de ces molécules bosoniques, qui réalise une des limites du superfluide fermionique.

Ce mémoire décrit la construction d'une expérience visant à produire un gaz de $^6$Li fermionique dégénéré par refroidissement évaporatif dans un piège magnétique. Il décrit également quelques propriétés d'un gaz de fermions dans le régime de dégénérescence quantique. A cause du principe d'exclusion de Pauli, le refroidissement évaporatif standard d'un gaz de fermions devient inefficace à basse température. La méthode proposée dans ce mémoire contourne cette limitation grâce à l'utilisation d'un mélange de fermions ($^6$Li), et bosons ($^7$Li). Le montage réalisé comprend un jet intense d'atomes de lithium ralentis par laser, un piège magnéto-optique à faisceaux de gros diamètre et un piège magnétique conçu de façon à produire de très forts gradients de champs. Une nouvelle source laser à semiconducteur émettant plusieurs composantes de fréquence autour de 670 nm a été développée. Ainsi 4 10$^(8)$ atomes de $^6$Li et 10$^(10)$ atomes de $^7$Li ont été confinés simultanément dans le piège magnéto-optique à une température de 1 mK. Les atomes sont ensuite transférés dans une zone éloignée de 5 cm où un piège de Ioffe-Pritchard à fort gradient les confine. Ce piège contient actuellement 4 10$^(8)$ atomes de $^7$Li à une température $\simeq$2 mK, et possède une durée de vie de 75 s. Sur un plan théorique, ce mémoire propose une nouvelle méthode de mesure de la dégénérescence de Fermi pour un gaz idéal. Cette méthode est très sensible. Elle repose sur l'inhibition de la relaxation collisionnelle d'un gaz de particules tests lorsque la température devient plus faible que la température de Fermi. Enfin, nous proposons une nouvelle méthode de refroidissement optique combinant collisions inélastiques et pompage optique.

Dans cette thèse, nous avons étudié expérimentalement les propriétés physiques des fermions ultra-froids grâce à une machine conçue pour refroidir un mélange fermionique de 6Li et 40K. Après une courte description concernant la construction de l'expérience et quelques améliorations que j'ai implémentées pendant ma thèse (telles que la désorption atomique par lumière ultraviolette dans le 2D-MOT), l'exposé se concentre sur deux observations principales de l'origine fermionique des gaz de potassium et de lithium.La première partie présente la quasithermalization du 6Li dans un potentiel quadrupolaire, créé par un piège magnétique. Malgré l'absence de collisions dans un gaz fermionique polarisé en dessous d'une température donnée, nous observons une redistribution d'énergie dans l'ensemble statistique après une excitation dans le piège linéaire. Une étude expérimentale détaillée ainsi qu'une analyse théorique du phénomène sont présentées. De plus, une transformation canonique de l'hamiltonien du système permet la description de particules sans masses dans un piège harmonique. Les résultats expérimentaux du système réel (gaz 6Li dans un potentiel quadrupolaire) sont donc réinterprétés pour décrire ces particules non massiques, difficiles à observer. Un développement supplémentaire de notre système expérimental permet également la réalisation d'un couplage spin-orbite non-abélien dans le gaz fermionique sans interactions.Dans la deuxième partie, on décrit la réalisation d'un gaz dégénéré de 40K à l'aide du refroidissement évaporatif. Une succession d'étapes d'évaporation, utilisant différentes technologies de piégeage, nous permet d'obtenir 1.5e5 atomes dans l'état fondamental à une température de 62nK, température équivalente à 17% de la température de Fermi. / In this thesis we investigate experimentally the physics of a cold fermionic mixture consisting of 6Li and 40K. After a short description of the experimental apparatus and of a few technical particularities implemented during my PhD, for example the light-induced atomic desorption in the 2D-MOT by UV-light, we focus on two main observations of the fermionic nature of the gas.The first part describes the quasithermalization of 6Li in a magnetic quadrupole potential. Even though collisions are absent in a spin-polarized fermionic gas below a given temperature, the statistical ensemble undergoes energy redistribution after an excitation within the linear potential. We present an extensive experimental study as well as a comprehensive theoretical analysis. Moreover, the studied Hamiltonian can be canonically mapped onto a system of massless, harmonically trapped particles and the previously developed results are re-interpreted in order to describe this experimentally inaccessible system. A further development of the realized experiment allows even for the implementation of spin-orbit coupling in a gas of non-interacting fermions.In the second part, we describe the evaporative cooling of 40K to quantum degeneracy. Through different evaporative cooling stages we reach with a final number of 1.5e5 atoms in the ground-state a temperature of 62nK, which corresponds to 17% of the Fermi temperature.

Ce mémoire de thèse décrit les propriétés d'un gaz de Fermi dégénéré<br /> en interaction forte. Tout d'abord, nous étudions d'un point de vue<br /> théorique la limite au refroidissement d'un gaz de fermions imposée<br /> par l'existence de pertes d'atomes. Un gaz de lithium fermionique 6Li<br /> est ensuite étudié au voisinage d'une résonance de Feshbach en onde s. En changeant le champ magnétique, on peut contrôler le signe et<br /> la force des interactions effectives entre atomes. Nous montrons la<br /> formation efficace de molécules faiblement liées constituées de deux<br /> fermions. Ces résultats sont interprétés par un modèle d'équilibre<br /> thermodynamique entre atomes et molécules. Le principe de Pauli<br /> confère à ces bosons composites une extraordinaire stabilité proche du<br /> pic de la résonance. Cette propriété nous a permis de produire un<br /> condensat de Bose-Einstein (BEC) de molécules et de mesurer<br /> l'interaction entre les molécules à basse température. En augmentant<br /> le champ magnétique au-delà de la résonance de Feshbach, on s'attend à<br /> ce que le gaz, à basse température, subisse une transition de phase de<br /> type BCS (Bardeen, Cooper, Shrieffer) analogue à la transition<br /> supraconductrice dans les métaux. Proche de résonance, le gaz est un<br /> système à N-corps en interaction forte, difficile à traiter<br /> théoriquement. Expérimentalement, nous avons étudié l'expansion du<br /> gaz dans cette région qui correspond à la transition entre un<br /> condensat de molécules et une phase BCS. Enfin, nous avons<br /> caractérisé le comportement des pertes au voisinage de résonances de<br /> Feshbach en onde p.