Cette thèse décrit la construction d'une nouvelle expérience de condensation de Bose-Einstein visant à obtenir un condensat de rubidium 87 et à le confiner dans un piège en anneau. Une première partie est consacrée à la description du montage. Le design de l'enceinte à vide est présenté, ainsi que le système laser qui comporte une nouvelle source basée sur le doublement de fréquence d'un laser télécom. Le refroidissement des atomes dans ce montage se fait en deux parties. Un piège magnéto optique 3D est chargé par un piège magnéto-optique 2D dans une première partie de l'enceinte, puis les atomes sont transférés dans une petite cellule de verre dans laquelle a lieu le refroidissement évaporatif et la condensation. L'étape de transfert est assurée par le transport mécanique des bobines qui génèrent le champ magnétique de piégeage, et qui sont montées sur une platine de translation motorisée. Le piège final est un piège magnétique quadrupolaire bouché par un faisceau laser à 532~nm. Le montage permet d'obtenir $2\times 10^5$ atomes de rubidium dans un condensat pur en une trentaine de secondes. La seconde partie traite de l'étude théorique d'un superfluide dans un anneau 2D au moyen de simulations numériques. On y calcule d'abord la vitesse critique de rotation par l'étude du spectre des excitations de Bogolyubov du superfluide dans l'anneau, puis on utilise une simulation de l'équation de Gross-Pitaevskii pour étudier l'établissement d'un courant permanent au moyen d'un potentiel en rotation, et la stabilité d'un tel courant en présence d'une barrière de potentiel.

On trouve des manifestations de la physique quantique au niveau thermodynamique dansde nombreux systèmes. Un exemple marquant est la superfluidité, découverte au début du20ème siècle, que l’on retrouve de l’hélium aux étoiles à neutrons. Les gaz dilués ultrafroidsoffrent une polyvalence unique pour étudier des systèmes quantiquesmacroscopiques, pouvant directement tester les théories grâce à un environnementcontrôlé. Dans cette thèse, nous présentons plusieurs études expérimentales de gaz froidsde lithium. Le lithium fournit la possibilité de réaliser des ensembles de bosons et defermions, avec des interactions contrôlables entre les constituants. Nous présentons lestechniques utilisées pour préparer et étudier des gaz dégénérés de lithium, et uneamélioration possible des méthodes existantes. Nous décrivons premièrement une étudede la recombinaison à trois bosons avec une interaction à deux corps résonante. Comparésquantitativement à la théorie, ces résultats fournissent une référence pour les étudesfutures du gaz de Bose unitaire. Pour finir, nous présentons la première observationexpérimentale d’un mélange de superfluides de Bose et de Fermi. Nous démontrons queles deux composants sont superfluides et que leur écoulement relatif vérifie les propriétésdes écoulement superfluides, avec une absence de viscosité en dessous d’une vitessecritique puis la présence de dissipation au-delà. En utilisant des excitations collectives dece mélange, nous mesurons l’interaction entre les deux superfluides, en accord avec unmodèle théorique. / Manifestations of Quantum Physics at the thermodynamical level are found in a broadrange of physical systems. A famous example is superfluidity, discovered at the beginningof the 20th century and found in many different situations, from liquid helium to neutronstars. Dilute ultracold gases offer a unique versatility to engineer quantum many-bodysystems, which can be directly compared with theory thanks to the controllability of theirenvironment. In this thesis we present several experimental investigations led on ultracoldlithium gases. Lithium provides the possibility to study ensembles of bosons andfermions, with controllable interactions between the constituents. We present experimentaltechniques for preparation and studies of degenerate gases of lithium, with prospects forimprovement of the existing methods. We first report on an investigation of three-bodyrecombination of bosons under a resonant two-body interaction. This study, quantitativelycompared with theory constitutes a benchmark for further studies of the unitary Bose gas.Finally, we present the first experimental realization of a mixture of a Bose superfluid witha Fermi superfluid. We demon- strate that both components are in the superfluid regime,and that the counter-flow motion between them possesses the characteristics of superfluidflow, with the absence of viscosity below a critical velocity, and an onset of friction above.Using collective oscillations of the mixture, we measure the coupling between the twosuperfluids in close agreement with a theoretical model.

Le problème de la détection et de ladescription des nouveaux états quantiquesmacroscopiques, caractérisées par des propriétésexotiques et non-conventionnelles, estd’importance fondamentale dans la physiquemoderne. Ces états offrent des perspectivesfascinantes dans le domaine de traitementd’information, de simulations quantiques et derecherche des nouveaux types des matériaux.Dans ce travail de thèse nous développons unethéorie qui permet de décrire des phases non conventionnellesdans des systèmes des gazultra-froids dipolaires. Ces systèmes sontactivement étudiés expérimentalement enutilisant des atomes à grand-spins, desmolécules polaires et des excitations dipolairesdans des semi-conducteurs. Nous mettonsl'accent sur la révélation du rôle de l’interactiondipôle-dipôle à long porté.Nous considérons l’effet de rotonization dansun système de gaz des bosons dipolaires «tiltés»aux interactions faibles dans une couchehomogène. Nous prédisons l’effet derotonization pour un gaz de Bose faiblementcorrélé des excitons dipolaires dans une couchede semi-conducteur et nous calculons lediagramme de stabilité. Ensuite, nousconsidérons des superfluides d’onde-p desfermions identiques dans des réseaux 2D.Finalement, nous faisons une discussion sur unautre état superfluide intéressant des moléculespolaires fermioniques, qui devrait apparaitredans des systèmes bicouches. / The problem of revealing anddescribing novel macroscopic quantum statescharacter- ized by exotic and non-conventionalproperties is of fundamental importance formodern physics. Such states offer fascinatingprospects for potential applications in quantumin- formation processing, quantum simulation,and material research. In the present Thesis wedevelop a theory for describing nonconventionalphases of ultracold dipolar gases.The related systems of large-spin atoms, polarmolecules, and dipolar excitons in semiconductorsare actively studied in experiments.We put the main emphasis on revealing the roleof the long-range character of the dipole-dipoleinteraction.We consider the effect of rotonization for a 2Dweakly interacting gas of tilted dipolar bosonsin a homogeneous layer. We predict the effectof rotonization for a weakly correlated Bosegas of dipolar excitons in a semiconductorlayer and calculate the stability diagram. Wethen consider p-wave superfluids of identicalfermions in 2D lattices. Finally, we discussanother interesting novel superfluid offermionic polar molecules

Thèse numérisée par la Direction des bibliothèques de l'Université de Montréal.

Cette thèse est dédiée à l'étude de l'analogue du rayonnement de Hawking dans les condensats de Bose-Einstein. Le premier chapitre présente de nouvelles configurations d'intérêt expérimental permettant de réaliser l'équivalent acoustique d'un trou noir gravitationnel dans l'écoulement d'un condensat atomique unidimensionnel. Nous donnons dans chaque cas une description analytique du profil de l'écoulement, des fluctuations quantiques associées et du spectre du rayonnement de Hawking. L'analyse des corrélations à deux corps de la densité dans l'espace des positions et des impulsions met en évidence l'émergence de signaux révélant l'effet Hawking dans nos systèmes. En démontrant une règle de somme vérifiée par la matrice densité à deux corps connexe, on montre que les corrélations à longue portée de la densité doivent être associées aux modifications diagonales de la matrice densité à deux corps lorsque l'écoulement du condensat présente un horizon acoustique. Motivés par des études expérimentales récentes de profils d'onde générés dans des condensats de polaritons en microcavité semi-conductrice, nous analysons dans un second chapitre les caractéristiques superfluides et dissipatives de l'écoulement autour d'un obstacle localisé d'un condensat de polaritons unidimensionnel obtenu par pompage incohérent. Nous examinons la réponse du condensat dans la limite des faibles perturbations et au moyen de la théorie de Whitham dans le régime non-linéaire. On identifie un régime dépendant du temps séparant deux types d'écoulement stationnaire et dissipatif : un principalement visqueux à faible vitesse et un autre caractérisé par un rayonnement de Cherenkov d'ondes de densité à grande vitesse. Nous présentons enfin des effets de polarisation obtenus en incluant le spin des polaritons dans la description du condensat et montrons dans le troisième chapitre que des effets similaires en présence d'un horizon acoustique pourraient être utilisés pour démontrer expérimentalement le rayonnement de Hawking dans les condensats de polaritons. / This thesis is devoted to the study of the analogue of Hawking radiation in Bose-Einstein condensates. The first chapter presents new configurations of experimental interest making it possible to realize the acoustic equivalent of a gravitational black hole in the flow of a one-dimensional atomic condensate. In each case we give an analytical description of the flow pattern, the associated quantum fluctuations, and the spectrum of Hawking radiation. Analysis of the two-body density correlations in position and momentum space emphasizes the occurrence of signals revealing the Hawking effect in our systems. By demonstrating a sum rule verified by the connected two-body density matrix we show that the long-range density correlations have to be associated to the diagonal modifications of the two-body density matrix when the flow of the condensate presents an acoustic horizon. Motivated by recent experimental studies of wave patterns generated in semiconductor microcavity polariton condensates we analyze in a second chapter superfluid and dissipative characteristics of the flow of a nonresonantly pumped one-dimensional polariton condensate past a localized obstacle. We examine the response of the condensate in the weak-perturbation limit and by means of Whitham theory in the nonlinear regime. We identify a time-dependent regime separating two types of stationary and dissipative flow: a mostly viscous one at low velocity and another one characterized by Cherenkov radiation of density waves at large velocity. Finally we present polarization effects obtained by including the spin of polaritons in the description of the condensate and show in the third chapter that similar effects in the presence of an acoustic horizon could be used to experimentally demonstrate Hawking radiation in polariton condensates.

La compréhension des effets des interactions dans un ensemble de particules quantiques représente un enjeu majeur de la physique moderne. Les atomes ultra-froids sont rapidement devenus un outil incomparable pour étudier ces systèmes quantiques fortement corrélés. Dans cette thèse, nous présentons plusieurs travaux portant sur les propriétés d’un mélange de superfluides de Bose et de Fermi créé à l’aide de vapeurs ultra-froides de ⁷Li et de ⁶Li. Nous étudions tout d'abord les propriétés hydrodynamiques du mélange en créant un contre-courant entre les superfluides. L'écoulement est dissipatif uniquement au dessus d'une vitesse critique que nous mesurons dans le crossover BEC-BCS. Une simulation numérique d’un contre-courant de deux condensats permet de mieux comprendre les mécanismes sous-jacents mis en jeu dans la dynamique. En particulier, l'étude numérique fournit des preuves supplémentaires que l'origine de la dissipation dans nos expériences est liée à l'émission d'excitation élémentaires dans chaque superfluide. Finalement, nous nous intéressons aux pertes inélastiques par recombinaison à trois corps qui peuvent limiter la stabilité de nos nuages. Ces pertes sont intimement liées aux corrélations à courte distance présentes dans le système et sont ainsi connectées aux propriétés universelles du gaz quantique. Cela se manifeste notamment par l’apparition de dépendances en densité ou en température inusuelles du taux de perte lorsque le système devient fortement corrélé. Nous démontrons cet effet dans deux exemples où les interactions sont résonantes, le cas du gaz de Bose unitaire et celui de notre mélange de superfluides Bose-Fermi. Plus généralement, nos travaux montrent que ces pertes inélastiques peuvent être utilisées pour sonder les corrélations quantiques dans un système en fortes interactions. / Understanding the effect of interactions in quantum many-body systems presents some of the most compelling challenges in modern physics. Ultracold atoms have emerged as a versatile platform to engineer and investigate these strongly correlated systems. In this thesis, we study the properties of a mixture of Bose and Fermi superfluids with tunable interactions produced using ultracold vapors of ⁷Li and ⁶Li. We first study the hydrodynamic properties of the mixture by creating a counterflow between the superfluids. The relative motion only exhibit dissipation above a critical velocity that we measure in the BEC-BCS crossover. A numerical simulation of counterflowing condensates allows for a better understanding of the underlying mechanisms at play in the dynamics. In particular, this numerical study provides additional evidence that the onset of friction in our experiment is due to the simultaneous generation of elementary excitations in both superfluids. Finally, we consider the inelastic losses that occur via three-body recombination in our cold gases. This few-body process is intimately related to short-distance correlations and is thereby connected to the universal properties of the many-body system. This manifests as the apparition of an unusual dependence on density or temperature in the loss rate when increasing the interactions. We demonstrate this effect in two examples where interactions are resonant: the case of a dilute unitary Bose gas and the one of impurities weakly coupled to a unitary Fermi gas. More generally, our work shows that inelastic losses can be used to probe quantum correlations in a many-body system.

Ce travail est consacré à l'étude des propriétés des polaritons, particules mi-lumière mi-matière, en microcavité semi-conductrice. Leur caractère bosonique autorise l'accès à des régimes de cohérence macroscopique tels la condensation de Bose-Einstein et la superfl uidité que nous avons démontrée expérimentalement. Nous avons également développé une technique permettant de modifier optiquement l'environnement polaritonique par création de défauts arti ficiels, ce qui facilite l'obtention de comportements particuliers du fluide polaritonique comme la turbulence. Les fortes interactions dépendantes du spin entre ces particules, alliées à des vitesses de propagation très élevées du fait de leur composante photonique, nous ont permis de réaliser un interrupteur performant contrôlé optiquement, codé en polarisation et en intensité. Nous avons également réussi à manipuler la distribution spatiale en spin d'un faisceau de polaritons, et notamment à confi ner des états de spin pur sur des zones de quelques microns. Le phénomène de bistabilité présent dans le système nous a amené à reconsidérer le signe de la constante d'interaction entre polaritons de spin opposés. En fin, en régime d'oscillation paramétrique par mélange à quatre ondes, nous avons poursuivi l'étude de génération de photons jumeaux grâce à des mesures de corrélations et des analyses en bruit de la distribution modale transverse, dans diff érents types de cavités planaires puis dans des micropiliers (0D).