Les atomes froids sont des outils uniques pour sonder la physique de la matière quantique. Hautement contrôlables, les gaz de Bose et de Fermi ultrafroids sont des systèmes idéaux pour la simulation quantique et pour explorer des manifestations spectaculaires des effets quantiques, comme la superfluidité. Avec des gaz froids de 6Li et de 7Li, nous avons produit le premier mélange de superfluides bosonique-fermionique, et étudié ses propriétés en initiant un contre-flot entre les nuages de Bose et de Fermi (mode dipolaire). La vitesse critique de superfluidité a été mesurée dans le crossover BEC-BCS et elle est trouvée proche de la vitesse du son dans le gaz de Fermi. Nous comparons nos mesures avec des prédictions théoriques récentes. En élevant la température du mélange, nous avons aussi observé une synchronisation inattendue entre les mouvements des deux nuages, interprétée comme un effet Zénon induit par la dissipation. Finalement, ce mélange de bosons et de fermions offre la possibilité unique de créer un piège homogène pour le gaz de Fermi. En ajustant finement les interactions, nous proposons d’utiliser la répulsion entre les bosons et les fermions pour compenser la courbure du piège harmonique pour les fermions. Pour des fermions présentant une polarisation de spin, nous prédisons théoriquement l’existence d’un superfluide avec une structure en “coquille” et fournissons les premières indications expérimentales de l’observation de ce superfluide topologiquement original. / Ultracold atoms are unique tools to probe the physics of quantum matter. Indeed, the high degree of tunability of ultracold Bose and Fermi gases makes them ideal systems for quantum simulation and for exploring macroscopic manifestations of quantum effects, such as superfluidity. In this work, we have realized the first Bose-Fermi superfluid mixture, with ultracold gases of 6Li and 7Li. The properties of the mixture are investigated by initiating a Bose-Fermi counterflow through their dipole modes. The superfluid critical velocity is measured in the BEC-BCS crossover, and is found close to the sound velocity of the Fermi gas near unitarity. We compare our findings to recent theoretical predictions. Raising the temperature of the mixture, we observe an unexpected synchronization of the motion of the two clouds, interpreted with a Zeno-like model induced by dissipation. Finally, this Bose-Fermi mixture offers the unique possibility to create a homogeneoustrap for the Fermi gas. By a fine tuning of the interactions, we propose to use the Bose-Fermi repulsion to compensate the curvature of the harmonic trap for fermions. For a spin-polarized Fermi gas in such a trap, we theoretically predict the existence of a superfluid with a shell structure and we provide first experimental evidence for this topologically new superfluid.

La physique moderne repose sur deux théories fondamentales distinctes, la relativité générale et la mécanique quantique. Toutes les deux décrivent d’une part les phénomènes macroscopiques et cosmologiques tels que les ondes gravitationnelles et les trous noirs et d’autre part les phénomènes microscopiques comme la superfluidité ou le spin des particules. L’unification de ces deux théories reste, jusqu’à présent, un problème non résolu. Il est intéressant de noter que les différentes théories de gravité quantique prédisent une violation des principes de la relativité générale à différents niveaux.Il est donc hautement intéressant de détecter les violations de ces principes et de déterminer à quel niveau elles se produisent.De récentes propositions pour effectuer des tests du principe d’ équivalence d’Einstein suggèrent une amélioration spectaculaire des performances en utilisant des capteurs atomiques `a ondes de matière.Dans ce contexte, il est nécessaire de concevoir des états d’entrée de l’interferomètre avec des conditions initiales bien définies. Un test de pointe de l’universalité de la chute libre (Universality of FreeFall en anglais (UFF) ) nécessiterait, par exemple,un contrôle des positions et des vitesses avec une précision de l’ordre de 1 μm et 1 μm.s⁻¹ , respectivement.De plus, les systématiques liées à la taille du paquet d’ondes limitent le taux d’expansion maximum possible à 100 μm.s⁻¹. La création initiale des états d’entrée de l’interféromètre doit être assez rapide,de l’ordre de quelques centaines de ms au maximum,pour que le temps de cycle de l’expérience soit pertinent d’un point de vue métrologique. Dans cette thèse j’ai développé des séquences optimisées s’appuyant sur l’excitation du centre de masse et de la taille d’un ou plusieurs ensembles d’atomes refroidis ainsi que dégénérés. Certaines séquences proposé dans cette thèse ont déjà été implémenté dans des expériences augmentant de manière significative le contrôle des ensembles atomiques. / Modern physics relies on two distinct fundamental theories, General Relativity and Quantum Mechanics. Both describe on one hand macroscopic and cosmological phenomena such as gravitational waves and black holes and on the other hand microscopic phenomena as superfluidity or the spin of particles. The unification of these two theories remains, so far, an unsolved problem. Interestingly, candidate Quantum Gravity theories predict a violation of the principles of General Relativity at different levels. It is, therefore, of a timely interest to detect violations of these principles and determine at which level they occur. Recent proposals to perform Einstein Equivalence Principle tests suggest a dramatic performance improvement using matter-wave atomic sensors. In this context, the design of the input states with well defined initial conditions is required. A state-of-the-art test of the universality of free fall (UFF) would, for example, require a control of positions and velocities at the level of 1 µm and 1 µm.s⁻¹, respectively. Moreover, sizerelated systematics constrain the maximum expansion rate possible to the 100 µm.s⁻¹level. This initial engineering of the input states has to be quite fast, of the order of few hundred ms at maximum, for the experiment’s duty cycle to be metrologically-relevant. In this thesis I developed optimized sequences based on the excitation of the center of mass and the size excitation of one or two cooled atomic sample as well as degenerated gases. Some sequences proposed in this thesis have already been implemented in experiments and significantly increase the control of atomic ensembles.

Cette thèse est dédiée à l'étude de l'analogue du rayonnement de Hawking dans les condensats de Bose-Einstein. Le premier chapitre présente de nouvelles configurations d'intérêt expérimental permettant de réaliser l'équivalent acoustique d'un trou noir gravitationnel dans l'écoulement d'un condensat atomique unidimensionnel. Nous donnons dans chaque cas une description analytique du profil de l'écoulement, des fluctuations quantiques associées et du spectre du rayonnement de Hawking. L'analyse des corrélations à deux corps de la densité dans l'espace des positions et des impulsions met en évidence l'émergence de signaux révélant l'effet Hawking dans nos systèmes. En démontrant une règle de somme vérifiée par la matrice densité à deux corps connexe, on montre que les corrélations à longue portée de la densité doivent être associées aux modifications diagonales de la matrice densité à deux corps lorsque l'écoulement du condensat présente un horizon acoustique. Motivés par des études expérimentales récentes de profils d'onde générés dans des condensats de polaritons en microcavité semi-conductrice, nous analysons dans un second chapitre les caractéristiques superfluides et dissipatives de l'écoulement autour d'un obstacle localisé d'un condensat de polaritons unidimensionnel obtenu par pompage incohérent. Nous examinons la réponse du condensat dans la limite des faibles perturbations et au moyen de la théorie de Whitham dans le régime non-linéaire. On identifie un régime dépendant du temps séparant deux types d'écoulement stationnaire et dissipatif : un principalement visqueux à faible vitesse et un autre caractérisé par un rayonnement de Cherenkov d'ondes de densité à grande vitesse. Nous présentons enfin des effets de polarisation obtenus en incluant le spin des polaritons dans la description du condensat et montrons dans le troisième chapitre que des effets similaires en présence d'un horizon acoustique pourraient être utilisés pour démontrer expérimentalement le rayonnement de Hawking dans les condensats de polaritons. / This thesis is devoted to the study of the analogue of Hawking radiation in Bose-Einstein condensates. The first chapter presents new configurations of experimental interest making it possible to realize the acoustic equivalent of a gravitational black hole in the flow of a one-dimensional atomic condensate. In each case we give an analytical description of the flow pattern, the associated quantum fluctuations, and the spectrum of Hawking radiation. Analysis of the two-body density correlations in position and momentum space emphasizes the occurrence of signals revealing the Hawking effect in our systems. By demonstrating a sum rule verified by the connected two-body density matrix we show that the long-range density correlations have to be associated to the diagonal modifications of the two-body density matrix when the flow of the condensate presents an acoustic horizon. Motivated by recent experimental studies of wave patterns generated in semiconductor microcavity polariton condensates we analyze in a second chapter superfluid and dissipative characteristics of the flow of a nonresonantly pumped one-dimensional polariton condensate past a localized obstacle. We examine the response of the condensate in the weak-perturbation limit and by means of Whitham theory in the nonlinear regime. We identify a time-dependent regime separating two types of stationary and dissipative flow: a mostly viscous one at low velocity and another one characterized by Cherenkov radiation of density waves at large velocity. Finally we present polarization effects obtained by including the spin of polaritons in the description of the condensate and show in the third chapter that similar effects in the presence of an acoustic horizon could be used to experimentally demonstrate Hawking radiation in polariton condensates.

Cette thèse est consacrée à la description de la physique à une particule ainsi qu'à celle de fluides quantiques bosoniques dans des systèmes topologiques. Les deux premiers chapitres sont introductifs. Dans le premier, nous introduisons des éléments de théorie des bandes et les quantités géométriques et topologiques associées : tenseur métrique quantique, courbure de Berry, nombre de Chern. Nous discutons différents modèles et réalisations expérimentales donnant lieu à des effets topologiques. Dans le second chapitre, nous introduisons les condensats de Bose-Einstein ainsi que les excitons-polaritons de cavité.La première partie des résultats originaux discute des phénomènes topologiques à une particule dans des réseaux en nid d'abeilles. Cela permet de comparer deux modèles théoriques qui mènent à l'effet Hall quantique anormal pour les électrons et les photons dû à la présence d'un couplage spin-orbite et d'un champ Zeeman. Nous étudions aussi l'effet Hall quantique de vallée photonique à l'interface entre deux réseaux de cavités avec potentiels alternés opposés.Dans une seconde partie, nous discutons de nouveaux effets qui émergent due à la présence d'un fluide quantique interagissant décrit par l’équation de Gross-Pitaevskii dans ces systèmes. Premièrement, il est montré que les interactions spin anisotropes donnent lieu à des transitions topologiques gouvernées par la densité de particules pour les excitations élémentaires d’un condensat spineur d’exciton-polaritons.Ensuite, nous montrons que les tourbillons quantifiés d'un condensat scalaire dans un système avec effet Hall quantique de vallée, manifestent une propagation chirale le long de l'interface contrairement aux paquets d'ondes linéaires. La direction de propagation de ces derniers est donnée par leur sens de rotation donnant lieu à un transport de pseudospin de vallée protégé topologiquement, analogue à l’effet Hall quantique de spin.Enfin, revenant aux effets géométriques linéaires, nous nous sommes concentrés sur l’effet Hall anormal. Dans ce contexte, nous présentons une correction non-adiabatique aux équations semi-classiques décrivant le mouvement d’un paquet d’ondes qui s’exprime en termes du tenseur géométrique quantique. Nous proposons un protocole expérimental pour mesurer cette quantité dans des systèmes photonique radiatifs. / This thesis is dedicated to the description of both single-particle and bosonic quantum fluid Physics in topological systems. After introductory chapters on these subjects, I first discuss single-particle topological phenomena in honeycomb lattices. This allows to compare two theoretical models leading to quantum anomalous Hall effect for electrons and photons and to discuss the photonic quantum valley Hall effect at the interface between opposite staggered cavity lattices.In a second part, I present some phenomena which emerge due to the interplay of the linear topological effects with the presence of interacting bosonic quantum fluid described by mean-field Gross-Pitaevskii equation. First, I show that the spin-anisotropic interactions lead to density-driven topological transitions for elementary excitations of a condensate loaded in the polariton quantum anomalous Hall model (thermal equilibrium and out-of-equilibrium quasi-resonant excitation configurations). Then, I show that the vortex excitations of a scalar condensate in a quantum valley Hall system, contrary to linear wavepackets, can exhibit a robust chiral propagation along the interface, with direction given by their winding in real space, leading to an analog of quantum spin Hall effect for these non-linear excitations. Finally, coming back to linear geometrical effects, I will focus on the anomalous Hall effect exhibited by an accelerated wavepacket in a two-band system. In this context, I present a non-adiabatic correction to the known semiclassical equations of motion which can be expressed in terms of the quantum geometric tensor elements. We also propose a protocol to directly measure the tensor components in radiative photonic systems.

Le piégeage optique d'atomes sur réseaux optiques permet d'étudier leur comportement dans un régime de très basse température, de l'ordre du nanokelvin, sans geler le degré de liberté de leur moment cinétique. Ces méthodes récentes de piégeage offrent la possibilité d'analyser le magnétisme des phases quantiques spontanément adopté par les atomes. Dans cette thèse, nous étudions numériquement des bosons à deux états effectifs de spin, ou bosons de spin-1/2, ainsi que des bosons à trois états de spin, ou bosons de spin-1, avec deux méthodes conceptuellement différentes: une approche simplifiée en champ moyen et une méthode exacte, la méthode de Monte Carlo Quantique. Au delà de l'étude de ces deux systèmes, nous comparons une méthode en champ moyen, parfois abusivement employée, à la méthode de Monte Carlo Quantique. L'étude approfondie du système de bosons de spin-1/2 en une et deux dimensions dans la limite de température nulle montre l'influence de la dimension sur la physique de ce système. Les effets thermiques, non négligeables expérimentalement, sont aussi étudiés. Enfin, le système de bosons de spin-1 piégés sur un réseau bidimensionnel, système plus riche et plus complexe à étudier que le précédent, est étudié dans la limite de température nulle. L'étude de ces deux systèmes révèle différentes organisations magnétiques dans les phases isolantes de Mott ainsi que dans la phase superfluide, telles qu'un superfluide ferromagnétique. Des transitions de phases du premier ordre et des mouvements cohérents anticorrélés, présents dans les phases de Mott, sont aussi observés.

En présence de désordre, la diffusion des particules peut être complètement annihilée, don- nant lieu à la fameuse localisation d'Anderson. En dimension trois, une transition de phase sépare une telle phase isolante du régime diffusif. À partir de différentes approches théo- riques et numériques, cette thèse a pour objectif de déterminer l'effet des interactions entre particules sur la localisation d'Anderson et sur la transition d'Anderson, dans le contexte expérimental des condensats de Bose-Einstein. Dans le cas unidimensionnel, la compétition entre désordre et interaction induit l'existence de trois régimes dynamiques dont les caracté- ristiques sont étudiées grâce à une approche spectrale. En nous appuyant sur le modèle du rotateur frappé quasi-périodique, nous caractérisons l'émergence du régime sub-diffusif qui tend à remplacer le régime localisé dans le cas tridimensionnel. Nous étudions également la dynamique des excitations du système et démontrons l'universalité de la transition d'An- derson vis-à-vis des quasi-particules de Bogoliubov. Dans l'objectif d'étudier la validité de l'équation de Gross-Pitaevskii, nous nous sommes enfin intéressés à une nouvelle approche, la méthode de la troncature d'Husimi. Celle-ci nous permet d'envisager une étude de la compétition entre désordre et interaction enrichie par la prise en compte du bruit quantique.