Ce mémoire rapporte les résultats de plusieurs expériences mettant en jeu des nuages ultra-froids d'hélium métastable. Deux thématiques différentes sont abordées au cours de cette thèse : l'optique atomique quantique et l'étude des propriétés collisionnelles inter-spin. Les premières études présentées ont été réalisées sur un ensemble de paires d'atomes corrélés créé par collision entre deux condensats de Bose-Einstein. Ce processus peut être vu comme un analogue de la conversion paramétrique en optique photonique quantique. Une étude fine des propriétés géométriques du halo de collisions a indiqué une déformation de celui par rapport à la forme sphérique attendue pour une collision en onde S. Nous avons montré que cet effet tire son origine de l'interaction entre atomes et de la dynamique du processus. Par ailleurs, l'étude statistique de ces paires d'atomes corrélés a permis de mettre en évidence une réduction des fluctuations sous le bruit de grenaille de la différence du nombre d'atomes entre deux zones opposées. Ce résultat est un nouvel indice sur la nature des états quantiques créés qui présentent très certainement un réel intérêt dans l'interférométrie atomique et la violation d'inégalités de Bell avec des atomes neutres. Nous décrivons également le piège optique qui a été mis en place et utilisé pour une partie de ces expériences et dont les caractéristiques permettent d'utiliser au mieux notre détecteur d'atomes uniques. Nous avons pu, à l'aide de ce dispositif, mesurer les stabilités relatives de certains états de spin de l'hélium métastable et prouver qu'il est possible de mener des expériences sur des mélanges de spins selon certaines conditions.

Ce manuscrit regroupe les résultats obtenus sur deux expériences d'optique atomique. La première partie du mémoire est consacrée à l'étude de la rugosité d'un miroir atomique. Le potentiel lumineux d'une onde évanescente à la surface d'un prisme est utilisé pour réfléchir les atomes tombant d'un piège magnéto-optique. Nous présentons une méthode de mesure interférométrique du maintien de la cohérence de l'onde atomique incidente lors de sa réflexion sur le miroir. La deuxième partie du manuscrit s'intéresse à une expérience de puce atomique. Le champ magnétique rayonné par les fils microfabriqués qui constituent la puce nous permet de piéger et de manipuler des atomes froids. Nous avons obtenu un condensat de Bose-Einstein dans le piège créé par la puce. Ce piège s'avère être rugueux, nous mesurons et déterminons l'origine de cette rugosité. Enfin nous envisageons la réalisation d'éléments d'optique atomique intégrée, tel qu'un interféromètre, sur une puce atomique.

Ce mémoire présente une étude théorique des propriétés de localisation de gaz de Bose avec interactions faibles, en présence de désordre uni-dimensionnel. Nous abordons trois aspects de ces systèmes désordonnés. En premier lieu, nous étudions le cas d'un gaz sans interactions. Des résultats généraux stipulent que tous les états à une particule sont localisés en une dimension. Nous montrons que pour certaines classes de désordre corrélé, la dépendance de la longueur de localisation des atomes vis-à-vis de leur énergie est marquée par d'abruptes transitions à faible désordre. Ceci permet l'interprétation de résultats expérimentaux récents, au-delà des analyses précédentes. Dans un deuxième temps, nous étudions l'état fondamental d'un gaz avec interactions répulsives, et établissons un diagramme des états quantiques du système en fonction de l'amplitude du désordre et des interactions. Nous analysons les modulations de densité imposées au gaz par le désordre afin de décrire le passage du régime de condensat de Bose-Einstein délocalisé à celui de condensat fragmenté. Pour le régime des très faibles interactions, nous développons une description microscopique du système sur la base des états propres de basse énergie du hamiltonien à une particule. Ces résultats contribuent à la caractérisation de la phase de verre de Bose encore peu explorée aux faibles interactions. Enfin, nous étudions la localisation des excitations élémentaires du gaz de Bose dans le régime de (quasi-) condensat. Nous montrons que la localisation réduite des excitations de plus faible énergie est imputable à un écrantage efficace par le (quasi-) condensat des variations de grande longueur d'onde du potentiel extérieur.

Chaque année sur Mars, en automne et hiver, une partie importante de l'atmosphère passe de l'état gazeux à solide. Ce condensat, principalement du CO2 solide, s'accumule au sol sous forme de neige, givre ou glace. Cela se produit aux plus hautes latitudes, où les températures baissent suffisamment grâce à la nuit polaire pour provoquer ces dépôts qui disparaissent au retour du soleil au sortir de l'hiver. Les mécanismes de formation de ces glaces, leurs propriétés microphysiques ou encore leur évolution durant la nuit polaire puis avec l'insolation sont encore peu connus. Au cours de cette thèse un dispositif expérimental a été créé pour former et étudier en laboratoire des glaces de CO2 de différentes textures, en conditions analogues à Mars. Le dispositif permet de suivre et contraindre plusieurs paramètres thermodynamiques, observer visuellement l'évolution de l'échantillon et le caractériser spectralement. Les résultats amélioreront la compréhension du cycle du CO2 et les données acquises par les sondes spatiales martiennes.

Dans ce travail, nous montrons qu'il est possible d'effectuer un passage adiabatique efficace dans un système quantique non-linéaire quadratique à deux états décrivant la formation de molécules faiblement liées dans les condensats atomiques de Bose-Einstein par la photo-association par champs laser.Un transfert adiabatique efficace est également possible si on prend en compte les non-linéarités de troisième ordre décrivant les collisions élastiques atome-atome, atome-molécule et moléculaire-molécule.Le transfert est obtenu en choisissant un désaccord approprié calculé en résolvant le problème inverse.Nous montrons également que l'on peut effectuerun suivi Raman stimulé exact dans un système non-linéaire quantique à trois états.Dans le passage d'atomes libres à l'état moléculaire stable, les pertes irréversibles de l'état moléculaire intermédiaire faiblement lié peuvent être évitées par un schéma à trois états en deux couleurs dans le cas avec résonances à un ou deux photons.Ceci est obtenu par une technique de suivi exacte.Nous avons également étudié des modèles linéaires à deux états bi-confluents de Heun, dépendant du temps, avec des solutions en termes de combinaisons linéaires d'un nombre fini de fonctions Hermite d'ordre non entier.Nous avons présenté un modèle dont la solution implique seulement deux fonctions Hermite. Il s'agit d'une configuration de champ avec croisement par résonance donnée par une fréquence Rabi exponentiellement divergente et un désaccord qui commence à partir de la résonance exacte et diverge exponentiellement à l'infini. Le modèle prend en compte les pertes irréversibles du second état. / In this work we show that it is to perform an efficient adiabatic passage in a basic quadratic-nonlinear quantum two-state system describing weakly bound molecule formation in atomic Bose-Einstein condensates through photoassociation by laser fields. An efficient adiabatic transfer is also possible if the third-order nonlinearities describing the atom-atom, atom-molecule, and molecule-molecule elastic scattering are taken into account. The transfer is achieved by choosing a proper detuning derived by solving the inverse problem.We also show that one can perform a stimulated Raman exact tracking in a quadratic-nonlinear quantum three-state system.The irreversible losses from the intermediate weakly bound molecular state in a passage of free atoms to the stable molecular state can be avoided by a two-colour three-state scheme in the case of one- and two-photon resonances for the associating laser fields.This is achieved by an exact tracking technique.We also studied the linear time-dependent two-state bi-confluent Heun models with solutions in terms of linear combinations of a finite numberof the Hermite functions of non-integer order.We have presented a model the solution for which involves just two Hermite functions.This is a resonance-crossing field configuration given by an exponentially diverging Rabi frequency and a detuning that starts from the exact resonance and exponentially diverges at the infinity. The model takes into account the irreversible losses from the second state.

La première partie décrit trois expériences réalisées avec l'interféromètre atomique à jet de lithium supersonique développé à Toulouse. La seconde partie présente le nouvel interféromètre atomique à condensats de Bose-Einstein (CBE) développé dans le but de tester la neutralité de la matière. Les trois premières expériences exploitent l'interaction entre un atome de lithium et différents champs électromagnétiques. Une différence de potentiel électrique dépendant du temps a servi à moduler la phase des deux bras de notre interféromètre à des fréquences différentes, ce qui a permis une détection homodyne et hétérodyne d'ondes de matière. Une phase géométrique de la lumière (la phase de Pancharatnam) a été transférée à notre signal interférométrique par les réseaux de diffraction de Bragg ce qui a ajouté un nouvel outil à la panoplie permettant le contrôle d'ondes de matières. Enfin, un faisceau laser focalisé sur un seul des deux bras nous a permis de mesurer avec exactitude une des longueurs d'onde d'extinction du lithium (correspondant à une valeur de polarisabilité dynamique nulle). L'objectif du nouvel interféromètre à CBE est de réaliser une nouvelle mesure de la charge électrique résiduelle de la matière et en particulier des isotopes du rubidium 85Rb et 87Rb. Cette mesure nous permettra de connaître avec une plus grande sensibilité la différence de charge entre le proton et l'électron ainsi que la charge du neutron. Le principe de cette mesure repose sur une séparation spatiale importante entre les deux bras d'un interféromètre en fontaine ainsi que sur un temps de cycle de 5 s. Ces caractéristiques ont nécessité un travail de conception à la fois au niveau de la source (une puce à atome) et au niveau du phénomène de diffraction (séparation en impulsion importante) qui sera exposé dans un premier temps. Dans un second temps, les choix techniques en matière de chambre à vide, système laser et sources de champs magnétiques seront décrits et caractérisés. Enfin, les performances actuelles de cette source d'atomes froids seront présentées et comparées à nos attentes. / This thesis's first part describes the realization of three experiments using an atom interferometer operated with a lithium supersonic beam. The second part presents the development of a new BEC interferometer designed to test matter neutrality. The first three experiments rely on the interactions of lithium atom with different electromagnetic fields. A time dependent electric potential difference was used to produce phase modulation of both interferometer arms at different frequencies, leading to homodyne and heterodyne detection of atom waves. A geometric phase of light (the Pancharatnam phase) was successfully transferred to our interferometer signal during Bragg diffraction, enlarging the atom optics toolbox for phase control in an atom interferometer. Finally, a focused laser beam was used to measure accurately the value of one lithium tune-out wavelength (for which its dynamic polarizability is zero). The new BEC interferometer was designed to measure a possible non-zero electric charge of rubidium isotopes 85Rb and 87Rb with enhanced sensitivity to the electron-proton charge difference and neutron neutrality. This setup relies on a large spatial separation between the two interferometer arms in a fountain configuration aiming at a cycle time of 5s. These features required particular design work both on the atomic source (atom-chip) and the diffraction process (Large Momentum Transfer). The technical choices on the vacuum chambers, laser system and magnetic sources are described and characterized. Finally, the up-to-date cold-atom source performances is shown and compared to our expectations.

Les gaz quantiques atomiques constituent un outil de choix pour étudier la physique à N corps grâce à leurs nombreux paramètres de contrôle. Ils offrent la possibilité d’explorer la physique en basse dimension, modifiée par rapport au cas à trois dimensions (3D) à cause du rôle accru des fluctuations. Dans ce travail, nous étudions le gaz de Bose à deux dimensions (2D) avec un confine-ment original dans le plan atomique, uniforme et de motif arbitraire. Ces gaz2D et uniformes, développés sur un montage existant, ont été installés sur un nouveau montage grâce à des potentiels optiques polyvalents.Nous présentons une série d’expériences exploitant cette géométrie flexible.D’abord, nous étudions le comportement statique et dynamique d’un gaz uni-forme lors de la transition d’un état 3D normal vers un état 2D superfluide.Nous observons l’établissement de la cohérence de phase dans un gaz à l’équilibre puis nous montrons l’apparition après une trempe de défauts topologiques dont le nombre est comparé à la prédiction de Kibble-Zurek. Ensuite, nous étudions grâce au nouveau montage les effets collectifs dans l’interaction lumière-matière, où les propriétés de résonance d’un nuage d’atomes dense sont fortement modifiées par rapport à celles d’un atome unique. Enfin, nous proposons deux protocoles pour le nouveau montage. Le premier permet d’évaporer de manière uniforme un gaz 2D grâce au réseau incliné du confinement à 2D. Le second propose de produire des supercourants de manière déterministe dans des pièges en anneaux, soit par condensation dans un champ de jauge, soit en réalisant une pompe à vortex topologique. / Degenerate atomic gases are a versatile tool to study many-body physics. They offer the possibility to explore low-dimension physics, which strongly differs from the three dimensional (3D) case due to the enhanced role of fluctuations. In this work, we study degenerate 2D Bose gases whose original in-plane confinement is uniform and of arbitrary shape. These 2D uniform traps, which we first developed on an existing set-up, were subsequently implemented on a newset-up using versatile optical potentials. We present a series of experiments that take advantage of this flexible geometry. First, we study the static and dynamic behaviours of a uniform gas at the transition between a 3D normal and a 2D superfluid state. We observe the establishement of extended phase coherence, followed, as the gas is quench cooled, by the apparition of topological defects whose scaling is compared to the Kibble-Zurek prediction. Second, we present the first results of the new set-up : we investigate collective effects in light-matter interactions, where the resonance properties of a dense ensemble of atoms are strongly modified with respect to the single atom ones. Last, we develop two experimental proposals for the new set-up. The first one studies how a 2D gas can be uniformly evaporated using the tilted lattice providing the 2D confinement. In the second one, we propose to produce su-percurrents in a deterministic way in ring-shaped traps either by condensing inan artificial gauge field or by implementing a topological vortex pump.

Les atomes froids sont des outils uniques pour sonder la physique de la matière quantique. Hautement contrôlables, les gaz de Bose et de Fermi ultrafroids sont des systèmes idéaux pour la simulation quantique et pour explorer des manifestations spectaculaires des effets quantiques, comme la superfluidité. Avec des gaz froids de 6Li et de 7Li, nous avons produit le premier mélange de superfluides bosonique-fermionique, et étudié ses propriétés en initiant un contre-flot entre les nuages de Bose et de Fermi (mode dipolaire). La vitesse critique de superfluidité a été mesurée dans le crossover BEC-BCS et elle est trouvée proche de la vitesse du son dans le gaz de Fermi. Nous comparons nos mesures avec des prédictions théoriques récentes. En élevant la température du mélange, nous avons aussi observé une synchronisation inattendue entre les mouvements des deux nuages, interprétée comme un effet Zénon induit par la dissipation. Finalement, ce mélange de bosons et de fermions offre la possibilité unique de créer un piège homogène pour le gaz de Fermi. En ajustant finement les interactions, nous proposons d’utiliser la répulsion entre les bosons et les fermions pour compenser la courbure du piège harmonique pour les fermions. Pour des fermions présentant une polarisation de spin, nous prédisons théoriquement l’existence d’un superfluide avec une structure en “coquille” et fournissons les premières indications expérimentales de l’observation de ce superfluide topologiquement original. / Ultracold atoms are unique tools to probe the physics of quantum matter. Indeed, the high degree of tunability of ultracold Bose and Fermi gases makes them ideal systems for quantum simulation and for exploring macroscopic manifestations of quantum effects, such as superfluidity. In this work, we have realized the first Bose-Fermi superfluid mixture, with ultracold gases of 6Li and 7Li. The properties of the mixture are investigated by initiating a Bose-Fermi counterflow through their dipole modes. The superfluid critical velocity is measured in the BEC-BCS crossover, and is found close to the sound velocity of the Fermi gas near unitarity. We compare our findings to recent theoretical predictions. Raising the temperature of the mixture, we observe an unexpected synchronization of the motion of the two clouds, interpreted with a Zeno-like model induced by dissipation. Finally, this Bose-Fermi mixture offers the unique possibility to create a homogeneoustrap for the Fermi gas. By a fine tuning of the interactions, we propose to use the Bose-Fermi repulsion to compensate the curvature of the harmonic trap for fermions. For a spin-polarized Fermi gas in such a trap, we theoretically predict the existence of a superfluid with a shell structure and we provide first experimental evidence for this topologically new superfluid.

La physique moderne repose sur deux théories fondamentales distinctes, la relativité générale et la mécanique quantique. Toutes les deux décrivent d’une part les phénomènes macroscopiques et cosmologiques tels que les ondes gravitationnelles et les trous noirs et d’autre part les phénomènes microscopiques comme la superfluidité ou le spin des particules. L’unification de ces deux théories reste, jusqu’à présent, un problème non résolu. Il est intéressant de noter que les différentes théories de gravité quantique prédisent une violation des principes de la relativité générale à différents niveaux.Il est donc hautement intéressant de détecter les violations de ces principes et de déterminer à quel niveau elles se produisent.De récentes propositions pour effectuer des tests du principe d’ équivalence d’Einstein suggèrent une amélioration spectaculaire des performances en utilisant des capteurs atomiques `a ondes de matière.Dans ce contexte, il est nécessaire de concevoir des états d’entrée de l’interferomètre avec des conditions initiales bien définies. Un test de pointe de l’universalité de la chute libre (Universality of FreeFall en anglais (UFF) ) nécessiterait, par exemple,un contrôle des positions et des vitesses avec une précision de l’ordre de 1 μm et 1 μm.s⁻¹ , respectivement.De plus, les systématiques liées à la taille du paquet d’ondes limitent le taux d’expansion maximum possible à 100 μm.s⁻¹. La création initiale des états d’entrée de l’interféromètre doit être assez rapide,de l’ordre de quelques centaines de ms au maximum,pour que le temps de cycle de l’expérience soit pertinent d’un point de vue métrologique. Dans cette thèse j’ai développé des séquences optimisées s’appuyant sur l’excitation du centre de masse et de la taille d’un ou plusieurs ensembles d’atomes refroidis ainsi que dégénérés. Certaines séquences proposé dans cette thèse ont déjà été implémenté dans des expériences augmentant de manière significative le contrôle des ensembles atomiques. / Modern physics relies on two distinct fundamental theories, General Relativity and Quantum Mechanics. Both describe on one hand macroscopic and cosmological phenomena such as gravitational waves and black holes and on the other hand microscopic phenomena as superfluidity or the spin of particles. The unification of these two theories remains, so far, an unsolved problem. Interestingly, candidate Quantum Gravity theories predict a violation of the principles of General Relativity at different levels. It is, therefore, of a timely interest to detect violations of these principles and determine at which level they occur. Recent proposals to perform Einstein Equivalence Principle tests suggest a dramatic performance improvement using matter-wave atomic sensors. In this context, the design of the input states with well defined initial conditions is required. A state-of-the-art test of the universality of free fall (UFF) would, for example, require a control of positions and velocities at the level of 1 µm and 1 µm.s⁻¹, respectively. Moreover, sizerelated systematics constrain the maximum expansion rate possible to the 100 µm.s⁻¹level. This initial engineering of the input states has to be quite fast, of the order of few hundred ms at maximum, for the experiment’s duty cycle to be metrologically-relevant. In this thesis I developed optimized sequences based on the excitation of the center of mass and the size excitation of one or two cooled atomic sample as well as degenerated gases. Some sequences proposed in this thesis have already been implemented in experiments and significantly increase the control of atomic ensembles.

Cette thèse est consacrée à la description de la physique à une particule ainsi qu'à celle de fluides quantiques bosoniques dans des systèmes topologiques. Les deux premiers chapitres sont introductifs. Dans le premier, nous introduisons des éléments de théorie des bandes et les quantités géométriques et topologiques associées : tenseur métrique quantique, courbure de Berry, nombre de Chern. Nous discutons différents modèles et réalisations expérimentales donnant lieu à des effets topologiques. Dans le second chapitre, nous introduisons les condensats de Bose-Einstein ainsi que les excitons-polaritons de cavité.La première partie des résultats originaux discute des phénomènes topologiques à une particule dans des réseaux en nid d'abeilles. Cela permet de comparer deux modèles théoriques qui mènent à l'effet Hall quantique anormal pour les électrons et les photons dû à la présence d'un couplage spin-orbite et d'un champ Zeeman. Nous étudions aussi l'effet Hall quantique de vallée photonique à l'interface entre deux réseaux de cavités avec potentiels alternés opposés.Dans une seconde partie, nous discutons de nouveaux effets qui émergent due à la présence d'un fluide quantique interagissant décrit par l’équation de Gross-Pitaevskii dans ces systèmes. Premièrement, il est montré que les interactions spin anisotropes donnent lieu à des transitions topologiques gouvernées par la densité de particules pour les excitations élémentaires d’un condensat spineur d’exciton-polaritons.Ensuite, nous montrons que les tourbillons quantifiés d'un condensat scalaire dans un système avec effet Hall quantique de vallée, manifestent une propagation chirale le long de l'interface contrairement aux paquets d'ondes linéaires. La direction de propagation de ces derniers est donnée par leur sens de rotation donnant lieu à un transport de pseudospin de vallée protégé topologiquement, analogue à l’effet Hall quantique de spin.Enfin, revenant aux effets géométriques linéaires, nous nous sommes concentrés sur l’effet Hall anormal. Dans ce contexte, nous présentons une correction non-adiabatique aux équations semi-classiques décrivant le mouvement d’un paquet d’ondes qui s’exprime en termes du tenseur géométrique quantique. Nous proposons un protocole expérimental pour mesurer cette quantité dans des systèmes photonique radiatifs. / This thesis is dedicated to the description of both single-particle and bosonic quantum fluid Physics in topological systems. After introductory chapters on these subjects, I first discuss single-particle topological phenomena in honeycomb lattices. This allows to compare two theoretical models leading to quantum anomalous Hall effect for electrons and photons and to discuss the photonic quantum valley Hall effect at the interface between opposite staggered cavity lattices.In a second part, I present some phenomena which emerge due to the interplay of the linear topological effects with the presence of interacting bosonic quantum fluid described by mean-field Gross-Pitaevskii equation. First, I show that the spin-anisotropic interactions lead to density-driven topological transitions for elementary excitations of a condensate loaded in the polariton quantum anomalous Hall model (thermal equilibrium and out-of-equilibrium quasi-resonant excitation configurations). Then, I show that the vortex excitations of a scalar condensate in a quantum valley Hall system, contrary to linear wavepackets, can exhibit a robust chiral propagation along the interface, with direction given by their winding in real space, leading to an analog of quantum spin Hall effect for these non-linear excitations. Finally, coming back to linear geometrical effects, I will focus on the anomalous Hall effect exhibited by an accelerated wavepacket in a two-band system. In this context, I present a non-adiabatic correction to the known semiclassical equations of motion which can be expressed in terms of the quantum geometric tensor elements. We also propose a protocol to directly measure the tensor components in radiative photonic systems.