Cette thèse porte sur le façonnage de lasers par holographie en vue de créer des potentiels dipolaires pour les atomes froids. Le dispositif expérimental utilisé pour façonner le laser et modifier sa phase est un modulateur spatial de lumière (SLM). Grâce à ce SLM, il est possible de fabriquer des faisceaux dont le centre est noir, appelés faisceaux creux. Ces derniers sont de bons candidats pour piéger des atomes froids lorsqu'ils sont utilisés avec un laser désaccordé vers le bleu. Les atomes sont alors attirés vers le centre noir du faisceau ce qui limite les pertes d'atomes par émission spontanée. Nous avons ainsi généré des modes de Laguerre-Gauss LG0l quasi-purs dans lesquels nous avons guidé des atomes froids. L'avantage de ces modes est que l'hologramme permettant de les produire, une hélice de phase, est analytique. Des résultats quantitatifs sur l'efficacité du guidage d'atomes dans ces modes ont été obtenus et comparés à un modèle calculant l'efficacité de capture. Dans la seconde partie de ce travail, nous nous sommes intéressés à modifier l'hologramme en hélice analytiquement pour générer d'autres faisceaux creux. Afin de savoir quelle phase appliquer sur le SLM, nous avons développé un modèle pour connaître les caractéristiques du faisceau fabriqué en tout point de l'axe de propagation. Ce modèle est basé sur la décomposition du champ sur la base des modes de Laguerre-Gauss LGpl . Nous avons ainsi généré une ouverture dans la circonférence des Laguerre-Gauss et fabriqué des croix se transformant en polygones au cours de leur propagation. Ces potentiels permettent d'envisager de nouvelles expériences dont l'étude des systèmes chaotiques.

Ce manuscrit décrit les expériences menées sur le montage "hélium métastable" de 1998 à 2008. Dès mon arrivée à l'Institut d'Optique, nous avions décidé de nous lancer dans la course de la condensation de Bose-Einstein de l'hélium métastable. Cet atome a en effet un atout : sa métastabilité. Son énergie interne de 20 eV est suffisamment grande pour que cet atome puisse être détecté électroniquement de façon très efficace par une galette de micro-canaux ; il est ainsi possible de faire du comptage d'atomes uniques, d'où la thématique optique atomique quantique. De plus, la probabilité d'avoir une ionisation lors d'une collision entre deux ou trois atomes d'hélium métastable est assez importante aux densités atomiques auxquelles nous travaillons. Les ions produits, détectables par la même galette permettent d'avoir un diagnostic in situ original de la densité atomique. On peut chronologiquement distinguer trois périodes. De 1998 à 2004 nous avons obtenu le condensat et étudié ces propriétés collisionnelles. De 2004 à 2007 nous avons mesuré les propriétés de corrélation à deux corps des nuages au-dessus ou en dessous de la dégénérescence quantique, suite à une amélioration de notre système de détection. Depuis 2006, nous avons commencé une nouvelle thématique portant sur l'optique atomique quantique et une première expérience sur la création de paires d'atomes a déjà eu lieu.

Un gaz froid d'hélium métastable ($2(^3S_1)$) polarisé est un candidat possible pour l'observation de la condensation de Bose-Einstein. Des études théoriques prédisent que le taux de collisions Penning, obstacles à l'obtention de hautes densités spatiales, est réduit de plusieurs ordres de grandeur du fait de la polarisation de l'échantillon. Cette réduction doit permettre d'observer la transition de phase à une température autour du $\mu$K. La polarisation est obtenue expérimentalement en piégeant les atomes magnétiquement. La longueur de diffusion théorique élevée de l'hélium dans l'état $2(^3S_1)$ permet d'espérer un refroidissement évaporatif efficace dans le piège magnétique. Cette thèse résume les prédictions théoriques sur les collisions inélastiques et élastiques entre atomes d'hélium métastables et décrit le dispositif expérimental conduisant au chargement du piège magnétique. La technique choisie est basée sur le pré-refroidissement laser des atomes par ralentissement d'un jet par laser assisté par effet Zeeman, suivi d'un piégeage magnéto-optique et d'une phase de mélasse optique. Une première limitation expérimentale sur la densité spatiale que l'on peut atteindre appara\^(i)t au cours de cette étape. Elle est due aux collisions inélastiques assistées par la lumière laser. Le nuage pré-refroidi est ensuite transféré dans le piège magnétique. Deux réalisations expérimentales de ce piégeage magnétique sont présentées. La première, démonstration de principe, est réalisée dans un quadrup\^(o)le. La deuxième est obtenue dans un piège de Ioffe-Pritchard. A ce stade de l'expérience, on dispose d'un échantillon magnétique contenant $5\times 10^7$ atomes à une température de 200 $\mu$K, avec une durée de vie de 20 s.

L'expérience qui fait l'objet de cette thèse s'inscrit dans un contexte d'évolution de la recherche en physique atomique vers le développement de systèmes miniaturisés pour la génération et la manipulation d'ondes de matière cohérentes. Il s'agit de la réalisation d'un condensat de Bose-Einstein d'un gaz dilué d'atomes de 87Rb piégés par le champ magnétique d'une microstructure. Dans notre cas, cette microstructure, ou puce, est constituée de fils d'or de dimensions micrométriques, déposés sur un substrat de silicium par lithographie optique. Expérimentalement, les atomes désorbés par un filament de rubidium sont chargés et refroidis dans un piège magnéto-optique dont le champ magnétique est créé par des bobines macroscopiques extérieures au système à vide. Le nuage est ensuite transféré dans un second piège magnéto-optique proche de la surface de la puce, et dont le champ magnétique quadrupolaire est généré en partie par un fil microfabriqué en forme de U. Un second transfert place les atomes dans un piège magnétique de type Ioffe-Pritchard utilisant le champ magnétique créé par un deuxième fil en forme de Z. L'échantillon piégé magnétiquement proche de la surface de la puce est alors refroidi par évaporation radio-fréquence jusqu'à atteindre la condensation de Bose-Einstein. Lorsqu'on approche le nuage d'atomes froids de la surface des fils, celui-ci se fragmente. Ce phénomène traduit une rugosité du potentiel de piégeage due à l'inhomogénéïté de la densité de courant dans le microfil en Z. Ce manuscrit présente la réalisation de cette expérience dans son intégralité, des motivations initiales aux résultats expérimentaux obtenus, et décrit l'ensemble des choix technologiques que nous avons effectués pour concevoir ce dispositif et parvenir à ces résultats.

Les expériences présentées dans ce mémoire ont été effectuées sur des atomes de Césium piégés dans un réseau lumineux non dissipatif produit par deux faisceaux d'un laser Nd:YAG. Verticalement, les atomes sont confinés dans des micro-puits indépendants au fond de chaque maximum d'intensité et le confinement horizontal est assuré par la forme gaussienne des faisceaux. Le fort confinement vertical nous a permis, en mettant au point un refroidissement optique par bandes latérales, d'accumuler environ 95% des atomes dans l'état fondamental du mouvement dans la direction verticale. A partir de cet état quantique pratiquement pur, nous avons produit d'autres états quantiques et, grâce à une technique d'imagerie en absorption, nous avons visualisé directement leur distribution en vitesse. Tout d'abord, nous avons réalisé le premier état excité du mouvement des atomes dont la distribution en vitesse s'annule en v=0. Nous avons ensuite réalisé des états non stationnaires du mouvement et visualisé l'évolution temporelle de leur distribution en vitesse. Ainsi, l'évolution d'une superposition des deux premiers niveaux vibrationnels et celle d'états comprimés ont été enregistrées. Les états comprimés sont, comme l'état fondamental, des états d'incertitude minimum (Delta p Delta z=\hbar/2) mais leur distribution en impulsion est plus fine que celle de l'état fondamental. Une réduction d'un facteur 4 a été obtenue. En appliquant le refroidissement du mouvement vertical pendant un temps long, grâce au transfert d'énergie du mouvement horizontal au mouvement vertical assuré par les collisions, nous avons refroidi le mouvement dans les trois directions. Nous avons ainsi obtenu une température d'environ 3 microKelvin pour laquelle 80\% des atomes sont dans l'état fondamental du mouvement vertical. Enfin, une étude de temps de thermalisation montre que la résonnance de diffusion à énergie nulle du Cesium n'est pas affectée par le fort confinement vertical.

Ce mémoire présente deux expériences réalisées à l'aide d'un miroir à atomes à onde évanescente. Le miroir utilise la force dipolaire due à l'interaction entre les atomes et une onde évanescente créée par réflexion totale interne d'un faisceau laser à l'intérieur d'un prisme. Ces deux expériences montrent que, lors de leur réflexion, les atomes constituent une sonde des champs proches de la surface du prisme. La première expérience a permis la mesure de la force de van der Waals entre un atome de rubidium dans l'état fondamental et une paroi diélectrique. Lors de la réflexion, les atomes s'approchent très près de la surface du diélectrique (~ 50 nm) et sont donc sensibles à la force attractive de van der Waals due à la présence de la paroi. L'expérience consiste à mesurer la force dipolaire nécessaire pour équilibrer la force de van der Waals. Elle montre également le rôle crucial de la force de van der Waals dans le fonctionnement du miroir à atomes, d'une part, la réduction d'un facteur trois de l'efficacité du miroir et d'autre part, la modification de la forme du potentiel réflecteur total. La seconde expérience décrit la diffraction d'atomes en incidence normale sur un miroir modulé spatialement, créé à l'aide d'une onde évanescente partiellement stationnaire. Ce processus de diffraction est lié à la modulation de phase de l'onde de de Broglie lors de la réflexion et apparaît pour une modulation très faible du potentiel. Elle est similaire à la diffraction de Raman-Nath en optique traditionnelle. L'étude des populations dans les différents ordres de diffraction en fonction de la profondeur de modulation confirme quantitativement ce processus scalaire de diffraction.

Un "laser à atomes" est un faisceau atomique extrait d'un condensat de Bose-Einstein, nuage d'atomes piégé et refroidi jusqu'à la dégénérescence quantique. Dans la perspective de futures applications de cette source atomique cohérente, par exemple à l'interférométrie atomique de précision, il est nécessaire de bien maîtriser les propriétés du faisceau. Certaines caractéristiques, en particulier, rendent les lasers à atomes bien différents des lasers photoniques, comme la présence d'interactions fortes entre les atomes, et leur sensibilité à la gravité.<br />Nous rapportons dans cette thèse une étude du mode transverse d'un laser à atomes, et montrons que celui-ci est fortement dégradé par les interactions avec le condensat-source. Par extension du formalisme existant pour les ondes optiques, nous caractérisons le faisceau par un facteur de qualité M2.<br />Dans un deuxième temps, nous mettons en oeuvre une méthode permettant de s'affranchir de la gravité, qui habituellement accélère les atomes et fait décroître très rapidement la longueur d'onde de de Broglie de l'onde de matière. Nous utilisons pour cela un guide optique, formé d'un piège dipolaire très anisotrope, pour guider le laser à atomes horizontalement. Nous obtenons ainsi un laser à atomes dont la longueur d'onde est fixe au cours de la propagation, de l'ordre de 0.5 μm. Afin d'injecter de manière efficace le faisceau dans le guide, nous créons le condensat dans le piège hybride obtenu à l'intersection du guide optique et d'un piège magnétique. Nous montrons que cette configuration assure intrinsèquement une bonne adaptation de mode.

Les atomes froids dans les réseaux optiques permettent d'avoir un contrôle sans précédent des états a N-corps fortement corrélés. Pour cette raison, ils représentent un excellent outil pour l'implémentation d'un « simulateur quantique », utile pour réaliser de manière expérimentale de nombreux hamiltoniens de systèmes d'intérêt physique. En particulier, ils rendent possible la création de champs de jauge artificiels; ces derniers permettant d'accéder à la physique du magnétisme frustré. Dans ce travail, il s'agit de s'intéresser à la thermodynamique des atomes froids, en abordant ce sujet de manière théorique et numérique. A ce jour, le Monte Carlo quantique est la méthode la plus efficace dans ce domaine. Néanmoins, en raison de ce qu'on appelle le « problème du signe », elle ne peut s'appliquer qu'à une classe restreinte de systèmes, et dont par exemple les systèmes frustrés ne font pas partie. L'intérêt de cette thèse est de développer une nouvelle méthode approximée fondée sur une approche Monte Carlo. La première partie de cette thèse est consacrée à des considérations de nature théorique sur la structure spatiale des corrélations classiques et quantiques. Ces résultats nous permettent de développer, dans une deuxième partie, une approximation nommée « champ moyen quantique ». Celle-ci permet de proposer, dans une troisième partie, une méthode numérique qu'on appelle « Monte Carlo du champ auxiliaire » et qu'on applique à des cas d'intérêt physique, notamment au réseau triangulaire frustré. / Cold atoms in optical lattices offer unprecedented control over strongly correlatedmany-body states. For this reason they represent an excellent tool for the implementation ofa “quantum simulator”, which can be used to realize experimentally several Hamiltonians ofsystems of physical interest. In particular, they enable the engineering of artificial gaugefields, which gives access to the physics of frustrated magnetism. In this work, we study thethermodynamics of cold atoms both from a theoretical and a numerical point of view. Atpresent days, the most effective method used in this field is the quantum Monte Carlo. Butbecause of the so-called “sign problem” it can only be applied to a limited class of systems,which for example do not include frustrated systems. The interest of this thesis is to developof a new approximated method based on a Monte Carlo approach. The first part of this workis dedicated to theoretical considerations concerning the spatial structure of quantum andclassical correlations. These results permit to develop, in the second part, an approximationcalled quantum mean-field. This latter allows to propose, in the third part, a numericalmethod that we call “auxiliary-field Monte Carlo” and that we apply to some systems ofphysical interest, among which the frustrated triangular lattice.

Les gaz quantiques dégénérés des atomes neutres sont d’excellentssystèmes avec les applications importantes dans les études de la physique à plusieurs corps, de la matière condensée, de la mesure de haute précision et de l'information quantique. Dans cette thèse, nous démontrons la production des condensats de Bose-Einstein de 87Rb dans les différents modes transverses de la cavité qui a une configuration en papillon (bow-tie cavity). La cavité est résonante à deux longueurs d'onde, 1560 nm et 780 nm. Nous utilisons la radiation à 1560 nm, une longueur d'onde accessible dans la télécommunication (bande C) pour obtenir le condensat de Bose-Einstein dans un piège dipolaire intra-cavité. La cavité optique permet de réaliser un piège dipolaire profond à partir d'une source optique à puissance modérée (3W), grâce à l'amplification de la puissance au sein du résonateur. Les modes non dégénérés du résonateur permettent d'obtenir de multiples condensats dans les modes transverses supérieurs. Comme exemples représentatifs, nous avons réalisé le condensat de Bose-Einstein dans le mode fondamental et le mode TEM01 de la cavité. L'utilisation de ces modes nous permet d'avoir un et deux puits de potentiels pour le piégeage où l'échantillon atomique ultra-froid est couplé au mode du résonateur. En contrôlant la puissance relative entre le mode fondamental et les modes transverses supérieurs (TEM01, TEM10), nous arrivons à réaliser la division et la recombinaison d’un 'ensemble atomique ultra-froid. De plus, dans ce manuscrit nous présentons le développementd'un système d'asservissement autour de la cavité optique qui nous permet d'obtenir les deux radiations asservies sur le résonateur ainsi que la stabilisation de la longueur de la cavité sur les atomes de rubidium. La deuxième longueur d'onde provient du faisceau à 1560 nm après le doublage de fréquence. Par la suite, les deux longueurs d'onde sont asservies sur la cavité par la technique de Pound-Drever-Hall. Une partie du composant doublé en fréquence est comparée en fréquence avec un laser à 780 nm asservi sur les atomes de rubidium par la technique de battement optique. Ensuite, le signal de battement est converti par un synthétiseur de fréquence et est envoyé vers le contrôleur de transducteur piézo-électrique de la cavité via un régulateur PI pour éviter la dérive à long terme liée aux fluctuations de la température. La résonance à 780 nm sera utilisée comme faisceau de sonde intra-cavité. Cela nous permettra de réaliser une mesure quantique non-destructive et de générer des états comprimés de spins induits par cette mesure / Quantum degenerate gases of neutral atoms are excellent systems with important applications in the study of many body quantum physics, condensed matter physics, precision measurements, and quantum information processing. In this thesis we demonstrate the creation of 87Rb Bose-Einstein condensates (BECs) in different transverse modes of a bow-tie cavity. The cavity resonant at two wavelengths, 1560 and 780 nm. We are using the radiation 1560 nm accessible in telecom (C band) to create BEC in the cavity enhanced optical dipole trap with only 3 W of optical power from the source. The non-degenerate cavity modes enable the creation of arrays of BECs in the higher transverse modes. As representative examples we realize the BEC in the fundamental TEM00 and the TEM01 mode of the cavity which are the single well and double well trapping configuration with ultra-cold atomic simple well coupled to the cavity modes. By controlling the relative power between the fundamental and the higher transverses cavity modes (TEM01, TEM10), splitting and merging of ultra-cold atomic ensemble is shown. Moreover, in this manuscript we present the development of a lock system around the optical cavity which allows us to obtain both radiations locked to the cavity as well as the lengthe of the optical resonator is referenced on the rubidium atoms. The second wavelength is derived from 1560 nm beam by frequency doubling and then both radiations are locked to the cavity by Pound-Drever-Hall technique. One part of the frequency doubled 780 nm is referenced to an independent 780 nm laser locked on the rubidium atoms. The beat signal between these two lasers is frequency synthesized and through the PI controller is sent to the piezo-electric transducer driver to avoid long-term drifts of the cavity due to temperature fluctuations. The cavity resonance at 780 nm will be used as a probe beam for cavity aided quantum non-demolition measurements to generate measurement induced spin squeezed states.

Les atomes froids sont des outils uniques pour sonder la physique de la matière quantique. Hautement contrôlables, les gaz de Bose et de Fermi ultrafroids sont des systèmes idéaux pour la simulation quantique et pour explorer des manifestations spectaculaires des effets quantiques, comme la superfluidité. Avec des gaz froids de 6Li et de 7Li, nous avons produit le premier mélange de superfluides bosonique-fermionique, et étudié ses propriétés en initiant un contre-flot entre les nuages de Bose et de Fermi (mode dipolaire). La vitesse critique de superfluidité a été mesurée dans le crossover BEC-BCS et elle est trouvée proche de la vitesse du son dans le gaz de Fermi. Nous comparons nos mesures avec des prédictions théoriques récentes. En élevant la température du mélange, nous avons aussi observé une synchronisation inattendue entre les mouvements des deux nuages, interprétée comme un effet Zénon induit par la dissipation. Finalement, ce mélange de bosons et de fermions offre la possibilité unique de créer un piège homogène pour le gaz de Fermi. En ajustant finement les interactions, nous proposons d’utiliser la répulsion entre les bosons et les fermions pour compenser la courbure du piège harmonique pour les fermions. Pour des fermions présentant une polarisation de spin, nous prédisons théoriquement l’existence d’un superfluide avec une structure en “coquille” et fournissons les premières indications expérimentales de l’observation de ce superfluide topologiquement original. / Ultracold atoms are unique tools to probe the physics of quantum matter. Indeed, the high degree of tunability of ultracold Bose and Fermi gases makes them ideal systems for quantum simulation and for exploring macroscopic manifestations of quantum effects, such as superfluidity. In this work, we have realized the first Bose-Fermi superfluid mixture, with ultracold gases of 6Li and 7Li. The properties of the mixture are investigated by initiating a Bose-Fermi counterflow through their dipole modes. The superfluid critical velocity is measured in the BEC-BCS crossover, and is found close to the sound velocity of the Fermi gas near unitarity. We compare our findings to recent theoretical predictions. Raising the temperature of the mixture, we observe an unexpected synchronization of the motion of the two clouds, interpreted with a Zeno-like model induced by dissipation. Finally, this Bose-Fermi mixture offers the unique possibility to create a homogeneoustrap for the Fermi gas. By a fine tuning of the interactions, we propose to use the Bose-Fermi repulsion to compensate the curvature of the harmonic trap for fermions. For a spin-polarized Fermi gas in such a trap, we theoretically predict the existence of a superfluid with a shell structure and we provide first experimental evidence for this topologically new superfluid.