Nous étudions la photoassociation dans un gaz d'hélium métastable 4He(23S1) ultrafroid piégé magnétiquement : des paires d'atomes en collision interagissent avec un ou deux champs laser pour former des molécules à purement longue portée 4He2(23S1-23P0), ou longue portée 4He2(23S1-23S1).<br />Des décalages lumineux dans la spectroscopie à un photon sont observés, et étudiés en fonction de l'intensité et la polarisation du laser de photoassociation, ainsi que l'état vibrationnel de la molécule photoassociée. Ils sont le résultat du couplage lumineux entre la molécule excitée et le continuum d'états de diffusion et les états liés de l'interaction entre deux atomes métastables. Leur analyse quantitative permet de déterminer la longueur de diffusion a=7.2 ± 0.6 nm caractéristique des collisions entre atomes métastables polarisés.<br />La photoassociation à deux photons est utilisée pour mettre en évidence des molécules 4He2(23S1-23S1) polarisées et de forte élongation. Celles-ci sont qualifiées d'exotiques, puisqu'elles sont constituées de deux atomes métastables, portant chacun une énergie interne de 20 eV suffisante pour ioniser l'autre. Les formes de raies obtenues par cette spectroscopie sont calculées et décomposées en sommes et produits en profils de Breit-Wigner et de Fano associés à des processus à un et deux photons. Leur ajustement aux données expérimentales permet de déterminer la durée de vie intrinsèque de la molécule tau=1.4±0.3 ms. Nous tentons d'interpréter cette durée de vie en terme d'autoionisation Penning induite par relaxation de spin. Nous montrons que cette hypothèse implique qu'il y ait un état quasi-lié proche de dissociation dans le potentiel d'interaction singulet entre atomes métastables pour rendre compte des expériences.

Les thématiques abordées dans ce mémoire illustrent deux spécificités des gaz ultrafroids d'Hélium métastable : la possibilité de comparer les résultats expérimentaux à des évaluations théoriques précises (niveaux d'énergie, potentiels d'interaction) et une méthode de détection originale fournie par les ionisations Penning. Nous présentons la construction et la caractérisation d'un nouveau piège magnétique offrant un large accès optique et permettant ainsi de combiner la production d'un condensat de Bose-Einstein et son chargement in situ dans un réseau optique 3D. Les fondements théoriques des expériences prévues dans ces potentiels optiques sont ensuite détaillés. Dans un piège dipolaire croisé, l'influence du champ magnétique, devenu un paramètre libre, sur les taux de collisions Penning peut être mesurée et comparée à une nouvelle évaluation théorique. Concernant l'Hélium dans des réseaux optiques, deux sujets sont développés : l'effet du confinement sur les collisions inélastiques Penning (réseau 1D), ainsi que la modélisation des pertes Penning dans un modèle de Bose-Hubbard dissipatif (réseau 3D). Enfin, nous présentons la première mesure directe de la transition dipolaire magnétique 23S1 vers 23P2, liant les familles singulet et triplet de l'Helium 4. Cette expérience de spectroscopie, réalisée en collaboration avec le groupe de W. Vassen (LaserLab - Amsterdam), allie le domaine des atomes froids aux techniques des peignes de fréquences, afin d'obtenir une précision de 5 kHz.

Cette thèse traite des interactions à très longue portée entre atomes de Rydberg froids.<br />Elle présente les résultats de la première réalisation du blocage dipolaire, qui se traduit par<br />une limitation de l'excitation d'un ensemble d'atomes vers un état de Rydberg en raison du<br />déplacement des niveaux d'énergie lié aux interactions dipôle-dipôle entre atomes. L'importance<br />de l'implication du blocage dipolaire a été soulignée pour l'information quantique avec<br />la possible réalisation de portes quantiques conditionnelles à deux qubits. La mise en évidence<br />du blocage dipolaire est présentée dans le cadre de deux configurations expérimentales différentes<br />: en présence d'un champ électrique et à résonance de Förster. Parvenir à la maîtrise du<br />blocage dipolaire de l'excitation vers des états de Rydberg a demandé un contrôle important<br />des conditions expérimentales : compensation des champs parasites, contrôle des sources d'ionisation<br />d'atomes, contrôle de l'intensité laser d'excitation pour se placer en-dessous du seuil<br />de saturation par puissance. Des études complémentaires ont été réalisées, telle que celle des<br />forces dipolaires entre atomes de Rydberg responsables d'un phénomène d'ionisation Penning,<br />aussi à l'origine de la formation d'un plasma ultra-froid. Une autre étude concerne le processus<br />du transfert d'excitation à résonance de Förster, dont les propriétés de cohérence ont été<br />analysés par une technique spectroscopique originale dite de "creusement spectral".

Ce mémoire rapporte les résultats de plusieurs expériences mettant en jeu des nuages ultra-froids d'hélium métastable. Deux thématiques différentes sont abordées au cours de cette thèse : l'optique atomique quantique et l'étude des propriétés collisionnelles inter-spin. Les premières études présentées ont été réalisées sur un ensemble de paires d'atomes corrélés créé par collision entre deux condensats de Bose-Einstein. Ce processus peut être vu comme un analogue de la conversion paramétrique en optique photonique quantique. Une étude fine des propriétés géométriques du halo de collisions a indiqué une déformation de celui par rapport à la forme sphérique attendue pour une collision en onde S. Nous avons montré que cet effet tire son origine de l'interaction entre atomes et de la dynamique du processus. Par ailleurs, l'étude statistique de ces paires d'atomes corrélés a permis de mettre en évidence une réduction des fluctuations sous le bruit de grenaille de la différence du nombre d'atomes entre deux zones opposées. Ce résultat est un nouvel indice sur la nature des états quantiques créés qui présentent très certainement un réel intérêt dans l'interférométrie atomique et la violation d'inégalités de Bell avec des atomes neutres. Nous décrivons également le piège optique qui a été mis en place et utilisé pour une partie de ces expériences et dont les caractéristiques permettent d'utiliser au mieux notre détecteur d'atomes uniques. Nous avons pu, à l'aide de ce dispositif, mesurer les stabilités relatives de certains états de spin de l'hélium métastable et prouver qu'il est possible de mener des expériences sur des mélanges de spins selon certaines conditions.