Les collisions entre atomes ultrafroids et surfaces matérielles sont caractérisées par la réflexion de l'onde de matière atomique sur le potentiel attractif de Casimir-Polder. Cette réflexion quantique est déterminante pour des expériences telles que GBAR, qui mesurera l'accélération d'un atome d'antihydrogène froid chutant vers une plaque de détection. Dans cette thèse, le potentiel de Casimir-Polder est calculé à partir des propriétés de diffusion électromagnétique de l'atome et de la surface. Il s'avère dépendre de la réponse diélectrique, de l'épaisseur et de la densité du milieu. Nous montrons que la réflexion sur ce potentiel est associée à une rupture de l'approximation semiclassique et qu'elle augmente pour des atomes lents et des potentiels faibles. Les transformations de Liouville relient des équations de Schrödinger avec des potentiels différents mais les mêmes amplitudes de diffusion. L'équivalence entre la réflexion quantique sur un puits de potentiel et l'effet tunnel à travers une barrière offre de nouvelles perspectives sur le problème. Nous discutons aussi des effets de la gravité sur le paquet d'onde atomique et de ses conséquences pour les expériences avec des atomes en chute libre. Associée à la réflexion quantique sur un miroir horizontal, la gravité permet de maintenir des particules dans des états à longue durée de vie aux applications prometteuses pour la métrologie. En particulier, nous proposons un système pour améliorer la précision de GBAR en réduisant la dispersion en vitesse des atomes d'antihydrogène. / Collisions between ultracold atoms and material surfaces are characterized by the reflection of the atomic matter wave from the attractive Casimir-Polder potential. This quantum reflection is particularly relevant to experiments such as GBAR, which will determine the gravitational acceleration of a cold antihydrogen atom by timing its fall onto a detection plate. In this thesis, the Casimir-Polder potential is computed from the electromagnetic scattering properties of the atom and surface and it is found to depend notably on the dielectric response, thickness and density of the medium. We show that reflection on this potential is associated with a breakdown of the semiclassical approximation and that it is enhanced for slow atoms and weak potentials. Liouville transformations relate Schrödinger equations with different potential landscapes but identical scattering properties. We gain new insights on the problem of quantum reflection on a potential well by mapping it onto an equivalent problem of tunneling through a wall. We also discuss the effect of gravity on the atomic wavepacket and its implications for free fall experiments with atoms. When combined with quantum reflection from a horizontal mirror, gravity can be used to trap particles in long lived states with promising applications for metrology. In particular, we suggest a scheme to improve the precision of the GBAR experiment by reducing the velocity dispersion of the falling atoms.

Ce mémoire présente deux expériences réalisées à l'aide d'un miroir à atomes à onde évanescente. Le miroir utilise la force dipolaire due à l'interaction entre les atomes et une onde évanescente créée par réflexion totale interne d'un faisceau laser à l'intérieur d'un prisme. Ces deux expériences montrent que, lors de leur réflexion, les atomes constituent une sonde des champs proches de la surface du prisme. La première expérience a permis la mesure de la force de van der Waals entre un atome de rubidium dans l'état fondamental et une paroi diélectrique. Lors de la réflexion, les atomes s'approchent très près de la surface du diélectrique (~ 50 nm) et sont donc sensibles à la force attractive de van der Waals due à la présence de la paroi. L'expérience consiste à mesurer la force dipolaire nécessaire pour équilibrer la force de van der Waals. Elle montre également le rôle crucial de la force de van der Waals dans le fonctionnement du miroir à atomes, d'une part, la réduction d'un facteur trois de l'efficacité du miroir et d'autre part, la modification de la forme du potentiel réflecteur total. La seconde expérience décrit la diffraction d'atomes en incidence normale sur un miroir modulé spatialement, créé à l'aide d'une onde évanescente partiellement stationnaire. Ce processus de diffraction est lié à la modulation de phase de l'onde de de Broglie lors de la réflexion et apparaît pour une modulation très faible du potentiel. Elle est similaire à la diffraction de Raman-Nath en optique traditionnelle. L'étude des populations dans les différents ordres de diffraction en fonction de la profondeur de modulation confirme quantitativement ce processus scalaire de diffraction.