Nous présentons l'étude de la diffraction en incidence rasante d'atomes de rubidium froids sur une onde évanescente. Cette étude a été effectuée en incidence normale, en utilisant une onde évanescente périodique glissante pour simuler l'incidence oblique. En s'appuyant sur un modèle non scalaire utilisant des transitions Raman stimulées entre sous-niveaux Zeeman de l'atome, nous avons expliqué le signe et le nombre des ordres de diffraction observés. Les rôles primordiaux de la polarisation des composantes de l'onde évanescente et de l'état interne initial de l'atome ont également été montrés. De plus, l'étude de l'efficacité de diffraction a révélé une modulation que nous interprétons comme le résultat d'interférences entre plusieurs trajectoires atomiques dans l'onde évanescente. Les calculs utilisant le modèle semi-classique de Landau-Zener (à 2 ou 3 niveaux) ou la résolution numérique de l'équation de Schrödinger (à 2, 3 ou 5 niveaux) ont permis de confirmer la phase et la période des oscillations obtenues, et en particulier leur grande sensibilité à l'interaction de van der Waals entre l'atome et la paroi diélectrique. Nous présentons par ailleurs l'étude d'un miroir pour atomes paramagnétiques constitué d'un réseau de fils parcourus par un courant. La hauteur du potentiel réflecteur associé au champ magnétique du miroir a été mesurée en fonction de l'état interne de l'atome. De plus, en mesurant la distribution angulaire des atomes après rebond, le caractère non-spéculaire de la réflexion a été mis en évidence et interprété par une rugosité du miroir. L'influence de la parité du nombre de fils sur cette rugosité a été démontrée ainsi que celle de la direction du champ magnétique directeur. Cette rugosité a pu être réduite grâce à l'utilisation de fils de compensation.

Une onde évanescente lumineuse permet de réaliser un miroir à atomes, à condition que ceux-ci soient incidents avec une énergie cinétique suffisamment faible. Dans le régime de faible saturation, les atomes sont réfléchis de façon cohérente par un potentiel répulsif, le potentiel dipolaire. Nous caractérisons la réflexion d'un point de vue quantique, moyennant une solution analytique de l'équation de (\sc Schrödinger). La théorie de la diffraction d'atomes par une onde évanescente stationnaire est développée. Nous introduisons l'approximation du réseau de phase mince, valable dans le régime semi-classique, qui montre qu'en incidence normale la diffraction est efficace pour une faible modulation spatiale de l'intensité lumineuse. Pour interpréter la diffraction d'atomes en incidence rasante, il faut prendre en compte des transitions (\sc Raman) stimulées entre les sous-niveaux magnétiques. La réflexion atomique devient diffuse lorsque la rugosité de la surface du diélectrique, au-dessus de laquelle se propage l'onde évanescente, dépasse la longueur d'onde atomique incidente. La distribution angulaire des atomes diffusés donne accès à la densité spectrale de rugosité pour des échelles spatiales autour de la longueur d'onde lumineuse.