Ce manuscrit regroupe les résultats obtenus sur deux expériences d'optique atomique. La première partie du mémoire est consacrée à l'étude de la rugosité d'un miroir atomique. Le potentiel lumineux d'une onde évanescente à la surface d'un prisme est utilisé pour réfléchir les atomes tombant d'un piège magnéto-optique. Nous présentons une méthode de mesure interférométrique du maintien de la cohérence de l'onde atomique incidente lors de sa réflexion sur le miroir. La deuxième partie du manuscrit s'intéresse à une expérience de puce atomique. Le champ magnétique rayonné par les fils microfabriqués qui constituent la puce nous permet de piéger et de manipuler des atomes froids. Nous avons obtenu un condensat de Bose-Einstein dans le piège créé par la puce. Ce piège s'avère être rugueux, nous mesurons et déterminons l'origine de cette rugosité. Enfin nous envisageons la réalisation d'éléments d'optique atomique intégrée, tel qu'un interféromètre, sur une puce atomique.

Dans ce mémoire, nous présentons une étude à haute résolution de la spécularité d'un miroir atomique à onde évanescente. Pour cette étude, nous avons utilisé des transitions Raman sélectives en vitesse. Ces transitions sont doublement exploitées. On réalise d'une part, à l'aide de ces transitions, une sélection en vitesse sur le nuage issu d'un piège magnéto-optique. Cette sélection permet de collimater spatialement l'onde atomique incidente sur le miroir afin d'avoir une bonne résolution dans l'étude de la spécularité. A l'aide des transitions Raman, on sonde finement d'autre part la distribution en vitesse des atomes après le rebond. La mise en place expérimentale de ces transitions est d'abord décrite. On utilise des impulsions de type Blackman. Avec ce dispositif,une mesure de la spécularité d'un miroir atomique à onde évanescente est ensuite réalisée. Le rebond observé est compatible avec une réflexion spéculaire, à condition de choisir une onde évanescente suffisamment désaccordée par rapport à la transition atomique. Nous avons donné une limite supérieure de l'incertitude sur la mesure de la rugosité. Nous présentons également la mise en place d'une détection optique d'atomes froids induisant peu d'émission spontanée sur les atomes. Cette détection consiste à mesurer la phase induite par un échantillon d'atomes sur un faisceau laser en utilisant les techniques de spectroscopie par modulation de phase. Au cours de la détection, 80% des atomes n'absorbent aucun photon.

Nous présentons l'étude de la diffraction en incidence rasante d'atomes de rubidium froids sur une onde évanescente. Cette étude a été effectuée en incidence normale, en utilisant une onde évanescente périodique glissante pour simuler l'incidence oblique. En s'appuyant sur un modèle non scalaire utilisant des transitions Raman stimulées entre sous-niveaux Zeeman de l'atome, nous avons expliqué le signe et le nombre des ordres de diffraction observés. Les rôles primordiaux de la polarisation des composantes de l'onde évanescente et de l'état interne initial de l'atome ont également été montrés. De plus, l'étude de l'efficacité de diffraction a révélé une modulation que nous interprétons comme le résultat d'interférences entre plusieurs trajectoires atomiques dans l'onde évanescente. Les calculs utilisant le modèle semi-classique de Landau-Zener (à 2 ou 3 niveaux) ou la résolution numérique de l'équation de Schrödinger (à 2, 3 ou 5 niveaux) ont permis de confirmer la phase et la période des oscillations obtenues, et en particulier leur grande sensibilité à l'interaction de van der Waals entre l'atome et la paroi diélectrique. Nous présentons par ailleurs l'étude d'un miroir pour atomes paramagnétiques constitué d'un réseau de fils parcourus par un courant. La hauteur du potentiel réflecteur associé au champ magnétique du miroir a été mesurée en fonction de l'état interne de l'atome. De plus, en mesurant la distribution angulaire des atomes après rebond, le caractère non-spéculaire de la réflexion a été mis en évidence et interprété par une rugosité du miroir. L'influence de la parité du nombre de fils sur cette rugosité a été démontrée ainsi que celle de la direction du champ magnétique directeur. Cette rugosité a pu être réduite grâce à l'utilisation de fils de compensation.