Le travail théorique présenté dans ce manuscrit étudie deux aspects complémentaires de l'optique atomique cohérente. <br /><br /> Un premier volet étudie les perspectives offertes par les sources atomiques cohérentes par la conception de deux expériences, impliquant la mise en lévitation d'un échantillon atomique froid par une série périodique d'impulsions lumineuses, et pour lesquelles des nuages cohérents sont particulièrement adaptés. Ces systèmes s'apparentent à des interféromètres atomiques à ondes multiples. Ils présentent l'originalité de fusionner les dispositifs de piégeage et d'interrogation des atomes usuellement distincts. Afin d'obtenir un confinement transverse du nuage, un nouveau type de lentille atomique a été conçu, qui repose sur l'interaction d'une onde atomique avec un faisceau laser de front d'onde sphérique. La sensibilité du piégeage de l'échantillon par rapport à l'accélération gravitationnelle ou à la fréquence des impulsions lumineuses est exploitée pour effectuer la mesure. Ces systèmes constituent des résonateurs à ondes atomiques dans l'espace des impulsions, ce qui apparaît comme un concept nouveau en optique atomique.<br /><br />Un second volet développe de nouveaux outils théoriques – inspirés pour la plupart de l'optique - permettant d'appréhender la propagation de sources atomiques. Une méthode de propagation dans l'espace des phases, fondée sur l'évaluation de moments d'un nuage atomique, a été développée et appliquée à la caractérisation de la dynamique des modes de basse énergie d'un condensat de Bose-Einstein. Une extension de la méthode ABCD de propagation des ondes atomiques incluant de façon perturbative les effets non-linéaires des interactions atomiques a été développée. Un traitement de l'extraction d'un laser à atomes permettant de caractériser les effets de caustique dans le faisceau émis, réalisé en collaboration avec le groupe d'optique atomique de l'Institut d'Optique, est exposé. Enfin, un facteur de qualité adapté à la caractérisation de faisceaux à ondes de matière dilués dans un régime général de propagation a été proposé.

Le présent mémoire porte sur l'étude des interféromètres à ondes de matière. Il comporte des développements théoriques et des parties plus pratiques (modélisations). En matière de modélisation, le résultat principal est l'obtention d'une expression analytique très générale du signal de franges, qui rend notamment compte de l'action simultanée de tous les champs inertiels et gravitationnels dont le potentiel représentatif est de degré au plus deux en position et impulsion (rotations, accélérations, gradients d'accélération, ondes gravitationnelles...), ainsi que de la structuration dispersive due aux séparatrices atomiques en présence de tels champs extérieurs (sélectivité en vitesse, dispersion anormale et effet Borrmann). Au plan théorique, ce mémoire développe de nouveaux outils d'optique atomique, concernant aussi bien la propagation d'ondes matérielles dans des champs inertiels et gravitationnels quelconques (généralisation du formalisme ABCD par la théorie des opérateurs intégrales premières), que l'étude des séparatrices laser en présence de certains de ces champs (schéma ttt généralisé, modélisations ttt champs forts , effet Borrmann généralisé...), ou encore la mise en évidence d'invariants symplectiques utiles à l'interprétation et à la simplification de l'expression des déphasages (notion de chemins homologues et théorème des quatre points finaux).