Les simulations des systèmes atomiques ou moléculaires en interaction avec un champ électromagnétique se heurtent à un problème majeur. Pour décrire le système photodynamique, il est nécessaire d'utiliser une très grande base, ce qui est coûteux en temps de calculs et en mémoire. Pour résoudre ce problème, nous sommes amenés à chercher des modélisations ne faisant intervenir que des sous-espaces vectoriels de faible dimension, appelés espaces actifs. Comme la dépendance temporelle d'un système photodynamique se fait à travers des paramètres à évolution lente, c'est une théorie adiabatique qui définit cet espace. L'application d'un théorème adiabatique nous apprend que le système ne peut pas sortir d'un sous-espace spectral associé à des valeurs propres isolées. La fonction d'onde est alors décrite par un relèvement horizontal qui prend place dans le fibré principal de la phase de Berry. Celle-ci ne commutant en général pas avec la phase dynamique, nous proposons une description fondée sur un fibré composite, modélisant simultanément phases géométrique et dynamique. Nous proposons une méthode de simulation de la photodynamique associée à la description géométrique et nous utilisons la notion de monopôles magnétiques virtuels pour obtenir des outils d'analyse de la dynamique. Nous étudions ensuite la théorie des opérateurs d'onde temporels, théorie fournissant une méthode d'Hamiltonien effectif. Pour coupler cette théorie avec le modèle adiabatique, nous étudions la compatibilité des deux méthodes en démontrant un théorème adiabatique pour les opérateurs d'onde. Nous nous sommes intéressés à des systèmes dynamiques simples, atomes à 2 ou 3 niveaux et molécule H2+.

Une transition entre deux niveaux voisins d'un atome de Rydberg et une cavité micro-onde de très haut facteur de qualité constituent un excellent outil pour la recherche sur les interactions matière- rayonnement au niveau le plus fondamental. La simplicité du système (deux niveaux atomiques couplés à un seul mode du champ) permet un traitement analytique complet de la plupart des phénomènes. Dans ce mémoire nous étudions les effets dispersifs de l'interaction non-résonnante entre atomes et cavité. Nous avons mesuré la variation linéaire des déplacements des niveaux d'énergie atomiques avec le nombre moyen de photons dans la cavité. Des déplacements dus à une intensité moyenne inférieure au photon unique ont été observés. En l'absence de champ injecté, il a été possible de mesurer le déplacement résiduel d'un des deux niveaux de la transition atomique: un déplacement de Lamb dû à un seul mode du champ. Ces déplacements d'énergie sont mesurés de façon sensible par une méthode interférométrique: la technique des champs oscillants séparés de Ramsey. Des expériences futures, dans une situation de très faible relaxation du champ, sont proposées. Le caractère quantique du champ sera alors dominant et il sera possible de réaliser une mesure nondestructive du nombre de photons: le caractère non-résonnant de l'interaction assure que les atomes ne peuvent ni absorber ni émettre des photons dans la cavité. Les expériences réalisées démontrent la sensibilité de l'appareil et ouvrent la voie à ces mesures non-destructives ainsi qu'à l'étude de systèmes "mésoscopiques" (états "chat de Schrödinger" du champ), à la "frontière" entre les mondes classique et quantique.

Dans le domaine micro-onde, deux niveaux de Rydberg voisins d'un atome alcalin, d'une part, et le champ électromagnétique confiné dans une cavité supraconductrice de très haute surtension, d'autre part, échangent de manière cohérente un quantum d'énergie lorsqu'ils sont à résonance. Une telle situation est conceptuellement la plus simple dans laquelle le couplage matière-rayonnement se manifeste à l'échelle élémentaire. Ce mémoire présente une mise en évidence expérimentale de cette interaction, dans une situation où l'évolution cohérente atome-champ domine les processus dissipatifs. Le couplage atome-champ est d'abord décrit théoriquement (dans un point de vue classique puis quantique), ainsi que des expériences permettant de le mettre en évidence. Ensuite, une expérience de spectroscopie des premiers états excités du système {atome + cavité} est exposée. Elle a permis d'accéder à la fréquence avec laquelle un échantillon de trois atomes et un mode résonnant du champ échangent leur énergie. Enfin, un nouveau montage expérimental est présenté. Il possède une résolution spectrale très élevée grâce à l'utilisation de la technique du champ oscillant séparé de Ramsey, et doit permettre l'observation, dans le domaine micro-onde, du couplage élémentaire entre un seul atome à deux niveaux et un seul mode du champ électromagnétique, cette observation pouvant se faire aussi bien spectralement que temporellement. La réalisation d'un montage expérimental aussi sensible, et dans lequel les amortissements de l'atome-et de la cavité sont rendus négligeables, ouvre également la voie à des tests subtils de la Mécanique Quantique (mesures sans démolition, chats de Schrödinger, etc.) mettant en jeu une interaction atome-champ non résonnante.

L'étude de l'interaction lumière matière avec des ensembles atomiques est un domaine de recherche actif. Ce type de système permet des études fondamentales sur la mesure dans le contexte de variables continues, l'intrication collective, et les simulations quantiques. Ce domaine de recherche est également intéressant dans le contexte de la métrologie quantique, la communication quantique et l'informatique quantique. Dans cette thèse, deux aspects complémentaires de l'intéraction lumière matière avec des ensembles atomiques ont été étudiés avec des ions piégés et des atomes neutres refroidis par laser. L'expérience basée sur les ions piégés a pour but d'évaluer la possibilité d'utiliser de grands nuages d'ions afin d'obtenir une mémoire quantique possédant un long temps de cohérence. La forte répulsion de Coulomb entre les ions les place dans un état cristallin permettant de réduire les phénomènes de décohérence. L'interaction entre la lumière et la matière dans un grand cristal de Coulomb a été mesuré et les limitations d'un tel système sont discutées. L'expérience atomes froids c'est concentrée sur l'utilisation de mesures non destructives pour détecter les états non gaussiens atomiques. Ces états sont une ressource importante pour nombre de protocoles quantiques en régime de variables continues. Cette expérience est semblable aux expériences de communication quantique qui sont actuellement menées. Le travail présenté dans cette thèse se concentre sur la détection des états non gaussiens dans des ensembles atomiques en utilisant les cumulants, et en particulier le bruit associé à la mesure des cumulants.