Cette thèse s'intéresse au problème de préparation et de stabilisation de systèmes quantiques. Nous considérons des modèles correspondant à des expériences actuelles en électrodynamique quantique en cavité, circuits Josephson, et de contrôle quantique cohérent par laser femtoseconde. Nous posons les problèmes dans le contexte de la théorie du contrôle et nous proposons des lois de commande qui préparent ou stabilisent des états cibles. En particulier, nous nous intéressons à des états cibles qui n'ont pas d'analogue classique: des états superpositions et intriqués. De plus, nous proposons une commande pour la stabilisation d'un sous-espace de l'espace des états, contribuant ainsi au domaine de la correction d'erreur quantique. Ces résultats ont été obtenu en étroite collaboration avec des expérimentateurs. Des mesures expérimentales préliminaires sont en bon accord avec certaines prédictions théoriques de cette thèse.

L'utilisation de boucles de rétroaction est au cœur de nombreux systèmes de contrôle classiques. Un contrôleur compare le signal mesuré par une sonde à la valeur de consigne. Il dirige alors un actionneur pour stabiliser le signal autour de la valeur ciblée. Étendre ces concepts au monde quantique se heurte à une difficulté fondamentale : le processus de mesure modifie inévitablement par une action en retour le système à contrôler. Dans ce mémoire, nous présentons la première réalisation d'une boucle de rétroaction quantique utilisée en continu. Le système contrôlé est un mode du champ électromagnétique piégé dans une cavité Fabry-Pérot micro-onde de très haute finesse. Des atomes de Rydberg circulaires réalisent par une succession de mesures dites faibles une mesure quantique non-destructive du nombre de photons dans le mode. Étant donnés les résultats de ces mesures, et connaissant toutes les imperfections expérimentales du système, un ordinateur de contrôle estime en temps réel la matrice densité du champ piégé dont il déduit l'amplitude de champs micro-ondes classiques à injecter permettant de stabiliser l'état du champ autour d'un état cible. Dans ce mémoire, nous montrons comment nous avons été capables de préparer sur demande et de stabiliser les états de Fock du champ contenant de 1 à 4 photons.

Ce mémoire de thèse étudie diverses méthodes d'amélioration des interféromètres atomiques. Dans la première partie du manuscrit, nous analysons comment une détection non-destructive, au sens où elle préserve la cohérence entre les états internes de l'ensemble atomique, permet d'améliorer la sensibilité des interféromètres. Nous montrons tout d'abord, grâce à une étude théorique, que la projection du vecteur d'onde engendrée par la mesure permet de préparer des états comprimés de spin. Nous présentons ensuite la mise en œuvre de cette méthode à l'aide d'une détection reposant sur la spectroscopie par modulation de fréquence. Finalement, nous exposons quelques premières applications de cette détection non-destructive, plus précisément nous présentons la réalisation du rétroaction quantique qui protège l'état atomique contre la décohérence induite par un basculement du spin collectif, nous montrons aussi comment réaliser une boucle à verrouillage de phase où les atomes servent de référence de phase. Dans la seconde partie du manuscrit, nous présentons la réalisation tout-optique d'un condensat de Bose-Einstein dans une cavité de haute finesse, exploitant les technologies développées pour les télécommunications optiques. Nous commençons par une analyse du résonateur et des méthodes d'asservissement, nous introduisons notamment une méthode d'asservissement originale exploitant la modulation serrodyne. Enfin, nous montrons comment un condensat est obtenu par évaporation dans le mode optique de la cavité.

Cette thèse s'intéresse au problème de préparation et de stabilisation de systèmes quantiques. Nous considérons des modèles correspondant à des expériences actuelles en électrodynamique quantique en cavité, circuits Josephson, et de contrôle quantique cohérent par laser femtoseconde. Nous posons les problèmes dans le contexte de la théorie du contrôle et nous proposons des lois de commande qui préparent ou stabilisent des états cibles. En particulier, nous nous intéressons à des états cibles qui n'ont pas d'analogue classique: des états superpositions et intriqués. De plus, nous proposons une commande pour la stabilisation d'un sous-espace de l'espace des états, contribuant ainsi au domaine de la correction d'erreur quantique. Ces résultats ont été obtenu en étroite collaboration avec des expérimentateurs. Des mesures expérimentales préliminaires sont en bon accord avec certaines prédictions théoriques de cette thèse. / This thesis tackles the problem of preparing and stabilizing highly non classical states of quantum systems. We consider specific models based on current experiments in cavity quantum electrodynamics, Josephson circuits and ultra-fast coherent quantum control. The problem is posed in the framework of control theory where we search for a control law which prepares or stabilizes a desired target state.Of particular interest to us are target states with no classical analog: superposition and entangled states. More generally, we propose a scheme for the stabilization of a manifold of quantum states, thus introducing some new ideas for autonomous quantum error correction in a cavity. Close collaborations with experimentalists helped us in the design of control protocols which are readily employable in the laboratory. Experimental demonstrations are currently being implemented and preliminary measurements are in good agreement with the theory introduced in this thesis.

Ce mémoire de thèse étudie diverses méthodes d'amélioration des interféromètres atomiques. Dans la première partie du manuscrit, nous analysons comment une détection non-destructive, au sens où elle préserve la cohérence entre les états internes de l'ensemble atomique, permet d'améliorer la sensibilité des interféromètres. Nous montrons tout d'abord, grâce à une étude théorique, que la projection du vecteur d'onde engendrée par la mesure permet de préparer des états comprimés de spin. Nous présentons ensuite la mise en œuvre de cette méthode à l'aide d'une détection reposant sur la spectroscopie par modulation de fréquence. Finalement, nous exposons quelques premières applications de cette détection non-destructive, plus précisément nous présentons la réalisation du rétroaction quantique qui protège l'état atomique contre la décohérence induite par un basculement du spin collectif, nous montrons aussi comment réaliser une boucle à verrouillage de phase où les atomes servent de référence de phase. Dans la seconde partie du manuscrit, nous présentons la réalisation tout-optique d'un condensat de Bose-Einstein dans une cavité de haute finesse, exploitant les technologies développées pour les télécommunications optiques. Nous commençons par une analyse du résonateur et des méthodes d'asservissement, nous introduisons notamment une méthode d'asservissement originale exploitant la modulation serrodyne. Enfin, nous montrons comment un condensat est obtenu par évaporation dans le mode optique de la cavité. / In this thesis, we study several methods to improve atom interferometers. In the first part of the manuscript, we analyze how a nondestructive detection, that preserves the coherence between the internal degrees of freedom in an atomic ensemble, can be used to increase the sensitivity of interferometers. We first theoretically show how the projection of the wave-function induced by the measurement prepares spin-squeezed states. We then present the implementation of this method with a detection based on the frequency modulation spectroscopy. Finally, some first applications are described, more explicitly we show how to implement a quantum feedback that preserve the atomic state against the decoherence induced by a random collective flip, we also introduce a phase-locked loop where the atomic sample is used as the phase reference. In the second part of the manuscript, we present the all-optical realization of a Bose-Einstein condensate in a high-finesse cavity using a laser system based on standard telecoms technologies. We first describe the resonator and the frequency lock of the laser on the resonance, in particular, we introduce a new stabilization method based of the serrodyne modulation. Finally, we show how the condensate is obtained from the evaporation in the cavity mode.

La rétroaction quantique est un outil prometteur pour la réparation et la protection d'un état quantique. Elle entraîne un système quantique vers un état cible par l'action répétée d'une boucle de sonde-contrôlleur-actionneur. Néanmoins, sa réalisation expérimentale est très difficile, car elle doit surmonter une difficulté fondamentale: le processus de mesure modifie inévitablement et de façon aléatoire par une action en retour le système à contrôler. Nous avons réalisé un protocole de rétroaction quantique continue dans le cadre de l'électrodynamique quantique en cavité. Le système à contrôler est un mode de champ électromagnétique piégé dans une cavité Fabry-Pérot micro-onde de très haute finesse. Des atomes de Rydberg circulaires interagissant avec le champ dispersivement servent de sondes. Ils effectuent des mesures quantiques non destructives du nombre de photons. Étant donnés les résultats de ces mesures, et connaissant toutes les imperfections expérimentales, un ordinateur de contrôle estime en temps réel l'état du champ. Il commande ensuite la préparation des atomes de Rydberg circulaires à résonance pour absorber ou émettre des photons dans le but de stabiliser le champ autour de l'états de Fock cible. De cette façon, nous avons réussi à préparer à la demande et à protéger des états de Fock contenant 1 à 7 photons.