Dans cette thèse, nous étudions des rétroactions visant à stabiliser des systèmes quantiques en temps discret soumis à des mesures quantiques non-destructives (QND), ainsi que la stabilité des filtres quantiques à temps continu. Cette thèse comporte deux parties. Dans une première partie, nous généralisons les méthodes mathématiques sous-jacentes à une rétroaction quantique en temps discret testée expérimentalement au Laboratoire Kastler Brossel (LKB) de l'École Normale Supérieure (ENS) de Paris. Plus précisément,nous contribuons à un algorithme de contrôle qui a été utilisé lors de cette expérience récente de rétroaction quantique. L'expérience consiste en la préparation et la stabilisation à la demande d'états nombres de photons (états de Fock) d'un champ de micro-ondes au sein d'une cavité supraconductrice. Pour cela, nous concevons des filtres à temps-réel permettant d'estimer les états quantiques malgré des imperfections et des retards de mesure, et nous proposons une loi de rétroaction assurant la stabilisation d'un état cible prédéterminé. Cette rétroaction de stabilisation est obtenue grâce à des méthodes Lyapunov stochastique et elle repose sur un filtre estimant l'état quantique. Nous prouvons qu'une telle stratégie de contrôle se généralise à d'autres systèmes quantiques en temps discret soumis à des mesures QND. Dans une seconde partie, nous considérons une extension du résultat obtenu pour des filtres quantiques en temps discret au cas des filtres en temps continu. Dans ce but, nous démontrons la stabilité d'un filtre quantique associé à l'équation maîtresse stochastique usuelle découlant par un processus de Wiener. La stabilité signifie ici que la "distance"entre l'état physique et le filtre quantique associé décroit en moyenne. Cette partie étudie également la conception d'un filtre optimal en temps continu en présence d'imperfections de mesure. Pour ce faire, nous étendons la méthode utilisée précédemment pour construire les filtres quantiques en temps discret tolérants aux imperfections de mesure. Enfin,nous obtenons heuristiquement des filtres optimaux généraux en temps continu, dont la dynamique est décrite par des équations maîtresses stochastiques découlant à la fois par processus de Poisson et Wiener. Nous conjecturons que ces filtres optimaux sont stables.

Dans cette thèse, nous nous intéressons à la stabilisation par rétroaction des systèmes quantiques ouverts soumis à des mesures imparfaites en temps continu. Tout d'abord, nous introduisons la théorie du filtrage quantique pour décrire l'évolution temporelle de l'opérateur de densité conditionnelle représentant un état quantique en interaction avec un environnement. Ceci est décrit par une équation différentielle stochastique à valeurs matricielles. Deuxièmement, nous étudions le comportement asymptotique des trajectoires quantiques associées à des systèmes de spin à N niveaux pour des états initiaux donnés, pour les cas avec et sans loi de rétroaction. Dans le cas sans loi de rétroaction, nous montrons la propriété de réduction de l'état quantique à vitesse exponentielle. Ensuite, nous fournissons des conditions suffisantes sur la loi de contrôle assurant une convergence presque sûre vers un état pur prédéterminé correspondant à un vecteur propre de l'opérateur de mesure. Troisièmement, nous étudions le comportement asymptotique des trajectoires de systèmes ouverts à plusieurs qubits pour des états initiaux donnés. Dans le cas sans loi de rétroaction, nous montrons la réduction exponentielle de l'état quantique pour les systèmes N-qubit avec deux canaux quantiques. Dans le cas particulier des systèmes à deux qubits, nous donnons des conditions suffisantes sur la loi de contrôle assurant la convergence asymptotique vers un état cible de Bell avec un canal quantique, et la convergence exponentielle presque sûre vers un état cible de Bell avec deux canaux quantiques. Ensuite, nous étudions le comportement asymptotique des trajectoires des systèmes quantiques ouverts de spin-1/2 avec les états initiaux inconnus soumis à des mesures imparfaites en temps continu, et nous fournissons des conditions suffisantes au contrôleur pour garantir la convergence de l'état estimé vers l'état quantique réel lorsque le temps tend vers l'infini. En conclusion, nous discutons de manière heuristique du problème de stabilisation exponentielle des systèmes de spin à N niveaux avec les états initiaux inconnus et nous proposons des lois de rétroaction candidates afin de stabiliser le système de manière exponentielle. / In this thesis, we focus on the feedback stabilization of open quantum systems undergoing imperfect continuous-time measurements. First, we introduce the quantum filtering theory to obtain the time evolution of the conditional density operator representing a quantum state in interaction with an environment. This is described by a matrix-valued stochastic differential equation. Second, we study the asymptotic behavior of quantum trajectories associated with N-level quantum spin systems for given initial states, for the cases with and without feedback law. For the case without feedback, we show the exponential quantum state reduction. Then, we provide sufficient conditions on the feedback control law ensuring almost sure exponential convergence to a predetermined pure state corresponding to an eigenvector of the measurement operator. Third, we study the asymptotic behavior of trajectories of open multi-qubit systems for given initial states. For the case without feedback, we show the exponential quantum state reduction for N-qubit systems with two quantum channels. Then, we focus on the two-qubit systems, and provide sufficient conditions on the feedback control law ensuring asymptotic convergence to a target Bell state with one quantum channel, and almost sure exponential convergence to a target Bell state with two quantum channels. Next, we investigate the asymptotic behavior of trajectories of open quantum spin-1/2 systems with unknown initial states undergoing imperfect continuous-time measurements, and provide sufficient conditions on the controller to guarantee the convergence of the estimated state towards the actual quantum state when time goes to infinity. Finally, we discuss heuristically the exponential stabilization problem for N-level quantum spin systems with unknown initial states and propose candidate feedback laws to stabilize exponentially the system.

Dans cette thèse, nous étudions des rétroactions visant à stabiliser des systèmes quantiques en temps discret soumis à des mesures quantiques non-destructives (QND), ainsi que la stabilité des filtres quantiques à temps continu. Cette thèse comporte deux parties. Dans une première partie, nous généralisons les méthodes mathématiques sous-jacentes à une rétroaction quantique en temps discret testée expérimentalement au Laboratoire Kastler Brossel (LKB) de l'École Normale Supérieure (ENS) de Paris. Plus précisément,nous contribuons à un algorithme de contrôle qui a été utilisé lors de cette expérience récente de rétroaction quantique. L'expérience consiste en la préparation et la stabilisation à la demande d'états nombres de photons (états de Fock) d'un champ de micro-ondes au sein d'une cavité supraconductrice. Pour cela, nous concevons des filtres à temps-réel permettant d'estimer les états quantiques malgré des imperfections et des retards de mesure, et nous proposons une loi de rétroaction assurant la stabilisation d'un état cible prédéterminé. Cette rétroaction de stabilisation est obtenue grâce à des méthodes Lyapunov stochastique et elle repose sur un filtre estimant l'état quantique. Nous prouvons qu'une telle stratégie de contrôle se généralise à d'autres systèmes quantiques en temps discret soumis à des mesures QND. Dans une seconde partie, nous considérons une extension du résultat obtenu pour des filtres quantiques en temps discret au cas des filtres en temps continu. Dans ce but, nous démontrons la stabilité d'un filtre quantique associé à l'équation maîtresse stochastique usuelle découlant par un processus de Wiener. La stabilité signifie ici que la “distance”entre l'état physique et le filtre quantique associé décroit en moyenne. Cette partie étudie également la conception d'un filtre optimal en temps continu en présence d'imperfections de mesure. Pour ce faire, nous étendons la méthode utilisée précédemment pour construire les filtres quantiques en temps discret tolérants aux imperfections de mesure. Enfin,nous obtenons heuristiquement des filtres optimaux généraux en temps continu, dont la dynamique est décrite par des équations maîtresses stochastiques découlant à la fois par processus de Poisson et Wiener. Nous conjecturons que ces filtres optimaux sont stables. / In this thesis, we study measurement-based feedbacks stabilizing discrete-time quantum systems subject to quantum non-demolition (QND) measurements and stability of continuous-time quantum filters. This thesis contains two parts. In the first part, we generalize the mathematical methods underlying a discrete-time quantum feedback experimentally tested in Laboratoire Kastler Brossel (LKB) at Ecole Normale Supérieure (ENS) de Paris. In fact, we contribute to a control algorithm which has been used in this recent quantum feedback experiment. This experiment prepares and stabilizes on demand photon-number states (Fock states) of a microwave field in a superconducting cavity. We design real-time filters allowing estimation of the state despite measurement imperfections and delays, and we propose a feedback law which ensures the stabilization of a predetermined target state. This stabilizing feedback is obtained by stochastic Lyapunov techniques and depends on a filter estimating the quantum state. We prove that such control strategy extends to other discrete-time quantum systems under QND measurements. The second part considers an extension, to continuous-time, of a stability result for discrete-time quantum filters. Indeed, we prove the stability of a quantum filter associated to usual stochastic master equation driven by a Wiener process. This stability means that a “distance” between the physical state and its associated quantum filter decreases in average. Another subject that we study in this part is related to the design of a continuous-time optimal filter, in the presence of measurement imperfections. To this aim, we extend a construction method for discrete-time quantum filters with measurement imperfections. Finally, we obtain heuristically generalized continuous-time optimal filters whose dynamics are given by stochastic master equations driven by both Poisson and Wiener processes. We conjecture the stability of such optimal filters.