Dans cette thèse, nous étudions trois classes de modèles utilisés dans la littérature pour représenter les systèmes quantiques: 1 -L'équation de Schrödinger où le contrôle agit sur le système de façon bilinéaire; 2 -L'équation de Lindblad; 3 -Les filtres quantiques (modèles stochastiques). Les contributions de la thèse concernant l'équation de Schrödinger se répartissent en trois parties. Dans le premier chapitre, nous étudions la contrôlabilité d'un tel système. Le cas de dimension finie étant déjà bien exploré, nous traitons l'exemple d'un oscillateur harmonique quantique comme un cas typique des problèmes de dimension infinie. Parmi les résultats obtenus nous retrouvons transposée dans les termes de la théorie du contrôle, l'assertion bien connue des physiciens: ``les sources classiques de contrôle ne peuvent générer que de la lumière classique''. La question de la génération des trajectoires est abordée dans le Chapitre 2. Le contrôle en boucle ouverte du système est alors traité à l'aide des méthodes de stabilisation de Lyapounov. Ces méthodes de contrôle par feedback sont utilisées en simulation et le contrôle retrouvé est ensuite inséré en boucle ouverte dans le système physique. La convergence est étudiée dans différentes configurations et des exemples numériques tirés de la chimie quantique sont testés. Enfin dans le chapitre 3, nous étudions le problème inverse d'identification de l'Hamiltonien. Malgré le grand intérêt pratique que présente ce problème, peu de contributions ont été apportées jusqu'à maintenant. Nous étudions d'abord le problème mathématique d'identifiabilité. Une première réponse positive à cette question est apportée. Ensuite nous considérons le problème d'identification. A l'aide de méthodes numériques d'optimisation, nous proposons une première approche qui permet de résoudre ce problème inverse. Au sujet de l'équation de Lindblad, la contribution de cette thése se résume à la réduction du modèle lorsque certaines hypothèses sur les durées de vie atomiques sont vérifiées. Cette étude peut être considérée comme une première étape vers le contrôle en boucle fermée d'un ensemble statistique de systèmes quantiques. Finalement dans le chapitre 5, nous considérons les filtres quantiques. Certaines méthodes issues de la théorie des probabilités ainsi que les techniques de Lyapounov stochastiques nous permettent d'étudier la stabilisation globale de ces modéles.

La communauté scientifique a réussi ces dernières années à bâtir des systèmes quantiques simples sur lesquels des séries de mesures sont acquises successivement le long de trajectoires quantiques et sans réinitialisation de l’état (opérateur densité) par l’expérimentateur.L’objet de cette thèse est d’adapter les méthodes de tomographie quantique (estimation d’état et de paramètres) à ce cadre pour prendre en compte la rétroaction de la mesure sur l’état, la décohérence et les imperfections expérimentales.Durant le processus de mesure, l’évolution de l’état quantique est alors gouvernée par un processus de Markov à états cachés (filtres quantiques de Belavkin). Pour des mesuresen temps continu, nous commençons par montrer comment discrétiser l’équation maîtresse stochastique tout en préservant la positivité et la trace de l’état quantique, et ainsi sera mener aux filtres quantiques en temps discret. Ensuite, nous développons, à partir de trajectoires de mesures en temps discret, des techniques d’estimation par maximum de vraisemblance pour l’état initial et les paramètres. Cette estimation est accompagnée de son intervalle de confiance. Lorsqu’elle concerne des valeurs de paramètres (tomographie de processus quantique), nous donnons un résultat de robustesse grâce au formalisme des filtres particulaires et nous proposons une méthode de maximisation fondée sur le calcul du gradient par l’adjoint et bien adaptée au cas multiparamétrique. Lorsque l’estimation porte sur l’état initial (tomographie d’état quantique), nous donnons une formulation explicite de la fonction de vraisemblance grâce aux états adjoints, montrons que son logarithme est une fonction concave de l’état initial et élaborons une expression intrinsèque de la variance grâce à des développements asymptotiques de moyennes bayésiennes et reposant sur la géométrie de l’espace des opérateurs densité.Ces méthodes d’estimation ont été appliquées et validées expérimentalement pour deux types de mesures quantiques : des mesures en temps discret non destructives de photons dans le groupe d’électrodynamique quantique en cavité du LKB au Collège de France, des mesures diffusives de la fluorescence d’un qubit supraconducteur dans le groupe d’électronique quantique du LPA à l’ENS Paris. / In recent years, the scientifical community has succeeded in experimentally building simple quantum systems on which series of measurements are successively acquired along quantum trajectories, without any reinitialization of their state (density operator) by the physicist. The subject of this thesis is to adapt the quantum tomography techniques (state and parameters estimation) to this frame, in order to take into account the feedback of the measurement on the state, the decoherence and experimental imperfections.During the measurement process, the evolution of the quantum state is then governed by a hidden-state Markov process (Belavkin quantum filters). Concerning continuous-time measurements, we begin by showing how to discretize the stochastic master equation, while preserving the positivity and the trace of the quantum state, and so reducing to discrete-time quantum filters. Then, we develop,starting from trajectories of discrete-time measurements, some maximum-likelihood estimation techniques for initial state and parameters. This estimation is coupled with its confidence interval. When it concerns the value of parameters (quantum process tomography), we provide a result of robustness using the formalism of particular filters, and we propose a maximization technique based on the calculus of gradient by adjoint method, which is well adapted to the multi-parametric case. When the estimation concerns the initial state (quantum state tomography), we give an explicit formulation of the likelihood function thanks to the adjoint states, show that its logarithm is a concave function of the initial state and build an intrinsic expression of the variance, obtained from asymptotic developments of Bayesian means, lying on the geometry of the space of density operators.These estimation techniques have been applied and experimentally validated for two types of quantum measurements: discrete-time non-destructive measurements of photons in the group of cavity quantum electro-dynamics of LKB at Collège de France, diffusive measurements of the fluorescence of a supra-conducting qubit in the quantum electronics group of LPA at ENS Paris.