Dans cette thèse, nous démontrons la création et la caractérisation d'états intriqués dans un ensemble atomique à l'aide d'un résonateur optique de haute finesse. Notre dis- positif expérimental consiste en une cavité fibrée placée en dessous d'une puce à atomes. Les atomes sont tous piégés dans un seul ventre du piège dipolaire créé dans la cavité. Ainsi, ils sont également couplés au mode lumineux de la cavité. Nous présentons une méthode basée sur une mesure collective et non-destructive et une évolution conditionnelle qui sert à créer des états intriqués et symétriques puis à les analyser, avec la résolution d'une particule unique, en mesurant d'une manière directe leur fonction Husimi Q. En utilisant cette méthode, nous créons et caractérisons des états W contenant jusqu'à 41 atomes. Nous reconstituons la partie symétrique de la matrice densité à partir des données expérimentales de la fonction Husimi Q en utilisant différentes méthodes de reconstruction quantique et nous obtenons une fidélité de 0.42. Par ailleurs, nous avons établi un critère d'intrication qui consiste à comparer seulement deux populations de la matrice densité. Nous l'utilisons pour déterminer le degré d'intrication présent dans les états expérimentalement créés et nous trouvons que l'état de fidélité maximale contient au moins 13 particules intriquées. Pour finir, nous présentons des résultats préliminaires concernant des expériences de dénombrement d'atomes dans la cavité en régime de mesures non-destructives ainsi que des expériences de création d'états intriqués en se servant de la dynamique Zénon quantique. / In this thesis, we demonstrate the creation and characterization of multiparticle entangled states of neutral atoms with the help of a high finesse cavity. Our experimental setup consists of a fibre-based high finesse cavity above the surface of an atom chip. It allows us to prepare an ensemble of 87Rb atoms with well-defined atom number. The atoms are trapped in a single antinode of an intracavity standing wave dipole trap and are therefore all equally coupled to the cavity mode. We present a scheme based on a collective, quantum non-destructive (QND) measurement and conditional evolution to create symmetric entangled states and to analyze them at the single-particle level by directly measuring their Husimi Q function. We use this method to create and characterize W states of up to 41 atoms. From the tomography curve of the Q function, we reconstruct the symmetric part of the density matrix via different reconstruction techniques and obtain a fidelity of 0.42. Furthermore, we have devised an entanglement criterion which only relies on comparing two populations of the density matrix. We use it to infer the degree of multiparticle entanglement in our experimentally created states and find that the state with highest fidelity contains at least 13 entangled particles. In addition, we show preliminary results on experiments to count the atom number inside a cavity in the QND regime and to create entangled states via quantum Zeno dynamics.

Nous démontrons la création d'états intriqués dans un ensemble d’atomes neutres fondée sur la dynamique Zénon quantique (QZD), à l'aide d'un microrésonateur optique. Notre dispositif expérimental combine une puce à atomes avec une cavité Fabry-Perot fibrée (FFP) et nous permet de piéger un ensemble d’atomes de Rb87 dans un seul ventre d'un piège dipolaire créé dans la cavité. Les atomes sont couplés fortement et identiquement au mode lumineux de la cavité, ce qui permet une mesure non-destructive de leur état collectif.Nous réalisons la QZD en modifiant, par des mesures fréquentes, la dynamique induite par radiation micro-ondes. Nous démontrons que la QZD créé des états intriqués multiparticules de façon déterministe et rapide. Nous caractérisons ces états à l'aide de mesures de la fonction de Husimi Q, donnant accès à la partie symétrique de la matrice densité. Nous étudions l’évolution temporelle d'états impliquant un minimum de 3 à 11 atomes intriqués, qui présentent une fidélité par rapport à l'état W à 36 atomes atteignant 0.37. Nous étudions l'influence de la force de la mesure et des imperfections expérimentales et nous montrons que notre système est bien décrit par des modèles simples sans paramètres ajustables.Nous présentons aussi un travail réalisé en vue de l’amélioration des cavités FFP. Nous discutons notamment la limitation due à l'écart en fréquence des modes propres de polarisation dans des cavités formées par deux fibres optiques microfabriquées avec un laser CO2. Nous démontrons que cet effet dépend de la symétrie des structures microfabriquées et qu'il peut être contrôlé tant au niveau de la fabrication que pendant l'assemblage de la cavité. / In this thesis, we show how an optical microcavity setup can create multiparticle entanglement in an ensemble of neutral atoms by means of quantum Zeno dynamics (QZD).Our setup combines an atom chip with a fibre Fabry-Perot (FFP) resonator and allows us to load an ensemble of Rb87 atoms into a single node of an intracavity dipole trap, coupling the atoms strongly and identically to the cavity light field which enables us to perform a quantum non-destructive measurement of their collective state.We realise QZD by modifying the dynamics of the collective state (encoded in atomic hyperfine states addressed with MW radiation) by means of frequent cavity measurements at optical frequency. This QZD is shown to create multiparticle entanglement in a fast and deterministic scheme. To analyse the created states, we reconstruct the symmetric part of the atomic density matrix from 2d measurements of the ensemble's Husimi Q-distribution. We give a time-resolved account of the creation of states with at least 3-11 entangled atoms and fidelity of up to 0.37 with respect to a W state of 36 atoms. Studying the influence of measurement strength and experimental imperfections, we show that our experiments are well described by simple models with no free parameters.This thesis also presents work towards improved FFP cavities. We discuss the problem of frequency splitting of polarisation eigenmodes in cavities made from two fibres microfabricated with a CO2 laser. We show that this effect depends on the symmetry of the microfabricated structures and demonstrate that it can be controlled both at the level of fabrication and when assembling a cavity.

L’interaction entre la lumière et un nuage atomique désordonné et dilué donne lieu à des effets de cohérence collectifs dus à l’interaction des dipôles induits par le biais du champ lumineux. L'influence de tels effets de cohérence en diffusion multiple suscite beaucoup d’intérêt. Nous présentons deux modèles théoriques qui décrivent ces effets de cohérence dans différents régimes de diffusion. Le traitement du processus à travers un développement en ordres successifs de diffusion nous permet de mettre en évidence la contribution du premier et second ordres ainsi que l'interférence entre les champs diffusés qui en résultent. Dans le régime de diffusion multiple, nous montrons que la force de pression de radiation n'est pas une bonne observable pour sonder les effets coopératifs. Par ailleurs, nous mettons en évidence une surprenante cohérence de phase qui suggère une persistance des effets coopératifs en diffusion multiple. Cela pourrait être le résultat d'une synchronisation entre les dipôles atomiques couplés. Dans une deuxième partie, nous étudions l'effet d'une déformation de l'algèbre de Weyl-Heisenberg sur l'intrication des états cohérents. Une telle approche permet de décrire la décohérence dans des systèmes quantiques intriqués soumis à une perturbation extérieure. Nous construisons des états cohérents déformés intriqués et nous calculons leur concurrence. Nous montrons que la déformation de l'algèbre pourrait avoir un impact non négligeable sur la qualité de l'intrication bipartie des états cohérents, si cette dernière n'est pas maximale. / This work is devoted on the one hand to the investigation of coherence effects in multiple scattering of light by an atomic cloud and on the other hand to the entanglement of a deformed coherent state. The interaction between light and a dilute disordered atomic cloud gives rise to collective coherent effects due to the interaction of the induced dipoles via the external field. The behavior of such coherent effects in multiple scattering regime is an important question for various physical systems. We present two theoretical models describing those coherence effects in different scattering regimes. The scattering order expansion treatment of light scattering allows us to highlight the role of the first and second scattering orders as well as the interference between the resulting scattered fields. In the multiple scattering regime we show that the radiation pressure force is not a good observable to probe cooperative effects. Furthermore, we discover a surprising phase coherence that hints that collective effects may survive in multiple scattering regime. That could be due to a synchronization between the induced atomic dipoles. In a second part, we study the effect of an algebra deformation on entangled coherent states. Such an approach allows to describe decoherence in perturbed entangled quantum systems. We construct a deformed coherent state and calculate their concurrence. We show that algebra deformation could have a non negligible impact on bipartite entangled coherent states if those later are not maximally entangled.

Les sources de paires de photons sont un composant essentiel des technologies émergentes en information quantique. De nombreux travaux ont permis des avancées importantes utilisant des processus non linéaires d'ordre 2 dans les cristaux et les guides d'ondes, et d'ordre 3 dans les fibres. Les limitations viennent dans le premier cas, des pertes et en particulier des pertes de couplage avec les fibres optiques et dans le second cas, du bruit dû à l'effet Raman dont le spectre est très large dans les fibres de silice. Ce projet propose une nouvelle architecture basée sur des fibres à cristal photonique à coeur creux (FCPCC) que l'on peut remplir de liquide ou de gaz non linéaire. Cette configuration permet la génération paramétrique de paires de photons corrélés par mélange à quatre ondes sans l'inconvénient de la diffusion Raman. Cette technologie offre une large gamme de paramètres à explorer en s'appuyant sur les propriétés physiques et linéaires contrôlables des FCPCC et la possibilité de remplissage de ces fibres avec des fluides aux propriétés non-linéaires variées. En effet, par une conception judicieuse de la FCPCC et un choix approprié du liquide ou du gaz, il est possible de (i) contrôler la dispersion et la transmission pour générer des photons corrélés sur une large gamme spectrale avec la condition d'accord de phase la plus favorable, (ii) d'ajuster la taille de coeur de la fibre et/ou sa forme pour augmenter sa non-linéarité ou son efficacité de couplage avec d'autres fibres et (iii) de s'affranchir totalement de l'effet Raman si on utilise par exemple un gaz monoatomique, ou d'obtenir des raies Raman fines, aisément discriminables des raies paramétriques dans le cas d'un liquide. / Photon pair sources are an essential component of the emerging quantum information technology. Despite ingenious proposals being explored in the recent years based on either second order nonlinear processes in crystals and waveguides or on third order processes in fibers, limitations remain, due to losses and specifically coupling losses in the former case and due to Raman generation in silica, giving rise to a broad spectrum noise in the latter. These limitations have been challenging to lift because of the limited alternative nonlinear materials that fulfil the conditions for the generation of bright and high fidelity photon pairs in integrable photonic structures. In the present project, we develop a new and versatile type of photonic architecture for quantum information applications that offers access to a variety of nonlinear optical materials that are micro-structured in optical fiber forms to generate photon pairs, without the drawback of Raman scattering and with a large design parameter-space. Indeed, with a careful design of the HCPCF along with the appropriate choice of fluid, one can (i) control the dispersion and the transmission to generate photons with the most favourable phase-matching condition over a large spectral range, (ii) adjust the fibre core size and/or shape to enhance nonlinearity or the coupling efficiency with other fibres, (iii) totally suppress the Raman effect in monoatomic gases for instance or have only narrow and separated Raman lines that can thus be easily separated from the useful parametric lines in liquids.

Cette thèse est consacrée à l'étude des matrices aléatoires et à quelques unes de leurs applications en physique, en particulier en physique statistique et en physique quantique.C'est un travail essentiellement analytique complété par quelques simulations numériques Monte Carlo. Dans un premier temps j'introduis la théorie des matrices aléatoires de façon assez générale : je définis les principaux ensembles de matrices aléatoires (en particulier gaussiens) et décris leurs propriétés fondamentales (distribution des valeurs propres, densité, etc). Dans un second temps je m'intéresse à des systèmes physiques d'interfaces à l'équilibre qui peuvent être modélisés par des marcheurs ``vicieux'', c'est-à-dire des marcheurs aléatoires conditionnés à ne pas se croiser. On peut montrer que la distribution des positions des marcheurs à un temps donné est exactement celle des valeurs propres d'une matrice aléatoire. J'étudie ensuite un problème physique qui relève d'un domaine très différent, celui de l'information quantique, mais qui est également étroitement relié aux matrices aléatoires: celui de l'intrication pour des états aléatoires dans un système quantique bipartite (fait de deux sous-parties) de grande taille. Enfin je m'intéresse à certaines propriétés des matrices aléatoires comme la distribution du nombre de valeurs propres positives ou encore la distribution de la valeur propre maximale (loi de Tracy-Widom près de la moyenne et grandes déviations loin de la moyenne). / This thesis presents a study of random matrices and some applications in physics, in particular in statistical physics and quantum physics. This work is mostly analytic, but I also performed some Monte Carlo numerical simulations. First I introduce random matrix theory: I define the main random matrix ensembles (in particular Gaussian ensembles) and describe their fundamental properties (distribution of the eigenvalues, density...). Then I study a physical system of interfaces at equilibrium that can be modeled by ``vicious walkers'', ie random walkers that can not meet each other.One can show that the distribution of the positions of the walkers at a given time is the same as the distribution of the eigenvalues of a random matrix. I also consider a problem coming from a very different field, the field of quantum information theory, but that is also closely related to random matrices: the distribution of entanglement for random states in a large bipartite quatum system (made of two parts). Finally I study some properties of random matrices such as the distribution of the number of positive eigenvalues or the one of the maximal eigenvalue (Tracy-Widom and large deviations).

Le déploiement de réseaux de communication quantique représente un défi auquel cette thèse apporte des solutions originales. Deux dispositifs très performants sont construits uniquement autour de composants standards de l'optique intégrée et des télécommunications optiques. Le premier correspond à un schéma de synchronisation tout optique sur longue distance à très haute cadence et de précision inégalée pour la communication sécurisée par cryptographie quantique. Le montage expérimental repose sur une configuration de relais quantique mettant en œuvre deux sources indépendantes de paires de photons intriqués dont il faut synchroniser les temps d'émissions. L’idée principale s’appuie sur l’utilisation d’un unique laser télécom picoseconde cadencé à 2.5 GHz afin de générer l’horloge et de pouvoir la distribuer efficacement aux deux sources. Nous démontrons la synchronisation de notre lien relais pour une distance effective séparant les sources de plus de 100 km. Le second dispositif correspond quant à lui à la réalisation d'une expérience de compression à une longueur d'onde des télécommunications réalisée, pour la première fois, de manière entièrement guidée. La lumière comprimée étant une ressource fondamentale dans bon nombre de protocoles d'information quantique, la réalisation de systèmes expérimentaux facilement reconfigurables et compatibles avec les réseaux télécoms fibrés existants représente une étape cruciale en vue du déploiement de dispositifs de communication quantique en régime de variables continues. Enfin, un traitement quantique des effets de gigue temporelle dans les détecteurs de photons 0N/0FF est proposé. Malgré l'importance des systèmes de détection dans les technologies quantiques photoniques émergentes, aucune modélisation quantique de leurs effets de gigue temporelle n'avait été, à notre connaissance, développé jusqu'à présent. / This thesis presents solutions to the challenges of developing quantum communication networks. Two powerful experimental devices have been set up relying only on standard telecom and integrated optical components. The first device corresponds to an all-optical synchronization scheme allowing, with an unprecedented accuracy, quantum key distribution at a high rate over long distances. The experimental scheme relies on two independent entangled photon pair sources that have to be synchronized in their emission time. Our approach is based on using a 2.5 GHz picosecond telecom laser as a master clock to efficiently synchronize the different sources. We demonstrate the synchronization for an effective distance of 100 km between sources. With our second device, we perform a squeezing experiment at telecom wavelengths and this for the first time in a fully guided-wave approach. Squeezed light being a fundamental resource for several quantum information protocols, developing plug-and-play experimental devices that are compatible with already existing telecom fiber networks is of first interest in the perspective of future quantum networks. Finally, we propose a quantum description of timing jitter effects in 0N/0FF detectors. Despite the importance of detection systems in emerging photonic quantum technologies, no quantum description of their timing jitter effects has been proposed so far.

Dans ce manuscrit, nous présentons une étude expérimentale du phénomène de compression de spin dans un condensat de Bose-Einstein de $^{87}Rb$, résultant d'une interaction non-linéaire provenant de collisions entre les deux états internes $|F=1, m_F=-1>$ et $|F=2, m_F=1>$ de l'état fondamental $5^2S_{1/2}$. Les atomes sont refroidis dans un piège magnéto-optique, puis piégés magnétiquement à l'aide de notre puce à atomes jouant le rôle de parois supérieure pour notre enceinte à vide. La puce est aussi utilisée pour émettre le champ radiofréquence permettant le refroidissement évaporatif conduisant à la condensation de Bose-Einstein, ainsi que le champ micro-onde qui réalise le transfert cohérent des atomes d'un état interne à un autre.L'ensemble atomique est décrit par le Hamiltonien "textit{one-axis-twisting}" qui contient un terme quadratique en la composante selon l'axe $z$ du vecteur de spin atomique $S_z$. L'amplitude de cette interaction non-linéaire, initialement très faible, dépend des longueurs de diffusion des états internes considérés, et peut être grandement augmentée en réduisant le recouvrement des fonctions d'onde. C'est pourquoi le système est placé dans une configuration particulière (grand nombre d'atomes et piège anisotrope de type "cigare") pour laquelle les deux états vont alterner des phases de séparation et recombinaison spatiale. L'impact de cette dynamique spatiale sur l'interaction de champ moyen et la cohérence du système est analysé expérimentalement à travers l'étude du contraste et de la fréquence centrale d'un interféromètre de Ramsey.Théoriquement, lorsque les deux états sont séparés, la distribution de spin se transforme d'une distribution circulaire régie par le bruit de projection quantique, en une ellipse dont le petit axe est inférieur à la limite quantique standard, sous l'effet de l'interaction en $S_z^2$. Ceci est vérifié expérimentalement en réalisant la tomographie de l'état atomique au moment où les deux modes internes se recombinent. Un paramètre de compression de spin $xi^2 = -1.3 pm 0.4$ dB est ainsi obtenu pour 5000 atomes et un contraste de 90%. L'étude des différentes sources d'instabilités a permis d'identifier les pertes atomiques comme limitation principale de la compression de spin et du contraste de l'interféromètre.Ce travail s'inscrit dans le contexte de la métrologie quantique et représente un pas vers la production d'états comprimés en spin permettant la réalisation d'interféromètres atomiques fonctionnant sous la limite quantique standard. La question de la cohérence d'un condensat bimodal soumis à de nombreuses collisions élastiques et inélastiques est aussi adressée. / In this manuscript, we present an experimental study of spin squeezing in a spinor Bose-Einstein condensate of $^{87}Rb$, arising from a non-linear interaction originating from collisions between the two internal states $|F=1, m_F=-1>$ and $|F=2, m_F=1>$ of the $5^2S_{1/2}$ manifold. The atoms are cooled down in a magneto-optical trap and magnetically trapped thanks to our atom-chip which acts as a top wall for our vacuum cell. The chip is also used to emit the radio-frequency field that perform the evaporative cooling leading to Bose-Einstein condensation, and the microwave field used to coherently transfer the atoms from one internal state to another.The atomic ensemble in a coherent superposition is well described by the so-called textit{one-axis-twisting} Hamiltonian that contains a term quadratic in the $z$-component of the spin vector $S_z$. the strength of this non-linear interaction, initially very weak, depends on the intra- and inter-state s-wave scattering lengths, and can be greatly enhanced by reducing the wave-function spatial overlap between the two states. We therefore place the system in a configuration (high atom number and cigar-shaped trap) for which the two states experience spontaneous relative spatial separation and recombination phases. The impact of this spatial dynamics on the mean field interaction and coherence of the system is experimentally analyzed through the study of the contrast and central frequency of a Ramsey interferometer.Theoretically, when the two states are separated, the spin noise distribution evolves from a uniform circular distribution defined by the quantum projection noise, to an elliptic one whose small axis is smaller than the standard quantum limit, under the action of the $S_z^2$ interaction. This is verified experimentally by performing the tomography of the atomic state, when the two internal modes recombine. A squeezing parameter $xi^2=-1.3 pm 0.4$ dB is reached for 5000 atoms and a 90% contrast. The study of the different instability sources highlights the atomic-density-dependent losses as the main limitation for both the noise reduction and the contrast of the interferometer.This work has been initiated in the context of quantum metrology and represents a step towards the production of spin squeezed states enabling the realization of atom interferometers working below the standard quantum limit. It also addresses the fundamental question of coherence of spinor Bose-Einstein condensates undergoing many elastic and inelastic collisions.

Nous présentons deux expériences de plasmonique quantique, c’est-à-dire des expériencesd’optique quantique ayant pour support des plasmons de surface. Dans la première expérience, nous montrons la dualité onde-corpuscule d’un plasmon de surface unique (1) en utilisant la démarche de l’article de Philippe Grangier, Gérard Roger et Alain Aspect (2) sur les interférences à un photon unique. Dans la deuxième expérience, nous mettons en évidence les propriétés d’intrication entre un photon et un plasmon de surface. Nous produisons des photons intriqués en polarisation et les séparons spatialement. / We present two quantum plasmonics experiments, namely quantum optics on surface plasmons. In the first experiment, we show the wave-particle duality of a single surface plasmon along the same lines as the single-photon interferences experiment of Philippe Grangier, Gérard Roger and Alain Aspect (2). In the second experiment, we bring out between a photon and a surface plasmon. We generate paires of polarization entangled photons and separate the pair photons spatially. A former photon is send to a semi-plasmonic Mach-Zehnder interferometer whose first beam splitter is a polarization beam splitter whose output are converted to plasmons and on a plasmonic beamsplitter.

Un phénomène d'intrication entre des photons a été observé dans les années 80 par l'équipe dirigée par Alain Aspect. Cette observation a permis de rendre compte du caractère non local de ce phénomène. Nous verrons comment transposer les expériences d'optique au domaine des atomes froids. Une étude nouvelle d'une source d'atomes corrélée (intriquée ?) en impulsion sera présentée et des expériences d'interférences multiples seront analysées. L'objectif final de notre étude est de montrer qu'un test de violation des inégalités de Bell avec des atomes corrélés en impulsion est possible. C'est une expérience de physique fondamentale qui, si elle réussit, ouvre une porte sur la mesure d'effets de la gravité sur l'intrication, un des grands enjeux de la physique actuelle. / It has been experimentally demonstrated in the 1980s by Alain Aspect that the polarization entanglement between two photons can exist and consequently that the locality is no longer valid in this type of experiment. In our experiments, we seek to highlight this kind of phenomenon on atoms. Measurements will focus on external variables such as speed and we will see what tools we need to achieve them. It is a fundamental physics experiment that, if successful, opens the door to measures of possible effects between gravity and entanglement.

Deux expériences d'Optique Atomique Quantique sont étudiées dans ce manuscrit : l'expérience Hong-Ou-Mandel atomique ainsi qu'une expérience préliminaire au test des inégalités de Bell sur la variable d'impulsion de deux atomes. Ces deux expériences permettent de révéler des comportements très particuliers de la matière. La première produit une interférence à deux particules et la seconde suggère l'intrication de deux atomes en impulsion. Ces deux aspects de la mécanique quantique sont non-intuitifs et surprenants. Pouvoir les réaliser avec quelques atomes dans des environnements contrôlés est nécessaire à la consolidation de nos connaissances des lois de la nature et tout particulièrement quand mécanique quantique et gravitation sont à l'oeuvre simultanément. / We report two Quantum Atom Optics experiments : the atomic Hong-Ou-Mandel experiment and preliminary results toward Bell's inequality test on momentum of two atoms. Both experiments reveal interesting behaviors of matter. The first one shows a 2-particle interference and the second one suggests entanglement momenta between two atoms. These aspects of quantum mechanics are really surprising and unintuitive. Realizing these experiments with a few atoms in a controlled environment are necessary to strengthen our understanding of the world, particularly when quantum mechanics and gravitation act simultaneously.