Cette thèse se concentre sur la dynamique d'un système atomique froid qui se composede deux états internes d'atomes piégés dans un potentiel magnétique . La motivation decette thèse est une série d'expériences sur ce système réalisées en 2010, où un grandtemps de cohérence surprenante entre les deux états internes ont été observés. Cephénomène a été expliqué par la théorie cinétique qui a utilisé une approche de champmoyen. Dans cette thèse, nous essayons d'utiliser une approche différente et étudier leseffets de corrélations quantiques dans la dynamique du système. De plus, nous sommeségalement intéressés au phénomène de compression de spin qui est la redistribution desfluctuations quantiques dans le système de spin. Afin d'étudier les effets des corrélationsquantiques, nous proposons un modèle simplifié qui divise les atomes froids en deuxgroupes en fonction de leurs énergies de mouvement orbital dans le potentiel de piégeageet traitons chaque groupe comme un macro-spin. Les principaux ingrédients de ce modèlesont l'inhomogénéité du champ externe qui déphase les deux macro-spins et l'interactiond'échange entre les deux macro-spins, qui imite l'effet de rotation des spins identiques(ISRE), avec la condition initiale que les deux spins sont parallèle dans le plan transversaldu champ externe. Ensuite, nous étudions la dynamique du système classique où ladynamique ne dépendent pas de la taille des spins et une transition de synchronisation esttrouvée lorsque l'interaction d'échange est plus grande que le seuil , la moitié de l'inhomogénéité du champ externe. Une analyse de l'espace de phase révèle que cettetransition de synchronisation est liée à une transition de bifurcation et de la conditioninitiale. Ensuite, la dynamique quantique est étudiée où la taille de spin joue un rôleimportant dans la dynamique. Il n'y a pas de transition de synchronisation dans lessystèmes quantiques et du comportement dynamique très riche est trouvée. Dans ladynamique quantique , plusieurs échelles de temps caractéristiques apparaissent commela taille de spin augmente, ce qui est d'origine quantique. Ces échelles de temps dépendde la taille de spin et tous deviennent infinies lorsque la taille de spin est infinie. De cettefaçon, la limite classique est récupéré. Basé sur l’intensité de l'interaction d'échange ,deux modèles effectifs sont proposés pour calculer les échelles du temps quantiques lesplus petites, ce qui coïncide bien avec les résultats numériques. La compression de spinest également étudié avec ces modèles effectifs. / This thesis focuses on the dynamics of a cold atomic system which consists of two internalstates of atoms trapped in a magnetic trapping potential. The motivation of this thesis is aseries of experiments on such system carried out in 2010, where a surprising longcoherence time between the two internal states were observed. This phenomenon wasexplained by the kinetic theory which has used a mean-field approach. In this thesis, wetry to use a different approach and study the effects of quantum correlations in thedynamics of the system. In addition to that, we are also interested in the phenomenon ofspin squeezing which is the redistribution of quantum fluctuations in the spin system. Inorder to study the effects of the quantum correlations, we propose a simplified which splitsthe cold atoms into two groups based on their orbital movement energies in the trappingpotential and treat each group as a macro-spin. The main ingredients in this model are theinhomogeneity of the external field which dephases the two macro-spins and theexchange interaction between the two macro-spins, which mimics the identical spinrotation effect (ISRE), with the initial condition that the two spins lie parallel in thetransverse plane of the external field. Then we study the classical dynamics of the systemwhere the dynamics do not depend on the size of the spins and a synchronizationtransition is found when the exchange interaction is larger than the threshold, the half ofthe inhomogeneity of the external field. A phase space analysis reveals that thissynchronization transition is related to a bifurcation transition and the initial condition. Thenthe quantum dynamics is studied where the spin size plays an important role in thedynamics. There is no synchronization transition in the quantum systems and very richdynamical behavior is found. In the quantum dynamics, many characteristic time scalesemerge as the size of spin is increased, which are of quantum origin. These time scales isdependent of the spin size and all become infinite when the size of spin is infinite. In theway, the classical limit is recovered. Based on the strength of the exchange interaction,two effective models are proposed to calculate the smallest quantum characteristic timescales, which give very good agreement with the numerical results. Spin squeezing is alsostudied with these effective models.

Les états comprimés de spin sont des états intriqués qui ont intérêt pratique dans la métrologie quantique et l'interféromètrie atomique. Dans cette thèse, nous étudions théoriquement les schémas réalistes pour la production des états comprimés de spin utilisant l'interaction cohérente entre les atomes froids dans un condensat de Bose-Einstein bimodal. En particulier, nous incluons les processus de décohérence tels que les pertes de particules, ainsi que la dynamique spatiale, qui limitent la compression maximale accessible dans une expérience réelle. Nous trouvons que l'effet des pertes ne peut être négligé dès que la fraction de particules perdue est de l'ordre du paramètre de compression. La solution analytique que nous trouvons, en utilisant des fonctions d'onde Monte-Carlo, nous permet d'effectuer une optimisation pour la compression de spin en ce qui concerne les paramètres de l'expérience. D'autre part, nous avons développé une méthode pour étudier la dynamique spatiale et la dynamique de spin intriquées dans un condensat bimodal, ce qui permet un traitement complet analytique dans certains cas, et peut être utilisée dans le cas général, sans nécessiter de calculs numériques lourds. Nous appliquons nos études théoriques à une expérience de compression de spin récemment réalisée avec succès sur une puce à atomes. Enfin, nous étudions la compression de spin dans un système lié mais différent d'un BEC avec deux modes spatiaux couplés de façon cohérente par effet tunnel. Nous étudions ce problème avec un modèle dynamique à deux modes pour T << Tc et avec une approche multimode à l'équilibre thermique pour T ~ Tc.

Dans ce manuscrit, nous présentons une étude expérimentale du phénomène de compression de spin dans un condensat de Bose-Einstein de $^{87}Rb$, résultant d'une interaction non-linéaire provenant de collisions entre les deux états internes $|F=1, m_F=-1>$ et $|F=2, m_F=1>$ de l'état fondamental $5^2S_{1/2}$. Les atomes sont refroidis dans un piège magnéto-optique, puis piégés magnétiquement à l'aide de notre puce à atomes jouant le rôle de parois supérieure pour notre enceinte à vide. La puce est aussi utilisée pour émettre le champ radiofréquence permettant le refroidissement évaporatif conduisant à la condensation de Bose-Einstein, ainsi que le champ micro-onde qui réalise le transfert cohérent des atomes d'un état interne à un autre.L'ensemble atomique est décrit par le Hamiltonien "textit{one-axis-twisting}" qui contient un terme quadratique en la composante selon l'axe $z$ du vecteur de spin atomique $S_z$. L'amplitude de cette interaction non-linéaire, initialement très faible, dépend des longueurs de diffusion des états internes considérés, et peut être grandement augmentée en réduisant le recouvrement des fonctions d'onde. C'est pourquoi le système est placé dans une configuration particulière (grand nombre d'atomes et piège anisotrope de type "cigare") pour laquelle les deux états vont alterner des phases de séparation et recombinaison spatiale. L'impact de cette dynamique spatiale sur l'interaction de champ moyen et la cohérence du système est analysé expérimentalement à travers l'étude du contraste et de la fréquence centrale d'un interféromètre de Ramsey.Théoriquement, lorsque les deux états sont séparés, la distribution de spin se transforme d'une distribution circulaire régie par le bruit de projection quantique, en une ellipse dont le petit axe est inférieur à la limite quantique standard, sous l'effet de l'interaction en $S_z^2$. Ceci est vérifié expérimentalement en réalisant la tomographie de l'état atomique au moment où les deux modes internes se recombinent. Un paramètre de compression de spin $xi^2 = -1.3 pm 0.4$ dB est ainsi obtenu pour 5000 atomes et un contraste de 90%. L'étude des différentes sources d'instabilités a permis d'identifier les pertes atomiques comme limitation principale de la compression de spin et du contraste de l'interféromètre.Ce travail s'inscrit dans le contexte de la métrologie quantique et représente un pas vers la production d'états comprimés en spin permettant la réalisation d'interféromètres atomiques fonctionnant sous la limite quantique standard. La question de la cohérence d'un condensat bimodal soumis à de nombreuses collisions élastiques et inélastiques est aussi adressée. / In this manuscript, we present an experimental study of spin squeezing in a spinor Bose-Einstein condensate of $^{87}Rb$, arising from a non-linear interaction originating from collisions between the two internal states $|F=1, m_F=-1>$ and $|F=2, m_F=1>$ of the $5^2S_{1/2}$ manifold. The atoms are cooled down in a magneto-optical trap and magnetically trapped thanks to our atom-chip which acts as a top wall for our vacuum cell. The chip is also used to emit the radio-frequency field that perform the evaporative cooling leading to Bose-Einstein condensation, and the microwave field used to coherently transfer the atoms from one internal state to another.The atomic ensemble in a coherent superposition is well described by the so-called textit{one-axis-twisting} Hamiltonian that contains a term quadratic in the $z$-component of the spin vector $S_z$. the strength of this non-linear interaction, initially very weak, depends on the intra- and inter-state s-wave scattering lengths, and can be greatly enhanced by reducing the wave-function spatial overlap between the two states. We therefore place the system in a configuration (high atom number and cigar-shaped trap) for which the two states experience spontaneous relative spatial separation and recombination phases. The impact of this spatial dynamics on the mean field interaction and coherence of the system is experimentally analyzed through the study of the contrast and central frequency of a Ramsey interferometer.Theoretically, when the two states are separated, the spin noise distribution evolves from a uniform circular distribution defined by the quantum projection noise, to an elliptic one whose small axis is smaller than the standard quantum limit, under the action of the $S_z^2$ interaction. This is verified experimentally by performing the tomography of the atomic state, when the two internal modes recombine. A squeezing parameter $xi^2=-1.3 pm 0.4$ dB is reached for 5000 atoms and a 90% contrast. The study of the different instability sources highlights the atomic-density-dependent losses as the main limitation for both the noise reduction and the contrast of the interferometer.This work has been initiated in the context of quantum metrology and represents a step towards the production of spin squeezed states enabling the realization of atom interferometers working below the standard quantum limit. It also addresses the fundamental question of coherence of spinor Bose-Einstein condensates undergoing many elastic and inelastic collisions.