La caractéristique commune des systèmes fortement corrélés est l'existence d'une compétition entre différentes phases de la matière à basse énergie. Nous proposons d'aborder cette problématique à l'aide d'une technique de renormalisation dans l'espace réel qui permet de construire un modèle effectif simplifié. En particulier, nous appliquons cette méthode afin de comprendre l'origine des modulations de charge observées dans les supraconducteurs à haute température critique. <br />Une autre partie de mon travail concerne les extensions possibles de la méthode de Monte-Carlo quantique pour des modèles fermioniques spécifiques qui ne présentent pas de problème de signe.

Cette thèse aborde des questions relatives à la physique d'aimants quantiques unidimensionnels et bidimensionnels sous champ magnétique. En utilisant des méthodes numériques, nous considérons des systèmes de dimères couplés, décrits avec des modèles d'électrons fortement corrélés que sont l'échelle de spin, la chaîne de dimères orthogonaux en une dimension ainsi que la bicouche de Heisenberg et le réseau de Shastry-Sutherland en deux dimensions. L'objectif étant de dériver des hamiltoniens effectifs, nous nous servons de la méthode " Contractor Renormalization (CORE) ", une technique non perturbative de renormalisation dans l'espace réel qui est capable de reproduire les propriétés de basse énergie du système tout en réduisant sa complexité. L'examen du modèle effectif, soit par des moyens analytiques soit numériquement en résolvant des systèmes effectifs avec la diagonalisation exacte, nous permet de conclure sur la physique du système, en particulier l'existence de plateaux d'aimantation. Nos résultats sont comparés avec l'étude numérique exacte du modèle microscopique d'une part et avec d'autres approches théoriques d'autre part. Grâce au fait que nous étudions des modèles caractérisant des composés réels, nous discutons également nos résultats en rapport avec des données expérimentales. Par exemple, nous proposons la stabilité de nouveaux plateaux d'aimantation sur le réseau de Shastry-Sutherland, ce qui motive son étude expérimentale.

Dans ce manuscrit, nous présentons une étude expérimentale d'un gaz de Bose de spin 1 avec des interactions antiferromagnétiques avec des atomes de sodium ultra-froids dans l'état hyperfin F=1. Les trois composantes Zeeman sont piégées simultanément dans des pièges dipolaires optiques. Nous obtenons un condensat de Bose-Einstein spineur par refroidissement évaporatif et nous étudions ses propriétés magnétiques. Il y a deux types d’interactions dans le système: des interactions de contact qui ne changent pas les populations des composantes Zeeman et des interactions d'échange de spin qui les modifient. Une compétition entre l'énergie Zeeman et l'énergie d'échange impose l'ordre magnétique dans le système.Nous étudions dans un premier temps les phases magnétiques de condensats de Bose-Einstein spineurs a température quasi nulle. L'état fondamental comporte deux phases qui sont observées en variant le champ magnétique (donc l'énergie Zeeman quadratique) et la magnétisation de l'échantillon. Dans la phase antiferromagnétique, le spin de l'échantillon est simplement selon l'axe du champ magnétique. Dans la phase polaire, une composante transverse apparait pour minimiser l'énergie Zeeman. Pour une magnétisation nulle, le condensat spineur forme un nématique de spin. Cet état, nommé par analogie avec la phase nématique dans les cristaux liquides, est caractérisée par des fluctuations de spin orthogonales à un axe particulier, mais sans préférer une des deux direction sur cet axe. Dans chacune des deux phases, l'ordre nématique se manifeste par un minimisation de la longueur du spin transverse en imposant une valeur particulière ($pi$) de la phase relative des composantes Zeeman ${theta = phi_{+1} + phi_{-1} - 2 phi_{0}}$. Nous mesurons la longueur du spin transverse en analysant le bruit de spin après une rotation.Dans un second temps, nous étudions la thermodynamique d'un gaz de Bose de spin 1 près de la température critique pour la condensation de Bose-Einstein. Nous mesurons plusieurs scénarios de condensation séquentiels en fonction de la magnétisation et du champ magnétique. La température critique mesurée révèle que les interactions ont un effet important quand la condensation d'une composante se fait en présence d'un condensat dans une autre composante. Nous utilisons une théorie d'Hartree-Fock simplifiée, en négligeant les interactions d’échange de spin. Nous constatons que les résultats expérimentaux sont en bon accord. Cependant, pour de bas champs magnétiques, le diagramme de phase thermodynamique est largement modifié par les interactions d'échange de spin, ce qui pose de nouvelles questions sur leur rôle a température finie. / In this manuscript, we present an experimental study of a Spin 1 Bose gas with antiferromagnetic interactions with ultracold sodium atoms in the F=1 manifold. The three Zeeman components are trapped simultaneously in optical dipole traps. By performing evaporative cooling, we obtain quasi-pure spinor Bose-Einstein condensates of which we study the magnetic properties. There are two types of interactions between the constituents of the system: Contact interactions that do not change the Zeeman populations and spin-exchange contact interactions that do. A competition between Zeeman energy and the spin-exchange energy sets the magnetic ordering in the system.We first study the magnetic phases of spinor Bose-Einstein condensates near zero temperature. The ground state present two phases that are observed by varying the magnetic field (hence the quadratic Zeeman energy) and the magnetization of the sample. In the antiferromagnetic phase, the spin of the sample is purely along the direction of the magnetic field. In the broken-axisymmetry phase, a transverse component appears in order to minimize the Zeeman energy. For zero magnetization, the spinor condensate forms a spin nematic. This state, named in analogy with the liquid crystal nematic phase, is characterized by spin fluctuations orthogonal to a particular axis, with no preferred direction along that axis. In both phases, spin nematic order manifests as a minimization of the transverse spin length that is realized by enforcing a particular value ($pi$) of the relative phase of the Zeeman components $theta = phi_{+1} + phi_{-1} - 2 phi_0$. We measure the transverse spin length by analyzing spin noise after a spin rotation.Second, we study the thermodynamics of an antiferromagnetic spin 1 Bose gas next to the critical temperature for Bose-Einstein condensation. We measure several sequential condensation scenarii depending on the magnetization and the magnetic field. The measured critical temperatures reveal a large effect of interactions when one of the Zeeman component condenses in presence of a condensate in another component. We use a simplified Hartree-Fock theory, neglecting the spin exchange interactions and note a good agreement with our data. However, for low magnetic fields, the thermodynamic phase diagram is strongly modified which raises new open questions about the role of spin exchange interactions at finite temperatures.

La physique de la matière condensée, et notamment les systèmes fortement corrélés, amènent à des problèmes parmi les plus stimulants et difficiles de la physique moderne. Dans ces systèmes, les interactions à plusieurs corps et les corrélations entre les particules quantiques ne peuvent être négligées, sinon, les modèles échoueraient simplement à capturer les mécanismes physiques en jeu et les phénomènes qui en découlent. En particulier, le travail présenté dans ce manuscrit traite du magnétisme quantique et aborde plusieurs questions distinctes à l'aide d'approches computationnelles et méthodes numériques à l'état de l'art. Les effets conjoints du désordre (i.e. impuretés) et des interactions sont étudiés concernant un matériau magnétique spécifique : plutôt qu'une phase de la matière dite localisée, attendue à fort champ magnétique, une phase ordonnée induite par le désordre lui-même est mise en lumière, avec une réapparition inattendue de la cohérence quantique dans ledit composé. Par ailleurs, la réponse dynamique d'aimants quantiques à une perturbation externe, comme celle mesurée dans des expériences de résonance magnétique nucléaire ou de diffusion inélastique de neutrons est étudiée. / Condensed matter physics, and especially strongly correlated systems provide some of the most challenging problems of modern physics. In these systems, the many-body interactions and correlations between quantum particles cannot be neglected; otherwise, the models would simply fail to capture the relevant physics at play and phenomena ensuing. In particular, the work presented in this manuscript deals with quantum magnetism and addresses several distinct questions through computational approaches and state-of-the-art numerical methods. The interplay between disorder (i.e. impurities) and interactions is studied regarding a specific magnetic compound, where instead of the expected many-body localized phase at high magnetic fields, a novel disorder-induced ordered state of matter is found, with a resurgence of quantum coherence. Furthermore, the dynamical response of quantum magnets to an external perturbation, such as it is accessed and measured in nuclear magnetic resonance and inelastic neutron scattering experiments is investigated.

Dans cette thèse nous étudions expérimentalement les propriétés magnétiques de condensats de sodium de spin 1 à l'équilibre. Dans ce système les atomes peuvent occuper chacun des trois états Zeeman caractérisés par la projection de leur spin sur l'axe de quantification m=+1,0,-1. Nous mesurons l'état de spin à N particules du système en fonction du champ magnétique appliqué et et de la magnétisation (différence entre les populations des états m=+1 et m=-1) du nuage atomique. Nos mesures sont en très bon accord avec la prédiction de la théorie de champ moyen, et nous identifions deux phases magnétiques résultant de la compétition entre les interactions de spin antiferromagnétiques et l'effet du champ magnétique. Nous décrivons ces deux phases en terme d'un ordre nématique de spin caractérisant la symétrie de l'état de spin à N particules. Dans une seconde partie nous nous concentrons sur les propriétés du condensat à très faible magnétisation et soumis à un faible champ magnétique. Dans ces conditions, la symétrie du système se manifeste à travers de très grandes fluctuations de spin. Ce phénomène n'est pas explicable par une théorie de champs moyen naïve, et nous développons une approche statistique plus élaborée pour décrire l'état de spin du condensat. Nous mesurons les fluctuations de spin et nous sommes capables de déduire de leur analyse la température caractérisant le degré de liberté de spin du condensat. Nous trouvons que cette température diffère de celle décrivant les atomes thermiques entourant le condensat. Nous interprétons cette différence comme une conséquence du faible couplage entre ces deux systèmes. / In this thesis we study experimentally the magnetic properties of spin-1 Bose-Einstein condensate of Sodium at equilibrium. In this system the atoms can occupy any of the three Zeeman states characterized by their spin projection on the quantization axis m=+1,0,-1. We measure the many-body spin state of the system as a function of the applied magnetic field and of the magnetization (difference between the populations of the spin states m=+1 and m=-1) of the atomic sample. We find that our measurements reproduce very well the mean-field prediction, and we identify two magnetic phases expressing the competition between the antiferromagnetic inter-particle interactions and the effect of the magnetic field. We describe these phases in terms of a spin nematic order characterizing the symmetry of the many-body spin state. In a second part we focus on the properties of condensates of very low magnetization under a weak magnetic field. In these conditions, the symmetry of the system manifests itself in huge spin fluctuations. This phenomenon is not explainable by a naive mean-field theory and we develop a more elaborate statistical approach to describe the spin state of the condensate. We measure the spin fluctuations and are able from their analysis to infer the temperature characterizing the spin degree of freedom of the condensate. We find that this temperature differs from the temperature of the thermal fraction surrounding the condensate. We interpret this difference as a consequence of the weak coupling between these two systems.

La déstabilisation de l’ordre antiferromagnétique de Néel au profit de nouvelles phases quantiques à température nulle à deux dimensions est envisageable grâce au phénomène de frustration magnétique. Le modèle théorique de spins Heisenberg S=1/2 répartis sur le réseau bidimensionnel frustré kagome, constitué de triangles joints uniquement par leurs sommets, est susceptible de stabiliser des phases quantiques originales de liquides de spin, qui ne présentent aucune brisure de symétrie à T = 0. Cette thèse a été consacrée à l’étude expérimentale de deux types de composés de spins S=1/2 (Cu2+) à géométrie kagome à l’aide de techniques spectroscopiques locales, la RMN et la μSR, ainsi que de mesures thermodynamiques (susceptibilité magnétique, chaleur spécifique). Dans Mg-herbertsmithite, la frustration est générée par une interaction d’échange premiers voisins antiferromagnétique J et est responsable d’un comportement liquide de spin jusqu’à des températures de l’ordre de J/10000. Par rapport au composé isostructural antérieur, Zn-herbertsmithite, nous avons montré qu’il possédait des propriétés physiques similaires tout en permettant une caractérisation fine du taux de défauts de substitutions Cu/Mg. Nos expériences réalisées à partir d’échantillons contrôlés permettent d’étudier finement l’origine des plateaux de relaxation observés en μSR à basse température en lien avec l’existence des défauts de spins interplans. La kapellasite et l’haydéite possèdent des interactions ferromagnétiques (J1) et antiferromagnétiques (Jd), offrant la possibilité d’explorer le diagramme de phases générées par la compétition de ces interactions sur le réseau kagome. Pour la kapellasite, nos mesures de μSR démontrent le caractère liquide de spin jusqu’à T ≈ J1/1000. La dépendance en température de la susceptibilité magnétique sondée par RMN du 35Cl ainsi que de la chaleur spécifique permettent d’évaluer le rapport Jd/J1 = 0.85, qui localise classiquement son fondamental au sein d’une phase originale de spins non coplanaires à 12 sous-réseaux appelée cuboc2. Les interactions présentes dans l’haydéite localisent son fondamental au sein de la phase ferromagnétique, en bon accord avec nos mesures qui indiquent une transition partielle à caractère ferromagnétique à T = 4 K. Cette étude confirme la pertinence du réseau kagome frustré pour la stabilisation de phases quantiques originales et démontre l’existence d’une nouvelle phase liquide de spin sur ce réseau, distincte de celle attendue pour des spins couplés antiferromagnétiquement. / Magnetic frustration helps destabilizing conventional Néel order at T = 0 in dimensions 2, and therefore allows the emergence of new original quantum phases. The S=1/2 Heisenberg Hamiltonian on the highly frustrated kagome lattice, which is made of corner-sharing triangles, is expected to stabilize such quantum states, including the spin liquid ones which do not break any symmetry even at T = 0. This thesis work focuses on the experimental study of two kinds of S=1/2 (Cu2+) kagome compounds using NMR and μSR local probes as well as thermodynamic measurements (magnetic susceptibility, specific heat).In Mg-herbertsmithite magnetic frustration occurs thanks to a first nearest-neighbor antiferromagnetic interaction J and is responsible for the spin liquid behavior observed down to T = J/10000. In comparison with the formerly known isostructural counterpart Zn-herbertsmithite, we showed that it shares similar physical magnetic properties while allowing sensitive structural refinements and therefore a control of the level of Cu/Mg substitutions defects. Our experiments performed on such well controlled materials allow us to investigate the origin of the dynamical relaxation in these compounds in relation with the existence of interplane spins defects. Kapellasite and haydeite possess both ferromagnetic (J1) and antiferromagnetic (Jd) interactions. They offer the possibility to explore the phase diagram generated by such competing interactions on the kagome lattice. For kapellasite, our μSR experiments evidenced a spin liquid character down to T ≈ J1/1000. We tracked the temperature dependence of the magnetic susceptibility probed by 35Cl-NMR as well as of the specific heat, from which the ratio Jd/J1 = 0.85 can be evaluated. This ratio locates the ground-state of kapellasite to be within an original non-coplanar spin phase described by 12 magnetic sublattices and called cuboc2. Magnetic exchanges in haydeite locate its ground-state within the ferromagnetic phase. Both our local and thermodynamic measurements point to a partial ferromagnetic transition at T = 4 K. This study confirms the relevance of the frustrated quantum kagome lattice to stabilize original quantum phases and suggests the existence of a new spin liquid phase, distinct from the one expected for antiferromagnetically coupled spins.