Cette thèse est consacrée à l'étude expérimentale des composés antiferromagnétiques géométriquement frustrés à deux dimensions. Dans ces systèmes, la structure magnétique formée de triangles interdit de satisfaire simultanément toutes les interactions antiferromagnétiques et peut générer des états fondamentaux originaux. <br /><br />Nous présentons l'étude par RMN et µSR du composé triangulaire à côtés partagés NaCrO2, un système Heisenberg modèle de spin 3/2. Nous mettons ainsi en évidence un régime de fluctuations très étendu en dessous d'un maximum de chaleur spécifique, signature d'excitations originales spécifiques à cette classe de systèmes. <br /><br />Nous présentons ensuite l'étude de l'Herbertsmithite ZnCu3(OH)6Cl2, première réalisation expérimentale d'une structure kagomé parfaite de spin 1/2. Nous montrons par µSR que dans la famille plus large des Paratacamites ZnxCu4-x(OH)6Cl2, lorsque x passe de 0 à 1, le système évolue à basse température d'un état ordonné à longue distance vers un état fluctuant, type liquide de spin, pour x>0.66. Les mesures de RMN de l'oxygène 17 dans l'Herbertsmithite nous ont permis d'isoler la contribution intrinsèque de celle des défauts issus des substitutions Cu/Zn. L'évolution de la susceptibilité, ainsi que les mesures de relaxation démontrent l'absence de gap dans le spectre des excitations magnétiques. Nos mesures suggèrent que ces excitations ont un poids constant sur toute la zone de Brillouin, comme prédit théoriquement. L'évolution de la raie des défauts est en accord qualitatif avec l'image théorique de la localisation de singulets non magnétiques autour de l'impureté.

Cette thèse est organisée autour d'une problématique centrale : l'étude théorique de l'effet Kondo dans les fermions lourds, lorsque les ions magnétiques sont en forte concentration.<br /><br />Dans une première partie, l'influence sur le réseau Kondo, d'une variation du nombre d'électrons de conduction est étudiée à basse température (problème de l'épuisement). Cet effet peut s'observer expérimentalement sur des composés de Cérium ou d'Uranium, dont la température de cohérence peut être bien plus petite que la température de Kondo à une impureté. Par des approches analytiques et numériques, le problème est résolu dans la limite ``grand-N'',<br />où N est le nombre de composantes du spin effectif. Alors que les modèles à une seule impureté sont caractérisés à basse température par une unique échelle d'énergie T_K, cette thèse confirme l'existence, pour le réseau Kondo, d'une deuxième échelle T*, caractéristique de l'apparition du comportement de liquide de Fermi, et définie à partir des propriétés physiques du système (thermodynamiques, magnétiques et de transport).<br /><br />Dans la deuxième partie, les effets du désordre et de la frustration magnétique du réseau Kondo sont étudiés analytiquement, dans le formalisme de la théorie du champ dynamique moyen, en considérant la limite ``grand-N''. Un point critique quantique (QCP) est obtenu, entre un régime de liquide de Fermi lourd et un régime de liquide de<br />spin. Les propriétés physiques du système sont calculées dans la phase Kondo, qui présente une très forte diminution de T* et de T_K à l'approche du QCP. Ce résultat est à corréler avec la forte masse effective observée expérimentalement pour le composé LiV$_{2}$O$_{4}$.<br /><br />Enfin, la troisième partie présente une étude préliminaire et les étapes principales du calcul permettant de déterminer numériquement le diagramme de phase magnétique du modèle d'Anderson périodique, par la méthode du champ dynamique moyen.

La déstabilisation de l'ordre antiferromagnétique de Néel au profit de nouvelles phases quantiques à température nulle à deux dimensions est envisageable grâce au phénomène de frustration magnétique. Le modèle théorique de spins Heisenberg S=1/2 répartis sur le réseau bidimensionnel frustré kagome, constitué de triangles joints uniquement par leurs sommets, est susceptible de stabiliser des phases quantiques originales de liquides de spin, qui ne présentent aucune brisure de symétrie à T = 0. Cette thèse a été consacrée à l'étude expérimentale de deux types de composés de spins S=1/2 (Cu2+) à géométrie kagome à l'aide de techniques spectroscopiques locales, la RMN et la μSR, ainsi que de mesures thermodynamiques (susceptibilité magnétique, chaleur spécifique). Dans Mg-herbertsmithite, la frustration est générée par une interaction d'échange premiers voisins antiferromagnétique J et est responsable d'un comportement liquide de spin jusqu'à des températures de l'ordre de J/10000. Par rapport au composé isostructural antérieur, Zn-herbertsmithite, nous avons montré qu'il possédait des propriétés physiques similaires tout en permettant une caractérisation fine du taux de défauts de substitutions Cu/Mg. Nos expériences réalisées à partir d'échantillons contrôlés permettent d'étudier finement l'origine des plateaux de relaxation observés en μSR à basse température en lien avec l'existence des défauts de spins interplans. La kapellasite et l'haydéite possèdent des interactions ferromagnétiques (J1) et antiferromagnétiques (Jd), offrant la possibilité d'explorer le diagramme de phases générées par la compétition de ces interactions sur le réseau kagome. Pour la kapellasite, nos mesures de μSR démontrent le caractère liquide de spin jusqu'à T ≈ J1/1000. La dépendance en température de la susceptibilité magnétique sondée par RMN du 35Cl ainsi que de la chaleur spécifique permettent d'évaluer le rapport Jd/J1 = 0.85, qui localise classiquement son fondamental au sein d'une phase originale de spins non coplanaires à 12 sous-réseaux appelée cuboc2. Les interactions présentes dans l'haydéite localisent son fondamental au sein de la phase ferromagnétique, en bon accord avec nos mesures qui indiquent une transition partielle à caractère ferromagnétique à T = 4 K. Cette étude confirme la pertinence du réseau kagome frustré pour la stabilisation de phases quantiques originales et démontre l'existence d'une nouvelle phase liquide de spin sur ce réseau, distincte de celle attendue pour des spins couplés antiferromagnétiquement.

La frustration - c'est-à-dire la présence d'interactions de nature compétitive - donne lieu à des effets de grande complexité en physique. La glace - aussi bien la phase bien connue de l'eau, que ses analogues magnétiques, dites " glaces de spin " - en offre un exemple remarquable. Pour des interactions à courte portée et des degrés de liberté classiques, son état fondamental est infiniment dégénéré, et comporte en outre des corrélations à longue portée induites par une contrainte locale, caractéristiques de la phase dite de Coulomb. Ses excitations élémentaires correspondent au retournement d'un dipôle qui se " fractionnalise " en deux monopôles. Dans cette thèse nous nous intéressons à la stabilité de cette phase de Coulomb dans la glace bidimensionnelle - réalisée aussi bien comme glace de protons dans des composés organiques, que comme glace de spin dans des systèmes nanomagnétiques. Dans le cas classique, les interactions dipolaires - présentes dans les systèmes expérimentaux - déstabilisent la phase de Coulomb dans son état fondamental. Cependant, une déformation de la simple géométrie planaire permet de récupérer cette phase dans un régime où différents états ordonnés entrent en compétition. Dans le cas quantique, les fluctuations dues à un champ magnétique transverse induisent une brisure de symétrie dans l'état fondamental qui, à basse température, cède la place à une phase de Coulomb quantique, réalisant un liquide de spin quantique avec excitations fractionnalisées. Nos résultats sont obtenus à l'aide de méthodes analytiques (analyse harmonique classique et quantique et théorie de perturbations) aussi bien que numériques (Monte Carlo) fondées sur des algorithmes originaux.

L’objectif central de cette thèse est d’étudier des phases ordonnées en compétition dans des matériaux magnétiques présentant une structure cristalline tétragonale centrée.Ce travail est divisé en deux parties principales. Dans la première, nous présentons les résultats de notre étude de la compétition entre des états ordonnés antiferromagnétiques et des phases liquides de spin. Nous montrons comment ces dernières peuvent être stabilisées par la frustration géométrique et par une généralisation de la symétrie de spinau groupe SU(n). Les états antiferromagnétiques sont décrits par une théorie d’onde despin et l’analyse de liquide de spin est effectuée par une représentation fermionique des opérateurs de spin. Dans la deuxième partie, nous décrivons une théorie effective pour dércrire des expériences de diffusion Raman. Nous fournissons un aperçu de la phase d’ordre caché affichée par le composé de fermions lourds URu2Si2. / The main objective of this thesis is to investigate the competing ordered phases in the metallic heavy fermion compound URu2Si2, which displays a body-centered tetragonallattice. We first provide a study case of the competition between antiferromagnetic(AF) and spin liquid phases. The antiferromagnetic state is study with spin-wave theory. Whereas the spin liquid analysis has been carried out in an algebraic spin liquid representation.In the second part, we describe an effective theory for Raman scattering experiments at these particular phases. We provide insight about the hidden order phase displayed by the heavy fermion compound URu2Si2.

La frustration – c'est-à-dire la présence d'interactions de nature compétitive – donne lieu à des effets de grande complexité en physique. La glace – aussi bien la phase bien connue de l'eau, que ses analogues magnétiques, dites « glaces de spin » – en offre un exemple remarquable. Pour des interactions à courte portée et des degrés de liberté classiques, son état fondamental est infiniment dégénéré, et comporte en outre des corrélations à longue portée induites par une contrainte locale, caractéristiques de la phase dite de Coulomb. Ses excitations élémentaires correspondent au retournement d'un dipôle qui se « fractionnalise » en deux monopôles. Dans cette thèse nous nous intéressons à la stabilité de cette phase de Coulomb dans la glace bidimensionnelle – réalisée aussi bien comme glace de protons dans des composés organiques, que comme glace de spin dans des systèmes nanomagnétiques. Dans le cas classique, les interactions dipolaires – présentes dans les systèmes expérimentaux – déstabilisent la phase de Coulomb dans son état fondamental. Cependant, une déformation de la simple géométrie planaire permet de récupérer cette phase dans un régime où différents états ordonnés entrent en compétition. Dans le cas quantique, les fluctuations dues à un champ magnétique transverse induisent une brisure de symétrie dans l'état fondamental qui, à basse température, cède la place à une phase de Coulomb quantique, réalisant un liquide de spin quantique avec excitations fractionnalisées. Nos résultats sont obtenus à l'aide de méthodes analytiques (analyse harmonique classique et quantique et théorie de perturbations) aussi bien que numériques (Monte Carlo) fondées sur des algorithmes originaux. / Frustration – namely the presence of competing interactions – gives rise to highly complex effects in physics. Ice – be it the well known water ice or its magnetic equivalent, the so-called spin-ice – offers a remarkable example in this context. For short-range interactions and classical degrees of freedom, its ground state is infinitely degenerate, and exhibits long-range correlations induced by a local constraint, characterizing the so-called Coulomb phase. Its elementary excitations correspond to the flip of a dipole “fractionalizing” into two monopoles. In this thesis we are interested in the stability of this Coulomb phase in the two-dimensional ice – realized in the form of a proton ice in organic compounds as well as of spin ice in nanomagnetic systems. In the classical case, dipolar interactions – present in the experimental systems – destabilize the Coulomb phase in the ground state. However, a slight deformation of the simple planar geometry allows to recover this phase in a regime where different ordered states compete with each other. In the quantum case, fluctuations due to a transverse magnetic field induce a symmetry breaking in the ground state, that melts at low temperature into a quantum Coulomb phase, realizing a quantum spin liquid with fractionalized excitations. Our results were obtained with analytical (classical and quantum normal-mode analysis and perturbation theory) as well as numerical techniques (Monte Carlo) based on original algorithms.

Ce mémoire d'habilitation à diriger les recherches présente des théories de champ moyen que j'ai appliquées à l'étude de systèmes d'électrons à fortes corrélations. Il s'appuie sur des travaux que j'ai effectués, pour certains dans la continuité de ma thèse, pour d'autres dans des directions nouvelles. L'une des problématiques centrales est celle des transitions de phases quantiques, et les systèmes considérés ont le point commun de décrire des impuretés quantiques, réelles ou artificielles. Les différentes méthodes de champ moyen utilisées sont présentées par des exemples dans le cadre de problèmes physiques particuliers. Après un premier chapitre introductif fortement focalisé sur l'exemple des composés d'électrons f, ce mémoire est structuré en trois chapitres principaux connectés respectivement aux trois thématiques suivantes : les composés Kondo, les liquides de spin, et les systèmes désordonnés.

La déstabilisation de l’ordre antiferromagnétique de Néel au profit de nouvelles phases quantiques à température nulle à deux dimensions est envisageable grâce au phénomène de frustration magnétique. Le modèle théorique de spins Heisenberg S=1/2 répartis sur le réseau bidimensionnel frustré kagome, constitué de triangles joints uniquement par leurs sommets, est susceptible de stabiliser des phases quantiques originales de liquides de spin, qui ne présentent aucune brisure de symétrie à T = 0. Cette thèse a été consacrée à l’étude expérimentale de deux types de composés de spins S=1/2 (Cu2+) à géométrie kagome à l’aide de techniques spectroscopiques locales, la RMN et la μSR, ainsi que de mesures thermodynamiques (susceptibilité magnétique, chaleur spécifique). Dans Mg-herbertsmithite, la frustration est générée par une interaction d’échange premiers voisins antiferromagnétique J et est responsable d’un comportement liquide de spin jusqu’à des températures de l’ordre de J/10000. Par rapport au composé isostructural antérieur, Zn-herbertsmithite, nous avons montré qu’il possédait des propriétés physiques similaires tout en permettant une caractérisation fine du taux de défauts de substitutions Cu/Mg. Nos expériences réalisées à partir d’échantillons contrôlés permettent d’étudier finement l’origine des plateaux de relaxation observés en μSR à basse température en lien avec l’existence des défauts de spins interplans. La kapellasite et l’haydéite possèdent des interactions ferromagnétiques (J1) et antiferromagnétiques (Jd), offrant la possibilité d’explorer le diagramme de phases générées par la compétition de ces interactions sur le réseau kagome. Pour la kapellasite, nos mesures de μSR démontrent le caractère liquide de spin jusqu’à T ≈ J1/1000. La dépendance en température de la susceptibilité magnétique sondée par RMN du 35Cl ainsi que de la chaleur spécifique permettent d’évaluer le rapport Jd/J1 = 0.85, qui localise classiquement son fondamental au sein d’une phase originale de spins non coplanaires à 12 sous-réseaux appelée cuboc2. Les interactions présentes dans l’haydéite localisent son fondamental au sein de la phase ferromagnétique, en bon accord avec nos mesures qui indiquent une transition partielle à caractère ferromagnétique à T = 4 K. Cette étude confirme la pertinence du réseau kagome frustré pour la stabilisation de phases quantiques originales et démontre l’existence d’une nouvelle phase liquide de spin sur ce réseau, distincte de celle attendue pour des spins couplés antiferromagnétiquement. / Magnetic frustration helps destabilizing conventional Néel order at T = 0 in dimensions 2, and therefore allows the emergence of new original quantum phases. The S=1/2 Heisenberg Hamiltonian on the highly frustrated kagome lattice, which is made of corner-sharing triangles, is expected to stabilize such quantum states, including the spin liquid ones which do not break any symmetry even at T = 0. This thesis work focuses on the experimental study of two kinds of S=1/2 (Cu2+) kagome compounds using NMR and μSR local probes as well as thermodynamic measurements (magnetic susceptibility, specific heat).In Mg-herbertsmithite magnetic frustration occurs thanks to a first nearest-neighbor antiferromagnetic interaction J and is responsible for the spin liquid behavior observed down to T = J/10000. In comparison with the formerly known isostructural counterpart Zn-herbertsmithite, we showed that it shares similar physical magnetic properties while allowing sensitive structural refinements and therefore a control of the level of Cu/Mg substitutions defects. Our experiments performed on such well controlled materials allow us to investigate the origin of the dynamical relaxation in these compounds in relation with the existence of interplane spins defects. Kapellasite and haydeite possess both ferromagnetic (J1) and antiferromagnetic (Jd) interactions. They offer the possibility to explore the phase diagram generated by such competing interactions on the kagome lattice. For kapellasite, our μSR experiments evidenced a spin liquid character down to T ≈ J1/1000. We tracked the temperature dependence of the magnetic susceptibility probed by 35Cl-NMR as well as of the specific heat, from which the ratio Jd/J1 = 0.85 can be evaluated. This ratio locates the ground-state of kapellasite to be within an original non-coplanar spin phase described by 12 magnetic sublattices and called cuboc2. Magnetic exchanges in haydeite locate its ground-state within the ferromagnetic phase. Both our local and thermodynamic measurements point to a partial ferromagnetic transition at T = 4 K. This study confirms the relevance of the frustrated quantum kagome lattice to stabilize original quantum phases and suggests the existence of a new spin liquid phase, distinct from the one expected for antiferromagnetically coupled spins.