L'étude des systèmes magnétiques présentant de nouveaux types d'ordre non conventionnels induits notamment par de la frustration ou par le désordre dû aux impuretés fait actuellement l'objet de nombreuses recherches. Cette thèse s'inscrit dans cette problématique et est divisée en trois parties relativement indépendantes. La première partie est consacrée à l'étude d'un modèle XY, 2D, frustré par des interactions {\it compétitives}. J'ai montré que le diagramme de phase de ce modèle possède deux régimes differents, un régime faiblement frustré, dans lequel la transition est de type XY non-frustré, et un régime fortement frustré, dans lequel la symétrie est de type Z(2) X U(1)$, analogue à celle des modèles XY frustrés {\it géométriquement}. J'ai également montré l'existence du phase liquide de spin à T=0 lorsque les fluctuations quantiques sont prises en compte. Dans la seconde partie , j'ai analysé les effets des fluctuations thermiques et quantiques sur un modèle fortement frustré possedant un état fondamental extrèmement dégénéré: le modèle de Heisenberg antiferromagnétique sur le cactus de Husimi. Ce modèle est une simplication de systèmes réalisables expérimentalement comme les réseaux Pyrochlore et Kagomé. J'ai prouvé que les fluctuations thermiques laissent invariante la dégénérescence classique contrairement aux fluctuations quantiques qui sélectionnent un nombre discret d'états fondamentaux. Une analyse plus générale de ces phénomènes de sélection par les fluctuations quantiques a été fournie. Finalement, dans la dernière partie, j'ai appliqué les méthodes de théorie conforme pour étudier des modèles critiques couplés, reliés aux théories Z(2) X U(1)$ introduit précédemment. Plus précisément, j'ai obtenu les flots de renormalisation pour différents modèles de Potts à q états couplés en utilisant un développement en $\epsilon=q-2$. J'ai obtenu une riche variété de flots et de nouveaux points critiques non-triviaux. J'ai généralisé cette analyse en présence de désordre de liens. Cela fournit des exemples explicites de systèmes où le désordre transforme une transition du premier ordre dans le cas pur en transition du second ordre.

La création d'un gaz de trous bidimensionnel dans un puits quantique (Cd,Mn)Te permet d'induire une interaction ferromagnétique entre les spins localisés du semiconducteur magnétique dilué. Une nouvelle méthode de dopage utilisant les pièges à la surface de l'échantillon a été mise au point ; elle a permis d'étendre la gamme des valeurs expérimentalement accessibles pour les densités de spins et de porteurs. Les propriétés magnétiques sont mesurées par spectroscopie magnéto-optique (photoluminescence). Nous mesurons une température critique plus élevée que la température de Curie-Weiss, ce qui suggère un effet du désordre. Des mesures locales de la photoluminescence permettent de tracer des cartes de l'aimantation spontanée, de la densité de porteurs et de la densité de spins localisés : les échantillons dopés par la surface présentent des fluctuations de densité de porteurs plus grandes que les échantillons dopés par impuretés azote, et ces fluctuations induisent directement des fluctuations de l'aimantation spontanée.

Cette thèse est organisée autour d'une problématique centrale : l'étude théorique de l'effet Kondo dans les fermions lourds, lorsque les ions magnétiques sont en forte concentration.<br /><br />Dans une première partie, l'influence sur le réseau Kondo, d'une variation du nombre d'électrons de conduction est étudiée à basse température (problème de l'épuisement). Cet effet peut s'observer expérimentalement sur des composés de Cérium ou d'Uranium, dont la température de cohérence peut être bien plus petite que la température de Kondo à une impureté. Par des approches analytiques et numériques, le problème est résolu dans la limite ``grand-N'',<br />où N est le nombre de composantes du spin effectif. Alors que les modèles à une seule impureté sont caractérisés à basse température par une unique échelle d'énergie T_K, cette thèse confirme l'existence, pour le réseau Kondo, d'une deuxième échelle T*, caractéristique de l'apparition du comportement de liquide de Fermi, et définie à partir des propriétés physiques du système (thermodynamiques, magnétiques et de transport).<br /><br />Dans la deuxième partie, les effets du désordre et de la frustration magnétique du réseau Kondo sont étudiés analytiquement, dans le formalisme de la théorie du champ dynamique moyen, en considérant la limite ``grand-N''. Un point critique quantique (QCP) est obtenu, entre un régime de liquide de Fermi lourd et un régime de liquide de<br />spin. Les propriétés physiques du système sont calculées dans la phase Kondo, qui présente une très forte diminution de T* et de T_K à l'approche du QCP. Ce résultat est à corréler avec la forte masse effective observée expérimentalement pour le composé LiV$_{2}$O$_{4}$.<br /><br />Enfin, la troisième partie présente une étude préliminaire et les étapes principales du calcul permettant de déterminer numériquement le diagramme de phase magnétique du modèle d'Anderson périodique, par la méthode du champ dynamique moyen.

Le pavage de Penrose est une structure quasipériodique bidimensionnelle, utilisée dans la description des composés quasicristallins. Cette structure est parfaitement ordonnée, avec une symétrie de rotation cinq et elle est invariante sous un changement d'échelle par un facteur $\tau$ (le nombre d'or). On s'attend à ce que les propriétés d'un modèle d'antiferromagnétisme dans un tel système diffèrent nettement de celles des antiferromagnétiques périodiques. Nous avons étudié les propriétés d'un modèle d'Heisenberg sur le pavage de Penrose construit à partir de losanges, en utilisant une méthode de développement en ondes de spin. Les énergies et fonctions d'ondes des magnons (quantum d'une onde des spins) ont été étudiées dans le cadre d'une théorie linéarisée. A basse énergie, on trouve une loi de dispersion linéaire, comme dans d'autres antiferromagnetiques bipartites, avec une vitesse effective de l'onde de spin inférieure à celle d'un réseau carré équivalent. Les propriétés spatiales des modes propres ont été étudiées en détail. A basse énergie, nous trouvons que les états propres sont relativement étendus. Une analyse multifractale montre qu'ils sont de type “critique”, ayant une distribution d'exposants multifractaux. Aux énergies plus élevées, les états deviennent plus localisés, et, en fonction de l'énergie, l'amplitude de la fonction d'onde est non-nulle autour d'un sous-ensemble de sites d'une valeur de coordinence donnée. <br /><br />L'énergie de l'état fondamental de cette antiferromagnetique, et la distribution des aimantations locales dans cet état ont été calculés. Des projections dans l'espace perpendiculaire montrent la simplicité sous-jacente de ce état "complexe". Un simple modèle analytique, l'étoile de Heisenberg à deux niveaux, a été présenté pour expliquer de la distribution d'aimantation locales dans ce système antiferromagnétique.<br /><br />Dans une dernière partie, les effets de désordre de type “phason” sont considérés. Nous avons progressivement augmenté le désordre géometrique de la structure originale. Nous avons trouvé que l'etat fondamental conserve son ordre de Néel, mais que la forme de la distribution ainsi que la norme des aimantations sont modifiés. Nous montrons, à l'aide d'un développement en ondes des spin ainsi que par Quantum Monte Carlo, que l'aimantation alternée diminue exponentiellement vers une valeur asymptote en fonction du désordre. La distribution spatiale de magnetizations locales devient plus homogène par rapport à pavage parfait. La vitesse des ondes des spin augmente avec le désordre, et les singularités dans le spectre et les functions d'onde sont en partie lissées. Ces résultats sont comparés avec des résultats connus dans des systèmes désordonnés.

Dans les systemes fortement correles, tels que les oxydes de cuivre, la competition entre les fluctuations quantiques et le desordre peut donner lieu a une nouvelle physique, non triviale. Afin d'apprehender correctement la specificite des effets lies aux impuretes et au desordre dans certains systemes magnetiques de basse dimensionnalite, l'utilisation des techniques numeriques est au coeur de ce travail de these. Tout d'abord, nous verrons que la physique des chaines antiferomagnetiques de spin-1/2 avec des couplages aleatoires est, pour les systemes de taille finie, controlee par un crossover entre une ligne critique de points fixes purs et un point fixe qualifie de desordre infini. De plus, une analogie directe avec le probleme de la localisation a une dimension est soulevee, grace a l'emergence d'une seule et unique longueur d'echelle, dependant du desordre, gouvernant les deux phenomenes. Par ailleurs, l'influence du desordre sur des systemes ayant un gap de spin sera aussi abordee a travers le probleme du dopage en impuretes non magnetiques de chaines de spin-1/2 frustrees couplees, modelisant ainsi le comportement du compose spin-Peierls CuGeO3 dope. Un hamiltonien effectif de basse energie, decrivant l'interaction entre les impuretes sous le gap de spin, sera ensuite construit et etudie a l'aide de simulations Monte Carlo quantique SSE afin d'apprehender la mise en ordre antiferromagnetique induite par le dopage. La suite du travail sera dediee a l'etude du comportement inattendu de la susceptibilite magnetique a basse temperature a l'aide d'une methode de renormalisation des couplages dans l'espace reel. Le comportement critique de ce systeme quasi-unidimensionnel sera aussi compare aux classes d'universalites connues dans les systemes magnetiques soumis au desordre.

Dans cette thèse, on étudie des processus stochastiques issus de la physique statistique. Le mouvement Brownien fractionnaire, objet central des premiers chapitres, généralise le mouvement Brownien aux cas où la mémoire est importante pour la dynamique. Ces effets de mémoire apparaissent par exemple dans les systèmes complexes et la diffusion anormale. L’absence de la propriété de Markov rend difficile l’étude probabiliste du processus. On développe une approche perturbative autour du mouvement Brownien pour obtenir de nouveaux résultats, sur des observables liées aux statistiques des extrêmes. En plus de leurs applications physiques, on explore les liens de ces résultats avec des objets mathématiques, comme les lois de Lévy et la constante de Pickands. / In this thesis, we study stochastic processes appearing in different areas of statistical physics: Firstly, fractional Brownian motion is a generalization of the well-known Brownian motion to include memory. Memory effects appear for example in complex systems and anomalous diffusion, and are difficult to treat analytically, due to the absence of the Markov property. We develop a perturbative expansion around standard Brownian motion to obtain new results for this case. We focus on observables related to extreme-value statistics, with links to mathematical objects: Levy’s arcsine laws and Pickands’ constant. Secondly, the model of elastic interfaces in disordered media is investigated. We consider the case of a Brownian random disorder force. We study avalanches, i.e. the response of the system to a kick, for which several distributions of observables are calculated analytically. To do so, the initial stochastic equation is solved using a deterministic non-linear instanton equation. Avalanche observables are characterized by power-law distributions at small-scale with universal exponents, for which we give new results.

Ce mémoire d'habilitation à diriger les recherches présente des théories de champ moyen que j'ai appliquées à l'étude de systèmes d'électrons à fortes corrélations. Il s'appuie sur des travaux que j'ai effectués, pour certains dans la continuité de ma thèse, pour d'autres dans des directions nouvelles. L'une des problématiques centrales est celle des transitions de phases quantiques, et les systèmes considérés ont le point commun de décrire des impuretés quantiques, réelles ou artificielles. Les différentes méthodes de champ moyen utilisées sont présentées par des exemples dans le cadre de problèmes physiques particuliers. Après un premier chapitre introductif fortement focalisé sur l'exemple des composés d'électrons f, ce mémoire est structuré en trois chapitres principaux connectés respectivement aux trois thématiques suivantes : les composés Kondo, les liquides de spin, et les systèmes désordonnés.