Il aura fallu plusieurs années après que l'idée d'une transition de phase à température nulle émerge pour que l'on comprenne l'impact d'un tel point critique quantique sur une vaste région du diagramme de phase. Observé dans de nombreux exemples expérimentaux, ce régime critique quantique n'est toutefois pas encore bien compris sur le plan théorique et nécessite de nouvelles approches. Dans une première partie, nous nous intéressons au point critique quantique ferromagnétique. Après avoir construit une approche contrôlée permettant de décrire le régime critique quantique, nous montrons au travers de la susceptibilité statique de spin que le point critique quantique ferromagnétique est instable, détruit par une interaction effective dynamique à longue portée générée par l'amortissement de Landau des fluctuations de spin. Dans une seconde partie, nous revisitons le cas d'une impureté Kondo exactement écrantée avec une représentation bosonique du spin local et dans une limite de grande dégénérescence de spin N. Nous montrons que dans ce régime, l'état fondamental est un liquide de Fermi non-trivial contrairement à ce qui était communément admis. Nous étendons alors notre méthode au cas de deux impuretés couplées où nos résultats coincident qualitativement avec les approches déjà existantes. Ensuite, nous développons un formalisme de Luttinger-Ward capable de pallier certains défauts de l'approche originale pour la description d'une impureté isolée. Enfin, nous détaillons les bases ainsi que les premiers résultats de l'extension à un réseau Kondo de moments locaux, pertinent pour la compréhension du régime critique quantique des matériaux de type fermions lourds.

La première partie de cette thèse est consacrée aux systèmes magnétiques classiques. Une méthode de recherche exhaustive des états ne brisant aucune symétrie spatiale de divers réseaux est présentée. De nouveaux ordres de Néel sur le réseau kagome sont décrits. Leurs facteurs de structure statiques fournissent une grille d'analyse pour les résultats expérimentaux. Certains ordres ayant des spins non coplanaires sont les uniques états fondamentaux de Hamiltoniens d'Heisenberg. La chiralité, paramètre d'ordre discret, donne lieu à une transition de phase à température finie, étudiée sur un modèle générique. Nous montrons que des défauts topologiques Z2 prolifèrent aux murs de domaines chiraux. L'ordre de la transition (premier ordre ou classe d'universalité d'Ising) dépend des interactions entre spins. La théorie des bosons de Schwinger en champ moyen (SBMFT) permet de faire le lien entre physique de spins classiques et quantiques : elle permet de décrire à la fois des phases ordonnées à longue portée et des phases désordonnées, parmi lesquelles les liquides de spins topologiques. Les symétries et les moyens de les imposer en SBMFT sont analysés. Différentes phases se distinguent grâce aux flux, quantités invariantes de jauge ayant une signification physique aussi bien dans un système quantique que dans la limite classique. Les visons, excitations quantiques modifiant les flux, ont ainsi leur limite classique avec les vortex Z2. En relâchant certaines contraintes de symétrie, on obtient des phases chirales, dont la limite classique renvoie au premier chapitre de cette thèse, et dont la phase désordonnée fournit des liquides de spin chiraux. L'exemple de l'interaction Dzyaloshinskii-Moriya sur le réseau kagome est étudié.