La première partie de cette thèse est consacrée aux systèmes magnétiques classiques. Une méthode de recherche exhaustive des états ne brisant aucune symétrie spatiale de divers réseaux est présentée. De nouveaux ordres de Néel sur le réseau kagome sont décrits. Leurs facteurs de structure statiques fournissent une grille d'analyse pour les résultats expérimentaux. Certains ordres ayant des spins non coplanaires sont les uniques états fondamentaux de Hamiltoniens d'Heisenberg. La chiralité, paramètre d'ordre discret, donne lieu à une transition de phase à température finie, étudiée sur un modèle générique. Nous montrons que des défauts topologiques Z2 prolifèrent aux murs de domaines chiraux. L'ordre de la transition (premier ordre ou classe d'universalité d'Ising) dépend des interactions entre spins. La théorie des bosons de Schwinger en champ moyen (SBMFT) permet de faire le lien entre physique de spins classiques et quantiques : elle permet de décrire à la fois des phases ordonnées à longue portée et des phases désordonnées, parmi lesquelles les liquides de spins topologiques. Les symétries et les moyens de les imposer en SBMFT sont analysés. Différentes phases se distinguent grâce aux flux, quantités invariantes de jauge ayant une signification physique aussi bien dans un système quantique que dans la limite classique. Les visons, excitations quantiques modifiant les flux, ont ainsi leur limite classique avec les vortex Z2. En relâchant certaines contraintes de symétrie, on obtient des phases chirales, dont la limite classique renvoie au premier chapitre de cette thèse, et dont la phase désordonnée fournit des liquides de spin chiraux. L'exemple de l'interaction Dzyaloshinskii-Moriya sur le réseau kagome est étudié.