L'objet de cette thèse est l'étude des propriétés magnétiques de deux systèmes bidimensionels. Le premier correspond à des composés de cuprate ou vanadate qui peuvent être modélisés par un système de spins sur réseau carré et un modèle d'Heisenberg à trois couplages, avec un premier couplage ferromagnétique et des couplages deuxièmes et troisièmes voisins antiferromagnétiques. Le système ainsi obtenu constitue un système frustré. Après obtention du diagramme de phase classique en fonction des couplages, nous avons étudié l'effet sur celui-ci des fluctuations quantiques par la méthode des bosons de Holstein-Primakov et celle des bosons de Schwinger. Le deuxième type de système auquel nous nous sommes intéressés sont les systèmes finis de graphène. Pour étudier ce matériau, nous avons utilisé une approximation champ moyen du modèle d'Hubbard. Dans un premier temps nous avons retrouvé des résultats déjà connus confirmant ainsi une implémentation correcte de notre modèle. Nous avons ensuite cherché à établir la précision de cette méthode en comparant les résultats obtenus par cette méthode avec ceux obtenus par diagonalisation exacte du modèle et ceux obtenus par simulation Monte Carlo. Et en dernier lieu nous avons mis en évidence une signature dynamique de l'aimantation des bords en zigzag des systèmes finis de graphène.