La physique de basse énergie du modèle de Heisenberg antiferromagnétique pour des spins 1/2 en deux dimensions recèle une grande variété de comportements, pour certains mal compris, lorsque l'on est en présence de frustration. Outre l'intérêt théorique que présente l'étude de ces modèles, il se trouve qu'ils décrivent de manière satisfaisante de nombreux composés réels maintenant synthétisés. Dans cette thèse, nous abordons les deux aspects de l'étude de ces modèles. D'un point de vue théorique, nous examinons ce modèle, à l'aide de techniques numériques, sur l'un des réseaux les plus frustrés : le réseau kagomé. Nous montrons comment les très fortes signatures de la frustration (existence d'un gap de spin peuplé d'un grand nombre d'états singulets) observées dans ce modèle peuvent être correctement comprises à l'aide d'états RVB (<< Resonating Valence Bond >>, Lien de Valence Résonant) à courte portée. Cette approche présente en outre l'intérêt de donner une image relativement simple de la physique de basse énergie du modèle. Bien qu'attribuées à la forte frustration de ce modèle, les propriétés du spectre du hamiltonien de Heisenberg sur le réseau kagomé n'avaient pas d'équivalent dans les systèmes analogues. Nous mettons en évidence, de manière exacte, l'existence de propriétés semblables (gap de spin et singulets de basse énergie) dans un modèle unidimensionnel de tétraèdres couplés. Nous abordons enfin les applications de l'étude numérique des modèles frustrés à l'explication de propriétés de composés réels. En effet, il est notamment possible de confronter ces résultats à des mesures de susceptibilité ou à des expériences de diffraction de neutrons. Nous examinons tout d'abord le composé CaV4O9, premier système bidimensionnel demi-rempli présentant un gap dans son spectre d'excitations. Nous montrons que l'analyse des symétries du premier état excité permet, par comparaison avec la relation de dispersion obtenue par diffraction de neutrons, de borner les paramètres du modèle, par ailleurs difficiles à évaluer par des méthodes de chimie quantique. L'analyse de la susceptibilité rend possible, dans le cas de Li2VO(Si,Ge)O4 qui est la première réalisation du modèle J_1 - J_2 sur le réseau carré, la mise en évidence de la frustration et l'évaluation de son importance dans ces deux composés.

Dans la description à basse énergie de systèmes fortement corrélés, les champs de jauge peuvent émerger comme excitations collectives couplées à des quasiparticules fractionalisées. En particulier, certains aimants bidimensionnels dits frustrés sont décrits par un liquide de spin de Dirac comportant une symétrie de jauge U(1) compacte. La description infrarouge est donnée par une théorie conforme des champs, soit l'électrodynamique quantique en 2+1 dimensions avec 2N saveurs de fermions sans masse. Dans les aimants typiques, N=2 ou 4. L'aspect compact du champ de jauge implique également l'existence d'excitations topologiques, soit des instantons créés, dans ce contexte, par des opérateurs monopôles. Cette thèse porte sur les transitions de phase quantiques à partir d'un liquide de spin de Dirac et les propriétés des monopôles aux points critiques correspondants. Ces transitions sont induites en activant diverses interactions de type Gross-Neveu. Dans tous les cas à l'étude, la dimension d'échelle des monopôles est obtenue grâce à la correspondance état-opérateur et à un développement en 1/N. L'accent est d'abord mis sur une transition de confinement-déconfinement vers une phase antiferromagnétique décrite par la condensation d'un monopôle. Une levée de dégénérescence est observée au point critique alors que certaines dimensions d'échelle de monopôles sont réduites par rapport à leur valeur dans le liquide de spin de Dirac. Cette hiérarchie est caractérisée quantitativement en comparant les dimensions d'échelle dans des secteurs distincts du spin magnétique à l'ordre dominant en 1/N, puis qualitativement par une analyse en théorie des représentations. Des exposants critiques pour d'autres observables dans la théorie non compacte sont également obtenus. Enfin, deux transitions vers des liquides de spin topologiques, soit le liquide de spin chiral et le liquide de spin Z2, sont considérées. Les dimensions anormales des monopôles sont obtenues à l'ordre sous-dominant en 1/N. Ces résultats permettent de vérifier une dualité conjecturée avec un modèle bosonique et la valeur d'un coefficient universel pour les théories de jauge U(1) / In strongly correlated systems, gauge fields can emerge as collective excitations coupled to fractionalized quasiparticles. In particular, certain frustrated two-dimensional quantum magnets are described by a Dirac spin liquid which has a U(1) gauge symmetry. The infrared description is given by a conformal field theory, namely quantum electrodynamics in 2+1 dimensions with 2N flavours of massless fermions. In typical magnets, N=2 or 4. The compact aspect of the gauge field also implies the existence of topological excitations corresponding to instantons, which are created by monopole operators in this context. This thesis focuses on quantum phase transitions out of a Dirac spin liquid and the properties of monopoles at the corresponding critical points. These transitions are driven by activating various types of Gross-Neveu interactions. In all the cases studied, the scaling dimension of monopoles are obtained using the state-operator correspondence and a 1/N expansion. The confinement-deconfinement transition to an antiferromagnetic order produced by a monopole condensate is first studied. A degeneracy lifting is observed at the critical point, as certain monopoles have their scaling dimension reduced in comparison with the value in the Dirac spin liquid. This hierarchy is charactized quantitatively by comparing monopole scaling dimensions in distinct magnetic spin sector at leading-order in 1/N, and qualitatively by an analysis in representation theory. Critical exponents of various other operators are obtained in the non-compact model. Transitions to two topological spin liquids, namely a chiral spin liquid and a Z2 spin liquid, are also considered. Anomalous dimensions of monopoles are obtained at sub-leading order in 1/N. These results allow the verification of a conjectured duality with a bosonic model and the value of a universal coefficient in U(1) gauge theories.