La frustration - c'est-à-dire la présence d'interactions de nature compétitive - donne lieu à des effets de grande complexité en physique. La glace - aussi bien la phase bien connue de l'eau, que ses analogues magnétiques, dites " glaces de spin " - en offre un exemple remarquable. Pour des interactions à courte portée et des degrés de liberté classiques, son état fondamental est infiniment dégénéré, et comporte en outre des corrélations à longue portée induites par une contrainte locale, caractéristiques de la phase dite de Coulomb. Ses excitations élémentaires correspondent au retournement d'un dipôle qui se " fractionnalise " en deux monopôles. Dans cette thèse nous nous intéressons à la stabilité de cette phase de Coulomb dans la glace bidimensionnelle - réalisée aussi bien comme glace de protons dans des composés organiques, que comme glace de spin dans des systèmes nanomagnétiques. Dans le cas classique, les interactions dipolaires - présentes dans les systèmes expérimentaux - déstabilisent la phase de Coulomb dans son état fondamental. Cependant, une déformation de la simple géométrie planaire permet de récupérer cette phase dans un régime où différents états ordonnés entrent en compétition. Dans le cas quantique, les fluctuations dues à un champ magnétique transverse induisent une brisure de symétrie dans l'état fondamental qui, à basse température, cède la place à une phase de Coulomb quantique, réalisant un liquide de spin quantique avec excitations fractionnalisées. Nos résultats sont obtenus à l'aide de méthodes analytiques (analyse harmonique classique et quantique et théorie de perturbations) aussi bien que numériques (Monte Carlo) fondées sur des algorithmes originaux.

La frustration – c'est-à-dire la présence d'interactions de nature compétitive – donne lieu à des effets de grande complexité en physique. La glace – aussi bien la phase bien connue de l'eau, que ses analogues magnétiques, dites « glaces de spin » – en offre un exemple remarquable. Pour des interactions à courte portée et des degrés de liberté classiques, son état fondamental est infiniment dégénéré, et comporte en outre des corrélations à longue portée induites par une contrainte locale, caractéristiques de la phase dite de Coulomb. Ses excitations élémentaires correspondent au retournement d'un dipôle qui se « fractionnalise » en deux monopôles. Dans cette thèse nous nous intéressons à la stabilité de cette phase de Coulomb dans la glace bidimensionnelle – réalisée aussi bien comme glace de protons dans des composés organiques, que comme glace de spin dans des systèmes nanomagnétiques. Dans le cas classique, les interactions dipolaires – présentes dans les systèmes expérimentaux – déstabilisent la phase de Coulomb dans son état fondamental. Cependant, une déformation de la simple géométrie planaire permet de récupérer cette phase dans un régime où différents états ordonnés entrent en compétition. Dans le cas quantique, les fluctuations dues à un champ magnétique transverse induisent une brisure de symétrie dans l'état fondamental qui, à basse température, cède la place à une phase de Coulomb quantique, réalisant un liquide de spin quantique avec excitations fractionnalisées. Nos résultats sont obtenus à l'aide de méthodes analytiques (analyse harmonique classique et quantique et théorie de perturbations) aussi bien que numériques (Monte Carlo) fondées sur des algorithmes originaux. / Frustration – namely the presence of competing interactions – gives rise to highly complex effects in physics. Ice – be it the well known water ice or its magnetic equivalent, the so-called spin-ice – offers a remarkable example in this context. For short-range interactions and classical degrees of freedom, its ground state is infinitely degenerate, and exhibits long-range correlations induced by a local constraint, characterizing the so-called Coulomb phase. Its elementary excitations correspond to the flip of a dipole “fractionalizing” into two monopoles. In this thesis we are interested in the stability of this Coulomb phase in the two-dimensional ice – realized in the form of a proton ice in organic compounds as well as of spin ice in nanomagnetic systems. In the classical case, dipolar interactions – present in the experimental systems – destabilize the Coulomb phase in the ground state. However, a slight deformation of the simple planar geometry allows to recover this phase in a regime where different ordered states compete with each other. In the quantum case, fluctuations due to a transverse magnetic field induce a symmetry breaking in the ground state, that melts at low temperature into a quantum Coulomb phase, realizing a quantum spin liquid with fractionalized excitations. Our results were obtained with analytical (classical and quantum normal-mode analysis and perturbation theory) as well as numerical techniques (Monte Carlo) based on original algorithms.