L’objectif central de cette thèse est d’étudier des phases ordonnées en compétition dans des matériaux magnétiques présentant une structure cristalline tétragonale centrée.Ce travail est divisé en deux parties principales. Dans la première, nous présentons les résultats de notre étude de la compétition entre des états ordonnés antiferromagnétiques et des phases liquides de spin. Nous montrons comment ces dernières peuvent être stabilisées par la frustration géométrique et par une généralisation de la symétrie de spinau groupe SU(n). Les états antiferromagnétiques sont décrits par une théorie d’onde despin et l’analyse de liquide de spin est effectuée par une représentation fermionique des opérateurs de spin. Dans la deuxième partie, nous décrivons une théorie effective pour dércrire des expériences de diffusion Raman. Nous fournissons un aperçu de la phase d’ordre caché affichée par le composé de fermions lourds URu2Si2. / The main objective of this thesis is to investigate the competing ordered phases in the metallic heavy fermion compound URu2Si2, which displays a body-centered tetragonallattice. We first provide a study case of the competition between antiferromagnetic(AF) and spin liquid phases. The antiferromagnetic state is study with spin-wave theory. Whereas the spin liquid analysis has been carried out in an algebraic spin liquid representation.In the second part, we describe an effective theory for Raman scattering experiments at these particular phases. We provide insight about the hidden order phase displayed by the heavy fermion compound URu2Si2.