Ce manuscrit décrit les projets de recherche qui ont porté sur l’étude de deux familles de matériaux magnétiques frustrés. La première partie traite de la réalisation d’expériences de chaleur spécifique sur le pyrochlore Sm2Ti2O7. Ces expériences ont eu lieu dans un réfrigérateur à dilution 3He-4He, à l’Université de Sherbrooke, dont le fonctionnement est décrit en amont. Ces expériences ont notamment permis l’étude de ce matériau aux températures inédites de 160 mK, où une transition magnétique du second ordre a été mise en évidence. La deuxième partie de ce mémoire porte sur l’étude des perovskites 6H, Ba3MRu2O9, à l’aide de la technique de rotation de spins de muons (mSR). Un chapitre de ce manuscrit est consacré à la description de cette technique, et les expériences ont eu lieu au centre de recherche TRIUMF, à Vancouver. Cette technique consiste à sonder le magnétisme local des matériaux placés dans un cryostat, afin de pouvoir remonter à la configuration magnétique de leur état fondamental. Contrairement à laRMN, la techinque de mSR présente le grand avantage de pouvoir sonder des matériaux avec des moments nucléaires nuls, et des expériences pouvant être réalisées sans l’application de champ externe, garantissant la conservation de l’état fondamental des matériaux étudiés. Nos expériences ont été réalisées sur quatre échantillons, avec M = La, Lu, In et Y, et bien que de précédentes études par diffraction de neutrons n’ont révélé aucune ordre magnétique à longue portée dans deux de ces composés, nos expériences ont pu mettre en évidence l’existence d’un état fondamental avec un faible moment magnétique. Enfin, l’importance des résultats de ces deux projets réside dans le fait d’avoir observé un état fondamental ordonné même si ces états n’ont pas pu être sondé à l’aide d’autres techniques, du fait des faibles moments magnétiques des matériaux étudiés.