Ce manuscrit décrit les projets de recherche qui ont porté sur l’étude de deux familles de matériaux magnétiques frustrés. La première partie traite de la réalisation d’expériences de chaleur spécifique sur le pyrochlore Sm2Ti2O7. Ces expériences ont eu lieu dans un réfrigérateur à dilution 3He-4He, à l’Université de Sherbrooke, dont le fonctionnement est décrit en amont. Ces expériences ont notamment permis l’étude de ce matériau aux températures inédites de 160 mK, où une transition magnétique du second ordre a été mise en évidence. La deuxième partie de ce mémoire porte sur l’étude des perovskites 6H, Ba3MRu2O9, à l’aide de la technique de rotation de spins de muons (mSR). Un chapitre de ce manuscrit est consacré à la description de cette technique, et les expériences ont eu lieu au centre de recherche TRIUMF, à Vancouver. Cette technique consiste à sonder le magnétisme local des matériaux placés dans un cryostat, afin de pouvoir remonter à la configuration magnétique de leur état fondamental. Contrairement à laRMN, la techinque de mSR présente le grand avantage de pouvoir sonder des matériaux avec des moments nucléaires nuls, et des expériences pouvant être réalisées sans l’application de champ externe, garantissant la conservation de l’état fondamental des matériaux étudiés. Nos expériences ont été réalisées sur quatre échantillons, avec M = La, Lu, In et Y, et bien que de précédentes études par diffraction de neutrons n’ont révélé aucune ordre magnétique à longue portée dans deux de ces composés, nos expériences ont pu mettre en évidence l’existence d’un état fondamental avec un faible moment magnétique. Enfin, l’importance des résultats de ces deux projets réside dans le fait d’avoir observé un état fondamental ordonné même si ces états n’ont pas pu être sondé à l’aide d’autres techniques, du fait des faibles moments magnétiques des matériaux étudiés.

La physique des oscillations de neutrinos occupe une place majeure dans les études s'intéressant à cetteparticule. Le mécanisme des oscillations, basé sur un changement d'état de saveur d'un neutrino durant sapropagation, permet d'élucider les déficits observés de neutrinos solaires et atmosphériques et apporte des indicationsintéressantes de physique au delà du Modèle Standard par l'étude des angles de mélanges et du schéma de masse desneutrinos.OPERA est un détecteur hybride combinant à la fois latechnique d'une détection électronique en temps réel et la technique de la chambre à brouillard à émulsion ou ECC(EmulsionCloud Chamber). Le détecteur ECC est un détecteur massif (cible) composé de 150000 briques dontchacune est constituée de feuilles de plombs, utilisées comme cible, alternées avec des émulsions nucléaires dont laprécision de reconstruction des traces est de l'ordre du micron. Le détecteur comprend également deux spectromètresavec des plaques de fer magnétisé de 5 cm d'épaisseur alternées avec les détecteurs RPC (Resistive Plate Chamber)associés à six ensembles de drift tubes (PT) pour la mesure de la charge et de l'impulsion du muon, et un plan de vetoservant à la rejection des particules extérieures à la cible.

La physique des oscillations de neutrinos occupe une place majeure dans les études s’intéressant à cetteparticule. Le mécanisme des oscillations, basé sur un changement d’état de saveur d’un neutrino durant sapropagation, permet d’élucider les déficits observés de neutrinos solaires et atmosphériques et apporte des indicationsintéressantes de physique au delà du Modèle Standard par l'étude des angles de mélanges et du schéma de masse desneutrinos.OPERA est un détecteur hybride combinant à la fois latechnique d'une détection électronique en temps réel et la technique de la chambre à brouillard à émulsion ou ECC(EmulsionCloud Chamber). Le détecteur ECC est un détecteur massif (cible) composé de 150000 briques dontchacune est constituée de feuilles de plombs, utilisées comme cible, alternées avec des émulsions nucléaires dont laprécision de reconstruction des traces est de l'ordre du micron. Le détecteur comprend également deux spectromètresavec des plaques de fer magnétisé de 5 cm d'épaisseur alternées avec les détecteurs RPC (Resistive Plate Chamber)associés à six ensembles de drift tubes (PT) pour la mesure de la charge et de l'impulsion du muon, et un plan de vetoservant à la rejection des particules extérieures à la cible. / The physics of neutrino oscillations plays a major role in studies concerned with cetteparticule. The mechanism of oscillations, based on a change of state of a neutrino flavor during sapropagation, elucidates the deficits observed solar and atmospheric neutrinos and provides indicationsintéressantes of physics beyond the Standard Model by studying the angles mixtures and mass desneutrinos.OPERA scheme is a hybrid sensor combining both latechnique an electronic real-time detection technology and the cloud chamber emulsion or ECC (EmulsionCloud chamber). The ECC is a solid detector detector (target) consisting of bricks dontchacune 150000 consists of sheets of lead, used as a target, with alternate nuclear emulsion whose traces laprécision reconstruction is of the order of one micron. The detector also includes two spectromètresavec magnetized iron plates 5 cm alternating with RPC (Resistive Plate Chamber) detectors associated with six sets of drift tubes (PT) to measure the charge and momentum of the muon thickness and plan vetoservant the rejection of foreign particles to the target.

Ce mémoire porte sur la détermination de la structure magnétique du supraconducteur et fermion lourd Ce₃PtIn₁₁ dans l’état supraconducteur par spectroscopie muonique afin de vérifier l’existence de la phase antiferromagnétique dans la phase supraconductrice. Il est suggéré que l’effet Kondo écrante le champ magnétique du site Ce(1) qui serait responsable de la supraconductivité et le site Ce(2) serait plutôt responsable de l’ordre magnétique. Les mesures ont été prises sur une mosaïque de monocristaux cultivés en laboratoire préalablement au début de ce mémoire par spectroscopie muonique. Au site muonique dans l’état supraconducteur, un champ magnétique entre 45.4(1.1)G et 48.7(1.3)G au site Ce(1) et entre 120(4)G et 132(3)G au site Ce(2) est mesuré, appuyant l’hypothèse de départ. Les sites possibles d’implantation de muons dans la cellule cristalline du Ce₃PtIn₁₁ ont été calculés pour les quatre structures magnétiques proposées par Shioda et al. Ces sites ont été visuellement comparés à la distribution de densité électronique dans la cellule cristalline du Ce₃PtIn₁₁ mais il n’a pas été possible de confirmer ou infirmer la présence d’une des quatre structures. Un échantillon de CeIn₃ a été analysé pour vérifier l’impact d’une contamination de 5-10% dans l’échantillon de Ce₃PtIn₁₁. L’absence de signal de précession dans la gamme de température d’intérêt indique qu’une contamination en CeIn₃ n’aurait pas d’impact significatif sur l’interprétation des champs magnétiques. La croissance de nouveaux échantillons de Ce₃PtIn₁₁ polycristallin et de Ce₃PtIn₁₁ et CeIn₃ monocristallins a également été effectuée. Le pourcentage de Ce₃PtIn₁₁ polycristallin calculé par diffraction aux rayons-X est de 55.49790%, et la croissance de Ce₃PtIn₁₁ monocristallin n’a pas réussi. Le pourcentage de CeIn₃ monocristallin calculé par diffraction aux rayons-X est de 93.6291%, et la caractérisation du CeIn₃ par chaleur spécifique concorde avec les résultats antérieurs avec une transition de phase près de 10K. / This thesis concerns the determination of the magnetic structure of the superconductor and heavy fermion Ce₃PtIn₁₁ in the superconducting state by muon spectroscopy in order to verify the existence of the antiferromagnetic phase in the superconducting phase. It is suggested that the Kondo effect screens the magnetic field of the Ce(1) site, responsible for superconductivity, while the Ce(2) site is responsible for the magnetic order. The measurements were taken on a mosaic of single crystals grown in the laboratory prior to the start of this thesis by muon spectroscopy. At the muon site in the superconducting state, a magnetic field between 45.4(1.1)G and 48.7(1.3)G at the Ce(1) site and between 120(4)G and 132(3)G at the Ce(2) is measured, supporting the initial hypothesis. The possible muon implantation sites in the Ce₃PtIn₁₁ crystal cell were calculated for the four magnetic structures proposed by Shioda et al. These sites were visually compared to the electron density distribution in the Ce₃PtIn₁₁ crystal cell but it was not possible to confirm or refute the presence of any of the four structures. A CeIn₃ sample was analyzed to verify the impact of 5-10% contamination in the Ce₃PtIn₁₁ sample. The absence of a precession signal in the temperature range of interest indicates that CeIn₃ contamination would not have a significant impact on the interpretation of the magnetic fields. The growth of polycrystalline Ce₃PtIn₁₁ and single-crystal Ce₃PtIn₁₁ and CeIn₃ samples was also carried out. The percentage of polycrystalline calculated by X-ray diffraction is 55.49790%, and the growth of Ce₃PtIn₁₁ single crystals was not successful. The percentage of single-crystalline CeIn₃ calculated by X-ray diffraction is 93.6291%, and the characterization of CeIn₃ by specific heat agrees with previous results with a phase transition near 10K.