L'objectif principal de ma thèse porte sur les composés à base d'europium, une des terres rares qui est magnétique et qui forme des semiconducteurs magnétiques. Le but premier était de mesurer les corrélations magnétiques dans l'EuB6 à l'aide de la technique diffraction de neutrons à petits angles SANS (small angle neutron scattering en anglais), plus précisément de mesurer la longueur de corrélation des polarons magnétiques. La raison de sonder les polarons magnétiques dans l'EuB6 est que leur présence pourrait expliquer la grande magnétorésistance proche de la transition Curie associée avec l'ordre ferromagnétique. Ceci est une tâche particulièrement difficile puisque l'europium est un très grand absorbeur de neutrons, affectant donc la durée d'acquisition. De longs temps d'exposition étaient nécessaires pour obtenir un bruit de fond adéquat. Suite à l'analyse des données, nous avons pu conclure que les polarons magnétiques sont définitivement présents. De plus, leur présence augmente de façon non négligeable les fluctuations magnétiques. Par contre, la présence de ces fluctuations magnétiques rend la tâche de mesurer la longueur de corrélation plus difficile. La plus grande découverte de mon doctorat a été la phase nématique dans le EuB6 grâce à des mesures de magnétorésistance en fonction de l'angle. Ceci se manifestait avec une brisure de symétrie du cristal seulement dans les propriétés électroniques. Ces données m'ont permis de mieux comprendre le rôle que jouent les polarons magnétiques dans ce système. En dopant le système au calcium, nous avons confirmé la présence d'une transition vers un ordre de verre de spins à partir d'une concentration de 30% de calcium. Ce composé semble posséder la même phase nématique que le EuB6. Toutefois, cette phase est bien plus concentrée autour de la transition à cause du manque de fluctuations magnétiques au-dessus de celle-ci. / The main objective of my thesis is about Europium, a magnetic rare earth, based compounds which produces magnetic semiconductors. The primary goal was to measure magnetic correlations in the EuB6 using SANS (small angle neutron scattering) technique, more precisely, to measure the correlation length of magnetic polarons. The raison for studying magnetic polarons in EuB6 is that their presence can explain the large magnetoresistance near the Curie transition associated to a ferromagnetic order. This is a particularly difficult task since Europium (Eu2+) is a very strong neutron absorber, thus affecting the acquisition time. Long exposure times were necessary to obtain adequate background. After the analysis of the data, we have finally been able to conclude that magnetic polarons are definitely present. In addition, their presence increases significantly magnetic fluctuations. On the other hand, the presence of these magnetic fluctuations makes the task of measuring the correlation length more difficult. The biggest discovery of my Ph.D. was the nematic phase in the EuB6 using angle-based magneto-resistance measurements. The nematic phase is caracterized by a breaking of symmetry only in the electronic properties. These data have allowed me to better understand the role played by magnetic polarons in this system. By doping the system with calcium, we confirmed the presence of a transition to a spin glass order from a concentration of 30% calcium. This compound seems to have the same nematic phase as its parent compound. However, this phase is much more concentrated around the spin glass transition because of lack of magnetic fluctuations above it.

Cette thèse est divisée en trois parties. Une première section présente les résultats de l'étude de la formation de polarons magnétiques liés (BMP) dans le ferroaimant EuB6 par diffusion de neutrons à petits angles (SANS). La nature magnétique du système ferromagnétique est observée sous une température critique de 15K. La signature des BMP n'apparaît pas dans la diffusion de neutrons, mais ces mesures permettent de confirmer une limite inférieure de 100\AA à la longueur de cohérence des BMP (xi_{Lower}). Dans un second temps, l'étude du LaRhSi3, un supraconducteur sans symétrie d'inversion, par muSR et ZF-muSR nous permet de sonder le comportement magnétique du système dans la phase supraconductrice. Aucun champ magnétique interne n'a été détecté en ZF-muSR sous la température critique (T_c = 2.2K). Cela indique que la phase supraconductrice ne porte pas de moment cinétique intrinsèque. L'analyse du spectre d'asymétrie sous l'application d'un champ magnétique externe nous apprend que le système est faiblement type II par l'apparition de la signature de domaines magnétiques typique d'un réseau de vortex entre H_{c1}(0) et H_{c2}(0), respectivement de 80+/- 5 et 169.0 +/- 0.5 G. Finalement, la troisième section porte sur l'étude du champ magnétique interne dans l'antiferroaimant organique NIT-2Py. L'observation d'une dépendance en température des champs magnétiques internes aux sites d'implantation muonique par ZF-muSR confirme la présence d'une interaction à longue portée entre les moments cinétiques moléculaires. Ces valeurs de champs internes, comparées aux calculs basés sur la densité de spins obtenue par calculs de la théorie de la fonctionnelle de la densité, indiquent que la moitié des molécules se dimérisent et ne contribuent pas à l'ordre antiferromagnétique. La fraction des molécules contribuant à l'ordre antiferromagnétique sous la température critique (T_c = 1.33 +/- 0.01K) forme des chaines uniformément polarisées selon l'axe (1 0 -2). Ces chaines interagissent antiferromagnétiquement entre elles le long de l'axe (0 1 0) et ferromagnétiquement entre les plan [-1 0 2]. / This thesis is divided in three sections. The first section presents the results from a small angle neutron scattering (SANS) investigation of the formation of bound magnetic polarons in the ferromagnet EuB6. While the magnetic nature of the system was observed below 15K, we could not resolve the q dependent signature of the polarons, thus putting a lower limit of 100\AA to the coherence length of the phenomenon (xi_{Lower}). Secondly, we investigated the non-centrosymmetric superconductor LaRhSi3 by muSR. The absence of an internal field below T_c = 2.2 K in ZF-muSR, indicates that the superconducting wave function does not carry an intrinsic magnetic moment. The asymmetry spectrum taken under external magnetic field shows the magnetic signature associated with vortices between H_{c1}(0) and H_{c2}(0), respectively 80 +/- 5 and 169.0 +/- 0.5 G, suggesting the system is weakly type-II. Finally, the third section presents the zero field muSR study of internal magnetic fields in the organic antiferromagnet NIT-2Py. The temperature dependent oscillating signal in the ZF-muSR spectrum confirms the presence of a long-range magnetic interaction between the molecules. By comparing the measured internal magnetic fields to calculated values based on density fonctional theory calculations, we confirm that half the molecules dimerizes while the other half forms the antiferromagnetic order under the critical temperature (T_c = 1.33 +/- 0.01K). In this antiferromagnetic order, the moments on the magnetic molecules are uniformly aligned along the (1 0 -2) axis. They interact antiferromagnetically along the (0 1 0) axis and ferromagnetically between the [-1 0 2] planes.