Cette thèse a pour objet l'étude de 3 systèmes de fermions lourds à base d'Ytterbium, YbCu2Si2, YbCo2Zn20 et YbRh2Si2, dans des conditions extrêmes de hautes pressions, basses températures et hauts champs magnétiques. Une partie très importante dans ce travail a été le développement d'un dispositif de génération de force à très basses températures permettant une modulation de la pression in-situ adapté à des cellules à enclumes diamant. Pour YbCu2Si2, les mesures de ac-susceptibilité sous pression et sous champ magnétiques ainsi que les mesures d'aimantation sous pression montrent que l'ordre magnétique qui apparaît pour P> 8 GPa est ferromagnétique. L'étude du changement de la valence de l'ion Yb par des mesures de diffusion inélastique en conditions résonantes de rayons X ont permis de clarifier son interaction avec le magnétisme. Même si l'état trivalent est clairement favorisé sous pression, la valence reste inférieure à 3, proche de l'ordre magnétique, même dans les plus hautes pressions et plus basses températures. Nous avons également procédé à une recherche détaillée pour les signatures de metamagnétisme avec des mesures à très haut champ. Dans la deuxième partie de ma thèse, les mesures de ac-calorimétrie et ac-susceptibilité sous pression ont permit d'établir le diagramme de phase (P-T) dans YbCo2Zn20 jusqu'à 14 GPa. En plus, nos résultats suggèrent que l'ordre magnétique qui apparaît pour P>1 GPa est antiferromagnétique. Les forts effets du champ magnétique observées dans les propriétés physiques dans YbCo2Zn20 sont probablement liés à l'interaction entre le champ magnétique et les spins des électrons 4f et non à leur charge car la valence de l'Yb s'avère insensible à l'application d'un champ magnétique de 10 T. La partie finale de cette thèse est consacré à l'étude du diagramme de phase (H-T) sous pression dans YbRh2Si2 pour déterminer l'évolution de la température de l'ordre magnétique en fonctionne de H et P et mieux comprendre les effets liés à ce deux paramètres de contrôle. / In this thesis, three Yb-based heavy fermion compounds, YbCu2Si2, YbCo2Zn20 and YbRh2Si2, are studied under extreme conditions, i.e, high pressure, low temperatures and high magnetic fields. An important part of the work has been the set up of an in-situ tuning pressure device to measure diamond anvil cells at dilution fridge temperatures. This has enable most of the experimental results presented here. In YbCu2Si2 the nature of the pressure-induced magnetic order that arises for P> 8 GPa has been clarified to be ferromagnetic by ac-susceptibility and magnetization measurements under pressure. The interplay of magnetism and valence change has been investigated by measuring the valence of the title compound at high pressures and low temperatures using resonant inelastic x-ray scattering (RIXS). As expected, pressure favors the trivalent state but the Yb ion valence remains below 3 even at the highest pressure and at low temperatures very close to the onset of the magnetic order. We have also performed a detailed search for signatures of metamagnetism. The second part of my thesis focuses on YbCo2Zn20. We have extended the (P-T) phase diagram up to 14 GPa by ac-calorimetry and ac-susceptibility measurements. Our results shed some light on the nature of the magnetic order that arises for P>1 GPa which is antiferromangetic. The strong field effects observed in the physical properties in YbCo2Zn20 are probably related to the interaction between the magnetic field and the spin of the 4f electrons rather than to their charge as the valence of the Yb ion is insensitive to the application of a magnetic field of 10 T. The final part of this thesis is devoted to the detailed study of the (H-T) phase diagram under pressure in YbRh2Si2 to determine the evolution of the magnetic ordering temperatures as a function of H and P to better understand the interplay of the two control parameters.

Dans le système YbMn6Ge6-xSnx, l’ytterbium de valence intermédiaire (v.i.) s’ordonne magnétiquement à des températures étonnamment élevées (jusqu’à TYb~125 K). Ce travail contribue à une meilleure compréhension des propriétés physiques de ces alliages grâce à la stabilisation de nouveaux composés dans la gamme de concentration 4,6<x<5,3. Des expériences extrêmement sensibles utilisant le rayonnement synchrotron (XANES, XMCD) ont permis de situer l’instabilité magnétique d’Yb vers x~5 ,2. Le diagramme de phase magnétique (x,T) a pu être complété. Il montre une étroite ressemblance avec le diagramme de Doniach. Dans les systèmes classiques à base d’Yb v.i., les propriétés physiques sont interprétées dans le cadre d’une compétition entre effet Kondo et interactions RKKY. La particularité du système YbMn6Ge6-xSnx est la présence d’un sous-réseau magnétique de Mn qui est très probablement à l’origine des propriétés singulières d’Yb : TYb élevées et existence de mYb jusqu’à des valeurs de valence plus basse qu’à l’accoutumée (u>~2,8). Des expériences sous pression ont souligné l’analogie entre les effets de pression mécanique et chimique. L’augmentation de pression favorise le caractère trivalent et le magnétisme d’Yb. La 2nde partie de ce travail constitue une ouverture vers les matériaux pour les applications magnétocaloriques haute température telles que les pompes à chaleur ou la conversion d’énergie. Elle concerne l’étude des composés Mn4-xFexGa2Sn et Fe3Sn2 qui possèdent des températures de travail supérieures à la température ambiante. Leur EMC est modéré mais comparable à celui d’autres matériaux à transition de 2nd ordre fonctionnant dans la même gamme de température / In the YbMn6Ge6-xSnx system, intermediate valent Yb magnetically orders at an astonishingly high temperature (up to TYb~125 K). This work aims to improve the understanding of the physical properties of these compounds, with an emphasis on the concentration range 4.6<x<5.3. Some results have been obtained thanks to highly sensitive experimental techniques using synchrotron radiation (XANES, XMCD), and allowed us to locate the Yb magnetic instability near x~5.2. The magnetic phase diagram (x,T) has been completed and shows some similarities with the Doniach diagram. In conventional intermediate valent Yb systems, there is a competition between the Kondo screening and the magnetic exchange interactions of RKKY-type. The particularity of YbMn6Ge6-xSnx compounds is related to the strong 3d Mn-5d Yb exchange interaction and to the nonzero exchange field at the Yb site generated by the magnetic Mn sublattice. It is most likely responsible of very unusual Yb magnetic properties, in particular the astonishingly high magnetic ordering temperatures of low valence Yb (u>~2,8). External pressure experiments showed an analogy between mechanical and chemical pressure effects. Increasing the pressure favors trivalent state and Yb magnetism. In a second part, we investigated the magnetic and magnetocaloric properties of Mn4-xFexGa2Sn and Fe3Sn2. High temperature magnetocaloric applications, such as heat pump or heat conversion, need materials with high Curie temperature. These two compounds have working temperatures above 330 K. The magnetocaloric effect has been evaluated : the magnitude is moderate but close to other compounds with a second order transition near this temperature region.

In this work the electronic and magnetic structure of the crystals Sr2FeMoO6, Fe0.5Cu0.5Cr2S4, LuFe2O4 and the molecules FeStar, Mo72Fe30, W72Fe30 are investigated by means of X-ray spectroscopic techniques. These advanced materials exhibit very interesting properties like magnetoresistance or multiferroic behaviour. In case of the molecules they also could be used as spin model systems. A long standing issue concerning the investigation of these materials are contradicting results found for the magnetic and electronic state of the iron (Fe) ions present in these compounds. Therefore this work focuses on the Fe state of these materials in order to elucidate reasons for these problems. Thereby the experimental results are compared to multiplet simulations.