Seltenerd-Eisenpniktide ziehen gegenwärtig großes wissenschaftliches Interesse auf sich, da sie wegen der bei ihnen beobachteten Hochtemperatursupraleitung eine vielversprechende Alternative zu den herkömmlichen Kuprat-Supraleitern darstellen. Neben der Supraleitung weisen diese Systeme ein breites Spektrum magnetischer Eigenschaften auf, die auf dem Wechselspiel von Eisen 3d- und Seltenerd-4f-Elektronen beruhen und teils in Konkurrenz zu, teils aber auch in Koexistenz mit der Supraleitung auftreten. Das theoretische Verständnis dieser Phänomene lässt noch viele Fragen offen, da sich vor allem die 4f-Elektronen infolge ihrer starken räumlichen Lokalisierung und der damit verbundenen hohen Coulomb-Korrelationsenergien einer einfachen Behandlung im Rahmen von Bandstrukturtheorien weitgehend entziehen. Die vorliegende Arbeit beschäftigt sich mit winkelaufgelösten Photoemissionsuntersuchungen an CeFe2P2, CeFePO und CeFeP0.3As0.7O, bei denen Schwer-Fermionen-Verhalten bzw. Ferromagnetismus beobachtet werden kann. Die Wechselwirkung der 4f-Elektronen mit dem überwiegend von Fe 3d-Orbitalen abgeleiteten Valenzband spiegelt sich in den Spektren durch das Auftreten dispergierender Strukturen im Bereich der Kondoresonanz wider. Diese werden in der Arbeit auf der Grundlage von LDA-Bandstrukturrechnungen und dem Periodischen Andersonmodell, welches für einfache Fallbeispiele mittels der DMFT (Dynamical Mean Field Theory) gelöst wird, diskutiert. Anhand der experimentellen Beobachtungen wird ein Mechanismus für die in der Verbindungsklasse beobachteten magnetischen Übergänge, basierend auf charakteristischen Unterschieden in der Bandstruktur, vorgeschlagen sowie ein möglicher Zusammenhang mit der Supraleitung diskutiert.

Understanding the low-temperature properties of strongly correlated materials requires accurate measurement of the physical properties of these systems. Specific heat and nuclear spin-lattice relaxation are two such properties that allow the investigation of the electronic behavior of the system.  In this thesis, nanocalorimetry is used to measure specific heat, but also as basis for new experimental approach, developed to disentangle the different contributions to specific heat at low temperatures. The technique, that we call Thermal Impedance Spectroscopy (TISP) allows independent measurement of the electronic and nuclear specific heat at low temperatures based on the frequency response of the calorimeter-sample assembly. The method also enables simultaneous measurements of the nuclear spin-lattice relaxation time (T1). The nuclear spin lattice relaxation, as 1/T1T, and electronic specific heat, as C/T, provide information about the same quantity, electronic density of states, in the system. By comparing these properties in strongly correlated systems, we can obtain insights of electronic interactions.  Metallic indium is studied using thermal impedance spectroscopy from 0.3 K to 7 K at 35 T. The magnetic field dependence of nuclear spin-lattice relaxation rate is measured. Indium is a simple metallic system and the expected behavior of the nuclear spin-lattice relaxation is similar to that of the electronic specific heat. The results of the measurement are matched with the expectation from a simple metallic system and Nuclear Magnetic Resonance (NMR) measurements. This demonstrates the effectiveness of the new technique.  The heavy-fermion superconductor CeCoIn5 is studied using thermal impedance spectroscopy and ac-calorimetry. This material is located near a quantum critical point (QCP) bordering antiferromagnetism, as evidenced by doping studies. The nature of its quantum criticality and unconventional superconductivity is still elusive. Contrasting specific heat and nuclear spin-lattice relaxation in this correlated system helps to reveal the character of its quantum criticality.  The quantum criticality in CeCoIn5 is also studied using X-ray Absorption Spectroscopy (XAS) across the superconducting transition and X-ray Magnetic Circular Dichroism (XMCD) at 0.1 K and 6 T. The element-specific probe zooming in on cerium in this material indicates two things, a mixed valence of Ce in the superconducting state and a very small magnetic moment, that implies resonance-bond like antiferromagnetic local ordering in the system.

CeCu_2Si_2 was the first heavy-fermion compound showing signatures of bulk superconductivity (T_c = 0.5 K). Further observations have put in evidence the correlations between superconductivity, magnetic order, Kondo physics, and quantum critical phenomena. In spite of the interest generated, a systematic study of such correlations was hampered by strong sample dependences. Fortunately, the inherent complexity associated to the stoichiometric composition has been recently understood. The availability of single-crystals with well-defined properties has thus reignited the interest in CeCu_2Si_2 as a window to novel phenomena, such as unconventional superconductivity. The present work summarizes the results of my doctoral research. It exemplifies the importance not only of high-quality materials, but also of suitable experimental techniques. A first step in this project involved the design of angle-dependent techniques in the milli-kelvin range, namely: electrical resistivity and thermal conductivity. It comprised the development of a rotational stage, the construction of sample holders, and the implementation of controlling and measuring components. In the second part of the project, electrical- and thermal-transport measurements on CeCu_2Si_2 were performed. Power-law behavior below T_c in the thermal conductivity suggests the presence of lines of nodes in the gap function. Also, the non-vanishing extrapolated residual terms (k_00/T ) support the presence of a residual density of states. The nodes are broadened by potential scattering, which appears to be significant in CeCu_2Si_2. The scattering hinders the determination of the symmetry of the order parameter and might be responsible for the observed isotropic angle dependence of the thermal conductivity. In contrast, angle-dependent measurements of the upper critical field exhibit a four-folded behavior, which also points towards the presence of nodes. By comparing with a weak-coupling model including the effects of Pauli limiting and anisotropic Fermi velocity, the results point towards a d_xy-wave symmetry of the order parameter. Such results represent the first angle-dependent measurements supporting a d-wave symmetry in CeCu_2Si_2.

In this thesis, an extended periodic Anderson model with an additional local Coulomb repulsion U f c between localized f electrons and conduction electrons is investigated by use of the projector-based renormalization method (PRM). First, it is shown that the model in one dimension shows a valence transition, which becomes sharper, when the energy of the f level approaches the Fermi level. The transition becomes also enhanced, when the hybridization V between the localized and conduction electrons decreases, for the case that the total number of electrons is fixed. In the two-dimensional case, one finds a similar valence transition behavior. However, in the valence transition regime also a superconducting phase may occur. To investigate this phase, we start from an Hamiltonian which includes small gauge symmetry breaking fields. We derive renormalization equations, from which the superconducting pairing functions are self-consistently determined. Our analytical and numerical results show that d- wave superconductivity becomes dominant in the valence transition regime. This confirms the suggestion by Miyake that valence fluctuations may lead to superconductivity in the Ce based heavy-fermion systems under high pressure. / In dieser Arbeit wird mit Hilfe der projektiven Renormierungsmethode (PRM) ein erweitertes periodische Anderson Modell untersucht, das zusätzlich eine Coulomb-Abstoßung zwischen den lokalisierten f-Elektronen und den Leitungselektronen enthält. In einer Dimension zeigt das Modell einen Valenzübergang, wenn sich die Energie des f-Niveaus der Fermienergie nähert. Der Übergang wird ebenfalls schärfer, wenn bei festgehaltener Gesamtelektronenzahl die Hybridisierung V zwischen den lokalisierten und den Leitungselekronen abnimmt. In zwei Dimensionen findet man ein ähnliches Valenzübergangsverhalten. Allerdings kann zusätzlich eine supraleitende Phase im Valenzübergangsgebiet auftreten. Um die supraleitende Phase zu untersuchen, betrachten wir einen Hamiltonoperator mit kleinen zusätzlichen Feldern, die die Eichsymmetrie brechen. Wir leiten Renormierungsgleichungen her, aus denen sich die supraleitenden Paarfunktionen selbstkonsistent bestimmen lassen. Unsere analytischen und numerischen Resultate zeigen, dass im Valenzübergangsgebiet d-Wellen-Supraleitung dominiert. Dies bestätigt eine Vermutung von Miyake, dass Valenzfluktuationen in Ce-basierten Schwerfermionensystemen bei hohen Drücken zur Supraleitung führen können.

In dieser Arbeit werden quantenkritische Phänomene der ferromagnetisch stark korrelierten Schwere-Fermionen-Systeme YbRh2Si2, YbNi4P2 und CeFePO untersucht. Hierzu sind Messungen des elektrischen Widerstands und der AC-Suszeptibilität durchgeführt worden. Das System YbRh2Si2 besitzt einen antiferromagnetischen Phasenübergang bei TN = 0.07 K. Die Verletzung des Wiedemann-Franz-Gesetzes an seinem Magnetfeld-induzierten quantenkritischen Punkt kann indirekt durch neue Widerstandsmessungen bestätigt werden. Mit den Substitutionen Yb(Rh1-xCox)2Si2, Yb(Rh1-yIry)2Si2 und Yb1-zLazRh2Si2 kann die Übergangstemperatur erhöht oder erniedrigt werden. Dadurch lässt sich sowohl ein weiterer quantenkritischer Punkt erreichen als auch das Verhältnis zwischen ferromagnetischen und antiferromagnetischen Korrelationen einstellen. Das durch chemische Substitution erzeugte magnetische Phasendiagramm wird detailliert untersucht. Es wird gezeigt, dass die zunehmenden ferromagnetischen Fluktuationen mit steigender Cobalt-Konzentration zu einem ferromagnetischen Phasenübergang bei x = 0.27 führen. Die magnetischen Momente ordnen entlang der magnetisch harten c-Richtung. Das neue Schwere-Fermionen-System YbNi4P2 besitzt einen, im Rahmen dieser Arbeit entdeckten, ferromagnetischen Phasenübergang bei der erstaunlich niedrigen Curie-Temperatur TC = 0.17 K. Es werden weiterführende Messungen an Einkristallen durchgeführt, die zeigen, dass die Momente senkrecht zur magnetisch weichen c-Richtung ordnen. Erste Hinweise auf einen Magnetfeld-induzierten ferromagnetischen quantenkritischen Punkt werden gefunden. Das Schwere-Fermionen-System CeFePO befindet sich in der Nähe einer ferromagnetischen Instabilität, die durch Arsen-Substitution auf dem Phosphor-Platz erreicht werden kann. Bisher ging man davon aus, dass CeFePO selbst paramagnetisch ist. In dieser Arbeit wird eine Anomalie bei T ~ 0.7 K in kürzlich hergestellten Proben als kurzreichweitige Ordnung identifiziert. Es kann gezeigt werden, dass es sich damit um eine neuartige Art und Weise handelt, wie ein ferromagnetischer quantenkritischer Punkt umgangen wird.

Die Legierungsserie CeFeAs1−xPxO bietet die Möglichkeit, eine außergewöhnliche Vielfalt unterschiedlicher Grundzustände mit starken Korrelationen der 3d- und der 4f-Elektronen zu untersuchen. CeFePO ist an der Grenze zwischen einem paramagnetischen und einem ferromagnetischen Ce-Zustand und zeigt starke 4f-Korrelationen, die zu Schwere-Fermionen-Verhalten führen, während Fe unmagnetisch ist. Im Gegensatz dazu sind die Eigenschaften von CeFeAsO durch die 3d-Korrelationen des Fe dominiert, die zu antiferromagnetischer Ordnung unterhalb von T_N(Fe) = 145K führen, während sich Ce in einem stabilen dreiwertigen Zustand befindet und unterhalb von T_N(Ce) = 3.7K ebenfalls antiferromagnetisch ordnet. Man erwartet deshalb mindestens zwei kritische Punkte, an denen die magnetische Ordnung unterdrückt wird. Hier sollte insbesondere geklärt werden, ob bei diesen kritischen Konzentrationen Quantenphasenübergänge auftreten, bei denen die Ordnungstemperatur zu T = 0K verschoben ist und in denen die Ursache von Nicht-Fermi-Flüssigkeitsverhalten und unkonventioneller Supraleitung gesehen wird. Grundlage für die Untersuchungen war zunächst die Züchtung qualitativ hochwertiger Einkristalle hinreichender Größe, was im Rahmen dieser Arbeit erstmalig gelungen ist. Hierzu wurde eine Sn-Flux Methode optimiert, mit der plättchenförmige Einkristalle mit Abmessungen von typischerweise 1mm x 1mm x 0.1mm und Massen bis 0.6mg erhalten werden konnten. Zur Bestimmung struktureller Parameter kamen Röntgenbeugung, energiedispersive Röntgenspektroskopie und chemische Analyse zum Einsatz. Physikalische Eigenschaften wurden vor allem durch Messungen der Spezifischen Wärmekapazität, der Magnetisierung und des elektrischen Widerstandes im Temperaturbereich T = 0.35 − 300K untersucht. Die antiferromagnetische Ordnung von Fe in CeFeAsO ist mit einer orthorhombischen Verzerrung verbunden, die bei einer etwas höheren Temperatur von T_0 = 151K stattfindet. Diese Phasenübergänge sind von besonderem Interesse, da ihre Unterdrückung zur Ausbildung von Hochtemperatur-Supraleitung in den Eisenpniktiden führt, ihr Wechselspiel aber nicht vollständig verstanden ist. Sie unterteilen die Temperaturabhängigkeit des elektrischen Widerstandes ρ(T) von CeFeAsO in zwei Bereiche. In der paramagnetischen tetragonalen Phase nimmt ρ(T) beim Abkühlen von Raumtemperatur aus bislang ungeklärter Ursache zunächst leicht zu. Erst mit Einsetzen der orthorhombischen Verzerrung bei T_0 kehrt sich die Temperaturabhängigkeit um und ρ(T) nimmt mit sinkender Temperatur ab, wobei die Abnahme bei T_N(Fe) nochmals stärker wird und bis zu tiefsten Temperaturen metallisches Verhalten beobachtet wird. Dass sich CeFeAsO somit nicht unmittelbar an der Grenze zu einem Mott-Isolator befindet, wie es in Anlehnung an die Kuprat-Supraleiter zunächst vermutet wurde, und Restwiderstandsverhältnisse von RRR > 10 überhaupt möglich sind, konnte im Rahmen dieser Arbeit erstmalig gezeigt werden. Durch sorgfältige Untersuchung des Temperaturunter- schiedes zwischen T_N(Fe) und T_0 und dem Vergleich mit dotierten und undotierten AFe2As2-Verbindungen konnte ein vereinheitlichtes Bild der Ausgangsverbindungen aller Fe-basierten Supraleiter geschaffen werden. In diesem tritt im Temperaturbereich T_N(Fe) < T < T_0 eine elektronische nematische Phase hervor, deren Existenzbereich durch die magnetische Kopplung entlang der kristallographischen c-Achse und deren Defektabhängigkeit bestimmt ist. Wie alle Substitutionen in RFeAsO-Verbindungen führt die Ersetzung von As durch P auch in CeFeAs1−xPxO zu einer Verringerung von T_N(Fe). Ein quantenkritischer Punkt mit T_N(Fe) --> 0K ist jedoch unwahrscheinlich, da ab einer kritischen Konzentration von x = 0.30 die Signatur der Eisen-Ordnung in ρ(T) zwar merklich schwächer wird, T_N(Fe) ≈ 40K bei weiterer Erhöhung von x aber nicht mehr zu tieferen Temperaturen schiebt. In Proben mit der kritischen Konzentration von x = 0.30 - und nur in diesem Konzentrationsbereich - konnte reproduzierbar ein verschwindender elektrischer Widerstand und damit ein Hinweis auf Supraleitung mit einer Sprungtemperatur von T_SL= 4K gefunden werden. Im Gegensatz zur ’Dom-förmigen’ Abhängigkeit der Sprungtemperatur von der Konzentration eines Fremdatoms in den Phasendiagrammen anderer Fe-basierter Supraleiter nimmt jedoch T_SL in CeFeAs1−xPxO bei weiterer Erhöhung von x nicht zu. Stattdessen wird bei x > 0.30 ein ferromagnetisch geordneter Grundzustand (des Ce) stabilisiert, der mit Supraleitung konkurriert. Die antiferromagnetische Ordnung von Cer in undotiertem CeFeAsO weist typische Merkmale magnetischer Ordnung lokaler Momente auf und impliziert eine Dominanz der RKKY-Wechselwirkung gegenüber einem schwachen Kondo-Effekt. Die Ersetzung von As durch P wirkt als chemischer Druck und stabilisiert somit den unmagnetischen Valenzzustand Ce4+. Trotzdem ist die Ce-Ordnung bei kleinen P-Konzentrationen - im Gegensatz zur Fe- Ordnung - nahezu unverändert vom Verhalten in undotiertem CeFeAsO. Bei der kritischen Konzentration von x = 0.30 tritt überraschend ein plötzlicher Übergang von antiferromagnetischer zu ferromagnetischer Ordnung mit einer Curie-Temperatur von T_C(Ce) = 4K auf, der offensichtlich mit der Unterdrückung der Fe-Ordnung korreliert ist und nicht nur aus einem reinen Volumeneffekt resultiert. Als mögliche Ursache wird eine Umstrukturierung der Fermi-Fläche bei Unterdrückung der Fe-Ordnung betrachtet, die zu einem Vorzeichenwechsel der Austauschkopplung J_ij bei RKKY-Wechselwirkung führt. Bei hohen Phosphor-Konzentrationen sinkt T_C(Ce) und geht bei x = 0.90 von ferromagnetischer zur antiferromagnetischer Ordnung über, wie es bei Annäherung an einen quantenkritischen Punkt bereits in einer Vielzahl ferromagnetischer Systeme beobachtet wurde. In stöchiometrischem CeFePO wurde magnetisch kurzreichweitige Ordnung und Spin-Glas-Verhalten mit einer charakteristischen Temperatur von T_SG= 0.75K gefunden. Der Unterschied zur früher gemachten Beobachtung eines paramagnetischen Grundzustandes resultiert einzig aus Variationen bei der Synthese und ist in strukturellen Parametern nicht nachweisbar - eine für Schwere- Fermionen-Systeme typische Sensitivität! Der zweite kritische Punkt, an dem die Ce-Ordnung verschwinden sollte, liegt also nicht wie zu Beginn erwartet bei hohen P-Konzentrationen, sondern in stöchiometrischem CeFePO. Eine Wärmebehandlung von CeFePO bei T ∼ 800◦C kann zur gezielten Manipulation des Grundzustandes genutzt werden und hat zur Ausbildung von logarithmischer Divergenz der spezifischen Wärmekapazität C/T und damit einem ersten direkten Hinweis auf Quantenkritikalität geführt.

In der vorliegenden Arbeit wurde der elektrische Transport im Schwere-Fermionen-System YbRh2Si2 sowohl in seiner stöchiometrischen Form als auch mit teilweiser isoelektronischer Substitution von Ir oder Co auf dem Rh-Platz untersucht. In YbRh2Si2 liegt ein quantenkritischer Punkt vor, der zugänglich ist, indem der antiferromagnetische Phasenübergang mittels eines kleinen Magnetfelds zum absoluten Nullpunkt der Temperatur unterdrückt wird. Die zentralen Messungen des Hallkoeffizienten zeigen einen Übergang der in der Extrapolation zu T=0 zu einer Diskontinuität wird und somit auf eine Rekonstruktion der Fermifläche am quantenkritischen Punkt schließen lässt. Dies belegt die unkonventionelle Natur der Quantenkritikalität in YbRh2Si2. Unterstützt wird dies auf fundamentale Weise durch verknüpfungen mit unkonventionellem Skalierungsverhalten. In den Proben mit teilweiser Substitution wird der Einfluss einer Veränderung der Gitterparameter auf die Quantenkritikalität mit Hilfe von Widerstandsmessungen untersucht. Dabei zeigt sich, dass der magnetische Übergang von der Fermiflächenrekonstruktion separiert wird. Für Proben mit teilweiser Ir-Substitution, welche negativen Drücken entspricht, scheint im Zwischenbereich eine neuartige metallische Spinflüssigkeit hervorzutreten. / This work investigates the electrical transport of the heavy-fermion compound YbRh2Si2 in its stoichiometric form as well as with slight isoelectronic substitution of Ir or Co on the Rh site. A quantum critical point is present in YbRh2Si2 which is accessed by tuning the transition temperature of the antiferromagnetic order to absolute zero via the application of a small magnetic field. The central measurements of the Hall coefficient reveal a crossover which sharpens to a discontinuity in the extrapolation to zero temperature implying a reconstruction of the Fermi surface at the quantum critical point. This allows to rule out conventional descriptions of the quantum criticality in YbRh2Si2. A scaling analysis corroborates this on a fundamental basis. In the samples with partial substitution the effect of unit cell volume change on the quantum criticality was investigated by means of resistivity measurements. Surprisingly, the magnetic transition is separated from the Fermi surface reconstruction. For samples with Ir substitution corresponding to negative chemical pressure, a new metallic spin liquid seems to emerge in the intermediate regime.

The Heavy fermion URu2Si2 compound have attracted much interest in the last decades due to its unusual behaviors and still an unsolved problem in Condensed Matter Physics. Specific heat measurements in URu2Si2 compounds show that when the temperature is decreased the system undergoes a phase transition at 17,5K and another phase transition at 1,5K. The phase transition at 1,5K leads the system to a superconducting state. On the other hand, the phase transition at 17,5K leads the system to a unclear order known as Hidden Order. In the last three decades, URu2Si2 the system has been intensively experimental and theoretical investigated, nevertheless, the nature of the hidden order is still unclear. In presence of an external magnetic field Hz, the URu2Si2 system presents a interesting behavior. In particular, there are experimental results for the specific heat showing that above 25T, the specific heat anomaly becomes very sharp and narrow and loses its second-order character.Recentily proposed a theory based in the underscreened Anderson Lattice Model. Such theory has been also used to study a minimal model proposed to describe the hidden order in the URu2Si2 system. In the present work, the effects of an external magnetic field Hz on the specific heat of a minimal model are investigated. The specific heat has been calculated from the second-derivative of the Helmholtz Free-energy with respect to the temperature. For magnetic fields below approximately 28T, the present results show a second order character for the specific heat. However, for magnetic fields above 28T, the specific heat becomes very sharp and narrow indicating that the system reached a region of first-order transition. It is also important to note that these results are, at least, in qualitatively agreement with experimental results. / O composto férmion pesado URu2Si2 tem atraído muito interesse nas últimas décadas devido ao seu comportamento incomun, sendo ainda um problema não resolvido em Física da Matéria Condensada. Medidas de calor específico em compostos URu2Si2 mostram que, quando a temperatura é diminuída, o sistema sofre uma transição de fase a 17,5K e outra transição de fase a 1,5K. A transição de fase a 1,5 K leva o sistema para um estado supercondutor. Por outro lado, a transição de fase a 17,5 K leva o sistema para um estado conhecido como Ordem Oculta. Nas últimas três décadas, o sistema URu2Si2 tem sido intensamente investigado tanto experimental, como teoricamente, no entanto, a natureza da Ordem Oculta ainda não é clara. Na presença de um campo magnético externo Hz, o sistema URu2Si2 apresenta um comportamento interessante. Em particular, existem resultados experimentais para o calor específico, mostrando que, acima de 25T, o pico do calor específico torna-se muito intenso e estreito, perdendo o seu carácter de segunda ordem. Recentemente foi proposta uma teoria baseada no Modelo de Anderson Underscreened . Tal teoria foi também utilizada para estudar um modelo mínimo proposto para descrever a Ordem Oculta no sistema URu2Si2. No presente trabalho, os efeitos de um campo magnético externo, Hz, no calor específico de um modelo mínimo, são investigados. O calor específico foi calculado a partir da derivada segunda da energia livre de Helmholtz em relação à temperatura. Para campos magnéticos abaixo de aproximadamente 28T, os presentes resultados mostram uma característica de segunda ordem para o calor específico. No entanto, para campos magnéticos acima de 28T, o pico do calor específico torna-se muito intenso e estreito, o que indica que o sistema atingiu uma região de transição de primeira ordem. É importante ressaltar que estes resultados estão, pelo menos, qualitativamente de acordo com os resultados experimentais.

Cette thèse a pour objet l'étude de 3 systèmes de fermions lourds à base d'Ytterbium, YbCu2Si2, YbCo2Zn20 et YbRh2Si2, dans des conditions extrêmes de hautes pressions, basses températures et hauts champs magnétiques. Une partie très importante dans ce travail a été le développement d'un dispositif de génération de force à très basses températures permettant une modulation de la pression in-situ adapté à des cellules à enclumes diamant. Pour YbCu2Si2, les mesures de ac-susceptibilité sous pression et sous champ magnétiques ainsi que les mesures d'aimantation sous pression montrent que l'ordre magnétique qui apparaît pour P> 8 GPa est ferromagnétique. L'étude du changement de la valence de l'ion Yb par des mesures de diffusion inélastique en conditions résonantes de rayons X ont permis de clarifier son interaction avec le magnétisme. Même si l'état trivalent est clairement favorisé sous pression, la valence reste inférieure à 3, proche de l'ordre magnétique, même dans les plus hautes pressions et plus basses températures. Nous avons également procédé à une recherche détaillée pour les signatures de metamagnétisme avec des mesures à très haut champ. Dans la deuxième partie de ma thèse, les mesures de ac-calorimétrie et ac-susceptibilité sous pression ont permit d'établir le diagramme de phase (P-T) dans YbCo2Zn20 jusqu'à 14 GPa. En plus, nos résultats suggèrent que l'ordre magnétique qui apparaît pour P>1 GPa est antiferromagnétique. Les forts effets du champ magnétique observées dans les propriétés physiques dans YbCo2Zn20 sont probablement liés à l'interaction entre le champ magnétique et les spins des électrons 4f et non à leur charge car la valence de l'Yb s'avère insensible à l'application d'un champ magnétique de 10 T. La partie finale de cette thèse est consacré à l'étude du diagramme de phase (H-T) sous pression dans YbRh2Si2 pour déterminer l'évolution de la température de l'ordre magnétique en fonctionne de H et P et mieux comprendre les effets liés à ce deux paramètres de contrôle. / In this thesis, three Yb-based heavy fermion compounds, YbCu2Si2, YbCo2Zn20 and YbRh2Si2, are studied under extreme conditions, i.e, high pressure, low temperatures and high magnetic fields. An important part of the work has been the set up of an in-situ tuning pressure device to measure diamond anvil cells at dilution fridge temperatures. This has enable most of the experimental results presented here. In YbCu2Si2 the nature of the pressure-induced magnetic order that arises for P> 8 GPa has been clarified to be ferromagnetic by ac-susceptibility and magnetization measurements under pressure. The interplay of magnetism and valence change has been investigated by measuring the valence of the title compound at high pressures and low temperatures using resonant inelastic x-ray scattering (RIXS). As expected, pressure favors the trivalent state but the Yb ion valence remains below 3 even at the highest pressure and at low temperatures very close to the onset of the magnetic order. We have also performed a detailed search for signatures of metamagnetism. The second part of my thesis focuses on YbCo2Zn20. We have extended the (P-T) phase diagram up to 14 GPa by ac-calorimetry and ac-susceptibility measurements. Our results shed some light on the nature of the magnetic order that arises for P>1 GPa which is antiferromangetic. The strong field effects observed in the physical properties in YbCo2Zn20 are probably related to the interaction between the magnetic field and the spin of the 4f electrons rather than to their charge as the valence of the Yb ion is insensitive to the application of a magnetic field of 10 T. The final part of this thesis is devoted to the detailed study of the (H-T) phase diagram under pressure in YbRh2Si2 to determine the evolution of the magnetic ordering temperatures as a function of H and P to better understand the interplay of the two control parameters.

Comprendre les propriétés des composés à électrons fortement corrélés nouvellement découverts est un important défi à la fois pour des raisons fondamentales et un impact industriel à long terme. Une activité expérimentale sur les métaux et supraconducteurs à électrons lourds a mis en évidence des effets qui se démarquent clairement de notre compréhension actuelle. Le but de cette thèse est de modéliser les effets de spin spéciaux qui ont été observés en réponse à un champ magnétique dans le supraconducteur CeCoIn(5). Elle est composée de deux parties. Dans un premier temps nous avons à faire à la distribution anormale du champ magnétique local dans le réseau de vortex révélé par les expériences de diffraction de neutrons à petits angles et rotation de spin muonique. Sur la base de a théorie de Ginzburg-Landau avec prise en compte de l'effet de spin, nous analysons l'inhomogénéité du champ local dans le réseau de vortex et calculons des expressions pour les facteurs de forme en diffraction neutronique et la largeur de raie statique en rotation de spin muonique. Nous montrons que les données expérimentales anormales sont le résultat de supercourants générés par le spin circulant autour du cœur du vortex et donnent une augmentation de l'inhomogénéité du champ sur une distance de l'ordre de la longueur de corrélation du supraconducteur à partir de l'axe du vortex. L'importance de l'effet est contrôlée par une seule quantité (le paramètre de Maki) qui permet la détermination de propriétés physiques du système à partir de données expérimentales. La seconde partie traite d'une transition d'onde de densité de spin presque commensurable dans un supraconducteur non-conventionnel. Elle est motivée par l'observation du confinement d'un ordre d'onde de densité de spin dans la phase supraconductrice de CeCoIn(5) dans un champ magnétique. Dans le cadre de la formulation spin-fermion nous proposons un mécanisme pour la transition de l'état fondamental qui consiste du ralentissement du mode collectif de fluctuation de densité de spin induit par le champ (exciton de spin) vers un ordre statique. Cela représente un scénario par lequel la transition vers l'ordre de spin est reliée intrinsèquement au supraconducteur. / Understanding the properties of newly discovered strongly correlated electron compounds is a considerable challenge for both fundamental matters and long-term industrial impact. Experimental activity on heavy electron metals and superconductors has lead to highlighting effects that depart from current knowledge. The thesis is aimed at modelling effects that have been observed in response to magnetic field in the heavy electron superconductor CeCoIn$_5$. This consists of two parts. In the first time we deal with the vortex lattice state anomalous local magnetic field space variations as highlighted by small angle neutron scattering and muon spin rotation experiment. On the basis of the Ginzburg-Landau theory with account of spin effect, we analyse the local field inhomogeneity in the vortex lattice and derive expressions for the neutron scattering form factors and muon spin rotation static linewidth. The anomalous experimental data are shown to be result of spin driven supercurrents which circulate around the vortex cores and lead to an increase with external field in the internal field inhomogeneity on a distance of the order of the superconducting coherence length from the vortex axis. The importance of the effect is controlled by a single quantity (the Maki parameter). The second part is on nearly commensurate spin density wave transition in a quasi two-dimensional superconductor. It is motivated by observation of the confinement of spin density wave ordering inside the superconducting state of CeCoIn$_5$ in magnetic field. In the frame of the spin-fermion formulation we propose a mechanism for the ground state transition consisting in the field-induced slowing down of a collective spin density fluctuation mode (spin-exciton) to static ordering. This represents a scenario by which the transition to spin ordering is intrinsically related to superconductivity