Une première partie de ce mémoire portera sur l’analyse des états fondamentaux ma- gnétiques de deux composés isolants et magnétiquement frustrés SrDy2O4 et SrHo2O4. Une étude de la chaleur spécifique à basse température sous l’effet de champs magné- tiques de ces échantillons a été menée afin de détecter la présence de transitions de phases. L’utilisation d’un composé isotructurel non magnétique, le SrLu2O4, a permis l’isolement de la composante magnétique à la chaleur spécifique. Les comportements observés sont non conformes avec les transitions magnétiques conventionnelles. De plus, le calcul de l’entropie magnétique ne montre qu’un recouvrement partiel de l’entropie associée à un système d’ions magnétiques. En second lieu, une analyse des oscillations quantiques de Haas-van Alphen a été effectuée dans le LuCoIn5, composé apparenté au supraconducteur à fermions lourds CeCoIn5. Les résultats obtenus montrent une topologie de la surface de Fermi très différente comparativement aux CeCoIn5 et LaCoIn5, ayant un comportement beaucoup plus tridimensionnel sans les cylindres caractéristiques présents chez les autres membres de cette famille. Finalement, le montage d’un système de détection PIXE a permis l’analyse nucléaire d’échantillons afin de déterminer la concentration de chacun des éléments les constituant. L’analyse a été effectuée sur une série d’échantillons YbxCe1−xCoIn5 dont le changement de concentration a des effets importants sur les propriétés du système. / The first part of this thesis consist of the analysis the magnetic ground states of two magnetically frustrated insulator compounds SrDy2O4 and SrHo2O4. A study of the low temperature specific heat in magnetic fields has been carried on in order to detect phase transitions. The magnetic contribution to the specific heat has been determined using the isostructural but non magnetic compound SrLu2O4. The observed behaviour does not conform with conventional magnetic phase transitions. Also, the calculated magnetic entropy shows only a partial recovery of the entropy normally associated with magnetic ions in the systems. In the second study, I measured and analyzed de Haas-van Alphen quantum oscil- lations in LuCoIn5, a compound related to the heavy fermion superconductor CeCoIn5. The obtained results show a Fermi surface topology greatly differing from the CeCoIn5 and LaCoIn5, having a much more tridimensional behaviour, compared to the characteristics cylinder exhibited by the other members of this family. In the last part of my thesis, I’m am describing the set up of a PIXE detection system used for the nuclear analysis of thick samples in order to calculate the concentra- tion of each element present. The analysis has been carried on a series of samples of YbxCe1−xCoIn5, where the variation of concentration has major repercussions on the electronic and magnetic properties of the system.

Cette thèse porte sous l'étude sous conditions extrêmes (basse température, fort champ magnétique et haute pression) des composés fortement corrélés du type fermions lourds. Trois composés ont été analysés UCoAl, UGe$_2$ et CeRh$_2$Si$_2$, en utilisant principalement de mesures thermoélectriques; une technique récente et très sensible dans le domaine des fermions lourds. À cette fin, de nouvelles dispositives de mesures de pouvoir thermoélectricité sous pression ont été développés au cours de cette thèse.Concernant le composé d'UCoAl, notre étude a permis d'analyser précisément la transition metamagnétique, induite par le champ magnétique, entre la phase paramagnétique (PM) et la phase ferromagnétique (FM) ainsi que, son évolution sous pression. Ainsi, nos mesures ont permis de compléter le diagramme de phase $(T,P,H)$ et notamment, de mettre en évidence la structure magnétique originale qui apparaît sous pression en forme de ```wings" pas des mesures thermoélectriques.Une fine analyse de la surface de Fermi de la phase FM$2$ d'UGe$_2$ a été réalisée grace à l'observation des oscillations quantiques du pouvoir thermoélectrique. Les résultats obtenues ont été comparés aux études conventionnelles des oscillations quantiques comme de ``de Haas-van Alphen" (dHvA) et de ``Suhbnikov-de Hass" (SdH) effets. Une très bonne accord entre les trois techniques a été constatée. % et montre les avantages d'utilisation des mesures du pouvoir thermoélectrique pour analyser les paramètres microscopiques des fermions lourds.% Les inconvénients de cette technique sont aussi présentés.Finalement, dans le système CeRh$_2$Si$_2$, la suppression du domaine antiferromagnétique (AF) sous champ magnétique $H_c sim 26$T et sous pression $Psim 1$GPa a été étudiée. Un très fort changement de la surface de Fermi à $H_c$ correspondant à la transition de l'ordre AF vers une phase paramagnétique polarisée (PPM), a été observé. Sous pression, des fluctuations magnétiques et une reconstruction de la surface de Fermi apparaissent autour de $P_c$. Ces fluctuations cachent la nature de la suppression de l'ordre AF vers un ordre paramagnétique (PM). L'étude du diagramme de phase $(T,H,P)$ révèle que les phases PM et PPM sont différentes, cependant des points en commun demeurent. / Thermopower is a technique whose importance is related to the possibility of directly measuring electronic properties of the systems, as it is sensitive to the derivative of the density of states. In this work, the low temperature regime of strongly correlated electron systems has been studied using this technique. For that, a new pressure-field thermopower device was developed, and used, to determine $(T,P,H)$ phase diagrams of the itinerant ferromagnets UCoAl and UGe$_2$, and of the weak antiferromagnet CeRh$_2$Si$_2$.For example, in the case of UCoAl, this same technique was used to analyze the metamagnetic transition from paramagnetic (PM) to ferromagnetic (FM) phases and to study its evolution towards the quantum critical end point. The existence of exotic magnetic excitations in the ground state and around the critical end point were also evidenced.On the compound CeRh$_2$Si$_2$, the suppression of the antiferromagnetic (AF) order by magnetic fields and pressures was explored. A strong change of the Fermi surface at $H_c$, the field at which the suppression of the AF into the paramagnetic polarized (PPM) phase, was observed. We show that under pressure, the magnetic fluctuations around the critical pressure $P_c$ masked the Fermi surface reconstruction of the AF phase into the PM phase. The analysis of the $(T,P,H)$ phase diagram revealed that the non-ordered phases of this compound (PM and PPM) are different, therefore pressure and field behave as different suppressor mechanisms.In the UGe$_2$ compound, the analysis of its Fermi surface by thermopower quantum oscillations was performed as a last example of the utility and of the importance of this technique. To the best of the author knowledge, this is the first time that this technique was used in heavy fermion systems. A comparison to traditional probes such as de Haas-van Alphen and Shubnikov–de Haas effects was done. We observed a good agreement between them and we explain the advantages and the disadvantages of thermopower quantum oscillations technique over the traditional probes.

La skutterudite PrOs4Sb12 est le premier composé à fermion lourd supraconducteur à base de Praséodyme. Cette thèse s'attache à répondre à plusieurs questions le concernant comme la détermination de l'intensité de la renormalisation <br />de la masse des quasi-particules, la nature et le mécanisme à l'origine de la supraconductivité et la nature intrinsèque ou extrinsèque de la double transition supraconductrice vue en chaleur spécifique. <br /><br />Nous proposons une interpolation de la chaleur spécifique en phase normale en tenant compte des interactions magnétiques entre ions Pr. Nous extrayons alors un terme électronique de chaleur spécifique compris entre 300 et 750mJ/K2.mol(Pr). L'analyse du saut en chaleur spécifique à la transition supraconductrice confirme que les quasi-particules lourdes sont impliquées dans la supraconductivité et que la supraconductivité est en régime de couplage fort. Des caractérisations systématiques par chaleur spécifique, résistivité et susceptibilité indiquent que la double transition apparaît dans les meilleurs échantillons. Néanmoins nous apportons les premiers doutes sérieux sur sa nature intrinsèque, parce que nous avons trouvé plusieurs échantillons avec une unique transition étroite et parce qu'une forte dispersion dans la valeur du rapport des deux sauts en chaleur spécifique a été mise en évidence. De plus, en établissant les diagrammes de phase supraconducteurs sous champ magnétique et sous pression jusqu'à 4.2 GPa par chaleur spécifique alternative, nous montrons que les deux transitions <br />supraconductrices Tc1 et Tc2 présentent des comportements similaires. Nous avançons l'hypothèse que le fort changement dans l'évolution des Tc sous pression au dessus de 2 GPa est dû à un changement de nature de la supraconductivité (impliquant des fluctuations puis uniquement phononique à respectivement basse et haute pression) en lien avec l'augmentation du gap de champ cristallin des ions Pr sous pression. L'analyse du second champ critique Hc2(T) montrent la présence d'au moins deux bandes supraconductrices et conclue à la nature singulet du spin des paires de Cooper. Une forte distorsion du réseau de vortex, constante avec le champ et la température, est obtenue par diffraction de neutrons. Des mesures supplémentaires ou un nouveau calcul seraient nécessaires pour trancher entre une explication basée sur la présence de zéros dans le gap supraconducteur et une analyse basée sur la topologie de la surface de Fermi en symétrie Th.

La skutterudite PrOs4Sb12 est le premier composé à fermion lourd supraconducteur à base de Praséodyme. Cette thèse s'attache à répondre à plusieurs questions le concernant comme la détermination de l'intensité de la renormalisation <br />de la masse des quasi-particules, la nature et le mécanisme à l'origine de la supraconductivité et la nature intrinsèque ou extrinsèque de la double transition supraconductrice vue en chaleur spécifique. <br /><br />Nous proposons une interpolation de la chaleur spécifique en phase normale en tenant compte des interactions magnétiques entre ions Pr. Nous extrayons alors un terme électronique de chaleur spécifique compris entre 300 et 750mJ/K2.mol(Pr). L'analyse du saut en chaleur spécifique à la transition supraconductrice confirme que les quasi-particules lourdes sont impliquées dans la supraconductivité et que la supraconductivité est en régime de couplage fort. Des caractérisations systématiques par chaleur spécifique, résistivité et susceptibilité indiquent que la double transition apparaît dans les meilleurs échantillons. Néanmoins nous apportons les premiers doutes sérieux sur sa nature intrinsèque, parce que nous avons trouvé plusieurs échantillons avec une unique transition étroite et parce qu'une forte dispersion dans la valeur du rapport des deux sauts en chaleur spécifique a été mise en évidence. De plus, en établissant les diagrammes de phase supraconducteurs sous champ magnétique et sous pression jusqu'à 4.2 GPa par chaleur spécifique alternative, nous montrons que les deux transitions <br />supraconductrices Tc1 et Tc2 présentent des comportements similaires. Nous avançons l'hypothèse que le fort changement dans l'évolution des Tc sous pression au dessus de 2 GPa est dû à un changement de nature de la supraconductivité (impliquant des fluctuations puis uniquement phononique à respectivement basse et haute pression) en lien avec l'augmentation du gap de champ cristallin des ions Pr sous pression. L'analyse du second champ critique Hc2(T) montrent la présence d'au moins deux bandes supraconductrices et conclue à la nature singulet du spin des paires de Cooper. Une forte distorsion du réseau de vortex, constante avec le champ et la température, est obtenue par diffraction de neutrons. Des mesures supplémentaires ou un nouveau calcul seraient nécessaires pour trancher entre une explication basée sur la présence de zéros dans le gap supraconducteur et une analyse basée sur la topologie de la surface de Fermi en symétrie Th.

L'effet Nernst a connu, ces quinze dernières années, un regain d'attention, en particulier en raison de son comportement dans les cuprates supraconducteurs à haute température critique dopés aux trous. En effet, on observe dans ces composés la persistance tant en température qu'en champ magnétique d'un signal Nernst fini en dehors de la phase supraconductrice, alors que ce dernier n'est censé être non nul, dans le cas de métaux simples, que dans la phase vortex. Ce résultat a revêtu une certaine importance en ce sens qu'il appuyait expérimentalement, parmi d'autres résultats, un scénario de type paires préformées et excitations de type vortex dans la phase normale des cuprates dopés aux trous. Cependant, l'interprétation de l'effet Nernst souffre d'un manque de données expérimentales dans d'autres systèmes à électrons fortement corrélés. C'est initialement ce qui a motivé le travail de cette thèse, qui rassemble des résultats obtenus de 2001 à 2004 au Laboratoire de Physique Quantique - ESPCI à Paris, et qui est majoritairement constitué de mesures d'effet Nernst dans une autre classe de composés à électrons fortement corrélés : les fermions lourds. Plus particulièrement, nous avons mesuré l'effet Nernst à pression nulle dans une fenêtre de température comprise entre 1,5K et 50K et pour des champs magnétiques de 0 à 12T, dans trois composés : CeCoIn5, URu2Si2 et CeRu2Si2. Ces mesures constituent, à l'heure actuelle, les seules mesures d'effet Nernst effectuées sur des fermions lourds. Dans les trois cas, nous avons découvert dans la phase métallique l'émergence d'un effet Nernst géant dont l'amplitude dépasse de plusieurs ordres de grandeur la taille du signal attendu dans un métal simple, et qui atteint celle caractéristique des vortex dans la phase mixte des cuprates, à savoir quelques µV/KT. Plus particulièrement, CeCoIn5 héberge un effet Nernst négatof très important dans la partie non liquide de Fermi de son diagramme de phase, associée à la présence d'un point critique à Bc=5T. Cependant, l'effet Nernst que nous avons mesuré ne présente aucune anomalie à Bc, mais plutôt dans la limite B=0T, où le coefficient Nernst atteint 1µV/KT. L'émergence d'un effet Nernst positif important dans URu2Si2 coïncide avec l'entrée dans la phase ordre caché, et encore ici c'est à bas champ que le coefficient Nernst atteint son maximum de 4µV/KT, qui constitue le plus grand effet Nernst jamais mesuré dans une phase métallique. Enfin, c'est le métamagnétisme de CeRu2Si2 qui semble particulièrement affecter l'effet Nernst, puisque celui-ci présente, à Hm, un changement de signe particulièrement prononcé et coïncidant avec le maximum de chaleur spécifique. Par ailleurs, une des caractéristiques générales frappantes de cette émergence est qu'elle coïncide, dans les trois composés, avec la présence d'un angle de Hall également très élevé, et dont, en particulier dans CeCoIn5 et CeRu2Si2, la structure est assez proche de celle de l'effet Nernst. La présence de ce signal reste encore aujourd'hui particulièrement intrigante, en particulier en l'absence de mesures systématiques sur d'autres composés aux fermions lourds. Cependant, mais de façon très schématique, nous avons montré que la renormalisation de la masse pouvait être un ingrédient à l'origine de cet effet Nernst géant. De plus, pour chacun des composés des pistes peuvent être avancées pour déterminer l'origine de cet émergence : proximité d'un point critique quantique, fluctuations antiferromagnétiques, ondes de densité... Nous discutons en fin de cette thèse les divers scénarios et proposons des mesures futures afin de confirmer ou d'infirmer ces diverses propositions.

Les composés à fermions lourds, qui sont à base de terres rares comme le cérium et l'ytterbium ou d'actinides comme l'uranium, sont connus pour leurs propriétés extraordinaires à basse température. Leur physique est gouvernée par l'hybridation des électrons f avec des électrons de conduction, ce qui mène à la formation de quasi-particules avec de très grandes masses effectives. URu2Si2 occupe une place particulière dans la famille des fermions lourds. Une transition de phase du second ordre à la température T0 = 17.5 K a été observée par de nombreuses techniques expérimentales. Malgré des propositions théoriques multiples, aucun consensus n'existe concernant le paramètre d'ordre de la phase - dite à ordre caché - qui se développe sous T0. Lorsqu'on le soumet à des champs magnétiques intenses, URu2Si2 a par ailleurs un comportement unique : une cascade de trois transitions du premier ordre entre 35 et 39 T mène le système de son état paramagnétique à un état polarisé paramagnétique à fort champ. Ce travail a consisté en l'investigation systématique des propriétés magnétiques et électroniques d'échantillons monocristallins de très haute qualité d' URu2Si2 dans des champs magnétiques intenses allant jusqu'à 80 T, et des températures descendant jusqu'à 100 mK. Des expériences d'aimantation et de magnétorésistivité ont été faites en champ magnétique pulsé non destructif au Laboratoire National des Champs Magnétiques Intenses de Toulouse (LNCMI-T). Le diagramme de phase champ magnétique-température de URu2Si2 a été étudié la première fois sur les gammes étendues de champs magnétiques H||c allant jusqu'à 60 T et de températures allant jusqu'à 80 K. Il indique que la domaine critique [35 T-39 T] est initié par la destabilisation d'un " crossover ", dont la température caractéristique atteint 40-50 K à champ nul. Il est démontré que ce crossover, qui résulte probablement des corrélations inter-site, est aussi un précurseur de la phase à ordre caché. Une étude de la magnétorésistivité pour différentes orientations du champ magnétique dans les plans (a,a) and (a,c) a permis d'établir la dépendance en angle du diagramme de phase. Des mesures de l'aimantation du composé dopé en rhodium U(Ru0.96Rh0.04)2Si2 révèlent un diagramme de phase " simplifié ", où la phase à ordre caché a disparu et le domaine critique a été remplace par une phase intermédiaire entre 26 et 37 T. La magnetoresistivité à très basse température se révèle être fortement dépendente de la qualité des échantillons et est la signature des propriétés orbitales d'URu2Si2. Une dépendance exceptionnellement intense de la magnétorésistivité en fonction de la température confirme que la surface de Fermi est reconstruite à T0. Des anomalies dans la magnetoresistivité à fort champ magnétique H||c suggèrent que la surface de Fermi est modifiée à l'intérieur de la phase à ordre caché. Des oscillations quantiques - effet Shubnikov-de Haas - sont observées dans la magnétorésistivité à très basse température pour une multitude d'orientations des échantillons dans le champ magnétique. Elles confirment qu'un champ magnétique H||c induit des reconstructions de la surface de Fermi dans la phase à ordre caché. Dans un champ magnétique H||a, des oscillations quantiques sont observées pour la première fois jusqu'à 80 T. Leur analyse a révélé une nouvelle branche de fréquence  avec une faible masse effective. La dépendance en angle des fréquences Shubnikov-de Haas a été étudiée dans un champ magnétique allant jusqu'à 60 T, pour des champs appliqués dans les plans (a,a) et (a,c). Ce travail expérimental indique que le couplage entre le magnétisme des électrons f et les propriétés de la surface de Fermi joue un rôle important pour la physique du système à ordre caché URu2Si2.

Une première partie de ce mémoire portera sur l’analyse des états fondamentaux ma- gnétiques de deux composés isolants et magnétiquement frustrés SrDy2O4 et SrHo2O4. Une étude de la chaleur spécifique à basse température sous l’effet de champs magné- tiques de ces échantillons a été menée afin de détecter la présence de transitions de phases. L’utilisation d’un composé isotructurel non magnétique, le SrLu2O4, a permis l’isolement de la composante magnétique à la chaleur spécifique. Les comportements observés sont non conformes avec les transitions magnétiques conventionnelles. De plus, le calcul de l’entropie magnétique ne montre qu’un recouvrement partiel de l’entropie associée à un système d’ions magnétiques. En second lieu, une analyse des oscillations quantiques de Haas-van Alphen a été effectuée dans le LuCoIn5, composé apparenté au supraconducteur à fermions lourds CeCoIn5. Les résultats obtenus montrent une topologie de la surface de Fermi très différente comparativement aux CeCoIn5 et LaCoIn5, ayant un comportement beaucoup plus tridimensionnel sans les cylindres caractéristiques présents chez les autres membres de cette famille. Finalement, le montage d’un système de détection PIXE a permis l’analyse nucléaire d’échantillons afin de déterminer la concentration de chacun des éléments les constituant. L’analyse a été effectuée sur une série d’échantillons YbxCe1−xCoIn5 dont le changement de concentration a des effets importants sur les propriétés du système. / The first part of this thesis consist of the analysis the magnetic ground states of two magnetically frustrated insulator compounds SrDy2O4 and SrHo2O4. A study of the low temperature specific heat in magnetic fields has been carried on in order to detect phase transitions. The magnetic contribution to the specific heat has been determined using the isostructural but non magnetic compound SrLu2O4. The observed behaviour does not conform with conventional magnetic phase transitions. Also, the calculated magnetic entropy shows only a partial recovery of the entropy normally associated with magnetic ions in the systems. In the second study, I measured and analyzed de Haas-van Alphen quantum oscil- lations in LuCoIn5, a compound related to the heavy fermion superconductor CeCoIn5. The obtained results show a Fermi surface topology greatly differing from the CeCoIn5 and LaCoIn5, having a much more tridimensional behaviour, compared to the characteristics cylinder exhibited by the other members of this family. In the last part of my thesis, I’m am describing the set up of a PIXE detection system used for the nuclear analysis of thick samples in order to calculate the concentra- tion of each element present. The analysis has been carried on a series of samples of YbxCe1−xCoIn5, where the variation of concentration has major repercussions on the electronic and magnetic properties of the system.

Cette thèse a pour objet l'étude de 3 systèmes de fermions lourds à base d'Ytterbium, YbCu2Si2, YbCo2Zn20 et YbRh2Si2, dans des conditions extrêmes de hautes pressions, basses températures et hauts champs magnétiques. Une partie très importante dans ce travail a été le développement d'un dispositif de génération de force à très basses températures permettant une modulation de la pression in-situ adapté à des cellules à enclumes diamant. Pour YbCu2Si2, les mesures de ac-susceptibilité sous pression et sous champ magnétiques ainsi que les mesures d'aimantation sous pression montrent que l'ordre magnétique qui apparaît pour P> 8 GPa est ferromagnétique. L'étude du changement de la valence de l'ion Yb par des mesures de diffusion inélastique en conditions résonantes de rayons X ont permis de clarifier son interaction avec le magnétisme. Même si l'état trivalent est clairement favorisé sous pression, la valence reste inférieure à 3, proche de l'ordre magnétique, même dans les plus hautes pressions et plus basses températures. Nous avons également procédé à une recherche détaillée pour les signatures de metamagnétisme avec des mesures à très haut champ. Dans la deuxième partie de ma thèse, les mesures de ac-calorimétrie et ac-susceptibilité sous pression ont permit d'établir le diagramme de phase (P-T) dans YbCo2Zn20 jusqu'à 14 GPa. En plus, nos résultats suggèrent que l'ordre magnétique qui apparaît pour P>1 GPa est antiferromagnétique. Les forts effets du champ magnétique observées dans les propriétés physiques dans YbCo2Zn20 sont probablement liés à l'interaction entre le champ magnétique et les spins des électrons 4f et non à leur charge car la valence de l'Yb s'avère insensible à l'application d'un champ magnétique de 10 T. La partie finale de cette thèse est consacré à l'étude du diagramme de phase (H-T) sous pression dans YbRh2Si2 pour déterminer l'évolution de la température de l'ordre magnétique en fonctionne de H et P et mieux comprendre les effets liés à ce deux paramètres de contrôle. / In this thesis, three Yb-based heavy fermion compounds, YbCu2Si2, YbCo2Zn20 and YbRh2Si2, are studied under extreme conditions, i.e, high pressure, low temperatures and high magnetic fields. An important part of the work has been the set up of an in-situ tuning pressure device to measure diamond anvil cells at dilution fridge temperatures. This has enable most of the experimental results presented here. In YbCu2Si2 the nature of the pressure-induced magnetic order that arises for P> 8 GPa has been clarified to be ferromagnetic by ac-susceptibility and magnetization measurements under pressure. The interplay of magnetism and valence change has been investigated by measuring the valence of the title compound at high pressures and low temperatures using resonant inelastic x-ray scattering (RIXS). As expected, pressure favors the trivalent state but the Yb ion valence remains below 3 even at the highest pressure and at low temperatures very close to the onset of the magnetic order. We have also performed a detailed search for signatures of metamagnetism. The second part of my thesis focuses on YbCo2Zn20. We have extended the (P-T) phase diagram up to 14 GPa by ac-calorimetry and ac-susceptibility measurements. Our results shed some light on the nature of the magnetic order that arises for P>1 GPa which is antiferromangetic. The strong field effects observed in the physical properties in YbCo2Zn20 are probably related to the interaction between the magnetic field and the spin of the 4f electrons rather than to their charge as the valence of the Yb ion is insensitive to the application of a magnetic field of 10 T. The final part of this thesis is devoted to the detailed study of the (H-T) phase diagram under pressure in YbRh2Si2 to determine the evolution of the magnetic ordering temperatures as a function of H and P to better understand the interplay of the two control parameters.

Comprendre les propriétés des composés à électrons fortement corrélés nouvellement découverts est un important défi à la fois pour des raisons fondamentales et un impact industriel à long terme. Une activité expérimentale sur les métaux et supraconducteurs à électrons lourds a mis en évidence des effets qui se démarquent clairement de notre compréhension actuelle. Le but de cette thèse est de modéliser les effets de spin spéciaux qui ont été observés en réponse à un champ magnétique dans le supraconducteur CeCoIn(5). Elle est composée de deux parties. Dans un premier temps nous avons à faire à la distribution anormale du champ magnétique local dans le réseau de vortex révélé par les expériences de diffraction de neutrons à petits angles et rotation de spin muonique. Sur la base de a théorie de Ginzburg-Landau avec prise en compte de l'effet de spin, nous analysons l'inhomogénéité du champ local dans le réseau de vortex et calculons des expressions pour les facteurs de forme en diffraction neutronique et la largeur de raie statique en rotation de spin muonique. Nous montrons que les données expérimentales anormales sont le résultat de supercourants générés par le spin circulant autour du cœur du vortex et donnent une augmentation de l'inhomogénéité du champ sur une distance de l'ordre de la longueur de corrélation du supraconducteur à partir de l'axe du vortex. L'importance de l'effet est contrôlée par une seule quantité (le paramètre de Maki) qui permet la détermination de propriétés physiques du système à partir de données expérimentales. La seconde partie traite d'une transition d'onde de densité de spin presque commensurable dans un supraconducteur non-conventionnel. Elle est motivée par l'observation du confinement d'un ordre d'onde de densité de spin dans la phase supraconductrice de CeCoIn(5) dans un champ magnétique. Dans le cadre de la formulation spin-fermion nous proposons un mécanisme pour la transition de l'état fondamental qui consiste du ralentissement du mode collectif de fluctuation de densité de spin induit par le champ (exciton de spin) vers un ordre statique. Cela représente un scénario par lequel la transition vers l'ordre de spin est reliée intrinsèquement au supraconducteur. / Understanding the properties of newly discovered strongly correlated electron compounds is a considerable challenge for both fundamental matters and long-term industrial impact. Experimental activity on heavy electron metals and superconductors has lead to highlighting effects that depart from current knowledge. The thesis is aimed at modelling effects that have been observed in response to magnetic field in the heavy electron superconductor CeCoIn$_5$. This consists of two parts. In the first time we deal with the vortex lattice state anomalous local magnetic field space variations as highlighted by small angle neutron scattering and muon spin rotation experiment. On the basis of the Ginzburg-Landau theory with account of spin effect, we analyse the local field inhomogeneity in the vortex lattice and derive expressions for the neutron scattering form factors and muon spin rotation static linewidth. The anomalous experimental data are shown to be result of spin driven supercurrents which circulate around the vortex cores and lead to an increase with external field in the internal field inhomogeneity on a distance of the order of the superconducting coherence length from the vortex axis. The importance of the effect is controlled by a single quantity (the Maki parameter). The second part is on nearly commensurate spin density wave transition in a quasi two-dimensional superconductor. It is motivated by observation of the confinement of spin density wave ordering inside the superconducting state of CeCoIn$_5$ in magnetic field. In the frame of the spin-fermion formulation we propose a mechanism for the ground state transition consisting in the field-induced slowing down of a collective spin density fluctuation mode (spin-exciton) to static ordering. This represents a scenario by which the transition to spin ordering is intrinsically related to superconductivity

Dans cette thèse, on étudie la criticalité quantique ferromagnétique dans trois composés ternaires à base d'uranium, par des mesures thermodynamiques et de transport sur des échantillons monocristallins, à basse température et sous haute pression. URhSi et URhAl sont des systèmes ferromagnétiques itinérants, tandis que UCoAl est un système paramagnétique étant proche d'une instabilité ferromagnétique. Tous ont une phase ordonnée de type Ising. Dans le composé orthorhombique URhSi, on montre que la température de Curie diminue lorsqu'un champ magnétique est appliqué perpendiculairement à l'axe facile d'aimantation, et une transition de phase quantique est attendue autour de 40~T. Dans le système hexagonal URhAl, on établit le diagramme de phase pression--température pour la première fois, lequel indique une transition de phase quantique vers 5~GPa. Dans le composé isostructural UCoAl, on étudie la transition métamagnétique par des mesures d'aimantation, d'effet Hall, de résistivité et de dichroïsme circulaire magnétique des rayons X. On observe des phénomènes de relaxation magnétique intrigants, avec des sortes de marches. L'effet Hall et la résistivité ont été mesurés à des températures de réfrigérateur à dilution, sous pression hydrostatique jusqu'à 2,2~GPa, et sous champ magnétique jusqu'à 16~T. La transition métamagnétique se termine sous pression et champ magnétique au niveau d'un point critique quantique terminal. Dans cette région, il se produit une forte augmentation de la masse effective, et une différence intrigante entre champ montant et descendant apparaît dans la résistivité transverse. Ce pourrait être la signature d'une nouvelle phase, éventuellement reliée aux phénomènes de relaxation observés dans les mesures d'aimantation, et résultant de frustrations au sein du réseau quasi-Kagomé que forment les atomes d'uranium dans cette structure cristalline. / In this thesis we explore the ferromagnetic quantum criticality in three uranium-based ternary compounds, by means of thermodynamical and transport measurements on single crystal samples, at low temperature and high pressure. URhSi and URhAl are itinerant ferromagnets, while UCoAl is a paramagnet being close to a ferromagnetic instability. All of them have Ising-type magnetic ordering. In the orthorhombic compound URhSi, we show that the Curie temperature decreases upon applying a magnetic field perpendicular to the easy magnetization axis, and a quantum phase transition is expected around 40~T. In the hexagonal system URhAl, we establish the pressure--temperature phase diagram for the first time, indicating a quantum phase transition around 5~GPa. In the isostructural compound UCoAl, we investigate the metamagnetic transition with measurements of magnetization, Hall effect, resistivity and X-ray magnetic circular dichroism. Some intriguing magnetic relaxation phenomena are observed, with step-like features. Hall effect and resistivity have been measured at dilution temperatures, under hydrostatic pressure up to 2.2 GPa and magnetic field up to 16~T. The metamagnetic transition terminates under pressure and magnetic field at a quantum critical endpoint. In this region, a strong effective mass enhancement occurs, and an intriguing difference between up and down field sweeps appears in transverse resistivity. This may be the signature of a new phase, supposedly linked to the relaxation phenomena observed in magnetic measurements, arising from frustration on the quasi-Kagome lattice of uranium atoms in this crystal structure.