Dans le cadre de ce travail de doctorat, nous avons mis au point un nouveau microscope à balayage à transistor à électron unique (SET) qui fonctionne à très basse température (T = 50 mK) et à champs magnétiques intenses (18 T). Un SET se compose d'un petit îlot métallique relié aux électrodes de source et de drain par deux jonctions tunnel. En régime de blocage de Coulomb à basse température (T < 5 K), un champ électrique externe règle le courant circulant dans le SET. De plus, de petites variations du champ électrique entraînent de grandes variations du courant SET, ce qui fait de l'appareil un détecteur de charge très sensible, capable de détecter des charges inférieures à 0,01e. Ainsi, lorsque le SET scanne au-dessus d'une surface, il cartographie les propriétés électrostatiques de l'échantillon. Cependant, la mise en œuvre d'un microscope à balayage SET est extrêmement difficile car il combine la microscopie à sonde à balayage, les basses températures et les dispositifs nanoscopiques très sensibles. Pour cette raison, seuls quelques groupes ont réussi sa réalisation. Nos choix technologiques pour construire le microscope améliorent certains aspects par rapport aux instruments déjà existants.La percée est que nous fabriquons la sonde SET en utilisant des techniques lithographiques standard sur des plaquettes commerciales de silicium. C'est pourquoi il est possible de fabriquer des sondes SET par lots. De plus, grâce à une combinaison de techniques de découpage et de gravure, le SET est conçu très près du bord du substrat de Si (< 1 micromètre ). De cette façon, le SET peut être approché à quelques nanomètres de la surface de l'échantillon au moyen d'un contrôle de distance de force atomique. De plus, une électrode de grille fabriquée sur la sonde à proximité de l'îlot peut être utilisée pour régler le point de fonctionnement du SET. Une nouveauté de notre instrument est qu'avec cet électrode de grille et une boucle de rétroaction, nous avons cartographié directement le champ électrique local. Nous démontrons cette nouvelle méthode de balayage par rétroaction en imaginant un réseau interdigité d'électrodes à l'échelle nanométrique. De plus, le SET est un outil idéal pour l'étude de la localisation d'états électroniques. À l'avenir, notre microscope sera utilisé pour l'étude des systèmes d'électrons bidimensionnels en régime de l'effet Hall quantique, des isolants topologiques et de la transition métal-isolant. / In this doctoral work, we have developed a new scanning single electron transistor (SET) microscope that works at very low temperatures (T = 50 mK) and high magnetic fields (B = 18 T). A SET consists of a small metallic island connected to source and drain electrodes through two tunnel junctions. In the Coulomb blockade regime at low temperature regime (T 5 K), an external electric field tunes the current circulating through the SET. In addition,small electric field variations lead to large SET current changes that makes the device a highly sensitive charge detector, able to detect charges smaller than 0.01 e. Thus, when the SET scans above a surface, it maps the electrostatic properties of the sample. However, the implementation of a scanning SET microscope is extremely challenging since it combines scanning probe microscopy, low temperatures and sensitive nanoscopic devices. For thisreason, only a few groups have succeeded its realization. Our technological choices to build the microscope improve certain aspects with respect to the already existing instruments. The breakthrough is that we fabricate the SET probe using standard lithographic techniques on commercial silicon wafers.For that reason, batch fabrication of SET probes is possible. Furthermore, by a combination of dicing and etching techniques, the SET is engineered extremely close to the edge of the Si chip (< 1 micrometer). In this way, the SET can be approached to a few nanometer from the sample surface by means of a atomic force distance control. Additionally, an on-probe gate electrode fabricated close to the island can be used to tune the operating point of the SET. Anovelty of our instrument is that with this on-probe gate and a feedback loop we have been able to map directly the local electric field. We demonstrate this new feedback scanning method by imaging an interdigitated array of nanometer scale electrodes. Moreover, the SET is an ideal tool for the study of the localization of electronic states. In the future, our scanning SET will be used for the study of two-dimensional electron systems in the quantum Hall regime, topological insulators and the metal insulator transition.

BaVS3 est un système quasi-unidimensionnel constitué de chaînes de vanadium. C'est aussi un système multi-bandes dans lequel plusieurs types d'électrons coexistent au voisinage du niveau de Fermi (les bandes dz2 et e(t2g)), qui sont fortement corrélés. Ce système s'appuie donc à la fois sur la physiques des systèmes unidimensionnels et sur celle des systèmes à électrons fortement corrélés. La transition métal-isolant de BaVS3, qui fut l'objet de nombreuses études, a récemment été interprété comme s'apparentant à une onde de densité de charge des électrons dz2 : celle-ci s'accompagne d'une quadrimérisation de la chaîne de vanadium et de l'apparition d'une sur-structure indexée (1,0,1/2)O dans le réseau réciproque. La composante commensurable de la sur-structure selon l'axe des chaînes ne peut s'expliquer qu'en considérant une redistribution des électrons entre les différentes bandes au voisinage du niveau de Fermi sous l'effet des corrélations électroniques. La transition métal-isolant disparaît en un point critique quantique sous pression à 2 GPa. D'un autre point de vu, une autre instabilité isolante d'un autre type, indexée (1/3,1/3,0.8)H avait été observée dans des échantillons substitués chimiquement. Cette thèse en deux temps s'est d'abord intéressée à la compétition entre les deux phases (1,0,1/2)O et (1/3,1/3,0.8)H dans deux séries d'échantillons chimiquement modifié BaVS3-δ et Ba1-xSrxVS3. Cette étude permet de montrer que la phase (1/3,1/3,0.8)H est associée à un ordre de charge des électrons e(t2g) et de conclure sur le rôle des modifications chimiques en temps qu'impuretés quand au mécanisme d'apparition de la seconde phase, par opposition à une théorie de "pression chimique". Le deuxième temps de cette thèse présente l'étude structurale de la transition métal-isolant sous pression. Cette étude à nécessité la mise en place d'un dispositif de diffraction sous pression à basse température avec mesure in-situ de la pression. Cette étude a montrée que la modulation structurale reste commensurable sur les 3/4 du diagramme de phase puis devient incommensurable lorsque l'on s'approche du point critique quantique. Ceci permet d'interpréter l'évolution de la transition métal-isolant sous pression en terme de locking à la commensurabilité, et donne une information sur la physique du composé au voisinage du point critique quantique. / BaVS3 is a quasi one dimensional system made of vanadium chains. It is also a multi-band system in which different kinds of electrons coexist near the Fermi level (the dz2 and e(t2g) bands), which are strongly correlated. This system belongs thus either to the one dimensional physics and to the strongly correlated electron physics. The metal - insulator transition in BaVS3, which has been extensively studied, was recently interpreted relying on a Peierls-like theory for the dz2 band : the transition involves a quadrimerisation of the vanadium chain, which corresponds to a super-structure indexed (1,0,1/2)O in the reciprocal lattice. This commensurate indexation can only be explained by a redistribution of electrons between the different bands near the Fermi level, because of electronic correlations. The metal - insulator transition disappears in a quantum critical point at 2 GPa. On another point of view, another insulating instability of another type, indexed (1/3,1/3,0.8)H, was seen in chemically substituted compounds. This Ph. D. Thesis articulates in two times. The first point deals with chemically substituted samples series BaVS3-δ and Ba1-xSrxVS3. This study shows that the (1/3,1/3,0.8)H phase is associated to a charge ordering of the e(t2g) electrons and permit to conclude on the role of chemical modification as impurities, concerning the apparition mechanism of this other insulating phase, contrary to a "chemical pressure" theory. The second point presents the structural study under pressure of the metal - insulator transition. To conduct this study, a low temperature X-ray diffraction under pressure experiment , including in-situ pressure measurements, was set up. This study showed that the structural modulation remains commensurate on the 3/4th of the phase diagram and then becomes incommensurate on approaching the quantum critical point. This allows an interpretation of evolution of the metal - insulator transition under pressure in terms of commensurate locking, and gives a clue concerning the physics near the quantum critical point.