Ce manuscrit présente une étude expérimentale de phase isolante non-conventionnelle, l'isolant d'Anderson, induit par le désordre, l'isolant de Mott, induit par les interactions de Coulomb, et les isolants topologiques.Dans une première partie du manuscrit, je décrirais le développement d'une méthode pour étudier la réponse de charge de nanoparticules par Microscopie à Force Electrostatique (EFM). Cette méthode a été appliquée à des nanoparticules de magnétite (Fe3O4), un matériau qui présente une transition métal-isolant, i.e. la transition de Verwey, lors de son refroidissement en dessous d'une température TV~120 K.Dans une seconde partie, ce manuscrit présente une étude détaillée de l'évolution de la densité d'états au travers de la transition métal-isolant entre un isolant de type Anderson-Mott et une phase métallique dans le matériau SrTiO3, et ceci, en fonction de la concentration de dopants, les lacunes d'oxygènes. Nous avons trouvé que dans un dispositif memoresistif de type Au-SrTiO3-Au, la concentration de dopants pouvait être ajustée par migration des lacunes d'oxygènes à l'aide d'un champ. Dans cette jonction tunnel, l'évolution de la densités d'états au travers de la transition métal-isolant peut être étudiée de façon continue. Finalement, dans une troisième partie, le manuscrit présente le développement d'une méthode pour la microfabrication d'anneaux de Aharonov-Bohm avec l'isolant topologique, Bi2Se3, déposée par épitaxie à jet moléculaire. Des résultats préliminaires sur les propriétés de transport quantique de ces dispositifs seront présentés. / This manuscript presents an experimental study of unconventional insulating phases, which are the Anderson insulator, induced by disorder, the Mott insulator, induced by Coulomb interactions, and topological insulators.In a first part of the manuscript, I will describe the development of a method to study the charge response of nanoparticles through Electrostatic Force Microscopy (EFM). This method has been applied to magnetite Fe3O4 nanoparticles, a material that presents a metal-insulator transition, i.e. the Verwey transition, upon cooling the system below a temperature Tv=120K. In a second part, this manuscript presents a detailed study of the evolution of the Density Of States (DOS) across the metal-insulator transition between an Anderson-Mott insulator and a metallic phase in the material SrTiO3 and this, as function of dopant concentration, i.e. oxygen vacancies. We found that in this memristive type device Au-SrTiO3-Au, the dopant concentration could be fine-tuned through electric-field migration of oxygen vacancies. In this tunnel junction device, the evolution of the DOS can be followed continuously across the metal-insulator transition. Finally, in a third part, the manuscript presents the development of a method for the microfabrication of Aharonov-Bohm rings with the topological insulator material, Bi2Se3, grown by molecular beam epitaxy. Preliminary results on the quantum transport properties of these devices will be presented.

Les nanostructures semiconductrices isolées possèdent la propriété de confiner les charges sur des temps longs. La rétention de charges dépend de plusieurs paramètres tels que la taille de la nanostructure, la densité et la qualité de l'interface avec le diélectrique. Nous avons exploré ces propriétés à l'aide d'un AFM à l'air par microscopie à force électrostatique (EFM). L'EFM permet d'injecter des charges localement puis de sonder avec une sensibilité de quelques dizaine d'électrons seulement les comportements individuel aussi bien que collectif des nanostructures. Nous avons caractérisé l'interaction pointe-surface non-linéaire pour un couplage électrostatique, puis avons étudié le comportement de nanostructures de Si ou Ge déposées sur du SiO2. Nous avons mis en évidence d'une part la saturation du nuage de charge dans un nappe de nanocristaux, et d'autre part la propagation inhomogène de la charge à l'échelle de l'heure dans une nappe de nanocristaux plus dense.