Ce manuscrit présente une étude expérimentale de phase isolante non-conventionnelle, l'isolant d'Anderson, induit par le désordre, l'isolant de Mott, induit par les interactions de Coulomb, et les isolants topologiques.Dans une première partie du manuscrit, je décrirais le développement d'une méthode pour étudier la réponse de charge de nanoparticules par Microscopie à Force Electrostatique (EFM). Cette méthode a été appliquée à des nanoparticules de magnétite (Fe3O4), un matériau qui présente une transition métal-isolant, i.e. la transition de Verwey, lors de son refroidissement en dessous d'une température TV~120 K.Dans une seconde partie, ce manuscrit présente une étude détaillée de l'évolution de la densité d'états au travers de la transition métal-isolant entre un isolant de type Anderson-Mott et une phase métallique dans le matériau SrTiO3, et ceci, en fonction de la concentration de dopants, les lacunes d'oxygènes. Nous avons trouvé que dans un dispositif memoresistif de type Au-SrTiO3-Au, la concentration de dopants pouvait être ajustée par migration des lacunes d'oxygènes à l'aide d'un champ. Dans cette jonction tunnel, l'évolution de la densités d'états au travers de la transition métal-isolant peut être étudiée de façon continue. Finalement, dans une troisième partie, le manuscrit présente le développement d'une méthode pour la microfabrication d'anneaux de Aharonov-Bohm avec l'isolant topologique, Bi2Se3, déposée par épitaxie à jet moléculaire. Des résultats préliminaires sur les propriétés de transport quantique de ces dispositifs seront présentés. / This manuscript presents an experimental study of unconventional insulating phases, which are the Anderson insulator, induced by disorder, the Mott insulator, induced by Coulomb interactions, and topological insulators.In a first part of the manuscript, I will describe the development of a method to study the charge response of nanoparticles through Electrostatic Force Microscopy (EFM). This method has been applied to magnetite Fe3O4 nanoparticles, a material that presents a metal-insulator transition, i.e. the Verwey transition, upon cooling the system below a temperature Tv=120K. In a second part, this manuscript presents a detailed study of the evolution of the Density Of States (DOS) across the metal-insulator transition between an Anderson-Mott insulator and a metallic phase in the material SrTiO3 and this, as function of dopant concentration, i.e. oxygen vacancies. We found that in this memristive type device Au-SrTiO3-Au, the dopant concentration could be fine-tuned through electric-field migration of oxygen vacancies. In this tunnel junction device, the evolution of the DOS can be followed continuously across the metal-insulator transition. Finally, in a third part, the manuscript presents the development of a method for the microfabrication of Aharonov-Bohm rings with the topological insulator material, Bi2Se3, grown by molecular beam epitaxy. Preliminary results on the quantum transport properties of these devices will be presented.