Les surfaces cristallines jouent un rôle essentiel dans grand nombre d'applications des nanotechnologies, une surface étant souvent un support nécessaire pour des nano-objets. La surface support peut être à son tour nano-structurée, et intervenir ainsi directement dans les propriétés du matériau réalisé. Ainsi, parmi les défis à relever pour maîtriser la morphologie de la surface et donc contrôler les nanostructures, il y a la compréhension des mécanismes moteurs à l'origine des instabilités de surface. Ce travail de thèse constitue une étude théorique accompagnée par des simulations Monte-Carlo de la dynamique des instabilités de croissance. C'est une contribution à la compréhension des mécanismes microscopiques gouvernant ces instabilités. Deux démarches ont été suivies dans cette étude : la première est une étude statistique qui consiste à analyser la morphologie de la surface instable, puis de proposer des modèles numériques (barrière Ehrlich-Schwoebel, impuretés) et des équations analytiques capables de décrire ces instabilités et remonter enfin aux mécanismes atomistiques sous-jacents. La deuxième, est une étude de la dynamique des marches qui a pour but de prévoir puis de déterminer les mécanismes atomistiques exacts gouvernants le mouvement de ces marches et les échanges de matière entre elles à l'aide de mesures de la distribution de largeur des terrasses (TWD). Les résultats de ce travail ont abouti à la mise en évidence de nouveaux mécanismes de nanostructuration spontanée [impuretés], ainsi que sur le développement et la validation numérique de nouveaux outils mathématiques [approche de Fokker-Planck] pour décrire les fluctuations des séparations entre les marches (TWDs) sur les surfaces loin de l'équilibre.

Les nanostructures semiconductrices isolées possèdent la propriété de confiner les charges sur des temps longs. La rétention de charges dépend de plusieurs paramètres tels que la taille de la nanostructure, la densité et la qualité de l'interface avec le diélectrique. Nous avons exploré ces propriétés à l'aide d'un AFM à l'air par microscopie à force électrostatique (EFM). L'EFM permet d'injecter des charges localement puis de sonder avec une sensibilité de quelques dizaine d'électrons seulement les comportements individuel aussi bien que collectif des nanostructures. Nous avons caractérisé l'interaction pointe-surface non-linéaire pour un couplage électrostatique, puis avons étudié le comportement de nanostructures de Si ou Ge déposées sur du SiO2. Nous avons mis en évidence d'une part la saturation du nuage de charge dans un nappe de nanocristaux, et d'autre part la propagation inhomogène de la charge à l'échelle de l'heure dans une nappe de nanocristaux plus dense.