Dans une première partie nous considérons le système {YSZ || (0001)_alpha-Al2O3} ({couche||substrat}) obtenu par voie sol-gel pour lequel des traitements thermiques induisent la formation d'îlots YSZ épitaxiés plats (interfaces (1) et (2); substrat plan) ou bombés (interface (3); substrat rugueux). Nous proposons un modèle physique à l'échelle atomique et une approche de simulation ab initio pour calculer l'énergie et comparer la stabilité de chaque interface observée expérimentalement.<br />La deuxième partie introduit un modèle physique à l'échelle nanométrique couplé à un algorithme Monte-Carlo classique pour simuler la mise en îlots, au cours d'un traitement thermique, de films minces synthétisés par voie sol-gel. Cette partie complète l'étude précédente en justifiant la plus grande stabilité de l'interface (3) vis à vis des interfaces (1) et (2) sur un substrat rugueux. Nous proposons ensuite une démarche de simulation analogue et un modèle décrivant les processus de formation d'îlots pour des couches synthétisées par des procédés de type PVD-CVD illustrés par le système {Ge||Si}.<br />Finalement, un modèle physique et un algorithme de dynamique moléculaire classique sont associés pour simuler l'auto-organisation de particules de diamant micrométriques immergées dans un film liquide horizontal en évaporation sur un substrat. Les particules sont soumises à des forces capillaires attractives et des forces de friction avec le substrat qui est plan ou rayé. L'expérience démontre une agglomération préférentielle des particules sur les zones de forte rugosité d'un substrat rayé; le modèle démontre l'importance des frottements dans l'interprétation de ce phénomène.

Les travaux présentés dans ce manuscrit sont consacrés à l'étude structurale (taille, déformation, défauts, composition) d'îlots de Ge sur substrats de Si(001) nominaux et pré-structurés durant ou après croissance par épitaxie par jet moléculaire, en utilisant la diffraction (anomale) des rayons X en incidence rasante àl'Installation Européenne de Rayonnement Synchrotron (ESRF). <br />Les échantillons ont été caractérisés soit ex situ après croissance sur la ligne de lumière ID01, soit in situ durant leur croissance par EJM grâce au dispositif dédié sur la ligne BM32. <br />Les effets dynamiques associés à l'utilisation de l'incidence rasante ont été étudiés sur la base de simulations des champs de déformations dans les nanostructures de Ge. Les résultats ont montré l'influence majeure de l'angle d'incidence sur l'intensité diffusée par les nano-objets de taille de l'ordre de la centaine de nanomètres. Une nouvelle technique de rayons X a été développée pour détecter leur présence et étudier la structure de leur coeur en se concentrant sur l'intensité diffusée par les défauts autour de réflexions interdites. Pour comprendre les dynamiques de croissance, la forme, la taille, le mode de croissance, la composition et la présence éventuelle de défauts et/ou d'ordre atomique à l'intérieur des nanostructures ont été caractérisés en fonction du dépôt, de sa température, de la vitesse de croissance et du recuit. L'évolution des déformations, la transition élastique-plastique, l'interdiffusion et leur relation avec les différentes morphologies des îlots ont été étudiés grâce à l'utilisation de techniques in situ de rayons X. L'étude a mis en évidence l'apparition précoce des dislocations dans les îlots durant la croissance lente de Ge sur Si(001) et la formation d'un nouveau type de superdomes qui résulte de la coalescence d'îlots. <br />Enfin, les croissances sur surfaces Si(001) nominales et pré-structurées ont étécomparées. La structuration a été obtenue soit par lithographie électronique soit par collage moléculaire et attaque chimique. Ces études ont permis de montrer qu'en modulant la surface, il est possible de changer l'état de relaxation et l'énergie élastique totale des îlots sans modifier leur composition moyenne en Ge. Ces résultats ont aussi révélés que le processus d'interdiffusion n'est pas induit par la contrainte mais plutôt par les phénomènes de diffusion de surfaces.