La formation et la morphologie des boîtes quantiques est un sujet d'un grand intérêt, ces structures ayant de nombreuses application potentielles, en particulier en microélectronique et optoélectronique. Cette thèse porte sur l'étude théorique et numérique de la croissance et de la morphologie d'ilots par épitaxie par jet moléculaire. Un premier modèle de croissance est une étude non-linéaire de l'instabilité de type Asaro-Tiller-Grinfeld, il convient pour les systèmes à faibles désaccords de maille, et est plus spécifiquement appliquée au cas où le désaccord de maille est anisotrope (voir le cas du GaN sur AlGaN). Le calcul de l'instabilité que nous avons effectué prend en compte les effets élastiques causés par le désaccord de maille, les effets de mouillage et les effets d'évaporation. La résolution numérique de l'instabilité nous permet de constater une croissance plus rapide dans le cas anisotrope comparé au cas isotrope, ainsi que la croissance d'ilots fortement anisotropes.Le deuxième modèle est basé sur des simulations Monte Carlo cinétiques, qui permettent de décrire la nucléation d'ilots 3D. Ces simulations sont utilisées pour les systèmes à fort désaccord de maille, comme Ge sur Si. Nos simulations prennent en compte la diffusion des adatomes, les effets élastiques, et un terme simulant la présence de facettes (105). Des ilots pyramidaux se formaent, conformément aux expériences et subissent un mûrissement interrompu. Les résultats obtenus ont été comparés au cas de la nucléation 2D, et on retrouve en particulier une densité d'ilots en loi de puissance par rapport au rapport D/F du coefficient de diffusion et du flux de déposition. / The growth and morphology of quantum dots is currently a popular subject as these structures have numerous potential uses, specifically in microelectronics and optoelectronics. Control of the size, shape and distribution of these dots is of critical importance for the uses that are being considered. This thesis presents a theoretical and numerical study of the growth of islands during molecular beam epitaxy. In order to study these dots, we used two models : a nonlinear study of an Asaro-Tiller-Grinfeld like instability, and kinetic Monte Carlo simulations. The first model is appropriate for low misfit systems, and is detailed in the case where misfit is anisotropic (this is the case when depositing GaN on AlGaN). In this case we took into account elastic effects, wetting effects and evaporation. Numerical calculations show faster growth, compared to the isotropic misfit case, and the growth of strongly anisotropic islands.The second model is based on kinetic Monte Carlo simulations that can describe 3D island nucleation. We use these simulations to study systems with high misfits, specifically Ge on Si. Adatom diffusion on a surface is considered and takes into account elastic effects, and surface energy anisotropy, that allows us to stabilize (105) facets. Simulation results show the growth of pyramid-shaped 3D islands, as observed in experiments, and their ripening is interrupted. The results of these simulations are then compared to the case of 2D nucleation, and we find that several of the known 2D properties also apply to 3D islands. Specifically, island density depends on a power law of D/F, the diffusion coefficient divided by the deposition flux.

L'objectif de ce travail a été de comprendre les mécanismes menant à la formation de Nitrure de Gallium monocristallin ( GaN ) sur substrat de silicium par croissance cristalline en configuration Vapeur-Liquide-Solide (VLS), à partir d'une phase liquide de gallium, dans la perspective d'un amélioration ultérieure de la qualité des couches hétéro-épitaxiales de GaN sur silicium destinées aux composants pour l'électronique de puissance.Notre étude s'est concentrée autour de la croissance sur couche-germe 3C-SiC déposée par CVD sur silicium, l'ajout de cette couche intermédiaire permettant d'obtenir des couches de GaN en compression, tout en évitant les interactions chimiques entre le silicium du substrat et le Ga liquide.Une étude expérimentale paramétrique a mis en lumière la sensibilité de la croissance du GaN vis à vis des principaux paramètres de croissance ( température, flux de précurseur azoté ), et en particulier l'influence de ces paramètres sur les proportions des quantités formées des deux polytypes les plus stables du GaN ( 3C-GaN et 2H-GaN ). Nous avons montré, par exemple, qu'une simple variation de 50°C de la température conduit à une variation importante du mode de nitruration des gouttes de gallium, et à un changement radical du polytype majoritaire du GaN formé. Nous avons aussi montré que la croissance cristalline du GaN est très sensible à l'état de surface de la couche-germe CVD de 3C-SiC hétéro-épitaxial. Celle-ci est composée d'une coalescence d'îlots de SiC. Cette morphologie particulière impose sa géométrie quasi-périodique à la distribution des gouttes de gallium et peut favoriser la nucléation du GaN en périphérie des gouttes dans les premiers stades de la croissance.A partir des résultats de cette exploration préliminaire, nous avons pu identifier des conditions de croissance permettant de réaliser une couche quasi-continue de GaN par coalescence de cristallites résultant de la nitruration de gouttes de gallium liquide submicroniques / The aim of this work was to understand the mechanisms that lead to the formation of monocrystalline gallium nitride ( GaN ) on silicon substrate by crystalline growth with the Vapor-Liquid-Solid (VLS) configuration, from a gallium liquid phase, in the perspective of an ulterior improvement of the GaN hetero-epitaxial layers quality on silicon intended for power electronics components. Our study focused on the growth on 3C-SiC seed-layer deposited by CVD on silicon, this layer adding permits to obtain GaN layers in compression with avoiding any interactions between the silicon substrate and the liquid gallium. A parametric experimental study has enlightened the sensitivity of the GaN growth with the growth conditions (the temperature, the flux of the nitrogen precursor) and particularly the influence of the parameters on the ratio of formed quantities of the two most stable GaN polytypes (3C-GaN ou 2H-GaN). We have shown, for example, that a simple variation of 50°C of the temperature permits an important variation of the gallium droplets nitriding mod, and of the GaN preferential polytype. We also showed that the growth of GaN is very sensitive to surface state of the 3C-SiC CVD hetero-epitaxial seed-layer. This one is composed of some SiC coalescing islands. This peculiar morphology imposes its quasi-periodic geometry at the gallium droplet distribution and can favor the GaN nucleation at the droplet periphery during the first stage of the growth. From the results of this preliminary exploration, we were able to identify some growth conditions allowing to obtain an almost continued layer of GaN resulting of the nitriding of submicronic liquid gallium droplets