La formation et la morphologie des boîtes quantiques est un sujet d'un grand intérêt, ces structures ayant de nombreuses application potentielles, en particulier en microélectronique et optoélectronique. Cette thèse porte sur l'étude théorique et numérique de la croissance et de la morphologie d'ilots par épitaxie par jet moléculaire. Un premier modèle de croissance est une étude non-linéaire de l'instabilité de type Asaro-Tiller-Grinfeld, il convient pour les systèmes à faibles désaccords de maille, et est plus spécifiquement appliquée au cas où le désaccord de maille est anisotrope (voir le cas du GaN sur AlGaN). Le calcul de l'instabilité que nous avons effectué prend en compte les effets élastiques causés par le désaccord de maille, les effets de mouillage et les effets d'évaporation. La résolution numérique de l'instabilité nous permet de constater une croissance plus rapide dans le cas anisotrope comparé au cas isotrope, ainsi que la croissance d'ilots fortement anisotropes.Le deuxième modèle est basé sur des simulations Monte Carlo cinétiques, qui permettent de décrire la nucléation d'ilots 3D. Ces simulations sont utilisées pour les systèmes à fort désaccord de maille, comme Ge sur Si. Nos simulations prennent en compte la diffusion des adatomes, les effets élastiques, et un terme simulant la présence de facettes (105). Des ilots pyramidaux se formaent, conformément aux expériences et subissent un mûrissement interrompu. Les résultats obtenus ont été comparés au cas de la nucléation 2D, et on retrouve en particulier une densité d'ilots en loi de puissance par rapport au rapport D/F du coefficient de diffusion et du flux de déposition. / The growth and morphology of quantum dots is currently a popular subject as these structures have numerous potential uses, specifically in microelectronics and optoelectronics. Control of the size, shape and distribution of these dots is of critical importance for the uses that are being considered. This thesis presents a theoretical and numerical study of the growth of islands during molecular beam epitaxy. In order to study these dots, we used two models : a nonlinear study of an Asaro-Tiller-Grinfeld like instability, and kinetic Monte Carlo simulations. The first model is appropriate for low misfit systems, and is detailed in the case where misfit is anisotropic (this is the case when depositing GaN on AlGaN). In this case we took into account elastic effects, wetting effects and evaporation. Numerical calculations show faster growth, compared to the isotropic misfit case, and the growth of strongly anisotropic islands.The second model is based on kinetic Monte Carlo simulations that can describe 3D island nucleation. We use these simulations to study systems with high misfits, specifically Ge on Si. Adatom diffusion on a surface is considered and takes into account elastic effects, and surface energy anisotropy, that allows us to stabilize (105) facets. Simulation results show the growth of pyramid-shaped 3D islands, as observed in experiments, and their ripening is interrupted. The results of these simulations are then compared to the case of 2D nucleation, and we find that several of the known 2D properties also apply to 3D islands. Specifically, island density depends on a power law of D/F, the diffusion coefficient divided by the deposition flux.

Le but de cette thèse est l'étude théorique de la dynamique du murissement des boites quantiques auto-organisées. Pour cela, nous déduisons en utilisant les outils de la mécanique des milieux continus, une équation pour l'évolution spatio-temporelle d'un film cristallin en hétéroépitaxie en prenant en compte les effets de diffusion de surface, les effets élastiques, les effets capillaires et les effets d'anisotropie d'énergie de surface. Nous étudions tout d'abord la morphologie 2D et la dynamique de boites quantiques isotrope et anisotrope. Dans chaque cas, nous trouvons de manière quasi analytique une famille continue de solution qui décrit la forme et la taille des ilots. Ces solutions sont en accord avec nos simulations numériques. Dans les deux cas, nous trouvons que le temps de murissement dépend linéairement de la distance entre ilots et en particulier dans le cas anisotrope nous mettons en évidence le fait que le temps de murissement est soit réduit ou soit accéléré en fonction de la hauteur des pair d'ilots. Dans un second temps, motivé par des résultats expérimentaux sur les boites quantiques de GaN, nous étudions la dynamique tridimensionnelle d'ilots avec une énergie d'énergie de surface avec symétrie hexagonale. Nos simulations numériques montrent que le temps de murissement est fortement réduit dû à la présence de l'anisotropie d'énergie de surface et qu'une transition entre des ilots hexagonaux et allongés apparait en fonction de l'épaisseur du film. Finalement, nous prenons en compte dans notre modèle numérique la présence de l'évaporation préférentielle et nous mettons en évidence la présence d'ilots sans couche de mouillage. Ces ilots sont observés expérimentalement et ont une haute efficacité d'émission par photoluminescence dans le spectre UV. / The aim of this thesis is to theoretically study the coarsening dynamics of self-organized quantum dots. To this end, we derive the spatio-temporal evolution equation for a hetero-epitaxial system which takes into account surface diffusion, elastic effect, capillary effect and anisotropic effect, using the continuous mechanics framework. We first investigate theoretically the 2D morphology and the dynamics of an isotropic and an anisotropic system of self-organized islands (quantum dots). In both cases, we find a quasi-analytical continuous family of solution which describes the shape and the size of the islands and is favorably compared to our numerical simulations. We find in both cases that the coarsening time depends linearly on the distance between the islands and remarkably that in the anisotropic case the coarsening time can be reduced or accelerated depending on the islands heights. Secondly, motivated by experimental results on GaN quantum dots we study a three-dimensional system with a hexagonal surface energy anisotropy symmetry. Our numerical simulations reveal that the coarsening time is strongly slowed down due to the presence of the surface energy anisotropy and that a transition from hexagonal to elongated islands appears as the initial height of the film increases. Finally, we include the effect of preferential evaporation and we recover islands without a wetting layer that are observed experimentally and have a high photo-luminescence emission efficiency in the UV spectrum.