La partie expérimentale de cette thèse porte essentiellement sur l'obtention (par épitaxie par jets moléculaires) et la caractérisation des surfaces d'Au (100), (110), et (111) ainsi que sur l'étude des relaxations d'épitaxies du Ni sur ces trois surfaces. Les substrats utilisés sont des monocristaux commerciaux de MgO et de GaAs qui nécessitent le dépôt préalable d'une fine couche de Fe ou de Co afin de garantir des couches tampon d'Au de bonne qualité cristalline. Le second chapitre s'intéresse aux ségrégations de surface d'équilibre: Cu-Ni et Ni-Pt et hors équilibre (en cours de croissance): As-Au et Au-Ni. Une partie plus théorique permet ensuite de modéliser les interactions atomiques (chapitre 3) dans le système Au-Ni au moyen d'un potentiel ajusté (fonctionnelle des liaisons fortes dans l'approximation du second moment). La relaxation numérique permet d'étudier à 0 K la solution solide Au-Ni (propriétés énergétiques, topologiques et élastiques) ainsi que quelques propriétés des multicouches orientées (111). Les résultats sont confrontés aux expériences disponibles. La lacune de miscibilité de diagramme de phase d'équilibre est bien décrite (chapitre 4) par le potentiel ajusté ou bien en utilisant une méthode ab initio (LMTO). Pour cela, on tient compte de l'entropie vibrationnelle (modèle de Debye) et de l'entropie configurationnelle (approximation CVM). On cherche enfin quelles sont les modifications sur la lacune de miscibilité lorsque l'on impose à la solution solide d'être en parfaite cohérence avec un substrat d'Au.