La miniaturisation depuis 50 ans des composants, transistors MOSFET à base de silicium, dans les technologies CMOS est de plus en plus limité par l'apparition de phénomènes quantiques dans les dispositifs de taille sub-0,1 µm. L'épaisseur requise pour l'isolant de grille devenant trop faible, cela induit une très forte augmentation des courants de fuites à travers le diélectrique. Une solution pour résoudre ce problème est de remplacer la silice (SiO2), qui est l'isolant naturel du substrat de Si, par un autre matériau qui a une constante diélectrique plus élevée que celle de la silice. Avec ces oxydes « high-κ » on peut viser une épaisseur physique d'isolant plus élevée et donc diminuer les courants de fuites tout en maintenant la capacité surfacique du transistor constante. <br />Les solutions industrielles actuelles développées sont à base d'oxydes « high-κ » amorphes. Une alternative serait l'utilisation d'oxydes monocristallins épitaxiés directement sur silicium qui permettrait de retrouver les propriétés de l'oxyde massif et d'obtenir des interfaces abruptes sans présence de couches interfaciales. Cependant le choix du matériau est limité par le désaccord de maille avec le substrat et aussi par la compatibilité et la stabilité thermodynamique des oxydes vis-à-vis du Si. Les matériaux explorés dans cette thèse ont été LaAlO3 et Gd2O3 choisis pour leurs propriétés électroniques (constante diélectrique et discontinuités de bandes) et γ-Al2O3 choisi pour ses qualités thermodynamiques vis-à-vis du Si. La méthode d'élaboration utilisée a été l'épitaxie par jets moléculaires (EJM).<br />Nous avons tout d'abord commencé par étudier le système LaAlO3/Si. Après avoir défini les conditions optimales de croissance (température, pression d'oxygène et vitesse de croissance), par homoépitaxie (sur un substrat de LaAlO3(001)) et hétéroépitaxie (sur un substrat de SrTiO3(001)), nous avons exploré les possibilités de faire croître cet oxyde directement sur Si(001). N'ayant pas pu trouver de fenêtre de croissance compatible, une solution a été d'utiliser une fine couche interfaciale de SrO ou de SrTiO3 pour obtenir une phase solide de LaAlO3 sur Si. Cependant les limitations thermodynamiques de l'interface à base d'alcalino-terreux (Sr) rendent incompatible la réalisation de transistors CMOS. <br />Le deuxième oxyde étudié a été l'oxyde de gadolinium (Gd2O3). Si la croissance s'est révélée monodomaine et de très bonne qualité sur Si(111), nous avons observé une croissance bidomaine sur substrat de Si(001). Ceci provient de l'alignement des plans (110) de l'oxyde sur les plans (001) du Si, tournés de 90° à chaque marche de silicium, Nous avons alors montré que l'utilisation d'un substrat vicinal de Si(001) désorienté de 6° permet de favoriser qu'un seul domaine de Gd2O3. Malgré ses limitations (formation de silicate interfacial à hautes températures) le système Gd2O3/Si est actuellement considéré comme un des plus intéressants pour l'intégration dans les technologies CMOS.<br />Afin d'obtenir des interfaces abruptes et stables thermodynamiquement, nous avons exploré les possibilités offertes par l'oxyde γ-Al2O3. Après avoir mis en évidence la possibilité de faire croître un film fin de γ-Al2O3(001) pseudomorphe avec une interface cohérente, nous avons défini différents assemblages possibles combinant γ-Al2O3 et un oxyde « high-κ ». Une solution originale qui permet d'intégrer un oxyde « high-κ » cristallin sur Si avec une interface abrupte et stable a été proposée.