Le 21ème siècle est marqué par une nouvelle ère du numérique, notamment due au développement d’objets connectés toujours plus nombreux et variés. L’incroyable croissance, du flux de données produites, échangées et stockées au niveau mondial, a permis l’émergence de nouvelles technologies comme la photonique silicium. Cette dernière est cependant limitée par les propriétés intrinsèques du silicium, comme son gap indirect et sa structure cristalline centro-symétrique.En parallèle, la famille des oxydes fonctionnels présente une incroyable diversité de propriétés, comme la ferroélectricité ou la piézoélectricité. Leur intégration en photonique est principalement limitée par l’épitaxie sur silicium. En effet, la différence de paramètre de maille entre la plupart des oxydes et le silicium engendre une grande quantité de défauts et donc une forte dégradation de leurs propriétés. L’oxyde de zirconium stabilisé à l’yttrium (YSZ), qui présente un paramètre de maille intermédiaire, assure la transition entre les réseaux cristallins. Ce travail de thèse s’articule ainsi autour de la croissance d’YSZ et la caractérisation de ses propriétés en optique intégrée.Dans un premier temps, nous avons étudié la croissance d’YSZ par ablation laser pulsé (PLD), ainsi que la fabrication et caractérisation de structures photoniques sur substrat de saphir. Nous avons mis en évidence le rôle du recuit du substrat avant dépôt, sur l’orientation et la qualité du film. L’optimisation du dépôt et le développement d’un procédé de fabrication, a permis la démonstration de guides d’onde à faibles pertes, d’environs 2 dB/cm, et de composants passifs plus complexes comme des structures résonantes en anneau, micro-disques et filtres de Bragg. Nous avons également caractérisé les propriétés optiques non-linéaires du troisième ordre de l’YSZ dont les résultats expérimentaux ont été confirmés par des calculs théoriques. La valeur de l’indice de réfraction non-linéaire n2, de l’YSZ, est comparable à celle du nitrure de silicium (SiN), déjà utilisé comme matériau non-linéaire.En raison de la différence de paramètre de maille et du coefficient d’expansion thermique, l’intégration d’YSZ est susceptible d’induire de larges contraintes dans le silicium, et de briser sa centro-symétrie. De récentes études, expérimentales et théoriques, ont démontré que les contraintes permettent d’exploiter des propriétés optiques non-linéaires d’ordre deux dans le silicium, normalement inexistantes dans ce matériau. Pour caractériser la distribution des contraintes, vues par un mode optique se propageant dans un guide d’onde silicium, nous avons mis en place une nouvelle technique expérimentale basée sur l’effet Raman en optique intégrée. Des signatures d’évolutions de phonons très intéressantes ont été mesurées. Cependant, les modèles théoriques n’ont pas permis de calculer des valeurs de contraintes comparables à celles prévues par les simulations et des études complémentaires sont nécessaires.Finalement l’intégration d’YSZ en photonique silicium a été étudiée selon trois approches. La première et la deuxième consistent au dépôt d’YSZ sur des guides d’onde silicium, encapsulés ou non par une couche de silice. La troisième comprend la fabrication de guides d’onde dans une couche d’YSZ, déposée sur un substrat de silicium non structuré. Nous avons mis en évidence l’absence de contrainte dans chacune des configurations, justifiée par la présence de silice à l’interface entre l’YSZ et le silicium. Les pertes de propagation dans de tels guides hybrides YSZ/Si, initialement supérieures à 250 dB/cm ont été réduites à 7,5 dB/cm par l’optimisation de la croissance et de la géométrie des guides. / 21st century stands out as a new numeric area, particularly due to the development of Internet of Things. The exceptional growth of produced, transmitted and stored data all around the world led to new emerging technologies such as silicon photonics. However, silicon has intrinsic limitations for photonic applications including indirect bandgap and centrosymmetry of its lattice.In parallel, functional oxides family exhibits an impressive panel of properties such as ferroelectricity or piezoelectricity. The epitaxial growth is the main limitation for their integration in silicon photonics. Indeed, the lattice mismatch between most of the oxides and silicon induces high defects density which strongly degrades their properties. Nevertheless, one of these oxides, Yttria-Stabilized Zirconia (YSZ), can be used for the lattice transition. The objectives of the PhD work was then to study the YSZ growth mechanisms and to determine its properties in integrated optics.First, the epitaxial growth of YSZ, using Pulsed-Laser Deposition (PLD), as well as the fabrication and characterization of photonics structures have been developed on sapphire substrate. We reported the role of substrate annealing before deposition, on the orientation and quality of YSZ thin film. The optimization of the epitaxial growth, and the development of a fabrication process, allowed the demonstration of YSZ-based waveguides with propagation losses as low as 2 dB/cm. We also characterized more complex passives structures, in particular ring resonators, micro-disks and Bragg filters. Furthermore, third-order optical nonlinear properties in YSZ waveguides were experimentally determined for the first time. The n2 value, obtained experimentally, is in agreement with theoretical calculation and is in the same order of magnitude than the value reported for silicon nitride SiN, a well-known nonlinear material.Due to lattice mismatch and thermal expansion coefficient difference, the growth of YSZ is expected to induce large strain in silicon, breaking its crystal centrosymmetry. Recent experimental and theoretical studies have demonstrated the possibility to exploit second-order optical nonlinear effects in strained silicon, usually vanishing in this material. To probe the strain distribution, seen by an optical mode propagating in a silicon waveguide, we developed an innovative Raman-based experimental technique for integrated optics. Even if typical phonons behaviors have been revealed, theoretical modeling of experimental data did not lead to strain values comparable to the simulation predictions and complementary studies are required.Finally, three approaches have been tested for the integration of YSZ in silicon photonics. The first and second one include the growth of YSZ on silicon waveguides, buried or not in a silica layer. The third one involves the fabrication of waveguides in a YSZ thin film, deposited on a flat silicon substrate. No strains in the silicon have been observed, justified by the silica interfacial layer between YSZ and silicon. Propagation losses of hybrid YSZ/Si waveguides, initially more than 250 dB/cm, have been reduced to 7.5 dB/cm thanks to YSZ growth optimization and an adapted waveguides geometry.