Avec l’explosion du trafic de données mobiles, des débits supérieurs au Gb/s deviennent nécessaires pour l’utilisateur. Ainsi, le réseau de communication est en cour d’amélioration afin de promouvoir le déploiement de la 5G, notamment grâce au développement et à l’installation de systèmes sans fil d’onde millimétrique (mmW) à 10 Gb/s. Néanmoins, pour délivrer de tels débits, les liens fronthaul/backhaul sans fil connectés au cœur de réseau devront supporter des flux de données supérieurs à 40 Gb/s. Cet enjeu suscite un intérêt croissant pour les fréquences sub-mmW et THz (0.1 THz – 1 THz) autour desquelles des bandes passantes (BPs) de 100 GHz sont accessibles. Il serait en effet possible d’atteindre un débit de 100 Gb/s, tout en utilisant des formats de modulation simples et ainsi réduire la consommation d’énergie du système. Visant le marché de masse des applications haut-débits, la technologie Photonique sur Silicium est particulièrement attractive pour générer des BPs naturellement larges et pour sa capacité à forts niveaux d’intégration et faible cout de fabrication. Dans cette thèse, une technologie Photonique sur Silicium industrielle a donc été évaluée durant le développement d’un émetteur intégré THz fonctionnant sur la base d’une photodiode et pouvant délivrer 100 Gb/s. Le développement d’une antenne THz faible cout et compacte est également un aspect majeur de cette thèse afin de permettre la transmission point-à-point du signal THz. En effet, une antenne intégrée sur substrat organique faible cout et à faibles pertes et une lentille fabriquée par impression 3D ont été développées afin d’évaluer ces technologies de prototypage industriel au-delà de 200 GHz. / With the booming of mobile data traffic, the need for higher data-rates is clearly felt. To cope with this strong demand and support the 5G roll-out, the capacity of the mobile communication network is being improved every day with many solutions, among which the development and installation of millimeterwave (mmW) wireless systems operating at up to 10 Gb/s. However, in order to deliver such high speeds to the user, the fronthaul/backhaul network sending data back to the core network would require above 40 Gb/s data-rate wireless links. This challenge generates a growing interest for sub-mmW and THz frequencies (0.1 THz – 1 THz) at which up-to 100 GHz bandwidth (BW) is accessible. In such BW, it would be possible to achieve up to 100 Gb/s data-rates while using simple modulation schemes to reduce the wireless system’s power consumption. Targeting mass-market high data-rates applications, Silicon Photonics technology seems very promising as it benefits from wide intrinsic BW and powerefficient components, as well as high integration levels and low manufacturing costs. In this context, a main aspect of this PhD project is the evaluation of an industrial Silicon Photonics technology for the development of a THz system-on-chip transmitter capable of reaching up to 100 Gb/s using a photodiode. Since THz antennas are also a hot topic for THz point-to-point transmission, a second aspect of this PhD study is the design of a low-cost and compact THz antenna-system. Hence, a planar antenna using low-loss organic packaging technology and a 3D-printed plastic lens were developed in order to assess those industrial prototyping techniques above 200 GHz.

Dans les prochaines décennies, les limites des systèmes de communications optiques actuels seront atteintes à moins d'adopter de nouvelles solutions. L'une d'elles est l'utilisation d'une nouvelle plage spectrale autour de 2 µm stimulée par l'apparition des amplificateurs fibrés dopés thulium. Dans ce manuscrit, nous nous y intéresserons dans le cadre de transmissions très courtes distances sur puces photoniques. Divers matériaux, dont le dioxyde de titane, seront ainsi explorés.Ce travail de thèse a deux principaux objectifs. D'une part, il vise à démontrer que le dioxyde de titane (TiO2), matériau encore peu exploré, est prometteur pour des applications télécoms en le comparant à des plateformes plus matures. D'autre part, il tend à introduire la bande spectrale autour de 2 µm comme une solution à envisager pour les télécommunications de nouvelle génération.Plus précisément, la première partie de cette thèse a pour but de développer une technique pour coupler efficacement la lumière dans les structures en TiO2). Pour la première fois, une configuration faisant appel à un réseau métallique enterré a été évaluée numériquement avant d'être caractérisée expérimentalement. La seconde partie présente des transmissions télécoms haut-débit (10 Gbit/s) autour de µm réalisées sans erreurs dans des guides d'ondes sub-longueur d'onde ou multimodes en dioxyde de titane, silicium ou silicium-germanium. Pour terminer, des fonctions non-linéaires sont explorées sur ces puces photoniques. Il a été ainsi démontré une conversion en longueurs d'onde à 2 µm atteignant -10dB sur silicium ou la génération du premier supercontinuum s'étalant du visible à 2 µm dans un guide d'onde en TiO2. / In the next decades, the limits of current optical communication systems will be reached unless new solutions are adopted. On of them is the use of a new spectral range around 2 µm enabled by the emergence of thulium-doped fiber amplifiers. In this thesis, we will focus on it in the context of very short distances transmissions on photonic chips. Various materials, mainly titanium dioxide (TiO2), will be explored.This thesis work has two main objectives. On the one hand, it aims to demonstrate that a material relatively unexplored, titanium dioxide, is promising for telecom applications by comparing it to more mature plateforms. On the other hand, it tends to introduce the spectral band around 2 µm as a solution to be considered for next-generation communications.More precisely, the first part of this thesis aims to develop a technique to efficiently couple light in TiO2 structures. For the first time, a configuration using a buried metallic grating was evaluated numerically and then characterized experimentally. The second part presents error-free high-speed (10 Gbit/s) telecom transmissions around 2 µm carried out in subwavelength or multimode waveguides in titanium dioxide, silicon or silicon-germanium. Finally, nonlinear functions are explored on the photonic chips. Thus, it has been demonstrated a wavelength conversion at 2 µm reaching -10dB on a silicon waveguide or the first supercontinuum generation spreading from visible to 2 µm wavelength in a TiO2 waveguide.