La détection des données hors distribution (en anglais *Out-of-Distribution*, OOD) est un défi crucial en apprentissage automatique, essentiel pour garantir la fiabilité et la sécurité des modèles dans les applications du monde réel. Cette thèse explore l'utilisation des réseaux antagonistes génératifs (Generative Adversarial Networks, GANs) pour la détection des données OOD. Les GANs, connus pour leur capacité à générer des données synthétiques réalistes, se composent d'un générateur qui produit des données et d'un discriminateur qui distingue entre les données réelles et générées. Entraînés sur des données en distribution (en anglais *in-distribution*, ID), les GANs pourraient offrir une approche prometteuse pour identifier les échantillons OOD. Le premier chapitre fournit une introduction à l'apprentissage automatique et au problème de détection des données OOD. Il définit les concepts clés, souligne l'importance d'une détection efficace des données OOD et présente des métriques d'évaluation pour évaluer les détecteurs OOD. De plus, il discute des différentes mesures de distance entre distributions, jetant les bases de la compréhension des opérations des GANs. Le deuxième chapitre explore les fondements théoriques des GANs, détaillant leur architecture et leur processus d'entraînement antagoniste. Ce chapitre couvre également les métriques d'évaluation des performances des GANs, offrant une compréhension approfondie de leurs forces et de leurs limites. Dans le troisième chapitre, nous introduisons le GAN Entropique (E-GAN), une nouvelle approche pour la détection des données OOD. Dans l'E-GAN, nous modifions la fonction de perte traditionnelle des GANs pour inclure la régularisation de l'entropie, permettant ainsi au générateur de produire à la fois des données ID et OOD. Cela permet au discriminateur de fonctionner comme un classificateur binaire efficace, distinguant entre les échantillons ID et OOD. Nous présentons des résultats expérimentaux démontrant l'efficacité de l'E-GAN et analysons l'impact de la variation des hyperparamètres clés. Le chapitre se termine par une discussion sur les limites de notre approche et les voies potentielles pour des recherches futures. Cette thèse propose une méthode novatrice pour améliorer la détection des données OOD en utilisant les GANs. En introduisant la régularisation de l'entropie dans la structure des GANs, nous améliorons la capacité du modèle à distinguer entre les données ID et OOD, contribuant ainsi au développement de systèmes d'apprentissage automatique plus fiables et sûrs. / Out-of-Distribution (OOD) detection is a critical challenge in machine learning, vital for ensuring the reliability and safety of models in real-world applications. This thesis explores the use of Generative Adversarial Networks (GANs) for OOD detection. GANs, known for their ability to generate realistic synthetic data, consist of a generator that produces data and a discriminator that differentiates between real and generated data. Trained on in-distribution (ID) data, GANs could offer a promising approach for identifying OOD samples. The first chapter provides a comprehensive introduction to machine learning and the OOD detection problem. It defines key concepts, emphasizes the importance of effective OOD detection, and introduces evaluation metrics for assessing OOD detectors. Additionally, it discusses various distance measures between distributions, laying the groundwork for understanding GAN operations. The second chapter delves into the theoretical foundations of GANs, detailing their architecture and adversarial training process. This chapter also covers evaluation metrics for GAN performance, offering a thorough understanding of their strengths and limitations. In the third chapter, we introduce the Entropic GAN (E-GAN), a novel approach for OOD detection. In E-GAN, we modify the traditional GAN loss function to include entropy regularization, enabling the generator to produce both ID and OOD data. This allows the discriminator to function as an effective binary classifier, distinguishing between ID and OOD samples. We present experimental results demonstrating the efficacy of E-GAN and analyze the impact of varying key hyperparameters. The chapter concludes with a discussion on the limitations of our approach and potential avenues for future research. This thesis proposes a novel method for improving OOD detection using GANs. By introducing entropy regularization into the GAN framework, we enhance the model's ability to distinguish between ID and OOD data.

Les dernières décennies ont été témoins d'une flambée sans précédent du trafic de données, nécessitant un besoin urgent de liaisons optiques ultra-rapides. Cela a donné l'impulsion aux systèmes de transmission optique à haute capacité de nouvelle génération. Dans ces systèmes, des modulateurs optiques intégrés ayant une bande passante élevée, économe énergétiquement, compacts, stables et adaptés à une intégration à grande échelle sont très demandés. La plate-forme de photonique sur silicium (SiP), bien qu'elle souffre de l'absence d'effets électro-optiques inhérents dans la silice, s'est néanmoins avéré être une solution rentable pour les transmetteurs de haute capacité puisqu'elle tire parti du processus CMOS mature. Par conséquent, un effort considérable a été consacré au développement d'appareils de haute performance sur cette plate-forme. Cette thèse se concentre sur les transmetteurs SiP pour la prochaine génération de réseaux optiques où l'espace, en tant que dernière dimension physique, est proposé pour surmonter le « manque de capacité » associé à la technologie actuelle. Pour construire de tels transmetteurs, il faut intégrer un ensemble de modulateurs optiques dans une seule puce. Ces modulateurs doivent simultanément se caractériser par un fonctionnement à grande vitesse, une faible consommation d'énergie, un encombrement réduit et une grande stabilité. Les modulateurs SiP bien connus, tels que les modulateurs à micro-anneaux (MRM) et les modulateurs Mach-Zehnder (MZM), ne répondent pas à tous les critères susmentionnés. Les MRM présentent une faible performance en termes de stabilité et les MZM sont gourmands en énergie. C'est pourquoi nous étudions des modulateurs SiP nouveaux et avancés dans deux chapitres de cette thèse. Pour la première fois, nous faisons la démonstration de modulateurs SiP basés sur la conversion de mode. Lorsqu'opérés en réflexion, les modulateurs de Bragg offrent un rendement élevé ainsi qu'un fonctionnement à grande vitesse. Cependant, les modulateurs fonctionnant en réflexion sont gênés par le manque de circulateurs sur puce. Nous abordons cette question et présentons expérimentalement un modulateur SiP basé sur des guides d'ondes asymétriques à réseau de Bragg suivis d'un coupleur directionnel asymétrique (ou jonction Y asymétrique), offrant des opérations en réflexion sans avoir besoin de circulateurs et avec de faibles pertes sur la puce. Dans notre deuxième contribution, nous faisons la démonstration du premier modulateur à lumière lente basé sur des résonateurs à réseau de Bragg couplés (BGR), un MZM assisté par des BGR couplés. Les BGR, composés de cavités à faible facteur Q en série, ralentissent les ondes optiques dans une large bande passante optique (quelques nanomètres). Cela permet au modulateur d'améliorer la modulation de phase sur une gamme de longueurs d'onde de fonctionnement relativement large, ce qui se traduit par des performances plus stables par rapport aux modulateurs à résonance unique (p. ex., les MRM). Atteignant un bon équilibre dans les indicateurs de performance, le MZM assisté par les BGR peut être reconnu comme un choix potentiel pour les futurs systèmes de multiplexage par répartition en longueur d'onde/espace (SDM/WDM). Suite à notre démonstration pionnière, nous étudions, comme troisième contribution, l'impact de l'effet de lumière lente sur la performance des modulateurs SiP, le compromis existant entre efficacité et vitesse en particulier. Lorsque l'efficacité est améliorée dans des modulateurs SiP typiques, soit en augmentant la capacité de la jonction PN (dans les MZM), soit en introduisant des structures hautement résonantes (dans les MRM), cela entraîne également une augmentation de la constante de temps RC ou de la durée de vie des photons, respectivement, et donc une diminution de la largeur de bande électro-optique (EO). Dans ce chapitre, nous proposons de remettre en question ce compromis pour les modulateurs à lumière lente et d'étudier s'ils sont capables de surpasser les modulateurs SiP typiques. À cette fin, il est nécessaire de disposer de modèles complets de la réponse EO de ces modulateurs, intégrés soit avec des électrodes en bloc, soit avec des électrodes mobiles. À l'aide de ces modèles, nous comparons les modulateurs à lumière lente avec les MZM convectifs. Nous examinons également différentes méthodes de conception pour réduire les V[indice π] des modulateurs SiP afin qu'ils puissent répondre aux exigences des pilotes COMS et des interfaces électriques pour la prochaine génération de transmetteurs SiP. Dans notre quatrième contribution, nous faisons état d'un modulateur tout silicium à lumière lente qui permet un fonctionnement à grande vitesse du PAM sans utiliser de convertisseur numérique-analogique (CNA) électrique. Les BGR sont intégrés dans chaque bras d'un MZM an de ralentir les ondes optiques, ce qui améliore la modulation de phase sur une bande passante optique relativement importante. Le signal optique PAM à 4 niveaux est généré par une conception segmentée dans des déphaseurs à lumière lente avec deux signaux de commande binaires, ce qui élimine le besoin d'un CNA à grande vitesse. Ce modulateur combine les avantages d'un encombrement ultra-compact, d'une faible consommation d'énergie, d'une large bande passante électro-optique et d'un fonctionnement stable en présence de variations de température. Les guides d'ondes à lumière lente présentent de bonnes performances avec de faibles variations de la longueur d'onde centrale et de la largeur de bande sur la plaquette. Ce modulateur devrait être singulièrement intéressant pour les applications qui nécessitent un groupe de modulateurs compacts sur une seule puce. Enfin, pour notre cinquième contribution, nous poursuivons l'objectif de développer des transmetteurs optiques SDM à haute performance adaptés aux systèmes de transmission optique à haute capacité de la prochaine génération. Nous proposons des transmetteurs optiques présentant un rendement énergétique élevé, une densité de bande passante élevée, une stabilité relativement élevée et entièrement intégrés dans la plateforme SiP (une solution rentable). Nous discutons des méthodologies de conception et des exigences de ces transmetteurs SDM qui consistent en des modulateurs à lumière lente (MZMs assistés par des BGRs) suivis d'un multiplexeur modal sur puce. Nous ciblons les systèmes à courte et longue portée en concevant respectivement des modulateurs PAM à électrodes groupées et des modulateurs IQ à électrodes à ondes progressives. Afin de multiplexer spatialement les signaux provenant des modulateurs, nous faisons la démonstration d'une conception de multiplexeurs modaux sur puce basée sur des coupleurs directionnels asymétriques. Nous mettons en cascade trois de ces coupleurs pour créer quatre canaux spatiaux (TE0, TE1, TE2 et TE3). Pour réaliser une transmission MDS complète. Cette sortie multiplexée spatialement doit être injectée dans une fibre à noyau elliptique faiblement multimode supportant les mêmes modes. / Recent decades have witnessed an unprecedented surge in data traffic, necessitating an urgent need for ultra-fast optical links. This has provided the impetus for the next-generation high-capacity optical transmission systems. In these systems, integrated optical modulators that are high-bandwidth, power efficient, compact, stable, and suited-for-large-scale-integration are highly demanded. The silicon photonics (SiP) platform, although it suffers from the lack of inherent electro-optic effects in silicon, has nevertheless offered a cost-effective solution for high-capacity transmitters leveraging the mature CMOS process. Hence, a tremendous effort has been dedicated to developing high-performance devices in this platform. This thesis focuses on SiP transmitters for the next generation of optical networks where space, as the last physical dimension, is offered to overcome the "capacity crunch" associated with the current technology. To build such transmitters, a set of optical modulators is required to be integrated into a single chip. These modulators should simultaneously feature high-speed operation, low energy consumption, compact footprint, and stability. Well-known SiP modulators, such as micro-ring modulators (MRMs) and Mach-Zehnder modulators (MZMs), do not meet all the aforementioned criteria. MRMs present a poor performance in terms of stability and MZMs are energy-hungry. Hence, we investigate novel and advanced SiP modulators in two chapters of this thesis. As our first contribution, for the first time, we demonstrate mode-conversion based SiP modulators. If operated in reflection, Bragg modulators offer high efficiency as well as high-speed operation. However, modulators operating in reflection are hindered by the lack of on-chip circulators. We address this issue and experimentally present a SiP modulator based on asymmetric Bragg grating waveguides followed by an asymmetric directional coupler (or asymmetric Y-junction), offering operation in reflection without the need for circulators and with low on-chip loss. In our second contribution, we demonstrate the first slow-light modulator based on coupled Bragg-grating resonators (BGRs), an MZM assisted by coupled BGRs. BGRs, composed of low-Q-factor cavities in series, slow down optical waves in a broad (a few nanometers) optical bandwidth. This enables the modulator to enhance phase modulation across a relatively wide operating wavelength range, resulting in more stable performance compared to single-resonance-based modulators (e.g., MRMs). Achieving a good balance in the performance indicators, the MZM assisted by BGRs can be recognized as a potential choice for future space/wavelength division multiplexing (SDM/WDM) systems. Following our pioneering demonstration, as the third contribution, we study the impact of the slow-light effect on the performance of SiP modulators, the existing trade-off between efficiency and speed in particular. When efficiency is enhanced in typical SiP modulators, either by increasing PN junction capacitance (in MZMs) or by introducing highly resonant structures (in MRMs), it also leads to increasing the RC time constant or the photon lifetime, respectively; thus, spoiling the electro-optic (EO) bandwidth. In this chapter, we aim to challenge this tradeoff in slow-light modulators and investigate whether they are capable of outperforming typical SiP modulators. To this end, comprehensive models for the EO response of these modulators integrated either with lumped electrodes or with travelling-wave electrodes are required. Using these models, we compare slow-light modulators with convectional MZMs. We also examine different design methodologies for reducing V[subscript π] of SiP modulators so that they can meet the requirements of CMOS drivers and electrical interfaces for the next generation of SiP transmitters. In our fourth contribution, we report a slow-light all-silicon modulator that enables high-speed PAM operation without using an electrical digital-to-analog converter (DAC). BGRs are integrated into each arm of a MZM in order to slow down optical waves, enhancing the phase modulation over a relatively large optical band width. Optical 4-level PAM signal is generated using a segmented design in slow-light phase shifters with two binary driving signals, eliminating the need for a high-speed DAC. This modulator combines advantages of ultra-compact footprint, low energy consumption, large electro-optic bandwidth, and stable operation in the presence of temperature variations. The slow-slight waveguides show good performance with small variances in center wavelength and bandwidth across the wafer. This modulator should be singularly interesting for applications that require a group of compact modulators on a single chip. Finally as our fifth contribution, we pursue the goal of developing high-performance optical SDM transmitters suited for next-generation high-capacity optical transmission systems. We propose optical transmitters featuring high power efficiency, high bandwidth density, relatively high stability, and fully integrated in the SiP platform (a cost-effective solution). We discuss design methodologies and requirements of these SDM transmitters which consist of slow-light modulators (MZMs assisted by BGRs) followed by an on-chip mode multiplexer. We target both short-reach and long-haul systems in designing PAM modulators with lumped electrodes and IQ modulators with travelling-wave electrodes, respectively. In order to spatially multiplex the signals coming from the modulators, we demonstrate a design of on-chip mode multiplexers based on asymmetric directional couplers. We cascade three of these couplers to create four spatial channels (TE0, TE1, TE2, and TE3). To realize a full SDM transmission, this spatially multiplexed output should be injected into a few-mode elliptical-core fiber supporting the same modes.

Les réseaux de capteurs sont formés d’un ensemble de dispositifs capables de prendre individuellement des mesures d’un environnement particulier et d’échanger de l’information afin d’obtenir une représentation de haut niveau sur les activités en cours dans la zone d’intérêt. Une telle détection distribuée, avec de nombreux appareils situés à proximité des phénomènes d’intérêt, est pertinente dans des domaines tels que la surveillance, l’agriculture, l’observation environnementale, la surveillance industrielle, etc. Nous proposons dans cette thèse plusieurs approches pour effectuer l’optimisation des opérations spatio-temporelles de ces dispositifs, en déterminant où les placer dans l’environnement et comment les contrôler au fil du temps afin de détecter les cibles mobiles d’intérêt. La première nouveauté consiste en un modèle de détection réaliste représentant la couverture d’un réseau de capteurs dans son environnement. Nous proposons pour cela un modèle 3D probabiliste de la capacité de détection d’un capteur sur ses abords. Ce modèle inègre également de l’information sur l’environnement grâce à l’évaluation de la visibilité selon le champ de vision. À partir de ce modèle de détection, l’optimisation spatiale est effectuée par la recherche du meilleur emplacement et l’orientation de chaque capteur du réseau. Pour ce faire, nous proposons un nouvel algorithme basé sur la descente du gradient qui a été favorablement comparée avec d’autres méthodes génériques d’optimisation «boites noires» sous l’aspect de la couverture du terrain, tout en étant plus efficace en terme de calculs. Une fois que les capteurs placés dans l’environnement, l’optimisation temporelle consiste à bien couvrir un groupe de cibles mobiles dans l’environnement. D’abord, on effectue la prédiction de la position future des cibles mobiles détectées par les capteurs. La prédiction se fait soit à l’aide de l’historique des autres cibles qui ont traversé le même environnement (prédiction à long terme), ou seulement en utilisant les déplacements précédents de la même cible (prédiction à court terme). Nous proposons de nouveaux algorithmes dans chaque catégorie qui performent mieux ou produits des résultats comparables par rapport aux méthodes existantes. Une fois que les futurs emplacements de cibles sont prédits, les paramètres des capteurs sont optimisés afin que les cibles soient correctement couvertes pendant un certain temps, selon les prédictions. À cet effet, nous proposons une méthode heuristique pour faire un contrôle de capteurs, qui se base sur les prévisions probabilistes de trajectoire des cibles et également sur la couverture probabiliste des capteurs des cibles. Et pour terminer, les méthodes d’optimisation spatiales et temporelles proposées ont été intégrées et appliquées avec succès, ce qui démontre une approche complète et efficace pour l’optimisation spatio-temporelle des réseaux de capteurs. / Sensor networks consist in a set of devices able to individually capture information on a given environment and to exchange information in order to obtain a higher level representation on the activities going on in the area of interest. Such a distributed sensing with many devices close to the phenomena of interest is of great interest in domains such as surveillance, agriculture, environmental monitoring, industrial monitoring, etc. We are proposing in this thesis several approaches to achieve spatiotemporal optimization of the operations of these devices, by determining where to place them in the environment and how to control them over time in order to sense the moving targets of interest. The first novelty consists in a realistic sensing model representing the coverage of a sensor network in its environment. We are proposing for that a probabilistic 3D model of sensing capacity of a sensor over its surrounding area. This model also includes information on the environment through the evaluation of line-of-sight visibility. From this sensing model, spatial optimization is conducted by searching for the best location and direction of each sensor making a network. For that purpose, we are proposing a new algorithm based on gradient descent, which has been favourably compared to other generic black box optimization methods in term of performance, while being more effective when considering processing requirements. Once the sensors are placed in the environment, the temporal optimization consists in covering well a group of moving targets in the environment. That starts by predicting the future location of the mobile targets detected by the sensors. The prediction is done either by using the history of other targets who traversed the same environment (long term prediction), or only by using the previous displacements of the same target (short term prediction). We are proposing new algorithms under each category which outperformed or produced comparable results when compared to existing methods. Once future locations of targets are predicted, the parameters of the sensors are optimized so that targets are properly covered in some future time according to the predictions. For that purpose, we are proposing a heuristics for making such sensor control, which deals with both the probabilistic targets trajectory predictions and probabilistic coverage of sensors over the targets. In the final stage, both spatial and temporal optimization method have been successfully integrated and applied, demonstrating a complete and effective pipeline for spatiotemporal optimization of sensor networks.

Le développement et la prolifération des réseaux sans fil a contribué à l’évolution de notre quotidien. Toute cette multitude de technologies sans fil existantes permet, malgré sa complexité, d’offrir aux utilisateurs des services diversifiés, voix et données, de la manière la plus convenable, tout en permettant l’ubiquité des services dans une optique ABC (Always Best Connected). Ces réseaux utilisent des technologies différentes, mais en même temps, offrent des caractéristiques complémentaires. Ainsi, ce point s’avère attrayant dans la mesure où nous pourrons bénéficier des avantages de chacune des technologies en les interconnectant toutes afin de former un large réseau hétérogène. La mobilité, ou plus particulièrement la relève, que nous nous proposons d’étudier dans ce mémoire s’impose comme axe de recherche intéressant, et encore plus complexe dans un environnement hétérogène. Dans ce mémoire, deux architectures interconnectant un réseau UMTS et un autre Wimax ont été présentées. Plus précisément, nous avons mis l’emphase sur la procédure de relève verticale lors du passage de l’utilisateur d’un réseau Wimax à un réseau UMTS. Chacune des deux architectures utilise un protocole pour la gestion de la mobilité, en l’occurrence le MIP (Mobile Internet Protocol) et le SIP (Session Initiation Protocol). Afin d’évaluer les deux procédures, nous nous sommes donnés deux indicateurs, notamment le coût de signalisation et la durée de la procédure de relève verticale. Pour ce faire, nous avons spécifié un diagramme d’échanges des messages de signalisation propre à chacun des scénarios, un basé sur le MIP et l’autre basé sur le SIP. Ensuite, nous avons établi des expressions pour chacun des deux indicateurs précédemment cités qui ont été implémentées sous MATLAB. Les résultats démontrent que, généralement, le scénario de relève verticale basé sur le MIP présente une durée et un coût de signalisation moins élevé que celui basé sur le protocole SIP. / The development and proliferation of wireless networks has contributed to the evolution of our daily lives. Mobile users can move between heterogeneous networks, using terminals with multiple access interfaces. Thus, the most important issue in such environment is the Always Best Connected (ABC) concept allowing the best connectivity to applications anywhere at anytime. To answer ABC requirement, various vertical handover decision strategies have been proposed using advanced tools and proven concepts. In this paper, two architectures interconnecting a UMTS network and another Wimax have been presented. Each architecture uses a protocol for mobility management, namely MIP and SIP. To evaluate the two procedures, we are given two indicators, the signaling cost and the vertical handover delay. To evaluate our scenarios, we have established a specified signaling messages flow diagram specific to each scenario, one based on the MIP and the other based on the SIP. Then, we have given expressions for each of the two indicators mentioned above that we have implemented in MATLAB. The results show that, generally, the scenario based on MIP has lower signaling cost and delay than the scenario based on SIP.

Les systèmes réels subissant des perturbations par l’interaction avec leur environnement sont susceptibles d’être entraînés vers des transitions irréversibles de leur principal état d’activité. Avec la croissance de l’empreinte humaine mondiale sur les écosystèmes, la caractérisation de la résilience de ces systèmes complexes est un enjeu majeur du 21e siècle. Cette thèse s’intéresse aux systèmes complexes pour lesquels il existe un réseau d’interactions et où les composantes sont des variables dynamiques. L’étude de leur résilience exige la description de leurs états dynamiques qui peuvent avoir jusqu’à plusieurs milliers de dimensions. Cette thèse propose trois nouvelles méthodes permettant de faire des mesures de la dynamique en fonction de la structure du réseau. L’originalité de ce travail vient de la diversité des approches présentées pour traiter la résilience, en débutant avec des outils basés sur des modèles dynamiques définis et en terminant avec d’autres n’exploitant que des données récoltées. D’abord, une solution exacte à une dynamique de cascade (modèle de feu de forêt) est développée et accompagnée d’un algorithme optimisé. Comme sa portée pratique s’arrête aux petits réseaux, cette méthode signale les limitations d’une approche avec un grand nombre de dimensions. Ensuite, une méthode de réduction dimensionnelle est introduite pour établir les bifurcations dynamiques d’un système. Cette contribution renforce les fondements théoriques et élargit le domaine d’applications de méthodes existantes. Enfin, le problème de retracer l’origine structurelle d’une perturbation est traité au moyen de l’apprentissage automatique. La validité de l’outil est supportée par une analyse numérique sur des dynamiques de propagation, de populations d’espèces et de neurones. Les principaux résultats indiquent que de fines anomalies observées dans la dynamique d’un système peuvent être détectées et suffisent pour retracer la cause de la perturbation. L’analyse témoigne également du rôle que l’apprentissage automatique pourrait jouer dans l’étude de la résilience de systèmes réels. / Real complex systems are often driven by external perturbations toward irreversible transitions of their dynamical state. With the rise of the human footprint on ecosystems, these perturbations will likely become more persistent so that characterizing resilience of complex systems has become a major issue of the 21st century. This thesis focuses on complex systems that exhibit networked interactions where the components present dynamical states. Studying the resilience of these networks demands depicting their dynamical portraits which may feature thousands of dimensions. In this thesis, three contrasting methods are introduced for studying the dynamical properties as a function of the network structure. Apart from the methods themselves, the originality of the thesis lies in the wide vision of resilience analysis, opening with model-based approaches and concluding with data-driven tools. We begin by developing an exact solution to binary cascades on networks (forest fire type) and follow with an optimized algorithm. Because its practical range is restricted to small networks, this method highlights the limitations of using model-based and highly dimensional tools. Wethen introduce a dimension reduction method to predict dynamical bifurcations of networked systems. This contribution builds up on theoretical foundations and expands possible applications of existing frameworks. Finally, we examine the task of extracting the structural causesof perturbations using machine learning. The validity of the developed tool is supported by an extended numerical analysis of spreading, population, and neural dynamics. The results indicate that subtle dynamical anomalies may suffice to infer the causes of perturbations. It also shows the leading role that machine learning may have to play in the future of resilience of real complex systems.

L'apprentissage profond a considérablement gagné en popularité au cours de la dernière décennie grâce à sa capacité à développer des modèles puissants qui apprennent directement à partir de données non structurées. Cette approche a été appliquée avec succès à divers domaines tels que le traitement du langage naturel, la vision par ordinateur et le traitement des signaux, et le rythme des progrès réalisés par la recherche académique et industrielle ne cesse de s'accélérer. Cependant, la majorité des recherches suppose la disponibilité de grands ensembles de données d'entraînement statiques. Par exemple, de nombreuses techniques sont conçues pour améliorer les capacités de généralisation des modèles d'apprentissage profond en utilisant des bases de données comme MS-COCO qui contient environ 300K images, ImageNet avec environ 1,5M d'exemples, et Visual Genome avec environ 3,8M d'instances d'objets. Or, récolter et annoter de tels ensembles de données peut être trop coûteux pour de nombreuses applications réelles. De plus, il est généralement supposé que l'entraînement peut être effectué en une seule étape, considérant ainsi que toutes les classes sont disponibles simultanément. Cela diffère d'applications réelles où les cas d'utilisation peuvent évoluer pour inclure de nouvelles classes au fil du temps, induisant ainsi la nécessité d'adapter continuellement les modèles existants, et faisant ainsi de l'apprentissage continuel. Dans cette thèse, nous visons à contribuer à l'*adaptabilité* et à l'*extensibilité* des réseaux de neurones profonds par le biais de l'apprentissage à partir de peu d'exemples et de l'apprentissage continuel. Plus précisément, nous proposons une méthode d'apprentissage qui exploite des relations contextuelles et des représentations multimodales pour former de meilleurs prototypes de classe en se basant sur des connaissances préalables, permettant l'*adaptation* à de nouvelles tâches avec seulement quelques exemples. De plus, nous contribuons à l'apprentissage continuel de classes, qui vise à permettre aux modèles d'apprentissage profond d'*étendre* leurs connaissances en intégrant de nouveaux concepts sans perdre la capacité de résoudre les tâches précédemment apprises. Contrairement à la majorité des travaux précédents qui ont exploré l'apprentissage continuel dans un contexte de classification d'images sur des bases de données simples (p. ex. MNIST et CIFAR), nos méthodes contribuent à l'apprentissage continuel de la segmentation sémantique, la détection d'objets et la segmentation d'instances, qui sont des problèmes plus complexes mais aussi plus applicatifs. Pour la segmentation sémantique continuelle, nous proposons un module d'apprentissage faiblement supervisé afin d'aborder les problèmes de dérive de l'arrière-plan (*background shift*) et des coûts élevés d'annotation. Nous introduisons également deux variantes d'un mécanisme de répétition qui permet de rejouer des régions d'images ou des caractéristiques intermédiaires sous la forme d'une technique d'augmentation de données. Nous explorons ensuite l'apprentissage continuel de la détection d'objets et de la segmentation d'instances en développant une architecture dynamique et une nouvelle méthode de distillation des connaissances qui augmente la plasticité tout en préservant une bonne stabilité. Finalement, nous étudions l'apprentissage continuel de la détection d'objets dans le contexte d'applications agricoles telles que la détection de plantes et de maladies. Pour ce faire, nous adaptons deux bases de données publiques pour simuler des scénarios d'apprentissage continuel et nous comparons diverses méthodes, introduisant ainsi deux scénarios experimentaux de référence pour étudier la vision numérique appliquée à des problèmes agricoles. Ensemble, ces contributions abordent plusieurs défis en lien avec l'apprentissage à partir de peu d'exemples et avec l'apprentissage continuel, faisant ainsi progresser le développement de modèles adaptables capables d'élargir progressivement leur base de connaissances au fil du temps. De plus, nous mettons un accent particulier sur l'étude de ces problèmes dans des configurations expérimentales impliquant des scènes complexes, qui sont plus représentatives des applications réelles déployées dans des environnements de production. / Deep learning has gained tremendous popularity in the last decade thanks to its ability to develop powerful models directly by learning from unstructured data. It has been successfully applied to various domains such as natural language processing, computer vision and signal processing, and the rate of progress made by academic and industrial research is still increasing. However, the majority of research assumes the availability of large, static training datasets. For instance, techniques are often designed to improve the generalization capabilities of deep learning models using datasets like MS-COCO with approximately 300K images, ImageNet with around 1.5M examples, and Visual Genome with roughly 3.8M object instances. Gathering and annotating such large datasets can be too costly for many real-world applications. Moreover, it is generally assumed that training is performed in a single step, thereby considering that all classes are available simultaneously. This differs from real applications where use cases can evolve to include novel classes, thus inducing the necessity to continuously adapt existing models and thereby performing continual learning. In this thesis, we aim to contribute to the *adaptability* and *extensibility* of deep neural networks through learning from few examples and continual learning. Specifically, we propose a few-shot learning method which leverages contextual relations and multimodal representations to learn better class prototypes, allowing to *adapt* to novel tasks with only a few examples. Moreover, we contribute to continual learning, aiming to allow deep learning models to *extend* their knowledge by learning new classes without loosing the ability to solve previously learned tasks. Contrarily to the majority of previous work which explores continual image classification on simple datasets (e.g. MNIST and CIFAR), our methods contribute to semantic segmentation, object detection and instance segmentation, which are more complex and practical problems. For continual semantic segmentation, we propose a weakly-supervised learning module to address the problems of background shift and annotation costs. We also introduce two variants of a rehearsal mechanism that can replay image patches or intermediate features in the form of a data augmentation technique. We then explore continual object detection and continual instance segmentation by developing a dynamic architecture and a novel knowledge distillation method which increases plasticity while ensuring stability. Finally, we experiment class-incremental object detection within the context of agricultural applications such as plant and disease detection. For that, we adapt two public datasets to simulate continual learning scenarios and we compare various continual and non-continual learning methods, thereby introducing a novel benchmark to study agricultural problems. Together, these contributions address several challenges of few-shot learning and continual learning, thus advancing the development of adaptable models capable of gradually expanding their knowledge base over time. Moreover, we have put a particular emphasis to study these problems within experimental setups that involve complex scenes, which are more representative of real applications as deployed in production environments.

Introduction : La lombalgie modifie le contrôle moteur de la colonne vertébrale. Ces modifications pourraient être expliquées par une plasticité centrale induite par la douleur. Bien qu'il soit connu que la douleur impacte le fonctionnement du cortex moteur primaire, son influence sur les autres systèmes moteurs impliqués dans le contrôle du dos reste peu documentée. L'objectif de ce mémoire était de déterminer l'impact d'un paradigme de douleur lombaire expérimentale sur les différents réseaux neuronaux contrôlant les muscles du dos. Méthode : Trente participants sans atteinte ont été recrutés et répartis en deux groupes : Douleur (capsaïcine+chaleur; n=15) et Contrôle (chaleur seule; n=15)). Différents réseaux neuronaux ont été testés en évaluant les réponses des muscles lumbar erector spinae (LES) avant, pendant et après la douleur. La stimulation magnétique transcrânienne a évalué l'excitabilité corticospinale (potentiel évoqué moteur - MEP) et intracorticale par des stimulations simples et pairées, respectivement. La stimulation vestibulaire électrique (EVS) a évalué l'excitabilité vestibulospinale (VMEP) et le réflexe d'étirement a évalué l'excitabilité spinale (R1) et supraspinale (R2). Les rapports MEP/R1 et VMEP/R1 ont été calculés pour mesurer l'excitabilité corticale et du tronc cérébral. Résultats : Après la disparition de la douleur, l'amplitude de R1 était diminuée pour le groupe Douleur (p=0.008), augmentée pour le groupe Contrôle (interaction Groupe x Temps ; p<0.001) et une différence significative entre les groupes était présente (p<0,0001). Cette diminution d'amplitude de R1 après la douleur était accompagnée d'une augmentation du rapport MEP/R1 (p=0.021). Aucun changement n'était présent pendant la douleur (p>0.05). Conclusion : La diminution d'amplitude de R1 associée à l'augmentation du rapport MEP/R1 après que la douleur ait disparu suggère une modulation opposée des réseaux spinaux et corticaux et reflète la présence d'effets consécutifs à la douleur sur les circuits neuronaux moteurs. D'autres études sont nécessaires pour confirmer ces résultats, notamment chez les populations cliniques. / Introduction: Low back pain modifies spine motor control. These changes could be explained by pain-induced central plasticity. Although it is known that pain impacts the function of the primary motor cortex, its influence on the other motor systems involved in motor control of the spine remains barely studied. The objective of this master's thesis was to determine the impact of an experimental low back pain paradigm on the different neural networks involved in the control of the back muscles. Method: Thirty healthy subjects were recruited and divided into two groups pain (capsaicin + heat - n=15) and Control (heat alone - n=15)). Different neural networks were tested by evaluating the responses of the lumbar erector spinae (LES) muscles before, during and after pain. Transcranial magnetic stimulation assessed corticospinal (motor evoked potential-MEP) and intracortical excitability using single and paired stimulations, respectively. Electrical vestibular stimulation (EVS) assessed vestibulospinal excitability (VMEP) and stretch reflex assessed spinal (R1) and supraspinal (R2) excitability. MEP/R1 and VMEP/R1 ratios were calculated to measure cortical and brainstem excitability. Results: After the disappearance of pain, the amplitude of R1 was decreased for the Pain group (p=0.008) and increased for the Control group (Group x Time interaction; p<0.001) and a significant difference between the groups was present (p<0.0001). This decrease in R1 amplitude after pain was accompanied by an increase in the MEP/R1 ratio (p=0.021). No change was present during pain (p>0.05). Conclusion: The decrease in R1 amplitude associated with the increase in the MEP/R1 ratio after pain disappeared suggests an opposite modulation of spinal and cortical networks and reflects the presence of pain after effect on motor neural circuits. Further studies, including clinical studies, are needed to confirm these findings, especially in clinical populations.

Le cadre théorique de la géométrie des réseaux consiste à placer des points, les nœuds, dans un espace métrique, puis les connecter par des liens par paires selon la distance qui les sépare. Lorsque la géométrie sous-jacente est hyperbolique, de nombreuses propriétés de réseaux qui proviennent de données empiriques peuvent être élégamment expliquées à l'aide de la proximité entre les nœuds et des caractéristiques de ces espaces si particuliers, dont la courbure est négative. Le modèle de réseaux hyperboliques le plus couramment utilisé attribue à chaque nœud une coordonnée radiale associée à son nombre total de liens et une coordonnée angulaire. Avec celle-ci, les nœuds peuvent être envoyés à un cercle, et à plus petite distance angulaire ils ont plus de chances d'être connectés, ce qui encode la similarité avec les autres nœuds. Or, dans de nombreux systèmes réels, il existe plus d'un facteur poussant les éléments à s'associer, et donc plusieurs manières d'être similaires ou pas. Cela se reflète dans les modèles de réseaux hyperboliques de plus grande dimension, où plus d'une coordonnée angulaire est associée à chaque nœud, qui est alors envoyé à une sphère de plus grande dimension à la place du cercle. Dans ce mémoire, on étudie les effets de la dimension des modèles de réseaux hyperboliques aléatoires. En particulier, la distribution des distances angulaires entre les nœuds connectés change selon la dimension. Or, la coordonnée angulaire des nœuds est aussi utilisée pour modéliser la structure communautaire, c'est-à-dire lorsque des sous-groupes de nœuds, les communautés, sont reliés plus densément entre eux qu'au reste du réseau. Par conséquent, augmenter le nombre de coordonnées angulaires affecte naturellement comment les communautés peuvent être générées et la manière dont elles sont reliées entre elles. Ces effets sont quantifiés en simulant des réseaux hyperboliques qui possèdent de la structure communautaire. Une différence marquée est observée entre le cas le plus simple et l'ajout d'une seule dimension, où la structure communautaire générée est plus diversifiée et réaliste. / The framework of network geometry involves placing points, nodes of a network, in a metric space and then creating pairwise connections, the edges, according to the distance between them. When the underlying geometry is hyperbolic, many network properties are elegantly explained by the closeness between nodes through properties of these negatively curved spaces. The flagship model of this framework assigns to each node one radial coordinate related to its total number of connections and one angular coordinate related to its similarity to other nodes. Nodes can thus be mapped to a circle where a smaller angular distance increases the chances to be connected, hence the idea of similarity. However, in many systems, there is more than one factors that drives relationships between elements, and thus more than one way in which they can be similar or not. This is captured by higher dimensional hyperbolic network models, where each node has more angular coordinates that maps it to a higher dimensional sphere instead of the circle. In this master's thesis, we study the effects of the dimension of hyperbolic network models. In particular, the distribution of angular distances between connected nodes changes with dimension. Yet, nodes' angular coordinates are also used to model hyperbolic networks' community structure, when some subgroups of nodes, the communities, are more densely connected than to the rest of the network. Hence, increasing the number of angular coordinates naturally affects how communities can be created and how they are related to one another. These effects are quantified through simulations of hyperbolic networks possessing community structure. A significant difference is observed between the simplest case and the addition of a single dimension, in which case the community structure generated is more diverse and realistic.

La représentation par réseau est un outil puissant pour la modélisation des systèmes dynamiques complexes. Elle est notamment utilisée en neurosciences pour étudier le cerveau. Cependant, extraire un connectome, soit la liste des neurones et des connexions qui les relient, demeure un défi important pour des cerveaux de plusieurs milliers de neurones. C’est le cas du cerveau de la larve du poisson-zèbre qui contient près d’une centaine de milliers de neurones. Puisque les synapses ne peuvent être directement observées, les connexions entre neurones doivent plutôt être inférées. Plusieurs méthodes classiques, dites d’inférence fonctionnelle, issues des statistiques et de la théorie de l’information, prédisent la connectivité à partir des séries temporelles qui décrivent l’activité des neurones. Plus récemment, des avancées en intelligence artificielle ont ouvert la voie à de nouvelles méthodes d’inférence. L’objectif du projet de maîtrise exposé dans ce mémoire est de comparer la performance des méthodes de l’intelligence artificielle à celle des méthodes bien établies. Puisque la connectivité réelle est nécessaire pour une telle comparaison, un simulateur de réseau de neurones est utilisé pour générer des séries temporelles d’activité à partir de connectivités réelles extraites de vidéos d’activité. Il est montré que la calibration d’un tel simulateur, dans le but d’obtenir de l’activité similaire à celle des poissons-zèbres, n’est pas une tâche triviale. Une approche d’apprentissage profond est donc conçue pour prédire, à partir de métriques d’activité globale, les paramètres de simulation idéaux. Il est ensuite montré, sur 86% des simulations générées, qu’un modèle de réseau de neurones artificiels à convolution performe significativement mieux que les autres méthodes d’inférence. Cependant, lorsqu’un entraînement supervisé est impossible, la méthode classique de transfert d’entropie performe mieux qu’un modèle d’apprentissage profond nonsupervisé sur 78% des simulations générées. / Complex network analysis is a powerful tool for the study of dynamical systems. It is often used in neuroscience to study the brain. However, extraction of complete connectomes, i.e. , the list of all neurons and connections, is still a challenge for large brains. This is the case for the brain of the zebrafish which contains almost a hundred thousand neurons. Since direct observation of synapses is still intractable for a brain of this size, connections between neurons must be inferred from their activity. It is indeed possible to extract time series of activity for all neurons, by making them fluorescent upon activation through genetic engineering and by leveraging the zebrafish’s transparency during the larval stage. Then, so-called methods of functional inference, based on information theory, can be used to predict the connectivity of neurons from time series of their activity. Recent breakthroughs in artificial intelligence have opened the door to new methods of inference. The goal of the project described in this thesis is to compare the performance of such new methods to the performance of well-established ones. Since ground truth of connectivity must be known for comparison, a simulator is used to generate synthetic time series of activity from known connectivity. It is shown that the tuning of such a simulator, in order to generate realistic data, is not an easy task. Therefore, a deep learning approach is proposed to predict optimal simulator parameters by analysis global dynamical metrics. Using the generated time series, it is shown that a convolutional neural network performs significantly better than well-established methods on 86% of simulations. However, in cases where supervised learning is impossible, the zebrafish’s case being an example, the classical method of Transfer Entropy performs better than an unsupervised deep learning model on 78% of simulations.

Le développement des télécommunications optiques à haute capacité fait des multiplexeurs en longueur d'onde un sujet brûlant des récentes recherches. Dans cette thèse, nous proposons et démontrons des réseaux sélectifs planaires ou (Arrayed Waveguide Grating, AWG) basés sur une plateforme de Nitrure de silicium (SiN) comme multiplexeur ou démultiplexeur. Dans le premier chapitre, nous comparons les guides d'onde en silicium et en nitrure de silicium et confirmons que le SiN sera considéré comme la plateforme principale de ce travail. Nous présentons des simulations des guides d'onde de SiN qui forme les AWGs, incluant les guides d'onde planaires, les guides d'onde à bande, les guides d'onde courbés et les guides d'onde fuselée utilisant FDTD solution et Mode solution d'Ansys Lumerical. L'influence des paramètres de conceptions des AWGs en SiN tels que la longueur focale, la distance séparant les guides d'onde, l'espacement entre les ouvertures adjacentes et les pertes de propagation liées à la fabrication sur les performances est aussi étudié en utilisant sur un modèle semi-analytique. Les AWGs communs sont typiquement conçus pour les modes électriques transverses (TE). Pour améliorer la capacité de transmission des réseaux WDM, dans le second chapitre, nous présentons un AWG insensible à la polarisation conçus avec des guides d'onde en SiN. L'insensibilité à la polarisation des AWGs est obtenue lorsque l'espace intercanal et la longueur d'onde centrale des deux modes sont alignés pour un même AWG. L'alignement de l'espace intercanal entre les deux états de polarisations est obtenu en optimisant la géométrie du réseau de guide d'onde, alors que l'insensibilité de la longueur d'onde centrale est obtenue en séparant les deux états de polarisations et en ajustant leur angle d'incidence à l'entrée du coupleur en étoile pour compenser la dispersion entre les modes dans l'AWG. Un multiplexeur de longueur d'onde 1 × 8 avec un espacement entre les canaux de 100 GHz et une diaphonie de −16 dB est démontré expérimentalement. Dans la conception d'un AWGs en SiN, un espacement d'une largeur supérieur à 10 µm entre des guides d'ondes identiques minimise le couplage parasite augmentant ainsi leur empreinte. Dans le troisième chapitre, nous présentons un AWG ultra-compact 1×8 ayant une séparation de 100 GHz entre les canax rendu possible grâce à des guides d'onde en super-réseaux supprimant le couplage entre les guides d'onde. Bénéficiant de la haute densité du super-réseau, cet AWG possède une empreinte compacte de 4.3mm × 0.6mm, ce qui est plus que 2 fois plus petit qu'un AWG conventionnel ayant des performances similaires à celui présenté dans le second chapitre. Le SL-AWG montre aussi une faible perte d'insertion de 3.4 dB et une faible diaphonie de −18 dB. À part le couplage entre les guides d'onde discuté dans le troisième chapitre, l'erreur de phase produite par les variations de fabrication a l'impact le plus important sur les performances de l'AWG. Il a été étudié que leurs performances sont liées à la longueur du réseau de guide d'onde déterminant l'erreur de phase. Toutefois, il existe encore un écart de quantification de l'impact de la longueur du réseau et les variations de fabrication sur les performances de l'AWG. Dans le quatrième chapitre, nous présentons une analyse statistique de l'AWG en présence d'erreurs de phase dans les guides d'onde. Des figures de mérites importantes pour la performance incluant les pertes d'insertion, la diaphonie et la non-uniformité sont paramétrées en fonction de la longueur de cohérence, un paramètre physique qui caractérise l'accumulation d'erreur de phase dans les guides d'ondes optique. Une longueur de cohérence de 23.7 mm au niveau de la matrice pour les guides d'onde de SiN peut être extraite en mesurant les variations dans la longueur d'onde de résonnance d'un interféromètre de Mach-Zhender. Au travers de simulations Monte-Carlo, nous examinons l'impact de l'erreur de phase sur les performances de l'AWG avec une espace entre les canaux de 100 GHz et 200 GHz. / The development of optical communications with high transmission capacity makes wavelength division multiplexing (WDM) systems a hot topic of recent research. In this thesis, we propose and demonstrate arrayed waveguide gratings (AWGs) based on a SiN platform as the multiplexers or demultiplexers. In the first chapter, we compare the material and waveguides between silicon and silicon nitride. We present numerical simulations of the SiN waveguides, including slab waveguides, strip waveguides, bent waveguides and tapered waveguides, using FDTD solutions and MODE solutions from Ansys Lumerical. These waveguides are used to form an AWG in this thesis. The influences of SiN AWGs designed parameters including focal length, separation of arrayed waveguides, gaps between adjacent apertures and propagation loss on the performances are studied based on a semi-analytical model. Common AWGs are typically designed in TE mode. In order to improve the transmission capacity in WDM system, in the second chapter, we present a polarization insensitive AWG built with SiN waveguides. The polarization insensitive AWGs are obtained when both the channel spacing and the center wavelength are aligned for TE and TM modes in a single AWG. The channel spacing polarization insensitivity is obtained by optimizing the geometry of the arrayed waveguides whereas the central wavelength polarization insensitivity is obtained by splitting the two polarization states and adjusting their angle of incidence at the input star coupler. A 100 GHz 1×8 AWG with crosstalk below −16 dB is demonstrated experimentally. In the design of SiN AWGs, the gaps of wider than 10 µm between adjacent identical waveguides are designed to minimize parasitic coupling. However, these gaps suppress further shrinking the footprint of AWGs. In the third chapter, we present an ultra-compact 100 GHz 1 × 8 SiN AWG enabled by a novel concept of the waveguide superlattice suppressing coupling between waveguides. Benefiting from the densely arrayed waveguides patterning with waveguide superlattice, this superlattice AWG has a compact footprint of 4.3 mm × 0.6 mm, which is more than two times smaller than a conventional AWG with similar performance. The SL-AWG also shows a low insertion loss of 3.4 dB and a low crosstalk level of −18 dB. Beside the coupling between waveguides discussed in the third chapter, the phase errors due to fabrication variations have a considerable impact on the performance of AWGs. It is shown that their performances are related to the length of arrayed waveguides determining the phase errors. However, there lacked a practical way to quantify the impact of arrayed waveguide length and fabrication variations on the performances of AWGs. In the fourth chapter, we present a statistical analysis of AWGs in presence of phase errors of arrayed waveguides. The important figures of merits including insertion loss, crosstalk and non-uniformity, are parameterized by the coherence length, a physical parameter that characterizes the accumulated phase errors in an optical waveguide. A die-level coherence length of 23.7 mm for the SiN waveguides is extracted by measuring variation of resonant wavelength of Mach-Zehnder interferometers. Through Monte Carlo simulations, we present the impacts of phase errors on performance of 1 × 4 AWGs with 200 GHz and 100 GHz channel spacings.