L’objectif de cette thèse est la réalisation expérimentale de calcul bio-inspiré en utilisant la dynamique transitoire d’oscillateurs magnétique nanométriques.Pour bien des tâches telle que la reconnaissance vocale, le cerveau fonctionne bien plus efficacement en terme d’énergie qu’un ordinateur classique. Le développement de puces neuro-inspirées offre donc la perspective de surmonter les limitations des processeurs actuels et de gagner plusieurs ordres de grandeurs sur la consommation énergétique du traitement de données. L’efficacité du cerveau à traiter des données est due à son architecture, qui est particulièrement adaptée à la reconnaissance de motifs. Les briques de base de cette architecture sont les neurones biologiques. Ceux-ci peuvent être vus comme des oscillateurs non linéaires qui interagissent et génèrent des cascades spatiales d’activations en réponse à une excitation. Cependant le cerveau comprend cent milliards de neurones et le développement d’une puce neuro-inspiré requerrait des oscillateurs de très petite dimension. Les oscillateurs à transfert de spin (STNO) sont de taille nanométrique, ont une réponse rapide (de l’ordre de la nanoseconde), sont fortement non-linéaires et leur réponse dépendante du couple de transfert de spin est aisément ajustable (par exemple par l’application d’un courant continu ou d’un champ magnétique). Ils fonctionnent à température ambiante, ont un très faible bruit thermique, et sont compatible avec les technologies CMOS. Ces caractéristiques en font d’excellents candidats pour la réalisation de réseaux artificiels de neurones compatibles avec un ordinateur classique.Dans cette thèse, nous avons utilisé un unique STNO pour générer le comportement d’un réseau de neurones. Ainsi l’oscillateur joue à tour de rôle chaque neurone. Une cascade temporelle remplace donc la cascade spatiale d’un réseau de neurones biologiques. En particulier nous avons utilisé la relaxation et la dépendance non-linéaire de l’amplitude des oscillations afin de réaliser du calcul neuromorphique. L’un des résultats principaux de cette thèse est la réalisation de reconnaissance vocale (reconnaissance de chiffres dits par 5 locuteurs différents) en obtenant un taux de reconnaissance à l’état de l’art de 99.6%. Nous avons pu montrer que les performances de la reconnaissance sont étroitement dépendantes des propriétés physiques du STNO tel que l’évolution de la largeur de raie, la puissance d’émission, ou la fréquence d’émission. Nous avons donc optimisé les conditions expérimentales (champs magnétiques et courant continu appliqués, fréquence du signal à traiter) afin de pouvoir utiliser au mieux les propriétés physiques du STNO pour la reconnaissance.  Les signaux vocaux requièrent d’être transformés du domaine temporel au domaine fréquentiel, avant de pouvoir être traités, et cette étape est réalisée numériquement en amont de l’expérience. Nous avons étudié l’influence de différents prétraitements sur la reconnaissance et mis en évidence le rôle majeur de la non-linéarité de ces derniers. Enfin, afin de pouvoir traiter des problèmes requérant de la mémoire, tel que par exemple des signaux sous forme de séquences temporelles, nous avons mesuré la mémoire que possède intrinsèquement un STNO, du fait de sa relaxation. Nous avons aussi augmenté cette mémoire à l’aide d’une boucle à retard. Ce dispositif a permis d’accroître la plage de mémoire de quelques centaines de nanosecondes à plus d’une dizaine de microsecondes. L’ajout de cette mémoire extrinsèque a permis de supprimer jusqu’à 99% des erreurs sur une tâche de reconnaissance de motifs temporels (reconnaissance de signaux sinusoïdaux et carrés). / This thesis studies experimentally the transient dynamics of magnetic nano-oscillators for brain-inspired computing.For pattern recognition tasks such as speech or visual recognition, the brain is much more energy efficient than classical computers. Developing brain-inspired chips opens the path to overcome the limitations of present processors and to win several orders of magnitude in the energy consumption of data processing. The efficiency of the brain originates from its architecture particularly well adapted for pattern recognition. The building blocks of this architecture are the biological neurons, which can be seen as interacting non-linear oscillators generating spatial chain reactions of activations. Nevertheless, the brain has one hundred billion neurons and a brain-inspired chip would require extremely small dimension oscillators. The spin-transfer torque oscillators (STNO) have nanometric size, they are fast (nanosecond time-scales), highly non-linear and their spin-torque dependent response is easily tunable (for instance by applying an external magnetic field or a d.c. current). They work at room temperature, they have a low thermal noise and they are compatible with CMOS technologies. Because of these features, they are excellent candidates for building hardware neural networks, which are compatible with the standard computers.In this thesis, we used a single STNO to emulate the behavior of a whole neural network. In this time multiplexed approach, the oscillator emulates sequentially each neuron and a temporal chain reaction replace the spatial chain reaction of a biological neural network. In particular, we used the relaxation and the non-linear dependence of the oscillation amplitude with the applied current to perform neuromorphic computing. One of the main results of this thesis is the demonstration of speech recognition (digits said by different speakers) with a state-of-the-art recognition rate of 99.6%. We show that the recognition performance is highly dependent on the physical properties of the STNO, such as the linewidth, the emission power or the frequency. We thus optimized the experimental bias conditions (external applied magnetic field, d.c. current and rate of the input) in order to leverage adequately the physical properties of the STNO for recognition. Voice waveforms require a time-to-frequency transformation before being processed, and this step is performed numerically before the experiment. We studied the influence of different time-to-frequency transformations on the final recognition rate, shading light on the critical role of their non-linear behavior. Finally, in order to solve problems requiring memory, such as temporal sequence analysis, we measured the intrinsic memory of a STNO, which comes from the relaxation of the oscillation amplitude. We also increased this memory, using a delayed feedback loop. This feedback improved the range of memory from a few hundreds of nanoseconds to more than ten microseconds. This feedback memory allows suppressing up to 99% of the errors on a temporal pattern recognition task (discrimination of sine and square waveforms).

La saisie d’objet est une tâche fondamentale du domaine de la robotique. Des avancées dans ce domaine sont nécessaires au déploiement de robots domestiques ou pour l’automatisation des entrepôts par exemple. Par contre, seulement quelques approches sont capables d’effectuer la détection de points de saisie en temps réel. Dans cet optique, nous présentons une architecture de réseau de neurones à une seule passe nommée Réseau à Transformation Spatiale de Qualité de Saisie, ou encore Grasp Quality Spatial Transformer Network (GQ-STN) en anglais. Se basant sur le Spatial Transformer Network (STN), notre réseau produit non seulement une configuration de saisie mais il produit également une image de profondeur centrée sur cette configuration. Nous connectons notre architecture à un réseau pré-entraîné qui évalue une métrique de robustesse de saisie. Ainsi, nous pouvons entraîner efficacement notre réseau à satisfaire cette métrique de robustesse en utilisant la propagation arrière du gradient provenant du réseau d’évaluation. De plus, ceci nous permet de facilement entraîner le réseau sur des jeux de données contenant peu d’annotations, ce qui est un problème commun en saisie d’objet. Nous proposons également d’utiliser le réseau d’évaluation de robustesse pour comparer différentes approches, ce qui est plus fiable que la métrique d’évaluation par rectangle, la métrique traditionnelle. Notre GQ-STN est capable de détecter des configurations de saisie robustes sur des images de profondeur de jeu de données Dex-Net 2.0 à une précision de 92.4 % en une seule passe du réseau. Finalement, nous démontrons dans une expérience sur un montage physique que notre méthode peut proposer des configurations de saisie robustes plus souvent que les techniques précédentes par échantillonage aléatoire, tout en étant plus de 60 fois plus rapide. / Grasping is a fundamental robotic task needed for the deployment of household robots or furthering warehouse automation. However, few approaches are able to perform grasp detection in real time (frame rate). To this effect, we present Grasp Quality Spatial Transformer Network (GQ-STN), a one-shot grasp detection network. Being based on the Spatial Transformer Network (STN), it produces not only a grasp configuration, but also directly outputs a depth image centered at this configuration. By connecting our architecture to an externally-trained grasp robustness evaluation network, we can train efficiently to satisfy a robustness metric via the backpropagation of the gradient emanating from the evaluation network. This removes the difficulty of training detection networks on sparsely annotated databases, a common issue in grasping. We further propose to use this robustness classifier to compare approaches, being more reliable than the traditional rectangle metric. Our GQ-STN is able to detect robust grasps on the depth images of the Dex-Net 2.0 dataset with 92.4 % accuracy in a single pass of the network. We finally demonstrate in a physical benchmark that our method can propose robust grasps more often than previous sampling-based methods, while being more than 60 times faster.

En tant qu'algorithmes d'apprentissage automatique à la pointe de la technologie, les réseaux de neurones profonds nécessitent de nombreux exemples pour bien fonctionner sur une tâche d'apprentissage. La collecte et l'annotation de multiples échantillons nécessitent un travail humain important et c'est même impossible dans la plupart des problèmes du monde réel tel que l'analyse de données biomédicales. Dans le contexte de la vision par ordinateur, la classification d'images à quelques plans vise à saisir la capacité humaine à apprendre de nouveaux concepts avec peu de supervision. À cet égard, l'idée générale est de transférer les connaissances des catégories de base avec plus d'encadrement vers des classes nouvelles avec peu d'exemples. En particulier, les approches actuelles d'apprentissage à quelques coups pré entraînent un modèle sur les classes de base disponible pour généraliser aux nouvelles classes, peut-être avec un réglage fin. Cependant, la généralisation du modèle actuel est limitée en raison de certaines hypothèses lors de la préformation et de restrictions lors de l'étape de mise au point. Cette thèse vise à assouplir trois hypothèses des modèles d'apprentissage à quelques plans actuels et nous proposons un apprentissage de représentation pour la classification d'images à quelques plans. Tout d'abord, le gel d'un modèle préformé semble inévitable dans la phase de réglage fin en raison de la forte possibilité de surentraînement sur quelques exemples. Malheureusement, l'apprentissage par transfert avec une hypothèse de modèle gelé limite la capacité du modèle puisque le modèle n'est pas mis à jour avec aucune connaissance des nouvelles classes. Contrairement au gel d'un modèle, nous proposons un alignement associatif qui permet d'affiner et de mettre à jour le réseau sur de nouvelles catégories. Plus précisément, nous présentons deux stratégies qui détectent et alignent les nouvelles classes sur les catégories de base hautement liées. Alors que la première stratégie pousse la distribution des nouvelles classes au centre de leurs catégories de base associées, la seconde stratégie effectue une correspondance de distribution à l'aide d'un algorithme d'entraînement contradictoire. Dans l'ensemble, notre alignement associatif vise à éviter le surentraînement et à augmenter la capacité du modèle en affinant le modèle à l'aide de nouveaux exemples et d'échantillons de base associés. Deuxièmement, les approches actuelles d'apprentissage à quelques coups effectuent le transfert de connaissances vers de nouvelles classes distinctes sous l'hypothèse uni modale, où tous les exemples d'une seule classe sont représentés par un seul cluster. Au lieu de cela, nous proposons une approche d'apprentissage de l'espace des caractéristiques basée sur le mélange (MixtFSL) pour déduire une représentation multimodale. Alors qu'un précédent travail basé sur un modèle de mélange d'Allen et al. citeallen2019infinite est basé sur une méthode de clusters classique de manière non différentielle, notre MixtFSL est un nouveau modèle multimodale de bout en bout et entièrement différentielle. MixtFSL capture la multimodale des classes de base sans aucun algorithme de clusters classique à l'aide d'un cadre en deux étapes. La première phase s'appeler formation initiale et vise à apprendre la représentation préliminaire du mélange avec une paire de fonctions de perte. Ensuite, l'étape suivante progressive, la deuxième étape, stabilise la formation avec un cadre de formation de type enseignant-élève utilisant une fonction de perte unique. Troisièmement, contrairement aux techniques actuelles à quelques prises de vue consistant à représenter chaque exemple d'entrée avec une seule entité à la fin du réseau, nous proposons un extracteur d'entités d'ensemble et des ensembles d'entités correspondantes qui assouplissent l'hypothèse typique basée sur une seule entité en raisonnant sur des ensembles d'entités. Ici, nous émettons l'hypothèse que l'hypothèse d'une seule caractéristique est problématique dans la classification d'images à quelques prises de vue puisque les nouvelles classes sont différentes des classes de base préformées. À cette fin, nous proposons nouvel extracteur de caractéristiques d'ensemble d'apprentissage profond basé sur les réseaux de neurones hybrides convolution-attention. De plus, nous suggérons trois métriques ensemble à ensemble non paramétriques pour séduire la classe de l'entrée donnée. Cette thèse utilise plusieurs indicateurs standards publiés dans la littérature sur l'apprentissage en peu d'exemples et l'ossature de réseau pour évaluer les méthodes que nous proposons. / As the current state-of-the-art machine learning algorithms, deep neural networks require many examples to perform well on a learning task. Gathering and annotating many samples requires significant human labor, and it is even impossible in most real-world problems such as biomedical data analysis. Under the computer vision context, few-shot image classification aims at grasping the human ability to learn new concepts with little supervision. In this respect, the general idea is to transfer knowledge from base categories with more supervision to novel classes with few examples. In particular, the current few-shot learning approaches pre-train a model on available base classes to generalize to the novel classes, perhaps with fine-tuning. However, the current model's generalization is limited because of some assumptions in the pre-training and restrictions in the fine-tuning stage. This thesis aims to relax three assumptions of the current few-shot learning models, and we propose representation learning for few-shot image classification. First, freezing a pre-trained model looks inevitable in the fine-tuning stage due to the high possibility of overfitting on a few examples. Unfortunately, transfer learning with a frozen model assumption limits the model capacity since the model is not updated with any knowledge of the novel classes. In contrast to freezing a model, we propose associative alignment that enables fine-tuning and updating the network on novel categories. Specifically, we present two strategies that detect and align the novel classes to the highly related base categories. While the first strategy pushes the distribution of the novel classes to the center of their related base categories, the second strategy performs distribution matching using an adversarial training algorithm. Overall, our associative alignment aims to prevent overfitting and increase the model capacity by refining the model using novel examples and related base samples. Second, the current few-shot learning approaches perform transferring knowledge to distinctive novel classes under the uni-modal assumption, where all the examples of a single class are represented with a single cluster. Instead, we propose a mixture-based feature space learning (MixtFSL) approach to infer a multi-modal representation. While a previous mixture-model-based work of Allen et al. [1] is based on a classical clustering method in a non-differentiable manner, our MixtFSL is a new end-to-end multi-modal and fully differentiable model. MixtFSL captures the multi-modality of base classes without any classical clustering algorithm using a two-stage framework. The first phase is called initial training and aims to learn preliminary mixture representation with a pair of loss functions. Then, the progressive following stage, the second stage, stabilizes the training with a teacher-student kind of training framework using a single loss function. Third, unlike the current few-shot techniques of representing each input example with a single feature at the end of the network, we propose a set feature extractor and matching feature sets that relax the typical single feature-based assumption by reasoning on feature sets. Here, we hypothesize that the single feature assumption is problematic in few-shot image classification since the novel classes are different from pre-trained base classes. To this end, we propose a new deep learning set feature extractor based on the hybrid convolution-attention neural networks. Additionally, we offer three non-parametric set-to-set metrics to infer the class of the given input. This thesis employs several standard benchmarks of few-shot learning literature and network backbones to evaluate our proposed methods.

La synchronisation neuronale est inhérente au cerveau, ce qui permet aux neurones de se regrouper en réseau et de communiquer. Les oscillations indissociables aux états de vigilance tels le sommeil à ondes lentes, le sommeil paradoxal et l’éveil, mais aussi à l’état pathologique tel l’épilepsie émergent de la synchronisation d’un groupe de neurones. Plusieurs interactions neuronales influencent la synchronisation, soit la transmission chimique ou électrique, les variations ioniques et les interactions éphaptiques. Du point de vue cellulaire, la plasticité synaptique influence également la connectivité fonctionnelle des neurones. Dans cette thèse, le but est d’expliquer les impacts des rythmes du sommeil sur la connectivité fonctionnelle et les effets des changements ioniques sur la synchronisation neuronale et la connectivité fonctionnelle. Les états de vigilance sont impliqués dans la consolidation de la mémoire. Nous avons démontré que la présence des oscillations lentes et du patron de décharge des neurones pendant l’oscillation lente peuvent favoriser la facilitation synaptique à long terme, ce qui peut être un élément clé pour l’intégration de nouvelles connections synaptiques sous-adjacent à la consolidation de la mémoire pendant le sommeil. Au contraire, les activités synaptiques générées pendant l’éveil en présence d’acétylcholine favorise la facilitation à court-terme. Les mécanismes de passage de l’information sensorielle dans le thalamus pendant le sommeil sont inconnus. Nous avons démontré que le taux d’échec à une stimulation lemniscale est augmenté pendant les potentiels calciques et leur génération cause une diminution du calcium extracellulaire qui est suffisante pour influencer la transmission synaptique. Les potentiels calciques se produisent préférentiellement pendant le sommeil à ondes lentes, mais également sous forme de bouffées paroxystiques de potentiels d’action lors de l’épilepsie. Durant les crises épileptiques, l’activité paroxystique des neurones cause une diminution du calcium et une augmentation du potassium extracellulaire. Nous avons démontré que ces changements ioniques affectent la transmission synaptique en augmentant le taux d’échec à des réponses unitaires et en bloquant la transmission axonale d’un potentiel d’action, ce qui a pour effet de rompre la communication entre les neurones, de perturber leur synchronisation pendant les crises paroxystiques et de faciliter leur terminaison. / The neuronal synchronisation is an intrinsic phenomenon in the brain that allows neurons to be connected to the network to communicate. Oscillations inherent of the states of vigilance such as the slow-wave sleep, the REM sleep, and waking state or pathological conditions such as epilepsy emerge from the network synchronisation of a group of neurons. Several interactions influence the synchronization: the chemical or electrical transmission, the ionic variations, and the ephaptic interactions. At cellular level, the synaptic plasticity also influences the functional connectivity of neurons. In this thesis, I aim to explain the impact of sleep rhythms on the functional connectivity and the effects of ionic variations on the neuronal synchrony and the functional connectivity. States of vigilance implicated in the memory consolidation. We demonstrated that the presence of slow oscillations and the spiking pattern during slow-wave sleep favours the long-term synaptic facilitation, which could be a key element for the sleep-dependent reinforcement of synaptic efficacy contributing to memory consolidation. By contrast synaptic activities generated during waking state in a conditions of increased level acetylcholine favour short-term facilitation. Sleep allows also the brain to disrupt partially the communication with the environment. The accepted model is that the thalamus provides gating of sensory information during sleep, but the exact mechanisms of that gating are unknown. We demonstrated that the failure rate to a lemniscal stimulation is increased during the thalamic Ca2+ spike bursts and the generation of those Ca2+ spikes cause a depletion of the extracellular calcium which is sufficient to reduce the synaptic efficacy. Bursts of action potential occur preferentially during slow-wave sleep, but also in the pathological form of paroxysmal depolarization shift during the generation of cortical epileptic seizures. During seizures, the paroxysmal neuronal activity causes a decrease of extracellular Ca2+ and an increase of extracellular potassium. We demonstrated that those ionic variations affect the synaptic transmission by increasing the failure rate of unitary responses at a synapse and by blocking the axonal transmission of action potentials, which disrupts the neuronal communication between neurons, facilitating seizure termination.

La demande future de bande passante pour les données dépassera les capacités des systèmes de communication optique actuels, qui approchent de leurs limites en raison des limitations de la bande passante électrique des composants de l’émetteur. L’interférence intersymbole (ISI) due à cette limitation de bande est le principal facteur de dégradation pour atteindre des débits de données élevés. Dans ce mémoire, nous étudions plusieurs techniques de réseaux neuronaux (NN) pour combattre les limites physiques des composants de l’émetteur pilotés à des débits de données élevés et exploitant les formats de modulation avancés avec une détection cohérente. Notre objectif principal avec les NN comme égaliseurs de canaux ISI est de surmonter les limites des récepteurs optimaux conventionnels, en fournissant une complexité évolutive moindre et une solution quasi optimale. Nous proposons une nouvelle architecture bidirectionnelle profonde de mémoire à long terme (BiLSTM), qui est efficace pour atténuer les graves problèmes d’ISI causés par les composants à bande limitée. Pour la première fois, nous démontrons par simulation que notre BiLSTM profonde proposée atteint le même taux d’erreur sur les bits(TEB) qu’un estimateur de séquence à maximum de vraisemblance (MLSE) optimal pour la modulation MDPQ. Les NN étant des modèles pilotés par les données, leurs performances dépendent fortement de la qualité des données d’entrée. Nous démontrons comment les performances du BiLSTM profond réalisable se dégradent avec l’augmentation de l’ordre de modulation. Nous examinons également l’impact de la sévérité de l’ISI et de la longueur de la mémoire du canal sur les performances de la BiLSTM profonde. Nous étudions les performances de divers canaux synthétiques à bande limitée ainsi qu’un canal optique mesuré à 100 Gbaud en utilisant un modulateur photonique au silicium (SiP) de 35 GHz. La gravité ISI de ces canaux est quantifiée grâce à une nouvelle vue graphique des performances basée sur les écarts de performance de base entre les solutions optimales linéaires et non linéaires classiques. Aux ordres QAM supérieurs à la QPSK, nous quantifions l’écart de performance BiLSTM profond par rapport à la MLSE optimale à mesure que la sévérité ISI augmente. Alors qu’elle s’approche des performances optimales de la MLSE à 8QAM et 16QAM avec une pénalité, elle est capable de dépasser largement la solution optimale linéaire à 32QAM. Plus important encore, l’avantage de l’utilisation de modèles d’auto-apprentissage comme les NN est leur capacité à apprendre le canal pendant la formation, alors que la MLSE optimale nécessite des informations précises sur l’état du canal. / The future demand for the data bandwidth will surpass the capabilities of current optical communication systems, which are approaching their limits due to the electrical bandwidth limitations of the transmitter components. Inter-symbol interference (ISI) due to this band limitation is the major degradation factor to achieve high data rates. In this thesis, we investigate several neural network (NN) techniques to combat the physical limits of the transmitter components driven at high data rates and exploiting the advanced modulation formats with coherent detection. Our main focus with NNs as ISI channel equalizers is to overcome the limitations of conventional optimal receivers, by providing lower scalable complexity and near optimal solution. We propose a novel deep bidirectional long short-term memory (BiLSTM) architecture, that is effective in mitigating severe ISI caused by bandlimited components. For the first time, we demonstrate via simulation that our proposed deep BiLSTM achieves the same bit error rate (BER) performance as an optimal maximum likelihood sequence estimator (MLSE) for QPSK modulation. The NNs being data-driven models, their performance acutely depends on input data quality. We demonstrate how the achievable deep BiLSTM performance degrades with the increase in modulation order. We also examine the impact of ISI severity and channel memory length on deep BiLSTM performance. We investigate the performances of various synthetic band-limited channels along with a measured optical channel at 100 Gbaud using a 35 GHz silicon photonic(SiP) modulator. The ISI severity of these channels is quantified with a new graphical view of performance based on the baseline performance gaps between conventional linear and nonlinear optimal solutions. At QAM orders above QPSK, we quantify deep BiLSTM performance deviation from the optimal MLSE as ISI severity increases. While deep BiLSTM approaches the optimal MLSE performance at 8QAM and 16QAM with a penalty, it is able to greatly surpass the linear optimal solution at 32QAM. More importantly, the advantage of using self learning models like NNs is their ability to learn the channel during the training, while the optimal MLSE requires accurate channel state information.

Les neurones encodent l’information dans le nombre et la fréquence des potentiels d’action qu’ils déchargent. Les patrons de décharge de potentiels d’action enregistrés dans les animaux vivants varient fortement dans leur nombre et leur fréquence. Les variations dans la fréquence et le nombre de potentiel d’action déchargés affectent drastiquement la plasticité à court terme et le transfert de l’information vers la cellule postsynaptique. Comment les terminaux présynaptiques décodent la fréquence et le nombre de potentiel d’action par des dynamiques calciques spécifiques demeure inconnu. Afin d’explorer cette question, nous avons combiné l’imagerie calcique par microscopie deux photons à accès aléatoire avec l’électrophysiologie dans les tranches aiguës d’hippocampe. Nous avons procédé à l’analyse de l’ultrastructure des terminaux synaptique par immunohistochimie et microscopie électronique. Nous avons découvert que la propagation des potentiels d’action des cellules granulaires aux cellules principales du CA3 était dépendante du nombre de potentiel d’action dans une bouffée, mais était indépendante de la fréquence moyenne des potentiels d’action dans la bouffée. Le nombre de potentiel d’action dans une bouffée était encodé par le terminal présynaptique dans l’homogénéisation spatiale des microdomaines calciques. Cette globalisation des microdomaines calciques dans les terminaux présynaptiques supportait le recrutement de site de relâchements additionnels, suffisant pour augmenter grandement l’amplitude des courants postsynaptiques. De plus, les canaux calciques de type P/Q couplés faiblement aux senseurs calciques et localisés à une distance plus grande des zones actives étaient l’élément clé permettant l’homogénéisation des microdomaines calciques et le recrutement de sites de relâchement additionnels. Ainsi, les fibres moussues de l’hippocampe propagent les potentiels d’action vers les cellules principales du CA3 en fonction du nombre de potentiel d’action dans la bouffée, indépendamment de leur fréquence. Cette transmission est possible grâce à la dynamique calcique présynaptique hautement spécialisée qui optimise l’utilisation d’un grand nombre de sites de relâchement. / Neurons encode information in the number and frequency of action potentials they discharge. Action potentials typically occur in bursts of varying number and frequency, with variations in these two parameters dramatically affecting short-term plasticity and the transfer of information to the postsynaptic neuron. How presynaptic terminals decode the frequency and the number of action potentials through calcium dynamics to gate neurotransmitter remains unknown. To investigate this question, we combined random-access two-photon presynaptic calcium imaging in large mossy fiber terminals and electrophysiology in acute hippocampal slices. We further probed the ultrastructure of the mossy fiber terminals using immunohistochemistry and electron microscopy. We found that action potential propagation from hippocampal granule cells to postsynaptic CA3 pyramidal cells was dependent on the number of action potentials (AP) in the granule cell burst, but was independent of the AP burst average frequency. Interestingly, the number of action potentials in a burst was encoded in presynaptic terminals by the spatial homogenization of calcium microdomains. This globalization of calcium microdomains within single presynaptic terminals supported the recruitment of additional release sites, sufficient to increase the EPSC amplitude several fold. Additionally, loosely-coupled P/Q-type VGCCs from calcium sensors provided the functional basis for the homogenization of calcium microdomains and proved essential for the recruitment of additional release sites. Therefore, hippocampal mossy fiber terminals propagate action potentials to CA3 pyramidal cells as a function of the number of action potentials in the burst, but not the frequency. This counting logic is made possible through specialized spatiotemporal calcium dynamics which optimize the use of a large number of release sites.

En hydrologie, la simulation de la transformation de la pluie en débit dans les rivières constitue un axe de recherche dynamique. À la mise en oeuvre des nouveaux modèles, il faut ajouter les tentatives d'améliorer ceux existant grâce à la possibilité qu'offrent des nouveaux outils d'acquisition de données et à la puissance de calcul des ordinateurs toujours croissante. La puissance de calcul des nouveaux ordinateurs rend utilisable des algorithmes autrefois difficiles à mettre en oeuvre comme les réseaux de neurones (RN). Les réseaux de neurones ont connu un essor dans la modélisation hydrologique dans les années 1990 où ils ont été essentiellement utilisés dans la mise en oeuvre de modèles pluie-débit. Dans cette thèse l'on cherche à remplacer le module BV3C (bilan vertical 3 couches) du modèle distribué HYDROTEL par un ensemble de réseaux de neurones. BV3C divise le sol en trois couches où il simule les teneurs en eau et les débits sortant de chacune des couches. Cette démarche a pour but d'explorer l'opportunité de remplacer des modules de modèles complexes par des réseaux de neurones qui, une fois optimisés, constituent des outils de calculs très simples, rapides et transportables sur des supports informatiques simples. Le défi d'une telle démarche est de trouver une base de données représentative susceptible d'être utilisée par le module substitué. Dans le cas présent, des données provenant de zones hydro-climatologiques différentes ont été utilisées. Ces données sont utilisées comme entrées du module original extrait de l'ensemble du modèle HYDROTEL. Les résultats de simulation sont classés avant d'être utilisés en partie pour l'optimisation et le test des réseaux de neurones. Les réseaux mis en oeuvre sont testés sur une autre partie des données et dans un cadre opérationnel où les réseaux de neurones sont réintégrés dans le modèle. Les résultats des différents tests montrent tout d'abord que la substitution donne des résultats satisfaisants sur l'ensemble des données qui n'ont servi ni à l'optimisation, ni aux tests des réseaux de neurones. En plus, on enregistre un léger gain de temps. Les résultats sur les teneurs en eau sont nettement meilleurs. Cela s'explique par le fait que celles-ci connaissent de faibles variations dans le temps. Les variations plus importantes des débits des différentes couches rendent plus difficile leur modélisation mais les résultats obtenus rendent la substitution envisageable aussi bien dans le présent cas que dans des modules plus complexes.

Dans la dernière décennie, les approches basées sur les réseaux de neurones convolutionnels sont devenus les standards pour la plupart des tâches en vision numérique. Alors qu'une grande partie des méthodes classiques de vision étaient basées sur des règles et algorithmes, les réseaux de neurones sont optimisés directement à partir de données d'entraînement qui sont étiquetées pour la tâche voulue. En pratique, il peut être difficile d'obtenir une quantité su sante de données d'entraînement ou d'interpréter les prédictions faites par les réseaux. Également, le processus d'entraînement doit être recommencé pour chaque nouvelle tâche ou ensemble d'objets. Au final, bien que très performantes, les solutions basées sur des réseaux de neurones peuvent être difficiles à mettre en place. Dans cette thèse, nous proposons des stratégies visant à contourner ou solutionner en partie ces limitations en contexte de détection d'instances d'objets. Premièrement, nous proposons d'utiliser une approche en cascade consistant à utiliser un réseau de neurone comme pré-filtrage d'une méthode standard de "template matching". Cette façon de faire nous permet d'améliorer les performances de la méthode de "template matching" tout en gardant son interprétabilité. Deuxièmement, nous proposons une autre approche en cascade. Dans ce cas, nous proposons d'utiliser un réseau faiblement supervisé pour générer des images de probabilité afin d'inférer la position de chaque objet. Cela permet de simplifier le processus d'entraînement et diminuer le nombre d'images d'entraînement nécessaires pour obtenir de bonnes performances. Finalement, nous proposons une architecture de réseau de neurones ainsi qu'une procédure d'entraînement permettant de généraliser un détecteur d'objets à des objets qui ne sont pas vus par le réseau lors de l'entraînement. Notre approche supprime donc la nécessité de réentraîner le réseau de neurones pour chaque nouvel objet. / In the last decade, deep convolutional neural networks became a standard for computer vision applications. As opposed to classical methods which are based on rules and hand-designed features, neural networks are optimized and learned directly from a set of labeled training data specific for a given task. In practice, both obtaining sufficient labeled training data and interpreting network outputs can be problematic. Additionnally, a neural network has to be retrained for new tasks or new sets of objects. Overall, while they perform really well, deployment of deep neural network approaches can be challenging. In this thesis, we propose strategies aiming at solving or getting around these limitations for object detection. First, we propose a cascade approach in which a neural network is used as a prefilter to a template matching approach, allowing an increased performance while keeping the interpretability of the matching method. Secondly, we propose another cascade approach in which a weakly-supervised network generates object-specific heatmaps that can be used to infer their position in an image. This approach simplifies the training process and decreases the number of required training images to get state-of-the-art performances. Finally, we propose a neural network architecture and a training procedure allowing detection of objects that were not seen during training, thus removing the need to retrain networks for new objects.

De nouvelles preuves suggèrent que les dysfonctionnements des circuits sous-jacents aux symptômes et aux déficits cognitifs des maladies psychiatriques pourraient être causés par une altération des paramètres d'équilibre d’excitation/inhibition (E/I). Cependant, les preuves physiologiques directes de cette hypothèse à partir de données électrophysiologiques et de neuro-imagerie non invasives sont jusqu'à présent rares. Pour apporter un soutien supplémentaire à l’hypothèse de l’équilibre E/I, la présente étude a appliqué une approche avancée de microscopie holographique numérique (MHN) pour examiner la dynamique des systèmes excitateurs/inhibiteurs suite à une stimulation glutamatergique dans des réseaux de neurones à différents stades de maturation neuronale. Cette approche fournissant une mesure approximative très précise des variations de mouvement de l’eau dans les cellules permet d’étudier certains processus physiologiques, tels que ceux reliés à l’activité neuronale. Cette étude a ainsi permis d’améliorer les connaissances sur la dynamique de la réponse neuronale induite par le glutamate, notamment en la caractérisant dans des cultures de neurones corticaux primaires de rats postnataux. L’activation des neurones engendrée par le glutamate, le principal neurotransmetteur excitateur, a révélé des changements plus ou moins persistants de la morphologie et des propriétés intracellulaires des neurones. De plus, les différentes réponses obtenues indiquent que le glutamate engendre des mécanismes d’activation et des processus de régulation du volume neuronal distincts d’un neurone à l’autre, probablement dépendant de l’état d’excitabilité de ce dernier qui résulte de l’interaction complexe des neurones inhibiteurs et excitateurs. Ainsi, la régulation de l’équilibre E/I de réseaux neuronaux pourrait potentiellement être reflétée par la proportion des différentes réponses de phase induites lors de stimulation de réseaux neuronaux au glutamate. / New evidences suggest that circuit dysfunctions underlying symptoms and cognitive deficits of psychiatric disorders may be caused by impaired excitation/inhibition equilibrium parameters (E/I). However, direct physiological evidences supporting this hypothesis from non-invasive electrophysiological and neuroimaging remain scarce. To provide additional support concerning the E/I balance hypothesis, this study uses an advanced digital holographic microscopy (DHM) approach to explore the dynamics of excitatory/inhibitory systems following glutamatergic stimulation in neural networks at different stages of neuronal maturation. This approach provides a very accurate approximate measurement of the water movement variations in cells allowing to study certain specific physiological processes, such as those related to neuronal activity. This study improves the knowledge regarding the dynamics of the glutamate-induced neuronal response, especially by characterizing it in cultures of primary cortical neurons of postnatal rats. The activation of neurons induced by glutamate, which is the main excitatory neurotransmitter, revealed more or less permanent changes in the morphology and intracellular properties of neurons. Moreover, the various responses obtained indicate that glutamate generates different neuronal activation mechanisms and neuronal volume regulation processes from a neuron to another, probably depending to the excitability state of the neuron that results from the complex interaction of inhibitory and excitatory neurons. Thus, the E/I balance regulation of neural networks could potentially be reflected by the proportion of different phase responses induced during glutamate neural network stimulation.

Les ganglions de la base (GB) sont formés de structures sous-corticales essentielles à un comportement psychomoteur normal. Le dérèglement d’une seule de ces composantes provoque un comportement moteur inadapté qui peut être très handicapant. La maladie de Parkinson est la pathologie neurodégénérative la plus fréquente affectant les GB. Elle est principalement caractérisée par la dégénérescence progressive des neurones dopaminergiques (DA) de la substance noire pars compacta provoquant l’apparition de symptômes moteurs tels que la bradykinésie, la rigidité musculaire et le tremblement au repos. Cependant, le bouleversement majeur de l’innervation DA des GB conduit également à plusieurs autres changements neuroadaptatifs et compensatoires. Les travaux de recherche décrits dans cette thèse traitent de plusieurs de ces changements qui affectent la microcircuiterie des ganglions de la base et qui se produisent en marge de la perte massive des neurones DA. Tout d’abord, une étude portant sur l’innervation à sérotonine (5-HT) des ganglions de la base en condition normale et effectuée à partir de cerveaux post-mortem humains sera présentée. Cette étude immunohistochimique a permis de décrire la trajectoire qu’empruntent les faisceaux d’axones 5-HT en provenance des noyaux du raphé du tronc cérébral afin d’innerver les différentes composantes des GB. Ensuite, une description plus précise de l’arborisation axonale unitaire des neurones 5-HT provenant du noyau raphé dorsal chez le rat sera apportée. L’injection par microiontophorèse d’un traceur antérograde a permis de marquer et de reconstruire en trois dimensions l’arborisation axonale complète de plusieurs neurones, mettant ainsi en lumière l’hétérogénéité des projections 5-HT ascendantes. Les études seront ensuite présentées ont été effectuées à partir de modèles animaux de la maladie de Parkinson et mettent en valeur d’importants changements compensatoires. Ces travaux ont permis d’identifier de nouveaux phénomènes neuroadaptatifs concernant l’innervation DA et 5-HT du striatum et du globus pallidus (GP) suite à une lésion DA chez le singe cynomolgus (Macaca fascicularis). L’immunohistochimie combinée à une méthode quantitative stéréologique a conduit à mettre en évidence un bourgeonnement important des axones 5-HT dans le striatum ainsi que dans le GP. Une description précise en microscopie électronique de la structure morphologique fine suggère que les nouvelles varicosités axonales 5-HT retrouvées dans le striatum sont fonctionnelles et présentent davantage de contacts synaptiques, en lien avec un phénomène de bourgeonnement axonal. Contrairement à la dénervation DA massive du striatum, nos résultats indiquent une augmentation de près de dix fois le nombre d’axones DA dans le segment interne du GP. Finalement, des reconstructions du domaine somatodendritiques de neurones du striatum effectuées suite à l’injection intracellulaire de fluorophores ont mis en lumière un nouveau sous-type de neurones de projection du striatum. Ces injections effectuées chez un modèle murin de la maladie de Parkinson nous permettent de conclure que ce sous-type de neurones est affecté différemment par une dénervation DA. Dans l’ensemble, les travaux présentés dans cette thèse soulèvent l’importance de l’innervation DA et 5-HT dans le fonctionnement normal des GB, ainsi que les changements neuroadaptatifs qui surviennent dans la maladie de Parkinson. La description précise de ces changements morphologiques doit être prise en compte afin de mieux comprendre l’expression des symptômes moteurs et non-moteurs de la maladie de Parkinson et expliquer l’apparition des dyskinésies qui surviennent chez une vaste majorité des patients parkinsoniens suite à l’administration quotidienne de L-Dopa, principal traitement pharmacologique de la maladie. / The basal ganglia are a set of subcortical structures involved in psychomotor behaviour. Parkinson’s disease is the most common neurodegenerative disorder affecting the basal ganglia. The slow and progressive degeneration of dopamine (DA) neurons located in the substantia nigra pars compacta leads to disabling motor symptoms such as bradykinesia, resting tremor and rigidity. This work aims at describing the compensatory mechanisms affecting other neuronal systems and designed to compensate for the massive loss of the DA innervation of the basal ganglia. The thesis begins with a post-mortem human study of the main serotonin (5-HT) pathways arising from the raphe nuclei and innervating the different basal ganglia components in normal condition. The next chapter contains a morphological study providing the first detailed description of single axons arising from the dorsal raphe nucleus (DRN) in rats. In order to achieve our goal, under electrophysiological guidance, microiontophoretic tracer injections of an anterograde tracer were placed in the DRN to provide three-dimensional axonal reconstructions of single 5-HT neurons. Other studies presented were performed in animal models of Parkinson’s disease and brought to light new compensatory mechanisms involving the 5-HT and DA innervation of the basal ganglia. Two articles contain data on major neuroadaptative changes of DA and 5-HT innervation of the striatum and the globus pallidus (GP), following a DA lesion in cynomolgus monkeys (Macaca fascicularis). Immunohistochemistry combined to unbiased quantitative approaches indicate an important sprouting of 5-HT axons in the monkey striatum and GP. Interestingly, in contrast to the massive striatal DA denervation, we report a ten-time increase of the number of DA axons in the GP internal segment of parkinsonian monkeys. Electron microscopy study suggests that the newly-formed 5-HT axon varicosities observed in the striatum establish more synapses after DA lesion, in line with the sprouting of 5-HT axons. The last chapter contains a meticulous morphological study of a peculiar population of medium spiny neurons endowed with a dendritic arborization that is less affected by DA lesion in mice. In summary, studies presented in this doctoral thesis shed a new light on some of the compensatory mechanisms observed in different basal ganglia components and designed to cope for the massive loss of DA neurons that characterize Parkinson’s disease. The compensatory mechanisms outlined in this work should be taken into account to better understand the expression of motor and non-motor symptoms as well as the expression of dyskinesia induced by long-term pharmacological treatment with L-Dopa.