Le travail présenté dans cette thèse fait partie d’un programme de recherche qui vise à comprendre comment le cerveau traite et représente les structures symboliques dans des domaines comme le langage ou les mathématiques. L’existence de structures composées de sous-éléments, tel que les morphèmes, les mots ou les phrases est très fortement suggérée par les analyses linguistiques et les données expérimentales de la psycholinguistique. En revanche, l’implémentation neuronale des opérations et des représentations qui permettent la nature combinatoire du langage reste encore essentiellement inconnue. Certaines opérations de composition élémentaires permettant une représentation interne stable des objets dans le cortex sensoriel, tel que la reconnaissance hiérarchique des formes, sont aujourd’hui mieux comprises [5]. En revanche, les modèles concernant les opérations de liaisons(binding) nécessaires à la construction de structures symboliques complexes et possiblement hiérarchiques, pour lesquelles des manipulations précises des composants doit être possible, sont encore peu testés de façon expérimentale et incapables de prédire les signaux en neuroimagerie. Combler le fossé entre les données de neuroimagerie expérimentale et les modèles proposés pour résoudre le problème de binding est une étape cruciale pour mieux comprendre les processus de traitements et de représentation des structures symboliques. Au regard de ce problème, l’objectif de ce travail était d’identifier et de tester expérimentalement les théories basées sur des réseaux neuronaux, capables de traiter des structures symboliques pour lesquelles nous avons pu établir des prédictions testables, contre des mesures existantes de neuroimagerie fMRI et ECoG dérivées de tâches de traitement du langage. Nous avons identifié deux approches de modélisation pertinentes. La première approche s’inscrit dans le contexte des architectures symboliques vectorielles (VSA), qui propose une modélisation mathématique précise des opérations nécessaires pour représenter les structures dans des réseaux neuronaux artificiels. C’est le formalisme de Paul Smolensky[10], utilisant des produit tensoriel (TPR) qui englobe la plupart des architectures VSA précédemment proposées comme, par exemple, les modèles d’Activation synchrones[9], les représentations réduites holographique[8], et les mémoires auto-associatives récursives[1]. La seconde approche que nous avons identifiée est celle du "Neural Blackboard Architecture" (NBA), développée par Marc De Kamps et Van der Velde[11]. Elle se démarque des autres en proposant une implémentation des mécanismes associatifs à travers des circuits formés par des assemblages de réseaux neuronaux. L’architecture du Blackboard repose sur des changements de connectivité transitoires des circuits d’assemblages neuronaux, de sorte que le potentiel de l’activité neurale permise par les mécanismes de mémoire de travail après un processus de liaison, représente implicitement les structures symboliques. Dans la première partie de cette thèse, nous détaillons la théorie derrière chacun de ces modèles et les comparons, du point de vue du problème de binding. Les deux modèles sont capables de répondre à la plupart des défis théoriques posés par la modélisation neuronale des structures symboliques, notamment ceux présentées par Jackendo[3]. Néanmoins, ces deux classes de modèles sont très différentes. Le TPR de Smolenky s’appuie principalement sur des considérations spatiales statiques d’unités neurales artificielles, avec des représentations explicites complètement distribuées et spatialement stables mises en œuvre par des vecteurs. La NBA en revanche, considère les dynamiques temporelles de décharge de neurones artificiels, avec des représentations spatialement instables implémentées par des assemblages neuronaux. (...) / The aim of this thesis is to understand how the brain computes and represents symbolic structures, such like those encountered in language or mathematics. The existence of parts in structures like morphemes, words and phrases has been established through decades of linguistic analysis and psycholinguistic experiments. Nonetheless the neural implementation of the operations that support the extreme combinatorial nature of language remains unsettled. Some basic composition operations that allow the stable internal representation of sensory objects in the sensory cortex, like hierarchical pattern recognition, receptive fields, pooling and normalization, have started to be understood[5]. But models of the binding operations required for construction of complex, possibly hierarchical, symbolic structures on which precise manipulation of its components is a requisite, lack empirical testing and are still unable to predict neuroimaging signals. In this sense, bridging the gap between experimental neuroimaging evidence and the available modelling solutions to the binding problem is a crucial step for the advancement of our understanding of the brain computation and representation of symbolic structures. From the recognition of this problem, the goal of this PhD became the identification and experimental test of the theories, based on neural networks, capable of dealing with symbolic structures, for which we could establish testable predictions against existing fMRI and ECoG neuroimaging measurements derived from language processing tasks. We identified two powerful but very different modelling approaches to the problem. The first is in the context of the tradition of Vectorial Symbolic Architectures (VSA) that bring precise mathematical modelling to the operations required to represent structures in the neural units of artificial neural networks and manipulate them. This is Smolensky’s formalism with tensor product representations (TPR)[10], which he demonstrates can encompass most of the previous work in VSA, like Synchronous Firing[9], Holographic Reduced Representations[8] and Recursive Auto-Associative Memories[1]. The second, is the Neural Blackboard Architecture (NBA) developed by Marc De Kamps and Van der Velde[11], that importantly differentiates itself by proposing an implementation of binding by process in circuits formed by neural assemblies of spiking neural networks. Instead of solving binding by assuming precise and particular algebraic operations on vectors, the NBA proposes the establishment of transient connectivity changes in a circuit structure of neural assemblies, such that the potential _ow of neural activity allowed by working memory mechanisms after a binding process takes place, implicitly represents symbolic structures. The first part of the thesis develops in more detail the theory behind each of these models and their relationship from the common perspective of solving the binding problem. Both models are capable of addressing most of the theoretical challenges posed currently for the neural modelling of symbolic structures, including those presented by Jackendo_[3]. Nonetheless they are very different, Smolenky’s TPR relies mostly on spatial static considerations of artificial neural units with explicit completely distributed and spatially stable representations implemented through vectors, while the NBA relies on temporal dynamic considerations of biologically based spiking neural units with implicit semi-local and spatially unstable representations implemented through neural assemblies. For the second part of the thesis, we identified the superposition principle, which consists on the addition of the neural activations of each of the sub-parts of a symbolic structure, as one of the most crucial assumptions of Smolensky’s TPR. (...)

Que va-t-il arriver ensuite ? Les stimuli naturels ont tendance à se suivre d'une façon prédictible. De nombreux domaines de la psychologie et des neurosciences ont montré que le cerveau et le comportement des humains sont sensibles à la structure temporelle des stimuli sensoriels et sont capables de l'exploiter de multiples façons : pour prendre des décisions appropriées, encoder l'information de façon efficace, réagir plus vite aux événements prédictibles ou encore orienter l'attention vers les stimuli inattendus. Si de nombreuses aires cérébrales sont sensibles aux régularités temporelles (RT), toutes ne semblent pas traiter les mêmes types de structure temporelle. L'accès conscient aux stimuli semble jouer un rôle important dans la capacité à apprendre certains types de RT. Cette thèse explore l'organisation hiérarchique du traitement des RT et les propriétés computationnelles propres à leur traitement conscient et non conscient en combinant un travail de modélisation et des expériences de neuroimagerie en magnétoencéphalographie et électroencéphalographie (MEEG). Un premier modèle neuronal basé sur les principes du codage prédictif reproduit les principales propriétés du traitement préattentif des sons purs dans le cortex auditif indexé par le potentiel évoqué appelé négativité d'incongruence (MMN). Une seconde étude en MEEG met en évidence l'existence d'une hiérarchie de processus prédictifs dans le cortex auditif. Enfin, un second modèle explore les contraintes et les nouvelles propriétés computationnelles qui sont associées à l'accès conscient des stimuli à un système de mémoire de travail capable de maintenir indéfiniment un nombre limité d'objets. / What is going to happen next? Natural stimuli tend to follow each other in a reproducible way. Multiple fields of neuroscience and psychology bring evidence that human’s brain and behavior are sensitive to the temporal structure of stimuli and are able to exploit them in multiple ways: to make appropriate decisions, encode efficiently information, react faster to predictable stimuli or orient attention towards surprising ones… Multiple brain areas show sensitivity to the temporal structure of events. However, all areas do not seem to be sensitive to the same kind of temporal regularities. Conscious access to the stimuli seems to play a key role in some of these dissociations and better understanding this role could improve the current diagnostic tools for non-communicative patients. This thesis explores the hierarchical organization of the processing of temporal regularities and the computational properties of conscious and unconscious levels of processing by combining a modeling approach with neuroimaging experiments using magnetoencephalography and electroencephalography (MEEG). First, a plausible neuronal model based on predictive coding principles reproduces the main properties of the preattentive processing of pure tones in the auditory cortex indexed by the evoked potential mismatch negativity (MMN). Second, a MEEG experiment provides evidence for a hierarchical organization of multiple predictive processes in the auditory cortex. Finally, a second model explores the new computational properties and constraints associated to the access of stimuli to a conscious space with a working memory able to maintain information for an arbitrary time but with limited capacity.

Comprendre le comportement du système visuel rétino-thalamo-cortico-colliculaire (i.e. précoce) dans une situation d'images naturelles est d'une importance capitale pour comprendre ce qui se passe ensuite dans le cerveau. Pour comprendre ces comportements, les neurobiologistes ont étudié les voies standard, Parvocellulaires et Magnocellulaires, depuis des décennies. Cependant, il y a aussi la voie non-standard, ou Koniocellulaire, qui joue un rôle modulateur important dans les traitements local, global, et entremêlé, pour atteindre de tels comportements. Particulièrement, l'analyse standard du mouvement réalisée par la voie Magno est alternée avec des réactions rapides, comme la fuite ou l'approche à des mouvements spécifiques, qui sont pré-câblés dans la voie Konio. De plus, l'étude d'une tâche de fixation dans une situation réelle, par exemple quand un prédateur s'approche lentement de sa proie, implique non seulement un mécanisme de mouvement, mais nécessite également l'utilisation de la voie Parvo, qui analyse, au moins, le contraste de l'image. Ici, nous étudions dans un modèle neuronal de calcul bio-inspiré comment ces voies peuvent être modélisées avec un ensemble minimal de paramètres, afin de fournir des résultats numériques robustes lors d'une tâche réelle. Ce modèle repose sur une étude approfondie pour intégrer des éléments biologiques dans l'architecture des circuits, les constantes de temps et les caractéristiques de fonctionnement des neurones. Nos résultats montrent que notre modèle, bien que fonctionnant via des calculs locaux, montre globalement un bon comportement de réseau en termes d'espace et de temps, et permet d'analyser et de proposer des interprétations de l'interaction entre le thalamus et le cortex. À une échelle plus macroscopique, les comportements du modèle sont reproductibles et peuvent être qualitativement comparés à des mesures de fixation oculaire chez l'homme. Cela est également vrai lorsque l'on utilise des images naturelles, où quelques paramètres sont légèrement modifiés, en gardant des résultats qualitativement humains. Les résultats de robustesse montrent que les valeurs précises des paramètres ne sont pas critiques, mais leur ordre de grandeur l'est. Une instabilité numérique ne se produit qu'après une variation de 100% d'un paramètre. Nous pouvons donc conclure que cette approche systémique est capable de représenter les changements de l'attention en utilisant des images naturelles, tout en étant algorithmiquement robuste. Cette étude nous donne ainsi une interprétation possible sur le rôle de la voie Konio, tandis qu'en même temps elle nous permet de participer au débat sur les low et high-roads des flux attentionnel et émotionnel. Néanmoins, d'autres informations, comme la couleur, sont également présentes dans le système visuel précoce, et pourraient être prises en considération, ainsi que des mécanismes corticaux plus complexes, dans les perspectives de ce travail / Understanding the behavior of the retino-thalamo-cortico-collicular (i.e. early) visual system in a natural images situation is of utmost importance to understand what further happens in the brain. To understand these behaviors, neuroscientists have looked at the standard Parvocellular and Magnocellular pathways for decades. However, there is also the non-standard Koniocellular pathway, which plays an important modulating role in the local, global, and intermingled processing carried out to achieve such behaviors. Particularly, the standard motion analysis carried out by the Magno pathway is alternated with rapid reactions, like fleeing or approaching to specific motions, which are hard-wired in the Konio pathway. In addition, studying a fixation task in a real situation, e.g., when a predator slowly approaches its prey, not only involves a motion mechanism, but also requires the use of the Parvo pathway, analyzing, at least, the image contrast. Here, we study in a bio-inspired computational neural model how these pathways can be modeled with a minimal set of parameters, in order to provide robust numerical results when doing a real task. This model is based upon an important study to integrate biological elements about the architecture of the circuits, the time constants and the operating characteristics of the different neurons. Our results show that our model, despite operating via local computations, globally shows a good network behavior in terms of space and time, and allows to analyze and propose interpretations to the interplay between thalamus and cortex. At a more macroscopic scale, the behaviors emerging from the model are reproducible and can be qualitatively compared to human-made fixation measurements. This is also true when using natural images, where just a few parameters are slightly modified, keeping the qualitatively human-like results. Robustness results show that the precise values of the parameters are not critical, but their order of magnitude matters. Numerical instability occurs only after a 100% variation of a parameter. We thus can conclude that such a reduced systemic approach is able to represent attentional shifts using natural images, while also being algorithmically robust. This study gives us as well a possible interpretation about the role of the Konio pathway, while at the same time allowing us to participate in the debate between low and high-roads in the attentional and emotional streams. Nevertheless, other information, such as color, is also present in the early visual system, and should be addressed together with more complex cortical mechanisms in a sequel of this work

Dans la première partie de cette thèse, motivée par le développement de la stimulation cérébrale profonde comme traitement des symptômes moteurs de la maladie de Parkinson, nous considérons le problème de réduire la synchronie d'une population neuronale par l'intermédiaire d'une stimulation électrique en boucle fermée. Ceci, sous les contraintes que seule la tension de membrane moyenne de l'ensemble est mesurée et qu'un seul signal de stimulation est disponible (retour du champ moyen). La population neuronale est modélisée comme un réseau d'oscillateurs de Landau-Stuart contrôlé par un dispositif de rétroaction mono-entrée mono-sortie. En nous basant sur la dynamique de phase associée au système, nous analysons l'existence et la robustesse des solutions à verrouillage de phase, modélisant l'état pathologique, et nous dérivons des conditions nécessaires à une désynchronisation efficace par retour du champ moyen. Des conditions suffisantes sont ensuite dérivées pour deux objectifs de contrôle: l'inhibition et la désynchronisation neuronale. Notre analyse suggère que, en fonction de l'intensité du gain de rétroaction, le retour du champ moyen peut soit bloquer l'oscillation collective (inhibition neuronale) soit désynchroniser l'ensemble.Dans la deuxième partie, nous explorons deux voies possibles pour l'analyse des problèmes similaires dans des modèles biologiquement plus plausibles. Dans la première, la population est modélisée comme une interconnexion d'opérateurs entrée-sortie non-linéaires et la synchronisation neuronale est analysée en s'appuyant sur une approche entré-sortie récemment développée. Dans la seconde, les propriétés d'excitabilité et de synchronisabilité des neurones sont analysées via les bifurcations sous-jacentes. En nous basant sur la théorie des formes normales, un nouveau modèle réduit est dérivé pour capturer les comportements d'une grande classe de neurones qui restent inexpliqués dans les modèles réduits existants. / In the first part of this thesis, motivated by the development of deep brain stimulation for Parkinson's disease, we consider the problem of reducing the synchrony of a neuronal population via a closed-loop electrical stimulation. This, under the constraints that only the mean membrane voltage of the ensemble is measured and that only one stimulation signal is available (mean-field feedback). The neuronal population is modeled as a network of interconnected Landau-Stuart oscillators controlled by a linear single-input single-output feedback device. Based on the associated phase dynamics, we analyze existence and robustness of phase-locked solutions, modeling the pathological state, and derive necessary conditions for an effective desynchronization via mean-field feedback. Sufficient conditions are then derived for two control objectives: neuronal inhibition and desynchronization. Our analysis suggests that, depending on the strength of feedback gain, a proportional mean-field feedback can either block the collective oscillation (neuronal inhibition) or desynchronize the ensemble.In the second part, we explore two possible ways to analyze related problems on more biologically sound models. In the first, the neuronal population is modeled as the interconnection of nonlinear input-output operators and neuronal synchronization is analyzed within a recently developed input-output approach. In the second, excitability and synchronizability properties of neurons are analyzed via the underlying bifurcations. Based on the theory of normal forms, a novel reduced model is derived to capture the behavior of a large class of neurons remaining unexplained in other existing reduced models.