Ce travail a été développé dans le cadre du projet européen FACETS-ITN, dans le domaine des Neurosciences Computationnelles. Son but est d’améliorer la compréhension des réseaux de neurones stochastiques de taille finie, pour des sources corrélées à caractère aléatoire et pour des matrices de connectivité biologiquement réalistes. Ce résultat est obtenu par l’analyse de la matrice de corrélation du réseau et la quantification de la capacité de codage du système en termes de son information de Fisher. Les méthodes comprennent diverses techniques mathématiques, statistiques et numériques, dont certaines ont été importés d’autres domaines scientifiques, comme la physique et la théorie de l’estimation. Ce travail étend de précédents résultats fondées sur des hypothèses simplifiées qui ne sont pas réaliste d’un point de vue biologique et qui peuvent être pertinents pour la compréhension des principes de travail liés cerveau. De plus, ce travail fournit les outils nécessaires à une analyse complète de la capacité de traitement de l’information des réseaux de neurones, qui sont toujours manquante dans la communauté scientifique. / The brain is the most complex system in the known universe. Its nested structure with small-world properties determines its function and behavior. The analysis of its structure requires sophisticated mathematical and statistical techniques. In this thesis we shed new light on neural networks, attacking the problem from different points of view, in the spirit of the Theory of Complexity and in terms of their information processing capabilities. In particular, we quantify the Fisher information of the system, which is a measure of its encoding capability. The first technique developed in this work is the mean-field theory of rate and FitzHugh-Nagumo networks without correlations in the thermodynamic limit, through both mathematical and numerical analysis. The second technique, the Mayer’s cluster expansion, is taken from the physics of plasma, and allows us to determine numerically the finite size effects of rate neurons, as well as the relationship of the Fisher information to the size of the network for independent Brownian motions. The third technique is a perturbative expansion, which allows us to determine the correlation structure of the rate network for a variety of different types of connectivity matrices and for different values of the correlation between the sources of randomness in the system. With this method we can also quantify numerically the Fisher information not only as a function of the network size, but also for different correlation structures of the system. The fourth technique is a slightly different type of perturbative expansion, with which we can study the behavior of completely generic connectivity matrices with random topologies. Moreover this method provides an analytic formula for the Fisher information, which is in qualitative agreement with the other results in this thesis. Finally, the fifth technique is purely numerical, and uses an Expectation-Maximization algorithm and Monte Carlo integration in order to evaluate the Fisher information of the FitzHugh-Nagumo network. In summary, this thesis provides an analysis of the dynamics and the correlation structure of the neural networks, confirms this through numerical simulation and makes two key counterintuitive predictions. The first is the formation of a perfect correlation between the neurons for particular values of the parameters of the system, a phenomenon that we term stochastic synchronization. The second, which is somewhat contrary to received opinion, is the explosion of the Fisher information and therefore of the encoding capability of the network for highly correlated neurons. The techniques developed in this thesis can be used also for a complete quantification of the information processing capabilities of the network in terms of information storage, transmission and modification, but this would need to be performed in the future.

Cette thèse s'inscrit dans le domaine des neurosciences<br />computationnelles dont le but est de modéliser des fonctions<br />cognitives complexes par le biais de simulations<br />informatiques et numériques en s'inspirant du fonctionnement<br />cérébral. Contrairement à une approche descendante nécessitant de<br />connaître une expression analytique de la fonction à simuler,<br />l'approche ascendante retenue permet d'observer<br />l'émergence d'une fonction grâce à l'interaction de populations de<br />neurones artificiels sans qu'elle soit connue à l'avance. Dans un<br />premier temps, nous présentons un modèle de réseau de neurones<br />particulier, les champs neuronaux, dont les propriétés<br />dynamiques de résistance au bruit et de continuité spatio-temporelle permettent cette émergence. Afin de guider l'émergence de transformations sensorimotrices sur ce substrat, nous présentons ensuite l'architecture des<br />systèmes visuel et moteur pour mettre en évidence le rôle central de l'attention visuelle dans la réalisation de ces fonctions<br />par le cerveau. Nous proposons ensuite un schéma<br />fonctionnel des transformations sensorimotrices dans lequel la<br />préparation d'une saccade oculaire guide l'attention vers une rÈgion<br />de l'espace visuel et permet la programmation du mouvement. Nous décrivons enfin un modèle computationnel de déplacement du point d'attention qui, en utilisant une mémoire de travail spatiale<br />dynamique, permet la recherche séquentielle d'une cible dans une scène visuelle grâce au phénomène d'inhibition de retour. Les performances de ce modèle (résistance au bruit, au mouvement des objets et à l'exécution de saccades) sont analysées en simulation et sur une plate-forme robotique.

La compréhension du fonctionnement cérébral passe par l'étude des relations entre les structures cérébrales et les fonctions cognitives qu'elles implémentent. Les études en activation, qui permettent d'obtenir, grâce aux techniques de neuroimagerie fonctionnelle, des données sur l'activité cérébrale pendant l'accomplissement d'une tâche cognitive, visent à étudier ces liens. Ces études, ainsi que de nombreux travaux chez l'animal, suggèrent que le support neurologique des fonctions cognitives est constitué de réseaux à grande échelle d'aires corticales et de régions sous-corticales interconnectées. Cependant, la mise en correspondance simple entre réseaux activés et tâche accomplie est insuffisante pour comprendre comment l'activation découle du traitement de l'information par le cerveau. De plus, le traitement cérébral est très complexe, et les mesures fournies par la neuroimagerie sont incomplètes, indirectes, et de natures différentes, ce qui complique grandement l'interprétation des données obtenues. Un outil de modélisation explicite des mécanismes de traitement et de propagation de l'information cérébrale dans les réseaux à grande échelle est nécessaire pour palier ces défauts et permettre l'interprétation des mesures de l'activité cérébrale en termes de traitement de l'information. Nous proposons ici un formalisme original répondant à ces objectifs et aux contraintes imposées par le système à modéliser, le cerveau. Il est basé sur une approche graphique causale et probabiliste, les réseaux bayésiens dynamiques, et sur une représentation duale de l'information. Nous considérons le cerveau comme un ensemble de régions fonctionnelles anatomiquement interconnectées, chaque région étant un centre de traitement de l'information qui peut être modélisé par un noeud du réseau bayésien. L'information manipulée dans le formalisme au niveau d'un noeud est l'abstraction du signal généré par l'activité de la population neuronale correspondante. Ceci nous conduit à représenter l'information cérébrale sous la forme d'un couple numérique/symbolique, permettant de tenir compte respectivement du niveau d'activation et de la configuration des neurones activés. Ce travail se situe dans le prolongement d'un projet visant à développer une approche causale originale pour la modélisation du traitement de l'information dans des réseaux cérébraux à grande échelle et l'interprétation des données de neuroimagerie. L'aspect causal permet d'exprimer explicitement des hypothèses sur le fonctionnement cérébral. Notre contribution est double. Au niveau de l'intelligence artificielle, l'utilisation de variables aléatoires labellisées dans des réseaux bayésiens dynamiques nous permet de définir des mécanismes d'apprentissage non-supervisés originaux. Sur le plan des neurosciences computationnelles, nous proposons un nouveau formalisme causal, plus adapté à la représentation du fonctionnement cérébral au niveau des réseaux d'aires que les réseaux de neurones formels, et présentant plus de plausibilité biologique que les autres approches causales, en particulier les réseaux causaux qualitatifs.

Cette thèse aborde l'étude de phénomènes physiques fondamentaux, avec des applications aux matériaux d'intérêt nucléaire. Nous avons développé des méthodes pour l'étude d'évènements rares concernant des transitions structurales thermiquement activées dans des systèmes à N-corps. La première méthode consiste en la simulation numérique du courant de probabilité associé aux chemins réactifs. Après avoir dérivé les équations d'évolution du courant de probabilité, on échantillonne ce courant grâce à un algorithme de type Monte Carlo Diffusif. Cette technique, dénommée Transition Current Sampling, a été appliquée pour étudier les transitions structurales d'un agrégat de 38 atomes liés par un potentiel Lennard-Jones (LJ-38). Un deuxième algorithme, dénommée Transition Path Sampling avec bias de Lyapunov local (LyTPS), a ensuite été développé. LyTPS permet de calculer des taux de réaction à température finie en suivant la théorie des états de transition. Un biais statistique dérivant du maximum des exposantes de Lyapunov locaux est introduit pour accélérer l'échantillonnage de trajectoires réactives. Afin d'extraire la valeur des constantes de réaction d'équilibre depuis celle obtenues par LyTPS, on utilise le Multistate Bennett Acceptance Ratio. Nous avons à nouveau validé cette méthode sur l'agrégat LJ-38. LyTPS est ensuite utilisé pour calculer les constantes de migration des lacunes et di-lacunes dans le Fer-α, ainsi que l'entropie de migration associée. Ces constantes de réaction servent de paramètre d'input dans des codes de modélisation cinétique (First Passage Kinetic Monte Carlo) pour reproduire numériquement des recuits de résistivité de Fer-α après irradiation.

Premier relais des informations sensorielles et nociceptives périphériques, la moelle épinière est le siège de traitements dynamiques complexes. L'objectif de ce travail est de caractériser la transformation subie par le signal (sa fonction de transfert) et de quantifier l'impact des différents paramètres du réseau. Pour cela, nous avons utilisé une approche multidisciplinaire mêlant théorie et expérimentation au travers du développement d'une nouvelle plateforme d'expérimentation hybride, basée sur le logiciel NEURON. Nous avons construit un modèle réaliste du réseau de la corne dorsale et développé des outils théoriques de quantification du signal et de sa transformation, provenant de la théorie de l'information. Nous avons pu ainsi pu mettre en évidence l'importance des propriétés régénératives cellulaires ainsi que du contrôle inhibiteur sur le transfert de l'information nociceptive. Nous aboutissons ainsi à une approche novatrice de pharmacologie virtuelle pour l'étude de la douleur.

Les effets de la stimulation électrique sur la dynamique des systèmes neuronaux épileptiques sont encore méconnus. L'objectif principal de cette thèse est de progresser dans la compréhension des effets attendus en fonction des paramètres de stimulation. Dans la première partie du manuscrit, un modèle mésoscopique (population neuronale) de la boucle thalamocorticale est proposé pour étudier en détails les effets de stimulation indirecte (thalamique), avec une attention particulière sur la fréquence. Des signaux EEG intracérébraux acquis chez un patient souffrant d'épilepsie pharmaco-résistante ont d'abord été analysés selon une approche temps-fréquence (algorithme de type Matching Pursuit). Les caractéristiques extraites ont ensuite été utilisées pour identifier les paramètres du modèle proposé en utilisant une approche exhaustive (minimisation de la distance entre signaux simulés et réels). Enfin, le comportement dynamique du modèle a été étudié en fonction de la fréquence du signal de stimulation. Les résultats montrent que le modèle reproduit fidèlement les signaux observés ainsi que la relation non linéaire entre la fréquence de stimulation et ses effets sur l'activité épileptique. Ainsi, dans le modèle, la stimulation à basse fréquence (SBF ; fs <20 Hz) , et la stimulation à haute fréquence (SHF ; fs > 60 Hz) permettent d'abolir les dynamiques épileptiques, alors que la stimulation à fréquence intermédiaire (SFI; 20 < fs < 60 Hz) n'ont pas d'effet , comme observé cliniquement. De plus, le modèle a permis d'identifier des mécanismes cellulaires et de réseau impliqués dans les effets modulateurs de la stimulation. La deuxième partie du manuscrit porte sur les effets polarisants de la stimulation directe en courant continu (CC) de la zone épileptogène dans le contexte de l'épilepsie mésiale du lobe temporal (EMLT). Un modèle biomathématique bien connu de la région hippocampique CA1 a été adapté pour cette étude. Deux modifications sont été intégrées au modèle, 1) une représentation physiologique de l'occurrence des décharges paroxystiques hippocampiques (DPH) basée sur une identification de leurs statistiques d'occurrence basée sur des données expérimentales (modèle in vivo d'EMLT)et 2) une représentation électrophysiologiquement plausible de la stimulation prenant en compte l'interface électrode-électrolyte. L'analyse de la sortie du modèle en fonction de la polarité de stimulation, a montré qu'une réduction (resp. augmentation) significative des DPH (en durée et en fréquence) sous stimulation anodale (resp. cathodole). Un protocole expérimental a ensuite été proposé et utilisé afin de valider les prédictions du modèle.

Cette HDR présente des résultats récents liés à l'analyse de la stabilité et de la robustesse des systèmes non-linéaires interconnectés. Elle est constituée de trois parties. La première traite des outils théoriques développés autour du concept d'ISS. La deuxième aborde des problématiques de synchronisation pour des applications aux neurosciences. La troisième présente des contributions pour la commande de systèmes par réseaux.

Les décompositions en matrices triangulaires sont une brique de base fondamentale en calcul algébrique. Ils sont utilisés pour résoudre des systèmes linéaires et calculer le rang, le déterminant, l'espace nul ou les profiles de rang en ligne et en colonne d'une matrix. Le projet de cette thèse est de développer des implantations hautes performances parallèles de l'élimination de Gauss exact sur des machines à mémoire partagée.Dans le but d'abstraire le code de l'environnement de calcul parallèle utilisé, un langage dédié PALADIn (Parallel Algebraic Linear Algebra Dedicated Interface) a été implanté et est basé essentiellement sur des macros C/C++. Ce langage permet à l'utilisateur d'écrire un code C++ et tirer partie d’exécutions séquentielles et parallèles sur des architectures à mémoires partagées en utilisant le standard OpenMP et les environnements parallel KAAPI et TBB, ce qui lui permet de bénéficier d'un parallélisme de données et de taches.Plusieurs aspects de l'algèbre linéaire exacte parallèle ont été étudiés. Nous avons construit de façon incrémentale des noyaux parallèles efficaces pour les multiplication de matrice, la résolution de systèmes triangulaires au dessus duquel plusieurs variantes de l'algorithme de décomposition PLUQ sont construites. Nous étudions la parallélisation de ces noyaux en utilisant plusieurs variantes algorithmiques itératives ou récursives et en utilisant des stratégies de découpes variées.Nous proposons un nouvel algorithme récursive de l'élimination de Gauss qui peut calculer simultanément les profiles de rang en ligne et en colonne d'une matrice et de toutes ses sous-matrices principales, tout en étant un algorithme état de l'art de l'élimination de Gauss. Nous étudions aussi les conditions pour qu'un algorithme de l'élimination de Gauss révèle cette information en définissant un nouvel invariant matriciel, la matrice de profil de rang. / Triangular matrix decompositions are fundamental building blocks in computational linear algebra. They are used to solve linear systems, compute the rank, the determinant, the null-space or the row and column rank profiles of a matrix. The project of my PhD thesis is to develop high performance shared memory parallel implementations of exact Gaussian elimination.In order to abstract the computational code from the parallel programming environment, we developed a domain specific language, PALADIn: Parallel Algebraic Linear Algebra Dedicated Interface, that is based on C/C + + macros. This domain specific language allows the user to write C + + code and benefit from sequential and parallel executions on shared memory architectures using the standard OpenMP, TBB and Kaapi parallel runtime systems and thus providing data and task parallelism.Several aspects of parallel exact linear algebra were studied. We incrementally build efficient parallel kernels, for matrix multiplication, triangular system solving, on top of which several variants of PLUQ decomposition algorithm are built. We study the parallelization of these kernels using several algorithmic variants: either iterative or recursive and using different splitting strategies.We propose a recursive Gaussian elimination that can compute simultaneously therow and column rank profiles of a matrix as well as those of all of its leading submatrices, in the same time as state of the art Gaussian elimination algorithms. We also study the conditions making a Gaussian elimination algorithm reveal this information by defining a new matrix invariant, the rank profile matrix.

Le cortex cérébral des mammifères est constitué de larges et complexes réseaux de neurones. La tâche de ces assemblées de cellules est d’encoder et de traiter, le plus précisément possible, l'information sensorielle issue de notre environnement extérieur. De façon surprenante, les enregistrements électrophysiologiques effectués sur des animaux en comportement ont montré que l’activité corticale est excessivement irrégulière. Les motifs temporels d’activité ainsi que les taux de décharge moyens des cellules varient considérablement d’une expérience à l’autre, et ce malgré des conditions expérimentales soigneusement maintenues à l’identique. Une hypothèse communément répandue suggère qu'une partie importante de cette variabilité émerge de la connectivité récurrente des réseaux. Cette hypothèse se fonde sur la modélisation des réseaux fortement couplés. Une étude classique [Sompolinsky et al, 1988] a en effet montré qu'un réseau de cellules aux connections aléatoires exhibe une transition de phase : l’activité passe d'un point fixe ou le réseau est inactif, à un régime chaotique, où les taux de décharge des cellules fluctuent au cours du temps et d’une cellule à l’autre. Ces analyses soulèvent néanmoins de nombreuse questions : de telles fluctuations sont-elles encore visibles dans des réseaux corticaux aux architectures plus réalistes? De quelle façon cette variabilité intrinsèque dépend-elle des paramètres biophysiques des cellules et de leurs constantes de temps ? Dans quelle mesure de tels réseaux chaotiques peuvent-ils sous-tendre des computations ? Dans cette thèse, on étudiera la dynamique et les propriétés computationnelles de modèles de circuits de neurones à l’activité hétérogène et variable. Pour ce faire, les outils mathématiques proviendront en grande partie des systèmes dynamiques et des matrices aléatoires. Ces approches seront couplées aux méthodes statistiques des champs moyens développées pour la physique des systèmes désordonnées. Dans la première partie de cette thèse, on étudiera le rôle de nouvelles contraintes biophysiques dans l'apparition d’une activité irrégulière dans des réseaux de neurones aux connections aléatoires. Dans la deuxième et la troisième partie, on analysera les caractéristiques de cette variabilité intrinsèque dans des réseaux partiellement structurées supportant des calculs simples comme la prise de décision ou la création de motifs temporels. Enfin, inspirés des récents progrès dans le domaine de l’apprentissage statistique, nous analyserons l’interaction entre une architecture aléatoire et une structure de basse dimension dans la dynamique des réseaux non-linéaires. Comme nous le verrons, les modèles ainsi obtenus reproduisent naturellement un phénomène communément observé dans des enregistrements électrophysiologiques : une dynamique de population de basse dimension combinée avec représentations neuronales irrégulières, à haute dimension, et mixtes. / The mammalian cortex consists of large and intricate networks of spiking neurons. The task of these complex recurrent assemblies is to encode and process with high precision the sensory information which flows in from the external environment. Perhaps surprisingly, electrophysiological recordings from behaving animals have pointed out a high degree of irregularity in cortical activity. The patterns of spikes and the average firing rates change dramatically when recorded in different trials, even if the experimental conditions and the encoded sensory stimuli are carefully kept fixed. 
One current hypothesis suggests that a substantial fraction of that variability emerges intrinsically because of the recurrent circuitry, as it has been observed in network models of strongly interconnected units. In particular, a classical study [Sompolinsky et al, 1988] has shown that networks of randomly coupled rate units can exhibit a transition from a fixed point, where the network is silent, to chaotic activity, where firing rates fluctuate in time and across units. Such analysis left a large number of questions unsolved: can fluctuating activity be observed in realistic cortical architectures? How does variability depend on the biophysical parameters and time scales? How can reliable information transmission and manipulation be implemented with such a noisy code? 
In this thesis, we study the spontaneous dynamics and the computational properties of realistic models of large neural circuits which intrinsically produce highly variable and heterogeneous activity. The mathematical tools of our analysis are inherited from dynamical systems and random matrix theory, and they are combined with the mean field statistical approaches developed for the study of physical disordered systems. 
In the first part of the dissertation, we study how strong rate irregularities can emerge in random networks of rate units which obey some among the biophysical constraints that real cortical neurons are subject to. In the second and third part of the dissertation, we investigate how variability is characterized in partially structured models which can support simple computations like pattern generation and decision making. To this aim, inspired by recent advances in networks training techniques, we address how random connectivity and low-dimensional structure interact in the non-linear network dynamics. The network models that we derive naturally capture the ubiquitous experimental observations that the population dynamics is low-dimensional, while neural representations are irregular, high-dimensional and mixed.

La prise de décision est un domaine très étudié en sciences, que ce soit en neurosciences pour comprendre les processus sous tendant la prise de décision chez les animaux, qu’en robotique pour modéliser des processus de prise de décision efficaces et rapides dans des tâches en environnement réel. En neurosciences, ce problème est résolu online avec des modèles de prises de décision séquentiels basés sur l’apprentissage par renforcement. En robotique, l’objectif premier est l’efficacité, dans le but d’être déployés en environnement réel. Cependant en robotique ce que l’on peut appeler le budget et qui concerne les limitations inhérentes au matériel, comme les temps de calculs, les actions limitées disponibles au robot ou la durée de vie de la batterie du robot, ne sont souvent pas prises en compte à l’heure actuelle. Nous nous proposons dans ce travail de thèse d’introduire la notion de budget comme contrainte explicite dans les processus d’apprentissage robotique appliqués à une tâche de localisation en mettant en place un modèle basé sur des travaux développés en apprentissage statistique qui traitent les données sous contrainte de budget, en limitant l’apport en données ou en posant une contrainte de temps plus explicite. Dans le but d’envisager un fonctionnement online de ce type d’algorithmes d’apprentissage budgétisé, nous discutons aussi certaines inspirations possibles qui pourraient être prises du côté des neurosciences computationnelles. Dans ce cadre, l’alternance entre recherche d’information pour la localisation et la décision de se déplacer pour un robot peuvent être indirectement liés à la notion de compromis exploration-exploitation. Nous présentons notre contribution à la modélisation de ce compromis chez l’animal dans une tâche non stationnaire impliquant différents niveaux d’incertitude, et faisons le lien avec les méthodes de bandits manchot. / Decision-making is a highly researched field in science, be it in neuroscience to understand the processes underlying animal decision-making, or in robotics to model efficient and rapid decision-making processes in real environments. In neuroscience, this problem is resolved online with sequential decision-making models based on reinforcement learning. In robotics, the primary objective is efficiency, in order to be deployed in real environments. However, in robotics what can be called the budget and which concerns the limitations inherent to the hardware, such as computation times, limited actions available to the robot or the lifetime of the robot battery, are often not taken into account at the present time. We propose in this thesis to introduce the notion of budget as an explicit constraint in the robotic learning processes applied to a localization task by implementing a model based on work developed in statistical learning that processes data under explicit constraints, limiting the input of data or imposing a more explicit time constraint. In order to discuss an online functioning of this type of budgeted learning algorithms, we also discuss some possible inspirations that could be taken on the side of computational neuroscience. In this context, the alternation between information retrieval for location and the decision to move for a robot may be indirectly linked to the notion of exploration-exploitation compromise. We present our contribution to the modeling of this compromise in animals in a non-stationary task involving different levels of uncertainty, and we make the link with the methods of multi-armed bandits.