• Refine Query
  • Source
  • Publication year
  • to
  • Language
  • 249
  • 134
  • 32
  • Tagged with
  • 438
  • 438
  • 245
  • 210
  • 178
  • 153
  • 138
  • 108
  • 103
  • 94
  • 86
  • 84
  • 82
  • 79
  • 77
  • About
  • The Global ETD Search service is a free service for researchers to find electronic theses and dissertations. This service is provided by the Networked Digital Library of Theses and Dissertations.
    Our metadata is collected from universities around the world. If you manage a university/consortium/country archive and want to be added, details can be found on the NDLTD website.
151

Dynamics of neuronal networks / Dynamique des réseaux neuronaux

Kulkarni, Anirudh 28 September 2017 (has links)
Dans cette thèse, nous étudions le vaste domaine des neurosciences à travers des outils théoriques, numériques et expérimentaux. Nous étudions comment les modèles à taux de décharge peuvent être utilisés pour capturer différents phénomènes observés dans le cerveau. Nous étudions les régimes dynamiques des réseaux couplés de neurones excitateurs (E) et inhibiteurs (I): Nous utilisons une description fournie par un modèle à taux de décharge et la comparons avec les simulations numériques des réseaux de neurones à potentiel d'action décrits par le modèle EIF. Nous nous concentrons sur le régime où le réseau EI présente des oscillations, puis nous couplons deux de ces réseaux oscillants pour étudier la dynamique résultante. La description des différents régimes pour le cas de deux populations est utile pour comprendre la synchronisation d'une chaine de modules E-I et la propagation d'ondes observées dans le cerveau. Nous examinons également les modèles à taux de décharge pour décrire l'adaptation sensorielle: Nous proposons un modèle de ce type pour décrire l'illusion du mouvement consécutif («motion after effect», (MAE)) dans la larve du poisson zèbre. Nous comparons le modèle à taux de décharge avec des données neuronales et comportementales nouvelles. / In this thesis, we investigate the vast field of neuroscience through theoretical, numerical and experimental tools. We study how rate models can be used to capture various phenomena observed in the brain. We study the dynamical regimes of coupled networks of excitatory (E) and inhibitory neurons (I) using a rate model description and compare with numerical simulations of networks of neurons described by the EIF model. We focus on the regime where the EI network exhibits oscillations and then couple two of these oscillating networks to study the resulting dynamics. The description of the different regimes for the case of two populations is helpful to understand the synchronization of a chain of E-I modules and propagation of waves observed in the brain. We also look at rate models of sensory adaptation. We propose one such model to describe the illusion of motion after effect in the zebrafish larva. We compare this rate model with newly obtained behavioural and neuronal data in the zebrafish larva.
152

apprentissage de séquences et extraction de règles de réseaux récurrents : application au traçage de schémas techniques. / sequence learning and rules extraction from recurrent neural networks : application to the drawing of technical diagrams

Chraibi Kaadoud, Ikram 02 March 2018 (has links)
Deux aspects importants de la connaissance qu'un individu a pu acquérir par ses expériences correspondent à la mémoire sémantique (celle des connaissances explicites, comme par exemple l'apprentissage de concepts et de catégories décrivant les objets du monde) et la mémoire procédurale (connaissances relatives à l'apprentissage de règles ou de la syntaxe). Cette "mémoire syntaxique" se construit à partir de l'expérience et notamment de l'observation de séquences, suites d'objets dont l'organisation séquentielle obéit à des règles syntaxiques. Elle doit pouvoir être utilisée ultérieurement pour générer des séquences valides, c'est-à-dire respectant ces règles. Cette production de séquences valides peut se faire de façon explicite, c'est-à-dire en évoquant les règles sous-jacentes, ou de façon implicite, quand l'apprentissage a permis de capturer le principe d'organisation des séquences sans recours explicite aux règles. Bien que plus rapide, plus robuste et moins couteux en termes de charge cognitive que le raisonnement explicite, le processus implicite a pour inconvénient de ne pas donner accès aux règles et de ce fait, de devenir moins flexible et moins explicable. Ces mécanismes mnésiques s'appliquent aussi à l'expertise métier : la capitalisation des connaissances pour toute entreprise est un enjeu majeur et concerne aussi bien celles explicites que celles implicites. Au début, l'expert réalise un choix pour suivre explicitement les règles du métier. Mais ensuite, à force de répétition, le choix se fait automatiquement, sans évocation explicite des règles sous-jacentes. Ce changement d'encodage des règles chez un individu en général et particulièrement chez un expert métier peut se révéler problématique lorsqu'il faut expliquer ou transmettre ses connaissances. Si les concepts métiers peuvent être formalisés, il en va en général de tout autre façon pour l'expertise. Dans nos travaux, nous avons souhaité nous pencher sur les séquences de composants électriques et notamment la problématique d’extraction des règles cachées dans ces séquences, aspect important de l’extraction de l’expertise métier à partir des schémas techniques. Nous nous plaçons dans le domaine connexionniste, et nous avons en particulier considéré des modèles neuronaux capables de traiter des séquences. Nous avons implémenté deux réseaux de neurones récurrents : le modèle de Elman et un modèle doté d’unités LSTM (Long Short Term Memory). Nous avons évalué ces deux modèles sur différentes grammaires artificielles (grammaire de Reber et ses variations) au niveau de l’apprentissage, de leurs capacités de généralisation de celui-ci et leur gestion de dépendances séquentielles. Finalement, nous avons aussi montré qu’il était possible d’extraire les règles encodées (issues des séquences) dans le réseau récurrent doté de LSTM, sous la forme d’automate. Le domaine électrique est particulièrement pertinent pour cette problématique car il est plus contraint avec une combinatoire plus réduite que la planification de tâches dans des cas plus généraux comme la navigation par exemple, qui pourrait constituer une perspective de ce travail. / There are two important aspects of the knowledge that an individual acquires through experience. One corresponds to the semantic memory (explicit knowledge, such as the learning of concepts and categories describing the objects of the world) and the other, the procedural or syntactic memory (knowledge relating to the learning of rules or syntax). This "syntactic memory" is built from experience and particularly from the observation of sequences of objects whose organization obeys syntactic rules.It must have the capability to aid recognizing as well as generating valid sequences in the future, i.e., sequences respecting the learnt rules. This production of valid sequences can be done either in an explicit way, that is, by evoking the underlying rules, or implicitly, when the learning phase has made it possible to capture the principle of organization of the sequences without explicit recourse to the rules. Although the latter is faster, more robust and less expensive in terms of cognitive load as compared to explicit reasoning, the implicit process has the disadvantage of not giving access to the rules and thus becoming less flexible and less explicable. These mnemonic mechanisms can also be applied to business expertise. The capitalization of information and knowledge in general, for any company is a major issue and concerns both the explicit and implicit knowledge. At first, the expert makes a choice to explicitly follow the rules of the trade. But then, by dint of repetition, the choice is made automatically, without explicit evocation of the underlying rules. This change in encoding rules in an individual in general and particularly in a business expert can be problematic when it is necessary to explain or transmit his or her knowledge. Indeed, if the business concepts can be formalized, it is usually in any other way for the expertise which is more difficult to extract and transmit.In our work, we endeavor to observe sequences of electrical components and in particular the problem of extracting rules hidden in these sequences, which are an important aspect of the extraction of business expertise from technical drawings. We place ourselves in the connectionist domain, and we have particularly considered neuronal models capable of processing sequences. We implemented two recurrent neural networks: the Elman model and a model with LSTM (Long Short Term Memory) units. We have evaluated these two models on different artificial grammars (Reber's grammar and its variations) in terms of learning, their generalization abilities and their management of sequential dependencies. Finally, we have also shown that it is possible to extract the encoded rules (from the sequences) in the recurrent network with LSTM units, in the form of an automaton. The electrical domain is particularly relevant for this problem. It is more constrained with a limited combinatorics than the planning of tasks in general cases like navigation for example, which could constitute a perspective of this work.
153

Hebbian mechanisms and temporal contiguity for unsupervised task-set learning / Mécanismes Hebbiens et contiguïté temporelle pour l'apprentissage de task-set non-supervisé

Bouchacourt, Flora 07 November 2016 (has links)
L'homme est capable d'utiliser des stratégies ou règles concurrentes selon les contraintes environnementales. Nous étudions un modèle plausible pour une tâche nécessitant l'apprentissage de plusieurs règles associant des stimuli visuels à des réponses motrices. Deux réseaux de populations neurales à sélectivité mixte interagissent. Le réseau décisionnel apprend les associations stimulus-réponse une à une, mais ne peut gérer qu'une règle à la fois. Son activité modifie la plasticité synaptique du second réseau qui apprend les statistiques d'évènements sur une échelle de temps plus longue. Lorsque des motifs entre les associations stimulus-réponse sont détectés, un biais d'inférence vers le réseau décisionnel guide le comportement futur. Nous montrons que le mécanisme de Hebb non-supervisé dans le second réseau est suffisant pour l'implémentation des règles. Leur récupération dans le réseau de décision améliore la performance. Le modèle prédit des changements comportementaux en fonction de la séquence des réponses précédentes, dont les effets sur la performance peuvent être positifs ou négatifs. Les prédictions sont confirmées par les données, et permettent d'identifier les sujets ayant appris la structure de la tâche. Le signal d'inférence corrèle avec l'activité BOLD dans le réseau fronto-pariétal. Au sein de ce réseau, les n¿uds préfrontaux dorsomédial et dorsolatéral sont préférentiellement recrutés lorsque les règles sont récurrentes: l'activité dans ces régions pourrait biaiser les circuits de décision lorsqu'une règle est récupérée. Ces résultats montrent que le mécanisme de Hebb peut expliquer l'apprentissage de comportements complexes en contrôle cognitif. / Depending on environmental demands, humans performing in a given task are able to exploit multiple concurrent strategies, for which the mental representations are called task-sets. We examine a candidate model for a specific human experiment, where several stimulus-response mappings, or task-sets, need to be learned and monitored. The model is composed of two interacting networks of mixed-selective neural populations. The decision network learns stimulus-response associations, but cannot learn more than one task-set. Its activity drives synaptic plasticity in a second network that learns event statistics on a longer timescale. When patterns in stimulus-response associations are detected, an inference bias to the decision network guides successive behavior. We show that a simple unsupervised Hebbian mechanism in the second network is sufficient to learn an implementation of task-sets. Their retrieval in the decision network improves performance. The model predicts abrupt changes in behavior depending on the precise statistics of previous responses, corresponding to positive (task-set retrieval) or negative effects on performance. The predictions are borne out by the data, and enable to identify subjects who have learned the task structure. The inference signal correlates with BOLD activity in the fronto-parietal network. Within this network, dorsomedial and dorsolateral prefrontal nodes are preferentially recruited when task-sets are recurrent: activity in these regions may provide a bias to decision circuits when a task-set is retrieved. These results show that Hebbian mechanisms and temporal contiguity may parsimoniously explain the learning of rule-guided behavior.
154

Classification de spectres et recherche de biomarqueurs en spectroscopie par résonance magnétique nucléaire du proton dans les tumeurs prostatiques / Classification of spectra and search for biomarkers in prostate tumours from proton nuclear magnetic resonance spectroscopy

Parfait, Sébastien 06 December 2010 (has links)
Le cancer de la prostate est le cancer le plus fréquent chez l'homme de plus de 50 ans. Actuellement, les méthodes de dépistage manquent soit de sensibilité, soit de spécificité ou sont désagréables pour le patient. La spectroscopie de résonance magnétique permet l'étude du métabolisme in vivo. L'utilisation d'appareil haut champ (≥3T) permet dorénavant d'analyser la prostate sans antenne endorectale. L’objectif de cette thèse est de créer un système automatique de dépistage de ce cancer en mettant au point une méthode de classification automatique permettant de traiter les données obtenues grâce à la spectroscopie de résonance magnétique. La spectroscopie de résonance magnétique est un phénomène complexe, très sensible aux conditions d'acquisition. Nous avons donc étudié comment améliorer l’acquisition de ce signal. Cependant, même avec une acquisition de très bonne qualité, le signal de résonance magnétique doit subir quelques traitements pour être analysable automatiquement par une méthode de classification. La suite du travail a donc consisté à rechercher les traitements à appliquer pour optimiser les spectres en vue d'une classification. Nous avons alors recherché la méthode de classification optimale pour ce problème. Cet ensemble d’étapes (acquisition du signal, traitement des spectres puis classification des données obtenues) nous permet de mettre en évidence la présence de tumeurs de la prostate avec un taux d'erreur global de moins de 12%. Dans un second temps, nous avons cherché de nouveaux biomarqueurs dans les spectres. Ces biomarqueurs pouvaient être un métabolite précis ou une plage de fréquence correspondant à plusieurs métabolites. Nous n'avons pas trouvé d'attributs plus significatifs que la choline ou le citrate, cependant quelques bandes de fréquence semblent participer à l'amélioration des taux d'erreurs. Enfin, nous avons élargi notre champ d’investigation en tentant d’appliquer ces techniques chez le rat. Des contraintes liées à l'acquisition ne nous ont pas permis d'obtenir suffisamment de spectres dans le cas pré-clinique. Nous avons cependant pu valider la faisabilité de la SRM chez le rongeur et sa pertinence dans le cerveau. La technique doit cependant être améliorée pour pouvoir être validée dans le cas du cancer de la prostate chez le rat. / Prostate cancer is the most common cancer in men over 50 years. Current detection methods either lack sensitivity or specificity or are unpleasant for the patient. Magnetic resonance spectroscopy allows the study of metabolism in vivo. The use of a high field machine (≥3T) has allowed us to dispense with the use of an endorectal coil, which is particularly uncomfortable for the patient. The objective of this thesis is to create an automatic method to detect cancer by processing data obtained through magnetic resonance spectroscopy MRS is a complex phenomenon, very sensitive to acquisition conditions. Firstly, we have studied how to improve and optimise signal acquisition. However, even with a very good quality signal, it must still undergo further post-processing to be analysed automatically by a classification method. Further work was therefore needed to investigate which postprocessing steps were required in order to optimize the spectra for classification. We then investigated the optimal classification method for this problem. A particular set of steps (signal acquisition, processing and spectral classification data) allows us to highlight the presence of prostate tumors with an overall error rate of less than 12%. In a second step, we searched for new biomarkers within the spectra. These biomarkers could be a metabolite or a specific frequency range corresponding to several metabolites. We did not find any additional significant attributes other than choline and citrate, however, some frequency bands seem to participate in improving the error rate. Finally, we expanded our investigation by attempting to apply these techniques to the rat. Technical constraints related to acquisition did not allow us to obtain a sufficient number of spectra in the pre-clinical cases. Nonetheless, we have validated the feasibility of MRS in rodents and its relevance in the brain. The technique, however, must be improved in order to be validated in the case of prostate cancer in rats.
155

Modélisation des bases neuronales de la mémoire de travail paramétrique dans le cortex préfrontal / Modeling of the neuronal basis of parametric working memory in the prefrontal cortex

Rodriguez, Guillaume 20 October 2016 (has links)
La mémoire de travail paramétrique - la capacité fondamentale à maintenir et à manipuler des informations quantitatives de façon transitoire - est essentielle à de nombreuses fonctions centrales (perception, action, décision, contrôle comportemental, cognition). À l'échelle des neurones du cortex préfrontal, la mémoire de travail paramétrique s'exprime au travers d'activités persistantes de fréquence gradée (multistabilité) codant l'amplitude d'informations quantitatives passées (p.ex. une quantité psychophysique, un nombre d'items), dont l'origine causale demeure incomprise. En simulant des modèles biophysiques détaillés et en analysant formellement leur version simplifiée, j'ai 1) étudié les propriétés de mémoire cellulaire de neurones de couche V du cortex préfrontal, munis de courants supraliminaires, et 2) évalué le rôle possible de ces propriétés dans les processus de maintien gradé de l'activité persistante au sein des réseaux récurrents préfrontaux. Ces modèles réalistes m'ont permis de proposer 1) l'existence d'une forme particulière de bistabilité cellulaire flexible, dont l'expression est conditionnée à l'historique de régulation des propriétés intrinsèques et à la nature de la stimulation perçue (présent) et 2) que cette bistabilité cellulaire peut, par son interaction avec la réverbération d'activité synaptique, participer à l'émergence des dynamiques collectives persistantes gradées des réseaux préfrontaux, le corrélât neuronal de la mémoire de travail paramétrique. / Parametric working memory – the fundamental ability to maintain and manipulate quantitative information transiently – is critical to many core brain functions (perception, action, decision, behavioral control, cognition). Across neurons of the prefrontal cortex, parametric working memory is expressed through persistent graded activities (multistability) encoding the amplitude of past quantitative information (e.g. a psychophysical quantity, a number of items). The causal origin of this multistability remains unclear. Using biophysical and analytical models, I first studied the mnemonic properties of individual neurons endowed with supraliminar conductances. I then evaluated the possible role of these properties in maintaining persistent graded activities in prefrontal recurrent networks. These realistic models suggest 1) the existence of a flexible form of cellular bistability, conditioned to the historical regulation of the intrinsic properties and the nature of the stimulation and 2) that this cellular bistability could participate, in interaction with synaptic reverberation, to the emergence of persistent graded collective dynamics in prefrontal networks, the neural correlate of parametric working memory.
156

Exploitation des systèmes microfluidiques pour l'étude de la physiopathologie des maladies neurodéveloppementales et neurodégénératives : perturbation de DISC-1, impact sur les réseaux de neurones / Utilization of microfluidic cell culture device to study neurodevelopmental and degenerative pathophysiological diseases : disruption of disrupted-in-schizophrenia-1 (DISC-1), effet on neuronal network

Lassus, Benjamin 24 November 2016 (has links)
L'étude de la dynamique des circuits neuronaux est primordiale pour la compréhension des troubles neurologiques et psychiatriques. Ces processus, classiquement étudiés in vivo ou ex vivo, peuvent être appréhender in vitro grâce à des micro-technologies. Les technologies microfluidiques offrent la possibilité de reconstruire des réseaux de neurones orientés et de manipuler indépendamment les deux populations neuronales ainsi connectées. Dans cette étude, une caractérisation de la mise en place et de la rythmogénèse des réseaux cortico-striataux a été entreprise par imagerie calcique. Par la suite, nous avons démontré que des modifications chroniques des rythmes pré-synaptiques corticaux conduisaient à des phénomènes d¿excitotoxicité trans-synaptique. L'avancée des recherches a montré que les maladies neurodégénératives et psychiatriques pouvaient partager des points communs, notamment des altérations de la transmission synaptique et de l'activité des réseaux de neurones. Pour évaluer ces effets, une modulation de l'expression de Disrupted-In-Schizophrenia-1 a été réalisée dans nos réseaux cortico-striataux. Une altération de la différenciation des neurones striataux a été objectivée mais sans impact sur l'activité rythmique des réseaux neuronaux. Cependant, les expériences de surexpression ont montré la capacité de DISC-1 à participer à la formation des granules de stress, et à recruter dans celles-ci des protéines impliquées dans la transmission synaptique. Au final, ce projet démontre que les réseaux reconstruits in vitro possèdent des caractéristiques similaires aux réseaux in vivo et permettent l'étude de pathologies du système nerveux central. / Neural circuit dynamics need to be elucidated for understanding neurological and psychiatric disorders such as Parkinson's disease and schizophrenia. While this is classically studied in vivo or ex vivo, micro-technological approaches permit “brain-on-chip” models recapitulating some intrinsic neuronal network properties. In this study, parameters of cortico-striatal connection were monitored. Glutamatergic neuronal network activity was monitored using calcium imaging. Dopamine and Dopaminergic receptor 2 agonist decreased firing frequency and disrupted striato-striatal synchrony. Then, we demonstrated that both acute and chronic alterations of cortical neurons activity led to impairment of striatal survival through trans-synaptic degeneration. In psychiatric diseases, network rhythm alterations do not lead to neuronal death but to behavior disorders. To study how those alterations appeared, we investigated the impact of DISC-1 expression modulation on the establishment of cortico-striatal network and its activity. Alteration of DISC-1 expression led to deficits in striatal differentiation processes and seemingly did not drive network rhythms variation. Interestingly, DISC-1 overexpression experiments showed its aggregation in stress granules concomitant with an ability to recruit others proteins involved in synaptic transmission and neuronal plasticity. These results seem to show that DISC-1 could be involved in degenerative processes and not only in psychiatric diseases. The present data demonstrate that cortico-striatal networks reconstructed in a microfluidic environment present characteristics similar to in vivo cortico-striatal networks.
157

Development and activity of in vitro neuronal networks : learning organic chemistry through games / Développement et activité de réseaux de neurones in vitro : enseigner la chimie organique par le jeu

Vignes, Maéva 22 November 2013 (has links)
Ma thèse comporte deux grandes parties, la première en biophysique et la seconde en science de l’éducation. La première partie présente des travaux à la frontière entre neurobiologie et microfluidique. Le but de ces travaux est de pouvoir reconstruire et étudier des réseaux complexes de neurones in vitro avec une topologie de connections synaptiques bien contrôlées. Une série de micro-structures mécanique et/ou chimique ont été étudiées pour leur capacité à (i) positionner les corps cellulaires des neurones, (ii) orienter la pousse des neurites, et (iii) différencier les axones des dendrites. Un premier réseau comportant trois populations de neurones connectées en série a été reconstruit à l’intérieur d’un circuit microfluidique. Ce réseau qui mime la voie perforante de l’hippocampe pourra être exploité pour des études en physiologie ou en neuro-dégénerescence. Une méthode entièrement optique de stimulation et d’observation de l’activité neuronal a été mise au point. Elle ouvre de nouvelles portes pour étudier des processus cognitifs complexes dans des systèmes simplifiés in vitro. La seconde partie de mon travail a permis le développement et l’étude de jeux pédagogiques pour l’apprentissage de la chimie en licence. Ces jeux, qui peuvent selon les cas remplacer un cours ou une séance d’exercices, donnent des résultats prometteurs pour l’aide à la compréhension et à la mémorisation de concepts tels que la géométrie des molécules ou la réactivité entre molécules organiques. / My PhD is divided in two parts one on biophysic of neuronal networks and one on science of education. The first part present results at the frontier between neurobiology and microfluidic. The overarching goal of this work was to develop tools and methods to build and study complex neuronal networks controlling the topology of synaptic connexions. Micro-patterning techniques with mechanical and/or chemical constraints were explored regarding their capacity to (i) position cell bodies, (ii) orient neurite outgrowth and (iii) polarize neurons. For the first time, a network comprising three different neuronal populations connected in specified directions was reconstructed in a microfluidic device. This network that mimics the perforant pathway of the hippocampus can be used to study physiological rythms or neurodegenerative processes including Alzheimer’s disease. A novel and fully optical method is presented to stimulate and record neuronal activity in vitro. It opens new routes to study complex cognitive processes in simplified in vitro systems. The second part of my work present the development and assessment of educational games in chemistry at the undergraduate level. These games that can either be used to replace courses or exercises, seem promising to improve the understanding and memorization of chemistry concepts og geometries of molecules and organic reactivity.
158

Analyzing and introducing structures in deep convolutional neural networks / Analyse et structuration des réseaux de neurones convolutifs profonds

Oyallon, Edouard 06 October 2017 (has links)
Cette thèse étudie des propriétés empiriques des réseaux de neurones convolutifs profonds, et en particulier de la transformée en Scattering. En effet, l’analyse théorique de ces derniers est difficile et représente jusqu’à ce jour un défi : les couches successives de neurones ont la capacité de réaliser des opérations complexes, dont la nature est encore inconnue, via des algorithmes d’apprentissages dont les garanties de convergences ne sont pas bien comprises. Pourtant, ces réseaux de neurones sont de formidables outils pour s’attaquer à une grande variété de tâches difficiles telles la classification d’images, ou plus simplement effectuer des prédictions. La transformée de Scattering est un opérateur mathématique, non-linéaire dont les spécifications sont inspirées par les réseaux convolutifs. Dans ce travail, elle est appliquée sur des images naturelles et obtient des résultats compétitifs avec les architectures non-supervisées. En plaçant un réseau de neurones convolutifs supervisés à la suite du Scattering, on obtient des performances compétitives sur ImageNet2012, qui est le plus grand jeux de donnée d’images étiquetées accessibles aux chercheurs. Cela nécessite d’implémenter un algorithme efficace sur carte graphique. Dans un second temps, cette thèse s’intéresse aux propriétés des couches à différentes profondeurs. On montre qu’un phénomène de réduction de dimensionnalité progressif à lieu et on s’intéresse aux propriétés de classifications supervisées lorsqu’on varie des hyper paramètres de ces réseaux. Finalement, on introduit une nouvelle classe de réseaux convolutifs, dont les opérateurs sont structurés par des groupes de symétries du problème de classification. / This thesis studies empirical properties of deep convolutional neural networks, and in particular the Scattering Transform. Indeed, the theoretical analysis of the latter is hard and until now remains a challenge: successive layers of neurons have the ability to produce complex computations, whose nature is still unknown, thanks to learning algorithms whose convergence guarantees are not well understood. However, those neural networks are outstanding tools to tackle a wide variety of difficult tasks, like image classification or more formally statistical prediction. The Scattering Transform is a non-linear mathematical operator whose properties are inspired by convolutional networks. In this work, we apply it to natural images, and obtain competitive accuracies with unsupervised architectures. Cascading a supervised neural networks after the Scattering permits to compete on ImageNet2012, which is the largest dataset of labeled images available. An efficient GPU implementation is provided. Then, this thesis focuses on the properties of layers of neurons at various depths. We show that a progressive dimensionality reduction occurs and we study the numerical properties of the supervised classification when we vary the hyper parameters of the network. Finally, we introduce a new class of convolutional networks, whose linear operators are structured by the symmetry groups of the classification task.
159

On Deep Multiscale Recurrent Neural Networks

Chung, Junyoung 04 1900 (has links)
No description available.
160

Méthodes statistiques pour la prédiction de température dans les composants hyperfréquences / Statistical methods for temperature prediction in hyperfrequency components

Mallet, Grégory 25 October 2010 (has links)
Cette thèse s’intéresse à l’application des méthodes d’apprentissage statistique pour la prédiction de température d’un composant électronique présent dans un radar. On étudie un cas simplifié des systèmes réels, le système étudié se limitant à un seul composant monté sur un système de refroidissement réduit. Le premier chapitre est consacré à la modélisation thermique. Après avoir présenté les principaux modes de transmission de l’agitation thermique, les modèles analytiques et numériques qui en découlent sont étudiés. En utilisant cette connaissance,le deuxième chapitre propose de choisir dans les méthodes de mesures les plus adaptées aux spécifications et aux contraintes de l’application choisie. Une fois que les bases de données ont été établies, nous pouvons utiliser dans le troisième chapitre les techniques de l’apprentissage statistique pour construire un modèle dynamique. Après un bref rappel sur les tenants et les aboutissants de la modélisation statistique, quatre familles de méthodes seront présentées : les modèles linéaires, les réseaux de neurones, les réseaux bayésiens dynamiques et les machines à vecteur support (SVM). Enfin, le quatrième chapitre est l’occasion de présenter une méthode de modélisation originale.En effet, après avoir détaillé la mise en oeuvre des méthodes d’identification de représentation d’état, nous verrons comment prendre en compte des a priori théoriques au cours de l’apprentissage de ce type de modèle, à savoir une contrainte de stabilité. / This thesis is focused on the application of statistical learning methods for the temperature prediction of an electronic component embedded in a radar. We study a simplified case of real systems, the system under study is limited to a single component mounted on a reduced cooling system. The first chapter is devoted to heat transfer modelisation. After presenting the major mechanisms of thermal agitation transmission, analytical and numerical models are studied. Using this knowledge, the second chapter offers a survey on the methods of temperature measurement, choosing the fittest according to the specifications and the constraints of the chosen application.Once databases have been established, we can use in the third chapter statistical learning techniques to build a dynamic model. After a brief reminder about the ins and outs of statistical modeling, four families of methods willbe presented : linear models, neural networks, dynamic bayesian networks and support vector machines (SVM).The fourth chapter is an opportunity to present a novel method of modeling. Indeed, after a presentation of themethods for the identification of state representation, we see how to take into account theoretical apriorism during learning of this model type, ie a stability constraint.

Page generated in 0.2642 seconds