This thesis proposes a deep learning anomaly detection pipeline to detect possible anomalies during the operation of a fleet of batteries and presents its development and evaluation. The pipeline employs sensors that connect to each battery in the fleet to remotely collect real-time measurements of their operating characteristics, such as voltage, current, and temperature. The deep learning based time-series anomaly detection model was developed using Variational Autoencoder (VAE) architecture that utilizes either Long Short-Term Memory (LSTM) or, its cousin, Gated Recurrent Unit (GRU) as the encoder and the decoder networks (LSTMVAE and GRUVAE). Both variants were evaluated against three well-known conventional anomaly detection algorithms Isolation Nearest Neighbour (iNNE), Isolation Forest (iForest), and kth Nearest Neighbour (k-NN) algorithms. All five models were trained using two variations in the training dataset (full-year dataset and partial recent dataset), producing a total of 10 different model variants. The models were trained using the unsupervised method and the results were evaluated using a test dataset consisting of a few known anomaly days in the past operation of the customer’s battery fleet. The results demonstrated that k-NN and GRUVAE performed close to each other, outperforming the rest of the models with a notable margin. LSTMVAE and iForest performed moderately, while the iNNE and iForest variant trained with the full dataset, performed the worst in the evaluation. A general observation also reveals that limiting the training dataset to only a recent period produces better results nearly consistently across all models. / Detta examensarbete föreslår en pipeline för djupinlärning av avvikelser för att upptäcka möjliga anomalier under driften av en flotta av batterier och presenterar dess utveckling och utvärdering. Rörledningen använder sensorer som ansluter till varje batteri i flottan för att på distans samla in realtidsmätningar av deras driftsegenskaper, såsom spänning, ström och temperatur. Den djupinlärningsbaserade tidsserieanomalidetekteringsmodellen utvecklades med VAE-arkitektur som använder antingen LSTM eller, dess kusin, GRU som kodare och avkodarnätverk (LSTMVAE och GRU) VAE). Båda varianterna utvärderades mot tre välkända konventionella anomalidetekteringsalgoritmer -iNNE, iForest och k-NN algoritmer. Alla fem modellerna tränades med hjälp av två varianter av träningsdatauppsättningen (helårsdatauppsättning och delvis färsk datauppsättning), vilket producerade totalt 10 olika modellvarianter. Modellerna tränades med den oövervakade metoden och resultaten utvärderades med hjälp av en testdatauppsättning bestående av några kända anomalidagar under tidigare drift av kundens batteriflotta. Resultaten visade att k-NN och GRUVAE presterade nära varandra och överträffade resten av modellerna med en anmärkningsvärd marginal. LSTMVAE och iForest presterade måttligt, medan varianten iNNE och iForest tränade med hela datasetet presterade sämst i utvärderingen. En allmän observation avslöjar också att en begränsning av träningsdatauppsättningen till endast en ny period ger bättre resultat nästan konsekvent över alla modeller.

Cette thèse étudie des modèles de séquences de haute dimension basés sur des réseaux de neurones récurrents (RNN) et leur application à la musique et à la parole. Bien qu'en principe les RNN puissent représenter les dépendances à long terme et la dynamique temporelle complexe propres aux séquences d'intérêt comme la vidéo, l'audio et la langue naturelle, ceux-ci n'ont pas été utilisés à leur plein potentiel depuis leur introduction par Rumelhart et al. (1986a) en raison de la difficulté de les entraîner efficacement par descente de gradient. Récemment, l'application fructueuse de l'optimisation Hessian-free et d'autres techniques d'entraînement avancées ont entraîné la recrudescence de leur utilisation dans plusieurs systèmes de l'état de l'art. Le travail de cette thèse prend part à ce développement. L'idée centrale consiste à exploiter la flexibilité des RNN pour apprendre une description probabiliste de séquences de symboles, c'est-à-dire une information de haut niveau associée aux signaux observés, qui en retour pourra servir d'à priori pour améliorer la précision de la recherche d'information. Par exemple, en modélisant l'évolution de groupes de notes dans la musique polyphonique, d'accords dans une progression harmonique, de phonèmes dans un énoncé oral ou encore de sources individuelles dans un mélange audio, nous pouvons améliorer significativement les méthodes de transcription polyphonique, de reconnaissance d'accords, de reconnaissance de la parole et de séparation de sources audio respectivement. L'application pratique de nos modèles à ces tâches est détaillée dans les quatre derniers articles présentés dans cette thèse. Dans le premier article, nous remplaçons la couche de sortie d'un RNN par des machines de Boltzmann restreintes conditionnelles pour décrire des distributions de sortie multimodales beaucoup plus riches. Dans le deuxième article, nous évaluons et proposons des méthodes avancées pour entraîner les RNN. Dans les quatre derniers articles, nous examinons différentes façons de combiner nos modèles symboliques à des réseaux profonds et à la factorisation matricielle non-négative, notamment par des produits d'experts, des architectures entrée/sortie et des cadres génératifs généralisant les modèles de Markov cachés. Nous proposons et analysons également des méthodes d'inférence efficaces pour ces modèles, telles la recherche vorace chronologique, la recherche en faisceau à haute dimension, la recherche en faisceau élagué et la descente de gradient. Finalement, nous abordons les questions de l'étiquette biaisée, du maître imposant, du lissage temporel, de la régularisation et du pré-entraînement. / This thesis studies models of high-dimensional sequences based on recurrent neural networks (RNNs) and their application to music and speech. While in principle RNNs can represent the long-term dependencies and complex temporal dynamics present in real-world sequences such as video, audio and natural language, they have not been used to their full potential since their introduction by Rumelhart et al. (1986a) due to the difficulty to train them efficiently by gradient-based optimization. In recent years, the successful application of Hessian-free optimization and other advanced training techniques motivated an increase of their use in many state-of-the-art systems. The work of this thesis is part of this development. The main idea is to exploit the power of RNNs to learn a probabilistic description of sequences of symbols, i.e. high-level information associated with observed signals, that in turn can be used as a prior to improve the accuracy of information retrieval. For example, by modeling the evolution of note patterns in polyphonic music, chords in a harmonic progression, phones in a spoken utterance, or individual sources in an audio mixture, we can improve significantly the accuracy of polyphonic transcription, chord recognition, speech recognition and audio source separation respectively. The practical application of our models to these tasks is detailed in the last four articles presented in this thesis. In the first article, we replace the output layer of an RNN with conditional restricted Boltzmann machines to describe much richer multimodal output distributions. In the second article, we review and develop advanced techniques to train RNNs. In the last four articles, we explore various ways to combine our symbolic models with deep networks and non-negative matrix factorization algorithms, namely using products of experts, input/output architectures, and generative frameworks that generalize hidden Markov models. We also propose and analyze efficient inference procedures for those models, such as greedy chronological search, high-dimensional beam search, dynamic programming-like pruned beam search and gradient descent. Finally, we explore issues such as label bias, teacher forcing, temporal smoothing, regularization and pre-training.

La leucémie aiguë lymphoblastique (LAL) est une maladie complexe à l’étiologie multifactorielle. Elle représente la forme la plus commune de cancer pédiatrique et malgré une augmentation significative du taux de survie des patients, près de 15% d’entre eux ne répondent pas aux traitements classiques et plus de 2/3 subissent les effets du traitement à long terme. Réduire ces chiffres passe par une meilleure compréhension des causes sous-jacentes de la LAL. À travers l’analyse des données de séquençage de nouvelle génération (SNG) de la cohorte QcALL du CHU Sainte-Justine, je me suis intéressé aux déterminants génomiques contribuant aux différents aspects de la LAL (prédispositions, développement/progression et rechutes). Dans un premier temps, j’ai développé un outil d’analyse (SNooPer) basé sur un algorithme d’apprentissage intégrant les données SNG normales et tumorales des patients, permettant d’identifier les mutations somatiques au sein de données à faible couverture (low-pass). Cet outil, couplé aux analyses prédictives in silico et aux validations fonctionnelles adéquates, nous a permis de caractériser les événements rares ou récurrents impliqués dans le processus leucémogène. En analysant les données de LALs pré-B, j’ai pu mettre en évidence une série de mutations drivers rares au niveau de gènes (ACD, DOT1L, HCFC1) qui n’avaient jamais été associés à la LAL. L’étude fonctionnelle de la mutation identifiée au niveau d’ACD, membre du complexe shelterin, a démontré qu’elle conduit à une réduction de l’apoptose et une augmentation de la taille des télomères. Outre l’intérêt de la découverte de ces nouveaux drivers, je souhaitais démontrer l’importance des mutations somatiques rares afin d'établir la spécificité interindividuelle, généralement sous-estimée, et d’identifier l’ensemble des fonctions cellulaires impliquées. Au cours de ces travaux, j'ai également mis en évidence de nouveaux évènements récurrents de la LAL à cellules T (LAL-T), en particulier au niveau de patients présentant un phénotype immature encore mal caractérisé. J'ai démontré l’influence d'une mutation dans le gène codant pour U2AF1, membre de la machinerie d’épissage (spliceosome), sur l’épissage de gènes d’intérêt et ainsi confirmer l’importance du dysfonctionnement de l’épissage dans le développement de la leucémie. J'ai également identifié deux suppresseurs de tumeurs portés par le chromosome X, MED12 et USP9X, qui n’avaient jamais été associés à la LAL-T auparavant et qui représentent un intérêt particulier étant donné le débalancement de l'incidence en fonction du sexe (ratio garçon:fille =1.22). Enfin, grâce à l’étude longitudinale de patients LAL-B ayant subi une ou plusieurs rechutes, j'ai analysé l'architecture et l'évolution clonales des tumeurs. J’ai ainsi identifié 2 profils évolutifs distincts gouvernant les rechutes précoces et tardives: d'un côté, une dynamique élevée alimentée par un dysfonctionnement des mécanismes de réparation de l'ADN et conduisant à l'émergence rapide de clones mieux adaptés – de l'autre, une dynamique réduite, quasi-inerte, suggérant l'échappement de cellules en dormance épargnée par la chimiothérapie. De manière générale, cette thèse a permis de contribuer à la caractérisation des déterminants génomiques qui constituent la variabilité inter- et intra-tumorale, participent au processus leucémogène et/ou aux mécanismes de résistance au traitement. Ces nouvelles connaissances contribueront à un raffinement de la stratification des patients et leur prise en charge personnalisée. / Acute lymphoblastic leukemia (ALL) is a complex disease with a multi-factorial etiology. It represents the most frequent pediatric cancer and despite a significant increase of survival rate, about 15% of the patients still do not respond to current treatment protocols and over 2/3 of survivors experience long-term treatment related side effects. To reduce these numbers, a better understanding of the underlying causes of ALL is needed. Through the analysis of next-generation sequencing (NGS) data obtained from the established Quebec cALL (QcALL) cohort of the Sainte-Justine hospital, I have been particularly concerned about the genomic determinants that contribute to different phases of ALL (predispositions, onset/progress and relapses). First, I developed an analysis tool (SNooPer) based on a machine learning algorithm integrating both normal and tumor NGS data of the patient to identify somatic mutations from low-pass sequencing. This tool, combined to in silico predictive analysis and to adequate functional validations, allowed us to characterize rare or recurrent events involved in the leukemogenesis process. Through the analysis of pre-B ALLs, I have been able to identify several rare driver genes which had never been associated to ALL before (ACD, DOT1L, HCFC1). The functional study of the identified mutation in ACD, a member of the shelterin complex, showed a concomitant lengthening of the telomeres and decreased apoptosis levels in leukemia cells. Besides the interest aroused by the discovery of these new drivers, I wanted to demonstrate the importance of low-frequency somatic events to establish the generally underestimated interindividual specificity and identify all cellular functions involved. During this work, I also identified new recurrent driver events in T-cell ALL (T-ALL), particularly among poorly characterized immature T-ALL patients. For example, I demonstrated the impact of a recurrent mutation in U2AF1, member of the spliceosome, on alternative splicing of cancer-relevant genes, further suggesting the importance of aberrant splicing in leukemogenesis. I also identified two new X-linked tumor suppressors, MED12 and USP9X, never associated to T-ALL before and obtained results supporting a potential role for these genes in the male-biased sex ratio observed in T-ALL (ratio male:female =1.22). Finally, through the longitudinal study of pre-B cALLs who suffered one or multiple relapses, I analyzed the clonal architecture and evolution of the tumors. I identified two distinct evolution patterns governing either early or late relapses: on one hand a highly dynamic pattern, sustained by a defect of DNA repair processes, illustrating the quick emergence of fitter clones - and on the other hand, a quasi-inert evolution pattern suggesting the escape from dormancy of neoplastic stem cells likely spared from initial cytoreductive therapy. Overall, this thesis contributed to the characterization of genomic determinants that constitute the inter- and intra-tumor variability, participate in leukemogenesis and/or in resistance mechanisms. This new knowledge will contribute to refine patient stratification and treatment.

Infertility affects 15% of reproductive-aged couples. The milieu surrounding the growing embryo is of outmost importance, and should be optimised during in vitro fertilisation (IVF). Many biological processes, such as angiogenesis, coagulation, and immune processes need to be well regulated for a pregnancy to occur and progress normally. Histidine-rich glycoprotein (HRG) is a plasma protein that regulates components of these systems by building complexes with various ligands. A single nucleotide polymorphism (SNP) in HRG, denoted HRG C633T, seem to be of importance for IVF treatment outcomes. The aim of this thesis was to further investigate the proposed human fertility effects of the HRG C633T SNP. According to the findings of this thesis, the HRG C633T genotype is associated with primary recurrent miscarriage. Male HRG C633T genotype is associated with semen characteristics in infertile men, and pregnancy rates following IVF. However, the distribution of the HRG C633T SNP does not differ between infertile and fertile couples. We further examined the role of the region surrounding the HRG C633T SNP for regulation of endometrial angiogenesis and human embryo development. The region affects primary endometrial endothelial cell migration, proliferation and tube-formation in vitro but does not appear to affect human embryo development. No effect of the HRG peptide was noted on the secretome of human embryos. However, early embryos secrete proteins into the surrounding culture media and the level of secretion of VEGF-A, IL-6, EMMPRIN and PlGF is greater in embryos of higher developmental stages. In conclusion, the HRG C633T genotype appears to play a role only if infertility is established. The region surrounding HRG C633T SNP is of relevance in vitro for regulation of human endometrial endothelial cell angiogenesis. To predict which embryos to transfer in IVF, we have highlighted a number of proteins of interest for further investigation.

Les fichiers sons qui accompagne mon document sont au format midi. Le programme que nous avons développés pour ce travail est en language Python. / Les réseaux de neurones à réservoir, dont le principe est de combiner un vaste réseau de neurones fixes avec un apprenant ne possédant aucune forme de mémoire, ont récemment connu un gain en popularité dans les communautés d’apprentissage machine, de traitement du signal et des neurosciences computationelles. Ces réseaux qui peuvent être classés en deux catégories : 1. les réseaux à états échoïques (ESN)[29] dont les activations des neurones sont des réels 2. les machines à états liquides (LSM)[43] dont les neurones possèdent des potentiels d’actions, ont été appliqués à différentes tâches [11][64][49][45][38] dont la génération de séquences mélodiques [30]. Dans le cadre de la présente recherche, nous proposons deux nouveaux modèles à base de réseaux de neurones à réservoir. Le premier est un modèle pour la reconnaissance de rythmes utilisant deux niveaux d’apprentissage, et avec lequel nous avons été en mesure d’obtenir des résultats satisfaisants tant au niveau de la reconnaissance que de la résistance au bruit. Le second modèle sert à l’apprentissage et à la génération de séquences périodiques. Ce modèle diffère du modèle génératif classique utilisé avec les ESN à la fois au niveau de ses entrées, puisqu’il possède une Horloge, ainsi qu’au niveau de l’algorithme d’apprentissage, puisqu’il utilise un algorithme que nous avons spécialement développé pour cette tache et qui se nomme "Orbite". La combinaison de ces deux éléments, nous a permis d’obtenir de bons résultats, pour la génération, le sur-apprentissage et l’extraction de données. Nous pensons également que ce modèle ouvre une fenêtre intéressante vers la réalisation d’un orchestre entièrement virtuel et nous proposons deux architectures possibles que pourrait avoir cet orchestre. Dans la dernière partie de ce travail nous présentons les outils que nous avons développés pour faciliter notre travail de recherche. / Reservoir computing, the combination of a recurrent neural network and one or more memoryless readout units, has seen recent growth in popularity in and machine learning, signal processing and computational neurosciences. Reservoir-based methods have been successfully applied to a wide range of time series problems [11][64][49][45][38] including music [30], and usually can be found in two flavours: Echo States Networks(ESN)[29], where the reservoir is composed of mean rates neurons, and Liquid Sates Machines (LSM),[43] where the reservoir is composed of spiking neurons. In this work, we propose two new models based upon the ESN architecture. The first one is a model for rhythm recognition that uses two levels of learning and with which we have been able to get satisfying results on both recognition and noise resistance. The second one is a model for learning and generating periodic sequences, with this model we introduced a new architecture for generative models based upon ESNs where the reservoir receives inputs from a clock, as well as a new learning algorithm that we called "Orbite". By combining these two elements within our model, we were able to get good results on generation, over-fitting and data extraction. We also believe that a combination of several instances of our model can serve as a basis for the elaboration of an entirely virtual orchestra, and we propose two architectures that this orchestra may have. In the last part of this work, we briefly present the tools that we have developed during our research.

Disposant d’un jeu de données sur des infections nosocomiales, nous utilisons des techniques de vraisemblance empirique pour construire des bandes de confiance pour certaines quantité d’intérêt. Cette étude nous amène à renforcer les outils déjà existants afin qu’ils s’adaptent à notre cadre. Nous présentons dans une première partie les outils mathématiques issus de la littérature que nous utilisons dans ce travail de thèse. Nous les appliquons ensuite à diverses situations et donnons de nouvelles démonstrations lorsque cela est nécessaire. Nous conduisons aussi des simulations et obtenons des résultats concrets concernant notre jeu de données. Enfin, nous détaillons les algorithmes utilisés. / The starting point of this thesis is a data set of nosocomial infectionsin an intensive care unit of a French hostipal. We focused our attention onbuilding confidence bands for some parameters of interest using empiricallikelihood techniques. In order to do so, we had to adapt and develop somealready existing methods so that they fit our setup.We begin by giving a state of the art of the different theories we use.We then apply them to different setups and demonstrate new results whenneeded. Finally, we conduct simulations and describe our algorithms.

In der vorliegenden Arbeit werden rekurrente neuronale Netze im Hinblick auf ihre Eignung zur Bewegungssteuerung autonomer Roboter untersucht. Nacheinander werden Oszillatoren für Vierbeiner, homöostatische Ringmodule für segmentierte Roboter und monostabile Neuromodule für Roboter mit vielen Freiheitsgraden und komplexen Bewegungsabläufen besprochen. Neben dem mathematisch-theoretischen Hintergrund der Neuromodule steht in gleichberechtigter Weise deren praktische Implementierung auf realen Robotersystemen. Hierzu wird die funktionale Einbettung ins Gesamtsystem ebenso betrachtet, wie die konkreten Aspekte der zugrundeliegenden Hardware: Rechengenauigkeit, zeitliche Auflösung, Einfluss verwendeter Materialien und dergleichen mehr. Interessante elektronische Schaltungsprinzipien werden detailliert besprochen. Insgesamt enthält die vorliegende Arbeit alle notwendigen theoretischen und praktischen Informationen, um individuelle Robotersysteme mit einer angemessenen Bewegungssteuerung zu versehen. Ein weiteres Anliegen der Arbeit ist es, aus der Richtung der klassischen Ingenieurswissenschaften kommend, einen neuen Zugang zur Theorie rekurrenter neuronaler Netze zu schaffen. Gezielte Vergleiche der Neuromodule mit analogen elektronischen Schaltungen, physikalischen Modellen und Algorithmen aus der digitalen Signalverarbeitung können das Verständnis von Neurodynamiken erleichtern. / How recurrent neural networks can help to make autonomous robots move, will be investigated within this thesis. First, oscillators which are able to control four-legged robots will be dealt with, then homeostatic ring modules which control segmented robots, and finally monostable neural modules, which are able to drive complex motion sequences on robots with many degrees of freedom will be focused upon. The mathematical theory of neural modules will be addressed as well as their practical implementation on real robot platforms. This includes their embedding into a major framework and concrete aspects, like computational accuracy, timing and dependance on materials. Details on electronics will be given, so that individual robot systems can be built and equipped with an appropriate motion controller. It is another concern of this thesis, to shed a new light on the theory of recurrent neural networks, from the perspective of classical engineering science. Selective comparisons to analog electronic schematics, physical models, and digital signal processing algorithms can ease the understanding of neural dynamics.

No description available.

Title: Hybrid Deep Question Answering Author: Ahmad Aghaebrahimian Institute: Institute of Formal and Applied Linguistics Supervisor: RNDr. Martin Holub, Ph.D., Institute of Formal and Applied Lin- guistics Abstract: As one of the oldest tasks of Natural Language Processing, Question Answering is one of the most exciting and challenging research areas with lots of scientific and commercial applications. Question Answering as a discipline in the conjunction of computer science, statistics, linguistics, and cognitive science is concerned with building systems that automatically retrieve answers to ques- tions posed by humans in a natural language. This doctoral dissertation presents the author's research carried out in this discipline. It highlights his studies and research toward a hybrid Question Answering system consisting of two engines for Question Answering over structured and unstructured data. The structured engine comprises a state-of-the-art Question Answering system based on knowl- edge graphs. The unstructured engine consists of a state-of-the-art sentence-level Question Answering system and a word-level Question Answering system with results near to human performance. This work introduces a new Question An- swering dataset for answering word- and sentence-level questions as well. Start- ing from a...

No description available.