Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Nous nous plaçons dans le cadre de l’inférence grammaticale probabiliste. Il s’agit, étant donnée une distribution p sur un ensemble de chaînes S∗ inconnue, d’inférer un modèle probabiliste pour p à partir d’un échantillon fini S d’observations supposé i.i.d. selon p. L’inférence gram- maticale se concentre avant tout sur la structure du modèle, et la convergence de l’estimation des paramètres. Les modèles probabilistes dont il sera question ici sont les automates pondérés, ou WA. Les fonctions qu’ils modélisent sont appelées séries rationnelles. Dans un premier temps, nous étudierons la possibilité de trouver un critère de convergence absolue pour de telles séries. Par la suite, nous introduirons un type d’algorithme pour l’inférence de distributions rationnelles (i.e. distributions modélisées par un WA), basé sur des méthodes spectrales. Nous montrerons comment adapter cet algorithme pour l’appliquer au domaine, assez proche, des distributions sur les arbres. Enfin, nous tenterons d’utiliser cet algorithme d’inférence dans un contexte plus statistique d’estimation de densité. / Our framework is the probabilistic grammatical inference. That is, given an unknown distribution p on a set of string S∗ , to infer a probabilistic model for p from a sample S of observations assumed to be i.i.d. according to p. Grammatical inference focuses primarily on the structure of the probabilistic model, and the convergence of parameter estimate. Probabilistic models which will be considered here are weighted automata, or WA. The series they model are called rational series. Initially, we study the possibility of finding an absolute convergence criterion for such series. Subsequently, we introduce a algorithm for the inference of rational distrbutions (i.e. distributions modeled by WA), based on spectral methods. We will show how to fit this algorithm to the domain, fairly close, of rational distributions on trees. Finally, we will try to see how to use the spectral algorithm in a more statistical way, in a density estimation task.

Ce travail se concentre sur la modélisation et l'analyse d'un système de direction sur-motorisé d'un (véhicule) poids lourd omnidrive. Il fait partie d'un robot appelé RobuTAINeR, il est utilisé pour le transport conteneurs de 12 mètres à l'intérieur des espaces confinés à terminaux maritimes. Dans cette classe de robots, la direction et la roue jouent un rôle crucial pour la navigation autonome, par conséquent, il est une nécessité pour comprendre et modéliser les capacités de mouvement omnidirectionnel, la commutation des comportements dynamiques, et ses zones multi-domaines: électrique, mécanique, hydrodynamique, etc. La technique Bond Graph est une méthodologie unificatrice pour réaliser et analyser les systèmes physiques aussi bien que l'échange énergétique, ce qui fait possible l'exploiter non seulement pour la modélisation, mais aussi pour la détection de défauts et l'isolement. La validation du modèle a été réalisée avec la simulation en temps réel, établie à partir de données réelles obtenues dans le simulateur SCANeR Studio et par rapport à la simulation sur le logiciel 20sim. Cette technique est utilisée pour modéliser des systèmes complexes comme: le contrôle de la direction hydraulique; la partie électromécanique du système de traction; la dynamique longitudinale, latérale et de lacet dans le centre de gravité du robot; et les forces latérales et longitudinales présentées dans le pneu-sol. Le diagnostic est appliqué avec le modèle hybride qui est appelé Diagnostic Bond Graph. Ainsi, un autre objectif est de modéliser et d'améliorer la robustesse de la détection de défaut en présence d'incertitudes paramétriques afin de réduire les fausses alarmes. / This work focuses on the modeling and analysis of an over-actuated steering system of a mobile omnidrive heavy vehicle that is part of a wheeled robot called RobuTAINeR. This robot is used for transporting 12-meters containers inside confined spaces of maritime terminals. In this class of robots, the steering and wheel play a crucial role for the autonomous navigation; hence, there is a necessity to understand and model the omnidirectional motion capabilities, switching dynamic behaviors, and its multi-domain areas: electrical, mechanical, hydrodynamic, etc. The Bond Graph technique is a unifying methodology to perform and analyze physical systems, where there is energy exchange, not only suitable for modeling but also for Fault Detection and Isolation. The validation of this model has been done with real-time simulation, based on real data integrated into the professional simulator SCANeR Studio and compared with the simulation on 20Sim. This professional tool is used to model complex systems such as the control of the hydraulic steering; the electromechanical section of the traction system; the longitudinal, lateral, and yaw dynamics of the robot motion concerning its center of gravity; and the lateral and longitudinal forces presented in the tire-ground. The diagnosis is applied to the hybrid model which is called Diagnostic Bond Graph. Thus, another objective is to model and improve the robustness of fault detection in the presence of parametric uncertainties in order to reduce false alarms.

L'objectif général du travail de cette thèse est de proposer des méthodes robustes pour permettre d’obtenir des critères sur l’évolution de la pathologie tumorale à partir d’études dynamiques. Actuellement, l’appréciation de l’efficacité d’un traitement antiangiogénique (destruction des vaisseaux alimentant la tumeur) repose principalement sur l’imagerie fonctionnelle dont l’objectif est de quantifier la microcirculation tumorale à partir d’acquisitions dynamiques de perfusion. Cependant, différentes limites concernant le suivi de la réponse précoce des lésions par imagerie existent (mauvaise maîtrise des mouvements respiratoires, pas de consensus sur les paramètres permettant de quantifier la microcirculation tumorale, estimation paramétrique faite à partir de données extrêmement bruitées et pour un grand nombre de zones - une estimation par voxel de la séquence dynamique d’images). Dans un contexte clinique extrêmement contraignant, nous avons mis en place un cadre rigoureux comprenant l’ensemble des étapes nécessaires pour une caractérisation plus fiable de la microcirculation tumorale à partir de séquences d’images acquises sous perfusion de produit de contraste : les contributions principales de cette thèse couvrent ainsi l’optimisation des paramètres de reconstruction, le développement d’une méthode de recalage adaptée à nos données, la sélection argumentée d’un modèle de perfusion et enfin le développement d’une méthode robuste d’estimation des paramètres. Ces travaux permettent d’envisager l’utilisation des modèles de perfusion pour la caractérisation et la prédiction de la réponse d’un patient à différents traitements antitumoraux. / The main objective is to propose robust methods to allow estimation of functional markers reflecting the tumor evolution from dynamic studies. Currently, in this domain, assessing of the efficiency evaluation of an anti-angiogenic therapy (destruction of vessels which feed the tumor) is mainly based on the functional imaging of the microcirculation, which the objective is to quantify the tumor microcirculation by dynamic acquisitions with injection of contrast product. However, several limitations are present (lack of control of the breathing movement, no consensus on the parameters permitting the quantification of tumor microcirculation, parameter estimation computed from noisy data and a large number of regions - one estimation by voxel or group of voxel of the dynamic image sequence). In a restrictive clinical context (noisy data, few number), we have developed a complete pipeline with a set of necessary steps to a reliable characterization of the tumor microcirculation from dynamic perfusion image sequence: the main contributions of this thesis cover the reconstruction parameters optimization, the development of a registration method, the argued selection of a perfusion model and the development of a robust method of parameter estimation. With these works, we can envision the utilization of these perfusion models to the characterization and the prediction of the therapy response of a patient

Ces travaux de thèse portent sur l’instabilité paramétrique survenant dans les cavités optiques fibrées passives en anneau, induite par une modulation longitudinale de la dispersion chromatique. Dans les cavités optiques, le processus d’instabilité modulationnelle est connu pour être susceptible de déstabiliser l’état stationnaire et de le transformer en un train stable d’impulsions. Nous décrivons dans ce travail comment une variation longitudinale de la dispersion à l’intérieur de la cavité enrichie la dynamique de ce type de dispositif en engendrant un régime d’instabilité paramétrique. Nous détaillons l’étude théorique de ce nouveau mécanisme ce qui nous permet d’en identifier les signatures spectrales et temporelles, parmi lesquels, la génération de multiples pics de résonances dans le spectre optique et l’apparition d’une dynamique de doublement de période dans le domaine temporel. Nous avons réalisé de tels résonateurs afin de confirmer expérimentalement nos prédictions. Le modèle que nous avons retenu consiste à réaliser un anneau en soudant entre elles des fibres uniformes présentant des dispersions différentes. En terme de résultats, nous avons tout d’abord observé pour la première fois l’apparition des instabilités modulationnelle et paramétrique dans un même système, pour ensuite s’intéresser à leur dynamique. Cette dernière est accessible grâce à des méthodes de détection en temps réel à la fois spectrale et temporelle. Nous avons ainsi pu observer avec une précision remarquable l’émergence des instabilités, le doublement de période associé au régime paramétrique ainsi que l’apparition d’un nombre record de résonances paramétriques dans notre système. / This thesis work deals with the parametric instability occurring in passive optical fiber-ring cavities, which is induced by a longitudinal modulation of the chromatic dispersion. In optical cavities, the modulation instability process is known to potentially destabilize the stationary state and turn it into a stable train of pulses. We describe in this work how a longitudinal variation of the dispersion inside the cavity enriches the dynamics of this type of device by entailing a regime of parametric instability. We detail the theoretical study of this new mechanism, which allows us to identify its spectral and temporal signatures, among which, the generation of multiple resonance peaks in the optical spectrum and the appearance of a period doubling dynamics in the time domain. We have realized such resonators in order to confirm experimentally our predictions. The model we have chosen simply consists in building a ring by splicing together uniform fibers characterized by different dispersions. In terms of results, we first observed the emergence of both modulational and parametric instabilities in the same system, before investigating their dynamics. The latter is accessible thanks to real-time spectral and temporal detection methods. We thus observed with remarkable precision the emergence of the instabilities, the period doubling associated to the parametric regime and the appearance of a record number of parametric resonances in our system.

Cette thèse en approximation diophantienne se divise en deux parties. La première concerne la géométrie paramétrique des nombres introduite récemment par W. M. Schmidt et L. Summerer. Cette théorie décrit, à des fonctions bornées près, le comportement des minimas successifs d'une famille de corps convexes à un paramètre, à savoir celle qui intervient naturellement dans les problèmes d'approximation rationnelle simultanée de nombres réels linéairement indépendant sur Q. Nous démontrons dans le cas d'un seul nombre que le comportement qualitatif des deux minima est équivalent à la donnée du développement en fraction continue de la distance de ce nombre à l'entier le plus proche. Nous nous intéressons aussi à une conjecture de Schmidt de 1983 démontrée par N. Moshchevitin en 2012, et nous l'améliorons. De plus, nous démontrons que notre amélioration est meilleure possible. La seconde partie de la thèse concerne les nombres extrémaux introduits par D. Roy en 2003. Ces nombres sont transcendants réels et se comporte similairement aux nombres quadratiques réels quant à certaines propriétés d'approximation diophantienne. On peut leur associer une suite canonique de matrices symétriques à coefficients entiers. Dans leur papier [23], D. Roy et E. Villani considèrent une classe particulière de nombres extrémaux et étudient les suites de matrices correspondantes à la fois d'un point de vue analytique et d'un point de vue algébrique. Nous considérons ici une classe plus restreinte de nombres extrémaux, dits de type Markoff. Nous commençons par établir une conjecture qui généralise les résultats de Roy et Villani, sur la base de résultats numériques. Cette conjecture dépend d'une quantité entière appelé degré, et nous la démontrons en degré au plus 6. La preuve dépend d'une construction, elle-même valide en tous degrés.

Dans cette thèse, nous nous intéressons à l'estimation de paramètres dans les chaînes de Markov cachées. Nous considérons tout d'abord le problème de l'estimation en ligne (sans sauvegarde des observations) au sens du maximum de vraisemblance. Nous proposons une nouvelle méthode basée sur l'algorithme Expectation Maximization appelée Block Online Expectation Maximization (BOEM). Cet algorithme est défini pour des chaînes de Markov cachées à espace d'état et espace d'observations généraux. Dans le cas d'espaces d'états généraux, l'algorithme BOEM requiert l'introduction de méthodes de Monte Carlo séquentielles pour approcher des espérances sous des lois de lissage. La convergence de l'algorithme nécessite alors un contrôle de la norme Lp de l'erreur d'approximation Monte Carlo explicite en le nombre d'observations et de particules. Une seconde partie de cette thèse se consacre à l'obtention de tels contrôles pour plusieurs méthodes de Monte Carlo séquentielles. Nous étudions enfin des applications de l'algorithme BOEM à des problèmes de cartographie et de localisation simultanées. La dernière partie de cette thèse est relative à l'estimation non paramétrique dans les chaînes de Markov cachées. Le problème considéré est abordé dans un cadre précis. Nous supposons que (Xk) est une marche aléatoire dont la loi des incréments est connue à un facteur d'échelle a près. Nous supposons que, pour tout k, Yk est une observation de f(Xk) dans un bruit additif gaussien, où f est une fonction que nous cherchons à estimer. Nous établissons l'identifiabilité du modèle statistique et nous proposons une estimation de f et de a à partir de la vraisemblance par paires des observations. / This document is dedicated to inference problems in hidden Markov models. The first part is devoted to an online maximum likelihood estimation procedure which does not store the observations. We propose a new Expectation Maximization based method called the Block Online Expectation Maximization (BOEM) algorithm. This algorithm solves the online estimation problem for general hidden Markov models. In complex situations, it requires the introduction of Sequential Monte Carlo methods to approximate several expectations under the fixed interval smoothing distributions. The convergence of the algorithm is shown under the assumption that the Lp mean error due to the Monte Carlo approximation can be controlled explicitly in the number of observations and in the number of particles. Therefore, a second part of the document establishes such controls for several Sequential Monte Carlo algorithms. This BOEM algorithm is then used to solve the simultaneous localization and mapping problem in different frameworks. Finally, the last part of this thesis is dedicated to nonparametric estimation in hidden Markov models. It is assumed that the Markov chain (Xk) is a random walk lying in a compact set with increment distribution known up to a scaling factor a. At each time step k, Yk is a noisy observations of f(Xk) where f is an unknown function. We establish the identifiability of the statistical model and we propose estimators of f and a based on the pairwise likelihood of the observations.

L'utilisation de la régression non paramétrique est fréquente en analyse de données, puisque les postulats associés à la régression paramétrique ne sont pas toujours vérifiés, mais également parce qu'elle laisse aux données la décision de la forme de la relation entre une variable dépendante Y et une variable explicative X. Dans ce mémoire, l'intérêt est porté sur l'estimation de percentiles conditionnels. Plus précisément, comme il arrive parfois que la variable réponse soit censurée, les méthodes d'estimation non paramétrique lisse de régression des percentiles dans le cas où la variable réponse est censurée à droite sont abordées. Ainsi, trois estimateurs sont considérés : un employant l'estimateur de Kaplan-Meier généralisé, un utilisant une optimisation pondérée par les poids Stute et un employant l'estimateur de Bowman et Wright. Ces méthodes sont appliquées à un jeu de données et leurs propriétés sont étudiées par voie de simulations.

Cette thèse contribue au développement de l'estimation non paramétrique de la fonction de survie conditionnelle étant donné une covariable continue avec données censurées. Elle est basée sur trois articles écrits avec mon directeur de thèse, le professeur Thierry Duchesne. Le premier article, intitulé "Une généralisation de l'estimateur de Turnbull pour l'estimation non paramétrique de la fonction de survie conditionnelle avec données censurées par intervalle, " a été publié en 2011 dans Lifetime Data Analysis, vol. 17, pp. 234 - 255. Le deuxième article, intitulé "Sur la performance de certains estimateurs nonparamétriques de la fonction de survie conditionnelle avec données censurées par intervalle, " est parru en 2011 dans la revue Computational Statistics & Data Analysis, vol. 55, pp. 3355-3364. Le troisième article, intitulé "Estimation de la fonction de survie conditionnelle d'un temps de défaillance étant donné une covariable variant dans le temps avec observations censurées par intervalles", sera bientôt soumis à la revue Statistica Sinica.

L’un des problèmes importants en apprentissage automatique est de déterminer la complexité du modèle à apprendre. Une trop grande complexité mène au surapprentissage, ce qui correspond à trouver des structures qui n’existent pas réellement dans les données, tandis qu’une trop faible complexité mène au sous-apprentissage, c’est-à-dire que l’expressivité du modèle est insuffisante pour capturer l’ensemble des structures présentes dans les données. Pour certains modèles probabilistes, la complexité du modèle se traduit par l’introduction d’une ou plusieurs variables cachées dont le rôle est d’expliquer le processus génératif des données. Il existe diverses approches permettant d’identifier le nombre approprié de variables cachées d’un modèle. Cette thèse s’intéresse aux méthodes Bayésiennes nonparamétriques permettant de déterminer le nombre de variables cachées à utiliser ainsi que leur dimensionnalité. La popularisation des statistiques Bayésiennes nonparamétriques au sein de la communauté de l’apprentissage automatique est assez récente. Leur principal attrait vient du fait qu’elles offrent des modèles hautement flexibles et dont la complexité s’ajuste proportionnellement à la quantité de données disponibles. Au cours des dernières années, la recherche sur les méthodes d’apprentissage Bayésiennes nonparamétriques a porté sur trois aspects principaux : la construction de nouveaux modèles, le développement d’algorithmes d’inférence et les applications. Cette thèse présente nos contributions à ces trois sujets de recherches dans le contexte d’apprentissage de modèles à variables cachées. Dans un premier temps, nous introduisons le Pitman-Yor process mixture of Gaussians, un modèle permettant l’apprentissage de mélanges infinis de Gaussiennes. Nous présentons aussi un algorithme d’inférence permettant de découvrir les composantes cachées du modèle que nous évaluons sur deux applications concrètes de robotique. Nos résultats démontrent que l’approche proposée surpasse en performance et en flexibilité les approches classiques d’apprentissage. Dans un deuxième temps, nous proposons l’extended cascading Indian buffet process, un modèle servant de distribution de probabilité a priori sur l’espace des graphes dirigés acycliques. Dans le contexte de réseaux Bayésien, ce prior permet d’identifier à la fois la présence de variables cachées et la structure du réseau parmi celles-ci. Un algorithme d’inférence Monte Carlo par chaîne de Markov est utilisé pour l’évaluation sur des problèmes d’identification de structures et d’estimation de densités. Dans un dernier temps, nous proposons le Indian chefs process, un modèle plus général que l’extended cascading Indian buffet process servant à l’apprentissage de graphes et d’ordres. L’avantage du nouveau modèle est qu’il admet les connections entres les variables observables et qu’il prend en compte l’ordre des variables. Nous présentons un algorithme d’inférence Monte Carlo par chaîne de Markov avec saut réversible permettant l’apprentissage conjoint de graphes et d’ordres. L’évaluation est faite sur des problèmes d’estimations de densité et de test d’indépendance. Ce modèle est le premier modèle Bayésien nonparamétrique permettant d’apprendre des réseaux Bayésiens disposant d’une structure complètement arbitraire. / One of the important problems in machine learning is determining the complexity of the model to learn. Too much complexity leads to overfitting, which finds structures that do not actually exist in the data, while too low complexity leads to underfitting, which means that the expressiveness of the model is insufficient to capture all the structures present in the data. For some probabilistic models, the complexity depends on the introduction of one or more latent variables whose role is to explain the generative process of the data. There are various approaches to identify the appropriate number of latent variables of a model. This thesis covers various Bayesian nonparametric methods capable of determining the number of latent variables to be used and their dimensionality. The popularization of Bayesian nonparametric statistics in the machine learning community is fairly recent. Their main attraction is the fact that they offer highly flexible models and their complexity scales appropriately with the amount of available data. In recent years, research on Bayesian nonparametric learning methods have focused on three main aspects: the construction of new models, the development of inference algorithms and new applications. This thesis presents our contributions to these three topics of research in the context of learning latent variables models. Firstly, we introduce the Pitman-Yor process mixture of Gaussians, a model for learning infinite mixtures of Gaussians. We also present an inference algorithm to discover the latent components of the model and we evaluate it on two practical robotics applications. Our results demonstrate that the proposed approach outperforms, both in performance and flexibility, the traditional learning approaches. Secondly, we propose the extended cascading Indian buffet process, a Bayesian nonparametric probability distribution on the space of directed acyclic graphs. In the context of Bayesian networks, this prior is used to identify the presence of latent variables and the network structure among them. A Markov Chain Monte Carlo inference algorithm is presented and evaluated on structure identification problems and as well as density estimation problems. Lastly, we propose the Indian chefs process, a model more general than the extended cascading Indian buffet process for learning graphs and orders. The advantage of the new model is that it accepts connections among observable variables and it takes into account the order of the variables. We also present a reversible jump Markov Chain Monte Carlo inference algorithm which jointly learns graphs and orders. Experiments are conducted on density estimation problems and testing independence hypotheses. This model is the first Bayesian nonparametric model capable of learning Bayesian learning networks with completely arbitrary graph structures.