La thèse retrace les principes généraux des formulations explicites pour la commande prédictive et souligne la structure linéaire par morceaux de la dynamique. Les contributions principales de ce travail de thèse résident dans la construction des ensembles invariants pour les systèmes affines par morceaux (PWA). Les résultats se concentrent sur le traitement des systèmes PWA définis sur une partition polyédrale de l'espace d'état même si les principes sont applicables dans un cadre plus général. Trois constructions remarquables peuvent être mises en évidence : – la construction expansive, – la construction contractive, – la construction basée sur les graphes des transitions. Au niveau méthodologique toutes ces constructions étant basées sur la dynamique directe ou en temps inverse des ensembles de l'espace d'état, elles impliquent un traitement géométrique au moins dans la partie de comparaison avec le domaine faisable qui peut s'avérer gourmand en temps de calcul. Une solution innovante a été proposée en exploitant l'analyse par intervalles. Il est intéressant d'observer que la construction des ensembles invariants ouvre la voie au post-traitement des lois de commandes prédictives en vue de la maximisation de leur domaine de fonctionnement avec garantie de sureté. Des comparaisons sont faites entre les différentes structures MPC avec d'une part les formulations qui bénéficient du renforcement de l'invariance dès la phase de synthèse et d'autre part les formulations explicites qui bénéficient de la post analyse pour la caractérisation des domaines viables. En outre, le présent travail fait état des extensions MPC à base de ces méthodes géométriques pour le suivi de trajectoire, pour la prise en compte des incertitudes paramétriques ou d'un retard variable à l'entrée du système. Une grande partie de ces développements théoriques sont illustrés par des exemples au fur et à mesure de leur introduction. Le mémoire contient aussi l'étude d'un problème de suivi de trajectoire et de faisabilité/viabilité d'un certain profil, avec application pour la production d'électricité en conjonction avec la caractérisation d'une vallée hydraulique.

L'objectif de cette thèse est de proposer des solutions aux problèmes liés à la commande optimale de systèmes dynamiques multi-agents en présence de contraintes. Des éléments de la théorie de commande et d'optimisation sont appliqués à différents problèmes impliquant des formations de systèmes multi-agents. La thèse examine le cas d'agents soumis à des contraintes dynamiques. Pour faire face à ces problèmes, les concepts bien établis tels que la théorie des ensembles, la platitude différentielle, la commande prédictive (Model Predictive Control - MPC), la programmation mixte en nombres entiers (Mixed-Integer Programming - MIP) sont adaptés et améliorés. En utilisant ces notions théoriques, ce travail de thèse a porté sur les propriétés géométriques de la formation d'un groupe multi-agents et propose un cadre de synthèse original qui exploite cette structure. En particulier, le problème de conception de formation et les conditions d'évitement des collisions sont formulés comme des problèmes géométriques et d'optimisation pour lesquels il existe des procédures de résolution. En outre, des progrès considérables dans ce sens ont été obtenus en utilisant de façon efficace les techniques MIP (dans le but d'en déduire une description efficace des propriétés de non convexité et de non connexion d'une région de faisabilité résultant d'une collision de type multi-agents avec des contraintes d'évitement d'obstacles) et des propriétés de stabilité (afin d'analyser l'unicité et l'existence de configurations de formation de systèmes multi-agents). Enfin, certains résultats théoriques obtenus ont été appliqués dans un cas pratique très intéressant. On utilise une nouvelle combinaison de la commande prédictive et de platitude différentielle (pour la génération de référence) dans la commande et la navigation de véhicules aériens sans pilote (UAVs).

The scope of the thesis is the analysis and design of fault tolerant control (FTC) schemes through the use of set-theoretic methods. In the framework of multisensor schemes, the faults appearance and the modalities to accurately detect them are investigated as well as the design of control laws which assure the closed-loop stability. By using invariant/contractive sets to describe the residual signals, a fault detection and isolation (FDI) mechanism with reduced computational demands is implemented based on set-separation. A dual mechanism, implemented by a recovery block, which certificates previously fault-affected sensors is also studied. From a broader theoretical perspective, we point to the conditions which allow the inclusion of {FDI} objectives in the control law design. This leads to static feedback gains synthesis by means of numerically attractive optimization problems. Depending on the parameters selected for tuning, is shown that the FTC design can be completed by a reference governor or a predictive control scheme which adapts the state trajectory and the feedback control action in order to assure {FDI}. When necessary, the specific issues originated by the use of set-theoretic methods are detailed and various improvements are proposed towards: invariant set construction, mixed integer programming (MIP), stability for switched systems (dwell-time notions).

Les ensembles d’arbres constituent à l’heure actuelle l’une des méthodes d’apprentissage statistique les plus performantes. Toutefois, leurs propriétés théoriques, ainsi que leurs performances empiriques restent sujettes à de nombreuses questions. Nous proposons dans cette thèse d’apporter un nouvel éclairage à ces méthodes. Plus particulièrement, après avoir évoqué les aspects théoriques actuels (chapitre 1) de trois schémas ensemblistes principaux (Forêts aléatoires, Boosting et Discrimination Stochastique), nous proposerons une analyse tendant vers l’existence d’un point commun au bien fondé de ces trois principes (chapitre 2). Ce principe tient compte de l’importance des deux premiers moments de la marge dans l’obtention d’un ensemble ayant de bonnes performances. De là, nous en déduisons un nouvel algorithme baptisé OSS (Oriented Sub-Sampling) dont les étapes sont en plein accord et découlent logiquement du cadre que nous introduisons. Les performances d’OSS sont empiriquement supérieures à celles d’algorithmes en vogue comme les Forêts aléatoires et AdaBoost. Dans un troisième volet (chapitre 3), nous analysons la méthode des Forêts aléatoires en adoptant un point de vue « noyau ». Ce dernier permet d’améliorer la compréhension des forêts avec, en particulier la compréhension et l’observation du mécanisme de régularisation de ces techniques. Le fait d’adopter un point de vue noyau permet d’améliorer les Forêts aléatoires via des méthodes populaires de post-traitement comme les SVM ou l’apprentissage de noyaux multiples. Ceux-ci démontrent des performances nettement supérieures à l’algorithme de base, et permettent également de réaliser un élagage de l’ensemble en ne conservant qu’une petite partie des classifieurs le composant. / Decision trees ensembles are among the most popular tools in machine learning. Nevertheless, their theoretical properties as well as their empirical performances are subject to strong investigation up to date. In this thesis, we propose to shed light on these methods. More precisely, after having described the current theoretical aspects of three main ensemble schemes (chapter 1), we give an analysis supporting the existence of common reasons to the success of these three principles (chapter 2). This last takes into account the two first moments of the margin as an essential ingredient to obtain strong learning abilities. Starting from this rejoinder, we propose a new ensemble algorithm called OSS (Oriented Sub-Sampling) whose steps are in perfect accordance with the point of view we introduce. The empirical performances of OSS are superior to the ones of currently popular algorithms such as Random Forests and AdaBoost. In a third chapter (chapter 3), we analyze Random Forests adopting a “kernel” point of view. This last allows us to understand and observe the underlying regularization mechanism of these kinds of methods. Adopting the kernel point of view also enables us to improve the predictive performance of Random Forests using popular post-processing techniques such as SVM and multiple kernel learning. In conjunction with random Forests, they show greatly improved performances and are able to realize a pruning of the ensemble by conserving only a small fraction of the initial base learners.

La croissance des données disponibles aujourd'hui génère de nouvelles problématiques pour lesquelles l'apprentissage statistique ne possède pas de réponses adaptées. Ainsi le cadre classique de la classification qui consiste à affecter une ou plusieurs classes à une instance est étendu à des problèmes avec des milliers, voire des millions de classes différentes. Avec ces problèmes viennent de nouveaux axes de recherches comme \deleted{le temps} \added{la réduction de la compléxité} de classification qui est habituellement linéaire en fonction du nombre de classes du problème\deleted{.} \added{, ce qui est problématique lorsque le nombre de classe devient trop important.} Plusieurs familles de solutions pour cette problématique ont émergé comme la construction d'une hiérarchie de classifieurs ou bien l'adaptation de méthodes ensemblistes de type ECOC. Le travail présenté ici propose deux nouvelles méthodes pour répondre au problème de classification extrême. Le premier travail consiste en une nouvelle mesure asymétrique pour le partitionnement de classes dans le cadre d'une classification hiérarchique alors que le second axe explore l'élaboration d'un algorithme séquentiel actif d'agrégation des classifieurs les plus intéressants. / The increase in volume of the data nowadays is at the origin of new problematics for which machine learning does not possess adapted answers. The usual classification task which requires to assign one or more classes to an example is extended to problems with thousands or even millions of different classes. Those problems bring new research fields like the complexity reduction of the classification process. That classification process has a complexity usually linear with the number of classes of the problem, which can be an issue if the number of classes is too large. Various ways to deal with those new problems have emerged like the construction of a hierarchy of classifiers or the adaptation of ECOC ensemble methods. The work presented here describes two new methods to answer this extreme classification task. The first one consists in a new asymmetrical measure to help the partitioning of the classes in order to build a hierarchy of classes. The second one proposes a sequential way to aggregate effectively the most interesting classifiers.

L'apprentissage automatique vise la production d'une hypothèse modélisant un concept à partir d'exemples, dans le but notamment de prédire si de nouvelles observations relèvent ou non de ce concept. Parmi les algorithmes d'apprentissage, les méthodes ensemblistes combinent des hypothèses de base (dites ``faibles'') en une hypothèse globale plus performante.<br /><br />Le boosting, et son algorithme AdaBoost, est une méthode ensembliste très étudiée depuis plusieurs années : ses performances expérimentales remarquables reposent sur des fondements théoriques rigoureux. Il construit de manière adaptative et itérative des hypothèses de base en focalisant l'apprentissage, à chaque nouvelle itération, sur les exemples qui ont été difficiles à apprendre lors des itérations précédentes. Cependant, AdaBoost est relativement inadapté aux données du monde réel. Dans cette thèse, nous nous concentrons en particulier sur les données bruitées, et sur les données hétérogènes.<br /><br />Dans le cas des données bruitées, non seulement la méthode peut devenir très lente, mais surtout, AdaBoost apprend par coeur les données, et le pouvoir prédictif des hypothèses globales générées, s'en trouve extrêmement dégradé. Nous nous sommes donc intéressés à une adaptation du boosting pour traiter les données bruitées. Notre solution exploite l'information provenant d'un oracle de confiance permettant d'annihiler les effets dramatiques du bruit. Nous montrons que notre nouvel algorithme conserve les propriétés théoriques du boosting standard. Nous mettons en pratique cette nouvelle méthode, d'une part sur des données numériques, et d'autre part, de manière plus originale, sur des données textuelles.<br /><br />Dans le cas des données hétérogènes, aucune adaptation du boosting n'a été proposée jusqu'à présent. Pourtant, ces données, caractérisées par des attributs multiples mais de natures différentes (comme des images, du son, du texte, etc), sont extrêmement fréquentes sur le web, par exemple. Nous avons donc développé un nouvel algorithme de boosting permettant de les utiliser. Plutôt que de combiner des hypothèses boostées indépendamment, nous construisons un nouveau schéma de boosting permettant de faire collaborer durant l'apprentissage des algorithmes spécialisés sur chaque type d'attribut. Nous prouvons que les décroissances exponentielles des erreurs sont toujours assurées par ce nouveau modèle, aussi bien d'un point de vue théorique qu'expérimental.

Cette thèse est dédiée au développement et à l'application de méthodes ensemblistes pour l'estimation d'état et de paramètres pour des systèmes non-linéaires. Deux types de modèles sont considérés : modèles donnés par des fonctions explicites à variables complexes et modèles décrits par des équations différentielles ordinaires (EDOs). L'identification de paramètres de modèles décrits par des fonctions explicites est réalisée à l'aide des techniques d'inversion ensembliste par analyse par intervalles. Par ailleurs, les modèles utilisés sont à variables complexes ; dans ce cas l'évaluation de la sortie se fait à l'aide d'intervalles complexes. Dans ce travail, nous avons développé une arithmétique des intervalles complexes basée sur la représentation polaire. La multiplication et la division sont des opérations exactes, mais la somme et la différence ne le sont pas. Pour réduire le pessimisme introduit par ces dernières opérations, nous avons développé des algorithmes assurant les propriétés de minimalité. Cette bibliothèque a été associée aux méthodes d'inversion ensembliste dans le cadre de l'estimation de paramètres de modèles diélectriques, d'une part, et pour l'identification de paramètres thermophysiques d'autre part. Dans la deuxième partie de cette thèse, des algorithmes d'estimation d'état pour des systèmes décrits par des équations différentielles sont présentés. Ils permettent de fournir, à chaque instant, un ensemble contenant d'une manière garantie, toutes les valeurs du vecteur d'état compatibles avec les mesures et avec les bornes d'erreurs. Ces estimateurs sont basés sur des méthodes d'intégration garantie d'EDOs et sur l'inversion ensembliste. Enfin, une technique d'estimation de paramètres de modèles décrits par des EDOs est proposée.

Cette thèse propose une méthode originale d'estimation ensembliste d'états de procédés nonlinéaires discrets, qui est globalement convergente. La méthode est basée sur une technique d'estimation à horizon glissant par intervalles (IMHSE), couplé à une technique d'optimisation globale de fonctions non-linéaires qui utilise l'arithmétique par intervalles. En d'autres termes, la méthode IMHSE résout le problème d'estimation d'état d'un système dynamique par un problème statique d'optimisation globale non-linéaire par intervalles, sur un horizon de temps prédéfini. Les mesures faites hors ligne dans un procédé peuvent être utilisées facilement dans cet observateur ensembliste pour reconstruire les variables de l'état qui sont représentés par intervalles. Ce travail considère aussi la détection de dysfonctionnement d'un modèle en utilisant un observateur IMHSE multi-modèles (une propriété de plus donnée à notre observateur). L'objectif de cette approche multi-modèles est de détecter les variations dynamiques des paramètres du modèle dans le temps. Ces variations sont prises en considération en utilisant plusieurs modèles différents. Ces modèles seront commutés par notre observateur ensembliste pour reconstruire les états du système. Mis d'une façon simple, cette approche consiste à utiliser un modèle nominal pour l'état et d'autres modèles pour décrire les situations possibles de fonctionnement anormal (paramètres perturbés). L'algorithme nous permet de connaître en ligne quel est le meilleur modèle qui décrit le comportement réel du système. La technique proposée a été appliquée sur des modèles de procédés complexes biotechnologiques tel que la fermentation sur substrat solide, et à des bioprocédés décrit par des modèles hybrides. Les résultats obtenus par simulation montrent que ce type d'observateur a des avantages sur les autres observateurs et filtres, et qu'il peut être facilement appliqué dans un contexte industriel.

Dans cette thèse on s'intéresse au problème de la localisation d'un robot sous-marin et de la cartographie en simultané d'un jeu de balises acoustiques installées sur le fond marin, en utilisant un distance-mètre acoustique et une centrale inertielle. Nous nous focalisons sur les deux approches principales utilisées pour résoudre ce type de problème: le filtrage de Kalman et le filtrage ensembliste basé sur l'analyse par intervalles. Le filtre de Kalman est optimal quand les équations d'état du robot sont linéaires et les bruits sont additifs, Gaussiens. Le filtrage par intervalles ne modélise pas les incertitudes dans un cadre probabiliste, et ne fait qu'une seule hypothèse sur leur nature: elles sont bornées. De plus, l'approche utilisant les intervalles permet la propagation rigoureuse des incertitudes, même quand les équations sont non linéaires. Cela résulte en une estimation hautement fiable, au prix d'une précision réduite. Nous montrons que dans un contexte sous-marin, quand le robot est équipé avec une centrale inertielle de haute précision, une partie des équations du SLAM peut raisonnablement être considérée comme linéaire avec un bruit Gaussien additif, en faisant le terrain de jeu idéal d'un filtre de Kalman. De l'autre côté, les équations liées aux observations du distance-mètre acoustique sont bien plus problématiques: le système n'est pas observable, les équations sont non linéaires, et les outliers sont fréquents. Ces conditions sont idéales pour une approche à erreur bornées basée sur l'analyse par intervalles. En prenant avantage des propriétés des bruits Gaussiens, cette thèse réconcilie le traitement probabiliste et ensembliste des incertitudes pour les systèmes aussi bien linéaires que non linéaires sujets à des bruits Gaussiens additifs. En raisonnant de manière géométrique, nous sommes capables d'exprimer la partie des équations du filtre de Kalman modélisant la dynamique du véhicule dans un cadre ensembliste. De la même manière, un traitement plus rigoureux et précis des incertitudes est décrit pour la partie des équations du filtre de Kalman liée aux mesures de distances. Ces outils peuvent ensuite être combinés pour obtenir un algorithme de SLAM qui est fiable, précis et robuste. Certaines des méthodes développées dans cette thèse sont illustrées sur des données réelles. / In this thesis, we work on the problem of simultaneously localizing an underwater robot while mapping a set of acoustic beacons lying on the seafloor, using an acoustic range-meter and an inertial navigation system. We focus on the two main approaches classically used to solve this type of problem: Kalman filtering and set-membership filtering using interval analysis. The Kalman filter is optimal when the state equations of the robot are linear, and the noises are additive, white and Gaussian. The interval-based filter do not model uncertainties in a probabilistic framework, and makes only one assumption about their nature: they are bounded. Moreover, the interval-based approach allows to rigorously propagate the uncertainties, even when the equations are non-linear. This results in a high reliability in the set estimate, at the cost of a reduced precision.We show that in a subsea context, when the robot is equipped with a high precision inertial navigation system, a part of the SLAM equations can reasonably be seen as linear with additive Gaussian noise, making it the ideal playground of a Kalman filter. On the other hand, the equations related to the acoustic range-meter are much more problematic: the system is not observable, the equations are non-linear, and the outliers are frequent. These conditions are ideal for a set-based approach using interval analysis.By taking advantage of the properties of Gaussian noises, this thesis reconciles the probabilistic and set-membership processing of uncertainties for both linear and non-linear systems with additive Gaussian noises. By reasoning geometrically, we are able to express the part of the Kalman filter equations linked to the dynamics of the vehicle in a set-membership context. In the same way, a more rigorous and precise treatment of uncertainties is described for the part of the Kalman filter linked to the range-measurements. These two tools can then be combined to obtain a SLAM algorithm that is reliable, precise and robust. Some of the methods developed during this thesis are demonstrated on real data.

La thèse est dédiée à l'analyse et à la conception de la commande tolérante aux défauts (fault tolerant control - FTC) en se fondant sur des méthodes ensemblistes. Nous étudions l'apparition des défauts pour les systèmes multi-capteurs, et les modes de détection, ainsi que la conception de lois de commande qui assurent la stabilité en boucle fermée. L'utilisation des ensembles invariants/contractifs permet la caractérisation des signaux résiduels, qui sont utilisés par la suite dans le processus de détection et d'isolement des défauts. La décision est fondée sur le positionnement par rapport à des hyperplans de séparation avec des importantes réductions de temps de calcul. Un mécanisme dual mis en œuvre par un bloc de récupération, permet la certification de la récupération des capteurs précédemment affectés par ces défauts.Dans une perspective théorique, nous soulignons les conditions qui permettent l'inclusion du bloc FDI (fault detection and isolation) et sa raison d'être dans la conception des lois de commande. Cela conduit par exemple à la synthèse des gains de retour d'état statique, par résolution de problèmes d'optimisation efficace (linéaire/convexe).Selon les paramètres choisis pour le réglage, la conception de la FTC peut être complétée par un superviseur de référence ou d'une loi de commande prédictive, qui adapte la trajectoire d'état et l'action de commande par retour d'état, afin d'assurer l'identification et la détection des défauts. Les questions spécifiques à l'utilisation de méthodes ensemblistes sont détaillées et des améliorations diverses sont proposées, par exemple : la construction des ensembles invariants, des formulations moins complexes des problèmes de type Mixed Integer Programming (MIP), l'analyse de la stabilité des systèmes commutés (notion de ``dwell-time''). / The scope of the thesis is the analysis and design of fault tolerant control (FTC) schemes through the use of set-theoretic methods. In the framework of multisensor schemes, the faults appearance and the modalities to accurately detect them are investigated as well as the design of control laws which assure the closed-loop stability. By using invariant/contractive sets to describe the residual signals, a fault detection and isolation (FDI) mechanism with reduced computational demands is implemented based on set-separation. A dual mechanism, implemented by a recovery block, which certificates previously fault-affected sensors is also studied. From a broader theoretical perspective, we point to the conditions which allow the inclusion of {FDI} objectives in the control law design. This leads to static feedback gains synthesis by means of numerically attractive optimization problems. Depending on the parameters selected for tuning, is shown that the FTC design can be completed by a reference governor or a predictive control scheme which adapts the state trajectory and the feedback control action in order to assure {FDI}. When necessary, the specific issues originated by the use of set-theoretic methods are detailed and various improvements are proposed towards: invariant set construction, mixed integer programming (MIP), stability for switched systems (dwell-time notions).