En optimisation les conditions d'optimalité jouent un rôle primordial pour détecter les solutions optimales et leur étude occupe une place significative dans la recherche actuelle. Afin d'exprimer adéquatement des conditions d'optimalité les chercheurs ont introduit diverses notions de dérivées généralisées non seulement pour des fonctions non lisses, mais aussi pour des fonctions à valeurs ensemblistes, dites applications multivoques ou multifonctions. Cette thèse porte sur l'application des deux nouveaux concepts de dérivées généralisées: les ensembles variationnels de Khanh-Tuan et les approximations de Jourani-Thibault, aux problèmes d'optimisation multiobjectif et aux problèmes d'équilibre vectoriel. L'enjeu principal est d'obtenir des conditions d'optimalité du premier et du second ordre pour les problèmes ayant des données multivoques ou univoques non lisses et pas forcément continues, et des conditions assurant l'unicité des solutions dans les problèmes d'équilibre vectoriel.

Cette thèse consiste à utiliser des méthodes d’optimisation non lisse à des fins de diagnostic de défauts. Dans un premier temps, afin de surmonter les inconvénients des méthodes classiques, une approche fondée sur l’optimisation non lisse est présentée. Elle permet de résoudre le problème de détection de défauts dans le pire des cas. La rapidité de la réponse résiduelle peut y être intégrée en tant que contrainte. Le diagnostic des systèmes à commutation est ensuite considéré via un générateur de résidus. Dans le cas d’un modèle connu avec certitude, un filtre de détection de défauts robuste aux perturbations est enfin construit. Dans la seconde partie de la thèse, une méthode est proposée afin de concevoir un observateur permettant de détecter des défauts dans un cas général (défaut l_2 borné et inconnu) et dans un cas particulier (défaut spécifique). La synthèse est réalisée en considérant les domaines temporels et fréquentiels. Dans le domaine temporel, l’enveloppe inférieure est utilisée afin de régler la rapidité de la réponse alors que l’enveloppe supérieure permet de régler le taux de fausses alarmes. Une approche active de diagnostic est finalement présentée. Elle consiste à injecter des extra-signaux sur les commandes du système de manière à révéler au mieux la présence de défauts. Les effets des extra-signaux sur les entrées/sorties sont pris en compte tant lors de leur génération que dans la synthèse d’un post-filtre. Deux modèles sont tout d’abord considérés permettant de considérer un fonctionnement normal et anormal du système. Dans le cas de plusieurs défauts, une méthode permettant de les localiser est enfin proposée / This thesis considers the application of nonsmooth optimization approach on several FDI problems. First, to overcome the drawback of classical methods, a nonsmooth optimization approach is proposed to solve a multiobjective fault detection problem in the worst case. An additional constraint of fast transients of residual responses could be added into the design, which could be solved by nonsmooth optimization approach. A framework of designing a unique observer gain and residual weighting matrix is proposed for a system with multiple models. When the exact model is unknown, a new framework of robust fault detection filter and an unchanged threshold are proposed. Second, a method is proposed to design an integrated fault detection observer for general case (unknown l_2 bounded faults and disturbances) and specific case (some specific faults) in frequency and time domain. The lower bound envelope is used to design a fast fault detection observer for the specific faults with a guaranteed ability of fault detection in the worst. By contrast, to decrease false alarms when fault disappearing, a constraint of an upper bound envelope is added into the design. Third, a new framework of active diagnosis with auxiliary signal is proposed. A criterion of peak amplitude is proposed to evaluate the worst effects from the auxiliary signal on the system. The effects of auxiliary signal on the outputs and control signals are considered in the design. The design is firstly shown with a case of two models, which is then extended to multiple models case

En optimisation les conditions d’optimalité jouent un rôle primordial pour détecter les solutions optimales et leur étude occupe une place significative dans la recherche actuelle. Afin d’exprimer adéquatement des conditions d’optimalité les chercheurs ont introduit diverses notions de dérivées généralisées non seulement pour des fonctions non lisses, mais aussi pour des fonctions à valeurs ensemblistes, dites applications multivoques ou multifonctions. Cette thèse porte sur l’application des deux nouveaux concepts de dérivées généralisées: les ensembles variationnels de Khanh-Tuan et les approximations de Jourani-Thibault, aux problèmes d’optimisation multiobjectif et aux problèmes d’équilibre vectoriel. L’enjeu principal est d’obtenir des conditions d’optimalité du premier et du second ordre pour les problèmes ayant des données multivoques ou univoques non lisses et pas forcément continues, et des conditions assurant l’unicité des solutions dans les problèmes d’équilibre vectoriel. / Optimality conditions for nonsmooth optimization have become one of the most important topics in the study of optimization-related problems. Various notions of generalized derivatives have been introduced to establish optimality conditions. Besides establishing optimality conditions, generalized derivatives also is an important tool for studying the local uniqueness of solutions. During the last three decades, these topics have been being developed, generalized and applied to many elds of mathematics by many authors all over the world. The purpose of this thesis is to investigate the above topics. It consists of ve chapters. In Chapter 1, we develop elements of calculus of variational sets for set-valued mappings, which were recently introduced in Khanh and Tuan (2008). Most of the usual calculus rules, from chain and sum rules to rules for unions, intersections, products and other operations on mappings, are established. As applications we provide a direct employment of sum rules to establishing an explicit formula for a variational set of the solution map to a parametrized variational inequality in terms of variational sets of the data. Furthermore, chain rules and sum or product rules are also used to prove optimality conditions for weak solutions of some vector optimization problems. In Chapter 2, we propose notions of higher-order outer and inner radial derivatives of set-valued maps and obtain main calculus rules. Some direct applications of these rules in proving optimality conditions for particular optimization problems are provided. Then, we establish higher-order optimality necessary conditions and sufficient ones for a general set-valued vector optimization problem with inequality constraints. Chapter 3 is devoted to using first and second-order approximations, which were introduced by Jourani and Thibault (1993) and Allali and Amaroq (1997), as generalized derivatives, to establish both necessary and sufficient optimality conditions for various kinds of solutions to nonsmooth vector equilibrium problems with functional constraints. Our rst-order conditions are shown to be applicable in many cases, where existing ones cannot be applied. The second-order conditions are new. In Chapter 4, we consider nonsmooth multi-objective fractional programming on normed spaces. Using rst and second-order approximations as generalized derivatives, rst and second-order optimality conditions are established. For sufficient conditions no convexity is needed. Our results can be applied even in innite dimensional cases involving innitely discontinuousmaps. In Chapter 5, we establish sufficient conditions for the local uniqueness of solutions to nonsmooth strong and weak vector equilibrium problems. Also by using approximations, our results are valid even in cases where the maps involved in the problems suffer innite discontinuity at the considered point.

Dans une première partie, nous nous intéressons aux systèmes dynamiques gradients gouvernés par des fonctions non lisses, mais aussi non convexes, satisfaisant l'inégalité de Kurdyka-Lojasiewicz. Après avoir obtenu quelques résultats préliminaires pour la dynamique de la plus grande pente continue, nous étudions un algorithme de descente général. Nous prouvons, sous une hypothèse de compacité, que tout suite générée par ce schéma général converge vers un point critique de la fonction. Nous obtenons aussi de nouveaux résultats sur la vitesse de convergence, tant pour les valeurs que pour les itérés. Ce schéma général couvre en particulier des versions parallélisées de la méthode forward-backward, autorisant une métrique variable et des erreurs relatives. Cela nous permet par exemple de proposer une version non convexe non lisse de l'algorithme Levenberg-Marquardt. Enfin, nous proposons quelques applications de ces algorithmes aux problèmes de faisabilité, et aux problèmes inverses. Dans une seconde partie, cette thèse développe une dynamique de descente associée à des problèmes d'optimisation vectoriels sous contrainte. Pour cela, nous adaptons la dynamique de la plus grande pente usuelle aux fonctions à valeurs dans un espace ordonné par un cône convexe fermé solide. Cette dynamique peut être vue comme l'analogue continu de nombreux algorithmes développés ces dernières années. Nous avons un intérêt particulier pour les problèmes de décision multi-objectifs, pour lesquels cette dynamique de descente fait décroitre toutes les fonctions objectif au cours du temps. Nous prouvons l'existence de trajectoires pour cette dynamique continue, ainsi que leur convergence vers des points faiblement efficients. Finalement, nous explorons une nouvelle dynamique inertielle pour les problèmes multi-objectif, avec l'ambition de développer des méthodes rapides convergeant vers des équilibres de Pareto. / In a first part, we focus on gradient dynamical systems governed by non-smooth but also non-convex functions, satisfying the so-called Kurdyka-Lojasiewicz inequality.After obtaining preliminary results for a continuous steepest descent dynamic, we study a general descent algorithm. We prove, under a compactness assumption, that any sequence generated by this general scheme converges to a critical point of the function.We also obtain new convergence rates both for the values and the iterates. The analysis covers alternating versions of the forward-backward method, with variable metric and relative errors. As an example, a non-smooth and non-convex version of the Levenberg-Marquardt algorithm is detailed.Applications to non-convex feasibility problems, and to sparse inverse problems are discussed.In a second part, the thesis explores descent dynamics associated to constrained vector optimization problems. For this, we adapt the classic steepest descent dynamic to functions with values in a vector space ordered by a solid closed convex cone. It can be seen as the continuous analogue of various descent algorithms developed in the last years.We have a particular interest for multi-objective decision problems, for which the dynamic make decrease all the objective functions along time.We prove the existence of trajectories for this continuous dynamic, and show their convergence to weak efficient points.Then, we explore an inertial dynamic for multi-objective problems, with the aim to provide fast methods converging to Pareto points.

Cette thèse traite de problèmes liés à la couleur. En particulier, on s’intéresse à des problématiques communes à la colorisation d’images, de vidéos et au rehaussement de contraste. Si on considère qu’une image est composée de deux informations complémentaires, une achromatique (sans couleur) et l’autre chromatique (en couleur), les applications étudiées consistent à traiter une de ces deux informations en préservant sa complémentaire. En colorisation, la difficulté est de calculer une image couleur en imposant son niveau de gris. Le rehaussement de contraste vise à modifier l’intensité d’une image en préservant sa teinte. Ces problématiques communes nous ont conduits à étudier formellement la géométrie de l’espace RGB. On a démontré que les espaces couleur classiques de la littérature pour résoudre ces types de problème conduisent à des erreurs. Un algorithme, appelé spécification luminance-teinte, qui calcule une couleur ayant une teinte et une luminance données est décrit dans cette thèse. L’extension de cette méthode à un cadre variationnel a été proposée. Ce modèle a été utilisé avec succès pour rehausser les images couleur, en utilisant des hypothèses connues sur le système visuel humain. Les méthodes de l’état-de-l’art pour la colorisation d’images se divisent en deux catégories. La première catégorie regroupe celles qui diffusent des points de couleurs posés par l’utilisateur pour obtenir une image colorisée (colorisation manuelle). La seconde est constituée de celles qui utilisent une image couleur de référence ou une base d’images couleur et transfèrent les couleurs de la référence sur l’image en niveaux de gris (colorisation basée exemple). Les deux types de méthodes ont leurs avantages et inconvénients. Dans cette thèse, on propose un modèle variationnel pour la colorisation basée exemple. Celui-ci est étendu en une méthode unifiant la colorisation manuelle et basée exemple. Enfin, nous décrivons des modèles variationnels qui colorisent des vidéos tout en permettent une interaction avec l’utilisateur. / This thesis deals with problems related to color. In particular, we are interested inproblems which arise in image and video colorization and contrast enhancement. When considering color images composed of two complementary information, oneachromatic (without color) and the other chromatic (in color), the applications studied in this thesis are based on the processing one of these information while preserving its complement. In colorization, the challenge is to compute a color image while constraining its gray-scale channel. Contrast enhancement aims to modify the intensity channel of an image while preserving its hue.These joined problems require to formally study the RGB space geometry. In this work, it has been shown that the classical color spaces of the literature designed to solve these classes of problems lead to errors. An novel algorithm, called luminance-hue specification, which computes a color with a given hue and luminance is described in this thesis. The extension of this method to a variational framework has been proposed. This model has been used successfully to enhance color images, using well-known assumptions about the human visual system. The state-of-the-art methods for image colorization fall into two categories. The first category includes those that diffuse color scribbles drawn by the user (manual colorization). The second consists of those that benefits from a reference color image or a base of reference images to transfer the colors from the reference to the grayscale image (exemplar-based colorization). Both approach have their advantages and drawbacks. In this thesis, we design a variational model for exemplar-based colorization which is extended to a method unifying the manual colorization and the exemplar-based one. Finally, we describe two variational models to colorize videos in interaction with the user.

Les techniques d’optimisation non-lisse permettent de résoudre des problèmes difficiles de l’ingénieur automaticien qui étaient inaccessibles avec les techniques classiques. Il s’agit en particulier de problèmes de commande ou de filtrage impliquant de multiples modèles ou faisant intervenir des contraintes de structure pour la réduction des couts et de la complexité. Il en résulte que ces techniques sont plus à même de fournir des solutions réalistes dans des problématiques pratiques difficiles. Les industriels européens de l’aéronautique et de l’espace ont récemment porté un intérêt tout particulier à ces nouvelles techniques. Ces dernières font parfois partie du "process" industriel (THALES, AIRBUS DS Satellite, DASSAULT A) ou sont utilisées dans les bureaux d’étude: (SAGEM, AIRBUS Transport). Des études sont également en cours comme celle concernant le pilotage atmosphérique des futurs lanceurs tels d’Ariane VI. L’objectif de cette thèse concerne l'exploration, la spécialisation et le développement des techniques et outils de l'optimisation non-lisse pour des problématiques d'ingénierie non résolues de façon satisfaisante - incertitudes de différente nature - optimisation de l'observabilité et de la contrôlabilité - conception simultanée système et commande Il s’agit aussi d’évaluer le potentiel de ces techniques par rapport à l’existant avec comme domaines applicatifs l’aéronautique, le spatial ou les systèmes de puissance de grande dimension qui fournissent un cadre d’étude particulièrement exigeant. / Non-smooth optimization techniques help solving difficult engineering problems that would be unsolvable otherwise. Among them, control problems with multiple models or with constraints regarding the structure of the controller. The thesis objectives consist in the exploitation, specialization and development of non smooth optmization techniques and tools for solving engineering problems that are not satisfactorily solved to the present.

Cette thèse est dédiée à l'étude de la hiérarchie moments-sommes-de-carrés, une famille de problèmes de programmation semi-définie en optimisation polynomiale, couramment appelée hiérarchie de Lasserre. Nous examinons différents aspects de ses propriétés et applications. Comme application de la hiérarchie, nous approchons certains objets potentiellement compliqués, comme l'abscisse polynomiale et les plans d'expérience optimaux sur des domaines semi-algébriques. L'application de la hiérarchie de Lasserre produit des approximations par des polynômes de degré fixé et donc de complexité bornée. En ce qui concerne la complexité de la hiérarchie elle-même, nous en construisons une modification pour laquelle un taux de convergence amélioré peut être prouvé. Un concept essentiel de la hiérarchie est l'utilisation des modules quadratiques et de leurs duaux pour appréhender de manière flexible le cône des polynômes positifs et le cône des moments. Nous poursuivons cette idée pour construire des approximations étroites d'ensembles semi-algébriques à l'aide de séparateurs polynomiaux. / This thesis is dedicated to investigations of the moment-sums-of-squares hierarchy, a family of semidefinite programming problems in polynomial optimization, commonly called the Lasserre hierarchy. We examine different aspects of its properties and purposes. As applications of the hierarchy, we approximate some potentially complicated objects, namely the polynomial abscissa and optimal designs on semialgebraic domains. Applying the Lasserre hierarchy results in approximations by polynomials of fixed degree and hence bounded complexity. With regard to the complexity of the hierarchy itself, we construct a modification of it for which an improved convergence rate can be proved. An essential concept of the hierarchy is to use quadratic modules and their duals as a tractable characterization of the cone of positive polynomials and the moment cone, respectively. We exploit further this idea to construct tight approximations of semialgebraic sets with polynomial separators.

En imagerie numérique, les approches «problèmes inverses» régularisées reconstruisent une information d'intérêt à partir de mesures et d'un modèle de formation d'image. Le problème d'inversion étant mal posé, mal conditionné et le modèle de formation d'image utilisé peu contraint, il est nécessaire d'introduire des a priori afin de restreindre l'ambiguïté de l'inversion. Ceci permet de guider la reconstruction vers une solution satisfaisante. Les travaux de cette thèse ont porté sur le développement d'algorithmes de reconstruction d'hologrammes numériques, basés sur des méthodes d'optimisation en grande dimension (lisse ou non-lisse). Ce cadre général a permis de proposer différentes approches adaptées aux problématiques posées par cette technique d'imagerie non conventionnelle : la super­-résolution, la reconstruction hors du champ du capteur, l'holographie «couleur» et enfin la reconstruction quantitative d'objets de phase (c.a.d. transparents). Dans ce dernier cas, le problème de reconstruction consiste à estimer la transmittance complexe 2D des objets ayant absorbé et/ou déphasé l'onde d'éclairement lors de l'enregistrement de l'hologramme. Les méthodes proposées sont validées à l'aide de simulations numériques puis appliquées sur des données expérimentales issues de l'imagerie sans lentille ou de la microscopie holographique en ligne (imagerie cohérente en transmission, avec un objectif de microscope). Les applications vont de la reconstruction de mires de résolution opaques à la reconstruction d'objets biologiques (bactéries), en passant par la reconstruction de gouttelettes d'éther en évaporation dans le cadre d'une étude de la turbulence en mécanique des fluides. / In Digital Imaging, the regularized inverse problems methods reconstruct particular information from measurements and an image formation model. With an inverse problem that is ill-posed and ill­conditioned, and with the used image formation mode! having few constraints, it is necessary to introduce a priori conditions in order to restrict ambiguity for the inversion. This allows us to guide the reconstruction towards a satisfying solution. The works of the following thesis delve into the development of reconstruction algorithms of digital holograms based on large-scale optimization methods (smooth and non-smooth). This general framework allowed us to propose different approaches adapted to the challenges found with this unconventional imaging technique: the super-resolution, reconstruction outside the sensor's field, the color holography and finally, the quantitative reconstruction of phase abjects (i.e. transparent). For this last case, the reconstruction problem consists of estimating the complex 2D transmittance of abjects having absorbed and/or dephased the light wave during the recording of the hologram. The proposed methods are validated with the help of numerical simulations that are then applied on experimental data taken from the lensless imaging or from the in-line holographie microscopy (coherent imaging in transmission, with a microscope abject glass). The applications range from the reconstruction of opaque resolution sights, to the reconstruction of biological objects (bacteria), passing through the reconstruction of evaporating ether droplets from a perspective of turbulence study in fluid mechanics.

Cette thèse développe une méthode de faisceau non convexe pour la minimisation de fonctions localement lipschitziennes lower C1 puis l’applique à des problèmes de synthèse de lois de commande structurées issus de l’industrie aéronautique. Ici loi de commande structurée fait référence à une architecture de contrôle, qui se compose d’éléments comme les PIDs, combinés avec des filtres variés, et comprenant beaucoup moins de paramètres de réglage qu’un contrôleur d’ordre plein. Ce type de problème peut se formuler dans le cadre théorique et général de la programmation non convexe et non lisse. Parmi les techniques numériques efficaces pour résoudre ces problèmes non lisses, nous avons dans ce travail, opté pour les méthodes de faisceau, convenablement étendues au cas non convexe. Celles-ci utilisent un oracle qui, en chaque itéré x, retourne la valeur de la fonction et un sous-gradient de Clarke arbitraire. Afin de générer un pas de descente satisfaisant à partir de l’itéré sérieux courant, ces techniques stockent et accumulent de l’information, dans ce que l’on appelle le faisceau, obtenu à partir d’évaluations successives de l’oracle à chaque pas d’essai insatisfaisant. Dans cette thèse, on propose de construire le faisceau en décalant vers le bas une tangente de l’objectif en un pas d’essai ne constituant pas un pas de descente satisfaisant. Le décalage est indispensable dans le cas non convexe pour préserver la consistance, on dit encore l’exactitude, du modèle vis à vis de l’objectif. L’algorithme développé est validé sur un problème de synthèse conjointe du pilote automatique et de la loi des commandes de vol d’un avion civil en un point de vol donné et sur un problème de synthèse de loi de commande par séquencement de gain pour le contrôle longitudinal dans une enveloppe de vol. / This thesis develops a non convex bundle method for the minimization of lower C1 locally Lipschitz functions which it then applies to the synthesis of structured control laws for problems arising in aerospace control. Here a structured control law refers to a control architecture preferred by practitioners, which consist of elements like PIDs, combined with various filters, featuring significantly less tunable parameters than a full-order controller. This type of problem can be formulated under the theoretical and general framework of non convex and non smooth programming. Among the efficient numerical techniques to solve such non smooth problems, we have in this work opted for bundle methods, suitably extended to address non-convex optimization programs. Bundle methods use oracles which at every iterate x return the function value and one unspecified Clarke subgradient. In order to generate descent steps away from a current serious iterate, these techniques hinge on storing and accumulating information, called the bundle, obtained from successive evaluations of the oracle along the unsuccessful trial steps. In this thesis, we propose to build the bundle by shifting down a tangent of the objective at a trial step which is not a satisfactory descent step. The shift is essential in the non convex case in order to preserve the consistency, named also the exactitude, of the model with regard to the objective. The developed algorithm is validated on a synthesis problem combining the automatic pilot and the flight control law of a civil aircraft at a given flying point ; and a gain scheduled control law synthesis for the longitudinal control in a flight envelope.