En optimisation les conditions d'optimalité jouent un rôle primordial pour détecter les solutions optimales et leur étude occupe une place significative dans la recherche actuelle. Afin d'exprimer adéquatement des conditions d'optimalité les chercheurs ont introduit diverses notions de dérivées généralisées non seulement pour des fonctions non lisses, mais aussi pour des fonctions à valeurs ensemblistes, dites applications multivoques ou multifonctions. Cette thèse porte sur l'application des deux nouveaux concepts de dérivées généralisées: les ensembles variationnels de Khanh-Tuan et les approximations de Jourani-Thibault, aux problèmes d'optimisation multiobjectif et aux problèmes d'équilibre vectoriel. L'enjeu principal est d'obtenir des conditions d'optimalité du premier et du second ordre pour les problèmes ayant des données multivoques ou univoques non lisses et pas forcément continues, et des conditions assurant l'unicité des solutions dans les problèmes d'équilibre vectoriel.

Cette thèse est divisée en deux parties. Dans la première partie, nous étudions des problèmes de contrôle optimal déterministes avec contraintes et nous nous intéressons à des questions d'analyse de sensibilité. Le point de vue que nous adoptons est celui de l'optimisation abstraite; les conditions d'optimalité nécessaires et suffisantes du second ordre jouent alors un rôle crucial et sont également étudiées en tant que telles. Dans cette thèse, nous nous intéressons à des solutions fortes. De façon générale, nous employons ce terme générique pour désigner des contrôles localement optimaux pour la norme L1. En renforçant la notion d'optimalité locale utilisée, nous nous attendons à obtenir des résultats plus forts. Deux outils sont utilisés de façon essentielle : une technique de relaxation, qui consiste à utiliser plusieurs contrôles simultanément, ainsi qu'un principe de décomposition, qui est un développement de Taylor au second ordre particulier du lagrangien. Les chapitres 2 et 3 portent sur les conditions d'optimalité nécessaires et suffisantes du second ordre pour des solutions fortes de problèmes avec contraintes pures, mixtes et sur l'état final. Dans le chapitre 4, nous réalisons une analyse de sensibilité pour des problèmes relaxés avec des contraintes sur l'état final. Dans le chapitre 5, nous réalisons une analyse de sensibilité pour un problème de production d'énergie nucléaire. Dans la deuxième partie, nous étudions des problèmes de contrôle optimal stochastique sous contrainte en probabilité. Nous étudions une approche par programmation dynamique, dans laquelle le niveau de probabilité est vu comme une variable d'état supplémentaire. Dans ce cadre, nous montrons que la sensibilité de la fonction valeur par rapport au niveau de probabilité est constante le long des trajectoires optimales. Cette analyse nous permet de développer des méthodes numériques pour des problèmes en temps continu. Ces résultats sont présentés dans le chapitre 6, dans lequel nous étudions également une application à la gestion actif-passif.

En optimisation les conditions d’optimalité jouent un rôle primordial pour détecter les solutions optimales et leur étude occupe une place significative dans la recherche actuelle. Afin d’exprimer adéquatement des conditions d’optimalité les chercheurs ont introduit diverses notions de dérivées généralisées non seulement pour des fonctions non lisses, mais aussi pour des fonctions à valeurs ensemblistes, dites applications multivoques ou multifonctions. Cette thèse porte sur l’application des deux nouveaux concepts de dérivées généralisées: les ensembles variationnels de Khanh-Tuan et les approximations de Jourani-Thibault, aux problèmes d’optimisation multiobjectif et aux problèmes d’équilibre vectoriel. L’enjeu principal est d’obtenir des conditions d’optimalité du premier et du second ordre pour les problèmes ayant des données multivoques ou univoques non lisses et pas forcément continues, et des conditions assurant l’unicité des solutions dans les problèmes d’équilibre vectoriel. / Optimality conditions for nonsmooth optimization have become one of the most important topics in the study of optimization-related problems. Various notions of generalized derivatives have been introduced to establish optimality conditions. Besides establishing optimality conditions, generalized derivatives also is an important tool for studying the local uniqueness of solutions. During the last three decades, these topics have been being developed, generalized and applied to many elds of mathematics by many authors all over the world. The purpose of this thesis is to investigate the above topics. It consists of ve chapters. In Chapter 1, we develop elements of calculus of variational sets for set-valued mappings, which were recently introduced in Khanh and Tuan (2008). Most of the usual calculus rules, from chain and sum rules to rules for unions, intersections, products and other operations on mappings, are established. As applications we provide a direct employment of sum rules to establishing an explicit formula for a variational set of the solution map to a parametrized variational inequality in terms of variational sets of the data. Furthermore, chain rules and sum or product rules are also used to prove optimality conditions for weak solutions of some vector optimization problems. In Chapter 2, we propose notions of higher-order outer and inner radial derivatives of set-valued maps and obtain main calculus rules. Some direct applications of these rules in proving optimality conditions for particular optimization problems are provided. Then, we establish higher-order optimality necessary conditions and sufficient ones for a general set-valued vector optimization problem with inequality constraints. Chapter 3 is devoted to using first and second-order approximations, which were introduced by Jourani and Thibault (1993) and Allali and Amaroq (1997), as generalized derivatives, to establish both necessary and sufficient optimality conditions for various kinds of solutions to nonsmooth vector equilibrium problems with functional constraints. Our rst-order conditions are shown to be applicable in many cases, where existing ones cannot be applied. The second-order conditions are new. In Chapter 4, we consider nonsmooth multi-objective fractional programming on normed spaces. Using rst and second-order approximations as generalized derivatives, rst and second-order optimality conditions are established. For sufficient conditions no convexity is needed. Our results can be applied even in innite dimensional cases involving innitely discontinuousmaps. In Chapter 5, we establish sufficient conditions for the local uniqueness of solutions to nonsmooth strong and weak vector equilibrium problems. Also by using approximations, our results are valid even in cases where the maps involved in the problems suffer innite discontinuity at the considered point.

La thèse porte sur des problèmes de contrôle optimal où la dynamique est donnée par des équations différentielles avec mémoire. Pour ces problèmes d'optimisation, des conditions d'optimalité sont établies ; celles du second ordre constituent une part importante des résultats de la thèse. Dans le cas - sans mémoire - des équations différentielles ordinaires, les conditions d'optimalité standards sont renforcées en ne faisant intervenir que les multiplicateurs de Lagrange pour lesquels le principe de Pontryaguine est satisfait. Cette restriction à un sous-ensemble des multiplicateurs représente un défi dans l'établissement des conditions nécessaires et permet aux conditions suffisantes d'assurer l'optimalité locale dans un sens plus fort. Les conditions standards sont d'autre part étendues au cas - avec mémoire - des équations intégrales. Les contraintes pures sur l'état du problème précédent ont été conservées et nécessitent une étude spécifique à la dynamique intégrale. Une autre forme de mémoire dans l'équation d'état d'un problème de contrôle optimal provient d'un travail de modélisation avec l'optimisation thérapeutique comme application médicale en vue. La dynamique de populations de cellules cancéreuses sous l'action d'un traitement est ramenée à des équations différentielles à retards ; le comportement asymptotique en temps long du modèle structuré en âge est également étudié.

La thèse porte sur des problèmes de contrôle optimal où la dynamique est donnée par des équations différentielles avec mémoire. Pour ces problèmes d'optimisation, des conditions d'optimalité sont établies ; celles du second ordre constituent une part importante des résultats de la thèse. Dans le cas - sans mémoire - des équations différentielles ordinaires, les conditions d'optimalité standards sont renforcées en ne faisant intervenir que les multiplicateurs de Lagrange pour lesquels le principe de Pontryaguine est satisfait. Cette restriction à un sous-ensemble des multiplicateurs représente un défi dans l'établissement des conditions nécessaires et permet aux conditions suffisantes d'assurer l'optimalité locale dans un sens plus fort. Les conditions standards sont d'autre part étendues au cas - avec mémoire - des équations intégrales. Les contraintes pures sur l'état du problème précédent ont été conservées et nécessitent une étude spécifique à la dynamique intégrale. Une autre forme de mémoire dans l'équation d'état d'un problème de contrôle optimal provient d'un travail de modélisation avec l'optimisation thérapeutique comme application médicale en vue. La dynamique de populations de cellules cancéreuses sous l'action d'un traitement est ramenée à des équations différentielles à retards ; le comportement asymptotique en temps long du modèle structuré en âge est également étudié.

Cette thèse est divisée en deux parties. Dans la première partie on s'intéresse aux problèmes de commande optimale déterministes et on étudie des approximations intérieures pour deux problèmes modèles avec des contraintes de non-négativité sur la commande. Le premier modèle est un problème de commande optimale dont la fonction de coût est quadratique et dont la dynamique est régie par une équation différentielle ordinaire. Pour une classe générale de fonctions de pénalité intérieure, on montre comment calculer le terme principal du développement ponctuel de l'état et de l'état adjoint. Notre argument principal se fonde sur le fait suivant: si la commande optimale pour le problème initial satisfait les conditions de complémentarité stricte pour le Hamiltonien sauf en un nombre fini d'instants, les estimations pour le problème de commande optimale pénalisé peuvent être obtenues à partir des estimations pour un problème stationnaire associé. Nos résultats fournissent plusieurs types de mesures de qualité de l'approximation pour la technique de pénalisation: estimations des erreurs de la commande , estimations des erreurs pour l'état et l'état adjoint et aussi estimations de erreurs pour la fonction valeur. Le second modèle est le problème de commande optimale d'une équation semi-linéaire elliptique avec conditions de Dirichlet homogène au bord, la commande étant distribuée sur le domaine et positive. L'approche est la même que pour le premier modèle, c'est-à-dire que l'on considère une famille de problèmes pénalisés, dont la solution définit une trajectoire centrale qui converge vers la solution du problème initial. De cette manière, on peut étendre les résultats, obtenus dans le cadre d'équations différentielles, au contrôle optimal d'équations elliptiques semi-linéaires. Dans la deuxième partie on s'intéresse aux problèmes de commande optimale stochastiques. Dans un premier temps, on considère un problème linéaire quadratique stochastique avec des contraintes de non-negativité sur la commande et on étend les estimations d'erreur pour l'approximation par pénalisation logarithmique. La preuve s'appuie sur le principe de Pontriaguine stochastique et un argument de dualité. Ensuite, on considère un problème de commande stochastique général avec des contraintes convexes sur la commande. L'approche dite variationnelle nous permet d'obtenir un développement au premier et au second ordre pour l'état et la fonction de coût, autour d'un minimum local. Avec ces développements on peut montrer des conditions générales d'optimalité de premier ordre et, sous une hypothèse géométrique sur l'ensemble des contraintes, des conditions nécessaires du second ordre sont aussi établies.

Cette thèse est dédiée à l'étude mathématique de quelques modèles de trafic routier congestionné. La notion essentielle est l'équilibre de Wardrop. Elle poursuit des travaux de Carlier et Santambrogio avec des coauteurs. Baillon et Carlier ont étudié le cas de grilles cartésiennes dans $\RR^2$ de plus en plus denses, dans le cadre de la théorie de $\Gamma$-convergence. Trouver l'équilibre de Wardrop revient à résoudre des problèmes de minimisation convexe. Dans le chapitre 2, nous regardons ce qui se passe dans le cas de réseaux généraux, de plus en plus denses, dans $\RR^d$. Des difficultés nouvelles surgissent par rapport au cas initial de réseaux cartésiens et pour les contourner, nous introduisons la notion de courbes généralisées. Des hypothèses structurelles sur ces suites de réseaux discrets sont nécessaires pour s'assurer de la convergence. Cela fait alors apparaître des fonctions qui sont des sortes de distances de Finsler et qui rendent compte de l'anisotropie du réseau. Nous obtenons ainsi des résultats similaires à ceux du cas cartésien. Dans le chapitre 3, nous étudions le modèle continu et en particulier, les problèmes limites. Nous trouvons alors des conditions d'optimalité à travers une formulation duale qui peut être interprétée en termes d'équilibres continus de Wardrop. Cependant, nous travaillons avec des courbes généralisées et nous ne pouvons pas appliquer directement le théorème de Prokhorov, comme cela a été le cas dans \cite{baillon2012discrete, carlier2008optimal}. Pour pouvoir néanmoins l'utiliser, nous considérons une version relaxée du problème limite, avec des mesures d'Young. Dans le chapitre 4, nous nous concentrons sur le cas de long terme, c'est-à-dire, nous fixons uniquement les distributions d'offre et de demande. Comme montré dans \cite{brasco2013congested}, le problème de l'équilibre de Wardrop est équivalent à un problème à la Beckmann et il se réduit à résoudre une EDP elliptique, anisotropique et dégénérée. Nous utilisons la méthode de résolution numérique de Lagrangien augmenté présentée dans \cite{benamou2013augmented} pour proposer des exemples de simulation. Enfin, le chapitre 5 a pour objet l'étude de problèmes de Monge avec comme coût une distance de Finsler. Cela se reformule en des problèmes de flux minimal et une discrétisation de ces problèmes mène à un problème de point-selle. Nous le résolvons alors numériquement, encore grâce à un algorithme de Lagrangien augmenté. / This thesis is devoted to the mathematical analysis of some models of congested road traffic. The essential notion is the Wardrop equilibrium. It continues Carlier and Santambrogio's works with coauthors. With Baillon they studied the case of two-dimensional cartesian networks that become very dense in the framework of $\Gamma$-convergence theory. Finding Wardrop equilibria is equivalent to solve convex minimisation problems.In Chapter 2 we look at what happens in the case of general networks, increasingly dense. New difficulties appear with respect to the original case of cartesian networks. To deal with these difficulties we introduce the concept of generalized curves. Structural assumptions on these sequences of discrete networks are necessary to obtain convergence. Sorts of Finsler distance are used and keep track of anisotropy of the network. We then have similar results to those in the cartesian case.In Chapter 3 we study the continuous model and in particular the limit problems. Then we find optimality conditions through a duale formulation that can be interpreted in terms of continuous Wardrop equilibria. However we work with generalized curves and we cannot directly apply Prokhorov's theorem, as in \cite{baillon2012discrete, carlier2008optimal}. To use it we consider a relaxed version of the limit problem with Young's measures. In Chapter 4 we focus on the long-term case, that is, we fix only the distributions of supply and demand. As shown in \cite{brasco2013congested} the problem of Wardrop equilibria can be reformulated in a problem à la Beckmann and reduced to solve an elliptic anisotropic and degenerated PDE. We use the augmented Lagrangian scheme presented in \cite{benamou2013augmented} to show a few numerical simulation examples. Finally Chapter 5 is devoted to studying Monge problems with as cost a Finsler distance. It leads to minimal flow problems. Discretization of these problems is equivalent to a saddle-point problem. We then solve it numerically again by an augmented Lagrangian algorithm.