Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Dans cette thèse nous présentons dans un premier temps une nouvelle notion de différentiabilité généralisée pour les applications multivoques, faisant intervenir des applications positivement homogènes: la H-différentiabilité. Nous étudions la stabilité de cette notion en utilisant la convergence de Fischer, d'abord dédiée aux ensembles mais que nous avons adaptée aux applications multivoques. Nous nous intéressons ensuite à l'étude de la dépendance continue des ensembles de points fixes d'une application multivoque contractante par rapport aux données. Finalement nous analysons la convergence d'une méthode d'approximations successives de type forward-backward splitting, des zéros de la somme de deux opérateurs multivoques non monotones, jouissants notamment de propriétés de pseudo H-différentiabilité / In this thesis we present at first a new concept of generalized differentiation for setvalued mappings, involving positively homogeneous applications: the H-differentiability. We study the stability of this notion by using Fischer convergence,firstly dedicated to sets but which we have adapted to set-valued mappings. We establish the continuous dependence of fixed points sets of set-valued contraction and finally we study the convergence of a forward-backward splitting method for approximating the zeros of the sum of two non-monotone set-valued mappings, notably using properties of pseudo H-differentiability.

On s'intéresse dans cette thèse à l'étude théorique et numérique des équations différentielles stochastiques multivoques et leurs applications à la modélisation de structures mécaniques sous sollicitations aléatoires. Les équations différentielles stochastiques considérées comportent dans le terme de dérive un opérateur multivoque maximal monotone pour lesquelles l'existence et l'unicité de solutions ont déjà été obtenues dans un cadre euclidien. Pour de telles équations on montre la convergence d'un schéma numérique, faisant intervenir grâce à la maximalité et à la monotonie des opérateurs considérés, des applications exclusivement univoques, rendant son implémentation aisée. Un ordre de convergence est de plus obtenu sous certaines conditions sur le coefficient de diffusion. Pour enrichir la modélisation, on envisage des équations différentielles stochastiques multivoques d'ordre 2 évoluant sur une variété riemanienne pour lesquelles ont été obtenues l'existence et l'unicité d'une solution. Des simulations numériques sur des modèles d'association en série ou en parallèle de ressorts, amortisseurs et patins (ou éléments de Saint-Venant), dont la formalisation mathématique fait intervenir des équations différentielles stochastiques multivoques, ont permis de valider des méthodes d'identification de paramètres à partir de cycles d'hystérésis.

Ce document de synthèse s'articule autour de l'analyse convexe, de l'analyse quasi-convexe et des applications en optimisation. Dans le premier domaine on aborde les thèmes de la continuité, de la différentiabilité et des critères de coïncidence pour les fonctions convexes, puis la convexification des fonctions semi-continues inférieurement. Pour l'étude des fonctions quasi-convexes deux approches sont adoptées : une approche analytique, via un sous-différentiel généralisé, et une approche géométrique, basée sur les normales aux tranches. La dernière partie est consacrée à des applications à l'intégration d'opérateurs multivoques, aux inéquations variationnelles et à des problèmes d'optimisation multicritères en dimension finie et infinie. Parmi les nouveautés de ce travail, on trouve la notion de monotonie fortement cyclique, qui caractérise le sous-différentiel d'une fonction convexe dont la restriction à son domaine est continue, la quasi-monotonie cyclique, qui est une propriété intrinsèque du sous-différentiel d'une fonction quasi-convexe avec des applications importantes en économie mathématique, et la notion de quasi-monotonie propre, qui caractérise les opérateurs pour lesquels l'inéquation variationnelle associée a toujours des solutions sur toute sous-partie convexe et faiblement compacte de leur domaine. Notons encore une nouvelle caractérisation de la propriété de Radon-Nikodym, et une extension à la dimension infinie d'un résultat de Janin concernant l'intégration d'un opérateur maximal cycliquement sous-monotone, résultat qui généralise le théorème classique de Rockafellar pour les opérateurs maximaux cycliquement monotones.

Les travaux de cette thèse portent sur les prédérivées d'applications multivoques et la théorie de l'optimisation. Dans un premier temps, nous établissons des résultats d'existence de différents types de prédérivées pour certaines classes d'applications. Spécialement, pour des applications multivoques possédant certaines propriétés de convexité. Par la suite, nous appliquons ces résultats dans le cadre de la théorie de l'optimisation multivoque en établissant des conditions nécessaires et des conditions suffisantes d'optimalité. Sous des hypothèses de convexité, nous établissons des résultats naturels propres aux minimiseurs en optimisation convexe. Ensuite, nous appliquons quelques uns de nos résultats théoriques à un modèle de l'économie du bien-être en établissant notamment une équivalence entre les allocations optimales faibles de Pareto du modèle économique et les minimiseurs faibles d'un problème d'optimisation multivoque associé. D'autre part, en utilisant certaines notions d'intérieur généralisé existant dans la littérature, nous discutons dans un cadre unifié divers concepts de minimiseurs relaxés. En vue d'étudier leur stabilité, nous introduisons une topologie sur des espaces vectoriels ordonnés dont découle une notion de convergence nous permettant de définir deux concepts de convergence variationnelle qui sont ensuite utilisés pour établir la stabilité supérieure et la stabilité inférieure des ensembles de minimiseurs relaxés considérés dans ce travail. / This work is devoted to the study of prederivatives of set-valued maps and the theory of optimization. First, we establish results regarding the existence of several kinds of prederivatives for some classes set-valued maps. Specially for set-valued maps enjoying convexity properties. Subsequently, we apply our results in the framework of set optimization by establishing both necessary and sufficient optimality conditions, involving such prederivatives, for set optimization problems. Under convexity assumptions, we prove some natural results fitting the paradigm of minimizers in convex optimization. Then, we apply some of our theoretical results to a model of welfare economics by establishing in particular an equivalence between the weak Pareto optimal allocations of the model and the weak minimizes of a set optimization problem associated. Taking adventadge of several generalized interiority notions existing in the literature, we discuss in a unified way corresponding notions of relaxed minimizers In order to establish stability results, we introduce a topology on vector ordered spaces from which we derive a concept of convergence that we use to define two concepts of variational convergence that allow us to study both the upper and the lower stability of sets of relaxed minimizers we consider.