Cette thèse est consacrée à l'analyse variationnelle des problèmes d'équilibre avec contraintes d'équilibre (problème d'optimisation bi-niveaux). Ce travail tire sa motivation de modèles de marchés de l'électricité issus de la théorie des jeux non coopératifs. Dans de tels marchés, un régulateur, appelé ISO (Independant System Operator), gère le clearing et les flux d'électricité entre zones d'enchère. Nous avons développé cette analyse variationnelle selon différents axes. Tout d'abord et sur un modèle spécifique, nous avons analysé de façon exhaustive la notion de meilleure réponse d'un producteur, grâce à la détermination d'une formule explicite pour l'unique solution du problème de bas niveau de l'ISO. Puis, pour un modèle plus général de marché, la stabilité des points M(ordukhovitch)-stationnaires a été étudiée via la notion de codérivée limiting de second ordre des opérateurs multivoques. En fin, le concept d'opérateur normal limiting a été introduit et des règles de calcul ont été obtenues, fournissant ainsi un nouvel outil performant pour l'analyse quasiconvexe. L'idée de base a été l'utilisation, pour des cônes normaux à des sous-niveaux d'une fonction, de la construction limiting classiqueen analyse variationnelle moderne. Cette approche est motivée par l'hypothèse de la quasiconvexité des fonctions de coût généralement faite dans de nombreux jeux non-coopératifs. / This thesis is focused on nonsmooth variational analysis of equilibrium problems with equilibrium constraints. Such an eff ort is directly motivated by a model of electricity markets encountered in non-cooperative game theory. In such a marketthere is the so-called Independent System Operator (ISO), a regulator entity that manages the market clearing and the electricity dispatch. This market structure makes the problem of electricity markets challenging from the mathematicalpoint of view. In this area, we discovered several possibilities for further development. First, the best responses of producers in a speci fic variant of a model are fully analysed. This progress was due to an analytical formula for a uniquesolution to the lower level ISO problem. Then, for a more general model of the market, stability of the so-called M(ordukhovich)-stationarity points is provided based on the concept of coderivatives. To this end, the respective second order limiting coderivative was computed. Finally, the concept of limiting normal operator is proposed, a new tool for quasiconvex analysis exhibiting workable calculus rules. The basic idea is to employ the same limiting construction that is used in modern variational analysis in connection with normal cones to sets. This topic is motivated by the classical assumption in many non-cooperative games where the loss function of players is often assumed to be quasiconvex.

Cette thèse s'articule autour d'une notion spectrale assez récente, appelée le spectre étendu des opérateurs. Dans la première partie nous fournissons des propriétés générales du spectre étendu d'un opérateur dans certains cas particuliers, tels que le cas de dimension finie et celui des opérateurs inversibles. Nous nous intéressons dans la deuxième partie à l'étude du spectre étendu de l'opérateur shift tronqué Su. En particulier, nous donnons une description complète des vecteurs propres étendus associes à chaque valeur propre étendue de Sb, ou b est un produit de Blaschke quelconque. Dans la troisième partie nous décrirons complètement le spectre étendu et les sous espaces propres étendus d'une classe d'opérateurs très importante : celle des opérateurs normaux. Nous commençons d'abord par la classe des opérateurs qui sont produits d'un opérateur positif par un autoadjoint. Ensuite, nous utilisons le théorème de Fuglede-Putnam pour déduire une description complète des valeurs et des vecteurs propres étendus des opérateurs normaux, en fonction de leur mesure spectrale. Dans la dernière partie, nous appliquons nos résultats des trois premières parties sur des exemples concrets. En particulier, nous traitons= le problème des sous espaces propres étendus des opérateurs définis dans un espace de dimension finie. Ensuite, nous montrons l'existence d'un opérateur compact quasinilpotent dont le spectre étendu est réduit au singleton {1}. Enfin, nous traitons deux opérateurs de Cesaro très importants dans les applications / This thesis is based on a relatively new spectral notion, called extended spectrum of operators. In the first part, we provide general properties of extended spectrum of an operator in some special cases, such as the case of finite dimension and the case of invertible operator. We focused in the second part on characterizing the extended spectrum of truncated shift operator Su. In particular, we give a complete description of the extended eigenvectors associated to each extended eigenvalue of Sb, where b is a Blaschke product. In the third part, we describe the extended spectrum and the extended eigenvectors of a very important class of operators , that is the normal operators. We first start by describing these last sets for the product of a positive and a self-adjoint operator which are both injective. After, we use the Fuglede-Putnam theorem to describe the same sets for normal operators, in terms of their spectral measure. In the last part, we apply our results from the last three parts on concrete examples. In particular, we address the problem of extended eigenvectors of operators defined in a finite dimension space. Next, we show the existence of a quasinilpotent compact operator whose extended spectrum is reduced to {1}. Finally, we study two Cesaro operators which are very important in applications

Le sujet de cette thèse porte sur la résolution d'équations d'opérateurs dans l'algèbre B(H) des opérateurs linéaires bornés sur un espace de Hilbert H. Nous étudié celles qui sont associées aux dérivations généralisées. Mon sujet de thèse explore aussi des équations beaucoup plus générales comme celles du type AXB - XD = E ou AXB - CXD = E où A, B, C, D et E appartiennent à B(H). Plus précisément il s'agit de donner une description des solutions de ces équations pour E appartenant à une famille précise(autoadjoint, normal, rang un, rang fini, compact, couple de Fuglède Putnam) et pour des opérateurs A, B, C et D appartenant à des bonnes classes d'opérateurs ( celles qui interviennent dans les applications, notamment en physique) comme les opérateurs autoadjoints, les opérateurs normaux, sous normaux,... En dehors du cas où les spectres de A et B sont disjoints, il n'existe pas de méthode générale pour construire de manière effective l'ensemble des solutions de l'équation de Sylvester AX - XB = C à partir des opérateurs A, B et C. Un des objectifs de mon travail de thèse est de fournir une méthode constructive dans le cas où A, B et C appartiennent à des bonnes classes d'opérateurs. Une étude spectrale des solutions est également faite. A coté de cette étude qualitative, il y a aussi une étude quantitative.Il s'agit d'obtenir aussi des estimations précises de la norme d'opérateur(ou norme de Schatten) des solutions en fonction des normes des opérateurs correspondants aux données. Ceci nous a d'ailleurs conduit à des résultats concernant quelques inégalités intéressantes pour les dérivations généralisées, et enfin quelques résultats concernant les opérateurs dans un espace de Banach sont également donnés / The subject of this thesis focuses on the resolution of operator equationsin B(H) algebra of bounded linear operators on a Hilbert space. We studythose associated with generalized derivations. In this thesis, we also exploremore general equations such as the type AXB - XD = E or AXB -CXD = E where A, B, C, D and E belong to B(H). Specifically it is adescription of the solutions of these equations for E belongs in a precisefamily (Self-adjoint, normal, rank one, finite rank, compact, pair of FugledePutnam) and the operators A, B, C and D belonging to the good classesof operators (Those involved in applications , especially in physics) as theself-adjoint operators, normal operators, subnormal operators... Apart fromthe case where the spectra of A and B are disjoint, there is not any generalmethod for constructing effectively all solutions of the Sylvester equationAX - XB = C from the given operators A, B and C. One objective of thisthesis is to provide a constructive approach in when A, B and C belong toconventional families of operators. A spectral study of the solutions is alsostudied. Besides this qualitative study, there is also a quantitative study.It is also to obtain accurate estimates of the operator norm (or norm ofSchatten) of the solutions in terms of operator norms corresponding to data.This also led us to obtain results concerning some interesting inequalitiesfor generalized derivations, and finally some examples and properties ofoperators on a Banach space are also given