Dans une première partie, on se donne un groupe réductif connexe complexe G, et on classifie les modules simples dont le cône des vecteurs primitifs admet une déformation G-invariante non triviale. On relie cette classification à celle des algèbres de Jordan simples, et aussi à celle (due à Akhiezer) des variétés projectives lisses dont les orbites sous l'action d'un groupe algébrique affine connexe sont un diviseur et son complémentaire. Notre principal outil est le schéma de Hilbert invariant d'Alexeev et Brion; on en détermine les premiers exemples. On détermine aussi les déformations infinitésimales (non nécessairement G-invariantes) des cônes des vecteurs primitifs; elles sont triviales pour presque tous les modules simples. Dans une seconde partie, on construit le ``schéma Quot invariant'' et on en détermine une classe d'exemples dans le cas où l'espace ambiant est un cône des vecteurs primitifs.

Dans cette thèse, nous étudions quelques problèmes géométriques liés aux domaines bornés symétriques réels. Ces espaces sont des espaces D=G/K riemanniens symétriques non compacts, obtenus à partir de domaines bornés hermitiens symétriques. Lorsque le domaine D=G/K est de type Cr ou Dr, G opère transitivement sur chaque composante connexe de l'ensemble [sigma] des tripotents maximaux du système triple de Jordan réel positif T0D. Dans le cas complexe, cet ensemble est connexe et est appelé frontière de Shilov du domaine. Dans le cas réel, [sigma] n'est en général pas connexe. Nous fixons donc une composante connexe S de [sigma]. Alors l'action de G sur S x S possède un nombre fini d'orbites et nous donnons un système explicite de représentants. Si le domaine est de type Cs ou D2s, alors parmi ces orbites, il y a celle des couples d'éléments transverses. Sous ces hypothèses, nous pouvons alors définir l'ensemble des triplets d'éléments de S transverses deux à deux, sur lequel G opère. Là encore, nous déterminons les orbites de cette action. Enfin, nous nous intéressons à un problème analytique concernant un système de Hua. Nous montrons que pour toute fonction continue [phi] sur S, la transformée de poisson f=P[sigma phi]:=[intégrale]SP(.,u)[sigma phi](u)du est solution du système de Hua Hf(x)=(2n-/r)2[sigma]([sigma]-1)f(x)Id, où P(.,.) est le noyau de Poisson sur D x S et où n- désigne la dimension de V-. / In this thesis, we are interested in geometric problems related with \emph{real bounded symmetric domains}. These spaces are Riemannian symmetric spaces $\mathcal{D}=G/K$ of noncompact type, constructed from \emph{hermitian bounded symmetric domains}. When $\mathcal{D}=G/K$ is of type $C_r$ or $D_r$, we prove that $G$ acts transitively on each connected component of the set $\Sigma$ of \emph{maximal tripotents} in the \emph{compact Jordan triple system} $T_0\mathcal{D}$. In the hermitian case, this set is connected and is called \emph{the Shilov boundary}. In the real case, $\Sigma$ is not necessarily connected, thus we choose a connected component $\mathcal{S}$ of $\Sigma$. Then the action of $G$ in $\mathcal{S}\times\mathcal{S}$ as a finite number of orbits for wich we give representative elements. If $\mathcal{D}$ is of type $C_s$ or $D_{2s}$, then the set of couples of transversal elements of $\mathcal{S}$ is a $G$-orbit in $\mathcal{S}\times\mathcal{S}$. Under these assumptions, $G$ acts on the set of transversal triples in $\mathcal{S}\times\mathcal{S}\times\mathcal{S}$ and we determine the orbits for this action. Finally, we are interested in Hua differential systems. We prove that for any continuous function $\varphi$ on $\mathcal{S}$, the Poisson transform $f=\mathcal{P}_\sigma\varphi:=\int_\mathcal{S}\mathcal{P}(\cdot,u)^\sigma\varphi(u)du$ is a solution of the Hua system $\mathcal{H}f(x)=(\frac{2n^-}{r})^2\sigma(\sigma-1)f(x)\textnormal{Id}$, where $\mathcal{P}(\cdot,\cdot)$ is the Poisson kernel on $\mathcal{D}\times\mathcal{S}$ and $n^-$ is the dimension of $V^-$.

Un théorème dû à Zak montre un lien pour le moins mystérieux entre des objets algébriques, les algèbres de Jordan, et des objets apparaissant naturellement dans le cadre de la géométrie projective complexe, les variétés de Scorza. La première partie de cette thèse essaie d'expliquer ce lien. Tout d'abord, la variété des éléments de rang de Jordan 1 dans une algèbre de Jordan est définie puis étudiée en détail: c'est une variété de Scorza et elle est l'image d'une généralisation de l'application de Veronese de degré deux. Ensuite, je donne des variantes de la preuve du théorème de Zak qui expliquent directement le lien avec les algèbres de Jordan, mais aussi l'homogénéité des variétés de Scorza et le rapport avec les espaces préhomogènes symétriques. Une technique omniprésente pour cette étude consiste à définir une algèbre par des constructions de géométrie projective: celle-ci permet de définir l'algèbre de Jordan dans laquelle vivent toutes les variétés de Scorza, mais s'applique plus généralement à un grand nombre d'autres algèbres. Par exemple, je donne une définition géométrique des algèbres de matrices, des algèbres de Lie et des algèbres de composition. De nombreux résultats de nature algébrique peuvent ainsi être retrouvés par des raisonnements géométriques particulièrement simples. J'étudie ainsi le groupe d'automorphismes d'une algèbre de Jordan et prouve une description des groupes spinoriels d'ordre pair. L'autre partie de cette thèse montre des théorèmes d'annulation pour les fibrés vectoriels amples. Je propose une généralisation d'un théorème dû à Laytimi et Nahm pour les puissances de Schur d'un fibré vectoriel correspondant à un produit tensoriel de crochets. Je démontre aussi des résultats pour les fibrés vectoriels de petit rang: ceux-ci impliquent une petite partie de la conjecture de Fulton et Lazarsfeld concernant la connexité de lieux de dégénérescence d'un morphisme de fibrés vectoriels. Par ailleurs, j'obtiens aussi des résultats plus forts dans le cas où le fibré est muni d'une forme quadratique non dégénérée ou symplectique à valeurs dans un fibré en droites. Ces résultats sont conséquence de théorèmes sur la cohomologie de Dolbeault des fibrés en droites homogènes sur les grassmanniennes, isotropes ou non. Je donne plusieurs résultats nouveaux concernant cette cohomologie.

Cette thèse concerne quatre thèmes apparemment différents, mais en fait intimement liés : problèmes variationnels sur les algèbres de Jordan euclidiennes, problèmes de complémentarité sur l’espace des matrices symétriques, analyse angulaire entre deux cônes convexes fermés et analyse du chemin central en programmation conique symétrique.Dans la première partie de ce travail, le concept de “commutation au sens opérationnel” dans les algèbres de Jordan euclidiennes est étudié en fournissant un principe de commutation pour problèmes variationnels avec données spectrales.Dans la deuxième partie, nous abordons l’analyse et la résolution numérique d’une large classe de problèmes de complémentarité sur l’espace des matrices symétriques. Les conditions de complémentarité sont exprimées en termes de l’ordre de Loewner ou, plus généralement, en termes d’un cône du type Loewnerien.La troisième partie de ce travail est une tentative de construction d’une théorie générale des angles critiques pour une paire de cônes convexes fermés. L’analyse angulaire pour une paire de cônes spécialement structurés est également considérée. Par-exemple, nous travaillons avec des sous-espaces linéaires, des cônes polyédriques, des cônes de révolution, des cônes “topheavy” et des cônes de matrices.La dernière partie de ce travail étudie la convergence et le comportement asymptotique du chemin central en programmation conique symétrique. Ceci est fait en utilisant des techniques propres aux algèbres de Jordan. / This thesis deals with four different but interrelated topics: variational problems on Euclidean Jordan algebras, complementarity problems on the space of symmetric matrices, angular analysis between two closed convex cones and the central path for symmetric cone linear programming.In the first part of this work we study the concept of “operator commutation” in Euclidean Jordan algebras by providing a commutation principle for variational problems involving spectral data.Our main concern of the second part is the analysis and numerical resolution of a broad class of complementarity problems on spaces of symmetric matrices. The complementarity conditions are expressed in terms of the Loewner ordering or, more generally, with respect to a dual pair of Loewnerian cones.The third part of this work is an attempt to build a general theory of critical angles for a pair of closed convex cones. The angular analysis for a pair of specially structured cones is also covered. For instance, we work with linear subspaces, polyhedral cones, revolution cones, topheavy cones and cones of matrices.The last part of this work focuses on the convergence and the limiting behavior of the central path in symmetric cone linear programming. This is done by using Jordan-algebra techniques.