Cette thèse traite de la géométrie des domaines bornés symétriques (et de leur frontière) dans les espaces de Banach. Dans la première partie, nous démontrons deux résultats connus dus à W. Kaup : la boule unité d'un JB*-triple est un domaine borné symétrique, et tout domaine borné symétrique est biholomorphe à la boule unité d'un JB*-triple. Dans la deuxième partie, nous nous intéressons à l'ensemble des tripotents inversibles d'un JB*-triple, qui est une réunion de composantes connexes de la frontière extrémale du domaine associé. Lorsque le JB*-triple admet un predual (ie. est un JBW*-triple), nous introduisons l`indice de transversalité abstrait de deux tripotents inversibles, et nous montrons qu'il est invariant sous l'action du groupe des biholomorphismes du domaine. Dans la suite nous construisons l'indice de Maslov d'un chemin continu dans la variété des tripotents inversibles d'un JB*-triple. Un tel chemin doit vérifier une condition de type Fredholm relativement à un tripotent fixé (par rapport auquel est calculé l'indice). Le point délicat est ici d'introduire la notion de paire de Fredholm. Nous définissons alors l'indice de transversalité d'une paire de Fredholm, et nous établissons un lemme de perturbation pour cet indice, qui nous permet de construire l'indice de Maslov et de montrer qu'il est invariant par homotopies à extrémités fixées. Cette construction généralise celle de Booss-Bavnbek et Furutani dans le cas de la Fredholm-Lagrangienne d'un espace de Hilbert symplectique. Nous faisons enfin le lien, en dimension finie, avec l'indice triple généralisé de J.-L. Clerc et B. Oersted. / This thesis deals with the geometry of bounded symmetric domains (and their boundaries) in Banach spaces. In the first part, we prove two known results due to W. Kaup : the unit ball of a JB*-triple is a bounded symmetric domain, and every bounded symmetric domain is biholomorphic to the unit ball of a JB*-triple. The second part deals with the set of invertible tripotents in a JB*-triple, wich is a union of connected components of the extremal boundary of the associated domain. When the JB*-triple admits a predual (ie. is a JBW*-triple), we introduce the abstract index of transversality and prove that it is invariant under the action of the group of biholomorphisms of the domain. After that we turn to the main topic of our thesis, wich consists in constructing the Malov index of a continuous path in the manifold of invertible tripotents of a JB*-triple. The path must satisfy a Fredholm-type condition with respect to a fixed invertible tripotent (with respect to wich the index is calculated). The difficulty is here to define a efficient notion of Fredholm pair. Then we define the index of transversality of a Fredholm-pair, and prove a perturbation lemma for this index, which enables us to construct the Maslov index and to prove that it is invariant under homotopies with fixed endpoints. This construction generalises the construction by Booss-Bavnbek and Furutani in the case of the Fredholm-Lagrangian of a symplectic Hilbert space. At the end we provide a link, in the finite dimensional case, with the generalised triple index of J.-L. Clerc and B. Oersted.

Dans cette thèse, nous étudions quelques problèmes géométriques liés aux domaines bornés symétriques réels. Ces espaces sont des espaces D=G/K riemanniens symétriques non compacts, obtenus à partir de domaines bornés hermitiens symétriques. Lorsque le domaine D=G/K est de type Cr ou Dr, G opère transitivement sur chaque composante connexe de l'ensemble [sigma] des tripotents maximaux du système triple de Jordan réel positif T0D. Dans le cas complexe, cet ensemble est connexe et est appelé frontière de Shilov du domaine. Dans le cas réel, [sigma] n'est en général pas connexe. Nous fixons donc une composante connexe S de [sigma]. Alors l'action de G sur S x S possède un nombre fini d'orbites et nous donnons un système explicite de représentants. Si le domaine est de type Cs ou D2s, alors parmi ces orbites, il y a celle des couples d'éléments transverses. Sous ces hypothèses, nous pouvons alors définir l'ensemble des triplets d'éléments de S transverses deux à deux, sur lequel G opère. Là encore, nous déterminons les orbites de cette action. Enfin, nous nous intéressons à un problème analytique concernant un système de Hua. Nous montrons que pour toute fonction continue [phi] sur S, la transformée de poisson f=P[sigma phi]:=[intégrale]SP(.,u)[sigma phi](u)du est solution du système de Hua Hf(x)=(2n-/r)2[sigma]([sigma]-1)f(x)Id, où P(.,.) est le noyau de Poisson sur D x S et où n- désigne la dimension de V-. / In this thesis, we are interested in geometric problems related with \emph{real bounded symmetric domains}. These spaces are Riemannian symmetric spaces $\mathcal{D}=G/K$ of noncompact type, constructed from \emph{hermitian bounded symmetric domains}. When $\mathcal{D}=G/K$ is of type $C_r$ or $D_r$, we prove that $G$ acts transitively on each connected component of the set $\Sigma$ of \emph{maximal tripotents} in the \emph{compact Jordan triple system} $T_0\mathcal{D}$. In the hermitian case, this set is connected and is called \emph{the Shilov boundary}. In the real case, $\Sigma$ is not necessarily connected, thus we choose a connected component $\mathcal{S}$ of $\Sigma$. Then the action of $G$ in $\mathcal{S}\times\mathcal{S}$ as a finite number of orbits for wich we give representative elements. If $\mathcal{D}$ is of type $C_s$ or $D_{2s}$, then the set of couples of transversal elements of $\mathcal{S}$ is a $G$-orbit in $\mathcal{S}\times\mathcal{S}$. Under these assumptions, $G$ acts on the set of transversal triples in $\mathcal{S}\times\mathcal{S}\times\mathcal{S}$ and we determine the orbits for this action. Finally, we are interested in Hua differential systems. We prove that for any continuous function $\varphi$ on $\mathcal{S}$, the Poisson transform $f=\mathcal{P}_\sigma\varphi:=\int_\mathcal{S}\mathcal{P}(\cdot,u)^\sigma\varphi(u)du$ is a solution of the Hua system $\mathcal{H}f(x)=(\frac{2n^-}{r})^2\sigma(\sigma-1)f(x)\textnormal{Id}$, where $\mathcal{P}(\cdot,\cdot)$ is the Poisson kernel on $\mathcal{D}\times\mathcal{S}$ and $n^-$ is the dimension of $V^-$.