L’objectif principal de cette thèse est d’étudier les structures périphériques des groupes relativement hyperboliques. En contraste avec l’hyperbolicité ordinaire, l’hyperbolicité relative est définie par rapport à une famille finie de sous-groupes, appelée structure périphérique. Dans cette thèse, on introduit et caractérise une classe de structures paraboliques étendues pour des groupes relativement hyperboliques. En particulier, on montre que si un groupe relativement hyperbolique agit de façon géométriquement finie sur son bord de Floyd, alors les structures paraboliques étendues se révèlent être les seules possibles.La thèse met également l’accent sur l’étude des sous-groupes relativement quasiconvexes, qui jouent un rôle important en théorie des groupes relativement hyperboliques. Grâce à la flexibilité des structures périphériques, la quasiconvexité relative d’un sous-groupe est caractérisée par rapport aux structures paraboliques étendues. En outre, les sous-groupes relativement quasiconvexes sont étudiés par des méthodes dynamiques en terme des groupes de convergence. Ceci nous conduit à obtenir un théorème décrivant l’intersection des ensembles limites pour une paire de sous-groupes relativement quasiconvexes ; et donner des preuves dynamiques de plusieurs résultats bien connus sur les sous-groupes relativement quasiconvexes. De plus, le nombre de classes de conjugaison de sous-groupes finis est étudié dans des groupes relativement hyperboliques. Dans le cas des groupes kleiniens, on obtient plusieurs résultats sur le lien entre les ensembles d’axes et la commensurabilité de deux groupes kleiniens. Un résultat de la thèse d’intérêt indépendant montre qu’un sous-groupe separable a la propriété d’empilement borné. Ceci implique que cette propriété est vraie pour tout sous-groupe d’un groupe polycyclique, répondant à une question de Hruska-Wise. / The main objective of this thesis is to study peripheral structures of relatively hyperbolic groups. In contrast with hyperbolicity, relative hyperbolicity is defined with respect to a finite collection of subgroups, which is referred to as a peripheral structure. In the thesis, we introduce and characterize a class of peripheralstructures: parabolically extended structures for relatively hyperbolic groups. In particular, it is shown that if a relatively hyperbolic group acts geometrically finitely on its Floyd boundary, then parabolically extended structures turn out to be the only possible ones. The thesis also focuses on the study of relatively quasiconvex subgroups, which play an important role in the theory of relatively hyperbolic groups. With the flexibility of peripheral structures, relative quasiconvexity of a subgroup is characterized with respect to parabolically extended structures. Moreover, relatively quasiconvex subgroups are studied using dynamical methods in terms of convergence group actions. This leads us to obtain a limit set intersection theorem for a pair of relatively quasiconvex subgroups, and give dynamical proofs of several well-known results on relatively quasiconvex subgroups. In addition, the number of conjugacy classes of finite subgroups is explored in relatively hyperbolic groups. In Kleinian groups, we prove several results on the relationship between the axes sets and commensurability of two Kleinian groups. A result of independent interest in the thesis is that a separable subgroup has the bounded packing property. This implies that the property is true for each subgroup of a polycyclic group, answering a question of Hruska-Wise.

Cette thèse traite de deux problèmes en géométrie hyperbolique réelle et complexe. On étudie dans un premier temps des structures géométriques sur des espaces de modules de métriques plates à singularités coniques sur la sphère. D'après des travaux de W. Thurston, l'espace de modules des métriques plates sur S^2 à n singularités coniques d'angles donnés admet une structure de variété hyperbolique complexe non complète, dont le complété métrique est une variété conique hyperbolique complexe. On étudie dans cette thèse des formes réelles de ces espaces complexes en se restreignant à des métriques invariantes par une involution. On décrit une structure hyperbolique réelle sur les espaces de modules de métriques plates symétriques à 6 (respectivement 8) singularités d'angles égaux. On décrit les composantes connexes de ces espaces comme ouverts denses d'orbifolds hyperboliques arithmétiques. On montre que les complétés métriques de ces composantes connexes admettent un recollement naturel, dont on étudie la structure.La deuxième partie de cette thèse traite des ensembles limites de groupes discrets d'isométries du plan hyperbolique complexe. On construit le premier exemple explicite de sous-groupe discret de PU(2,1) dont l'ensemble limite est homéomorphe à l'éponge de Menger / This thesis is concerned with two problems in real and complex hyperbolic geometry. The first problem is the study of geometric structures on moduli spaces of flat metrics on the sphere with cone singularities. W. Thurston proved that the moduli space of flat metrics on S^2 with n singularities of given angles forms a non complete complex hyperbolic manifold, and that its metric completion is a complex hyperbolic cone-manifold. In this thesis we study real forms of these complex spaces by restricting our attention to metrics that are invariant under an involution. We describe a real hyperbolic structure on moduli spaces of flat symmetric metrics of 6 (respectively 8) singularities of same angle. We describe explicitly the connected components of these spaces as dense open subsets of arithmetic hyperbolic orbifolds. We show that the metric completions of these components admit a natural gluing, and we study the structure of the glued space. The second part of this thesis is devoted to the study of limit sets of discrete subgroups of the isometry group of complex hyperbolic plane. We construct the first known explicit example of a discrete subgroup of PU(2,1) which admits a limit set homeomorphic to the Menger curve