On étudie le flot géodésique d'une géométrie de Hilbert définie par un ouvert strictement convexe à bord de classe $C^1$. On s'intéresse à la fois à son comportement local autour d'une orbite, et à ses propriétés globales sur une variété quotient. On explique en quoi ce flot a des propriétés locales de type hyperbolique, en étudiant notamment ses exposants de Lyapunov, qu'on relie précisément à la forme du bord du convexe. On prouve un résultat de rigidité entropique pour les quotients compacts. Dans le reste de la thèse, on développe des outils généraux permettant d'aborder le cas des quotients non compacts, en s'inspirant de qu'on sait faire en courbure négative. Le cas des surfaces géométriquement finies est traitée plus spécifiquement, et le théorème de rigidité est étendu au cas des surfaces de volume fini.

Dans cette thèse, nous étudions la dynamique du flot géodésique de Teichmüller. L'origine de cet intérêt provient de l'étude d'une classe très importante de systèmes dynamiques : celle des échanges d'intervalles. Dans des travaux classiques, Masur et Veech montrent en 1982 que la dynamique de ces échanges d'intervalles est reliée avec la dynamique du flot géodésique de Teichmüller sur l'espace des modules des courbes complexes. L'espace des phases de ce flot peut être vu comme l'espace des modules des différentielles quadratiques sur une surface. Ces espaces sont naturellement stratifiés par le type des singularités des formes. De plus ces strates sont préservées par l'action de ce flot. Des résultats classiques affirment que ces strates sont des orbifolds complexes et sont non-vides et non-connexes en « général ». La motivation du travail expliqué dans cette thèse est donnée par le résultat fondamental, démontré indépendamment par Masur et par Veech (1982), qui affirme que le flot géodésique de Teichmüller agit de façon ergodique sur chaque composante connexe de chaque strate (normalisée), par rapport à une mesure invariante de masse finie. Kontsevich et Zorich ont classifié les composantes connexes des strates de l'espace des modules Hg des différentielles abéliennes. Dans cette thèse, nous donnons une description précise des composantes des strates dans le cas complémentaire de celui de Kontsevich- Zorich, c'est-à-dire de l'espace des modules Qg des différentielles quadratiques qui ne sont pas globalement le carré de différentielles abéliennes. Par ailleurs, nous donnons une formule explicite pour le calcul de la structure spin d'une différentielle quadratique de Qg en termes uniquement des singularités de la strate. Ceci contredit une conjecture de Kontsevich-Zorich sur la classification des composantes connexes non-hyperelliptiques de Qg par cette structure spin. En utilisant cette formule, nous donnons une application dans le contexte des billards dans un polygone rationnel.

On étudie le comportement topologique du flot horocyclique sur des surfaces hyperboliques géométriquement infinies. Cette étude est intimement liée à celle du flot géodésique sur ces surfaces. Le premier chapitre commence par introduire les objets de géométrie hyperbolique que nous utiliserons. Il présente ensuite une classe de surfaces, les flûtes hyperboliques, qui couvrent une grande partie de la complexité des surfaces géométriquement infinies. Enfin, il aborde la notion de finesse asymptotique d'une demi-géodésique, qui donne la limite inférieure du rayon d'injectivité de la surface le long de la demi-géodésique. Le deuxième chapitre est consacré aux propriétés classiques du flot horocyclique sur lesquelles nous baserons nos preuves. Le troisième chapitre concerne l'étude de l'intersection entre l'adhérence de l'orbite horocyclique issue d'un vecteur u d'une surface hyperbolique et la demi orbite géodésique issue de ce même vecteur. Nous montrons que si la finesse asymptotique de la demi-orbite géodésique issue de u est finie et si u n'est pas périodique pour le flot horocyclique, cette intersection contient une infinité divergente de points. Par ailleurs, si la finesse asymptotique est nulle, alors cette intersection est égale à toute la demi-orbite géodésique positive. Nous montrons cependant que même si la finesse asymptotique n'est pas nulle, la demi-orbite géodésique peut tout de même être contenue dans cette intersection. Le quatrième chapitre étudie les liens entre une orbite horocyclique issue d'un vecteur u et la feuille fortement stable associée. Nous commençons par montrer que les adhérences de ces deux ensembles coïncident toujours. Cependant, cette propriété ne s'étend pas aux ensembles eux-mêmes et nous donnons ensuite une condition suffisante pour que qu'ils ne coïncident pas. Nous montrons qu'alors la feuille fortement stable est une union d'une quantité non dénombrable d'orbites horocycliques. / We study the topological behavior of the horocycle flow on geometrically infinite hyperbolic surfaces. This study and that of the geodesic flow are deeply interwoven. The first chapter introduces the basic objects of hyperbolic geometry that we will use. Next, it presents a class of surfaces, the hyperbolic flutes, which carries most of the complexity of geometrically infinite surfaces. Then, it details the notion of asymptotic thinness for a half-geodesic, which determines the size of the most thin parts that this half-geodesic crosses. The second chapter focuses on the classical properties of the horocycle flow on which we will base our proofs. The third chapter presents the study of the intersection between the closure of a horocyclic orbit stemming from a vector u on a hyperbolic surface and the positive half-geodesic stemming from the same vector. We show that if the asymptotic thinness of the half-orbit stemming from u is finite and if u is not periodic for the horocycle flow, then this intersection contains an unbounded sequence of points. Moreover, if the asymptotic thinness is zero, then all the halfgeodesic orbit is included in the intersection. However, we also prove that the half-geodesic orbit can be included in the intersection and even if the asymptotic thinness is not zero. The fourth chapter studies the links between a horocyclic orbit starting from a vector u and the strong stable manifold associated to u. We first show that the closure of these two sets are always the same. However, we then give a sufficient condition for these two sets to be different and we prove that in this case, the strong stable manifold is a reunion of an uncountable number of horocyclic orbits.

Grâce au théorème d'hyperbolisation, nous savons précisément quand une variété de dimension trois compacte admet une métrique hyperbolique. Par ailleurs, d'après le théorème de rigidité de Mostow, cette structure géométrique est unique. Cependant, trouver des liens pratiques entre la géométrie et la topologie est un problème difficile. La plupart des résultats décrits dans cette thèse visent à concrétiser ces liens. Toute géodésique fermée orientée dans une surface hyperbolique admet un relèvement canonique dans le fibré tangent unitaire de la surface, et on peut donc le voir comme un nœud dans une variété de dimension trois. Les extérieurs des nœuds ainsi construits admettent une structure hyperbolique. Cette thèse a pour objet d'estimer le volume des extérieurs des relèvements canoniques. Pour toute surface hyperbolique on construit une suite de géodésique sur la surface, tel que les extérieurs associées ne sont pas homéomorphes entre elles et dont la suite des volumes respectifs est bornée. Aussi on minore le volume de l'extérieur à l'aide d'un réel explicite qui décrit une relation entre la géodésique et une décomposition en pantalons de la surface. Ceci donne une méthode pour construire une suite de géodésiques dont les volumes des extérieurs associées sont minorées en termes de la longueur de la géodésique correspondant. Dans le cas particulier de la surface modulaire, on obtient des estimations du volume de l'extérieur en termes de la période de la fraction continue associée à la géodésique. / Due to the Hyperbolization Theorem, we know precisely when does a given compact three dimensional manifold admits a hyperbolic metric. Moreover, by the Mostow's Rigidity Theorem this geometric structure is unique. However, finding effective and computable connections between the geometry and topology is a challenging problem. Most of the results on this thesis fit into the theme of making the connections more concrete. To every oriented closed geodesic on a hyperbolic surface has a canonical lift on the unit tangent bundle of the surface, and we can see it as a knot in a three dimensional manifold. The knot complement given in this way has a hyperbolic structure. The objective of this thesis is to estimate the volume of the canonical lift complement. For every hyperbolic surface we give a sequence of geodesics on the surface, such that the knot complements associated are not homeomorphic with each other and the sequence of the corresponding volumes is bounded. We also give a lower bound of the volume of the canonical lift complement by an explicit real number which describes a relation between the geodesic and a pants decomposition of the surface. This give us a method to construct a sequence of geodesics where the volume of the associated knot complements is bounded from below in terms of the length of the corresponding geodesic. For the particular case of the modular surface, we obtain estimations for the volume of the canonical lift complement in terms of the period of the continuous fraction expansion of the corresponding geodesic.

Dans ce mémoire, nous étudions l'entropie des systèmes dynamiques différentiables définis sur des variétés riemanniennes non compactes. Dans un premier temps, nous éclaircissons les liens entre différentes notions d'entropie dans ce cadre non compact. Ensuite, nous utilisons ces premiers résultats pour y étudier la validité de l'inégalité de Ruelle. Rappelons ici que cette inégalité, pour des difféomorphismes de variétés riemanniennes compactes, nous dit que l'entropie est majorée par la somme des exposants de Lyapounov positifs. Nous montrons que, lorsque nous enlevons l'hypothèse de compacité, l'inégalité de Ruelle n'est pas toujours satisfaite. Nous obtenons ce résultat en construisant une famille explicite de contre-exemples. En revanche, nous montrons, dans le cas d'un difféomorphisme de comportement asymptotique linéaire, ou du flot géodésique sur le fibré unitaire tangent d'une variété riemannienne à courbure négative, que l'inégalité de Ruelle est toujours satisfaite. Pour finir, nous nous intéressons au problème de la perte possible de masse d'une suite de mesures de probabilité d'une variété riemannienne non compacte. Dans le cas du flot géodésique, nous montrons que l'entropie permet de contrôler la masse d'une limite vague de mesures de probabilité invariantes par le flot pour une classe particulière de variétés géométriquement finies. Plus précisément, nous montrons qu'une suite de mesures d'entropie assez grande ne peut pas perdre la totalité de sa masse. De plus, le minorant optimal de l'entropie dans ce résultat est lié à la géométrie de la partie non compacte de la variété: c'est l'exposant critique maximal des sous-groupes paraboliques du groupe fondamental. / In this work, we study the entropy of smooth dynamical systems defined on non compact Riemannian manifolds. First, we clarify some relations between different notions of entropy in this setting. Second, we use these first results in order to study the validity of Ruelle's inequality. This inequality, for diffeomorphisms defined on compact Riemannian manifolds, says that the measure-theoretic entropy is bounded from above by the sum of the positive Lyapunov exponents. We show that without the compactness assumption, Ruelle's inequality is not always satisfied. We obtain this result by constructing an explicit family of counterexamples. On the other hand, we prove, in the case of diffeomorphisms with linear asymptotic behavior, or that one of the geodesic flow on the unit tangent bundle of a Riemannian manifold with negative curvature, that Ruelle's inequality is always satisfied. Finally, we are interested in the problem of the possible escape of mass of a sequence of probability measures on a non compact Riemannian manifold. In the case of the geodesic flow, we show that the entropy allows to control the mass of a weak$^\ast$-limit of a sequence of probability measures, on the unit tangent bundle of a particular class of geometrically finite manifolds, which are also invariant by the flow. More precisely, we show that a sequence of measures with large enough entropy cannot lose the whole mass. Moreover, the optimal lower bound of the entropy in this result is related to the geometry of the non compact part of the manifold: it is the maximal critical exponent of the parabolic subgroups of the fundamental group.

Cette thèse traite de l'étude des objets reliés au codage de Bowen-Series du flot géodésique pour des surfaces hyperboliques de volume fini. On démontre d'abord que le billard géodésique associé à domaine fondamental "even corners" d'un groupe fuchsien cofini est conjugué à une bijection du tore, appelée codage étendu, dont l'un des facteurs est la transformation de Bowen-Series. L'intérêt principal de cette conjugaison est qu'elle ne fait toujours intervenir qu'un nombre fini d'objets. On retrouve ensuite des résultats classiques sur le codage de Bowen-Series : il est orbite-équivalent au groupe, ses points périodiques sont denses, et ses orbites périodiques sont en bijection avec les classes d'équivalence d'hyperboliques primitifs du groupe ; ce qui permet finalement de relier sa fonction zeta de Ruelle à la fonction zeta de Selberg. Les preuves de ces résultats s'appuient sur un lemme combinatoire qui abstrait la propriété d'orbite-équivalence à des familles de relations qui peuvent être définies sur tout ensemble sur lequel agit le groupe. Il est aussi possible de conjuguer le codage étendu à un sous-shift de type fini, sauf pour un ensemble dénombrable de points. Enfin, on prouve que les distributions propres pour la valeur propre 1 de l'opérateur de transfert sont les distributions de Helgason de fonctions propres du laplacien sur la surface, puis que l'on peut associer à toute telle distribution propre une fonction propre non triviale de l'opérateur de transfert et que ce procédé admet un inverse dans certains cas

Dans ce mémoire, nous étudions les propriétés génériques satisfaites par des mesures invariantes par l’action du flot géodésique {∅t}t∈R sur des variétés M non compactes de courbure sectionnelle négative pincée. Nous nous intéressons dans un premier temps au cas des variétés hyperboliques. L’existence d’une représentation symbolique du flot géodésique pour les variétés hyperboliques convexes cocompactes ainsi que la propriété de mélange topologique du flot géodésique nous permet de démontrer que l’ensemble des mesures de probabilité ∅t−invariantes, faiblement mélangeantes est résiduel dans l’ensemble M1 des mesures de probabilité invariantes par l’action du flot géodésique. Si nous supposons que la courbure de M est variable, nous ignorons si le flot géodésique est topologiquement mélangeant. Ainsi les méthodes utilisées précédemment ne peuvent plus s’adapter à notre situation. Afin de généraliser le résultat précédent, nous faisons appel à des outils issus du formalisme thermodynamique développés récemment par F.Paulin, M.Pollicott et B.Schapira. Plus précisément, la démonstration de notre résultat repose sur la possibilité de construire, pour toute orbite périodique Op une suite de mesures de Gibbs mélangeantes, finies, convergeant faiblement vers la mesure de Dirac supportée sur Op. Nous montrons que ce fait est possible lorsque M est géométriquement finie. Dans le cas contraire, il n’existe pas d’exemple de variétés géométriquement infinies possédant une mesure de Gibbs finie. Cependant, nous conjecturons que ce fait est possible pour toute variété M. Afin de supporter cette affirmation, nous démontrons dans la dernière partie de ce manuscrit un critère de finitude pour les mesures de Gibbs. / In this work, we study the properties satisfied by the probability measures invariant by the geodesic flow {∅t}t∈R on non compact manifolds M with pinched negative sectional curvature. First, we restrict our study to hyperbolic manifolds. In this case, ∅t is topologically mixing in restriction to its non-wandering set. Moreover, if M is convex cocompact, there exists a symbolic representation of the geodesic flow which allows us to prove that the set of ∅t-invariant, weakly-mixing probability measures is a dense Gδ−set in the set M1 of probability measures invariant by the geodesic flow. The question of the topological mixing of the geodesic flow is still open when the curvature of M is non constant. So the methods used on hyperbolic manifolds do not apply on manifolds with variable curvature. To generalize the previous result, we use thermodynamics tools developed recently by F.Paulin, M.Pollicott et B.Schapira. More precisely, the proof of our result relies on our capacity of constructing, for all periodic orbits Op a sequence of mixing and finite Gibbs measures converging to the Dirac measure supported on Op. We will show that such a construction is possible when M is geometrically finite. If it is not, there are no examples of geometrically infinite manifolds with a finite Gibbs measure. We conjecture that it is always possible to construct a finite Gibbs measure on a pinched negatively curved manifold. To support this conjecture, we prove a finiteness criterion for Gibbs measures.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Ce travail étudie les variétés pseudo-riemanniennes compactes localement homogènes à travers le prisme des (G,X)-structures, introduites par Thurston dans son programme de géométrisation. Nous commençons par présenter la problématique générale et discutons notamment du rapport entre la complétude géodésique de ces variétés et une autre notion de complétude propre aux (G,X)-structures. Nous donnons également dans le chapitre 1 une nouvelle preuve d’un théorème de Bromberg et Medina qui classifie les métriques lorentziennes invariantes à gauche sur SL(2,R) dont le flot géodésique est complet. Conjecturalement, toute (G,X)-structure pseudo-riemannienne sur une variété compacte est complète. Nous prouvons ici que cela est vrai pour certaines géométries, sous l’hypothèse que la (G,X)-structure est a priori kleinienne. On en déduit que, pour ces géométries, la complétude est une condition fermée. Lorsque X est un groupe de Lie de rang 1 muni de sa métrique de Killing, ce résultat complète un théorème de Guéritaud–Guichard–Kassel–Wienhard selon lequel la complétude est une condition ouverte. Nous nous tournons ensuite vers l’étude des représentations d’un groupe de surface à valeurs dans les isométries d’une variété riemannienne M complète simplement connexe de courbure sectionnelle inférieure à -1. Étant donnée une telle représentation ρ, nous montrons que l’ensemble des représentations fuchsiennes j telles qu’il existe une application (j,ρ)-équivariante et contractante de H2 dans M est un ouvert non vide et contractile de l’espace de Teichmüller (sauf lorsque ρ est elle-même fuchsienne). Ce résultat nous permet de décrire l’espace des métriques lorentziennes de courbure constante -1 sur un fibré en cercle au-dessus d’une surface compacte. Nous montrons que cet espace possède un nombre fini de composantes connexes classifiées par un invariant que nous appelons longueur de la fibre. Nous prouvons également que le volume total de ces métriques ne dépend que de la topologie du fibré et de la longueur de la fibre. / In this work, we study closed locally homogeneous pseudo-Riemannian manifolds through the notion of (G,X)-structure, introduced by Thurston in his geometrization program. We start by presenting the general problem. In particular, we discuss the link between geodesical completeness of those manifolds and another notion of completeness specific to (G,X)-structures. In chapter 1, we also give a new proof of a theorem by Bromberg and Medina which classifies left invariant Lorentz metrics on SL(2,R) that are geodesically complete. Conjecturally, every pseudo-riemannian (G,X)-structure on a closed manifold is complete. Here we prove that it holds for certain geometries, provided that the (G,X )-structure is a priori Kleinian . This implies that, for such geometries, completeness is a closed condition. When X is a Lie group of rank 1 handled with its Killing metric, this result complements a theorem of Guéritaud–Guichard–Kassel–Wienhard, acording to which completeness is an open condition. We then turn to the study of representations of surface groups into the isometry group of a complete simply connected Riemannian manifold M of curvature less than or equal to -1. Given such a representation ρ, we prove that the set of Fuchsian representations j for which there exists a (j,ρ)-equivariant contracting map from H2 to M is a non-empty open contractible subset of the Teichmüller space (unless ρ itself is Fuchsian). This result allows us to describe the space of Lorentz metrics of constant curvature -1 on a circle bundle over a closed surface. We show that this space has finitely many connected components, classified by an invariant that we call the length of the fiber. We also prove that the total volume of those metrics only depends on the topology of the bundle and on the length of the fiber.

Cette thèse traite de l’étude des objets reliés au codage de Bowen-Series du flot géodésiquepour des surfaces hyperboliques de volume fini. On démontre d’abord que le billard géodésiqueassocié à domaine fondamental even corners d’un groupe fuchsien cofini est conjuguéà une bijection du tore, appelée codage étendu, dont l’un des facteurs est la transformationde Bowen-Series. L’intérêt principal de cette conjugaison est qu’elle ne fait toujours intervenirqu’un nombre fini d’objets. On retrouve ensuite des résultats classiques sur le codage deBowen-Series : il est orbite-équivalent au groupe, ses points périodiques sont denses, et ses orbitespériodiques sont en bijection avec les classes d’équivalence d’hyperboliques primitifs dugroupe ; ce qui permet finalement de relier sa fonction zeta de Ruelle à la fonction zeta de Selberg.Les preuves de ces résultats s’appuient sur un lemme combinatoire qui abstrait la propriétéd’orbite-équivalence à des familles de relations qui peuvent être définies sur tout ensemble surlequel agit le groupe. Il est aussi possible de conjuguer le codage étendu à un sous-shift detype fini, sauf pour un ensemble dénombrable de points. Enfin, on prouve que les distributionspropres pour la valeur propre 1 de l’opérateur de transfert sont les distributions de Helgason defonctions propres du laplacien sur la surface, puis que l’on peut associer à toute telle distributionpropre une fonction propre non triviale de l’opérateur de transfert et que ce procédé admet uninverse dans certains cas. / This thesis focuses on the study of the objects linked to the Bowen-Series coding of the geodesicflow for hyperbolic surfaces of finite volume. It is first proved that the geodesic billiardassociated with an even corners fundamental domain for a cofinite fuchsian group is conjugatedwith a bijection of the torus, called extended coding, one factor of which is the Bowen-Seriestransform. The sharpest property of that conjugacy is that it always only involves a finite numberof objects. Some classical results about the Bowen-Series coding are then rediscovered : itis orbit-equivalent with the group, its periodic points are dense, and its periodic orbits are inbijection with conjugacy classes of primitive hyperbolic isometries ; which eventually links itsRuelle zeta function to the Selberg zeta function. The proofs of those results use a combinatoriallemma that abstracts the orbit-equivalence property to families of relations that can be definedon every set on which the group acts. The extended coding is also proved to be conjugated witha subshift of finite type, except for a countable set of points. Finally, it is shown that eigendistributionsof the transfer operator for the eigenvalue 1 are the Helgason boundary values ofeigenfunction of laplacian on the surface, plus that one can associate to each such eigendistributiona non-trivial eigenfunction of the transfer operator and that this process has a reciprocalin some cases.