L'objet de cette thèse est l'introduction, l'étude et l'utilisation des cônes complexes multidimensionnels. Dans un premier temps, nous étudions la grassmannienne des espaces de Banach. Nous définissons une notion de bonne décomposition pour les espaces de dimension p et nous démontronsl'équivalence entre la distance de Hausdorff sur la grassmannienne et la distance fournie par une norme sur l'algèbre extérieure.Dans un deuxième temps, nous définissons les cônes complexes p-dimensionnels ainsi qu'une jauge sur les sous-espaces de dimension p de ces cônes. Nous montrons alors un principe de contraction pour cette jauge. Cela nous permet de prouver, pour un opérateur contractant un tel cône, l'existence d'un trou spectral séparant les p valeurs propres dominantes du reste du spectre. Nous utilisons cette théorie pourdémontrer un théorème de régularité analytique pour les exposants de Lyapunov d'un produit aléatoire d'opérateurs contractant un même cône.Nous donnons également une comparaison entre la distance de Hausdorff entre espaces vectoriels et notre jauge.Enfin, nous introduisons une notion de cône dual pour les cônes p-dimensionnels. Dans ce cadre, nous prouvons que les propriétéstopologiques d'un cône se traduisent en propriétés topologiques sur son dual, et réciproquement. Nous complétons le théorème de régularitéprécédent en démontrant l'existence et la régularité d'une décomposition de l'espace en "espace lent" et "espace rapide". / The subject of this thesis is the introduction, the study and the applications of multidimensional complex cones. First, we study the grassmannian of Banach space. We define a notion of right decomposition for p-dimensional spaces and we prove the equivalence between theHausdorff distance on the grassmannian and the distance given by a norm on the exterior algebra.Then, we define p-dimensional complex cones and a gauge on the subspaces of dimension p of these cones. We show a contraction principle for thisgauge. This allows us to prove, for an operator contracting such a cone, the existence of a spectral gap which isolate the p leading eigenvaluesfrom the rest of the spectrum. We use this theory to prove a theorem of analytic regularity for Lyapunov exponents of a random product ofoperators contracting a cone. We also give a comparison between the Hausdorff distance for vector spaces and our gauge.Finally, we introduce a notion of dual cone for p-dimensional cones. In this setting, we prove that the topological properties of a cone translateinto topological properties for its dual and conversely. We complete the previous regularity theorem by proving the existence and the regularity ofa dominated splitting of the space into a "fast space" and a "slow space".

La dynamique d'un difféomorphisme d'une variété compacte est essentiellement concentrée sur l'ensemble récurrent par chaînes, qui est partitionné en classes de récurrence par chaînes, disjointes et indécomposables. Le travail de Bonatti et Crovisier [BC] montre que, pour les difféomorphismes C¹-génériques, une classe de récurrence par chaînes ou bien est une classe homocline, ou bien ne contient pas de point périodique. Une classe de récurrence par chaînes sans point périodique est appelée classe apériodique.Il est clair qu'une classe homocline hyperbolique ni contient d'orbite périodique faible ni supporte de mesure non hyperbolique.Cette thèse tente de donner une caractérisation des classes homoclines non hyperboliques en montrant qu'elles contiennent des orbites périodiques faibles ou des mesures ergodiques non hyperboliques. Cette thèse décrit également les décompositions dominées sur les classes apériodiques.Le premier résultat de cette thèse montre que, pour les difféomorphismes C¹-génériques, si les orbites périodiques contenues dans une classe homocline H(p) ont tous leurs exposants de Lyapunov bornés loin de zéro, alors H(p) doit être (uniformément) hyperbolique. Ceci est dans l'esprit des travaux sur la conjecture de stabilité, mais il y a une différence importante lorsque la classe homocline H(p) n'est pas isolée. Par conséquent, nous devons garantir que des orbites périodiques "faibles'', crées par perturbations au voisinage de la classe homocline, sont contenues dans la classe. En ce sens, le problème est de nature "intrinsèque'', et l'argument classique de la conjecture de stabilité est impraticable.Le deuxième résultat de cette thèse prouve une conjecture de Díaz et Gorodetski [DG]: pour les difféomorphismes C¹-génériques, si une classe homocline n'est pas hyperbolique, alors elle porte une mesure ergodique non hyperbolique. C'est un travail en collaboration avec C. Cheng, S. Crovisier, S. Gan et D. Yang. Dans la démonstration, nous devons appliquer une technique introduité dans [DG], et qui améliore la méthode de [GIKN], pour obtenir une mesure ergodique comme limite d'une suite de mesures périodiques.Le troisième résultat de cette thèse énonce que, génériquement, une décomposition dominée non-triviale sur une classe apériodique stable au sens de Lyapunov est en fait une décomposition partiellement hyperbolique. Plus précisément, pour les difféomorphismes C¹-génériques, si une classe apériodique stable au sens de Lyapunov a une décomposition dominée non-triviale Eoplus F, alors, l'un des deux fibrés est hyperbolique: soit E contracté, soit F dilaté.Dans les démonstrations des résultats principaux, nous construisons des perturbations qui ne sont pas obtenues directement à partir des lemmes de connexion classiques. En fait, il faut appliquer le lemme de connexion un grand nombre (et même un nombre infini) de fois. Nous expliquons les méthodes de connexions multiples dans le Chapitre 3. / The dynamics of a diffeomorphism of a compact manifold concentrates essentially on the chain recurrent set, which splits into disjoint indecomposable chain recurrence classes. By the work of Bonatti and Crovisier [BC], for C¹-generic diffeomorphisms, a chain recurrence class either is a homoclinic class or contains no periodic point. A chain recurrence class without a periodic point is called an aperiodic class.Obviously, a hyperbolic homoclinic class can neither contain weak periodic orbit or support non-hyperbolic ergodic measure.This thesis attempts to give a characterization of non-hyperbolic homoclinic classes via weak periodic orbits inside or non-hyperbolic ergodic measures supported on it. Also, this thesis gives a description of the dominated splitting on Lyapunov stable aperiodic classes.The first result of this thesis shows that for C¹-generic diffeomorphisms, if the periodic orbits contained in a homoclinic class H(p) have all their Lyapunov exponents bounded away from 0, then H(p) must be (uniformly) hyperbolic. This is in spirit of the works of the stability conjecture, but with a significant difference that the homoclinic class H(p) is not known isolated in advance. Hence the "weak'' periodic orbits created by perturbations near the homoclinic class have to be guaranteed strictly inside the homoclinic class. In this sense the problem is of an "intrinsic" nature, and the classical argument of the stability conjecture does not pass through.The second result of this thesis proves a conjecture by Díaz and Gorodetski [DG]: for C¹-generic diffeomorphisms, if a homoclinic class is not hyperbolic, then there is a non-hyperbolic ergodic measure supported on it. This is a joint work with C. Cheng, S. Crovisier, S. Gan and D. Yang. In the proof, we have to use a technic introduced in [DG], which developed the method of [GIKN], to get an ergodic measure by taking the limit of a sequence of periodic measures.The third result of this thesis states that, generically, a non-trivial dominated splitting over a Lyapunov stable aperiodic class is in fact a partially hyperbolic splitting. To be precise, for C¹-generic diffeomorphisms, if a Lyapunov stable aperiodic class admits a non-trivial dominated splitting Eoplus F, then one of the two bundles is hyperbolic: either E is contracted or F is expanded.In the proofs of the main results, we construct several perturbations which are not simple applications of the connecting lemmas. In fact, one has to apply the connecting lemma several (even infinitely many) times. We will give the detailed explanations of the multi-connecting processes in Chapter 3.

Dans cette thèse, nous étudions les sujets suivants :- la stabilité ergodique pour les systèmes conservatifs ;- la généricité de l'existence d'exposants positifs pour certains produits tordus avec fibres de dimension deux ;- rigidité des mesures $u$-Gibbs pour certains systèmes partiellement hyperboliques ;- la transitivité robuste.Nous donnons une preuve de la stabilité ergodique pour certains systèmes partiellement hyperboliques sans utiliser l'accessibilité. Ces systèmes ont été introduits par Pierre Berger et Pablo Carrasco, et ils ont les propriétés suivantes : ils possèdent une direction centrale bidimensionnelle ; ils sont non-uniformément hyperboliques avec un exposant positif et un exposant négatif le long de la direction centrale pour presque tout point, et la décomposition d'Oseledets n'est pas dominée.Dans un autre travail, nous donnons des critères de stabilité ergodique pour des systèmes ayant une décomposition dominée. En particulier, nous explorons la notion d'hyperbolicité par chaîne introduite par Sylvain Crovisier et Enrique Pujals. À l'aide de cette notion, nous donnons des critères explicites de stabilité ergodique et nous donnons quelques applications.Dans un travail commun avec Mauricio Poletti, nous prouvons que le produit aléatoire de difféomorphismes de surface conservatifs possède génériquement une région avec des exposants positifs. Nos résultats s'appliquent également aux produits tordus plus généraux.Nous étudions également les perturbations dissipatives de l'exemple de Berger-Carrasco. Nous classifions toutes les mesures $u$-Gibbs qui peuvent apparaître dans un voisinage de l'exemple. Dans ce voisinage, nous prouvons que toute mesure $u$-Gibbs est soit l'unique mesure SRB du système, soit la désintégration dans le feuilletage central est atomique. Dans un travail commun avec Pablo Carrasco, nous prouvons que cet exemple est robustement transitif (en fait robustement topologiquement mélangeant). / In this thesis we study the following topics:-stable ergodicity for conservative systems;-genericity of the existence of positive exponents for some skew products with two dimensional fibers;-rigidity of $u$-Gibbs measure for certain partially hyperbolic systems;-robust transitivity.We give a proof of stable ergodicity for a certain partially hyperbolic system without using accessibility. This system was introduced by Pierre Berger and Pablo Carrasco, and it has the following properties: it has a two dimensional center direction; it is non-uniformly hyperbolic having both a positive and a negative exponent along the center for almost every point, and the Oseledets decomposition is not dominated.In a different work, we find criteria of stable ergodicity for systems with a dominated splitting. In particular, we explore the notion of chain-hyperbolicity introduced by Sylvain Crovisier and Enrique Pujals. With this notion we give explicit criteria of stable ergodicity, and we give some applications.In a joint work with Mauricio Poletti, we prove that the random product of conservative surface diffeomorphisms generically has a region with positive exponents. Our results also hold for more general skew products.We also study dissipative perturbations of the Berger-Carrasco example. We classify all the $u$-Gibbs measures that may appear inside a neighborhood of the example. In this neighborhood, we prove that any $u$-Gibbs measure is either the unique SRB measure of the system or it has atomic disintegration along the center foliation. In a joint work with Pablo Carrasco, we prove that this example is robustly transitive (indeed robustly topologically mixing).

We study two topics on surface diffeomorphisms, their mapping classes and dynamics. For the mapping classes of a punctured disc, we study the $\ZxZ$ subgroups of the fundamental groups of the corresponding mapping tori. An application is the proof of the fact that a satellite knot with braid pattern is prime. For the mapping classes of the disc minus a Cantor set, we study a special type of reducible mapping class. This has direct application on the embeddings of solenoids in $\mathbb{S}^3$. We also give some examples of other types of mapping classes of the disc minus a Cantor set. For the dynamics of surface diffeomorphisms, we prove three formulas for computing the topological pressure of a $C^1$-generic conservative diffeomorphism with no dominated splitting and show the continuity of topological pressure with respect to these diffeomorphisms. We prove for these generic diffeomorphisms that there is no equilibrium states with positive measure theoretic entropy. In particular, for hyperbolic potentials, there are no equilibrium states. For $C^1$ generic conservative diffeomorphisms on compact surfaces with no dominated splitting and $\phi_m(x):=-\frac{1}{m}\log \Vert D_x f^m\Vert, m \in \mathbb{N}$, we show that there exist equilibrium states with zero entropy and there exists a transition point $t_0$ for the one parameter family $\lbrace t \phi_m\rbrace_{t\geq 0}$, such that there is no equilibrium states for $ t \in [0, t_0)$ and there is an equilibrium state for $t \in [t_0,+\infty)$.