La dynamique d'un difféomorphisme d'une variété compacte est essentiellement concentrée sur l'ensemble récurrent par chaînes, qui est partitionné en classes de récurrence par chaînes, disjointes et indécomposables. Le travail de Bonatti et Crovisier [BC] montre que, pour les difféomorphismes C¹-génériques, une classe de récurrence par chaînes ou bien est une classe homocline, ou bien ne contient pas de point périodique. Une classe de récurrence par chaînes sans point périodique est appelée classe apériodique.Il est clair qu'une classe homocline hyperbolique ni contient d'orbite périodique faible ni supporte de mesure non hyperbolique.Cette thèse tente de donner une caractérisation des classes homoclines non hyperboliques en montrant qu'elles contiennent des orbites périodiques faibles ou des mesures ergodiques non hyperboliques. Cette thèse décrit également les décompositions dominées sur les classes apériodiques.Le premier résultat de cette thèse montre que, pour les difféomorphismes C¹-génériques, si les orbites périodiques contenues dans une classe homocline H(p) ont tous leurs exposants de Lyapunov bornés loin de zéro, alors H(p) doit être (uniformément) hyperbolique. Ceci est dans l'esprit des travaux sur la conjecture de stabilité, mais il y a une différence importante lorsque la classe homocline H(p) n'est pas isolée. Par conséquent, nous devons garantir que des orbites périodiques "faibles'', crées par perturbations au voisinage de la classe homocline, sont contenues dans la classe. En ce sens, le problème est de nature "intrinsèque'', et l'argument classique de la conjecture de stabilité est impraticable.Le deuxième résultat de cette thèse prouve une conjecture de Díaz et Gorodetski [DG]: pour les difféomorphismes C¹-génériques, si une classe homocline n'est pas hyperbolique, alors elle porte une mesure ergodique non hyperbolique. C'est un travail en collaboration avec C. Cheng, S. Crovisier, S. Gan et D. Yang. Dans la démonstration, nous devons appliquer une technique introduité dans [DG], et qui améliore la méthode de [GIKN], pour obtenir une mesure ergodique comme limite d'une suite de mesures périodiques.Le troisième résultat de cette thèse énonce que, génériquement, une décomposition dominée non-triviale sur une classe apériodique stable au sens de Lyapunov est en fait une décomposition partiellement hyperbolique. Plus précisément, pour les difféomorphismes C¹-génériques, si une classe apériodique stable au sens de Lyapunov a une décomposition dominée non-triviale Eoplus F, alors, l'un des deux fibrés est hyperbolique: soit E contracté, soit F dilaté.Dans les démonstrations des résultats principaux, nous construisons des perturbations qui ne sont pas obtenues directement à partir des lemmes de connexion classiques. En fait, il faut appliquer le lemme de connexion un grand nombre (et même un nombre infini) de fois. Nous expliquons les méthodes de connexions multiples dans le Chapitre 3. / The dynamics of a diffeomorphism of a compact manifold concentrates essentially on the chain recurrent set, which splits into disjoint indecomposable chain recurrence classes. By the work of Bonatti and Crovisier [BC], for C¹-generic diffeomorphisms, a chain recurrence class either is a homoclinic class or contains no periodic point. A chain recurrence class without a periodic point is called an aperiodic class.Obviously, a hyperbolic homoclinic class can neither contain weak periodic orbit or support non-hyperbolic ergodic measure.This thesis attempts to give a characterization of non-hyperbolic homoclinic classes via weak periodic orbits inside or non-hyperbolic ergodic measures supported on it. Also, this thesis gives a description of the dominated splitting on Lyapunov stable aperiodic classes.The first result of this thesis shows that for C¹-generic diffeomorphisms, if the periodic orbits contained in a homoclinic class H(p) have all their Lyapunov exponents bounded away from 0, then H(p) must be (uniformly) hyperbolic. This is in spirit of the works of the stability conjecture, but with a significant difference that the homoclinic class H(p) is not known isolated in advance. Hence the "weak'' periodic orbits created by perturbations near the homoclinic class have to be guaranteed strictly inside the homoclinic class. In this sense the problem is of an "intrinsic" nature, and the classical argument of the stability conjecture does not pass through.The second result of this thesis proves a conjecture by Díaz and Gorodetski [DG]: for C¹-generic diffeomorphisms, if a homoclinic class is not hyperbolic, then there is a non-hyperbolic ergodic measure supported on it. This is a joint work with C. Cheng, S. Crovisier, S. Gan and D. Yang. In the proof, we have to use a technic introduced in [DG], which developed the method of [GIKN], to get an ergodic measure by taking the limit of a sequence of periodic measures.The third result of this thesis states that, generically, a non-trivial dominated splitting over a Lyapunov stable aperiodic class is in fact a partially hyperbolic splitting. To be precise, for C¹-generic diffeomorphisms, if a Lyapunov stable aperiodic class admits a non-trivial dominated splitting Eoplus F, then one of the two bundles is hyperbolic: either E is contracted or F is expanded.In the proofs of the main results, we construct several perturbations which are not simple applications of the connecting lemmas. In fact, one has to apply the connecting lemma several (even infinitely many) times. We will give the detailed explanations of the multi-connecting processes in Chapter 3.

La dynamique des systèmes hyperboliques est considérée bien comprise du point de vue topologique aussi bien que du point de vue stochastique. S. Smale et R. Abraham ont donné un exemple montrant que, en général, les systèmes hyperboliques ne sont pas denses parmi tous les systèmes diffélrentiables. Dans les années 1970, M. Brin et Y. Pesin ont proposé une nouvelle notion: hyperbolicité partielle pour affaiblir la notion d’hyperbolicité. Un but de cette thèse est de comprendre la dynamique de certains systèmes partiellement hyperboliques du point de vue stochastique aussi bien que du point de vue topologique. Du point de vue stochastique, nous démontrons les résultats suivants: — Il existe un sous-ensemble U ouvert et dense de difféomorphismes non hyperboliques robustement transitifs loin de tangences homocliniques, tels que pour tout f ∈ U, il existe des mesures ergodiques non hyperboliques qui sont limite faible des mesures périodiques, avec un seul exposant de Lyapunov nul, et dont les supports sont la variété entière; — Il existe un sous-ensemble ouvert et dense de l’ensemble des difféomorphismes partiellement hyperboliques (mais non hyperboliques) de dimension centrale un dont les feuilletages forts sont robustement minimaux, de sorte que la fermeture de l’ensemble des mesures ergodiques est l’union de deux convexes qui sont la fermeture des ensembles de mesures ergodiques hyperboliques de deux s-indices différents respectivement; ces deux ensembles convexes se coupent le long de la fermeture de l’ensemble des mesures ergodiques non hyperboliques. Par conséquent, toute mesure ergodique non hyperbolique est approchée par des mesures périodiques. C’est le cas pour une perturbation robustement transitive du temps un d’un flot d’Anosov transitif, ou du produit fibré d’un difféomorphisme d’Anosov sur le tore par une rotation du cercle. Ces résultats sont basés sur des résultats locaux dont les démonstrations impliquent beaucoup de définitions techniques. Du point de vue topologique, pour tout flot d’Anosov non transitif sur des variétés de dimension 3 orientables, nous construisons de nouveaux difféomorphismes partiellement hyperboliques en composant le temps t des flots d’Anosov (pour t > 0 large) avec des twists de Dehn le long des tores transversaux. Ces nouveaux difféomorphismes partiellement hyperboliques sont robustement dynamiquement cohérents. Cela généralise dans un cas général le processus spécial dans [BPP] pour construire de nouveaux difféomorphismes partiellement hyperboliques. De plus, nous démontrons que pour les nouveaux difféomorphismes partiellement hyperboliques que nous avons construits, leurs feuilletages centraux sont topologiquement équivalentes aux flots d’Anosov utilisés pour les construire. En conséquence, la structure des feuilles centrales des nouveaux difféomorphismes partiellement hyperboliques est la même que la structure des orbites d’un flot d’Anosov. La présence de mesures ergodiques non hyperboliques montre la non hyperbolicité des systémes. Dans cette thése, nous cherchons également à comprendre: dans quelle mesure la présence de mesures ergodiques non hyperboliques peut-elle caractériser le degré de non-hyperbolicité des systèmes? Nous démontrons que, pour les difféomorphismes génériques, si une classe homoclinique contient des orbites périodiques d’indices différents et sans certaines dominations, il existe une mesure ergodique non hyperbolique avec plus d’un exposant de Lyapunov qui s’annule et dont le support est la classe homoclinique entière. Le nombre d’exposants de Lyapunov nuls montre combien d’hyperbolicité a été perdue dans un tel type de systèmes. / The dynamics of hyperbolic systems is considered well understood from topological point of view as well as from stochastic point of view. S. Smale and R. Abraham gave an example showing that, in general, the hyperbolic systems are not dense among all differentiable systems. In 1970s, M. Brin and Y. Pesin proposed a new notion: partial hyperbolicity to release the notion of hyperbolicity. One aim of this thesis is to understand the dynamics of certain partially hyperbolic systems from stochastic point of view as well as from topological point of view. From stochastic point of view, we prove the following results: — There exists an open and dense subset U of robustly transitive nonhyperbolic diffeomorphisms far from homoclinic tangency, such that forany f ∈ U, there exist non-hyperbolic ergodic measures as the weak*- limit of periodic measures, with only one vanishing Lyapunov exponent, and whose supports are the whole manifold; — There exists an open and dense subset of partially hyperbolic (but nonhyperbolic) diffeomorphisms with center dimension one whose strong foliations are robustly minimal, such that the closure of the set of ergodic measures is the union of two convex sets which are the closure of the sets of hyperbolic ergodic measures of two different s-indices respectively; these two convex sets intersect along the closure of the set of nonhyperbolic ergodic measures. As a consequence, every non-hyperbolic ergodic measure is approximated by periodic measures. That is the case for robustly transitive perturbation of the time one map of a transitive Anosov flow, or of the skew product of an Anosov torus diffeomorphism by a rotation of the circle. These results are based on some local results whose statements involve in lots of technical definitions. From topological point of view, for any non-transitive Anosov flow on orientable 3-manifolds, we build new partially hyperbolic diffeomorphisms by composing the time t-map of the Anosov flow (for t > 0 large) with Dehn twists along transverse tori. These new partially hyperbolic diffeomorphisms are robustly dynamically coherent. This generalizes the special process in [BPP] for constructing new partially hyperbolic diffeomorphisms to a general case. Furthermore, we prove that for the new partially hyperbolic diffeomorphisms we built, their center foliations are topologically equivalent to the Anosov flows used for building them. As a consequence, one has that the structure of the center leaves of the new partially hyperbolic diffeomorphisms is the same asthe structure of the orbits of an Anosov flow. The presence of non-hyperbolic ergodic measures shows the non-hyperbolicity of the systems. In this thesis, we also attempt to understand: to what extent, can the presence of non-hyperbolic ergodic measures character how far from hyperbolicity the systems are? We prove that, for generic diffeomorphisms, if a homoclinic class contains periodic orbits of different indices and without certain dominations, then there exists a non-hyperbolic ergodic measure with more than one vanishing Lyapunov exponents and whose support is the whole homoclinic class. The number of vanishing Lyapunov exponents shows how much hyperbolicity has been lost in such kind of systems.

Submitted by isabela.moljf@hotmail.com (isabela.moljf@hotmail.com) on 2016-08-15T14:53:56Z No. of bitstreams: 1 hugorolandojachohancco.pdf: 1087180 bytes, checksum: 30f544acc78e47c2892563f8ab257478 (MD5) / Approved for entry into archive by Adriana Oliveira (adriana.oliveira@ufjf.edu.br) on 2016-08-19T14:01:42Z (GMT) No. of bitstreams: 1 hugorolandojachohancco.pdf: 1087180 bytes, checksum: 30f544acc78e47c2892563f8ab257478 (MD5) / Made available in DSpace on 2016-08-19T14:01:42Z (GMT). No. of bitstreams: 1 hugorolandojachohancco.pdf: 1087180 bytes, checksum: 30f544acc78e47c2892563f8ab257478 (MD5) Previous issue date: 2016-07-18 / Consideramos os campos vetoriais C1 sobre uma variedade riemanniana compacta, sem bordo, de dimensão finita n, com n ≥3. Uma classe homoclínica de um campo vetorial é o fecho de conjunto de pontos homoclínicos transversais associados com uma órbita periódica hiperbólica. Neste trabalho, provamos que as classes homoclínicas para um conjunto residual de campos vetoriais C1 são conjuntos neutrais, mais ainda, a classe homoclínica é a intersecção dos fechos do conjunto estável e o conjunto instável. Como consequencia das propriedades do conjuntos neutrais, provamos as propriedades genéricas das classes homoclínicas. Assim, provamos que as classes homoclínicas de campos vetoriais C1-genérico X são conjuntos transitivos maximais, saturados e que dependem continuamente da órbita periódica. Também provamos que uma classe homoclínica de X não apresentam ciclos de X formados por classes homoclínicas de X. Além disso, uma classe homoclínica de X é isolado se, e somente se, é Ω-isolado. Mais ainda, é isolado, se a classe homoclínica é hiperbólica. Todas estas propriedades são bem conhecidos para campos vetoriais estruturalmente estáveis e Axioma A. / We consider the vector fields C1 on a compact Riemannian manifold, boundaryless of finite dimension n, with n ≥3. A homoclinic class of a vector field is the closure of the set transverse homoclinic point associated with a hyperbolic periodic orbit. In this work, we prove that the homoclinic classes for a residual set of vector fields C1, are neutral sets, moreover, the homoclinic class is the intersection of the closure the stable set and unstable set. As a consequence of the properties of the neutral sets, we prove the generic properties of homoclinic classes. Thus, we proved that in the homoclinic classes of generic C1 vector fields X are maximal transitive sets, saturated and depend continuously on the periodic orbit. We also proved that a homoclinic class X, does not exhibit cycles of X formed by homoclinic class of X. Furthermore, homoclinic class X is isolated if it only if it is Ω-isolated. But still, it is isolated, the homoclinic class is hyperbolic. All these properties are well known to structurally stable vector fields and Axiom A.