Cette thèse traite de l’étude des objets reliés au codage de Bowen-Series du flot géodésiquepour des surfaces hyperboliques de volume fini. On démontre d’abord que le billard géodésiqueassocié à domaine fondamental even corners d’un groupe fuchsien cofini est conjuguéà une bijection du tore, appelée codage étendu, dont l’un des facteurs est la transformationde Bowen-Series. L’intérêt principal de cette conjugaison est qu’elle ne fait toujours intervenirqu’un nombre fini d’objets. On retrouve ensuite des résultats classiques sur le codage deBowen-Series : il est orbite-équivalent au groupe, ses points périodiques sont denses, et ses orbitespériodiques sont en bijection avec les classes d’équivalence d’hyperboliques primitifs dugroupe ; ce qui permet finalement de relier sa fonction zeta de Ruelle à la fonction zeta de Selberg.Les preuves de ces résultats s’appuient sur un lemme combinatoire qui abstrait la propriétéd’orbite-équivalence à des familles de relations qui peuvent être définies sur tout ensemble surlequel agit le groupe. Il est aussi possible de conjuguer le codage étendu à un sous-shift detype fini, sauf pour un ensemble dénombrable de points. Enfin, on prouve que les distributionspropres pour la valeur propre 1 de l’opérateur de transfert sont les distributions de Helgason defonctions propres du laplacien sur la surface, puis que l’on peut associer à toute telle distributionpropre une fonction propre non triviale de l’opérateur de transfert et que ce procédé admet uninverse dans certains cas. / This thesis focuses on the study of the objects linked to the Bowen-Series coding of the geodesicflow for hyperbolic surfaces of finite volume. It is first proved that the geodesic billiardassociated with an even corners fundamental domain for a cofinite fuchsian group is conjugatedwith a bijection of the torus, called extended coding, one factor of which is the Bowen-Seriestransform. The sharpest property of that conjugacy is that it always only involves a finite numberof objects. Some classical results about the Bowen-Series coding are then rediscovered : itis orbit-equivalent with the group, its periodic points are dense, and its periodic orbits are inbijection with conjugacy classes of primitive hyperbolic isometries ; which eventually links itsRuelle zeta function to the Selberg zeta function. The proofs of those results use a combinatoriallemma that abstracts the orbit-equivalence property to families of relations that can be definedon every set on which the group acts. The extended coding is also proved to be conjugated witha subshift of finite type, except for a countable set of points. Finally, it is shown that eigendistributionsof the transfer operator for the eigenvalue 1 are the Helgason boundary values ofeigenfunction of laplacian on the surface, plus that one can associate to each such eigendistributiona non-trivial eigenfunction of the transfer operator and that this process has a reciprocalin some cases.

Notre objectif dans cette thèse est l'étude des équations différentielles non linéaires comportant des dérivées fractionnaires en temps et/ou en espace. Nous nous sommes intéressés dans un premier temps à l'étude de deux systèmes non linéaires d'équations différentielles fractionnaires en temps et/ou en espace, puis à l'étude d'une équation différentielle fractionnaire en temps. Plus exactement pour la première partie, les questions concernant l'existence globale et le comportement asymptotique des solutions d'un système non linéaire d'équations différentielles comportant des dérivées fractionnaires en temps et en espace sont élucidées. Les techniques utilisées reposent sur des estimations obtenues pour les solutions fondamentales et la comparaison de certaines inégalités fractionnaires. Toujours dans la première partie, l'étude d'un système non linéaire d'équations de réaction-diffusion avec des dérivées fractionnaires en espace est abordée. L'existence locale et l'unicité des solutions sont prouvées à l'aide du théorème du point fixe de Banach. Nous montrons que les solutions sont bornées et analysons leur comportement à l'infini. La deuxième partie est consacrée à l'étude d'une équation différentielle fractionnaire non linéaire. Sous certaines conditions sur la donnée initiale, nous montrons que la solution est globale alors que sous d'autres, elle explose en temps fini. Dans ce dernier cas, nous donnons son profil ainsi que des estimations bilatérales du temps d'explosion. Alors que pour la solution globale nous étudions son comportement asymptotique. / Our objective in this thesis is the study of nonlinear differential equations involving fractional derivatives in time and/or in space. First, we are interested in the study of two nonlinear time and/or space fractional systems. Our second interest is devoted to the analysis of a time fractional differential equation. More exactly for the first part, the question concerning the global existence and the asymptotic behavior of a nonlinear system of differential equations involving time and space fractional derivatives is addressed. The used techniques rest on estimates obtained for the fundamental solutions and the comparison of some fractional inequalities. In addition, we study a nonlinear system of reaction-diffusion equations with space fractional derivatives. The local existence and the uniqueness of the solutions are proved using the Banach fixed point theorem. We show that the solutions are bounded and analyze their large time behavior. The second part is dedicated to the study of a nonlinear time fractional differential equation. Under some conditions on the initial data, we show that the solution is global while under others, it blows-up in a finite time. In this case, we give its profile as well as bilateral estimates of the blow-up time. While for the global solution we study its asymptotic behavior.

Dans tout ce qui suit, nous considérons une variété riemannienne compacte de dimension au moins égale à 2. A tout domaine (suffisamment régulier) , on peut associer la première valeur propre ?Ù de l’opérateur de Laplace-Beltrami avec condition de Dirichlet au bord. Nous dirons qu’un domaine est extrémal (sous entendu, pour la première valeur propre de l’opérateur de Laplace-Beltrami) si est un point critique de la fonctionnelle Ù? ?O sous une contrainte de volume V ol(Ù) = c0. Autrement dit, est extrémal si, pour toute famille régulière {Ot}te (-t0,t0) de domaines de volume constant, telle que Ù 0 = Ù, la dérivée de la fonction t ? ?Ot en 0 est nulle. Rappelons que les domaines extrémaux sont caractérisés par le fait que la fonction propre, associée à la première valeur propre sur le domaine avec condition de Dirichlet au bord, a une donnée de Neumann constante au bord. Ce résultat a été démontré par A. El Soufi et S. Ilias en 2007. Les domaines extrémaux sont donc des domaines sur lesquels peut être résolu un problème elliptique surdéterminé. L’objectif principal de cette thèse est la construction de domaines extrémaux pour la première valeur propre de l’opérateur de Laplace-Beltrami avec condition de Dirichlet au bord. Nous donnons des résultats d’existence de domaines extrémaux dans le cas de petits volumes ou bien dans le cas de volumes proches du volume de la variété. Nos résultats permettent ainsi de donner de nouveaux exemples non triviaux de domaines extrémaux. Le premier résultat que nous avons obtenu affirme que si une variété admet un point critique non dégénéré de la courbure scalaire, alors pour tout volume petit il existe un domaine extrémal qui peut être construit en perturbant une boule géodésique centrée en ce point critique non dégénéré de la courbure scalaire. La méthode que nous utilisons pour construire ces domaines extrémaux revient à étudier l’opérateur (non linéaire) qui à un domaine associe la donnée de Neumann de la première fonction propre de l’opérateur de Laplace-Beltrami sur le domaine. Il s’agit d’un opérateur (hautement non linéaire), nonlocal, elliptique d’ordre 1. Dans Rn × R/Z, le domaine cylindrique Br × R/Z, o`u Br est la boule de rayon r > 0 dans Rn, est un domaine extrémal. En étudiant le linéarisé de l’opérateur elliptique du premier ordre défini par le problème précédent et en utilisant un résultat de bifurcation, nous avons démontré l’existence de domaines extrémaux nontriviaux dans Rn × R/Z. Ces nouveaux domaines extrémaux sont proches de domaines cylindriques Br × R/Z. S’ils sont invariants par rotation autour de l’axe vertical, ces domaines ne sont plus invariants par translations verticales. Ce deuxi`eme r´esultat donne un contre-exemple à une conjecture de Berestycki, Caffarelli et Nirenberg énoncée en 1997. Pour de grands volumes la construction de domaines extrémaux est techniquement plus difficile et fait apparaître des phénomènes nouveaux. Dans ce cadre, nous avons dû distinguer deux cas selon que la première fonction propre Ø0 de l’opérateur de Laplace-Beltrami sur la variété est constante ou non. Les résultats que nous avons obtenus sont les suivants : 1. Si Ø0 a des points critiques non dégénérés (donc en particulier n’est pas constante), alors pour tout volume assez proche du volume de la variété, il existe un domaine extrémal obtenu en perturbant le complément d’une boule géodésique centrée en un des points critiques non dégénérés de Ø0. 2. Si Ø0 est constante et la variété admet des points critiques non dégénérés de la courbure scalaire, alors pour tout volume assez proche du volume de la variété il existe un domaine extrémal obtenu en perturbant le complément d’une boule géodésique centrée en un des points critiques non dégénérés de la courbure scalaire / In what follows, we will consider a compact Riemannian manifold whose dimension is at least 2. Let Ù be a (smooth enough) domain and ?O the first eigenvalue of the Laplace-Beltrami operator on Ù with 0 Dirichlet boundary condition. We say that Ù is extremal (for the first eigenvalue of the Laplace-Beltrami operator) if is a critical point for the functional Ù? ?O with respect to variations of the domain which preserve its volume. In other words, Ù is extremal if, for all smooth family of domains { Ù t}te(-t0,t0) whose volume is equal to a constant c0, and Ù 0 = Ù, the derivative of the function t ? ?Ot computed at t = 0 is equal to 0. We recall that an extremal domain is characterized by the fact that the eigenfunction associated to the first eigenvalue of the Laplace-Beltrami operator over the domain with 0 Dirichlet boundary condition, has constant Neumann data at the boundary. This result has been proved by A. El Soufi and S. Ilias in 2007. Extremal domains are then domains over which can be solved an elliptic overdeterminated problem. The main aim of this thesis is the construction of extremal domains for the first eigenvalue of the Laplace-Beltrami operator with 0 Dirichlet boundary condition. We give some existence results of extremal domains in the cases of small volume or volume closed to the volume of the manifold. Our results allow also to construct some new nontrivial exemples of extremal domains. The first result we obtained states that if the manifold has a nondegenerate critical point of the scalar curvature, then, given a fixed volume small enough, there exists an extremal domain that can be constructed by perturbation of a geodesic ball centered in that nondegenerated critical point of the scalar curvature. The methode used is based on the study of the operator that to a given domain associes the Neumann data of the first eigenfunction of the Laplace-Beltrami operator over the domain. It is a highly nonlinear, non local, elliptic first order operator. In Rn × R/Z, the circular-cylinder-type domain Br × R/Z, where Br is the ball of radius r > 0 in Rn, is an extremal domain. By studying the linearized of the elliptic first order operator defined in the previous problem, and using some bifurcation results, we prove the existence of nontrivial extremal domains in Rn × R/Z. Such extremal domains are closed to the circular-cylinder-type domains Br × R/Z. If they are invariant by rotation with respect to the vertical axe, they are not invariant by vertical translations. This second result gives a counterexemple to a conjecture of Berestycki, Caffarelli and Nirenberg stated in 1997. For big volumes the construction of extremal domains is technically more difficult and shows some new phenomena. In this context, we had to distinguish two cases, according to the fact that the first eigenfunction Ø0 of the Laplace-Beltrami operator over the manifold is constant or not. The results obtained are the following : 1. If Ø0 has a nondegenerated critical point (in particular it is not constant), then, given a fixed volume closed to the volume of the manifold, there exists an extremal domain obtained by perturbation of the complement of a geodesic ball centered in a nondegenerated critical point of Ø0. 2. If Ø0 is constant and the manifold has some nondegenerate critical points of the scalar curvature, then, for a given fixed volume closed to the volume of the manifold, there exists an extremal domain obtained by perturbation of the complement of a geodesic ball centered in a nondegenerate critical point of the scalar curvature

Cette thèse est divisée en six parties. La première partie est consacrée à l'étude de propriétés de Hadamard et à l'obtention de théorèmes de Liouville pour des solutions de viscosité d'équations aux dérivées partielles elliptiques complètement non-linéaires avec des termes de gradient, ... / This thesis is divided into six parts. The first part is devoted to prove Hadamard properties and Liouville type theorems for viscosity solutions of fully nonlinear elliptic partial differential equations with gradient term ...