No description available.

Soit p un nombre premier. Cette thèse est une contribution à la théorie des représentations modulo p des groupes réductifs p-adiques, jusque là essentiellement centrée sur le groupe linéaire général GL(n) défini sur un corps local non archimédien F complet pour une valuation discrète, de caractéristique résiduelle p et de corps résiduel fini. L’originalité de nos travaux réside notamment dans le fait qu’ils concernent d’autres groupes : nous nous intéressons en effet à la description des classes d’isomorphisme des représentations modulo p de groupes formés des F-points d’un groupe réductif connexe défini, quasi-déployé de rang semi-simple égal à 1 sur F. Une place particulière est accordée au groupe spécial linéaire SL(2) et au groupe unitaire quasi-déployé non ramifié en trois variables U(2,1). Dans ces deux cas, nous montrons que les classes d’isomorphisme des représentations lisses irréductibles admissibles à coefficients dans un corps algébriquement clos de caractéristique p se scindent en deux familles : les représentations non supersingulières et les représentations supersingulières. Nous décrivons complètement les représentations non supersingulières, et montrons que la notion de supersingularité est équivalence à la notion de supercuspidalité apparaissant dans la théorie complexe. Nous donnons aussi une description explicite des représentations supersingulières de SL(2,Q_{p}), ce qui nous permet de définir dans ce cas une correspondance de Langlands locale semi-simple modulo p compatible à celle construite par Breuil pour GL(2). Nous généralisons ensuite les méthodes utilisées jusqu’alors pour obtenir la description des représentations non supercuspidales de G(F) lorsque G est un groupe réductif connexe défini, quasi-déployé, et rang semi-simple égal à 1 sur F. Elle fait apparaître trois familles deux à deux disjointes de représentations : les caractères, les représentations de la série principale et celles de la série spéciale. Nous terminons par une classification des modules à droite simples sur la pro-p-algèbre de Hecke-Iwahori H de SL(2,F). On déduit en particulier que l’application qui envoie une représentation lisse modulo p de SL(2,F) sur son espace de vecteurs invariants sous l’action du pro-p-sous-groupe d'Iwahori induit une bijection entre l’ensemble des classes d’isomorphisme des représentations lisses irréductibles non supersingulières de SL(2,F) et l’ensemble des classes d’isomorphisme des H-modules à droite simples non supersinguliers. Cette bijection s’étend aux objets supersinguliers lorsque l’on suppose que F = Q_{p}, ce qui est de bon augure dans la recherche d’une équivalence de catégories analogue à celle obtenue par Ollivier dans le cadre de la théorie existant pour GL(2, Q_{p}). / Let p be a prime number. This thesis is a contribution to the theory of mod p representations of p-adic reductive groups, which was until now mainly focused on the general linear group GL(n) defined over a non-archimedean local field F complete with respect to a discrete valuation and with finite residue class field of characteristic p. Our work is original as it deals with other groups : we indeed look for a classification of isomorphism classes of modulo p representations of groups formed by the F-points of a connected reductive group defined, quasi-split and of semi-simple rank 1 over F. A special place is devoted to the special linear group SL(2) and to the unramified quasi-split unitary group. In these two cases, we prove that the isomorphism classes of irreducible smooth representations over an algebraically closed field of characteristic p split into two families : supersingular and non-supersingular representations. We give a complete description of non-supersingular representations and prove that supersingularity is equivalent to the notion of supercuspidality that appears in the complex theory. We also make explicit the supersingular representations of SL(2,Q_{p}), what allows us to define a mod p semi-simple local Langlands correspondence that is compatible to the one built by Breuil for GL(2). We then generalize the methods used above to classify the isomorphism classes of non-supercuspidal representations of G(F) for G a connected reductive group which is defined, quasi-split and of semi-simple rank 1 over F. This classification is made up of three pairwise disjoint families : characters, representations of the principal series, and representations of the special series. We finally come back to SL(2) as we give an exhaustive classification of isomorphism classes of simple right modules on the pro-p-Iwahori-Hecke algebra H of SL(2,F). It implies that the map sending a smooth mod p representation of SL(2,F) on its vector space of invariants vectors under the action of the pro-p-Iwahori subgroup induces a bijection between non-supersingular irreducible smooth representations of SL(2,F) and non-supersingular simple right H-modules. This bijection extends to supersingular objects when F = Q_{p}, what is the first step in the search for an equivalence of categories similar to the one built by Ollivier in the setting of mod p representations of GL(2, Q_{p}).

Ce travail de thèse a pour but de construire et d’étudier une fibration de Hitchin pour les groupes qui apparaît naturellement lorsque l’on essaie de géométriser la formule des traces. On commence par construire une telle fibration en utilisant le semi-groupe de Vinberg. Sur ce semi-groupe de Vinberg, on montre qu’il existe un certain morphisme « polynôme caractéristique » muni d’une section naturelle, de même que dans le cas des algèbres de Lie. On montre également que l’on peut construire un centralisateur régulier au-dessus de cette base des polynômes caractéristiques qui est un schéma en groupes commutatif et lisse.On s’intéresse alors à des variantes pour les groupes des fibres de Springer affines pour lesquelles on remarque que l’introduction du semi-groupe de Vinberg permet d’obtenir une condition d’intégralité analogue à celle de Kazhdan-Lusztig. Ces fibres de Springer affines sont des analogues locaux des fibres de Hitchin. On obtient alors une formule de dimension pour ces fibres.Dans un troisième temps, on s’intéresse à l’aspect global de cette fibration pour laquelle on donne une interprétation modulaire et sur laquelle on construit l’action d’un champ de Picard, issu du centralisateur régulier. L’espace total de cette fibration étant en général singulier, nous étudions son complexe d’intersection. Cet espace de Hitchin s’obtient naturellement comme l’intersection du champ de Hecke avec la diagonale du champ des G-torseurs et on démontre que sur un ouvert suffisamment gros de la base de Hitchin, le complexe d’intersection de l’espace de Hitchin s’obtient par restriction de celui du champ de Hecke corrrespondant.Enfin, dans la dernière partie de cette thèse, on établit un théorème du support dans le cas où l’espace total est singulier analogue à celui de Ngô et l’on démontre que, dans le cas de la fibration de Hitchin, les supports qui interviennent sont reliés aux strates endoscopiques. / This main goal of this work is to construct and study the properties of Hitchin fibration for groups which appears naturally when we try to geometrize the trace formula. We begin by constructing this fibration using the Vinberg’s semigroup. On this semigroup, we show that there exists a characteristic polynomial morphism equipped with a natural section, analog at the Kostant’s one in the case of Lie algebras. We also show that there exists on the base of characteristic polynomials a regular centralizer scheme, which is a smooth commutative group scheme.Then, we are interested in some variant of affine Springer fibers, for which we see that the Vinberg’s semigroup appears naturally to obtain an integrality condition analog to Kazhdan-Lusztig’s one. These affine Springer fibers are local incarnation of Hitchin fibers.In a third time, we go back to the global case and give a modular interpretation of this new Hitchin fibration on which we construct an action of a Picard stack, coming from the regular centralizer.The total space of this fibration, even on the generically regular semisimple locus will be singular and we want to understand his intersection complex. This space can be obtained as the intersection of the Hecke stack with the diagonal of the stack of G-bundles and we show that on a sufficiently big open subset of the Hitchin base, the intersection complex of the Hitchin’s space is the restriction of the corresponding intersection complex on the Hecke stack.Finally, in the last part of this work, we establish a support theorem in the case of a singular total space, generalizing Ngo’s theorem et we show that in the case of Hitchin fibration, the supports that appear are related to the endoscopic strata.

La conjecture de Zilber-Pink est une conjecture diophantienne concernant les intersections atypiques dans les variétés de Shimura mixtes. C’est une généralisation commune de la conjecture d’André-Oort et de la conjecture de Mordell-Lang. Le but de cette thèse est d’étudier Zilber-Pink. Plus concrètement, nous étudions la conjecture d’André-Oort, selon laquelle une sous-variété d’une variété de Shimura mixte est spéciale si son intersection avec l’ensemble des points spéciaux est dense, et la conjecture d’André-Pink-Zannier, selon laquelle une sous-variété d’une variété de Shimura mixte est faiblement spéciale si son intersection avec une orbite de Hecke généralisée est dense. Cette dernière conjecture généralise Mordell-Lang comme expliqué par Pink.Dans la méthode de Pila-Zannier, un point clef pour étudier la conjecture de Zilber-Pink est de démontrer le théorème d’Ax-Lindemann qui est une généralisation du théorème classique de Lindemann-Weierstrass dans un cadre fonctionnel. Un des résultats principaux de cette thèse est la démonstration du théorème d’Ax-Lindemann dans sa forme la plus générale, c’est- à-dire le théorème d’Ax-Lindemann mixte. Ceci généralise les résultats de Pila, Pila-Tsimerman, Ullmo-Yafaev et Klingler-Ullmo-Yafaev concernant Ax-Lindemann pour les variétés de Shimura pures.Un autre résultat de cette thèse est la démonstration de la conjecture d’André-Oort pour une grande collection de variétés de Shimura mixtes : in- conditionnellement pour une variété de Shimura mixte arbitraire dont la par- tie pure est une sous-variété de AN6 (par exemple les produits des familles universelles des variétés abéliennes de dimension 6 et le fibré de Poincaré sur A6) et sous GRH pour toutes les variétés de Shimura mixtes de type abélien. Ceci généralise des théorèmes connus de Klinger-Ullmo-Yafaev, Pila, Pila-Tsimerman et Ullmo pour les variétés de Shimura pures.Quant à la conjecture d’André-Pink-Zannier, nous démontrons plusieurs cas valables lorsque la variété de Shimura mixte ambiante est la famille universelle des variétés abéliennes. Tout d’abord nous démontrons l’intersection d’André-Oort et André-Pink-Zannier, c’est-à-dire que l’on étudie l’orbite de Hecke généralisée d’un point spécial. Ceci généralise des résultats d’Edixhoven-Yafaev et Klingler-Ullmo-Yafaev pour Ag. Nous prouvons ensuite la conjecture dans le cas suivant : une sous-variété d’un schéma abélien au dessus d’une courbe est faiblement spéciale si son intersection avec l’orbite de Hecke généralisée d’un point de torsion d’une fibre non CM est Zariski dense. Finalement pour une orbite de Hecke généralisée d’un point algébrique arbitraire, nous démontrons la conjecture pour toutes les courbes. Ces deux derniers cas généralisent des résultats de Habegger-Pila et Orr pour Ag.Dans toutes les démonstrations, la théorie o-minimale, en particulier le théorème de comptage de Pila-Wilkie, joue un rôle important. / The Zilber-Pink conjecture is a diophantine conjecture concerning unlikely intersections in mixed Shimura varieties. It is a common generalization of the André-Oort conjecture and the Mordell-Lang conjecture. This dissertation is aimed to study the Zilber-Pink conjecture. More concretely, we will study the André-Oort conjecture, which predicts that a subvariety of a mixed Shimura variety having dense intersection with the set of special points is special, and the André-Pink-Zannier conjecture which predicts that a subvariety of a mixed Shimura variety having dense intersection with a generalized Hecke orbit is weakly special. The latter conjecture generalizes the Mordell-Lang conjecture as explained by Pink.In the Pila-Zannier method, a key point to study the Zilber-Pink conjec- ture is to prove the Ax-Lindemann theorem, which is a generalization of the functional analogue of the classical Lindemann-Weierstrass theorem. One of the main results of this dissertation is to prove the Ax-Lindemann theorem in its most general form, i.e. the mixed Ax-Lindemann theorem. This generalizes results of Pila, Pila-Tsimerman, Ullmo-Yafaev and Klingler-Ullmo-Yafaev concerning the Ax-Lindemann theorem for pure Shimura varieties.Another main result of this dissertation is to prove the André-Oort conjecture for a large class of mixed Shimura varieties: unconditionally for any mixed Shimura variety whose pure part is a subvariety of AN6 (e.g. products of universal families of abelian varieties of dimension 6 and the Poincaré bundle over A6) and under GRH for all mixed Shimura varieties of abelian type. This generalizes existing theorems of Klinger-Ullmo-Yafaev, Pila, Pila-Tsimerman and Ullmo concerning pure Shimura varieties.As for the André-Pink-Zannier conjecture, we prove several cases when the ambient mixed Shimura variety is the universal family of abelian varieties. First we prove the overlap of André-Oort and André-Pink-Zannier, i.e. we study the generalized Hecke orbit of a special point. This generalizes results of Edixhoven-Yafaev and Klingler-Ullmo-Yafaev for Ag. Secondly we prove the conjecture in the following case: a subvariety of an abelian scheme over a curve is weakly special if its intersection with the generalized Hecke orbit of a torsion point of a non CM fiber is Zariski dense. Finally for the generalized Hecke orbit of an arbitrary algebraic point, we prove the conjecture for curves. These generalize existing results of Habegger-Pila and Orr for Ag.In all these proofs, the o-minimal theory, in particular the Pila-Wilkie counting theorems, plays an important role.

Nous proposons deux applications à l'arithmétique des travaux récents de James Arthur sur la classification endoscopique du spectre discret des groupes symplectiques et orthogonaux. La première consiste à ôter une hypothèse d'irréductibilité dans un résultat de Richard Taylor décrivant l'image des conjugaisons complexes par les représentations galoisiennes p-adiques associées aux représentations automorphes cuspidales algébriques régulières essentiellement autoduales pour le groupe GL_{2n+1} sur un corps totalement réel. Nous l'étendons également au cas de GL_{2n}, sous une hypothèse de parité du caractère multiplicatif. Nous utilisons un résultat de déformation p-adique. Plus précisément, nous montrons l'abondance de points correspondant à des représentations galoisiennes (quasi-)irréductibles sur les variétés de Hecke pour les groupes symplectiques et orthogonaux pairs. La classification d'Arthur est utilisée à la fois pour définir les représentations galoisiennes et pour transférer des représentations automorphes autoduales (pas nécessairement cuspidales) de groupes linéaires aux groupes symplectiques et orthogonaux. La deuxième application concerne le calcul explicite de dimensions d'espaces de formes automorphes ou modulaires. Notre contribution principale est un algorithme calculant les intégrales orbitales aux éléments de torsion des groupes classiques p-adiques non ramifiés, pour l'unité de l'algèbre de Hecke non ramifiée. Cela permet le calcul du côté géométrique de la formule des traces d'Arthur, et donc celui de la caractéristique d'Euler du spectre discret en niveau un. La classification d'Arthur permet l'analyse fine de cette caractéristique d'Euler, jusqu'à en déduire les dimensions des espaces de formes automorphes. De là il n'est pas difficile d'apporter une réponse à un problème plus classique: déterminer les dimensions des espaces de formes modulaires de Siegel à valeurs vectorielles.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

On propose quatre contributions à l'étude des fonctions L de formes modulaires. La première montre que le Jacobien d'une courbe modulaire possède un facteur simple sur le corps des rationnels de grande dimension et de rang nul, et un facteur simple de grande dimension et de grand rang. La seconde établit la conjecture de densité de niveau 1 des petits zéros pour de nouvelles familles de fonctions L de formes modulaires. La troisième étudie la distribution de la valeur en 1 de la fonction L de carré symétrique d'une forme modulaire. La dernière établit, en collaboration avec F. Martin, un critère de détermination des formes modulaires par les valeurs spéciales de leurs fonctions L.

Soit p un nombre premier. Cette thèse est une contribution à la théorie des représentations modulo p des groupes réductifs p-adiques, jusque là essentiellement centrée sur le groupe linéaire général GL(n) défini sur un corps local non archimédien F complet pour une valuation discrète, de caractéristique résiduelle p et de corps résiduel fini. L'originalité de nos travaux réside notamment dans le fait qu'ils concernent d'autres groupes : nous nous intéressons en effet à la description des classes d'isomorphisme des représentations modulo p de groupes formés des F-points d'un groupe réductif connexe défini, quasi-déployé de rang semi-simple égal à 1 sur F. Une place particulière est accordée au groupe spécial linéaire SL(2) et au groupe unitaire quasi-déployé non ramifié en trois variables U(2,1). Dans ces deux cas, nous montrons que les classes d'isomorphisme des représentations lisses irréductibles admissibles à coefficients dans un corps algébriquement clos de caractéristique p se scindent en deux familles : les représentations non supersingulières et les représentations supersingulières. Nous décrivons complètement les représentations non supersingulières, et montrons que la notion de supersingularité est équivalence à la notion de supercuspidalité apparaissant dans la théorie complexe. Nous donnons aussi une description explicite des représentations supersingulières de SL(2,Q_{p}), ce qui nous permet de définir dans ce cas une correspondance de Langlands locale semi-simple modulo p compatible à celle construite par Breuil pour GL(2). Nous généralisons ensuite les méthodes utilisées jusqu'alors pour obtenir la description des représentations non supercuspidales de G(F) lorsque G est un groupe réductif connexe défini, quasi-déployé, et rang semi-simple égal à 1 sur F. Elle fait apparaître trois familles deux à deux disjointes de représentations : les caractères, les représentations de la série principale et celles de la série spéciale. Nous terminons par une classification des modules à droite simples sur la pro-p-algèbre de Hecke-Iwahori H de SL(2,F). On déduit en particulier que l'application qui envoie une représentation lisse modulo p de SL(2,F) sur son espace de vecteurs invariants sous l'action du pro-p-sous-groupe d'Iwahori induit une bijection entre l'ensemble des classes d'isomorphisme des représentations lisses irréductibles non supersingulières de SL(2,F) et l'ensemble des classes d'isomorphisme des H-modules à droite simples non supersinguliers. Cette bijection s'étend aux objets supersinguliers lorsque l'on suppose que F = Q_{p}, ce qui est de bon augure dans la recherche d'une équivalence de catégories analogue à celle obtenue par Ollivier dans le cadre de la théorie existant pour GL(2, Q_{p}).

Cette thèse présente quelques résultats de la théorie des représentations des algèbres de Cherednikrationnelles en t=0 et traite en particulier des différents ordres construits sur la partition de Calogero-Moserdes groupes imprimitifs.On commence par généraliser au cas abélien certains résultats obtenus par M. Chlouveraki concernant lesblocs d'algèbres en système de Clifford pour un groupe cyclique, puis on construit un ordre sur les C*-pointsfixes d'une variété complexe quasi-projective normale, en utilisant la décomposition de Bialynicki-Birula.Dans la deuxième partie, on s'intéresse à la description des partitions de Calogero-Moser de deux groupesde réflexions complexes K et W quand K est un sous-groupe distingué de W et on généralise au cas abélienles résultats obtenus par G. Bellamy dans le cas d'un quotient W/K cyclique.Dans la troisième partie, on présente les différents ordres, construits par I. Gordon, sur la partition deCalogero-Moser des groupes G(l,1,n) pour certains paramètres : les ordres des a et c-fonctions, un ordrecombinatoire et l'ordre géométrique, qui est défini grâce aux C*-points fixes de certaines variétés decarquois, ces points fixes paramétrant les blocs de la partition de Calogero-Moser de G(l,1,n). On donneensuite les relations entre ces ordres, puis on étend ces constructions ainsi que ces liens à l'ensemble desparamètres.Enfin, dans la dernière partie, on tente de généraliser ces propriétés aux groupes G(l,e,n). On cherche alors,pour construire l'ordre géométrique sur la partition de Calogero-Moser de G(l,e,n), une variété dont les C*-points fixes décrivent les blocs de la partition de G(l,e,n). Dans le cas où e ne divise pas n, on construit lavariété qui nous permet de définir l'ordre géométrique et de le relier aux autres ordres. Pour le cas e divise n,on propose une variété qui pourrait décrire par ses points fixes les blocs de Calogero-Moser de G(l,e,n) etnous permettre de construire l'ordre géométrique.

This work is concerned with two different problems in harmonic analysis, one on the Heisenberg group and other on Rn, as described in the following two paragraphs respectively. Let Hn be the (2n + 1)-dimensional Heisenberg group, and let K be a compact subgroup of U(n), such that (K, Hn) is a Gelfand pair. Also assume that the K-action on Cn is polar. We prove a Hecke-Bochner identity associated to the Gelfand pair (K, Hn). For the special case K = U(n), this was proved by Geller, giving a formula for the Weyl transform of a function f of the type f = Pg, where g is a radial function, and P a bigraded solid U(n)-harmonic polynomial. Using our general Hecke-Bochner identity we also characterize (under some conditions) joint eigenfunctions of all differential operators on Hn that are invariant under the action of K and the left action of Hn . We consider convolution equations of the type f * T = g, where f, g ε Lp(Rn) and T is a compactly supported distribution. Under natural assumptions on the zero set of the Fourier transform of T , we show that f is compactly supported, provided g is.