In 1976, Springer defined a correspondence making a link between the irreducible ordinary (characteristic zero) representations of a Weyl group and the geometry of the associated nilpotent variety. In this thesis, we define a modular Springer correspondence (in positive characteristic), and we show that the decomposition numbers of a Weyl group (for example the symmetric group) are particular cases of decomposition numbers for equivariant perverse sheaves on the nilpotent variety. We calculate explicitly the decomposition numbers associated to the regular and subregular classes, and to the minimal and trivial classes. We determine the correspondence explicitly in the case of the symmetric group, and show that James's row and column removal rule is a consequence of a smooth equivalence of nilpotent singularities obtained by Kraft and Procesi. The first chapter contains generalities about perverse sheaves with Z_l and F_l coefficients.

Dans ce travail, nous exploitons des propriétés déjà connues pour les systèmes de poids des représentations afin de les définir pour les orbites des groupes de Weyl des algèbres de Lie simples, traitées individuellement, et nous étendons certaines de ces propriétés aux orbites des groupes de Coxeter non cristallographiques. D'abord, nous considérons les points d'une orbite d'un groupe de Coxeter fini G comme les sommets d'un polytope (G-polytope) centré à l'origine d'un espace euclidien réel à n dimensions. Nous introduisons les produits et les puissances symétrisées de G-polytopes et nous en décrivons la décomposition en des sommes de G-polytopes. Plusieurs invariants des G-polytopes sont présentés. Ensuite, les orbites des groupes de Weyl des algèbres de Lie simples de tous types sont réduites en l'union d'orbites des groupes de Weyl des sous-algèbres réductives maximales de l'algèbre. Nous listons les matrices qui transforment les points des orbites de l'algèbre en des points des orbites des sous-algèbres pour tous les cas n<=8 ainsi que pour plusieurs séries infinies des paires d'algèbre-sous-algèbre. De nombreux exemples de règles de branchement sont présentés. Finalement, nous fournissons une nouvelle description, uniforme et complète, des centralisateurs des sous-groupes réguliers maximaux des groupes de Lie simples de tous types et de tous rangs. Nous présentons des formules explicites pour l'action de tels centralisateurs sur les représentations irréductibles des algèbres de Lie simples et montrons qu'elles peuvent être utilisées dans le calcul des règles de branchement impliquant ces sous-algèbres. / In this work, we exploit properties well known for weight systems of representations to define them for individual orbits of the Weyl groups of simple Lie algebras, and we extend some of these properties to orbits of non-crystallographic Coxeter groups. Points of an orbit of a finite Coxeter group G are considered as vertices of a polytope (G-polytope) centered at the origin of a real n-dimensional Euclidean space. Products and symmetrized powers of G-polytopes are introduced and their decomposition into the sums of G-polytopes is described. Several invariants of G-polytopes are found. The orbits of Weyl groups of simple Lie algebras of all types are reduced to the union of orbits of the Weyl groups of maximal reductive subalgebras of the algebra. Matrices transforming points of the orbits of the algebra into points of subalgebra orbits are listed for all cases n<=8 and for many infinite series of algebra-subalgebra pairs. Numerous examples of branching rules are shown. Finally, we present a new, uniform and comprehensive description of centralizers of the maximal regular subgroups in compact simple Lie groups of all types and ranks. Explicit formulas for the action of such centralizers on irreducible representations of the simple Lie algebras are given and shown to have application to computation of the branching rules with respect to these subalgebras.

Cette thèse s'intéresse à l'étude des propriétés et applications de quatre familles des fonctions spéciales associées aux groupes de Weyl et dénotées $C$, $S$, $S^s$ et $S^l$. Ces fonctions peuvent être vues comme des généralisations des polynômes de Tchebyshev. Elles sont en lien avec des polynômes orthogonaux à plusieurs variables associés aux algèbres de Lie simples, par exemple les polynômes de Jacobi et de Macdonald. Elles ont plusieurs propriétés remarquables, dont l'orthogonalité continue et discrète. En particulier, il est prouvé dans la présente thèse que les fonctions $S^s$ et $S^l$ caractérisées par certains paramètres sont mutuellement orthogonales par rapport à une mesure discrète. Leur orthogonalité discrète permet de déduire deux types de transformées discrètes analogues aux transformées de Fourier pour chaque algèbre de Lie simple avec racines des longueurs différentes. Comme les polynômes de Tchebyshev, ces quatre familles des fonctions ont des applications en analyse numérique. On obtient dans cette thèse quelques formules de <<cubature>>, pour des fonctions de plusieurs variables, en liaison avec les fonctions $C$, $S^s$ et $S^l$. On fournit également une description complète des transformées en cosinus discrètes de types V--VIII à $n$ dimensions en employant les fonctions spéciales associées aux algèbres de Lie simples $B_n$ et $C_n$, appelées cosinus antisymétriques et symétriques. Enfin, on étudie quatre familles de polynômes orthogonaux à plusieurs variables, analogues aux polynômes de Tchebyshev, introduits en utilisant les cosinus (anti)symétriques. / This thesis presents several properties and applications of four families of Weyl group orbit functions called $C$-, $S$-, $S^s$- and $S^l$-functions. These functions may be viewed as generalizations of the well-known Chebyshev polynomials. They are related to orthogonal polynomials associated with simple Lie algebras, e.g. the multivariate Jacobi and Macdonald polynomials. They have numerous remarkable properties such as continuous and discrete orthogonality. In particular, it is shown that the $S^s$- and $S^l$-functions characterized by certain parameters are mutually orthogonal with respect to a discrete measure. Their discrete orthogonality allows to deduce two types of Fourier-like discrete transforms for each simple Lie algebra with two different lengths of roots. Similarly to the Chebyshev polynomials, these four families of functions have applications in numerical integration. We obtain in this thesis various cubature formulas, for functions of several variables, arising from $C$-, $S^s$- and $S^l$-functions. We also provide a~complete description of discrete multivariate cosine transforms of types V--VIII involving the Weyl group orbit functions arising from simple Lie algebras $C_n$ and $B_n$, called antisymmetric and symmetric cosine functions. Furthermore, we study four families of multivariate Chebyshev-like orthogonal polynomials introduced via (anti)symmetric cosine functions.

Dans ce travail, nous exploitons des propriétés déjà connues pour les systèmes de poids des représentations afin de les définir pour les orbites des groupes de Weyl des algèbres de Lie simples, traitées individuellement, et nous étendons certaines de ces propriétés aux orbites des groupes de Coxeter non cristallographiques. D'abord, nous considérons les points d'une orbite d'un groupe de Coxeter fini G comme les sommets d'un polytope (G-polytope) centré à l'origine d'un espace euclidien réel à n dimensions. Nous introduisons les produits et les puissances symétrisées de G-polytopes et nous en décrivons la décomposition en des sommes de G-polytopes. Plusieurs invariants des G-polytopes sont présentés. Ensuite, les orbites des groupes de Weyl des algèbres de Lie simples de tous types sont réduites en l'union d'orbites des groupes de Weyl des sous-algèbres réductives maximales de l'algèbre. Nous listons les matrices qui transforment les points des orbites de l'algèbre en des points des orbites des sous-algèbres pour tous les cas n<=8 ainsi que pour plusieurs séries infinies des paires d'algèbre-sous-algèbre. De nombreux exemples de règles de branchement sont présentés. Finalement, nous fournissons une nouvelle description, uniforme et complète, des centralisateurs des sous-groupes réguliers maximaux des groupes de Lie simples de tous types et de tous rangs. Nous présentons des formules explicites pour l'action de tels centralisateurs sur les représentations irréductibles des algèbres de Lie simples et montrons qu'elles peuvent être utilisées dans le calcul des règles de branchement impliquant ces sous-algèbres. / In this work, we exploit properties well known for weight systems of representations to define them for individual orbits of the Weyl groups of simple Lie algebras, and we extend some of these properties to orbits of non-crystallographic Coxeter groups. Points of an orbit of a finite Coxeter group G are considered as vertices of a polytope (G-polytope) centered at the origin of a real n-dimensional Euclidean space. Products and symmetrized powers of G-polytopes are introduced and their decomposition into the sums of G-polytopes is described. Several invariants of G-polytopes are found. The orbits of Weyl groups of simple Lie algebras of all types are reduced to the union of orbits of the Weyl groups of maximal reductive subalgebras of the algebra. Matrices transforming points of the orbits of the algebra into points of subalgebra orbits are listed for all cases n<=8 and for many infinite series of algebra-subalgebra pairs. Numerous examples of branching rules are shown. Finally, we present a new, uniform and comprehensive description of centralizers of the maximal regular subgroups in compact simple Lie groups of all types and ranks. Explicit formulas for the action of such centralizers on irreducible representations of the simple Lie algebras are given and shown to have application to computation of the branching rules with respect to these subalgebras.