Soit p un nombre premier. Cette thèse est une contribution à la théorie des représentations modulo p des groupes réductifs p-adiques, jusque là essentiellement centrée sur le groupe linéaire général GL(n) défini sur un corps local non archimédien F complet pour une valuation discrète, de caractéristique résiduelle p et de corps résiduel fini. L’originalité de nos travaux réside notamment dans le fait qu’ils concernent d’autres groupes : nous nous intéressons en effet à la description des classes d’isomorphisme des représentations modulo p de groupes formés des F-points d’un groupe réductif connexe défini, quasi-déployé de rang semi-simple égal à 1 sur F. Une place particulière est accordée au groupe spécial linéaire SL(2) et au groupe unitaire quasi-déployé non ramifié en trois variables U(2,1). Dans ces deux cas, nous montrons que les classes d’isomorphisme des représentations lisses irréductibles admissibles à coefficients dans un corps algébriquement clos de caractéristique p se scindent en deux familles : les représentations non supersingulières et les représentations supersingulières. Nous décrivons complètement les représentations non supersingulières, et montrons que la notion de supersingularité est équivalence à la notion de supercuspidalité apparaissant dans la théorie complexe. Nous donnons aussi une description explicite des représentations supersingulières de SL(2,Q_{p}), ce qui nous permet de définir dans ce cas une correspondance de Langlands locale semi-simple modulo p compatible à celle construite par Breuil pour GL(2). Nous généralisons ensuite les méthodes utilisées jusqu’alors pour obtenir la description des représentations non supercuspidales de G(F) lorsque G est un groupe réductif connexe défini, quasi-déployé, et rang semi-simple égal à 1 sur F. Elle fait apparaître trois familles deux à deux disjointes de représentations : les caractères, les représentations de la série principale et celles de la série spéciale. Nous terminons par une classification des modules à droite simples sur la pro-p-algèbre de Hecke-Iwahori H de SL(2,F). On déduit en particulier que l’application qui envoie une représentation lisse modulo p de SL(2,F) sur son espace de vecteurs invariants sous l’action du pro-p-sous-groupe d'Iwahori induit une bijection entre l’ensemble des classes d’isomorphisme des représentations lisses irréductibles non supersingulières de SL(2,F) et l’ensemble des classes d’isomorphisme des H-modules à droite simples non supersinguliers. Cette bijection s’étend aux objets supersinguliers lorsque l’on suppose que F = Q_{p}, ce qui est de bon augure dans la recherche d’une équivalence de catégories analogue à celle obtenue par Ollivier dans le cadre de la théorie existant pour GL(2, Q_{p}). / Let p be a prime number. This thesis is a contribution to the theory of mod p representations of p-adic reductive groups, which was until now mainly focused on the general linear group GL(n) defined over a non-archimedean local field F complete with respect to a discrete valuation and with finite residue class field of characteristic p. Our work is original as it deals with other groups : we indeed look for a classification of isomorphism classes of modulo p representations of groups formed by the F-points of a connected reductive group defined, quasi-split and of semi-simple rank 1 over F. A special place is devoted to the special linear group SL(2) and to the unramified quasi-split unitary group. In these two cases, we prove that the isomorphism classes of irreducible smooth representations over an algebraically closed field of characteristic p split into two families : supersingular and non-supersingular representations. We give a complete description of non-supersingular representations and prove that supersingularity is equivalent to the notion of supercuspidality that appears in the complex theory. We also make explicit the supersingular representations of SL(2,Q_{p}), what allows us to define a mod p semi-simple local Langlands correspondence that is compatible to the one built by Breuil for GL(2). We then generalize the methods used above to classify the isomorphism classes of non-supercuspidal representations of G(F) for G a connected reductive group which is defined, quasi-split and of semi-simple rank 1 over F. This classification is made up of three pairwise disjoint families : characters, representations of the principal series, and representations of the special series. We finally come back to SL(2) as we give an exhaustive classification of isomorphism classes of simple right modules on the pro-p-Iwahori-Hecke algebra H of SL(2,F). It implies that the map sending a smooth mod p representation of SL(2,F) on its vector space of invariants vectors under the action of the pro-p-Iwahori subgroup induces a bijection between non-supersingular irreducible smooth representations of SL(2,F) and non-supersingular simple right H-modules. This bijection extends to supersingular objects when F = Q_{p}, what is the first step in the search for an equivalence of categories similar to the one built by Ollivier in the setting of mod p representations of GL(2, Q_{p}).

Une approche inductive est développée pour la théorie des représentations de la chaîne des algèbres de Hecke cyclotomiques de type G(m,1,n). Cette approche repose sur l'étude du spectre d'une famille commutative maximale, formée par les analogues des éléments de Jucys--Murphy.Les représentations irréductibles, paramétrées par les multi-partitions, sont construites avec l'aide d'une nouvelle algèbre associative, dont l'espace vectoriel sous-jacent est le produit tensoriel de l'algèbre de Hecke cyclotomique avec l'algèbre associative libre engendrée par les multi-tableaux standards.L'analogue de cette approche est présentée pour la limite classique, c'est-à-dire la chaîne des groupes de réflexions complexes de type G(m,1,n).Dans une seconde partie, une base des algèbres de Hecke cyclotomiques est donnée et la platitude de la déformation est montrée sans utiliser la théorie des représentations. Ces résultats sont généralisés aux algèbres de Hecke affines de type A.Ensuite, une procédure de fusion est présentée pour les groupes de réflexions complexes et les algèbres de Hecke cyclotomiques de type G(m,1,n). Dans les deux cas, un ensemble complet d'idempotents primitifs orthogonaux est obtenu par évaluation consécutive d'une fonction rationnelle.Dans une troisième partie, une nouvelle présentation est obtenue pour les sous-groupes alternés de tous les groupes de Coxeter. Les générateurs sont reliés aux arêtes orientées du graphe de Coxeter. Cette présentation est ensuite étendue, pour tous les types, aux extensions spinorielles des groupes alternés, aux algèbres de Hecke alternées et aux sous-groupes alternés des groupes de tresses. / An inductive approach to the representation theory of the chain of the cyclotomic Hecke algebras of type G(m,1,n) is developed. This approach relies on the study of the spectrum of a maximal commutative family formed by the analogues of the Jucys--Murphy elements.The irreducible representations, labelled by the multi-partitions, are constructed with the help of a new associative algebra, whose underlying vector space is the tensor product of the cyclotomic Hecke algebra with the free associative algebra generated by the standard multi-tableaux.The analogue of this approach is presented for the classical limit, that is for the chain of complex reflection groups of type G(m,1,n).In a second part, a basis of the cyclotomic Hecke algebras is given and the flatness of the deformation is proved without using the representation theory. These results are extended to the affine Hecke algebras of type A.Then a fusion procedure is presented for the complex reflection groups and the cyclotomic Hecke algebras of type G(m,1,n). In both cases, a complete set of primitive orthogonal idempotents is obtained by successive evaluations of a rational fonction.In a third part, a new presentation is obtained for the alternating subgroups of all Coxeter groups. The generators are related to oriented edges of the Coxeter graph. This presentation is then extended, for all types, to the spinor extensions of the alternating groups, the alternating Hecke algebras and the alternating subgroups of braid groups.

Cette thèse porte sur trois problèmes en combinatoire algébrique effective et algorithmique.Les premières parties proposent une approche alternative aux bases de Gröbner pour le calcul des invariants secondaires des groupes de permutations, par évaluation en des points choisis de manière appropriée. Cette méthode permet de tirer parti des symétries du problème pour confiner les calculs dans un quotient de petite dimension, et ainsi d'obtenir un meilleur contrôle de la complexité algorithmique, en particulier pour les groupes de grande taille. L'étude théorique est illustrée par de nombreux bancs d'essais utilisant une implantation fine des algorithmes. Un prérequis important est la génération efficace de vecteurs d'entiers modulo l'action d'un groupe de permutation, dont l'algorithmique fait l'objet d'une partie préliminaire.La quatrième partie cherche à déterminer, pour un certain quotient naturel d'une algèbre de Hecke affine, quelles spécialisations des paramètres aux racines de l'unité donne un comportement non générique.Finalement, la dernière partie présente une conjecture sur la structure d'une certaine $q$-déformation des polynômes harmoniques diagonaux en plusieurs paquets de variables pour la famille infinie de groupes de réflexions complexes.Tous ces chapitres s'appuient fortement sur l'exploration informatique, et font l'objet de multiples contributions au logiciel Sage. / This thesis concerns algorithmic approaches to three challenging problems in computational algebraic combinatorics.The firsts parts propose a Gröbner basis free approach for calculating the secondary invariants of a finite permutation group, proceeding by using evaluation at appropriately chosen points. This approach allows for exploiting the symmetries to confine the calculations into a smaller quotient space, which gives a tighter control on the algorithmic complexity, especially for large groups. The theoretical study is illustrated by extensive benchmarks using a fine implementation of algorithms. An important prerequisite is the generation of integer vectors modulo the action of a permutation group, whose algorithmic constitute a preliminary part of the thesis.The fourth part of this thesis is determining for a certain interesting quotient of an affine Hecke algebra exactly which root-of-unity specialization of its parameter lead to non-generic behavior.Finally, the last part presents a conjecture on the structure of certain q-deformed diagonal harmonics in many sets of variables for the infinite family of complex reflection groups.All chapters proceed widely by computer exploration, and most of established algorithms constitute contributions of the software Sage.

Une approche inductive est développée pour la théorie des représentations de la chaîne des algèbres de Hecke cyclotomiques de type G(m,1,n). Cette approche repose sur l'étude du spectre d'une famille commutative maximale, formée par les analogues des éléments de Jucys-Murphy. Les représentations irréductibles, paramétrées par les multi-partitions, sont construites avec l'aide d'une nouvelle algèbre associative, dont l'espace vectoriel sous-jacent est le produit tensoriel de l'algèbre de Hecke cyclotomique avec l'algèbre associative libre engendrée par les multi-tableaux standards. L'analogue de cette approche est présentée pour la limite classique, c'est-à-dire la chaîne des groupes de réflexions complexes de type G(m,1,n). Dans une seconde partie, une base des algèbres de Hecke cyclotomiques est donnée et la platitude de la déformation est montrée sans utiliser la théorie des représentations. Ces résultats sont généralisés aux algèbres de Hecke affines de type A. Ensuite, une procédure de fusion est présentée pour les groupes de réflexions complexes et les algèbres de Hecke cyclotomiques de type G(m,1,n). Dans les deux cas, un ensemble complet d'idempotents primitifs orthogonaux est obtenu par évaluation consécutive d'une fonction rationnelle. Dans une troisième partie, une nouvelle présentation est obtenue pour les sous-groupes alternés de tous les groupes de Coxeter. Les générateurs sont reliés aux arêtes orientées du graphe de Coxeter. Cette présentation est ensuite étendue, pour tous les types, aux extensions spinorielles des groupes alternés, aux algèbres de Hecke alternées et aux sous-groupes alternés des groupes de tresses.