Le but principal de ce mémoire est de comprendre la représentation et la classification des groupes de Coxeter hyperboliques. Après avoir jeté les interbases de la théorie de Coxeter, nous exposerons la classification des groupes de Coxeter, puis celle des groupes de Coxeter hyperboliques. Nous porterons une attention particulière au cas des groupes hyperboliques de rang 3. Plus précisément, nous tâcherons de faire le pont entre leur représentation dans ℝ³ et celle dans le disque de Poincarré; notamment, nous remarquerons l'équivalence des notions de réflexion et d'inversion. Les notions de domaine fondamental, de cône de Tits et de forme bilinéaire sont essentielles à la représentation des groupes de Coxeter. La classification des groupes de Coxeter hyperboliques est, pour sa part, basée sur la compacité et sur la classification des groupes de Coxeter finis et affines. Ce mémoire ayant comme visée la compréhension, et non le développement de la science, nous n'exposons que des résultats connus. Le désir d'illustrer le plus possible constitue peut-être une distinction dans la démarche suivie. Nous avons surtout tenté de représenter un groupe de Coxeter hyperbolique grâce au langage informatique Sage. Les détails du code sont omis, mais dérivent directement des calculs faits aux chapitres 2 et 3. ______________________________________________________________________________ MOTS-CLÉS DE L’AUTEUR : Groupe, Coxeter, Hyperbolique, Représentation, Classification.

Dans ce mémoire de maîtrise, nous allons nous intéresser au treillis Cambrian. Nous débuterons par des rappels de notions préliminaires sur les treillis, les groupes de Coxeter et l'ordre faible. Ensuite, nous présenterons le treillis Cambrian comme étant un sous-treillis du treillis faible. Puis, en considérant une congruence de treillis, nous allons démontrer qu'il peut également être vu comme le treillis quotient de l'ordre faible. Finalement, nous donnerons une représentation combinatoire des treillis Cambrian de type An. ______________________________________________________________________________

En 1976, le mathématicien Solomon a découvert l'existence d'une sous-algèbre de l'algèbre d'un groupe de Coxeter W : l'algèbre de descentes de W. Dans son approche, cette algèbre est définie algébriquement par le biais des systèmes de racines et des systèmes de représentants des classes de W pour des sous groupes paraboliques. Nous introduisons dans ce mémoire cette sous-algèbre et montrons la formule de Solomon qui explicite les constantes de structures de cette algèbre. Puis nous présentons une approche géométrique des groupes de Coxeter finis qui permet de présenter cette sous-algèbre d'une manière intrinsèque. L'étude des arrangements d'hyperplans est notre outil principal pour définir une algèbre de faces et ainsi construire un anti-isomorphisme entre l'algèbre de descentes et la sous-algèbre de faces invariante selon l'action de W. Le cas du groupe symétrique W =Sn sera notre exemple principal. ______________________________________________________________________________

La combinatoire de Coxeter-Catalan est très jeune. Elle s'est développée dans les deux dernières décennies en lien avec des phénomènes combinatoires reliés aux nombres de Catalan. Entre autres, elle permet d'interpréter certains résultats de la théorie des algèbres amassées, une théorie très vivante ces dernières années. En 2007, N. Reading a donné une interprétation combinatoire des générateurs des algèbres amassées - les amas - à l'aide des groupes de Coxeter et certains éléments - appelés éléments triés - ayant des propriétés combinatoires particulières. Le présent texte rassemble les notions essentielles sur les groupes de Coxeter et la combinatoire sous-jacente, afin de démontrer l'interprétation de N. Reading et d'illustrer certaines conséquences de celle-ci. Tout en introduisant les notions, une attention particulière est accordée à la perspective actuelle des résultats et au cheminement de ceux-ci. Le texte est parsemé d'images pour un apport visuel accru. Celles-ci ont été réalisées à l'aide de la librairie TikZ de LATEX. ______________________________________________________________________________

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Dans ma thèse, je me suis intéressé à l'étude des sous-groupes discrets $\G$ de $\s$ (resp. de $ßs^{\pm}_{4}(\R)$) qui préservent un ouvert proprement convexe $\O$ de l'espace projectif réel $\P(\R)$ (resp. $\PP^3(\R)$). En dimension 2, j'ai caractérisé le fait que la surface quotient $\Quo$ est de volume fini de différentes façons, notamment à l'aide l'holonomie des pointes de la surface $S$, ou de l'ensemble limite du groupe $\G$. Cette étude m'a permis de montrer que lorsque le quotient $\Quo$ est de volume fini, alors l'ouvert proprement convexe $\O$ est strictement convexe et son bord $\partial \O$ est $C^1$. Enfin, j'ai montré que l'espace des modules des structures projectives proprement convexes de volume fini, sur une surface (de caractéristique d'Euler strictement négative) de genre $g$ et à $p$ pointes est homéomorphe à une boule de dimension $16g-16+6p$. En dimension 3, je me suis intéressé à l'espace des modules des structures projectives proprement convexes sur les 3-orbifolds de Coxeter compact. J'ai dû faire une hypothèse sur la forme de l'orbifold pour montrer que l'espace des modules est une réunion de $n$ boules de dimension $d$, où les entiers $n$ et $d$ se calculent à l'aide de la combinatoire de l'orbifold.

Cette thèse est une contribution à l'étude combinatoire des groupes de Coxeter et des groupes d'Artin-Tits. Dans la première partie, nous complétons la description du groupe des automorphismes d'un groupe de Coxeter à angles droits en étudiant le second des deux sous-groupes qui apparaissent dans la décomposition en produit semi-direct établie par Tits (le premier est décrit par Mühlherr). Nous retrouvons ainsi le résultat de Radcliffe sur la rigidité des groupes de Coxeter à angles droits. Dans la deuxième partie, nous introduisons et étudions la notion de sous-monoïde d'un monoïde d'Artin-Tits induit par une partition admissible du graphe de Coxeter, au sens de Mühlherr. Nous montrons qu'un tel sous-monoïde est un monoïde d'Artin-Tits, et que cette notion généralise et unifie les situations des sous-monoïdes des points fixes d'un monoïde d'Artin-Tits sous l'action d'automorphismes du graphe, et des LCM-homomorphismes de Crisp et Godelle. Nous achevons la classification des partitions admissibles des graphes de Coxeter sphériques, commencée par Mühlherr ; elle nous fournit la classification des LCM-homomorphismes de Crisp. Dans la troisième partie, nous étudions la représentation de Krammer-Paris d'un monoïde d'Artin-Tits de type simplement lacé et sans triangle. Le sous-monoïde des points fixes d'un tel monoïde sous l'action d'un groupe d'automorphismes du graphe stabilise le sous-espace des points fixes de l'espace de la représentation sous l'action de ce groupe. Nous utilisons des notions développées par Hée pour prouver que la représentation ainsi obtenue est fidèle. Cela généralise, en évitant tout cas par cas, des résultats établis par Digne dans les cas sphériques.

L'ordre faible sur un groupe de Coxeter W est un ordre partiel sur les éléments de W, intervenant dans de nombreux domaines de la combinatoire algébrique. Dans cette thèse, on propose un nouveau modèle général pour l'étude de cet ordre ainsi que d'autres ensembles ordonnés affiliés, et on explore diverses conséquences aussi bien algébriques que combinatoires de cette construction. On commence, dans le chapitre 3, par étudier une version restreinte de ce modèle. Plus précisément, on explique comment on peut associer un ensemble ordonné (aussi appelé « poset » à tout graphe orienté, simple, acyclique et muni d'une valutation sur ses sommets (aussi appelé « graphe valué »). On montre ensuite que ces posets sont en général des semi-treillis inférieurs, des treillis quand le graphe est fini, et on donne une formule explicite pour les valeurs de leurs fonctions de Möbius. On prouve ensuite que l'ordre faible sur les groupes de Coxeter de type A, B et A, le « flag weak order », ainsi que le treillis des idéaux supérieurs et inférieurs de tout poset fini peuvent être décrit avec notre modèle. Cette description amène naturellement à associer une série quasi-symétrique à chaque élément de An et An et on montre que cette série est en fait la série de Stanley associée. On présente dans le chapitre 4 les résultats centraux de la thèse, en effet on y introduit la généralisation de la construction faite au chapitre précédent au cas de tout graphe valué, c'est-à-dire sans condition s'acyclicité et de simplicité. On s'affranchit également de certaines contraintes imposées par la définition du chapitre 3, ce qui nous permet d'associer à tout graphe valué un treillis complet, et non plus un semi-treillis. En particulier, les semi-treillis du chapitre 3 se retrouvent naturellement plongés dans un treillis complet. Ceci nous amène à nous intéresser à des conjectures de Dyer portant sur l'étude d'une extension de l'ordre faible sur tout groupe de Coxeter (entre autres, il est conjecturé que ces extensions sont des treillis complets). On construit alors, à l'aide de notre formalisme, des extensions de l'ordre faible ayant beaucoup des propriétés conjecturalement attachées aux extensions de Dyer, et contenant ces dernières comme sous-poset. On conjecture que l'une de ces extensions coïncide avec celle de Dyer, et on fournit des outils pour le tester. Finalement, on étudie diverses conséquences de notre théorie : la construction d'extensions des semi-treillis cambriens (fin du chapitre 4), la construction d'un nouveau modèle combinatoire pour le treillis de Tamari et m-Tamari (chapitre 5), et enfin on propose une application à la combinatoire des tableaux (chapitre 6) / Weak order on a Coxeter group W is a partial order on W appearing in many areas of algebraic combinatorics. In this thesis, we propose a new general model for the study of the weak order and other related partially ordered sets (also called “posets”) and we explore various algebraic and combinatorial consequences of this construction. We begin with studying a restricted version of this model in Chapter 3. More precisely, we explain how one can associate a poset to any simple acyclic digraph together with a valuation on its vertices (also called “valued digraph”). We then prove that these posets are complete meet semi-lattices in general, complete lattices when the underlying digraph is finite, and we give an explicit formula to compute the value of their Möbius functions. Then, we show that the weak order on Coxeter groups of type A, B and A, the flag weak order, and the up-set (resp. down-set) lattices of any finite poset can be described within this theory. This description naturally leads to associate a quasi-symmetric function to any element of An And An, and we demonstrate that this function is in fact the corresponding Stanley symmetric function. In Chapter 4 we introduce the main results of this thesis. Indeed, we introduce in this chapter the generalization of the construction made in Chapter 3 to the case of any valued digraph, that is without the simplicity and acyclicity condition. Furthermore, this new definition allows us to get rid of some constraints of the definition of Chapter 3, allowing us to associate a complete lattice to each valued digraph. In particular, the meet semi-lattices of Chapter 3 are naturally extended into complete lattices. This leads us to the study of some conjectures of Dyer about the properties of an extension of the weak order having a lot of the properties conjecturally attached to Dyer’s extensions, and we prove that each one of our extensions contains Dyer’s extension as a sub-poset. We make the conjecture that one of this extension coincide with the one of Dyer, and we provide tools in order to test this conjecture. Finally, we study various consequences of out theory : we provide extensions of Cambrian semi-lattices into complete lattices (end of Chapter 4), we construct a new combinatorial model for Tamari and m-Tamari lattices (Chapter 5), and we finish with an application to tableaux combinatorics (Chapter 6)

Cette thèse est centrée sur l'étude des polytopes hyperboliques, des groupes de réflexions et invariants associes. Soit G un groupe de Coxeter, sous-groupe de Isom Hn. Alors, il existe un domaine fondamental P ⊂ Hn qui est naturellement associe 'a ce groupe G. Le domaine P est un polytope de Coxeter. Réciproquement, chaque polytope de Coxeter P engendre un groupe de Coxeter agissant sur Hn: le groupe engendre par les réflexions par rapport a ses facettes. Ces réflexions forment un ensemble naturel de générateurs pour le groupe G. On peut donc exprimer la série de d'accroissement fS (t) du groupe G par rapport a l'ensemble S. Par un resultat de R. Steinberg, la série d'accroissement associée correspond a la série de Taylor d'une fonction rationnelle. Le taux d'accroissement τ de G est l'inverse du rayon de convergence de cette dernière. Le taux de convergence est un entier algébrique et, par un resultat de J. Milnor, τ > 1. Par un résultat de W. Parry, si G agit sur H2 de fa¸con co-compacte, son taux d'accroissement est un nombre de Salem. Par un résultat de W. Floyd, il existe un lien géométrique entre les taux d'accroissement des groupes de Coxeter cocompacts et ceux des groupes a co-volume fini agissant sur H2. Ce lien correspond a une image géométrique de la convergence d'une suite de nombres de Salem vers un nombre de Pisot. Dans cette thèse, on verra un phénomène analogue en dimension 3. En dimension n ≥ 4, le taux d'accroissement d'un groupe de Coxeter agissant de fa¸con cocompacte sur Hn n'est plus un nombre de Salem, ni un nombre de Pisot. Nous nous intéressons a une classe particulière de groupes de Coxeter est celle des groupes de Coxeter rectangulaires. Dans ce cas, les domaines fondamentaux sont des poly- topes aux angles diedres droits. Concernant la classe de polytopes rectangulaires compacts (respectivement, 'a volume fini, id'eaux) dans H4, on pose les problèmes suivants: - déterminer le volume minimal dans ces familles, - déterminer le nombre minimal de composante combinatoire (facettes, faces, arêtes, sommets) dans ces familles. Dans le cas des polytopes rectangulaires a volume fini, la solution a été donnée par E. Vinberg, L. Potyagailo et par B. Everitt, J. Ratcliffe, S. Tschantz. Pour les polytopes rectangulaires compacts, il existe seulement une conjecture. Dans cette these, nous repondons a ces questions dans le cas des polytopes rectangulaires id'eaux.

La théorie des groupes de Coxeter, qui a pour origine l'étude des groupes<br /> d'isométries, permet de relier entre eux divers domaines d'algèbre et de<br /> géométrie, allant de la théorie des representations (des groupes de Coxeter<br /> et de Lie, des algèbres de Lie et de Hecke) et de la géométrie algébrique<br /> (variétés de Schubert) à la combinatoire (ordre de Bruhat). Les polynômes<br /> de Kazhdan-Lusztig apparaissent sous des formes assez différentes dans plusieurs<br /> de ces domaines : ces polynômes <br /> peuvent être définis comme coordonnées d'une base<br /> remarquable de l'algèbre de Hecke (ce qui donne une représentation non triviale<br /> de cette algèbre), leur valeur au point 1 intervient dans la décomposition de certains<br /> modules de Verma, et leur coefficients peuvent être interprétés comme des dimensions<br /> de certains espaces d'homologie locale. La définition originale de ces polynômes<br /> se traduit par une formule de récurrence compliquée qui conduit naturellement à<br /> s'interroger sur une éventuelle définition purement combinatoire. Ce rapport essaye<br /> de montrer quelques développements récents dans les tentatives de réponse à cette<br /> question. Notre résultat principal est le suivant : un isomorphisme entre<br /> deux intervalles initiaux préserve les polynômes de Kazhdan-Lusztig. Nous explicitons <br /> également des arguments (théoriques et calculatoires)<br /> tendant à confirmer la conjecture que cela reste vrai pour un isomorphisme entre des intervalles<br /> complètement compressibles dans des groupes de Coxeter finis.\newline<br /><br /> Mots-clés : groupe de Coxeter, polynôme de Kazhdan-Lusztig,<br /> sous-groupe de réflections, intervalle de Bruhat, couplage distingué,<br /> intervalle complètement compressible