Cette thèse est centrée sur l'étude des polytopes hyperboliques, des groupes de réflexions et invariants associes. Soit G un groupe de Coxeter, sous-groupe de Isom Hn. Alors, il existe un domaine fondamental P ⊂ Hn qui est naturellement associe 'a ce groupe G. Le domaine P est un polytope de Coxeter. Réciproquement, chaque polytope de Coxeter P engendre un groupe de Coxeter agissant sur Hn: le groupe engendre par les réflexions par rapport a ses facettes. Ces réflexions forment un ensemble naturel de générateurs pour le groupe G. On peut donc exprimer la série de d'accroissement fS (t) du groupe G par rapport a l'ensemble S. Par un resultat de R. Steinberg, la série d'accroissement associée correspond a la série de Taylor d'une fonction rationnelle. Le taux d'accroissement τ de G est l'inverse du rayon de convergence de cette dernière. Le taux de convergence est un entier algébrique et, par un resultat de J. Milnor, τ > 1. Par un résultat de W. Parry, si G agit sur H2 de fa¸con co-compacte, son taux d'accroissement est un nombre de Salem. Par un résultat de W. Floyd, il existe un lien géométrique entre les taux d'accroissement des groupes de Coxeter cocompacts et ceux des groupes a co-volume fini agissant sur H2. Ce lien correspond a une image géométrique de la convergence d'une suite de nombres de Salem vers un nombre de Pisot. Dans cette thèse, on verra un phénomène analogue en dimension 3. En dimension n ≥ 4, le taux d'accroissement d'un groupe de Coxeter agissant de fa¸con cocompacte sur Hn n'est plus un nombre de Salem, ni un nombre de Pisot. Nous nous intéressons a une classe particulière de groupes de Coxeter est celle des groupes de Coxeter rectangulaires. Dans ce cas, les domaines fondamentaux sont des poly- topes aux angles diedres droits. Concernant la classe de polytopes rectangulaires compacts (respectivement, 'a volume fini, id'eaux) dans H4, on pose les problèmes suivants: - déterminer le volume minimal dans ces familles, - déterminer le nombre minimal de composante combinatoire (facettes, faces, arêtes, sommets) dans ces familles. Dans le cas des polytopes rectangulaires a volume fini, la solution a été donnée par E. Vinberg, L. Potyagailo et par B. Everitt, J. Ratcliffe, S. Tschantz. Pour les polytopes rectangulaires compacts, il existe seulement une conjecture. Dans cette these, nous repondons a ces questions dans le cas des polytopes rectangulaires id'eaux.

Les objets considérés dans cette thèse sont les empilements de sphères égales, principalement de $R^n$, et les beta-entiers, pour lesquels on utilise indifféremment le langage des empilements de sphères ou celui des ensembles uniformément discrets pour les décrire. Nous nous sommes concentrés sur les problèmes suivants : (i) aspects métriques et topologiques de l'espace des empilements de sphères pour lequels nous prouvons un théorème de compacité qui généralise le Théorème de Sélection de Mahler relatif aux réseaux, (ii) les relations entre trous profonds et la densité par la constante de Delone ainsi que la structure interne asymptotique, en couches, des empilements les plus denses, (iii) les empilements autosimilaires de type fini pour lesquels nous montrons, pour chacun, l'existence d'un schéma de coupe-et-projection associé à un entier algébrique (l'autosimilarité) dont le degré divise le rang de l'empilement, dans le contexte des quasicristaux mathématiques, (iv) les empilements de sphères sur beta-réseaux, dont l'étude a surtout consisté à comprendre l'ensemble discret localement fini $Z_\beta$ des beta-entiers et à proposer une classification des nombres algébriques qui complémente celle de Bertrand-Mathis, reportée dans un article de Blanchard, et où la mesure de Mahler de beta intervient naturellement.