Cette thèse est centrée sur l'étude des polytopes hyperboliques, des groupes de réflexions et invariants associes. Soit G un groupe de Coxeter, sous-groupe de Isom Hn. Alors, il existe un domaine fondamental P ⊂ Hn qui est naturellement associe 'a ce groupe G. Le domaine P est un polytope de Coxeter. Réciproquement, chaque polytope de Coxeter P engendre un groupe de Coxeter agissant sur Hn: le groupe engendre par les réflexions par rapport a ses facettes. Ces réflexions forment un ensemble naturel de générateurs pour le groupe G. On peut donc exprimer la série de d'accroissement fS (t) du groupe G par rapport a l'ensemble S. Par un resultat de R. Steinberg, la série d'accroissement associée correspond a la série de Taylor d'une fonction rationnelle. Le taux d'accroissement τ de G est l'inverse du rayon de convergence de cette dernière. Le taux de convergence est un entier algébrique et, par un resultat de J. Milnor, τ > 1. Par un résultat de W. Parry, si G agit sur H2 de fa¸con co-compacte, son taux d'accroissement est un nombre de Salem. Par un résultat de W. Floyd, il existe un lien géométrique entre les taux d'accroissement des groupes de Coxeter cocompacts et ceux des groupes a co-volume fini agissant sur H2. Ce lien correspond a une image géométrique de la convergence d'une suite de nombres de Salem vers un nombre de Pisot. Dans cette thèse, on verra un phénomène analogue en dimension 3. En dimension n ≥ 4, le taux d'accroissement d'un groupe de Coxeter agissant de fa¸con cocompacte sur Hn n'est plus un nombre de Salem, ni un nombre de Pisot. Nous nous intéressons a une classe particulière de groupes de Coxeter est celle des groupes de Coxeter rectangulaires. Dans ce cas, les domaines fondamentaux sont des poly- topes aux angles diedres droits. Concernant la classe de polytopes rectangulaires compacts (respectivement, 'a volume fini, id'eaux) dans H4, on pose les problèmes suivants: - déterminer le volume minimal dans ces familles, - déterminer le nombre minimal de composante combinatoire (facettes, faces, arêtes, sommets) dans ces familles. Dans le cas des polytopes rectangulaires a volume fini, la solution a été donnée par E. Vinberg, L. Potyagailo et par B. Everitt, J. Ratcliffe, S. Tschantz. Pour les polytopes rectangulaires compacts, il existe seulement une conjecture. Dans cette these, nous repondons a ces questions dans le cas des polytopes rectangulaires id'eaux.