Le but de cette thèse est d'obtenir des résultats sur la cohomologie rationnelle du groupe linéaire. Nous attaquons ce problème en le transposant dans la catégorie des bifoncteurs polynomiaux, dans laquelle les calculs sont plus aisés. <br /><br />Nous rappelons dans un premier temps la structure de la catégorie des bifoncteurs polynomiaux sur un anneau commutatif quelconque. Nous démontrons que la cohomologie des bifoncteurs calcule la cohomologie rationnelle du groupe linéaire sur un anneau quelconque (ce résultat n'était auparavant connu que sur un corps). Puis nous développons des techniques générales pour le calcul de la cohomologie des bifoncteurs. Nous introduisons notamment de nouveaux outils efficaces pour étudier la torsion de Frobenius en caractéristique p. Enfin, nous appliquons ces méthodes à des familles explicites de bifoncteurs. Nous obtenons ainsi de nouveaux résultats (par exemple des séries de Poincaré) sur la cohomologie rationnelle à valeur dans des représentations classiques, telles que les puissances symétriques et divisées des twists de l'algèbre de Lie du groupe linéaire.

Cette thèse étend la théorie de Voronoï aux invariants d'Hermite généralisés définis par T. Watanabe pour le groupe linéaire adèlique : elle caractérise via des propriétés de perfection et d'eutaxie les maxima locaux de cet invariant en terme de formes de Humbert. Par l'extension d'inégalités et de méthodes développées dans le cas classique, elle présente les valeurs de ces constantes dans certains cas particuliers. Enfin, elle introduit pour la variété drapeau des notions de design vexillaire et de réseau fortement parfait qui fournissent via la théorie des groupes une large classe d'exemple de réseaux extrême.