Cette thèse concerne la topologie quantique, une branche des mathématiques née dans les années 1980 suite aux travaux de Jones, Drinfeld et Witten. Un exemple fondamental d'invariant quantique des 3-variétés est due à Turaev-Viro en 1992. Leur approche, dans sa forme générale due à Barrett et Westbury, utilise une catégorie de fusion sphérique comme ingrédient principal et consiste en une somme d'états sur un squelette de la 3-variété dont les sommets sont coloriés par les 6j-symboles de la catégorie.Le résultat principal de la thèse est la construction d'un invariant topologique des 3-variétés peignées (c'est-à-dire des 3-variétés munies d'un champ de vecteurs jamais nuls) qui généralise celui de Turaev-Viro. Ce nouvel invariant est défini au moyen d'une catégorie de fusion pivotale et consiste en une somme d'états sur un squelette ramifié représentant la 3-variété peignée.Lorsque la catégorie de fusion pivotale n'est pas sphérique, l'invariant permet en général de distinguer des champs de vecteurs non homotopes sur une même 3-variété. Ceci est montré en considérant une catégorie de fusion pivotale associée à un caractère d'un groupe fini. Pour cette catégorie, l'invariant correspond à l'évaluation par le caractère de la classe d'Euler d'un certain fibré vectoriel de rang 2 associé au champ de vecteurs. / This thesis concerns quantum topology, a branch of mathematics born in the 1980s after the work of Jones, Drinfeld and Witten. A fundamental example of a quantum invariant of 3-manifolds is due to Turaev-Viro in 1992. Their approach, in its general form due to Barrett and Westbury, uses a spherical fusion category as the main ingredient and consists in a state sum on a skeleton of the 3-manifold whose vertices are colored by the 6j-symbols of the category. The main result of the thesis is the construction of a topological invariant of combed 3-manifolds (that is, of 3-manifolds endowed with a nowhere-zero vector field) which generalizes that of Turaev-Viro. This new invariant is defined by means of a pivotal fusion category and consists in a state sum on a branched skeleton representing the combed 3-manifold. When the pivotal fusion category is not spherical, the invariant allows in general to distinguish non homotopic vector fields on the same 3-manifold. This is proved by considering a pivotal fusion category associated with a character of a finite group. For this category, the invariant corresponds to the evaluation by the character of the Euler class of a certain vector bundle of rank 2 associated to the vector field.

Cette thèse est consacrée à la catégorification d'invariants polynomiaux d'entrelacs et de graphes. Pour tout entier strictement positif n, Khovanov et Rozansky ont introduit en 2004 une homologie bigraduée d'entrelacs, ainsi qu'une homologie de graphes planaires. Etant donné n, leur homologie d'entrelacs catégorifie la n-ième spécialisation du polynôme d'entrelacs HOMFLYPT et leur homologie de graphes planaires catégorifie un polynôme de graphes associé. <br /><br />Dans cette thèse, on étudie ces homologies et on généralise leur construction en introduisant une graduation supplémentaire. Tout d'abord, on généralise une formule de Jaeger pour les polynômes d'entrelacs aux polynômes de graphes planaires, ainsi qu'à l'homologie de graphes planaires; on étend ensuite l'homologie d'entrelacs de Khovanov-Rozansky aux graphes plongés. Puis on construit une homologie trigraduée d'entrelacs. Cette homologie recouvre l'homologie bigraduée d'entrelacs de Khovanov et Rozansky. Enfin, on donne des exemples, des applications et des généralisations de l'homologie trigraduée d'entrelacs. On développe des outils d'algèbre homologique qui permettent de calculer explicitement l'homologie trigraduée d'entrelacs pour des exemples et on considère des déformations de l'homologie trigraduée d'entrelacs.

Dans cette thèse, on définit un invariant fonctoriel d'enchevêtrements dans le tore épaissi qui généralise l'intégrale de Kontsevich. Cet invariant est tout d'abord construit analytiquement à partir d'une version universelle de la connexion de Knizhnik-Zamolodchikov-Bernard elliptique. On donne ensuite une version combinatoire de sa construction, basée sur la notion d' " associateur elliptique " introduite par Enriquez. L'outil principal de cette dernière construction est un théorème qui caractérise la catégorie des enchevêtrements en genre quelconque par une propriété universelle exprimée dans le langage des catégories tensorielles.

En topologie de dimension trois, les invariants de type fini se caractérisent par leur comportement polynomial vis-à-vis de certaines opérations chirurgicales qui préservent l'homologie des variétés. Motivée par l'approche perturbative des "invariants quantiques", la notion d'invariant de type fini a été initialement formulée par T. Ohtsuki qui en contruisit les premiers exemples ; les fondements théoriques des invariants de type fini ont ensuite été posés par plusieurs auteurs dont M. Goussarov et K. Habiro. Grâce à une construction de T. Le, J. Murakami & T. Ohtsuki basée sur l'intégrale de Kontsevich, on dispose pour les sphères d'homologie d'un invariant de type fini universel à valeurs diagrammatiques. Ce mémoire expose d'une manière synthétique certains aspects de la théorie des invariants de type fini, pour les variétés de dimension trois en général, et pour les cylindres d'homologie en particulier. Nous présentons notamment une extension fonctorielle de l'invariant LMO à une certaine catégorie de cobordismes, et nous appliquons ce foncteur à l'étude du monoïde des cylindres d'homologie. Nous expliquons comment nos constructions et résultats se relient aux travaux antérieurs de D. Johnson, S. Morita et R. Hain sur le groupe de Torelli d'une surface. Nous concluons par quelques problèmes et perspectives de recherche. Certains des travaux exposés dans ce mémoire ont été réalisés en collaboration avec D. Cheptea, K. Habiro et J.-B. Meilhan.

Dans cette thèse, on définit un invariant fonctoriel d'enchevêtrements dans le tore épaissi qui généralise l'intégrale de Kontsevich. Cet invariant est tout d'abord construit analytiquement à partir d'une version universelle de la connexion de Knizhnik-Zamolodchikov-Bernard elliptique. On donne ensuite une version combinatoire de sa construction, basée sur la notion d' « associateur elliptique » introduite par Enriquez. L'outil principal de cette dernière construction est un théorème qui caractérise la catégorie des enchevêtrements en genre quelconque par une propriété universelle exprimée dans le langage des catégories tensorielles. / We construct a functorial invariant of tangles embedded in the thickened torus. This invariant generalizes the Kontsevich integral, and can be analytically derivated from a universal version of the elliptic Knizhnik-Zamolodchikov-Bernard equation. The main part of the thesis is devoted to the combinatorial version of its construction, using the notion of « elliptic associator » introduced by Enriquez. A key ingredient is a universal property satisfied by the category of framed tangles in the torus. This universal property is established in the language of monoidal categories, and extends Reshetikhin-Turaev-Shum's coherence theorem to the case of framed tangles in any closed genus g surface.

Invariants topologiques quantiques non semi-simples. La théorie des nœuds (courbes simples plongées dans R³, à déformation continue près) se développe au début du XXième siècle avec notamment les travaux d'Alexander et de Reidemeister. Elle a connu un tournant avec la topologie quantique née en 1984 par la découverte par Vaughan Jones d'une manière d'associer à chaque nœuds un polynôme. Vladimir Turaev et Nicolai Reshetikhin interprètent et généralisent ce procédé en terme de représentations des groupes quantiques. Aujourd'hui encore, la compréhension géométrique de ces invariants est ténue. Toujours dans les années 80, Edward Witten donne une interprètation physique du polynôme de Jones et suggère une généralisation aux variétés de dimension trois. Vladimir Turaev avec Nicolai Reshetikhin puis avec Oleg Viro réalise rigoureusement ces invariants nouveaux pour les variétés de dimension trois. Dans de nombreux cas, ces constructions s'avèrent triviales. Ceci est lié à la présence de représentations des groupes quantiques qui ne sont pas semi-simples. Mes travaux, en collaboration avec Nathan Geer, Vladimir Turaev, Francesco Costantino et Alexis Virelizier ont consisté, pour une grande part, à modifier les constructions précédentes pour définir des invariants non triviaux dans ce cadre non semi-simple. Ces travaux m'ont amené a développer, avec Nathan Geer et Jonathan Kujawa, des techniques algébriques qui présentent un intérêt propre en théorie des représentations. Relier les constructions de la topologie quantique et les invariants d'origine plus géométriques constitue un vrai challenge des mathématiques modernes pour lequel les invariants non semi-simples que j'ai définis offrent un point de vue prometteur.