Une théorie des champs quantique topologique (TQFT) en dimension 3 est un foncteur monoidal symétrique de la catégorie des cobordismes de dimension 3 vers celle des espaces vectoriels. Une TQFT fournit en particulier un invariant scalaire des variétés fermées de dimension 3 ainsi que des représentations du groupe de difféotopie des surfaces fermées.Turaev explique en 1994 comment construire à partir d'une catégorie modulaire une TQFT qui étend l'invariant scalaire de 3-variétés fermées introduit en 1991 par Reshetikhin et Turaev. Dans cette thèse, nous généralisons cette construction à l'aide d'une catégorie C en ruban avec coend. On représente un cobordisme par un enchevêtrement d'un type particulier (enchevêtrement de cobordisme) et on associe à celui-ci un morphisme défini entre puissances tensorielles de la coend comme décrit par Lyubashenko en 1995. A l'aide de l'extension du calcul de Kirby aux cobordismes de dimension 3, cette construction nous permet de produire un invariant de cobordismes puis une TQFT à valeurs dans la sous-catégorie monoïdale symétrique des objets transparents de C.Dans le cas où C est une catégorie modulaire, cette sous-catégorie s'identifie à celle des espaces vectoriels et on retrouve ainsi la TQFT de Turaev. Dans le cas où C est une catégorie prémodulaire modularisable, notre TQFT est un relèvement de la TQFT de Turaev associée à la modularisée de C. / A 3-dimensional topological quantum field theory (TQFT) is a symmetric monoidal functor from the category of 3-cobordisms to the category of vector spaces. Such TQFTs provide in particular numerical invariants of closed 3-manifolds and representations of the mapping class group of closed surfaces.In 1994, Turaev explains how to construct a TQFT from a modular category; the scalar invariant is then the Reshethikhin-Turaev invariant introduced in 1991. In this thesis, we describe a generalization of this construction starting from a ribbon category C with coend. We present a cobordism by a certain type of tangle (cobordism tangle) and we associate to such a tangle a morphism between tensor products of the coend as described by Lyubashenko in 1994. Extending the Kirby calculus to 3-cobordisms, we obtain in this way an invariant of cobordisms and a TQFT which takes values in the symmetric monoidal subcategory of transparent objects of C. If the category C is modular, this subcategory can be identified with the category of vector spaces, and we recover Turaev's TQFT. If the category C is modularizable, our TQFT is a lift of the Turaev TQFT for the modularization of C.

La position centrale occupée par les Théories Quantiques des Champs Topologiques (TQFTs) dans l’étude de la topologie en basse dimension est due à leur structure extraordinairement riche, qui permet différentes interactions et applications à des questions de nature géométrique. Depuis leur première apparition, un grand effort a été mis dans l’extension des invariants quantiques de 3-variétés en TQFTs et en TQFT Étendues (ETQFTs). Cette thèse s’attaque à ce problème dans deux cadres généraux différents. Le premier est l’étude des invariants quantiques semi-simples de Witten, Reshetikhin et Turaev issus de catégories modulaires. Bien que les ETQFTs correspondantes étaient connues depuis un certain temps, une réalisation explicite basée sur la construction universelle de Blanchet, Habegger, Masbaum et Vogel apparaît ici pour la première fois. L’objectif est de tracer la route à suivre dans la deuxième partie de la thèse, où la même procédure est appliquée à une nouvelle famille d’invariants quantiques non semi-simples due à Costantino, Geer et Patureau. Ces invariants avaient déjà été étendus en TQFTs graduées par Blanchet, Costantino, Geer and Patureau, mais seulement pour une famille explicite d’exemples. Nous posons la première pierre en introduisant la définition de catégorie modulaire relative, un analogue non semi-simple aux catégories modulaires. Ensuite, nous affinons la construction universelle pour obtenir des ETQFTs graduées étendant à la fois les invariants quantiques de Costantino, Geer et Patureau et les TQFTs graduées de Blanchet, Costantino, Geer et Patureau dans ce cadre général / The central position held by Topological Quantum Field Theories (TQFTs) in the study of low dimensional topology is due to their extraordinarily rich structure, which allows for various interactions with and applications to questions of geometric nature. Ever since their first appearance, a great effort has been put into extending quantum invariants of 3-dimensional manifolds to TQFTs and Extended TQFTs (ETQFTs). This thesis tackles this problem in two different general frameworks. The first one is the study of the semisimple quantum invariants of Witten, Reshetikhin and Turaev issued from modular categories. Although the corresponding ETQFTs were known to exist for a while, an explicit realization based on the universal construction of Blanchet, Habegger, Masbaum and Vogel appears here for the first time. The aim is to set a golden standard for the second part of the thesis, where the same procedure is applied to a new family of non-semisimple quantum invariants due to Costantino, Geer and Patureau. These invariants had been previously extended to graded TQFTs by Blanchet, Costantino, Geer an Patureau, but only for an explicit family of examples. We lay the first stone by introducing the definition of relative modular category, a non-semisimple analogue to modular categories. Then, we refine the universal construction to obtain graded ETQFTs extending both the quantum invariants of Costantino, Geer and Patureau and the graded TQFTs of Blanchet, Costantino, Geer and Patureau in this general setting

Cette thèse porte sur la théorie BF abélienne sur une variété fermée de dimen-sion 3. Elle est formulée en termes de classes de jauge qui sont en fait des classes de cohomologie de Deligne-Beilinson. Cette formulation offre la possibilité d’extraire les quantités mathématiquement pertinentes d’intégrales fonctionnelles formelles. La fonction de partition et les valeurs moyennes d’observables sont ainsi calculées. Ces calculs complètent ceux effectués pour la théorie de Chern-Simons abélienne et ces résultats sont liés entre eux de même qu’avec les invariants de Reshetikhin-Turaev et de Turaev-Viro abéliens. Deux extensions de ce travail sont discutées. Premièrement, une approche graphique est proposée afin de traiter l’invariant classique SU(N) de Chern-Simons. Deuxièmement, une interprétation géométrique de la procédure de fixation de jauge est présentée pour la théorie de Chern-Simons abélienne dans mathbb{R}^{4l+3}. / In this study, the abelian BF theory is considered on a closed manifold of di-mension 3. It is formulated in terms of gauge classes which appear to be Deligne-Beilinson cohomology classes. Such a formulation offers the possibility to extract the quantities mathematically relevant quantities from formal functional integrals. This way, the partition function and the expectation value of observables are computed. Those computations complete the ones performed with the abelian Chern-Simons theory and the results appear to be connected together and also with abelian Reshetikhin-Turaev and Turaev-Viro topological invariants. Two extensions of this study are also discussed. Firstly, a graphical approach is proposed to deal with the SU(N) classical Chern-Simons invariant. Secondly, a geometric interpretation of the gauge fixing procedure is presented for the abelian Chern-Simons theory in mathbb{R}^{4l+3}.