Cette thèse s'articule autour de problématiques liées au domaine récent de l'anatomie numérique dont l'objet est de fournir des cadres à la fois mathématiques et numériques pour estimer la variabilité statistique au sein de populations de formes géométriques. Dans ce travail, on s'intéresse dans un premier temps au cas d'ensemble de courbes, de surfaces ou sous-variétés avec pour premier objectif de définir une représentation et des termes d'attache aux données adéquats pour les problèmes de recalage par grande déformation (LDDMM). Les précédentes approches reposant sur le cadre des courants qui traite le cas d'objets orientés, nous proposons une extension pour des formes géométriques non-orientées via la représentation des varifolds issue de la théorie géométrique de la mesure. Dans un second temps, ce travail se penche sur l'étude d'objets géométrico-fonctionnels aussi baptisés 'formes fonctionnelles', c'est à dire de fonctions ou de signaux définis sur des supports géométriques variables entre les individus. On définit notamment la notion de métamorphoses géométrico-fonctionnelles pour généraliser celle de déformation à ce contexte ainsi que la notion de courant fonctionnel pour mesurer la dissimilarité entre deux formes fonctionnelles. Ceci débouche assez naturellement sur un tout nouveau cadre mathématique et algorithmique permettant d'étendre les outils usuels de recalage difféomorphique. Enfin, on s'intéresse à la situation plus générale de l'estimation et l'analyse d'atlas pour des ensembles de telles structures en proposant en particulier une formulation mathématique bien posée pour de tels problèmes ainsi qu'un algorithme d'estimation simultanée géométrie/fonction puis des outils pour l'analyse statistique et la classification. Ces méthodes sont illustrées sur quelques jeux de données synthétiques et d'autres issues de l'imagerie biomédicale. / This thesis addresses several questions related to the recent field of computational anatomy. Broadly speaking, computational anatomy intends to analyse shape variability among populations of anatomical structures. In this work, we are focused, in the first place, on the case of datasets of curves, surfaces and more generally submanifolds. Our goal is to provide a mathematical and numerical setting to build relevant data attachment terms between those objects in the purpose of embedding it into the large diffeomorphic metric mapping (LDDMM) model for shape registration. Previous approaches have been relying on the concept of currents that represents oriented submanifolds. We first propose an extension of these methods to the situation of non-oriented shapes by adapting the concept of varifolds from geometric measure theory. In the second place, we focus on the study of geometrico-functional structures we call 'functional shapes' (or fshapes), which combine varying geometries across individuals with signal functions defined on these shapes. We introduce the new notion of fshape metamorphosis to generalize the idea of deformation groups in the pure geometrical case. In addition, we define the extended setting of 'functional currents' to quantify dissimilarity between fshapes and thus perform geometrico-functional registration between such objects. Finally, in the last part of the thesis, we move on to the issue of analyzing entire groups of individuals (shapes or fshapes) together. In that perspective, we introduce an atlas estimation variational formulation that we prove to be mathematically well-posed and build algorithms to estimate templates and atlases from populations, as well as tools to perform statistical analysis and classification. All these methods are evaluated on several applications to synthetic datasets on the one hand and real datasets from biomedical imaging on the other.

Dans cette thèse, nous développons un modèle du second ordre pour la représentation des formes (courbes et surfaces) grâce à la théorie des cycles normaux. Le cycle normal d'une forme est le courant associé à son fibré normal. En introduisant des métriques à noyaux sur les cycles normaux, nous obtenons une mesure de dissimilarité entre formes qui prend en compte leurs courbures. Cette mesure est ensuite utilisée comme terme d'attache aux données dans une optique d'appariement et d'analyse de formes par les déformations. Le chapitre 1 est une revue du domaine de l'analyse de formes par les déformations. Nous insistons plus particulièrement sur la mise en place théorique et numérique du modèle de Large Deformation Diffeomorphic Metric Mapping (LDDMM). Le chapitre 2 se concentre sur la représentation des formes par les cycles normaux dans un cadre unifié qui englobe à la fois les formes continues et discrètes. Nous précisons dans quelle mesure cette représentation contient des informations de courbure. Enfin nous montrons le lien entre le cycle normal d'une forme et son varifold. Dans le chapitre 3, nous introduisons les métriques à noyaux. Ainsi, nous pouvons considérer les cycles normaux dans un espace de Hilbert avec un produit scalaire explicite. Nous détaillons ce produit scalaire dans le cas des courbes et surfaces discrètes avec certains noyaux, ainsi que le gradient associé. Nous montrons enfin que malgré le choix de noyaux simples, nous ne perdons pas toutes les informations de courbures. Le chapitre 4 utilise cette nouvelle métrique comme terme d'attache aux données dans le cadre LDDMM. Nous présentons de nombreux appariements et estimations de formes moyennes avec des courbes ou des surfaces. L'objectif de ce chapitre est d'illustrer les différentes propriétés des cycles normaux pour l'analyse des déformations sur des exemples synthétiques et réels. / In this thesis, we develop a second order model for the representation of shapes (curves or surfaces) using the theory of normal cycles. The normal cycle of a shape is the current associated with its normal bundle. Introducing kernel metrics on normal cycles, we obtain a dissimilarity measure between shapes which takes into account curvature. This measure is used as a data attachment term for a purpose of registration and shape analysis by deformations. Chapter 1 is a review of the field of shape analysis. We focus on the setting of the theoretical and numerical model of the Large Deformation Diffeomorphic Metric Mapping(LDDMM).Chapter 2 focuses on the representation of shapes with normal cycles in a unified framework that encompasses both the continuous and the discrete shapes. We specify to what extend this representation encodes curvature information. Finally, we show the link between the normal cycle of a shape and its varifold. In chapter 3, we introduce the kernel metrics, so that we can consider normal cycles in a Hilbert space with an explicit scalar product. We detail this scalar product for discrete curves and surfaces with some kernels, as well as the associated gradient. We show that even with simple kernels, we do not get rid of all the curvature informations. The chapter 4 introduces this new metric as a data attachment term in the framework of LDDMM. We present numerous registrations and mean shape estimation for curves and surfaces. The aim of this chapter is to illustrate the different properties of normal cycles for the deformations analysis on synthetic and real examples.