Dans le domaine de l'anatomie, à l'investissement massif dans la constitution de base de données collectant des données d'imagerie médicale, doit répondre le développement de techniques numériques modernes pour une quantification de la façon dont les pathologies affectent et modifie les structures biologiques. Le développement d'approches géométriques via les espaces homogènes et la géométrie riemannienne en dimension infinie, initialisé il y a une dizaine d'années par Christensen et Miller, et simultanément Trouvé et Younes, et mettant en œuvre des idées originales de d'Arcy Thompson, a permis de construire ces dernières années un cadre conceptuel extrêmement efficace pour attaquer le problème de la modélisation et de l'analyse de la variabilité de populations de formes. Néanmoins, à l'intégration de l'analyse longitudinale des données, ont émergé des phénomènes biologiques de croissance ou de dégénérescence se manifestant via des déformations spécifiques de nature non difféomorphique. On peut en effet observer lors de la croissance d'un composant organique, une apparition progressive de matière qui ne s'apparente pas à un simple étirement du tissu initial. Face à cette observation, nous proposons de garder l'esprit géométrique qui fait la puissance des approches difféomorphiques dans les espaces de formes mais en introduisant un concept assez général de déploiement où l'on modélise les phénomènes de croissance comme le déploiement optimal progressif d'un modèle préalablement replié dans une région de l'espace. Nous présentons donc une généralisation des méthodes difféomorphiques classiques pour modéliser plus fidèlement l'évolution de chaque individu d'une population et saisir l'ensemble de la dynamique de croissance. Nous nous appuyons sur l'exemple concret de la croissance des cornes animales. La considération d'un a priori sur la dynamique de croissance de la corne, nous permet de construire un chemin continu dans un espace de formes, modélisant l'évolution de la corne de sa naissance, d'un état réduit à un point (comme l'état d'embryon pour un humain ou de graine pour une plante) à un âge adulte quelconque de corne bien déployée. Au lieu d'étirer la corne, nous anticipons l'arrivée matière nouvelle en des endroits prédéfinis. Pour cela, nous définissons une forme mère indépendante du temps dans un espace virtuel, qui est progressivement plongée dans l'espace ambiant en fonction d'un marqueur temporel prédéfini sur la forme mère. Finalement, nous aboutissons à un nouveau problème de contrôle optimal pour l'assimilation de données de surfaces évoluant dans le temps, conduisant à un problème intéressant dans le domaine du calcul des variations où le choix pour la représentation des données, courant ou varifold, joue un rôle inattendu. / The Large Deformation Diffeomorphic Metric Mapping (LDDMM) framework has proved to be highly efficient for addressing the problem of modelling and analysis of the variability of populations of shapes, allowing for the direct comparison and quantization of diffeomorphic morphometric changes. However, the analysis of medical imaging data also requires the processing of more complex changes, which especially appear during growth or aging phenomena. The observed organisms are subject to transformations over the time which are no longer diffeomorphic, at least in a biological sense. One reason might be a gradual creation of new material uncorrelated to the preexisting one. For this purpose, we offer to extend the LDDMM framework to address the problem of non diffeomorphic structural variations in longitudinal scenarios during a growth or degenerative process. We keep the geometric central concept of a group of deformations acting on a shape space. However, the shapes will be encoded by a new enriched mathematical object allowing through partial mappings an intrinsic evolution dissociated from external deformations. We focus on the specific case of the growth of animal horns.Ultimately, we integrate these growth priors into a new optimal control problem for assimilation of time-varying surface data, leading to an interesting problem in the field of the calculus of variations where the choice of the attachment term on the data, current or varifold, plays an unexpected role.

Cette thèse est dédiée à l’étude de la géométrie sous-riemannienne en dimension infinie, et à ses applications à l’analyse des déformations par difféomorphismes. La première partie du manuscrit est un résumé détaillé des travaux effectués. La seconde compile les articles rédigés pendant ces trois dernières années. On étend d’abord à la dimension infinie le cadre de la géométrie sous-riemannienne classique, en établissant notamment des conditions assurant l’existence d’un flot géodésique. Puis, on applique ces résultats aux structures sous-riemanniennes fortes et invariantes à droite sur le groupe des difféomorphismes d’une variété. On définit ensuite rigoureusement les espaces de formes, notion jusqu’alors assez vague dans la littérature. Il s’agit de variétés de Banach sur lesquelles un groupe de difféomorphismes a une action satisfaisant certaines propriétés. On construit alors diverses structures sous-riemanniennes sur ces espaces de formes grâce à cette action. Enfin, on ajoute des contraintes aux déformations possibles et on formule les problèmes d’analyse de formes dans un cadre relevant de la théorie du contrôle optimal en dimension infinie. On démontre un principe du maximum de type Pontryagin adapté à ce contexte, permettant d’établir les équations géodésiques contraintes. Des algorithmes pour la recherche de déformations optimales sont ensuite développés et appuyés par des simulations numériques dans le chapitre 7. Ils unifient et étendent des méthodes précédemment établies pour l’analyse de formes dans le domaine de l’image. / This manuscript is dedicated to the study of infinite dimensional sub-Riemannian geometry and its applications to shape analysis using dieomorphic deformations. The first part is a detailed summary of our work, while the second part combines the articles we wrote during the last three years. We first extend the framework of sub- Riemannian geometry to infinite dimensions, establishing conditions that ensure the existence of a Hamiltonian geodesic flow. We then apply these results to strong right- invariant sub-Riemannian structures on the group of diffeomorphisms of a manifold. We then define rigorously the abstract concept shape spaces. A shape space is a Banach manifold on which the group of diffeomorphisms of a manifold acts in a way that satisfy certain properties. We then define several sub-Riemannian structures on these shape spaces using this action, and study these. Finally, we add constraints to the possible deformations, and formulate shape analysis problems in an infinite dimensional control theoritic framework. We prove a Pontryagin maximum principle adapted to this context, establishing the constrained geodesic equations. Algorithms for fin- ding optimal deformations are then developped, supported by numerical simulations. These algorithms extend and unify previously established methods in shape analysis.