Dans cette thèse, nous développons un nouveau modèle de déformation pour étudier les formes. Les déformations, et les difféomorphismes en particulier, jouent un rôle fondamental dans l'étude statistique de formes, comme un moyen de mesurer et d'interpréter les différences entre des objets similaires. Les difféomorphismes résultent généralement d'une intégration d'un flot régulier de champs de vitesses, dont les paramètres n'ont jamais encore vraiment permis de contrôler localement les déformations. Nous proposons un nouveau modèle dans lequel les champs de vitesses sont construits grâce à la combinaison de quelques champs de vecteurs locaux et interprétables. Ces champs de vecteurs sont générés à l'aide d'une structure que nous appelons module de déformation. Un module de déformation génère un champ de vecteurs d'un type particulier (e.g. homothétie) choisi à l'avance: cela permet d'incorporer des contraintes dans le modèle de déformation. Ces contraintes peuvent correspondre à un savoir que l'on a sur les formes étudiées, ou à un point de vue à partir duquel on veut étudier ces formes. Dans un premier chapitre nous définissons les modules de déformation et nous en donnons des exemples variés. Nous expliquons également comment construire facilement un module de déformation adapté à des contraintes complexes en combinant des modules de déformations simples. Ensuite nous construisons des grandes déformations modulaires en tant que flot de champs de vecteurs générés par un module de déformation. Les champs de vecteurs générés par un module de déformation sont paramétrés par deux variables : une géométrique (descripteur géométrique) et une de contrôle. Nous associons également un coût à chaque couple de descripteur géométrique et de contrôle. Dans un deuxième chapitre nous expliquons comment utiliser un module de déformation donné pour étudier des formes. Nous construisons tout d'abord une structure sous-Riemannienne sur l'espace défini comme le produit de l'espace de formes et de celui des descripteurs géométriques. La métrique sous-Riemannienne vient du coût choisi : nous munissons le nouvel espace d'une métrique choisie, qui en générale n'est pas le pull-back d'une métrique sur les champs de vecteurs mais tient compte la manière dont les champs de vecteurs sont construits à partir des contraintes. Grâce à cette structure nous définissons une distance sous-Riemannienne et nous montrons l'existence des géodésiques (trajectoires dont la longueur vaut la distance entre les points de départ et d'arrivée). L'étude des géodésiques se ramène à un problème de contrôle optimal, elles peuvent être obtenues grâce à un formalisme Hamiltonien. En particulier nous montrons qu'elles peuvent être paramétrées par une variable initiale, le moment. Après cela nous présentons les grandes déformations modulaires optimales transportant une forme source sur une forme cible. Nous définissons également l'atlas modulaire d'une population de formes par la donnée d'une forme moyenne et d'une grande déformation modulaire par forme. Dans la discussion nous étudions un modèle alternatif dans lequel les géodésiques sont paramétrées en dimension plus petite. Dans un troisième chapitre nous présentons l'algorithme implémenté pour obtenir les grandes déformations ainsi que la descente de gradient estimant les atlas. Dans un dernier chapitre nous présentons plusieurs exemples numériques grâce auxquels nous étudions certains aspects de notre modèle. En particulier nous montrons que le choix du module de déformation utilisé influence la forme moyenne, et que choisir un module de déformation adapté permet d'effectuer simultanément des recalages rigides et non linéaires. Dans le dernier exemple nous étudions des formes sans a priori, nous utilisons donc un module correspondant à des contraintes faibles et nous montrons que l'atlas obtenu est toujours intéressant. / This thesis is dedicated to the development of a new deformation model to study shapes. Deformations, and diffeormophisms in particular, have played a tremendous role in the field of statistical shape analysis, as a proxy to measure and interpret differences between similar objects but with different shapes. Diffeomorphisms usually result from the integration of a flow of regular velocity fields, whose parameters have not enabled so far a full control of the local behaviour of the deformation. We propose a new model in which velocity fields are built on the combination of a few local and interpretable vector fields. These vector fields are generated thanks to a structure which we name deformation module. Deformation modules generate vector fields of a particular type (e.g. a scaling) chosen in advance: they allow to incorporate a constraint in the deformation model. These constraints can correspond either to an additional knowledge one would have on the shapes under study, or to a point of view from which one would want to study these shapes. In a first chapter we introduce this notion of deformation module and we give several examples to show how diverse they can be. We also explain how one can easily build complex deformation modules adapted to complex constraints by combining simple deformation modules. Then we introduce the construction of modular large deformations as flow of vector fields generated by a deformation module. Vector fields generated by a deformation module are parametrized by two variables: a geometrical one named geometrical descriptor and a control one. We build large deformations so that the geometrical descriptor follows the deformation of the ambient space. Then defining a modular large deformation corresponds to defining an initial geometrical descriptor and a trajectory of controls. We also associate a notion of cost for each couple of geometrical descriptor and control. In a second chapter we explain how we can use a given deformation module to study data shapes. We first build a sub-Riemannian structure on the space defined as the product of the data shape space and the space of geometrical descriptors. The sub-Riemannian metric comes from the chosen cost: we equip the new (shape) space with a chosen metric, which is not in general the pull-back of a metric on vector fields but takes into account the way vector fields are built with the chosen constraints. Thanks to this structure we define a sub-Riemannian distance on this new space and we show the existence, under some mild assumptions, of geodesics (trajectories whose length equals the distance between the starting and ending points). The study of geodesics amounts to an optimal control problem, and they can be estimated thanks to an Hamiltonian framework: in particular we show that they can be parametrized by an initial variable named momentum. Afterwards we introduce optimal modular large deformations transporting a source shape into a target shape. We also define the modular atlas of a population of shapes which is made of a mean shape, and one modular large deformation per shape. In the discussion we study an alternative model where geodesics are parametrized in lower dimension. In a third chapter we present the algorithm that was implemented in order to compute these modular large deformations and the gradient descent to estimate the optimal ones as well as mean shapes. In a last chapter we introduce several numerical examples thanks to which we study specific aspects of our model. In particular we show that the choice of the used deformation module influences the form of the estimated mean shape, and that by choosing an adapted deformation module we are able to perform in a satisfying and robust way simultaneously rigid and non linear registration. In the last example we study shapes without any prior knowledge, then we use a module corresponding to weak constraints and we show that the atlas computation still gives interesting results.

Dans le domaine de l'anatomie, à l'investissement massif dans la constitution de base de données collectant des données d'imagerie médicale, doit répondre le développement de techniques numériques modernes pour une quantification de la façon dont les pathologies affectent et modifie les structures biologiques. Le développement d'approches géométriques via les espaces homogènes et la géométrie riemannienne en dimension infinie, initialisé il y a une dizaine d'années par Christensen et Miller, et simultanément Trouvé et Younes, et mettant en œuvre des idées originales de d'Arcy Thompson, a permis de construire ces dernières années un cadre conceptuel extrêmement efficace pour attaquer le problème de la modélisation et de l'analyse de la variabilité de populations de formes. Néanmoins, à l'intégration de l'analyse longitudinale des données, ont émergé des phénomènes biologiques de croissance ou de dégénérescence se manifestant via des déformations spécifiques de nature non difféomorphique. On peut en effet observer lors de la croissance d'un composant organique, une apparition progressive de matière qui ne s'apparente pas à un simple étirement du tissu initial. Face à cette observation, nous proposons de garder l'esprit géométrique qui fait la puissance des approches difféomorphiques dans les espaces de formes mais en introduisant un concept assez général de déploiement où l'on modélise les phénomènes de croissance comme le déploiement optimal progressif d'un modèle préalablement replié dans une région de l'espace. Nous présentons donc une généralisation des méthodes difféomorphiques classiques pour modéliser plus fidèlement l'évolution de chaque individu d'une population et saisir l'ensemble de la dynamique de croissance. Nous nous appuyons sur l'exemple concret de la croissance des cornes animales. La considération d'un a priori sur la dynamique de croissance de la corne, nous permet de construire un chemin continu dans un espace de formes, modélisant l'évolution de la corne de sa naissance, d'un état réduit à un point (comme l'état d'embryon pour un humain ou de graine pour une plante) à un âge adulte quelconque de corne bien déployée. Au lieu d'étirer la corne, nous anticipons l'arrivée matière nouvelle en des endroits prédéfinis. Pour cela, nous définissons une forme mère indépendante du temps dans un espace virtuel, qui est progressivement plongée dans l'espace ambiant en fonction d'un marqueur temporel prédéfini sur la forme mère. Finalement, nous aboutissons à un nouveau problème de contrôle optimal pour l'assimilation de données de surfaces évoluant dans le temps, conduisant à un problème intéressant dans le domaine du calcul des variations où le choix pour la représentation des données, courant ou varifold, joue un rôle inattendu. / The Large Deformation Diffeomorphic Metric Mapping (LDDMM) framework has proved to be highly efficient for addressing the problem of modelling and analysis of the variability of populations of shapes, allowing for the direct comparison and quantization of diffeomorphic morphometric changes. However, the analysis of medical imaging data also requires the processing of more complex changes, which especially appear during growth or aging phenomena. The observed organisms are subject to transformations over the time which are no longer diffeomorphic, at least in a biological sense. One reason might be a gradual creation of new material uncorrelated to the preexisting one. For this purpose, we offer to extend the LDDMM framework to address the problem of non diffeomorphic structural variations in longitudinal scenarios during a growth or degenerative process. We keep the geometric central concept of a group of deformations acting on a shape space. However, the shapes will be encoded by a new enriched mathematical object allowing through partial mappings an intrinsic evolution dissociated from external deformations. We focus on the specific case of the growth of animal horns.Ultimately, we integrate these growth priors into a new optimal control problem for assimilation of time-varying surface data, leading to an interesting problem in the field of the calculus of variations where the choice of the attachment term on the data, current or varifold, plays an unexpected role.

Nous proposons un cadre statistique pour analyser les anomalies morphologiques et organisationnelles altérant l'anatomie des circuits neuronaux chez les patients atteints du syndrome de Gilles de la Tourette. Les composants de chaque circuit (matière grise et blanche) sont représentés comme des maillages 3D et intégrés dans un seul complexe. Cela permet d'étudier leur organisation et surtout la connectivité structurelle. La méthode proposée est basée sur une approche statistique appelée construction d'atlas qui résulte en un template, capturant les invariants de la population, et en déformations template-vers-sujets, décrivant la variabilité morphologique. Premièrement, nous intégrons la construction d'atlas dans un cadre bayésien qui permet d'estimer automatiquement des paramètres autrement fixés. Deuxièmement, nous réduisons les ressources de calcul nécessaires au traitement de faisceaux de fibres en définissant un schéma d'approximation basée sur un nouveau modèle appelé courants pondérés. Troisièmement, nous décrivons un nouveau modèle de déformation pour la construction d'atlas qui permet de capturer les variations morphologiques et organisationnelles. On montre l'efficacité de la méthode par comparaison de deux groupes de 44 patients et 22 témoins. Les résultats soulignent des anomalies sur la forme des structures de la matière grise et sur la connectivité structurelle. / We propose a statistical framework to analyse morphological and organisational anomalies altering the anatomy of neural circuits in patients with Gilles de la Tourette syndrome. The components of each circuit, from both white and grey matter, are represented as 3D meshes and integrated in a single shape complex. This allows to study their organisation and in particular the structural connectivity. The proposed methodology is based on a statistical approach called atlas construction which results in a template complex, capturing the invariants of the population and in template-to-subject deformations, describing the morphological variability. First, we embed the atlas construction in a Bayesian framework which allows to automatically estimate important parameters otherwise fixed by the user. Second, we reduce the important computational resources required to process fiber bundles by defining an approximation scheme based on a new computational model called weighted currents. Third, we describe a new deformation scheme for the atlas construction which permits to model variations in structural connectivity and at the same time to capture global anatomical changes. We show the effectiveness of the proposed method by comparing two groups of 44 patients and 22 controls respectively. Results highlight anomalies about both the shape of grey matter structures and structural connectivity.

L’hippocampe est une structure de substance grise du lobe temporal qui joue un rôle fondamental dans les processus de mémoire ainsi que dans de nombreuses pathologies (maladie d’Alzheimer, épilepsie, dépression...).Le développement de modèles morphométriques est essentiel pour étudier l’anatomie fonctionnelle de cette structure et les altérations associées à différentes pathologies. L’objectif de cette thèse est de développer et de valider des méthodes de morphométrie de l’hippocampe dans deux contextes distincts : l’étude de la forme externe de l’hippocampe à partir d’IRM conventionnelles (1.5T ou 3T) à résolution millimétrique, l’étude de sa structure interne à partir d’IRM 7T à très haute résolution spatiale. Ces deux contextes correspondent aux deux parties principales de la thèse.Dans une première partie, nous proposons une méthode pour la classification automatique de patients à partir de descripteurs morphométriques. Cette méthode repose sur une décomposition en harmoniques sphériques qui est combinée à un classifieur de type support vectormachine (SVM). La méthode est évaluée dans le contexte de la classification automatique de patients avec une maladie d’Alzheimer (MA), de patients mild cognitive impairment (MCI) et de sujets sains âgés. Elle est également comparée à d’autres approches et une validation plus exhaustive est proposée dans une population de 509 sujets issus de la base ADNI. Nous présentons enfin une autre application de la morphométrie pour l’étude des altérations structurelles associées au syndrome de Gilles de la Tourette.La seconde partie de la thèse est consacrée à la morphométrie de la structure interne de l’hippocampe à partir d’IRM à 7 Tesla. En effet, la structure interne de l’hippocampe est riche et complexe mais inaccessible à l’IRM conventionnelle. Nous proposons tout d’abord un atlas de la structure interne de l’hippocampe à partir de données postmortem acquises à 9.4T. Ensuite, nous proposons de modéliser la corne d’Ammon et le subiculum sous la forme d’un squelette et d’une mesure locale d’épaisseur. Pour ce faire, nous introduisons une méthode variationnelle originale utilisant des espaces de Hilbert à noyaux reproduisants. La méthode est ensuite validée sur l’atlas postmortem et évaluée sur des données in vivo de sujets sains et de patients avec épilepsie acquises à 7T. / The hippocampus is a gray matter structure in the temporal lobe that plays a key role in memory processes and in many diseases (Alzheimer's disease, epilepsy, depression ...).The development of morphometric models is essential for the study of the functional anatomy and structure alterations associated with different pathologies. The objective of this thesis is to develop and validate methods for morphometry of the hippocampus in two contexts: the study of the external shape of the hippocampus from conventional MRI (1.5T or 3T) with millimeter resolution, and the study of its internal structure from 7T MRI with high spatial resolution. These two settings correspond to the two main parts of the thesis.In the first part, we propose a method for the automatic classification of patients from shape descriptors. This method is based on a spherical harmonic decomposition which is combined with a support vector machine classifier (SVM). The method is evaluated in the context of automatic classification of patients with Alzheimer's disease (AD) patients, mild cognitive impairment (MCI) patients and healthy elderly subjects. It is also compared to other approaches and a more comprehensive validation is available in a population of 509 subjects from the ADNI database. Finally, we present another application of morphometry to study structural alterations associated with the syndrome of Gilles de la Tourette.The second part of the thesis is devoted to the morphometry of the internal structure of the hippocampus from MRI at 7 Tesla. Indeed, the internal structure of the hippocampus is rich and complex but inaccessible to conventional MRI. We first propose an atlas of the internal structure of the hippocampus from postmortem data acquired at 9.4T. Then, we propose to model the Ammon’s horn and the subiculum as a skeleton and a local measure thickness. To do this, we introduce a variational method using original Hilbert spaces reproducing kernels. The method is validated on the postmortem atlas and evaluated on in vivo data from healthy subjects and patients with epilepsy acquired at 7T.

L'analyse automatique de différences anatomiques en neuroimagerie a de nombreuses applications pour la compréhension et l'aide au diagnostic de pathologies neurologiques. Récemment, il y a eu un intérêt croissant pour les méthodes de classification telles que les machines à vecteurs supports pour dépasser les limites des méthodes univariées traditionnelles. Cette thèse a pour thème l'apprentissage automatique pour l'analyse de populations et la classification de patients en neuroimagerie. Nous avons tout d'abord comparé les performances de différentes stratégies de classification, dans le cadre de la maladie d'Alzheimer à partir d'images IRM anatomiques de 509 sujets de la base de données ADNI. Ces différentes stratégies prennent insuffisamment en compte la distribution spatiale des \textit{features}. C'est pourquoi nous proposons un cadre original de régularisation spatiale et anatomique des machines à vecteurs supports pour des données de neuroimagerie volumiques ou surfaciques, dans le formalisme de la régularisation laplacienne. Cette méthode a été appliquée à deux problématiques cliniques: la maladie d'Alzheimer et les accidents vasculaires cérébraux. L'évaluation montre que la méthode permet d'obtenir des résultats cohérents anatomiquement et donc plus facilement interprétables, tout en maintenant des taux de classification élevés.

Ce travail de thèse se situe dans le contexte de l'appariement d'images par difféomorphismes qui a été récemment développé dans le but d'applications à l'anatomie computationnelle et l'imagerie médicale. D'un point de vue mathématique, on utilise l'action de groupe de difféomorphismes de l'espace euclidien pour décrire la variabilité des formes biologiques. <br /><br />Le cas des images discontinues n'était compris que partiellement. La première contribution de ce travail est de traiter complètement le cas des images discontinues en considérant comme modèle d'image discontinues l'espace des fonctions à variations bornées. On apporte des outils techniques pour traiter les discontinuités dans le cadre d'appariement par difféomorphismes. Ces résultats sont appliqués à la formulation Hamiltonienne des géodésiques dans le cadre d'un nouveau modèle qui incorpore l'action d'un difféomorphisme sur les niveaux de grille de l'image pour prendre en compte un changement d'intensité. La seconde application permet d'étendre la théorie des métamorphoses développée par A.Trouvé et L.Younes aux fonctions discontinues. Il apparait que la géométrie de ces espaces est plus compliquée que pour des fonctions lisses.<br /><br />La seconde partie de cette thèse aborde des aspects plus probabilistes du domaine. On étudie une perturbation stochastique du système Hamiltonien pour le cas de particules (ou landmarks). D'un point de vue physique, on peut interpréter cette perturbation comme des forces aléatoires agissant sur les particules. Il est donc naturel de considérer ce modèle comme un premier modèle de croissance de forme ou au moins d'évolutions aléatoires de formes.<br /><br />On montre que les solutions n'explosent pas en temps fini presque sûrement et on étend ce modèle stochastique en dimension infinie sur un espace de Hilbert bien choisi (en quelque sorte un espace de Besov ou Sobolev sur une base de Haar). En dimension infinie la propriété précédente reste vraie et on obtient un important (aussi d'un point de vue numérique) résultat de convergence du cas des particules vers le cas de dimension infinie. Le cadre ainsi développé est suffisamment général pour être adaptable dans de nombreuses situations de modélisation.

L'analyse automatique de différences anatomiques en neuroimagerie a de nombreuses applications pour la compréhension et l'aide au diagnostic de pathologies neurologiques. Récemment, il y a eu un intérêt croissant pour les méthodes de classification telles que les machines à vecteurs supports pour dépasser les limites des méthodes univariées traditionnelles. Cette thèse a pour thème l'apprentissage automatique pour l'analyse de populations et la classification de patients en neuroimagerie. Nous avons tout d'abord comparé les performances de différentes stratégies de classification, dans le cadre de la maladie d'Alzheimer à partir d'images IRM anatomiques de 509 sujets de la base de données ADNI. Ces différentes stratégies prennent insuffisamment en compte la distribution spatiale des \textit{features}. C'est pourquoi nous proposons un cadre original de régularisation spatiale et anatomique des machines à vecteurs supports pour des données de neuroimagerie volumiques ou surfaciques, dans le formalisme de la régularisation laplacienne. Cette méthode a été appliquée à deux problématiques cliniques: la maladie d'Alzheimer et les accidents vasculaires cérébraux. L'évaluation montre que la méthode permet d'obtenir des résultats cohérents anatomiquement et donc plus facilement interprétables, tout en maintenant des taux de classification élevés. / Brain image analyses have widely relied on univariate voxel-wise methods. In such analyses, brain images are first spatially registered to a common stereotaxic space, and then mass univariate statistical tests are performed in each voxel to detect significant group differences. However, the sensitivity of theses approaches is limited when the differences involve a combination of different brain structures. Recently, there has been a growing interest in support vector machines methods to overcome the limits of these analyses.This thesis focuses on machine learning methods for population analysis and patient classification in neuroimaging. We first evaluated the performances of different classification strategies for the identification of patients with Alzheimer's disease based on T1-weighted MRI of 509 subjects from the ADNI database. However, these methods do not take full advantage of the spatial distribution of the features. As a consequence, the optimal margin hyperplane is often scattered and lacks spatial coherence, making its anatomical interpretation difficult. Therefore, we introduced a framework to spatially regularize support vector machines for brain image analysis based on Laplacian regularization operators. The proposed framework was then applied to the analysis of stroke and of Alzheimer's disease. The results demonstrated that the proposed classifier generates less-noisy and consequently more interpretable feature maps with no loss of classification performance.