Dans ce travail nous nous intéressons à la segmentation d’image 3D. Le but est de définir un cadre permettant, étant donnée une problématique de segmentation, de développer rapidement un algorithme apportant une solution à cette problématique. Afin de ne pas être restreint à un sous ensemble des types de problématique de segmentation, ce cadre doit permettre de mettre en oeuvre efficacement les différentes méthodes et les différents critères de segmentation existants, dans le but de les combiner pour définir les nouveaux algorithmes. Ce cadre doit reposer sur un modèle de structuration d’image qui représente la topologie et la géométrie d’une partition et permet d’en extraire efficacement les informations requises. Dans ce document, les différentes méthodes de segmentation existantes sont présentées afin de définir un ensemble d’opération nécessaire à leur implémentation. Une présentation des modèles existants est faite pour en déterminer avantages et inconvénients, puis le nouveau modèle est ensuite défini. Sa mise en oeuvre complète est détaillée ainsi qu’une analyse de sa complexité en temps et en mémoire pour l’ensemble des opérations précédemment définies. Des exemples d’utilisation du modèle sur des cas concrets sont ensuite décrits, ainsi que les possibilités d’extension du modèle et d’implémentation sur architecture parallèle. / In this work we focus on 3D image segmentation. The aim consists in defining a framework which, given a segmentation problem, allows to design efficiently an algorithm solving this problem. Since this framework has to be unspecific according to the kind of segmentation problem, it has to allow an efficient implementation of most segmentation techniques and criteria, in order to combine them to define new algorithms. This framework has to rely on a structuring model both representing the topology and the geometry of the partition of an image, in order to efficiently extract required information. In this document, different segmentation techniques are presented in order to define a set of primitives required for their implementation. Existing models are presented with their advantages and drawbacks, then the new structuring model is defined. Its whole implementation including details of its memory consumption and time complexity for each primitives of the previously defined set of requirements is given. Some examples of use with real image analysis problems are described, with also possible extensions of the model and its implementation on parallel architecture.

L’objectif de cette thèse est l’étude des changements de la forme de l’hippocampe due à l’atrophie causée par la maladie d’Alzheimer. Pour ce faire, des algorithmes et des méthodes ont été développés pour segmenter l’hippocampe à partir d’imagerie structurelle par résonance magnétique (IRM) et pour modéliser les variations dans sa forme. Nous avons utilisé une méthode de segmentation par propagation de multiple atlas pour la segmentation de l’hippocampe, méthode qui a été démontrée comme étant robuste dans la segmentation des structures cérébrales. Nous avons développé une méthode supervisée pour construire une base de données d’atlas spécifique à la population d’intérêt en propageant les parcellations d’une base de données génériques d’atlas. Les images correctement segmentées sont inspectées et ajoutées à la base de données d’atlas, de manière à améliorer sa capacité à segmenter de nouvelles images. Ces atlas sont évalués en termes de leur accord lors de la segmentation de nouvelles images. Comparé aux atlas génériques, les atlas spécifiques à la population d’intérêt obtiennent une plus grande concordance lors de la segmentation des des images provenant de cette population. La sélection d’atlas est utilisée pour améliorer la précision de la segmentation. La méthode classique de sélection basée sur la similarité des images est ici étendue pour prendre en compte la pertinence marginale maximale (MMR) et la régression des moindres angles (LAR). En prenant en considération la redondance parmi les atlas, des critères de diversité se montrent être plus efficace dans la sélection des atlas dans le cas où seul un nombre limité d’atlas peut-être fusionné. A partir des hippocampes segmentés, des modèles statistiques de la forme (SSM) sont construits afin de modéliser les variations de la forme de l’hippocampe dans la population. La correspondance entre les hippocampes est établie par une optimisation d’ensemble des surfaces paramétriques. Les paramétrages sphériques des surfaces sont aplatis pour faciliter la reparamétrisation et l’interpolation. Le reparamétrage est régularisé par une contrainte de type fluide visqueux, qui est effectué à l’aide d’une implémentation basée sur la transformées en sinus discrète. Afin d’utiliser le SSM pour décrire la forme d’une nouvelle surface hippocampique, nous avons développé un estimateur des paramètres du model de la forme basée sur l’espérance-maximisation de l’algorithme du plus proche voisin itéré (EM-ICP). Un terme de symétrie est inclus pour forcer une consistance entre la transformée directe et inverse entre le modèle et la forme, ce qui permet une reconstruction plus précise de la forme à partir du modèle. La connaissance a priori sur la forme modélisé par le SSM est utilisée dans l’estimation du maximum a posteriori des paramètres de forme. Cette méthode permet de forcer la continuité spatiale et éviter l’effet de sur-apprentissage. Dans l’étude de l’hippocampe dans la maladie d’Alzheimer, nous utilisons le SSM pour modéliser le changement de forme de l’hippocampe entre les sujets sains et des patients souffrant d’Alzheimer. Nous identifions les régions touchées par l’atrophie dans la maladie d’Alzheimer en évaluant la différence entre les groupes de contrôle et ceux d’Alzheimer sur chaque point correspondant sur la surface. L’analyse des changements de la forme est restreinte aux régions présentant des différences significatives entre les groupes, ce qui a pour effet d’améliorer la discrimination basée sur l’analyse en composantes principales (ACP) du SSM. Les composantes principales décrivant la variabilité de la forme à l’intérieur des régions discriminantes ont une corrélation plus fortes avec le déclin des scores de mémoire épisodique liée à la pathologie de l’hippocampe dans la maladie d’Alzheimer. / The aim of this thesis is to investigate the shape change in hippocampus due to the atrophy in Alzheimer’s disease (AD). To this end, specific algorithms and methodologies were developed to segment the hippocampus from structural magnetic resonance (MR) images and model variations in its shape. We use a multi-atlas based segmentation propagation approach for the segmentation of hippocampus which has been shown to obtain accurate parcellation of brain structures. We developed a supervised method to build a population specific atlas database, by propagating the parcellations from a smaller generic atlas database. Well segmented images are inspected and added to the set of atlases, such that the segmentation capability of the atlas set may be enhanced. The population specific atlases are evaluated in terms of the agreement among the propagated labels when segmenting new cases. Compared with using generic atlases, the population specific atlases obtain a higher agreement when dealing with images from the target population. Atlas selection is used to improve segmentation accuracy. In addition to the conventional selection by image similarity ranking, atlas selection based on maximum marginal relevance (MMR) re-ranking and least angle regression (LAR) sequence are developed for atlas selection. By taking the redundancy among atlases into consideration, diversity criteria are shown to be more efficient in atlas selection which is applicable in the situation where the number of atlases to be fused is limited by the computational resources. Given the segmented hippocampal volumes, statistical shape models (SSMs) of hippocampi are built on the samples to model the shape variation among the population. The correspondence across the training samples of hippocampi is established by a groupwise optimization of the parameterized shape surfaces. The spherical parameterization of the hippocampal surfaces are flatten to facilitate the reparameterization and interpolation. The reparameterization is regularized by viscous fluid, which is solved by a fast implementation based on discrete sine transform. In order to use the hippocampal SSM to describe the shape of an unseen hippocampal surface, we developed a shape parameter estimator based on the expectationmaximization iterative closest points (EM-ICP) algorithm. A symmetric data term is included to achieve the inverse consistency of the transformation between the model and the shape, which gives more accurate reconstruction of the shape from the model. The shape prior modeled by the SSM is used in the maximum a posteriori estimation of the shape parameters, which is shown to enforce the smoothness and avoid the effect of over-fitting. In the study of the hippocampus in AD, we use the SSM to model the hippocampal shape change between the healthy control subjects and patients diagnosed with AD. We identify the regions affected by the atrophy in AD by assessing the spatial difference between the control and AD groups at each corresponding landmark. Localized shape analysis is performed on the regions exhibiting significant inter-group difference, which is shown to improve the discrimination ability of the principal component analysis (PCA) based SSM. The principal components describing the localized shape variability among the population are also shown to display stronger correlation with the decline of episodic memory scores linked to the pathology of hippocampus in AD.

La segmentation est une tâche cruciale en analyse d’images. L’évolution des capteurs d’acquisition induit de nouvelles images de résolution élevée, contenant des objets hétérogènes. Il est aussi devenu courant d’obtenir des images d’une même scène à partir de plusieurs sources. Ceci rend difficile l’utilisation des méthodes de segmentation classiques. Les approches de segmentation hiérarchiques fournissent des solutions potentielles à ce problème. Ainsi, l’Arbre Binaire de Partitions (BPT) est une structure de données représentant le contenu d’une image à différentes échelles. Sa construction est généralement mono-critère (i.e. une image, une métrique) et fusionne progressivement des régions connexes similaires. Cependant, la métrique doit être définie a priori par l’utilisateur, et la gestion de plusieurs images se fait en regroupant de multiples informations issues de plusieurs bandes spectrales dans une seule métrique. Notre première contribution est une approche pour la construction multicritère d’un BPT. Elle établit un consensus entre plusieurs métriques, permettant d’obtenir un espace de segmentation hiérarchique unifiée. Par ailleurs, peu de travaux se sont intéressés à l’évaluation de ces structures hiérarchiques. Notre seconde contribution est une approche évaluant la qualité des BPTs en se basant sur l’analyse intrinsèque et extrinsèque, suivant des exemples issus de vérités-terrains. Nous discutons de l’utilité de cette approche pour l’évaluation d’un BPT donné mais aussi de la détermination de la combinaison de paramètres adéquats pour une application précise. Des expérimentations sur des images satellitaires mettent en évidence la pertinence de ces approches en segmentation d’images. / Segmentation is a crucial task in image analysis. Novel acquisition devices bring new images with higher resolutions, containing more heterogeneous objects. It becomes also easier to get many images of an area from different sources. This phenomenon is encountered in many domains (e.g. remote sensing, medical imaging) making difficult the use of classical image segmentation methods. Hierarchical segmentation approaches provide solutions to such issues. Particularly, the Binary Partition Tree (BPT) is a hierarchical data-structure modeling an image content at different scales. It is built in a mono-feature way (i.e. one image, one metric) by merging progressively similar connected regions. However, the metric has to be carefully thought by the user and the handling of several images is generally dealt with by gathering multiple information provided by various spectral bands into a single metric. Our first contribution is a generalized framework for the BPT construction in a multi-feature way. It relies on a strategy setting up a consensus between many metrics, allowing us to obtain a unified hierarchical segmentation space. Surprisingly, few works were devoted to the evaluation of hierarchical structures. Our second contribution is a framework for evaluating the quality of BPTs relying both on intrinsic and extrinsic quality analysis based on ground-truth examples. We also discuss about the use of this evaluation framework both for evaluating the quality of a given BPT and for determining which BPT should be built for a given application. Experiments using satellite images emphasize the relevance of the proposed frameworks in the context of image segmentation.