Les progrès des dispositifs d'imagerie médicale permettent l'obtention d'images volumiques, qui contiennent une grande quantité d'information. Une approche efficace de traitement de ces images consiste à utiliser la connaissance a priori de la forme des objets à analyser, et à employer des méthodes intrinsèquement tridimensionnelles. Les modèles déformables répondent à ces deux critères. Nous proposons de formaliser les modèles déformables et leur évolution dans une image dite de données, en distinguant cinq composantes : caractéristiques de liaison, représentation géométrique, déformation, déformabilité, et contrôle. Nous décrivons trois modèles déformables. Nous employons le modèle surfacique des delta-snakes pour reconstruire des objets à partir de points répartis sur leur surface. Nous approximons cette surface par une carte de distance octree-spline. Nous avons mis au point des outils interactifs pour compléter des données manquantes ou déformer directement la surface. Nous proposons ensuite pour ce même type d'application un modèle implicite à base de primitives générant un champ potentiel local. Les primitives sont placées interactivement, ou automatiquement sélectionnées dans l'axe médian discret des données. L'optimisation des paramètres des primitives mène à une représentation compacte des objets. Nous reconstruisons par ces deux modèles des objets numérisés par des capteurs de distance ou segmentés dans des images volumiques. Notre dernier modèle est volumique. Sa déformation hiérarchique par un octree-spline minimise la distance généralisée entre ses caractéristiques et celles des données, sous le contrôle de l'algorithme de Levenberg-Marquardt, et dans les limites imposées par une fonction de régularisation. Nous avons établi un algorithme de calcul de distance généralisée itérée dans un arbre k-d. Nous appliquons ce modèle à la segmentation d'images volumiques. D'autres types d'applications ont également été réalisées.

Des efforts de recherche considérables ont été déployés afin d'améliorer les résultats de traitement de cancers pulmonaires. L'étude de la déformation de l'anatomie du patient causée par la ventilation pulmonaire est au coeur du processus de planification de traitement radio-oncologique. À l'aide d'images de tomodensitométrie quadridimensionnelles (4DCT), une simulation dosimétrique peut être calculée sur les 10 ensembles d'images du 4DCT. Une méthode doit être employée afin de recombiner la dose de radiation calculée sur les 10 anatomies représentant une phase du cycle respiratoire. L'utilisation de recalage déformable d'images (DIR), une méthode de traitement d'images numériques, génère neuf champs vectoriels de déformation permettant de rapporter neuf ensembles d'images sur un ensemble de référence correspondant habituellement à la phase d'expiration profonde du cycle respiratoire. L'objectif de ce projet est d'établir une méthode de génération de champs de déformation à l'aide de la DIR conjointement à une méthode de validation de leur précision. Pour y parvenir, une méthode de segmentation automatique basée sur la déformation surfacique de surface à été créée. Cet algorithme permet d'obtenir un champ de déformation surfacique qui décrit le mouvement de l'enveloppe pulmonaire. Une interpolation volumétrique est ensuite appliquée dans le volume pulmonaire afin d'approximer la déformation interne des poumons. Finalement, une représentation en graphe de la vascularisation interne du poumon a été développée afin de permettre la validation du champ de déformation. Chez 15 patients, une erreur de recouvrement volumique de 7.6 ± 2.5[%] / 6.8 ± 2.1[%] et une différence relative des volumes de 6.8 ± 2.4 [%] / 5.9 ± 1.9 [%] ont été calculées pour le poumon gauche et droit respectivement. Une distance symétrique moyenne 0.8 ± 0.2 [mm] / 0.8 ± 0.2 [mm], une distance symétrique moyenne quadratique de 1.2 ± 0.2 [mm] / 1.3 ± 0.3 [mm] et une distance symétrique maximale 7.7 ± 2.4 [mm] / 10.2 ± 5.2 [mm] ont aussi été calculées pour le poumon gauche et droit respectivement. Finalement, 320 ± 51 bifurcations ont été détectées dans le poumons droit d'un patient, soit 92 ± 10 et 228 ± 45 bifurcations dans la portion supérieure et inférieure respectivement. Nous avons été en mesure d'obtenir des champs de déformation nécessaires pour la recombinaison de dose lors de la planification de traitement radio-oncologique à l'aide de la méthode de déformation hiérarchique des surfaces. Nous avons été en mesure de détecter les bifurcations de la vascularisation pour la validation de ces champs de déformation. / Purpose: To allow a reliable deformable image registration (DIR) method for dose calculation in radiation therapy and to investigate an automatic vessel bifurcations detection algorithm for DIR assessment to improve lung cancer radiation treatment. Methods: 15 4DCT datasets are acquired and deep exhale respiratory phases are exported to Varian treatment planning system (TPS) Eclipse^{\text{TM}} for contouring. Voxelized contours are smoothed by a Gaussian filter and then transformed into a surface mesh representation. Such mesh is adapted by rigid and elastic deformations based on hierarchical surface deformation to match each subsequent lung volumes. The segmentation efficiency is assessed by comparing the segmented lung contour and the TPS contour considering two volume metrics, defined as Volumetric Overlap Error (VOE) [%] and Relative Volume Difference (RVD) [%] and three surface metrics, defined as Average Symmetric Surface Distance (ASSD) [mm], Root Mean Square Symmetric Surface Distance (RMSSD) [mm] and Maximum Symmetric Surface Distance (MSSD) [mm]. Vesselness filter was applied within the segmented lung volumes to identify blood vessels and airways. Segmented blood vessels and airways were skeletonised using a hierarchical curve-skeleton algorithm based on a generalized potential field approach. A graph representation of the computed skeleton was generated to assign one of three labels to each node: the termination node, the continuation node or the branching node. Results: The volume metrics obtained are a VOE of 7.6 ± 2.5[%] / 6.8 ± 2.1[%] and a RVD of 6.8 ± 2.4 [%] / 5.9 ± 1.9 [%] respectively for left and right lung. The surface metrics computed are an ASSD of 0.8 ± 0.2 [mm] / 0.8 ± 0.2 [mm], a RMSSD of 1.2 ± 0.2 [mm] / 1.3 ± 0.3 [mm] and a MSSD of 7.7 ± 2.4 [mm] / 10.2 ± 5.2 [mm] respectively for left and right lung. 320 ± 51 bifurcations were detected in the right lung of a patient for the 10 breathing phases. 92 ± 10 bifurcations were found in the upper half of the lung and 228 ± 45 bifurcations were found in the lower half of the lung. Discrepancies between ten vessel trees were mainly ascribed to the segmentation methode. Conclusions: This study shows that the morphological segmentation algorithm can provide an automatic method to capture an organ motion from 4DCT scans and translate it into a volume deformation grid needed by DIR method for dose distribution combination. We also established an automatic method for DIR assessment using the morphological information of the patient anatomy. This approach allows a description of the lung’s internal structure movement, which is needed to validate the DIR deformation fields.