Dans cette thèse, nous avons exploré différentes méthodes de recalage déformables pouvant être appliquées entre les images IRM et les images ETR acquises pendant la biopsie. Nous avons observé à partir d'une étude de la littérature que les méthodes de recalage déformables existantes pour le recalage des images de prostate multimodales ne fournissent pas de précisions satisfaisantes et que la plupart sont coûteuse [sic] en ressources informatiques, notre méthode proposée n'étant pas une exception à cette tendance. Dans ce contexte, notre objectif secondaire a été de rechercher une méthode de recalage déformable qui puisse être appliquée au cours des interventions (nécessitant du temps réel). Par conséquent, nous proposons un schéma d'apprentissage où les paramètres de déformation sont appris sur une série d'images d'entraînement puis modélisés et une estimation linéaire de ces modèles est ensuite appliquée pour recaler les images ETR-IRM. Cette solution assure une vitesse de calcul sans compromettre beaucoup la précision de recalage.Dans les expérimentations réalisées pour valider nos travaux, la sonde transrectale de biopsie n'était pas équippée pour permettre une localisation 3D (par conséquent, la position spatiale (coordonnée z) des ETR images par rapport au système d'imagerie n'était pas disponible). Toutefois, pour la fusion ETR-IRM, il est important d'identifier la coupe pré-biopsie axiale IRM qui correspond à l'image ETR acquise au cours de la biopsie. Par conséquent, un autre objectif de ce travail a été d'identifier automatiquement la coupe axiale IRM d'un volume pré-biopsie correspondant à l'image ETR en utilisant une méthode qui exploite les métriques de similarité basées sur l'image et la forme. / This thesis investigates the employment of different deformable registration techniques to register pre-operative magnetic resonance and inter-operative ultrasound images during prostate biopsy. Accurate registration ensures appropriate biopsy sampling of malignant prostate tissues and reduces the rate of re-biopsies. Therefore, we provide comparisons and experimental results for some landmark- and intensity-based registration methods: thin-plate splines, free-form deformation with B-splines. The primary contribution of this thesis is a new spline-based diffeomorphic registration framework for multimodal images. In this framework we ensure diffeomorphism of the thin-plate spline-based transformation by incorporating a set of non-linear polynomial functions. In order to ensure clinically meaningful deformations we also introduce the approximating thin-plate splines so that the solution is obtained by a joint-minimization of the surface similarities of the segmented prostate regions and the thin-plate spline bending energy. The method to establish point correspondences for the thin-plate spline-based registration is a geometric method based on prostate shape symmetry but a further improvement is suggested by computing the Bhattacharyya metric on shape-context based representation of the segmented prostate contours. The proposed deformable framework is computationally expensive and is not well-suited for registration of inter-operative images during prostate biopsy. Therefore, we further investigate upon an off-line learning procedure to learn the deformation parameters of a thin-plate spline from a training set of pre-operative magnetic resonance and its corresponding inter-operative ultrasound images and build deformation models by applying spectral clustering on the deformation parameters. Linear estimations of these deformation models are then applied on a test set of inter-operative and pre-operative ultrasound and magnetic resonance images respectively. The problem of finding the pre-operative magnetic resonance image slice from a volume that matches the inter-operative ultrasound image has further motivated us to investigate on shape-based and image-based similarity measures and propose for slice-to-slice correspondence based on joint-maximization of the similarity measures. / En aquesta tesi s'investiga l'ús de diferents tècniques de registre deformable per registrar imatges de ressonància magnètica preoperatòries i imatges d'ultrasò interoperatòries en la biòpsia de pròstata. Un registre correcte garanteix l'adequada presa de mostres de biòpsia dels teixits malignes de la pròstata i redueix la taxa de re-biòpsies. Aquesta tesis inicialment presenta una comparació i resultats experimentals d’uns dels mètodes de registre més utilitzats basats en intensitat i en punts (landmarks): thin-plate splines i deformacions free form utilitzant B-splines. La principal contribució d'aquesta tesi és una nova metodologia de registre per imatges multimodals basada en splines i formulació difeomòrfica. En aquesta metodologia, s’assegura el difeomorfisme de la transformació basada en thin-plate splines mitjançant la incorporació d'un conjunt de funcions polinòmiques no lineals. Per tal de garantir deformacions clínicament significatives també introduïm thin-plate splines aproximants de manera que la solució s'obté mitjançant una minimització conjunta de les similituds de la superfície de les regions de la pròstata segmentades i de l'energia de la curvatura del thin-plate spline. El mètode per establir les correspondències de punts per el registre en thin-plate splines és un mètode geomètric basat en la simetria de la forma de la pròstata. Alhora, es suggereix una millora addicional basada en la utilització de la mètrica Bhattacharyya en la representació de forma (shape context) dels contorns de la pròstata segmentats. La metodologia de deformació proposada inicialment és computacionalment costosa i no està ben adaptada per el registre interoperatiu durant la biòpsia de pròstata. Per tant, s’investiga més a fons un procediment d'aprenentatge off-line per aprendre els paràmetres de deformació dels thin-plate splines a partir d'un conjunt d'entrenament de dades ressonància magnètica preoperatòries i les seves corresponents imatges d'ultrasò interoperatòries i es construeixen models de deformació mitjançant l'aplicació de mètodes d’agrupació espectral (spectral clustering) en els paràmetres de deformació. Les estimacions lineals d'aquests models de deformació s'apliquen després en un conjunt de test de ressonància magnètica i ultrasò. El problema de trobar la llesca del volum de ressonància magnètica preoperatòria que coincideixi amb la imatge d'ultrasò interoperatòria ens ha motivat a investigar sobre les mesures de similitud basades en la forma i contingut de la imatge i ens ha portat a proposar un nou mètode per a la correspondència tall a tall basat en la maximització conjunta de les mesures de similitud esmentades

[...] L’utilisation d’images ETR pour la biopsie est maintenant une norme suivie par les urologues pour le dépistage du cancer de la prostate. Toutefois, l’imagerie par résonance magnétique (IRM) offre un meilleur contraste des tissus mous par rapport aux images ETR. Ainsi, certaines tumeurs malignes visibles par l’IRM ne le sont pas avec les images ETR comme illustré par l’image de la figure 1. En fusionnant les deux modalités IRM et échographie transrectale, il est possible de développer des outils performants de diagnostic. C’est dans ce contexte que s’inscrit le projet PROSCAN qui est une collaboration entre le centre de recherche VICOROB (Computer Vision and Robotics Group) de l’université de Gérone et le Girona Magnetic Resonance Center du CHU de Gérone. [...] .. L’objectif principal de cette thèse est de développer des méthodes de segmentation précises et rapides de la prostate dans les images IRM ET ETR afin de faciliter la fusion d’images multimodales dans le cadre du projet PROSCAN. [...] Nous avons commencé notre travail par une étude approfondie des méthodes de segmentation dans les deux modalités échographie transrectale et IRM. Les principales similitudes et les différences entre les diverses méthodes, leurs forces et faiblesse sont été analysées. Les méthodes de segmentation de la prostate peuvent être regroupées dans quatre catégories différentes, selon les informations utilisées pour guider la segmentation [...] L’analyse des méthodes de segmentation montre que les approches qui combinent les informations de forme et de contour donnent les meilleurs résultats. Aussi, nous proposons d’utiliser le modèle AAM (Actice Appearance Model) qui a prouvé son efficacité pour la segmentation de la prostate dans les image d’échographietransrectale. Le modèle AAM permet de combiner les informations de forme et d’apparence en une unique fonction de coût à optimiser. De plus, l’étape d’optimisation par descente de gradient faite hors-ligne réduit considérablement les temps de calcul.Les images obtenues par échographie transrectale possèdent généralement une faible qualité ainsi qu’un faible contraste. Pour améliorer la robustesse de notre méthode de segmentation, nous introduisons des caractéristiques de texture extraits avec les ondelettes de Haar et des filtres en quadrature. Les résultats obtenus montrent que cette information de texture accroit la précision de la segmentation. Parailleurs, l’augmentation du temps de calcul due à l’utilisation des filtres est compensé par l’augmentation de la précision.Pour une initialisation automatique, nous avons développé un modèle probabiliste basé sur une classification supervisée. Un classifieur est construit à partird’un ensemble d’images d’apprentissage manuellement segmentées. Ce classifieur est utilisé pour obtenir une pré-segmentation de la prostate dans l’image ETR dans laquelle on attribue à chaque pixel une probabilité d’appartenance à la prostate. Unnouveau modèle AAM est ensuite construit dans lequel les intensités sont remplacéespar les probabilités obtenues à l’etape précédente. Les résultats obtenus montrent que cette approche permet une initialisation automatique tout en améliorant laprécision de la segmentation.Enfin, pour obtenir un modèle plus robuste nous avons utilisé la fonctionnelle de Mumford-Shah qui permet de définir une fonction de coût à optimiser comprenant à la fois les informations d’apparence, de forme et de topologie locale de laprostate. Les nombreux résultats qualitatifs et quantitatifs présentés dans la suite de ce manuscrit montrent que notre méthode donne de meilleurs résultats comparé à diverses autres approches. / Prostate segmentation in trans rectal ultrasound (TRUS) and magnetic resonanceimages (MRI) facilitates volume estimation, multi-modal image registration, surgicalplaning and image guided prostate biopsies. The objective of this thesis is to developshape and region prior deformable models for accurate, robust and computationallyefficient prostate segmentation in TRUS and MRI images. Primary contributionof this thesis is in adopting a probabilistic learning approach to achieve soft classificationof the prostate for automatic initialization and evolution of a shape andregion prior deformable models for prostate segmentation in TRUS images. Twodeformable models are developed for the purpose. An explicit shape and regionprior deformable model is derived from principal component analysis (PCA) of thecontour landmarks obtained from the training images and PCA of the probabilitydistribution inside the prostate region. Moreover, an implicit deformable model isderived from PCA of the signed distance representation of the labeled training dataand curve evolution is guided by energy minimization framework of Mumford-Shah(MS) functional. Region based energy is determined from region based statistics ofthe posterior probabilities. Graph cut energy minimization framework is adoptedfor prostate segmentation in MRI. Posterior probabilities obtained in a supervisedlearning schema and from a probabilistic segmentation of the prostate using an atlasare fused in logarithmic domain to reduce segmentation error. Finally a graphcut energy minimization in the stochastic framework achieves prostate segmentationin MRI. Statistically significant improvement in segmentation accuracies areachieved compared to some of the works in literature. Stochastic representation ofthe prostate region and use of the probabilities in optimization significantly improvesegmentation accuracies / La segmentació de la pròstata en imatges d’ecografia transrectal (TRUS) i en imatgesde ressonáncia magnètica (RM) facilita l’estimació del volum d’aquesta glàndula,el registre d’imatges entre ambdues modalitats, així com la planificació quirrgica debiòpsies guiades per imatge. L’objectiu d’aquesta tesi, doncs, és el desenvolupamentd’eines automàtiques per a una segmentació de la pròstata de manera precisa,robusta i computacionalment eficient en ambdues modalitats d’imatges.La contribució principal d’aquest tesi és la segmentació de les imatges ecogràfiquesde la pròstata. El mètode proposat es basa en dos passos ben diferenciats. Primer, através d’un aprenentatge probabilístic inicial, s’aconsegueix una primera localitzacióaproximada de la pròstata i que serveix per, en un segon pas, inicialitzar i permetreevolucionar de manera automàtica dos models deformables independents, guiats apartir de la informació de forma i regió de la pròstata estimada en el primer pas. Elprimer model deformable s’obté explícitament a partir de l’anàlisi de componentsprincipals (PCA) d’un conjunt de punts del contorn, que permet modelar la formade la pròstata, i de l’anàlisi PCA de la distribució de probabilitat dins de la regióprostàtica, que permet modelar la textura d’aquesta. Un tercer anàlisi PCA permetcorrelacionar ambdues distribucions. D’altra banda, un segon model deformable esderiva implícitament de l’anàlisi PCA de la funció distància obtinguda amb el conjuntde dades d’entrenament etiquetades. La consegüent evolució d’aquesta corbas’obté mitjanant la minimització del funcional Mumford-Shah, el qual es basa en unconjunt d’estadístics regionals obtinguts a partir de l’estimació de les probabilitatsa posteriori de les regions internes i externes de la pròstata.La segona contribució d’aquesta tesi és la segmentació automàtica de la pròstataen imatges 3D de RM. De manera similar a les imatges ecogràfiques, el sistemacombina les probabilitats d’un aprenentatge supervisat amb una segmentació inicial,en aquest cas, obtinguda a partir d’un atles probabilístic creat amb els volumsd’entrenament. La segmentació final s’obté a través d’una minimització basada engrafs.El resultat final és, doncs, el desenvolupament d’eines que permeten una segmentació acurada i robusta de la pròstata tant en imatges ecogròfiques com deressonòncia magnètica, millorant de forma substancial i significant la precisió delsmètodes desenvolupats fins a l’actualitat

Prostate segmentation in trans rectal ultrasound (TRUS) and magnetic resonanceimages (MRI) facilitates volume estimation, multi-modal image registration, surgicalplaning and image guided prostate biopsies. The objective of this thesis is to developshape and region prior deformable models for accurate, robust and computationallyefficient prostate segmentation in TRUS and MRI images. Primary contributionof this thesis is in adopting a probabilistic learning approach to achieve soft classificationof the prostate for automatic initialization and evolution of a shape andregion prior deformable models for prostate segmentation in TRUS images. Twodeformable models are developed for the purpose. An explicit shape and regionprior deformable model is derived from principal component analysis (PCA) of thecontour landmarks obtained from the training images and PCA of the probabilitydistribution inside the prostate region. Moreover, an implicit deformable model isderived from PCA of the signed distance representation of the labeled training dataand curve evolution is guided by energy minimization framework of Mumford-Shah(MS) functional. Region based energy is determined from region based statistics ofthe posterior probabilities. Graph cut energy minimization framework is adoptedfor prostate segmentation in MRI. Posterior probabilities obtained in a supervisedlearning schema and from a probabilistic segmentation of the prostate using an atlasare fused in logarithmic domain to reduce segmentation error. Finally a graphcut energy minimization in the stochastic framework achieves prostate segmentationin MRI. Statistically significant improvement in segmentation accuracies areachieved compared to some of the works in literature. Stochastic representation ofthe prostate region and use of the probabilities in optimization significantly improvesegmentation accuracies

This thesis investigates the employment of different deformable registration techniques to register pre-operative magnetic resonance and inter-operative ultrasound images during prostate biopsy. Accurate registration ensures appropriate biopsy sampling of malignant prostate tissues and reduces the rate of re-biopsies. Therefore, we provide comparisons and experimental results for some landmark- and intensity-based registration methods: thin-plate splines, free-form deformation with B-splines. The primary contribution of this thesis is a new spline-based diffeomorphic registration framework for multimodal images. In this framework we ensure diffeomorphism of the thin-plate spline-based transformation by incorporating a set of non-linear polynomial functions. In order to ensure clinically meaningful deformations we also introduce the approximating thin-plate splines so that the solution is obtained by a joint-minimization of the surface similarities of the segmented prostate regions and the thin-plate spline bending energy. The method to establish point correspondences for the thin-plate spline-based registration is a geometric method based on prostate shape symmetry but a further improvement is suggested by computing the Bhattacharyya metric on shape-context based representation of the segmented prostate contours. The proposed deformable framework is computationally expensive and is not well-suited for registration of inter-operative images during prostate biopsy. Therefore, we further investigate upon an off-line learning procedure to learn the deformation parameters of a thin-plate spline from a training set of pre-operative magnetic resonance and its corresponding inter-operative ultrasound images and build deformation models by applying spectral clustering on the deformation parameters. Linear estimations of these deformation models are then applied on a test set of inter-operative and pre-operative ultrasound and magnetic resonance images respectively. The problem of finding the pre-operative magnetic resonance image slice from a volume that matches the inter-operative ultrasound image has further motivated us to investigate on shape-based and image-based similarity measures and propose for slice-to-slice correspondence based on joint-maximization of the similarity measures.