Le cancer de la prostate est le cancer le plus fréquent chez l'homme en France et aux pays occidentaux. Il est la troisième cause de décès liés au cancer, étant responsable d'environ 10% des morts. La curiethérapie, une technique de radiothérapie, est liée à une meilleure qualité de vie après le traitement, par rapport aux autres méthodes de traitement. La curiethérapie de la prostate consiste à insérer des sources radioactives dans la prostate afin de délivrer une dose d'irradiation localisée à la tumeur tout en protégeant les tissus sains environnants. L'imagerie multimodale est utilisée afin d'améliorer la précision du traitement. Les images Tomodensitométriques préopératoires, appelées Computed Tomography (CT), peuvent être utilisées pour calculer une distribution personnalisée et plus précise de dose. Pendant l'intervention, le chirurgien utilise un système de guidage temps-réel par l'Ultrason Transrectale, Transrectal Ultrasound (TRUS), pour placer correctement les sources radioactives dans leurs positions souhaitées. Par conséquent, si les positions des sources sont déterminées sur l'image CT, elles doivent être transférées à l'image US. Cependant, un recalage US/CT direct et robuste est difficilement envisageable parce que les tissus mous, telle que la prostate, offrent peu de contraste en CT et en US. En revanche, l'Imagerie par Résonance Magnétique (IRM) fournit un meilleur contraste et peut, potentiellement, améliorer le traitement en améliorant la visualisation. Donc, ces trois modalités (IRM, CT et US) doivent être correctement alignées. Pour compenser les déformations de la prostate, due au changement de taille et forme entre les différentes acquisitions, un recalage non-rigide est nécessaire. Une méthode de recalage entièrement automatique est nécessaire, afin de faciliter son intégration au bloc opératoire. Nous proposons dans un premier temps un recalage IRM/CT basé sur la maximisation de l'information mutuelle en combinaison avec un champ de déformation paramétré par B-Splines. Nous proposons de contraindre le recalage sur des volumes d'intérêt (VOIs) afin d'améliorer la robustesse et le temps de calcul. L'approche proposée a été validée sur des jeux de données cliniques. Une évaluation quantitative a montré que l'erreur de recalage est égale à 1.15±0.20 mm; qui répond à la précision clinique souhaitée. Ensuite, nous proposons un deuxième recalage US/IRM, où nous utilisons une approche multi-résolution pour éviter les minima locaux et améliorer le temps de calcul. Un critère de similarité, qui met en corrélation l'intensité de l'image US avec l'intensité ainsi que le gradient de l'image IRM, a été utilisé afin de trouver la transformation qui aligne les deux images. Cette méthode a été validée sur un fantôme de prostate dans un premier temps pour évaluer sa faisabilité. Ensuite, elle a été validée sur des jeux de données cliniques en utilisant des critères qualitatives et quantitatives. La distance Hausdorff a montré que l'erreur de recalage est égale à 1.44±0.06 mm. L'approche proposée dans ce travail permet d'aller vers un protocole de curiethérapie guidée par l'imagerie multimodale qui puisse améliorer la précision globale de cette procédure. Malgré ces résultats plutôt encourageants, les travaux futurs impliqueront une évaluation plus approfondie sur plus de jeux de données afin d'évaluer la fiabilité et l'efficacité de cette méthode avant de l'intégrer au bloc opératoire. / Prostate cancer is the most common cancer in men in France and western countries. It is the third leading cause of death from cancer, being responsible for around 10% of deaths. Brachytherapy, a radiotherapy technique, is associated with a better health-related quality of life after the treatment, compared to other treatment techniques. Prostate brachytherapy involves the implantation of radioactive sources inside the prostate to deliver a localized radiation dose to the tumor while sparing the surrounding healthy tissues. Multi-modal imaging is used in order to improve the overall accuracy of the treatment. The pre-operative Computed Tomography (CT) images can be used to calculate a personalized and accurate dose distribution. During the intervention, the surgeon utilizes a real-time guiding system, Trasnrectal Ultrasound (TRUS), to accurately place the radioactive sources in their desired pre-planned positions. Therefore, if the positions of the sources were determined on CT, they need to be transferred to US. However, a robust and direct US/CT registration is hardly possible since they both provide low soft tissue contrast. Magnetic Resonance Imaging (MRI), on the other hand, has a superior contrast and can potentially improve the treatment planning and delivery by providing a better visualization. Thus, these three modalities (MRI, US and CT) need to be accurately registered. To compensate for prostate deformations, caused by changes in size and form between the different acquisitions, non-rigid registration is essential. Fully automatic registration methodology is necessary in order to facilitate its integration in a clinical workflow. At first, we propose a registration between pre-operative MR and CT images based on the maximization of the mutual information in combination with a deformation field parameterized by cubic B-Splines. We propose to constrain the registration to volumes of interest (VOIs) in order to improve the robustness and the computational efficiency. The proposed approach was validated on clinical patient datasets. Quantitative evaluation indicated that the overall registration error was of 1.15±0.20 mm; which satisfies the desired clinical accuracy. Then, we propose a second intra-operative US/MRI registration, where a multi-resolution approach is implemented to reduce the probability of local minima and improve the computational efficiency. A similarity measure, which correlates intensities of the US image with intensities and gradient magnitude of the MRI, is used to determine the transformation that aligns the two images. The proposed methodology was validated on a prostate phantom at first to assess its feasibility. Subsequently, the method was validated on clinical patient datasets and evaluated using qualitative and quantitative criteria, resulting in a registration error of 1.44±0.06 mm. The approach proposed in this work allows going towards a multimodal protocol for image-guided brachytherapy which can improve the overall accuracy of this procedure. Despite such encouraging results, future work will involve further evaluation on a larger number of datasets in order to assess the reliability and the efficiency of this methodology before integrating it in a clinical workflow.

Le cancer de la prostate est le deuxième plus fréquent cancer chez les hommes. La France occupe le troisième rang du taux d’incidence. La curiethérapie bas-débit dose (LDR) est une option de traitement largement utilisée. Au cours de la curiethérapie LDR, des graines radioactives sont implantées en permanence dans la prostate afin de délivrer une dose thérapeutique de façon locale dans la zone cancéreuse tout en épargnant les organes voisins à risque (OAR). Malgré son taux de réussite élevé (75% à 91%), les effets secondaires restent élevés. La dose délivrée à la tumeur dépend des positions d’implantation des graines, ce qui implique que la planification est essentielle. Les systèmes cliniques de planification fournissent automatiquement les positions d’implantation. Cependant, cette prédiction est basée sur un modèle dosimétrique simplifié où le corps humain est considéré comme un volume d’eau. Un autre facteur des erreurs est l’apparition d’un oedème de la prostate impliquant un changement volumétrique. L’oedème peut entraîner une sous-estimation du D90 par exemple il est de 13.6% pour un changement volumétrique de 20%. De plus, l’oedème varie (10% à 96%) entre les patients. Aujourd’hui le mécanisme exact de l’apparition de cet oedème reste inconnu. Nous proposons un système de traitement inverse pour la curiethérapie prostate qui tient compte d’une personnalisation précise de la dosimétrie et de l’oedème. Ces travaux peuvent également être utilisés dans d’autres contextes cliniques, tel que la curiethérapie haut-débit, mais également être adapté pour traiter d’autres organes. Dans le futur, nos travaux porteront sur la personnalisation du modèle biomécanique de la prostate proposé à chaque patient en utilisant des mesures d’élasticité via l’élastographie. En raison des limitations inhérentes à la FEM, l’incorporation du modèle biomécanique de l’oedème dans le système de planification du traitement est coûteuse en temps de calcul. Une méthode alternative, serait de proposer un modèle sans maillage afin d’améliorer la simulation de l’oedème. / Prostate cancer is the second most common cancer in men. Two-thirds of the cases are diagnosed in developed countries and France is ranked third in incidence rate. Low-dose-rate (LDR) brachytherapy is a widely used treatment option. During LDR brachytherapy, radioactive seeds are implanted permanently in the prostate to deliver a therapeutic dose locally in the cancerous region while sparing the organs at risk (OARs). Despite its high success rate (75% to 91%), the side-effects (sexual and urinary problems) remain high. The dose delivered to the tumor depends on the implantation positions of the seeds, which implies that treatment planning is essential. Clinical inverse planning systems automatically provide optimal implantation positions. However, this prediction is based on a simplified dosimetric model where the human body is considered an infinite volume of water. Another important factor that induces treatment errors is the occurrence of prostate edema during brachytherapy that involves volumetric changes of the organ. Edema can lead to a significant underestimation of the D90, for example, by 13.6% for a volumetric change of 20%. Moreover, the edema magnitude varies considerably (10% to 96%) between patients. Today the exact mechanism of edema formation remains unknown. We propose in this thesis a system of inverse treatment for prostate brachytherapy which considers a precise personalization of the dosimetry but also of the prostate edema. This work can also be used in other clinical contexts, such as high-dose-rate brachytherapy, but also be adapted to treat other organs. In the future, our work will focus on the study of the ability to adapt the proposed prostate biomechanical model to each patient using elastic measurements via prostate elastography. Due to the inherent limitations of FEM, the incorporation of the biomechanical model of edema into the treatment planning system is costly in computation time. An alternative method would be to propose a new meshless model to improve the simulation of edema during intraoperative planning.

La curiethérapie prostatique se fait en implantant des grains radioactifs dans une zone tumorale. À cause des soucis temporaux, la planification considère ces grains comme des sources ponctuelles dans un monde uniforme d’eau. Ce mémoire présente une évaluation de l’impact de deux effets perturbant la dosimétrie, avec des méthodes Monte Carlo, en curiethérapie prostatique. L’orientation des sources, négligée actuellement, risque d’altérer la dosimétrie calculée. Cet impact est évalué sur une cohorte de patients (n=287). Aucun impact n’est calculé sur la prostate et l’urètre mais un impact de -2% est calculé sur la vessie et le rectum. La présence de calcifications dans la zone tumorale est négligée par la planification actuelle. Une cohorte de patients (n=43) possédant des calcifications permet d’évaluer cet impact. Il ressort du calcul MC une différence de -13% sur le D90 du CTV et de -16% sur le D10 de l’urètre, en comparaison avec l’algorithme de planification actuel. / Prostatic brachytherapy is performed by inserting radioactive seeds in a tumoral zone. Because of time constraint, clinical planning considers those seeds as point sources in a water medium. This thesis presents the quantification of the impact of two perturbing effects on the dosimetry, evaluated through a Monte Carlo algorithm, in prostatic brachytherapy. Seeds orientation, actually neglected, may alter the clinical dosimetry. The impact of this effect is evaluated on a cohort (n=287) of patients. No effect is calculated on the prostate or the urethra but a difference of -2%, when compared to the clinical algorithm, is calculated on the OARs. Calcifications are actually neglected in the clinical planning. A cohort of patients (n=43) with visible calcifications is used to measure the effect of this approximation. MC calculations yield a difference of -13% on the CTV D90 and -16% on the urethra D10, when compared to the clinical algorithm.

Cette thèse porte sur le développement et la validation d’outils afin d’améliorer l’efficacité des traitements de curiethérapie à haut débit de dose (HDR) du sein. Le but du projet vise donc à concevoir et valider un nouveau système de planification et de guidage en temps réel des traitements de curiethérapie HDR du sein, basé principalement sur l’échographie 3D (3DUS). Dans un premier temps, une étude clinique a été réalisée à l’aide d’un premier prototype 3DUS linéaire développé par le groupe. L’étude a permis de constater que le volume mesuré par échographie 3D est environ trois fois plus petit que celui mesuré par tomodensitomètre et que le système possède plusieurs limitations (ex : volume d’acquisition trop petit, guidage des cathéters impossible). Dans un deuxième temps, un algorithme d’optimisation de la position et du nombre de cathéters a été développé. Il s’est avéré que la méthode développée est robuste aux erreurs d’implantation et qu’il est possible de réduire significativement le nombre de cathéters sans avoir un impact important sur la dosimétrie. Dans un troisième temps, une étude a comparé cet algorithme au seul algorithme commercialement disponible, HIPO. Les résultats ont démontré que l’algorithme HIPO produit des plans significativement inférieur, en terme de dosimétrie, à l’algorithme présenté dans cette thèse. Dans un quatrième temps, deux méthodes ont été développées afin de réaliser une planification personnalisée, en temps réel des traitements de curiethérapie HDR du sein. Les deux méthodes se sont avérées efficaces pour réduire le nombre de cathéter. Une preuve de concept a été validée et elle a démontré le potentiel d’une planification personnalisée, en temps réel des traitements de curiethérapie HDR du sein. À l’aide des connaissances acquises dans l’étude clinique, un nouveau prototype 3DUS a été développé. Il inclut un nouveau mode d’acquisition hybride et un module de guidage de la position des cathéters. Les résultats présentés dans cette étude ont mis en évidence le fait que le système 3DUS hybride a la capacité de mesurer avec justesse les dimensions linéaires ainsi que les volumes. Il reconstruit également avec justesse la trajectoire des cathéters. Pour terminer, dans le but d’effectuer une reconstruction dynamique des cathéters, un système de guidage électromagnétique a été validé. Les résultats ont démontré que la reconstruction des cathéters, en curiethérapie HDR, est significativement plus juste et plus précise à l’aide d’un système de guidage électromagnétique qu’en utilisant les méthodes conventionnelles. / This thesis focuses on the development and validation of different tools to increase the efficacy of high dose rate (HDR) breast brachytherapy treatments. The project goal aim at designing and validating a new system for real-time guidance and planning of HDR breast brachytherapy treatments, based mainly on 3D ultrasound (3DUS). As a first step, a clinical study was performed using the first linear 3DUS prototype developed by our group. This study has shown the limitations of the current system (ex : small acquisition volume, no catheter tracking possibility) and that 3DUS volumes are three times smaller than computed tomography volumes. As a second step, a catheter optimization algorithm was developed. The algorithm was shown to be robust to catheter implantation errors and it was possible to reduce significantly the number of catheters without having a significant negative impact on the dosimetry. As a third step, a study was designed to compare the present catheter optimization algorithm to the only commercially available algorithm, HIPO. The results demonstrated that the HIPO algorithm produce significantly worse plan, in term of dosimetry, than the algorithm that was developed in the present thesis. As a fourth step, two methods were developed for personalized, real-time planning of breast HDR brachytherapy treatments. The two methods were efficient and they were able to reduce the number of catheters. A proof-of-concept was validated and it demonstrated the potential of a personalized, real-time planning approach for breast HDR brachytherapy. Using the experience acquired during the clinical study, a new 3DUS system was developed. The system includes a new hybrid acquisition approach and a module for catheter tracking. The results presented in this study have shown the ability of the hybrid 3DUS system to accurately measure linear dimensions and volumes. Furthermore, it allows the reconstruction of the catheters trajectory with accuracy as well as track them in real-time. Finally, in order to dynamically reconstruct catheters, an electromagnetic tracking system was validated. This study has shown that the reconstruction of catheters, in HDR brachytherapy, is significantly more accurate and precise with an electromagnetic tracking system than with the conventional methods.

Cette étude porte sur le développement d’un outil de contrôle qualité basé sur l’expérience, dérivé du concept de frontière stochastique en économie et s’appuyant sur des connaissances géométriques spécifiques au patient pour améliorer la qualité des traitements de curiethérapie à haut débit de dose pour le cancer de la prostate. Cent plans cliniques de curiethérapie à haut débit de dose de la prostate ont été utilisés dans cette étude, dans laquelle l’échographie transrectale était la seule modalité d’imagerie. Une fraction unique de 15 Gy a était prescrite à tous ces patients. Un algorithme de recuit simulé de planification inverse a été appliqué pour réaliser tous les plans et Oncentra Prostate a été employé comme système d’imagerie et de planification du traitement en temps réel. Les recommandations relatives aux paramètres de dose de la société américaine de curiethérapie pour la cible et les organes à risque ont été suivies. Les relations entre les paramètres géométriques et les paramètres dosimétriques d’intérêt sont examinées. Les paramètres géométriques sont liés aux dimensions anatomiques des patients et ceux associés aux cathéters. Pour déterminer les paramètres géométriques dominants dans un modèle de frontière stochastique donné, les relations monotones entre les paramètres géométriqueset les paramètres dosimétriques d’intérêt sont mesurées avec une approche non paramétrique, à savoir le coefficient de corrélation de Spearman. Ensuite, une recherche de force brute est effectuée pour un modèle donné dans lequel différents modèles, incluant toutes les combinaisons possibles des paramètres géométriques dominantes, sont optimisés. L’optimisation est accomplie en utilisant une méthode de vraisemblance maximale implémentée dans le progiciel de calcul statistique R, avec son algorithme de recuit simulée généralisée. Le test du rapport de vraisemblance et sa valeur-p correspondante sont utilisés pour comparer la signification statistique de l’ajout de nouveaux paramètres géométriques aux modèles. Un modèle de production pour la cible et un modèle de coût pour chacun des organes à risque sont développés pour le traitement par curiethérapie à haut débit de dose guidé par l’échographie transrectale. De plus, pour valider si chacun des modèles développés est universel, nous l’appliquons à une autre catégorie de traitement de la curiethérapie à haut débit de dose, dans laquelle la tomodensitométrie était utilisée comme modalité d’imagerie plutôt que de l’échographie transrectale. Ainsi, une nouvelle cohorte de cent plans cliniques curiethérapie à haut débit de dose guidés par la tomodensitométrie est prise en compte. Un modèle de frontière stochastique de production pour la cible et trois modèles de coût pour les organes à risque basés sur la tomodensitométrie sont développés. Enfin, les modèles intégrés de la tomodensitométrie et de l’échographie transrectale sont comparés. / This thesis focuses on developing an experience-based quality control (QC) tool, derived from the concept of stochastic frontier (SF) analysis in economics and based on patient-specific geometric knowledge to improve the quality of the high-dose-rate brachytherapy (HDR-BT) treatment for prostate cancer. One hundred clinical HDR prostate BT plans, using the transrectal ultrasound (TRUS) asthe only imaging modality, all treated with a single fraction of 15 Gy, and made using Inverse PlanningSimulated Annealing (IPSA) algorithm, are studied. Also, Oncentra Prostate system is employed as the real-time 3D prostate imaging and treatment planning system. American Brachytherapy Society dose parameter recommendations for target and organs at risk (OARs) were followed. Relationships between all the different geometric parameters (GPs) and the four dosimetric parameters (DPs) V100 of the prostate, V75 of the bladder and rectum, and D10 of the urethra were examined. Geometricinformation of the patients and catheters are considered as different GPs. To find the dominant GPs in a given SF model, monotonic relationships between the GPs and DPs of interest are measured using a nonparametric approach: the Spearman correlation coefficient. Then, to determine the optimal SF model for each of the target production SF, and the OARs cost SF models, brute-force searches are performed. Different SF models including all the possible combinations of the dominant GPs in the SF model under study are optimized. Optimization is done using a maximum likelihood method implemented in the statistical computing package R, along with its Generalized Simulated Annealing algorithm. The likelihood ratio test and its corresponding p-value are used to compare the statistical significance of adding new GPs to SF models. A production SF (PSF) model for the target, and a costSF (CSF) model for each of the bladder, rectum, and urethra are developed for TRUS-guided HDR-BTtreatment. The difference between the dose value of a plan obtained by IPSA and the one predicted by an SF model is explored. Additionally, to verify if each of the models developed for the TRUS-guided category of the HDR-BT treatment for prostate is universal, we apply it on another category of HDR-BT treatment, in which computed tomography (CT) was used as the imaging modality. So, a different cohort of one hundred clinical CT-guided HDR-BT plans is taken into consideration. A target production SF and three OARs cost SF models are developed for the CT-based plans. Subsequently, the built-in SF models for the TRUS-based and CT-based plans are compared.

En curiethérapie interstitielle à haut débit de dose pour le cancer de la prostate et du sein, les cathéters sont généralement implantés à l'aide d'un gabarit, sans regard précis à la taille ou à la forme de la tumeur. Bien que ces façons de procéder soient efficaces, un traitement ayant une efficacité supérieure ou égale pourrait être obtenu en implantant moins de cathéters. Deux méthodes ont été élaborées afin d'optimiser le nombre et la position des cathéters avant l'étape d'implantation. Dans la première méthode, une version recherche de l'algorithme IPSA (Inverse Planning by Simulated Annealing) a été modifiée afin d'éliminer graduellement des positions de cathéters selon leur fraction du temps total de traitement. La deuxième méthode, quant à elle, est basée sur un système dynamique où la distribution géométrique optimale des cathéters est déterminée en fonction des autres cathéters et des frontières du volume cible et des organes à risque.

Le mélanome uvéal est le type de cancer de l'œil le plus répandu chez l'adulte. Il s'agit du mélanome le plus commun après le cancer de la peau. La curiethérapie en est le traitement privilégié : elle consiste à irradier la tumeur à l'aide de sources radioactives disposées dans un support lui-même maintenu en place à l'aide d'une plaque épisclérale (PE). Leur conception a été élaborée par l'Association Américaine des Physiciens en Médecine (AAPM) et la Société Américaine de Curiethérapie (SAC) il y a plusieurs décennies. Cette conception permet de traiter adéquatement la plupart des formes et tailles des mélanomes uvéaux. Néanmoins, le traitement peine à traiter toutes les formes et engendre fréquemment des effets secondaires indésirables. Ce projet vise à développer une nouvelle conception des PE personnalisées pouvant répondre à une majorité de mélanomes uvéaux en minimisant les effets secondaires. La fabrication additive, qui consiste à fabriquer des objets couche par couche, a été utilisée afin de produire ces nouvelles plaques pouvant être personnalisables. Ce projet vise à produire des PE issues de la fabrication additive en polyétheréthercétone (PEEK) et de quantifier leur conformité géométrique. Pour ce faire, la tomodensitométrie par rayons X (TDM-X) a été employée. Cette technique d'imagerie permet d'évaluer de manière précise et complète le niveau de conformité géométrique des PE. Ainsi, dans ce projet, des plaques épisclérales de 10 mm, 14 mm et 22 mm ont été imprimées en PEEK, en adaptant leur conception à la fabrication additive. Une analyse de conformité géométrique utilisant la TDM-X et comparant les résultats avec les modèles 3D des plans de conception a permis de quantifier la conformité géométrique à une hauteur de 0,13 mm en moyenne. En somme, ce projet de maîtrise pave la voie à un traitement de curiethérapie pour traiter le cancer de l'œil à l'aide de PE conçues sur mesure pour le patient.

L’objectif général de cette thèse est d’utiliser les connaissances en physique de la radiation, en programmation informatique et en équipement informatique à la haute pointe de la technologie pour améliorer les traitements du cancer. En particulier, l’élaboration d’un plan de traitement en radiothérapie peut être complexe et dépendant de l’utilisateur. Cette thèse a pour objectif de simplifier la planification de traitement actuelle en curiethérapie de la prostate à haut débit de dose (HDR). Ce projet a débuté à partir d’un algorithme de planification inverse largement utilisé, la planification de traitement inverse par recuit simulé (IPSA). Pour aboutir à un algorithme de planification inverse ultra-rapide et automatisé, trois algorithmes d’optimisation multicritères (MCO) ont été mis en oeuvre. Suite à la génération d’une banque de plans de traitement ayant divers compromis avec les algorithmes MCO, un plan de qualité a été automatiquement sélectionné. Dans la première étude, un algorithme MCO a été introduit pour explorer les frontières de Pareto en curiethérapie HDR. L’algorithme s’inspire de la fonctionnalité MCO intégrée au système Raystation (RaySearch Laboratories, Stockholm, Suède). Pour chaque cas, 300 plans de traitement ont été générés en série pour obtenir une approximation uniforme de la frontière de Pareto. Chaque plan optimal de Pareto a été calculé avec IPSA et chaque nouveau plan a été ajouté à la portion de la frontière de Pareto où la distance entre sa limite supérieure et sa limite inférieure était la plus grande. Dans une étude complémentaire, ou dans la seconde étude, un algorithme MCO basé sur la connaissance (kMCO) a été mis en oeuvre pour réduire le temps de calcul de l’algorithme MCO. Pour ce faire, deux stratégies ont été mises en oeuvre : une prédiction de l’espace des solutions cliniquement acceptables à partir de modèles de régression et d’un calcul parallèle des plans de traitement avec deux processeurs à six coeurs. En conséquence, une banque de plans de traitement de petite taille (14) a été générée et un plan a été sélectionné en tant que plan kMCO. L’efficacité de la planification et de la performance dosimétrique ont été comparées entre les plans approuvés par le médecin et les plans kMCO pour 236 cas. La troisième et dernière étude de cette thèse a été réalisée en coopération avec Cédric Bélanger. Un algorithme MCO (gMCO) basé sur l’utilisation d’un environnement de développement compatible avec les cartes graphiques a été mis en oeuvre pour accélérer davantage le calcul. De plus, un algorithme d’optimisation quasi-Newton a été implémenté pour remplacer le recuit simulé dans la première et la deuxième étude. De cette manière, un millier de plans de traitement avec divers compromis et équivalents à ceux générés par IPSA ont été calculés en parallèle. Parmi la banque de plans de traitement généré par l’agorithme gMCO, un plan a été sélectionné (plan gMCO). Le temps de planification et les résultats dosimétriques ont été comparés entre les plans approuvés par le médecin et les plans gMCO pour 457 cas. Une comparaison à grande échelle avec les plans approuvés par les radio-oncologues montre que notre dernier algorithme MCO (gMCO) peut améliorer l’efficacité de la planification du traitement (de quelques minutes à 9:4 s) ainsi que la qualité dosimétrique des plans de traitements (des plans passant de 92:6% à 99:8% selon les critères dosimétriques du groupe de traitement oncologique par radiation (RTOG)). Avec trois algorithmes MCO mis en oeuvre, cette thèse représente un effort soutenu pour développer un algorithme de planification inverse ultra-rapide, automatique et robuste en curiethérapie HDR. / The overall purpose of this thesis is to use the knowledge of radiation physics, computer programming and computing hardware to improve cancer treatments. In particular, designing a treatment plan in radiation therapy can be complex and user-dependent, and this thesis aims to simplify current treatment planning in high dose rate (HDR) prostate brachytherapy. This project was started from a widely used inverse planning algorithm, Inverse Planning Simulated Annealing (IPSA). In order to eventually lead to an ultra-fast and automatic inverse planning algorithm, three multi-criteria optimization (MCO) algorithms were implemented. With MCO algorithms, a desirable plan was selected after computing a set of treatment plans with various trade-offs. In the first study, an MCO algorithm was introduced to explore the Pareto surfaces in HDR brachytherapy. The algorithm was inspired by the MCO feature integrated in the Raystation system (RaySearch Laboratories, Stockholm, Sweden). For each case, 300 treatment plans were serially generated to obtain a uniform approximation of the Pareto surface. Each Pareto optimal plan was computed with IPSA, and each new plan was added to the Pareto surface portion where the distance between its upper boundary and its lower boundary was the largest. In a companion study, or the second study, a knowledge-based MCO (kMCO) algorithm was implemented to shorten the computation time of the MCO algorithm. To achieve this, two strategies were implemented: a prediction of clinical relevant solution space with previous knowledge, and a parallel computation of treatment plans with two six-core CPUs. As a result, a small size (14) plan dataset was created, and one plan was selected as the kMCO plan. The planning efficiency and the dosimetric performance were compared between the physician-approved plans and the kMCO plans for 236 cases. The third and final study of this thesis was conducted in cooperation with Cédric Bélanger. A graphics processing units (GPU) based MCO (gMCO) algorithm was implemented to further speed up the computation. Furthermore, a quasi-Newton optimization engine was implemented to replace simulated annealing in the first and the second study. In this way, one thousand IPSA equivalent treatment plans with various trade-offs were computed in parallel. One plan was selected as the gMCO plan from the calculated plan dataset. The planning time and the dosimetric results were compared between the physician-approved plans and the gMCO plans for 457 cases. A large-scale comparison against the physician-approved plans shows that our latest MCO algorithm (gMCO) can result in an improved treatment planning efficiency (from minutes to 9:4 s) as well as an improved treatment plan dosimetric quality (Radiation Therapy Oncology Group (RTOG) acceptance rate from 92.6% to 99.8%). With three implemented MCO algorithms, this thesis represents a sustained effort to develop an ultra-fast, automatic and robust inverse planning algorithm in HDR brachytherapy.

Le but de cette thèse est de développer de nouveaux systèmes de dosimétrie par scintillateurs plastiques afin de faciliter leur implémentation comme détecteurs de dose in vivo en temps réel pour la radiothérapie et surtout pour la curiethérapie à haut débit de dose. Dans un premier temps, la nécessité de soustraire la lumière induite dans le guide optique par effet de tige a été démontrée pour cette modalité d'irradiation. Le détecteur développé pour cette étude a ensuite été utilisé afin de démontrer sa capacité à effectuer des mesures de dose en temps réel lors de la délivrance d'un traitement de curiethérapie de prostate à haut débit de dose à l'intérieur d'un fantôme d'eau. La dose déposée à chaque position de source, dans chaque cathéter et pour la fraction entière était comparable à la dose attendue par le système de planification de traitement. Comme les dosimètres à scintillation jusqu’à ce jour nécessitent une fibre optique de transmission par scintillateur, la preuve de faisabilité pour la mesure adéquate de doses de radiation avec un détecteur multi-points utilisant une seule fibre de transmission a été effectuée. Cela a d’abord été effectué pour des détecteurs à 2 et 3 points de mesure exposés à des irradiations externes de haute énergie. Comme l'approche proposée permet la décomposition du signal en ses diverses composantes, une étude sur l'importance du signal de fluorescence dans l'effet de tige a été effectuée pour une multitude de modalités d'irradiation. Finalement, un détecteur à 3 points de mesure et une seule fibre optique collectrice a été utilisé en curiethérapie à haut débit de dose et inséré dans un unique cathéter pour effectuer la mesure de dose dans un fantôme d’eau. Sa capacité de mesurer efficacement la dose en de multiples positions simultanément a été démontrée. Un budget d'incertitude a aussi été effectué afin d'évaluer les limites sous lesquelles ce détecteur peut être utilisé comme potentiel dosimètre in vivo en clinique pour la curiethérapie à haut débit. / The goal of this thesis is to develop new plastic scintillation dosimetry systems to enable the measurement of in vivo doses in real time and the verification of the treatment delivery accuracy for radiation therapy, especially for high dose rate brachytherapy. The necessity to account for the stem effect light produced in the optical guide by radiation was first shown. The detector built for this study was then used to verify its accuracy to measure dose in real time during the delivery of a typical prostate treatment plan in high dose rate brachytherapy. This measurement was performed inside a water phantom. Dose deposited at each dwell position, inside each catheter and for the entire treatment delivery was measured and compared to the treatment planning system. Another part of this research project was on the development of an approach to render possible measurement at multiple positions with the use of multiple scintillating elements and only a single collecting optical guide. Plastic scintillation detectors with 2 and 3 points of measurement were first developed and used under external beam high energy radiation therapy. The approach enabled the calculation of different signal contributions over the total optical signal; a study was then performed to evaluate the importance of the fluorescence component on the total stem effect under a variety of irradiation modalities and conditions. Finally, a 3-point detector was inserted inside a single catheter to perform dosimetry under Ir-192 high dose rate brachytherapy in a water phantom. Its accuracy to measure dose was demonstrated. An uncertainty budget was also calculated in order to evaluate the limitations of this detector for its clinical potential as a real-time in vivo dosimeter.

Dans le présent mémoire, le potentiel d’un prototype de la sonde Clariry AutoScan modifiée pour la curiethérapie gynécologique est évalué. Au terme du projet, le but est de déterminer si la sonde peut être intégrée au processus clinique et si la planification de traitement faite sur image par tomodensitométrie (TDM) peut être améliorée par l’ajout d’une échographie transabdominale tridimensionnelle (3DTAUS). Pour ce faire, un total de 19 patientes ont été analysées au cours des différentes étapes du projet. La première partie, l’analyse des contours, comprenant une analyse de faisabilité a été réalisée. Dans cette section, différents éléments devaient être jugés visibles ou non sur les trois modalités d’imagerie (imagerie par résonnance magnétique (IRM), TDM et 3DTAUS) sur les images de 6 patientes. Par la suite, le volume cible clinique à hauts risque (High Risk Clinical Target Volume, HR-CTV) de 8 patientes a été délimité et une analyse comparative de volume et de dimensions a été réalisée. La dernière étape a été d’évaluer les plans de traitements optimisés sur IRM, TDM et TDM-3DTAUS réalisés pour 5 patientes. Pour fin de comparaison, les plans faits sur IRM ont été également évalués sur TDM et TDM-3DTAUS et les plans TDM et TDM-3DTAUS, sur l’IRM. L’analyse de faisabilité a montré que la sonde permet de voir le HR-CTV. Cependant, le rectum, le sigmoïde de même que les ovoïdes ne peuvent être visualisés sur le 3DTAUS. Pour les analyses de contours, en moyenne, les contours se rapprochant davantage du standard à atteindre, l’IRM, sont faits sur le 3DTAUS, mais avec une plus grande variation des contours que le TDM. Pour la planification de traitement, l’ajout du 3DTAUS au TDM permet d’obtenir une dosimétrie plus près de celle obtenue sur l’IRM comparativement au TDM seul. L’utilisation clinique du 3DTAUS est plausible. L’ajout du 3DTAUS permet d’obtenir une dosimétrie plus près de celle sur IRM que le TDM seul, et dans le cas de l’Hôtel-Dieu, avec une charge clinique moindre que l’IRM. / The present work explores the clinical potential of the adapted prototype of the Clarity AutoScan probe for gynecological brachytherapy use. The goal of this project is to determine whether a 3D transabdominal ultrasound (3DTAUS) can improve treatment planning when combine to computed tomography (CT) compared to CT-based treatment planning. For the purpose of this work, 19 patients were analyzed along the various steps of the study. The two main parts are the contour analysis and the treatment planning analysis. In the first part, images set (magnetic resonance images (MRI), CT and 3DTAUS) of 6 patients were analyzed to determine the visibility of various structures. The comparative high-risk clinical target volume (HR-CTV) contour analysis included 5 patients was performed with 4 images sets (MRI, CT, 3DTAUS and CT-3DTAUS). The HR-CTV volume and lateral dimensions were compared to the reference set, the MRI. Treatment plans optimized on MRI, CT and CT-3DTAUS were elaborated for 5 patients. MRI treatment plans were evaluated on CT and CT-3DTAUS, and CT and CT-3DTAUS were evaluated on MRI. HR-CTV and tandem can be seen on 3DTAUS counter to rectum, sigmoid and ovoids. HRCTV contour analysis shows that 3DTAUS contours, on average, are the ones closer to MRI but with the higher variability. For treatment planning, the treatment plans optimized on CT-3DTAUS are the one closer to MRI, showing improvement to CT plans while combining it to 3DTAUS. For complete 3D treatment planning, 3DTAUS can be used alone. However, the CT-3DTAUS fusion allows treatment plans closer to MRI than CT alone. For the reason, 3DTAUS should be added to the current clinical workflow when MRI is not available.