Les mouvements de la prostate relativement aux ganglions pelviens durant un traitement de radiothérapie peut affecter la qualité du traitement et limiter la protection des organes à risque. Ce projet explore trois traitements adaptatifs qui combinent à la fois l’information acquise avec un recalage osseux et un recalage fait sur les marqueurs radio-opaques implantés dans la prostate. L’efficacité de ces traitements selon les mouvements interfractionnaires prostatiques a été évaluée. Cinq patients constituent la base de données de cette étude rétrospective. Chacun possède une tomodensitométrie initiale (CT) en plus de tomodensitométries à faisceau conique (CBCT) acquises lors des jours de traitement. Pour permettre le calcul de dose, un recalage non-rigide du CT a été réalisé sur chacun des CBCT. Les résultats montrent qu’une méthode adaptative peut être choisie pour augmenter le ratio thérapeutique. Ces méthodes semblent être de bons choix pour une stratégie de traitement adaptatif simple et efficace.

La curiethérapie, une forme spécialisée de traitement du cancer, consiste à placer des sources radioactives près ou directement dans la lésion cancéreuse. Un aspect crucial de cette thérapie est le calcul de la dose de radiation. Traditionnellement, ce calcul s'appuie sur un formalisme qui considère l'eau comme milieu de transport, ce qui ne tient pas suffisamment compte des variations dans la composition des tissus du patient et des effets d'atténuation entre sources pour la curiethérapie permanente à faible débit de dose (LDR pour low-dose rate). La méthode Monte Carlo (MC) est la référence pour les calculs de dose avancés en curiethérapie, offrant une solution à ces limites. Cependant, l'application pratique de la méthode MC dans la planification du traitement est limitée par son temps d'exécution relativement lent. Cette thèse explore le potentiel des méthodes d'apprentissage profond (DL pour deep learning) pour surmonter ce défi. Plus précisément, la faisabilité d'utiliser des algorithmes DL pour prédire rapidement et avec précision la distribution de dose volumétrique pour patients de cancer de la prostate traités par la curiethérapie LDR est étudiée. Premièrement, le logiciel TOPAS a été systématiquement validée pour les simulations MC en curiethérapie en comparant les résultats simulés avec les données de référence TG-186 publiées. Le spectre d'énergie d'émission de photons, l'air-kerma strength et la constante de débit de dose de la source générique $^{192}$Ir MBDCA-WG ont été extraits. Pour les calculs de dose, un estimateur de longueur de trajectoire a été validé. Les quatre cas de test du groupe de travail MBDCA-WG AAPM/ESTRO/ABG ont été évalués. Un cas de prostate, un cas palliatif de poumon et un cas de sein ont été simulés. L'air-kerma strength et la constante de débit de dose étaient respectivement à 0,3% et 0,01% des valeurs de référence. Pour tous les cas de test, 96,9% des voxels avaient des différences de dose locales dans une plage de ±1%, tandis que les différences de dose globales concernaient 99,9% des voxels dans une plage de ±0,1%. Les histogrammes dose-volume des cas cliniques étaient cohérents avec les données de référence. TOPAS offre un accès étendu à un code MC de pointe pour les simulations en curiethérapie. Deuxièmement, un modèle DL à source unique entraîné avec des simulations MC comme référence a été proposé pour prédire avec précision les distributions de dose dans le milieu (D$_\textup{M,M}$ pour dose to medium in medium) en curiethérapie prostatique LDR. Des connaissances antérieures ont été incluses dans le réseau sous forme de noyau r$^2$ lié à l'inverse de la dépendance de dose de premier ordre en curiethérapie. Les caractéristiques du modèle montraient une représentation anisotrope tenant compte des organes du patient et de leurs interfaces, de la position de la source et des régions de faible et haute dose. La métrique CTV D$_{90}$ prédite présentait une différence moyenne de -0,1% par rapport au calcul basé sur MC. La prédiction d'un volume D$_\textup{M,M}$ complet de 1,18 M de voxels se réalise en 1,8 ms. Le modèle DL proposé représente donc un algorithme de calcul extrêmement rapide et simplifié, intégrant des connaissances physiques préexistantes pertinentes à la curiethérapie. Ce modèle est conçu pour tenir compte des caractéristiques anisotropes d'une source de curiethérapie et de la composition spécifique des tissus du patient, garantissant une approche précise et adaptée des calculs de dose. Enfin, deux algorithmes DL prédictifs de dose à plusieurs sources ont été validés pour la curiethérapie prostatique LDR. Les données de référence prenaient en compte les effets d'atténuation entre les sources et une définition des matériaux basée sur les organes du patient. De plus, les incertitudes aléatoires (associées aux données d'entrée) et épistémiques (associées au modèle) des modèles DL ont été évaluées. Les résultats ont montré que la métrique D$_{90}$ de la prostate prédite présentait une différence de -0,64% et de 0,08% pour les modèles UNet et ResUNet TSE, respectivement. Les deux modèles DL prédisaient un volume de dose de 2,56 M de voxels (128×160×128) en 4 ms. L'incertitude dérivée est quantifiable et interprétable, mettant en évidence les régions où les modèles DL pourraient rencontrer des difficultés pour fournir des estimations précises de dose. L'analyse de l'incertitude est un outil précieux pour une évaluation approfondie, améliorant le processus d'évaluation des modèles de prédiction de dose. De plus, cette analyse fournit des informations critiques sur la performance du modèle, identifiant les domaines d'amélioration potentielle et garantissant une application plus fiable dans un contexte clinique. / Brachytherapy, a specialized form of cancer treatment, involves the placement of radioactive sources near or directly within the cancerous lesion. A critical aspect of this therapy is the calculation of radiation dose. Traditionally, this calculation relies on a water-based formalism, which does not adequately account for variations in patient tissue compositions and interseed effects in low-dose rate (LDR) brachytherapy. The Monte Carlo (MC) method is the gold standard for advanced dose calculations in brachytherapy, offering a solution to these limitations. However, the practical application of the MC method in treatment planning is hindered by its relatively slow execution time. This thesis explores the potential of deep learning (DL) methods to overcome this challenge. Specifically, it investigates the feasibility of using DL algorithms to accurately predict the volumetric dose distribution in LDR prostate brachytherapy patients, aiming to streamline the treatment planning process while maintaining the precision of dose calculations. Firstly, the TOPAS MC toolkit was systematically validated for brachytherapy simulations by comparing simulated results with published TG-186 reference data. The photon emission energy spectrum, the air-kerma strength, and the dose-rate constant of the MBDCA-WG generic $^{192}$Ir source were extracted. For dose calculations, a track-length estimator was implemented. The four Joint AAPM/ESTRO/ABG MBDCA-WG test cases were evaluated. A prostate, a palliative lung, and a breast case were simulated. The air-kerma strength and dose-rate constant were within 0.3% and 0.01% of the reference values, respectively. For all test cases, 96.9% of voxels had local dose differences within ±1%. On the other hand, the global dose difference histograms had 99.9% of voxels within ±0.1%. Dose-volume histograms of clinical cases were consistent with the reference data. Overall, TOPAS provides access to a state-of-the-art MC code for brachytherapy simulations. Secondly, a single-seed DL model trained with MC simulations as the gold standard was built to predict accurate single-seed dose to medium in medium (D$_\textup{M,M}$) distributions in LDR prostate brachytherapy. Existing knowledge was included in the network as an r$^2$ kernel related to the inverse of the first-order dose dependency in brachytherapy. DL model features showed an anisotropic representation that considered the patient organs and their interfaces, the source position, and the low- and high-dose regions. The predicted CTV D$_{90}$ metric had an average difference of -0.1% with respect to the MC-based calculation. The single-seed DL model takes 1.8 ms to predict a complete 3D D$_\textup{M,M}$ volume of 1.18 M voxels. The proposed DL model represents a streamlined and rapid computational engine, incorporating pre-existing physics knowledge pertinent to brachytherapy. This engine is designed to consider the anisotropic characteristics of a brachytherapy source and the specific composition of patient tissues, ensuring an accurate, fast, and tailored approach to dose calculations. Lastly, two multi-seed DL-based predictive dose algorithms were trained for LDR prostate brachytherapy. Ground truth data considered interseed effects and an organ-based material assignment. Additionally, the aleatoric (associated with the input data) and epistemic (associated with the model) uncertainties of the DL models were assessed. Results showed that the predicted prostate D$_{90}$ metric had a difference of -0.64% and 0.08% for the UNet and ResUNet TSE models, respectively. Both DL models predicted a 3D dose volume of 2.56 M voxels (128×160×128) in 4 ms. The derived uncertainty is quantifiable and interpretable, highlighting regions where DL models might face challenges in delivering precise dose estimations. The uncertainty analysis is a valuable tool for a thorough evaluation, enhancing the assessment process of the dose prediction models. This analysis provides critical insights into the model's performance, pinpointing areas for potential improvement and ensuring a more reliable application in clinical settings.

Cette étude porte sur le développement d’un outil de contrôle qualité basé sur l’expérience, dérivé du concept de frontière stochastique en économie et s’appuyant sur des connaissances géométriques spécifiques au patient pour améliorer la qualité des traitements de curiethérapie à haut débit de dose pour le cancer de la prostate. Cent plans cliniques de curiethérapie à haut débit de dose de la prostate ont été utilisés dans cette étude, dans laquelle l’échographie transrectale était la seule modalité d’imagerie. Une fraction unique de 15 Gy a était prescrite à tous ces patients. Un algorithme de recuit simulé de planification inverse a été appliqué pour réaliser tous les plans et Oncentra Prostate a été employé comme système d’imagerie et de planification du traitement en temps réel. Les recommandations relatives aux paramètres de dose de la société américaine de curiethérapie pour la cible et les organes à risque ont été suivies. Les relations entre les paramètres géométriques et les paramètres dosimétriques d’intérêt sont examinées. Les paramètres géométriques sont liés aux dimensions anatomiques des patients et ceux associés aux cathéters. Pour déterminer les paramètres géométriques dominants dans un modèle de frontière stochastique donné, les relations monotones entre les paramètres géométriqueset les paramètres dosimétriques d’intérêt sont mesurées avec une approche non paramétrique, à savoir le coefficient de corrélation de Spearman. Ensuite, une recherche de force brute est effectuée pour un modèle donné dans lequel différents modèles, incluant toutes les combinaisons possibles des paramètres géométriques dominantes, sont optimisés. L’optimisation est accomplie en utilisant une méthode de vraisemblance maximale implémentée dans le progiciel de calcul statistique R, avec son algorithme de recuit simulée généralisée. Le test du rapport de vraisemblance et sa valeur-p correspondante sont utilisés pour comparer la signification statistique de l’ajout de nouveaux paramètres géométriques aux modèles. Un modèle de production pour la cible et un modèle de coût pour chacun des organes à risque sont développés pour le traitement par curiethérapie à haut débit de dose guidé par l’échographie transrectale. De plus, pour valider si chacun des modèles développés est universel, nous l’appliquons à une autre catégorie de traitement de la curiethérapie à haut débit de dose, dans laquelle la tomodensitométrie était utilisée comme modalité d’imagerie plutôt que de l’échographie transrectale. Ainsi, une nouvelle cohorte de cent plans cliniques curiethérapie à haut débit de dose guidés par la tomodensitométrie est prise en compte. Un modèle de frontière stochastique de production pour la cible et trois modèles de coût pour les organes à risque basés sur la tomodensitométrie sont développés. Enfin, les modèles intégrés de la tomodensitométrie et de l’échographie transrectale sont comparés. / This thesis focuses on developing an experience-based quality control (QC) tool, derived from the concept of stochastic frontier (SF) analysis in economics and based on patient-specific geometric knowledge to improve the quality of the high-dose-rate brachytherapy (HDR-BT) treatment for prostate cancer. One hundred clinical HDR prostate BT plans, using the transrectal ultrasound (TRUS) asthe only imaging modality, all treated with a single fraction of 15 Gy, and made using Inverse PlanningSimulated Annealing (IPSA) algorithm, are studied. Also, Oncentra Prostate system is employed as the real-time 3D prostate imaging and treatment planning system. American Brachytherapy Society dose parameter recommendations for target and organs at risk (OARs) were followed. Relationships between all the different geometric parameters (GPs) and the four dosimetric parameters (DPs) V100 of the prostate, V75 of the bladder and rectum, and D10 of the urethra were examined. Geometricinformation of the patients and catheters are considered as different GPs. To find the dominant GPs in a given SF model, monotonic relationships between the GPs and DPs of interest are measured using a nonparametric approach: the Spearman correlation coefficient. Then, to determine the optimal SF model for each of the target production SF, and the OARs cost SF models, brute-force searches are performed. Different SF models including all the possible combinations of the dominant GPs in the SF model under study are optimized. Optimization is done using a maximum likelihood method implemented in the statistical computing package R, along with its Generalized Simulated Annealing algorithm. The likelihood ratio test and its corresponding p-value are used to compare the statistical significance of adding new GPs to SF models. A production SF (PSF) model for the target, and a costSF (CSF) model for each of the bladder, rectum, and urethra are developed for TRUS-guided HDR-BTtreatment. The difference between the dose value of a plan obtained by IPSA and the one predicted by an SF model is explored. Additionally, to verify if each of the models developed for the TRUS-guided category of the HDR-BT treatment for prostate is universal, we apply it on another category of HDR-BT treatment, in which computed tomography (CT) was used as the imaging modality. So, a different cohort of one hundred clinical CT-guided HDR-BT plans is taken into consideration. A target production SF and three OARs cost SF models are developed for the CT-based plans. Subsequently, the built-in SF models for the TRUS-based and CT-based plans are compared.

L’objectif général de cette thèse est d’utiliser les connaissances en physique de la radiation, en programmation informatique et en équipement informatique à la haute pointe de la technologie pour améliorer les traitements du cancer. En particulier, l’élaboration d’un plan de traitement en radiothérapie peut être complexe et dépendant de l’utilisateur. Cette thèse a pour objectif de simplifier la planification de traitement actuelle en curiethérapie de la prostate à haut débit de dose (HDR). Ce projet a débuté à partir d’un algorithme de planification inverse largement utilisé, la planification de traitement inverse par recuit simulé (IPSA). Pour aboutir à un algorithme de planification inverse ultra-rapide et automatisé, trois algorithmes d’optimisation multicritères (MCO) ont été mis en oeuvre. Suite à la génération d’une banque de plans de traitement ayant divers compromis avec les algorithmes MCO, un plan de qualité a été automatiquement sélectionné. Dans la première étude, un algorithme MCO a été introduit pour explorer les frontières de Pareto en curiethérapie HDR. L’algorithme s’inspire de la fonctionnalité MCO intégrée au système Raystation (RaySearch Laboratories, Stockholm, Suède). Pour chaque cas, 300 plans de traitement ont été générés en série pour obtenir une approximation uniforme de la frontière de Pareto. Chaque plan optimal de Pareto a été calculé avec IPSA et chaque nouveau plan a été ajouté à la portion de la frontière de Pareto où la distance entre sa limite supérieure et sa limite inférieure était la plus grande. Dans une étude complémentaire, ou dans la seconde étude, un algorithme MCO basé sur la connaissance (kMCO) a été mis en oeuvre pour réduire le temps de calcul de l’algorithme MCO. Pour ce faire, deux stratégies ont été mises en oeuvre : une prédiction de l’espace des solutions cliniquement acceptables à partir de modèles de régression et d’un calcul parallèle des plans de traitement avec deux processeurs à six coeurs. En conséquence, une banque de plans de traitement de petite taille (14) a été générée et un plan a été sélectionné en tant que plan kMCO. L’efficacité de la planification et de la performance dosimétrique ont été comparées entre les plans approuvés par le médecin et les plans kMCO pour 236 cas. La troisième et dernière étude de cette thèse a été réalisée en coopération avec Cédric Bélanger. Un algorithme MCO (gMCO) basé sur l’utilisation d’un environnement de développement compatible avec les cartes graphiques a été mis en oeuvre pour accélérer davantage le calcul. De plus, un algorithme d’optimisation quasi-Newton a été implémenté pour remplacer le recuit simulé dans la première et la deuxième étude. De cette manière, un millier de plans de traitement avec divers compromis et équivalents à ceux générés par IPSA ont été calculés en parallèle. Parmi la banque de plans de traitement généré par l’agorithme gMCO, un plan a été sélectionné (plan gMCO). Le temps de planification et les résultats dosimétriques ont été comparés entre les plans approuvés par le médecin et les plans gMCO pour 457 cas. Une comparaison à grande échelle avec les plans approuvés par les radio-oncologues montre que notre dernier algorithme MCO (gMCO) peut améliorer l’efficacité de la planification du traitement (de quelques minutes à 9:4 s) ainsi que la qualité dosimétrique des plans de traitements (des plans passant de 92:6% à 99:8% selon les critères dosimétriques du groupe de traitement oncologique par radiation (RTOG)). Avec trois algorithmes MCO mis en oeuvre, cette thèse représente un effort soutenu pour développer un algorithme de planification inverse ultra-rapide, automatique et robuste en curiethérapie HDR. / The overall purpose of this thesis is to use the knowledge of radiation physics, computer programming and computing hardware to improve cancer treatments. In particular, designing a treatment plan in radiation therapy can be complex and user-dependent, and this thesis aims to simplify current treatment planning in high dose rate (HDR) prostate brachytherapy. This project was started from a widely used inverse planning algorithm, Inverse Planning Simulated Annealing (IPSA). In order to eventually lead to an ultra-fast and automatic inverse planning algorithm, three multi-criteria optimization (MCO) algorithms were implemented. With MCO algorithms, a desirable plan was selected after computing a set of treatment plans with various trade-offs. In the first study, an MCO algorithm was introduced to explore the Pareto surfaces in HDR brachytherapy. The algorithm was inspired by the MCO feature integrated in the Raystation system (RaySearch Laboratories, Stockholm, Sweden). For each case, 300 treatment plans were serially generated to obtain a uniform approximation of the Pareto surface. Each Pareto optimal plan was computed with IPSA, and each new plan was added to the Pareto surface portion where the distance between its upper boundary and its lower boundary was the largest. In a companion study, or the second study, a knowledge-based MCO (kMCO) algorithm was implemented to shorten the computation time of the MCO algorithm. To achieve this, two strategies were implemented: a prediction of clinical relevant solution space with previous knowledge, and a parallel computation of treatment plans with two six-core CPUs. As a result, a small size (14) plan dataset was created, and one plan was selected as the kMCO plan. The planning efficiency and the dosimetric performance were compared between the physician-approved plans and the kMCO plans for 236 cases. The third and final study of this thesis was conducted in cooperation with Cédric Bélanger. A graphics processing units (GPU) based MCO (gMCO) algorithm was implemented to further speed up the computation. Furthermore, a quasi-Newton optimization engine was implemented to replace simulated annealing in the first and the second study. In this way, one thousand IPSA equivalent treatment plans with various trade-offs were computed in parallel. One plan was selected as the gMCO plan from the calculated plan dataset. The planning time and the dosimetric results were compared between the physician-approved plans and the gMCO plans for 457 cases. A large-scale comparison against the physician-approved plans shows that our latest MCO algorithm (gMCO) can result in an improved treatment planning efficiency (from minutes to 9:4 s) as well as an improved treatment plan dosimetric quality (Radiation Therapy Oncology Group (RTOG) acceptance rate from 92.6% to 99.8%). With three implemented MCO algorithms, this thesis represents a sustained effort to develop an ultra-fast, automatic and robust inverse planning algorithm in HDR brachytherapy.

OBJECTIF: Déterminer si un régime de Bicalutamide et de Dutasteride est d’efficacité similaire à un régime standard pour la cytoréduction prostatique avant une curiethérapie prostatique par implants permanents et comparer la toxicité de ces deux régimes. MÉTHODE Les patients avec un adénocarcinome de la prostate traités par curiethérapie prostatique ayant un volume prostatique initial de plus de 50 cc ont été randomisés soit à un régime de Bicalutamide 50 mg die, de Dutasteride 0.5 mg die et de tamoxifen 10 mg die pour prévenir la gynécomastie (Groupe expérimental = GE) versus un agoniste de la LHRH (dose de 3 mois) avec du Bicalutamide 50 mg die pour 1 mois (Groupe contrôle = GC). Le volume prostatique total (VPT) a été mesuré à la randomisation (t1) et environ 2.5 mois après le début du traitement de cytoréduction (t2). La curiethérapie par implant permanent d’I-125 à été réalisé environ 3 mois après la randomisation. Le changement de VPT relatif en % à été comparé entre les groupes. Des questionnaires EPIC (Expanded Prostate Index Composite) ont été complétés au t1, t2, ainsi qu’à 6 semaines (t3), 3 mois (t4) et 6 mois (t5) post-curiethérapie. Le profil de changement des scores sexuels et hormonaux du questionnaire EPIC a été évalué de façon qualitative. RÉSULTATS Les premiers 11 patients randomisés dans l’étude ont été analysés (GE n=5, GC ; n=6). Les caractéristiques de base entre les deux groups étaient similaires. Tous les patients présentaient des caractéristiques de cancer de prostate de bas risque (APS< 10, Stade clinique ≤T2a et un score de Gleason ≤6). Le VPT médian au t1 était de 51,00 cc dans le GE et de 55,56 cc dans le GC. Les diminutions médianes entre le volume t1 et le volume t2 en absolu étaient de 18,46 cc dans le GE et de 24,61 cc dans le GC (valeur-p au test exact de Wilcoxon 0,03). Pour ce qui est de la médiane de changement relatif de volume entre t1 et le volume au t2, celles-ci étaient de 36,44 % dans le GE et de 40,83 % dans le GC (valeur-p 0,25). Tous les 11 patients ont pu subir la curiethérapie sans interférence de l’arche pubienne et avec des paramètres dosimétriques acceptables. Les médianes de scores de fonction sexuelle et de sommaire hormonal semblent qualitativement démontrer un meilleur profil au sein du GE. DISCUSSION Cette analyse exploratoire n’a pas la puissance suffisante pour permettre de rejeter ou d’affirmer une hypothèse de non-infériorité du régime expérimental du point de vue de la cytoréduction prostatique. Toutefois, ce régime a permis à tous les patients de subir la curiethérapie sans interférence de l’arche pubienne et avec des paramètres dosimétriques acceptables. Le Bicalutamide et le Dutasteride ont aussi démontré un profil de toxicité favorable. Les résultats de cette analyse précoce justifient donc de continuer à randomiser des patients au sein de cette étude mais ne permettent pas de tirer des conclusions définitives en raison de la petite taille d’échantillon. / OBJECTIVE: To determine if a regimen of Bicalutamide and Dutasteride is of similar efficacy compared to a standard regimen for prostate cytoreduction prior to permanent implant prostate brachytherapy and to compare toxicity for both of these regimens MATERIALS AND METHODS Patients with an adenocarcinoma of the prostate treated with permanent implant brachytherapy having an initial total prostate volume of 50 cc or more were randomized to either Bicalutamide 50 mg daily, Dutasteride 0.5 mg daily and Tamoxifen 10 mg daily (Experimental group = EG) or an LHRH agonist (3 month dose) and Bicalutamide 50 mg daily for one month (Control Group = CG). Total prostate volume (TPV) was evaluated at time of randomization (t1) and approximately 2.5 months after the start of cytoreductive therapy (t2). Permanent implant I-125 brachytherapy was completed 3 months after randomization. Relative TPV change in % and absolute TPV change in cc were compared between groups. Expanded Prostate Index Composite questionnaires were completed by patients at t1, t2, as well as at 6 weeks (t3), 3 months (t4), and 6 months (t5). Profile changes in EPIC sexual and hormonal domains were evaluated qualitatively. RESULTS The first 11 patients registered for the study were analyzed (EG n=5; CG n=6) Baseline parameters were similar between groups. All patients had low risk characteristics (PSA < 10, Clinical stage ≤T2a and Gleason score ≤6). Median baseline TPV was 51.00 cc in EG and 55.56 in CG. Median reduction in absolute TPV was 18.46 cc in EG and 24.61 in CG (Wilcoxon exact test p=0.03). As for median relative change in TPV, this was 36.44 % in EG and 24.61 cc in CG (p=0.25). All 11 patients were able to undergo brachytherapy without pubic arch interference and with acceptable dosimetric parameters. Median EPIC of both sexual and hormonal domains of the EPIC questionnaire seemed to favor the EG over time. DISCUSSION This early exploratory analysis does not have sufficient power to reject or accept the hypothesis of non-inferiority the experimental regimen for prostate volume reduction. Nonetheless, this regimen allowed brachytherapy without pubic arch interference and with acceptable dosimetric parameters. The experimental regimen of Bicalutamide and Dutasteride also seemed to show a favorable toxicity profile. The results of this early analysis thus justify continued randomization for the study but do not allow definitive conclusions due to small sample size.

Les thérapies radionucléidiques utilisant du $^{177}$Lu sont utilisées pour traiter les patients atteints de tumeurs neuroendocrines dans le cadre de la thérapie radionucléidique par radiopeptides, *peptide receptor radionuclide therapy* (PRRT), et de la thérapie radiopharmaceutique pour le cancer de la prostate, *radioligand therapy* (RLT). La PRRT empirique consiste à injecter 4 cycles de $^{177}$Lu-octreotate de 7.4 GBq afin de limiter la dose absorbée dans les reins sous 23 Gy. Cette méthodologie étant généralement sous-optimisée, une PRRT personnalisée a été proposée. Sur bases d'images acquises en tomographies par émission mono-photonique (TEMs) quantifiées, *quantitative single photon emission computed tomography* (QSPECT), après chaque injection, la dose absorbée par activité injectée est calculée dans les reins. En fonction de celle-ci, l'activité injectée au cycle suivant est personnalisée afin d'atteindre 23 Gy aux reins au bout des quatre injections. La quantification des images nécessite qu'un facteur de calibration soit établi pour le système TEM et qu'une correction du temps mort soit apportée. En raison du nombre important de photons pouvant atteindre la caméra, cet effet indésirable diminue le nombre de photons observés par rapport au nombre réel. Pour le corriger, la constante de temps mort de la caméra a été déterminée et utilisée pour en corriger les images. Néanmoins, l'impact du temps mort sur les images PRRT est encore peu connu et sa correction actuelle ne permet pas de corriger les images ayant un très haut débit de photons. Les premiers objectifs de ce travail consistent à valider la méthode de quantification actuelle et proposer une méthode permettant de quantifier les images tomographies par émission mono-photonique (TEMs) des patients à plus haut débit de photons. Concernant l'efficacité du traitement, une corrélation a été observée entre la réponse précoce et l'effet tardif du traitement mais sa haute variabilité ne permet actuellement pas de l'appliquer de manière prédictive. Pour le deuxième objectif, il s'agit de proposer une méthode semi-automatique capable de segmenter un contour réaliste du fardeau tumoral des patients et qui puisse permettre d'évaluer la réponse tumorale durant la PRRT. L'impact de la correction du temps mort sur le calcul de la dose absorbée aux reins a été évalué sur 166 patients. Des acquisitions de fantômes personnalisés ont été effectuées avec du $^{99m}$Tc et du $^{177}$Lu afin d'évaluer la réponse des caméras à haut débit de photons pour différents paramètres d'acquisition et pour différents modèles. La méthode actuelle de correction de temps mort a été évaluée sur ces acquisitions et pour les QSPECTs de patients. Elle a été comparée à une méthode plus juste physiquement mais plus difficilement applicable en routine clinique. Il a été possible de montrer que la correction du temps mort est nécessaire dans un régime personnalisé pour limiter la sous-estimation de dose absorbée aux reins, parfois supérieure à 20%. En outre, le nombre de photons corrigé avec la méthode actuelle ne diverge pas de plus 2% par rapport à la méthode de référence. Nos résultats sur les fantômes ont montré que la constante de temps mort est non seulement indépendante du radio-isotope utilisé mais qu'elle peut également varier selon les paramètres d'acquisition et des manufacturiers. Ainsi, il nous est possible en modifiant un paramètre d'acquisition de doubler le débit de photons quantifiables pendant une acquisition. 24 méthodes de segmentations ont été appliquées sur 100 QSPECTs provenant des deux premiers cycles PRRT de 50 patients. Pour chaque image, un expert a choisi, et éventuellement modifié, le contour qu'il jugeait le plus réaliste pour ainsi obtenir le contour de référence. Les algorithmes y ont été comparés en termes de Dice, de sensibilité et d'évolution de fraction tumorale. Une méthode de segmentation, le *watershed transform* (WT), a pu être isolée en raison de ses résultats supérieurs aux autres méthodes. Les contours de référence ont été créés 43 fois sur 100 avec ce WT comme segmentation initiale, ce qui peut expliquer sa performance. Néanmoins, il s'agissait aussi de la méthode permettant de segmenter plus de 90% des lésions (y compris celles de faible intensité) et dont la catégorisation de la réponse tumorale était en accord avec celle de l'expert dans 92% des cas. La nécessité de corriger pour le temps mort et la méthodologie employée ont été validées pour un régime personnalisé de PRRT. Pour les patients ayant une rétention très importante du $^{177}$Lu au moment de l'imagerie, une solution a été apportée pour rendre leurs images quantifiables. Celle-ci dépend néanmoins du système SPECT utilisé. Bien que l'effet de temps mort soit généralement considéré comme négligeable dans le calcul de dosimétrie, l'augmentation probable de thérapies personnalisées verra les activités injectées aux patients augmenter et avec elles, le besoin de corriger les images pour les rendre quantifiables. La segmentation proposée se veut robuste et relativement indépendante de l'utilisateur. Les réponses précoces et tardives au traitement seront évaluées en utilisant cette méthode de sorte à affiner la corrélation déjà existante. Les résultats obtenus dans ce travail permettent d'améliorer la quantification et la segmentation des images acquises avec du $^{177}$Lu. Ceci servira à améliorer la personnalisation des thérapies PRRT et RLT afin d'augmenter l'espérance de vie des patients. / $^{177}$Lu-based radionuclide therapies are commonly used to treat patients afflicted with neuroendocrine tumours, *peptide receptor radionuclide therapy* (PRRT), or by prostate cancer, *radioligand therapy* (RLT). Empiric PRRT relies on four 7.4 GBq $^{177}$Lu-octreotate cycles to limit the kidneys absorbed dose to 23 Gy. Due to the inter-patient variability, a personalised PRRT approach was created to optimise the amount of injected activity based on the renal dosimetry. This is achieved by performing *quantitative single photon emission computed tomography* (QSPECT) imaging after each injection. The kidneys absorbed dose per injected activity is measured and used to personalise the amount of injected activity during the next cycle in order to reach 23 Gy by the end of the treatment. This requires a calibration of the SPECT system, i.e. determining its calibration factor and dead-time constant. This unwanted artefact reduces the observed photon count rate. The system dead-time constant was determined and is currently used to correct PRRT images. However, the dead-time impact on kidney dosimetry is still unknown. Besides, the current methodology is unable to quantify the images of patients emitting a very high photons count rate during the acquisition. The first objective aims at validating the current quantitative methodology and determining the dead-time correction impact on personalised PRRT dosimetry. A prevention methodology should also be brought to quantifiy the images of patients emitting a high photons count rate. Regarding the treatment response, based on the acquired images, a correlation was found between the early and late tumours response. However, due to its high variability it is currently impossible to use this correlation in therapies. The second objective aims at creating a robust semi-automatic segmentation method able to segment a realistic tumoral burden and properly evaluate its response throughout PRRT cycles. The dead time correction impact was evaluated on the absorbed dose of 166 patients. Images of customised phantoms filled with high activities of either $^{99m}$Tc or $^{177}$Lu were acquired on different SPECT systems and for various acquisition parameters. The current dead time correction method was compared with a physically correct but less convenient method on both phantoms and patients images. Results showed that dead-time correction is necessary in personalised PRRT to avoid kidneys absorbed dose underestimations as high as 20%. Additionally, absorbed doses differences between our current methodology and the reference did not exceed 2%. We observed that the dead-time correction factor is independent from the radionuclide but can vary depending on the acquisitions parameters and the manufacturer. Changing the acquisition protocol allowed to double the amount of quantifiable photons rate. 24 segmentation methods were applied on 100 QSPECTs from 50 patients' first two PRRT cycles. An expert chose for each image the most realistic segmentation and eventually modified it to define the reference contour. Segmentations were compared based on Dice, sensitivity and tumours response. The total lesion fraction evolution from cycle 1 to cycle 2 was categorised and compared to the expert's opinion. The *watershed transform* (WT) appeared to be the method segmenting the most realistic tumoral burden. It was the expert's most chosen segmentation before an eventual modification (43/100) which can explain its performance. It was able to segment up to 90% of tumours (even low intensity ones) and its resulting tumoral response was consistent with the one determined by the expert in more than 92% of cases. Our dead-time correction methodology was validated and we proved that its correction is necessary in a personalised PRRT protocol. We also managed to quantify the SPECT images of patients having an important $^{177}$Lu retention. This solution is, however, dependant on the SPECT system. Dead time is generally considered negligible in current therapies. However, with the likely increase of personalised therapies, patients will receive higher amounts of activities and their following QSPECTs will need to be corrected for this artefact. Our tumour segmentation method is robust and limits the impact of the inter-user variability. Early and late responses will be measured based on this algorithm in order to improve their currently weak correlation and reduce the variability. The obtained results will improve the quantification and segmentation of $^{177}$Lu QSPECTs. These will impact the personalisation of PRRT and RLT and hopefully help to improve patients' outcomes.

Jusqu'à ce jour, très peu de travaux empiriques ont évalué les aspects psychologiques associés au cancer de la prostate. Cette étude transversale vise donc à comparer la prévalence des difficultés psychologiques (i.e., anxiété et dépression), psychophysiologiques (i.e., insomnie, fatigue) et des difficultés sexuelles en fonction de trois modalités de traitement pour le cancer de la prostate (radiothérapie, curiethérapie et prostatectomie radicale) et du temps écoulé depuis le diagnostic. L'échantillon est composé de 861 hommes ayant complété une batterie de questionnaires. Les résultats démontrent que les difficultés sexuelles constituent le problème le plus fréquent suivies de l'insomnie et de l'anxiété. De plus, les symptômes psychologiques et psychophysiologiques restent relativement stables dans le temps alors que les symptômes physiques tendent à se résorber. Enfin, les patients ayant reçu de la radiothérapie ont un risque plus élevé de souffrir d'humeur dépressive, de détresse psychologique globale et de fatigue comparativement aux patients n'ayant pas reçu ce traitement.

Les calculs de dose en curiethérapie à bas débit reposent depuis 1995 sur un formalisme qui considère le milieu irradié comme étant homogène et constitué d’eau afin de mieux accommoder les temps de calcul clinique. Ce travail présente une amélioration de ce formalisme dosimétrique issu du protocole TG-43 de l’AAPM (American Association of Physicists in Medicine), utilisé actuellement dans les systèmes de planification de traitement (SPT) clinique. Avec l’ajout d’un tracé radiologique pour tenir compte des hétérogénéités et en séparant la dose primaire de la dose diffusée, il est possible de raffiner les calculs dosimétriques. Or, cette modification au calcul le rendant plus complexe était coûteuse en temps d’exécution jusqu’à très récemment. Elle se voit matérialisée dans ce travail avec l’arrivée récente de la technologie GPGPU, les calculs scientifiques sur périphériques graphiques. En exploitant le parallélisme des calculs de dose en curiethérapie à bas débit pour les implants permanents, l’algorithme baptisé TG-43-RT pour TG-43 avec tracé de rayons (Ray-Tracing en anglais) permet d’obtenir des facteurs d’accélération de l’ordre de 103 par rapport au CPU. Seulement 0.5 s par source est requis dans une géométrie de 1003 voxels, et les dosimétries d’anatomies hétérogènes sont sensiblement améliorées. Le TG-43-RT corrige les dépôts de dose en aval des hétérogénéités et réduit les effets indésirables de l’atténuation inter-sources. Des écarts de dose de plus de 80% au-delà d’une calcification avaient de quoi influencer les HDV, or, le TG-43-RT ramène ces déviations en-deçà de l’incertitude de 8.7% (2σ) concédée par les SPT, tel qu’établi dans le TG-138. Les simulations Monte Carlo ont été employées pour servir de référence absolue à la méthode développée et quantifier les améliorations dosimétriques relatives à l’actuel calcul de dose. L’algorithme a été testé d’un point de vue clinique dans un fantôme de prostate avec des sources d’125I et dans un fantôme de sein avec des sources de 103Pd pour unifier les corrections apportées. / Brachytherapy dose calculations have been relying since 1995 on a formalism that considers the whole geometry as a homogeneous water tank. This gives the opportunity to compute dose distributions within a reasonable clinical timeframe, but with considerable approximations that can influence or even change the treatment. This work presents an upgraded version of this formalism derived from the TG-43 protocol (AAPM), currently used in actual treatment planning systems. The new algorithm includes a primary and scatter dose separation using ray-tracing operation to account for heterogeneities through the medium. These modifications to the dose calculation are very power consuming and too long for the clinical needs when executed on modern CPUs. With the GPGPU technology, a GPU-driven algorithm allows a complex handling of the anatomic heterogeneities in the dose calculation and keeps execution times below 0.5 s/seed. The algorithm was named TG-43-RT for TG-43 with Ray-Tracing and accelerations factors of three order of magnitude were obtained over a regular CPU implementation. The TG-43-RT algorithm adequatly corrects dose deposition along heterogeneities and it reduces interseed attenuation effects. Dose is scored in the medium instead of water, which also applies a severe correction for high heterogeneous medium like the breast. Deviations of more than 80% in dose deposition were obtained over calcification inside the prostate when compared to Monte Carlo simulations. This kind of deviation influences DVH shape. However, the TG-43-RT was keeping those deviations within the 8.7% uncertainty range (2σ) associated with a regular TG-43 evaluation as stated in the TG-138. Monte Carlo simulations were used as a gold standard to get an absolute dose calculation reference. The algorithm was also tested in a prostate phantom with 125I seeds and in a breast phantom with 103Pd seeds to mimic real anatomic geometries and unify the applied corrections.