La curiethérapie est une technique ancienne utilisant des sources scellées de faible ou moyenne énergie, toujours pertinente aux plans thérapeutique et économique et toujours en évolution (e.g. curiethérapie à Haut Débit de Dose (HDD)). Cette modalité de traitement permet de délivrer une forte dose d'irradiation dans un volume-cible limité, et permet de minimiser le risque de cancer radio-induit en préservant les Organes à Risques (OAR). Cependant, elle génère des gradients de dose élevés rendant la dosimétrie in vivo délicate à mettre en oeuvre. Les écarts constatés entre doses délivrées et prescrites sont ainsi fréquemment supérieurs à l'écart maximal toléré par la réglementation (± 5%) en usage pour la radiothérapie externe conventionnelle et rendue obligatoire en France par décret depuis 2011. Ce travail de thèse s'est déroulé dans le cadre du projet ANR-TECSAN INTRADOSE et exploite les acquis technologiques antérieurs démontrés à l'issue du projet Européen MAESTRO et du projet ANR-TECSAN CODOFER, en particulier une instrumentation RL/OSL (Radioluminescence - Optically Stimulated Luminescence) multivoies réalisée et validée au plan préclinique dans le cadre du projet MAESTRO. Le projet INTRADOSE a pour objectif de démontrer la faisabilité d'une Dosimétrie In Vivo (DIV) intracavitaire par cathéter dosimétriques à fibres optiques et cristaux d'alumine Al2O3:C dans le but d'améliorer la sécurité des patients traités par Curiethérapie HDD. Ce nouveau type de détecteur permet de mesurer une distribution de doses (mulitpoints) proche des OAR, il présente un petit diamètre (<ou= 3 mm) destiné à un usage intracavitaire (e.g. insertion dans l'urètre), transparent, stable sous radiations et réutilisable après lecture des doses et stérilisation. Au cours de mon travail de thèse, nous avons développé ce nouveau cathéter dosimétrique basé sur la Luminescence Stimulée Optiquement utilisant les propriétés du cristal d'alumine. Différents tests ont permis d'évaluer sa faisabilité et sa compatibilité avec l'application médicale. Dans un second temps, des validations métrologiques et précliniques ont été menées dans le but de valider la réponse du détecteur dans le cadre d'une application de curiethérapie HDD de prostate. Ces différentes mesures ont été également confrontées à des simulations Monte-Carlo. Financé par l'Agence Nationale pour la Recherche - Technologies pour la Santé (ANR-TECSAN), ce projet associe le CEA LIST [Laboratoire de Mesures Optiques (LMO) et Laboratoire National Henri Becquerel (LNHB)] et le Centre de Lutte Contre le Cancer (CLCC) Léon Bérard (CLB), Centre Conseil et référent en Radiophysique / The brachytherapy is an old technique using sealed radioactive sources of low or average energy. This technique is still therapeutically and economically relevant today and always evolving (e.g. High Dose Rate (HDR) brachytherapy). This treatment enables to deliver a high dose of irradiation in a limited tumoral volume and enables to minimize the risk of radiation-induced cancer as preserving the Organs at Risks (OAR). However, this technique generates high dose gradients, which makes in vivo dosimetry difficult to implement. Hence, the deviations observed between doses delivered and prescribed are often up to the maximal deviation tolerated by the nuclear safety regulations (± 5%) in conformational radiotherapy. Those regulations have been made mandatory in France since 2011. This thesis has been done within the framework of the ANR-TECSAN INTRADOSE project and is based on the past technological benefits demonstrated during the MAESTRO European project and the ANR-TECSAN CODOFER project, in particular a RL/OSL multichannel instrumentation (Radioluminescence - Optically Stimulated Luminescence) made and validated in preclinical evaluation during the MAESTRO project. The purpose of the INTRADOSE project is to demonstrate the feasibility of the intracavitary In Vivo Dosimetry (IVD) by dosimetric catheter using optical fibers and alumina crystals Al2O3:C with the aim of improving the safety of patients treated by HDR brachytherapy. This new probe enables to measure a dose distribution (several points) close to the OAR, it offers a little diameter (<or= 3 mm) designed for an intracavitary use (e.g. to insert in the urethra), it is transparent, radiation stable and reusable after dose reading and sterilization. During this study, we have first developed this new dosimetric sensor based on the OSL using the properties of the alumina crystal. Several tests have been done in order to evaluate the feasibility and the compatibility with a medical application. Then, metrological and preclinical validations have been done in order to validate the response of the sensor for a prostatic application using HDR brachytherapy. These different measurements have also been compared to Monte-Carlo simulations. Funded by the Agence Nationale pour la Recherche - Technologies pour la Santé (ANR-TECSAN), this project combines the CEA LIST [Laboratoire de Mesures Optiques (LMO) and the Laboratoire National Henri Becquerel (LNHB)] and the Centre de Lutte Contre le Cancer (CLCC) Léon Bérard (CLB), advice center and advisor in radiophysics

Cette thèse de doctorat porte sur le traitement personnalisé des tumeurs neuroendocrines (TNE) en utilisant la thérapie radiométabolique par ¹⁷⁷Lu-octréotate. Comme la plupart des TNE surexpriment des récepteurs de la somatostatine (RSST)s, les analogues de la somatostatine radiomarqués sont utilisés dans le diagnostic des TNE par imagerie moléculaire, ainsi que pour la radiothérapie interne en utilisant des radionucléides émetteurs bêta (PRRT : peptide receptor radionuclide therapy). Les protocoles actuels de la PRRT impliquent l’administration de 4 cycles d’une activité fixe de ¹⁷⁷Lu-octréotate (p. ex. 7,4 GBq), ce qui donne des doses de radiation absorbée très variables pour les organes critiques et les lésions tumorales. Les faibles taux de toxicité sérieuse rénale et hématopoïétique (< 1 %) après traitement au ¹⁷⁷Lu-octréotate suggèrent que la plupart des patients reçoivent un traitement sous-optimal. La mise en place d’une personnalisation de l’activité administrée en fonction de la dosimétrie individualisée par imagerie moléculaire quantitative pourrait donc permettre de maximiser la réponse chez chaque patient, comparativement au régime empirique, et ce, en augmentant la dose tumorale absorbée sans dépasser les seuils de toxicité aux organes critiques. Les objectifs de cette thèse étaient donc, (i) de simuler un régime de PRRT personnalisée (P-PRRT) à partir d’une cohorte de patients atteints de TNE traités par PRRT empirique, (ii) de rapporter les premiers résultats dosimétriques, d’efficacité et de toxicité de notre essai prospectif de PRRT personnalisée (NCT02754297) et finalement (iii) d’évaluer l’exactitude et la reproductibilité interobservateurs des protocoles simplifiés de dosimétrie à deux temps (Jour 1 et 3) ou à un temps unique (Jour 3) basés sur la tomographie quantitative par émission de photon (QSPECT : quantitative single-photon emission computed tomography) effectuée après chaque administration de thérapie. Un autre objectif de la dernière étude était la mise à jour de notre protocole personnalisé de prescription de l’activité injectée (AI). (i) Pour répondre au premier objectif, nous nous sommes basés sur une étude rétrospective afin de concevoir un protocole personnalisé de PRRT basé sur les calculs dosimétriques. Par la suite, une simulation de ce protocole a été effectuée rétrospectivement chez des patients atteints de TNE traités par PRRT depuis 2012 à l’Hôpital de l’Hôtel-Dieu de Québec. Selon notre régime personnalisé de PRRT, la dose rénale absorbée par AI était prédite en fonction de la surface corporelle (SC) et le taux de filtration glomérulaire (TFG) pour le premier cycle de traitement, et par la dosimétrie rénale du cycle précédent (ou la moyenne de la dosimétrie rénale des deux derniers cycles) pour les cycles suivants. En normalisant la dose rénale absorbée administrée pendant les cycles d’induction, notre approche personnalisée a démontré une augmentation moyenne significative de 1,48 fois la dose cumulative maximale absorbée par la tumeur par rapport au régime empirique, augmentant potentiellement le bénéfice thérapeutique sans dépasser le seuil de toxicité rénale. / Cette thèse de doctorat porte sur le traitement personnalisé des tumeurs neuroendocrines (TNE) en utilisant la thérapie radiométabolique par 177Lu-octréotate. Comme la plupart des TNE surexpriment des récepteurs de la somatostatine (RSST)s, les analogues de la somatostatine radiomarqués sont utilisés dans le diagnostic des TNE par imagerie moléculaire, ainsi que pour la radiothérapie interne en utilisant des radionucléides émetteurs bêta (PRRT : peptide receptor radionuclide therapy). Les protocoles actuels de la PRRT impliquent l’administration de 4 cycles d’une activité fixe de 177Lu-octréotate (p. ex. 7,4 GBq), ce qui donne des doses de radiation absorbée très variables pour les organes critiques et les lésions tumorales. Les faibles taux de toxicité sérieuse rénale et hématopoïétique (< 1 %) après traitement au 177Lu-octréotate suggèrent que la plupart des patients reçoivent un traitement sous-optimal. La mise en place d’une personnalisation de l’activité administrée en fonction de la dosimétrie individualisée par imagerie moléculaire quantitative pourrait donc permettre de maximiser la réponse chez chaque patient, comparativement au régime empirique, et ce, en augmentant la dose tumorale absorbée sans dépasser les seuils de toxicité aux organes critiques. Les objectifs de cette thèse étaient donc, (i) de simuler un régime de PRRT personnalisée (P-PRRT) à partir d’une cohorte de patients atteints de TNE traités par PRRT empirique, (ii) de rapporter les premiers résultats dosimétriques, d’efficacité et de toxicité de notre essai prospectif de PRRT personnalisée (NCT02754297) et finalement (iii) d’évaluer l’exactitude et la reproductibilité interobservateurs des protocoles simplifiés de dosimétrie à deux temps (Jour 1 et 3) ou à un temps unique (Jour 3) basés sur la tomographie quantitative par émission de photon (QSPECT : quantitative single-photon emission computed tomography) effectuée après chaque administration de thérapie. Un autre objectif de la dernière étude était la mise à jour de notre protocole personnalisé de prescription de l’activité injectée (AI). (i) Pour répondre au premier objectif, nous nous sommes basés sur une étude rétrospective afin de concevoir un protocole personnalisé de PRRT basé sur les calculs dosimétriques. Par la suite, une simulation de ce protocole a été effectuée rétrospectivement chez des patients atteints de TNE traités par PRRT depuis 2012 à l’Hôpital de l’Hôtel-Dieu de Québec. Selon notre régime personnalisé de PRRT, la dose rénale absorbée par AI était prédite en fonction de la surface corporelle (SC) et le taux de filtration glomérulaire (TFG) pour le premier cycle de traitement, et par la dosimétrie rénale du cycle précédent (ou la moyenne de la dosimétrie rénale des deux derniers cycles) pour les cycles suivants. En normalisant la dose rénale absorbée administrée pendant les cycles d’induction, notre approche personnalisée a démontré une augmentation moyenne significative de 1,48 fois la dose cumulative maximale absorbée par la tumeur par rapport au régime empirique, augmentant potentiellement le bénéfice thérapeutique sans dépasser le seuil de toxicité rénale. (ii) Sur la base de notre étude rétrospective, et en appliquant le protocole de PRRT personnalisée développé aux patients atteints de TNE métastatique traités depuis avril 2016 à l’Hôpital de l’Hôtel-Dieu de Québec, nous avons rapporté les premiers résultats dosimétriques sur l’efficacité et la toxicité de notre essai prospectif de PRRT personnalisée. Notre approche personnalisée a démontré une augmentation significative de la dose tumorale absorbée médiane de 1,26 fois par rapport au régime de PRRT empirique simulé sans augmenter le taux de toxicité sérieuse des organes critiques liée au traitement. Le traitement personnalisé a donné un taux de réponse partielle ou mineure de 59 % avec une stabilité dans 33,3 % des cas. En particulier, la PRRT personnalisée a induit une réponse partielle ou mineure chez 84,6 % des patients atteints de TNE d’origine pancréatique (pTNE). Finalement, le profil de sécurité est similaire à celui du régime empirique alors qu’aucun patient n’a présenté d'insuffisance rénale sévère. (iii) La dosimétrie, obtenue à l’aide de petits volumes d’intérêt pour l'échantillonnage de concentration d’activité pour le rein, la moelle osseuse et la tumeur dominante, est basée sur trois temps (Jour 0, 1 et 3) selon la pratique courante. Toutefois, en raison de la complexité de cette procédure, des méthodes de dosimétrie plus pratiques mais robustes sont nécessaires pour une adoption clinique étendue. Nous avons démontré qu’un protocole simplifié de dosimétrie basé sur des images QSPECT à deux temps fournit des estimations de dose reproductibles et plus précises que les techniques basées sur un seul temps. Nous avons aussi observé une excellente reproductibilité interobservateurs, en particulier pour la dose rénale, en utilisant les deux méthodes les plus précises basées sur trois ou deux temps avec des erreurs moyennes < 1 % et des écarts-types ≤ 5 %. Finalement, nous avons mis à jour notre protocole de P-PRRT : la dose rénale absorbée peut être normalisée en personnalisant l’AI en fonction du produit du TFG avec la SC pour le premier cycle et de la dosimétrie rénale précédente pour les cycles subséquents. En conclusion, nous avons conçu et validé un protocole de personnalisation de la PRRT au 177Lu-octréotate basé sur la dosimétrie, dans lequel la dose absorbée au rein est contrôlée et normalisée. La personnalisation de la PRRT permet d’augmenter de façon significative la dose absorbée à la tumeur, et ainsi la probabilité d’obtenir une meilleure réponse thérapeutique, tout en limitant le risque de toxicité aux organes critiques. Nous proposons également un protocole de dosimétrie simplifiée, basé sur l'imagerie QSPECT en deux temps, en utilisant des petits volumes d’intérêt. Cette méthode donne des résultats de dosimétrie précis, notamment pour les reins et la tumeur, et une reproductibilité interobservateur élevée. / (ii) Sur la base de notre étude rétrospective, et en appliquant le protocole de PRRT personnalisée développé aux patients atteints de TNE métastatique traités depuis avril 2016 à l’Hôpital de l’Hôtel-Dieu de Québec, nous avons rapporté les premiers résultats dosimétriques sur l’efficacité et la toxicité de notre essai prospectif de PRRT personnalisée. Notre approche personnalisée a démontré une augmentation significative de la dose tumorale absorbée médiane de 1,26 fois par rapport au régime de PRRT empirique simulé sans augmenter le taux de toxicité sérieuse des organes critiques liée au traitement. Le traitement personnalisé a donné un taux de réponse partielle ou mineure de 59 % avec une stabilité dans 33,3 % des cas. En particulier, la PRRT personnalisée a induit une réponse partielle ou mineure chez 84,6 % des patients atteints de TNE d’origine pancréatique (pTNE). Finalement, le profil de sécurité est similaire à celui du régime empirique alors qu’aucun patient n’a présenté d'insuffisance rénale sévère. (iii) La dosimétrie, obtenue à l’aide de petits volumes d’intérêt pour l'échantillonnage de concentration d’activité pour le rein, la moelle osseuse et la tumeur dominante, est basée sur trois temps (Jour 0, 1 et 3) selon la pratique courante. Toutefois, en raison de la complexité de cette procédure, des méthodes de dosimétrie plus pratiques mais robustes sont nécessaires pour une adoption clinique étendue. Nous avons démontré qu’un protocole simplifié de dosimétrie basé sur des images QSPECT à deux temps fournit des estimations de dose reproductibles et plus précises que les techniques basées sur un seul temps. Nous avons aussi observé une excellente reproductibilité interobservateurs, en particulier pour la dose rénale, en utilisant les deux méthodes les plus précises basées sur trois ou deux temps avec des erreurs moyennes < 1 % et des écarts-types ≤ 5 %. Finalement, nous avons mis à jour notre protocole de P-PRRT : la dose rénale absorbée peut être normalisée en personnalisant l’AI en fonction du produit du TFG avec la SC pour le premier cycle et de la dosimétrie rénale précédente pour les cycles subséquents. En conclusion, nous avons conçu et validé un protocole de personnalisation de la PRRT au ¹⁷⁷Lu-octréotate basé sur la dosimétrie, dans lequel la dose absorbée au rein est contrôlée et normalisée. La personnalisation de la PRRT permet d’augmenter de façon significative la dose absorbée à la tumeur, et ainsi la probabilité d’obtenir une meilleure réponse thérapeutique, tout en limitant le risque de toxicité aux organes critiques. Nous proposons également un protocole de dosimétrie simplifiée, basé sur l'imagerie QSPECT en deux temps, en utilisant des petits volumes d’intérêt. Cette méthode donne des résultats de dosimétrie précis, notamment pour les reins et la tumeur, et une reproductibilité interobservateur élevée. / (ii) Based on our retrospective study and applying our developed personalized PRRT protocol to the patients with metastatic NET treated since April 2016 at l’Hotel-Dieu de Québec hospital, we reported the preliminary data on dosimetry, efficacy and safety from our prospective PRRT trial. Our personalized approach yielded a significant increase in the median absorbed tumor dose (1.26 fold) compared with the simulated empirical PRRT regimen, without increasing the rate of serious treatment-related toxicity for critical organs. The personalized treatment gave a partial or minor response rate of 59 % and stability in 33.3 % of cases. In particular, the personalized PRRT regime resulted in a partial or minor response in 84.6 % of patients with NET of pancreatic origin (pNET). Finally, the safety profile was similar to that of the empirical regimen whereas, no patient has had severe renal impairment. (iii) According to the current practice, the dosimetry, obtained using small volumes of interest activity for concentration sampling in the kidney, bone marrow and the dominant tumor, is based on three time points (day 0, 1 and 3). However, due to the complexity of this procedure, more practical yet robust dosimetry methods are required for extended clinical use. We have observed that a simplified dosimetry protocol based on two-time point QSPECT scanning on Day 1 and 3 after PRRT treatment provides reproducible and more accurate dose estimates than the techniques relying on a single time point for noninitial or all cycles. We also observed an excellent inter-observer reproducibility, in particular for the renal absorbed dose using the two most precise dosimetry methods based on three or two time points with mean relative errors < 1 % and standard deviations ≤ 5 %. In addition, we have updated our P-PRRT protocol. In particular, renal absorbed radiation dose over a four-cycle induction PRRT course can be standardized by personalizing IA based on the product of estimated GFR with BSA for the first cycle, and on prior renal dosimetry for the subsequent cycles. In conclusion, we have designed and validated a personalized PRRT protocol with ¹⁷⁷Lu-octreotate based on dosimetry, in which the absorbed dose to the kidney is controlled and standardized. The personalization of PRRT can significantly increase the dose absorbed to the tumor, and thus the probability of obtaining a better therapeutic response, while limiting the risk of toxicity to critical organs. We also proposed a simplified dosimetry protocol, based on two time-points QSPECT scans, using small volumes of interest. This method gives accurate dosimetry results, especially for the kidneys and the tumors, and high interobserver reproducibility. / This doctoral thesis is focused on the personalized treatment of neuroendocrine tumours (NET) using ¹⁷⁷Lu-octreotate radiometabolic therapy. Since NETs overexpress somatostatin receptors (SSRT)s, radiolabeled somatostatin analogues are used in the diagnosis of NETs by molecular imaging, and for internal radiotherapy using beta-emitting radionuclides (PRRT: peptide receptor radionuclide therapy). The existing protocols for PRRT involve the administration of 4 cycles of a fixed activity of ¹⁷⁷Lu-octreotate (i.e., 7.4 GBq), which gives highly variable absorbed radiation doses to critical organs and tumor lesions. The low incidence of serious renal and hematopoietic toxicities (< 1 %) of ¹⁷⁷Luoctreotate suggests that the majority of patients are undertreated. The personalization of the administered activity according to the individualized dosimetry obtained from quantitative molecular imaging could make possible to maximize the response in each patient, compared to the empirical regime, without exceeding the thresholds of toxicity to the critical organs. The objectives of this thesis were, therefore (i) to simulate a personalized PRRT (P-PRRT) regime in a cohort of patients with NET treated with empiric PRRT, (ii) to report the preliminary data on dosimetry, efficacy and safety from our prospective PRRT trial and (iii) to assess the accuracy and the inter-observer reproducibility of simplified two time points (Day 1 and 3) or one time point (Day 3) dosimetry protocols based on quantitative single-photon emission computed tomography (QSPECT) performed after each PRRT cycle. Another objective of the last study concerned the update of our P-PRRT protocol. (i) We first reviewed retrospective data on patients with NETs treated with PRRT since 2012 at l’Hôtel-Dieu de Québec hospital. According to our P-PRRT regimen, the renal absorbed dose per injected activity (IA) was predicted by the body surface (BSA) and the glomerular filtration rate (GFR) for the first induction cycle, and by the renal dosimetry of the previous cycle (or the average renal dosimetry of the last two cycles) for the following cycles. By normalizing the absorbed renal dose administered during the induction cycles, our personalized approach resulted in an average 1.48-fold increase in the maximum cumulative tumour absorbed dose compared with the empiric regimen, potentially increasing the therapeutic benefit without exceeding the threshold of renal toxicity.

La curiethérapie est une modalité particulière de traitement en radiothérapie qui se différencie de la radiothérapie externe par l’implantation des sources radioactives scellées à l’intérieur ou au voisinage immédiat du volume tumoral, de façon permanente ou temporaire. Cette modalité de traitement a bénéficié des avancées technologiques telles que l’utilisation des projecteurs de sources et le développement de nouveaux algorithmes d’optimisation de dose qui ont contribué à l’amélioration de la qualité des plans de traitement. Cependant, le processus de planification de traitement en curiethérapie, indépendamment de l’algorithme d’optimisation implanté dans le système de planification de traitement (TPS), requiert toujours une forte interaction entre le planificateur et le TPS. Cette forte interaction, non seulement, augmente la durée de la planification, mais conduit aussi souvent à des plans finaux dont la qualité est tributaire du jugement et de l’expérience du planificateur. Le présent projet a consisté à développer des modèles pour l’optimisation de la qualité des plans en curiethérapie de la prostate haut débit de dose, optimisation basée sur les paramètres géométriques spécifiques à chaque patient, grâce au formalisme de l’analyse de frontière stochastique, une méthode empruntée de l’économie. Les paramètres géométriques qui ont permis de caractériser chaque plan sont : le volume des différentes structures [volume cible anatomoclinique, organes à risque (OAR)], leurs proximités mutuelles par le biais de la distance de Hausdorff, et la divergence des cathéters dans la prostate. Les modèles ainsi développés constituent un outil d’aide à la planification en prédisant à l’avance (au début du processus de planification) le meilleur compromis qu’il est possible d’atteindre entre la couverture du volume tumorale et la limitation de la dose aux OARs alentour. Les modèles ont été développés pour les indices dosimétriques d’intérêt analysés en clinique pour la validation des plans pour chacune des structures telles que : la prostate, la vessie, le rectum et l’urètre. Les résultats obtenus sur la base d’un échantillon de 495 patients montrent que ces modèles peuvent aider le planificateur à personnaliser le processus d’optimisation sur la base du profil de paramètres géométriques de ce dernier, minimisant ainsi l’impact du jugement et l’expérience du planificateur sur la qualité du plan final. Leur utilisation peut être étendue comme un outil robuste pour la sélection de meilleurs plans pour les études de type “knowledge-based study”. Le projet doit cependant se poursuivre par l’exploration d’autres paramètres géométriques et par la validation clinique des différents modèles avant leur implémentation en routine clinique. / Brachytherapy is a special modality of radiotherapy for cancerous tissues treatment. Unlike external radiotherapy, this form of radiation therapy modality uses sealed radiation sources positioned permanently or temporarily within (or close to) the treatment volume. Brachytherapy treatment modality has benefited from technological advances such as the use of remote afterloading units and the development of new dose optimization algorithms that led to the improvement of treatment plans quality. However, the treatment planning process, regardless of the optimization algorithm used for dose calculation in the treatment planning system (TPS), still requires a strong interaction between the planner and the TPS. This strong interaction not only increases the planning time, but also often leads to final plans whose quality depends on the planner’s judgment, as well as planner’s experience. The goal of the current project was to develop models for the optimization of the quality of high dose rate prostate brachytherapy plans, based on patient’s specific geometric parameters, using stochastic frontier analysis, a method of economic modeling. Geometric parameters involved in the modeling process are the volume of structures of interest such as the clinical target volume (CTV) and organs at risk (OARs); the Hausdorff distance between CTV and OARs, and a third parameter measuring the degree of non-parallelism of catheters within the prostate. The built models are expected to be helpful in the treatment planning process by predicting dosimetric parameters values attainable at the starting point of the treatment planning. They will provide valuable indications in advance, on the level of dose reduction to OARs, as well as, the target volume coverage achievable. Models were built for dosimetric parameters of interest analyzed in the clinic for clinical validation of plans for each structure (prostate, bladder, rectum and urethra). The modelling results based on a dataset of 495 plans show that the developed models can be helpful to assist planner in the optimization process based on the geometric parameters profile of each plan, thus minimizing the impact of the judgment and the planner’s experience on the final quality plan. Furthermore, their use can be extended as an accurate means for selecting optimized plans for a knowledge-based study. However, further research is required in order to investigate others geometric parameters, as well as, for the clinical benchmarking the performance of the developed models before their implementation in a clinical setting.

Thèse ou mémoire avec insertion d'articles / La méthode clinique pour le calcul de dose lors des traitements de curiethérapie considère le patient comme un volume d'eau infini (formalisme TG43). Cette approximation s'avère incorrecte, en particulier pour les photons de faible énergie présents en curiethérapie par implant permanent de la prostate. Des études ont montré que des différences allant jusqu'à 25-30% sur les indices dosimétriques cliniques sont observées dans les cas de calcifications de la prostate lorsque l'anatomie du patient est prise en compte dans une simulation Monte Carlo (MC) (formalisme TG186). Compte tenu des différences constatées entre les dosimétries TG43 et TG186 pour la curiethérapie par implant permanent de la prostate, l'objectif de ce travail est de recalculer rétrospectivement les distributions de dose à partir du formalisme TG186 pour tous les patients ayant reçu un traitement au CHU de Québec. Pour ce faire, un pipeline automatisé de recalcul de dose basé sur les bonnes pratiques de gestion des données est construit, validé et appliqué sur une cohorte de 960 patients. Une base de données de 960 patients a été construite et les cas de calcifications ont été identifiés. Un pipeline automatisé a été conçu pour recalculer les distributions de doses par simulations MC propres à l'anatomie du patient (TG186). Le pipeline extrait et reproduit automatiquement le context du traitment, contenu dans les données cliniques, dans la simulation de Monte Carlo. Le pipeline de recalcul a été validé en reproduisant les calculs du TG43 et en évaluant la cohérence des simulations MC TG186 effectuées avec deux codes MC différents. Appliquées à l'ensemble de la cohorte de patients, les distributions MC produites ont pu reproduire les résultats observés dans des études antérieures, tel qu'une diminution de 2,57 % sur le D90 de la prostate pour chaque % du volume de prostate calcifiée. L'ensemble des données de dose MC produites constitue donc une ressource clé pour les futures études dosimétriques qui viseraient à corréler la dose précise délivrée au patient à l'efficacité du traitement de curiethérapie. / The current clinical method used to calculate the dose during brachytherapy treatments considers the patient as an infinite water volume (TG43 formalism). This approximation is mostly accurate when using high-energy photons. That is not the case for low-energy photons used in permanent implant prostate brachytherapy. Studies have shown that differences of up to 25-30% on clinical metrics can be observed in cases with prostate calcifications when taking into account the patient anatomy with Monte Carlo (MC) simulations (TG186 formalism). Considering the differences found between TG43 and TG186 dosimetry for permanent implant prostate brachytherapy, the objective of this work was to retrospectively recalculate the dose distributions using the TG186 formalism for all patients having received permanent implant prostate brachytherapy at CHU de Québec. To do so, an automated dose recalculation pipeline based on the best data management practices is built, validated, and applied to a 960-patient cohort. A curated database of 960 patients was built with calcification cases identified. An automated pipeline has been built to recalculate patient-specific dose distributions (TG186). The pipeline extracts and reproduces the treatment context within a MC simulation. The recalculation pipeline was validated by reproducing the TG43 calculations using MC simulation in the same conditions and the consistency of the patient-specific MC simulations was evaluated between simulations made with two different MC codes. When applied to the entire patient cohort, the produced MC distributions could reproduce the results seen in previous studies, such as a diminution of 2.57% on the D90 of the prostate for each % of the prostate volume being calcifications. The produced MC dose dataset constitutes a key resource for future dosimetric studies that would aim to correlate the accurate delivered dose to the patient to the efficiency of the brachytherapy treatment.

Une nouvelle modalité de radiothérapie, la micro-curiethérapie, est en cours de développement. Cette thérapie cible des tumeurs solides inopérables en effectuant des injections de liquide contenant des microsphères radioactives en suspension. Plusieurs injections sont nécessaires pour suffisamment irradier la zone tumorale et donc, afin d'optimiser le positionnement de ces injections, une méthode de planification de traitement nécessaire a été développée et validée au cours de cette thèse. Tout au long de ce travail, trois thèmes principaux seront discutés : • Comment réaliser la dosimétrie particulière de cette micro-curiethérapie ? • Comment effectuer la planification de traitement pour cette modalité ? • Comment optimiser le plan de traitement afin qu'il soit le plus efficace possible ? La dosimétrie en micro-curiethérapie a été réalisée en calculant la distribution de dose absorbée pour une injection. Cette distribution a été convoluée à la position des autres injections dans la tumeur pour calculer la distribution de dose absorbée dans le patient. Pour effectuer la dosimétrie spécifique dans la tumeur et les organes à risque, les histogrammes dose-volume (HDV) ont été extraits et analysés. Une fois la méthode de dosimétrie établie, nous avons développé une méthodologie de planification de traitement pour développer et optimiser le plan pour chaque patient. Pour cela, nous avons testé et comparé trois algorithmes : la méthode de Nelder-Mead, l'algorithme des abeilles et l'algorithme "Non-Dominated Sorting Genetic Algorithm II" (NSGA II). Nous avons montré que, grâce à l'optimisation multiobjectif, le NSGA II donne plus de liberté à l'utilisateur ; c'est pourquoi il a été utilisé par la suite. Enfin, nous avons effectué une comparaison entre les paramètres d'injection. Nous avons mis en évidence qu'entre les radio-isotopes 90Y, 166Ho, 131I and 177Lu, les injections de 90Y sont optimales. Nous avons testé des injections de 5, 10 et 20 µL et des activités initiales de 5, 10 et 20 MBq. Nous avons trouvé que des injections de 20 µL avec 20 MBq sont optimales car celles-ci permettent de minimiser le nombre d'injections requis. Cette nouvelle technologie associée aux développements réalisés dans ses travaux démontre la faisabilité, qui a pu être validée sur animal, de pouvoir injecter un liquide contenant des microsphères radioactives en suspension afin de pouvoir traiter efficacement, tout en préservant les tissus sains environnants, des tumeurs inopérables encore de mauvais pronostic aujourd'hui, mais surement mieux prises en charge dans un proche avenir. / An innovative form of radiotherapy, microbrachytherapy, is under development. This therapy targets solid, inoperable tumours by performing injections of liquid containing radioactive microspheres in suspension. Many injections are required to sufficiently cover the tumoural volume, and so to be able to deliver the position of these injections, a method of treatment planning has been developed and validated throughout this research. Throughout this work, three main questions are addressed: • How to perform the dosimetry for microbrachytherapy? • How to perform treatment planning for this modality? • What are the optimal injection properties to deliver the most efficient treatment? Microbrachytherapy dosimetry was performed by calculating the absorbed dose distribution for an injection. This distribution was then convolved at each injection position within the tumour to calculate the patient's absorbed dose distribution. Dosimetry of the tumour and the organs at risk was performed by extracting and analysing dose-volume histograms (DVHs). Once a method of dosimetry was put in place, optimisation algorithms were developed to generate patient-specific treatment plans. For this, three algorithms were tested and compared: Nelder-Mead Simplex, the Bees algorithm and the non-dominated sorting genetic algorithm II. It was found that, thanks to its MO optimisation, the non-dominated sorting algorithm II was the most flexible, and was used preferentially. Lastly, a comparison of injection parameters was performed. It was found that between 90Y, 166Ho, 131I and 177Lu, optimal injections consisted of microspheres of 90Y. Injection volumes of 5, 10 and 20 µL and initial activities of 5, 10 and 20 MBq were tested. It was found that 20 µL injections with 20 MBq were optimal because they minimise the number of injections required. This new technology combined with developments shown in this work demonstrate the feasibility - that was validated on animals - the ability to inject liquid containing radioactive microspheres in suspension to efficiently treat inoperable tumours whilst protecting surrounding healthy tissue. Such tumours, despite still having a poor prognosis, will surely have better support in the near future.

Introduction : Rapporter le développement et les expérimentations d'un nouveau système robotisé destiné à la curiethérapie prostatique possédant un système de suivi de la prostate et une possibilité de fusion écho-IRM. Matériel et méthodes : Un robot d'implantation d'aiguilles transpérinéales guidé par échographie transrectale avec suivi peropératoire des mouvements et de la déformation de la prostate a été crée. Les expériences ont été conduites sur 90 cibles réalisées dans 9 fantômes conçus pour être mobiles et déformables. Les expériences ont été ensuite conduites chez 2 cadavres. Le robot a cherché à déposer des billes de verre simulant des grains de curiethérapie aussi près que possible des cibles dans des fantômes évaluables par différentes modalités d'imagerie dont le scanner et dans des prostates de cadavre. Les résultats étaient mesurés en segmentant les cibles et les billes de verre sur des volumes tomodensitométriques des fantômes et des cadavres. Résultats : Le robot était capable d'atteindre les cibles choisies dans les fantômes avec une précision médiane de 2.73 mm, avec un déplacement médian de la prostate de 5.46 mm. La précision était meilleure à la base qu'à l'apex (2.28 mm vs 3.83 mm, p<0.01) et n'était pas significativement différente pour les implantations horizontales et obliques (2.7 vs 2.82 mm, p=0.18). Les tests sur cadavre ont montré la faisabilité et l'ergonomie du robot en salle d'opération mais des expérimentations plus poussées sont nécessaires. Conclusion : Ce robot destiné à la curiethérapie prostatique est le premier système utilisant le suivi de la prostate intra-opératoire pour guider des aiguilles dans la prostate. Les expériences préliminaires montrent sa capacité à atteindre des cibles malgré les mouvements de la prostate. Les applications pourraient être élargies à la thérapie focale et aux biopsies guidées compte-tenu de sa possibilité à fusionner l'imagerie IRM et l'échographie. / Purpose: To report on the development and the initial experience with a new 3D ultrasound robotic system for prostate brachytherapy assistance and focal therapy. MRI-TRUS fusion as well as its ability to track prostate motion intra-operatively allows it to manage motions and guide needles to MRI enhanced tumor foci. Materials and methods: A robotic system for TRUS-guided needle implantation combined with intraoperative prostate tracking was created. Experiments were conducted on 90 targets embedded in 9 mobile and deformable synthetic prostate phantoms. A preliminary feasibility study on 2 cadavers was also carried out. The experiments involved trying to insert glass beads as close as possible to targets in multimodal imaging phantoms and in cadaver prostates. The results were measured by segmenting the inserted beads in CT scan volumes of the phantoms and of the cadaver's radical prostatectomy specimens. Results: The robot was able to reach the chosen targets in phantoms with a median accuracy of 2.73 mm, with a median prostate motion of 5.46 mm. Accuracy was better in apex than in base (2.28 vs 3.83 mm, p<0.001) and was similar for horizontal and angled needle inclinations (2.7 vs 2.82 mm, p=0.18). Cadaver tests showed the feasibility of the robot's ergonomics in the operating room but further in vivo assessments are needed. Conclusion: This robot for prostate focal therapy and brachytherapy is the first system using intraoperative prostate motion tracking to guide needles into the prostate. The preliminary experiments described show its ability to reach targets in spite of the motion of the prostate.

La curiethérapie constitue 25% à 30% des opérations de traitement utilisées sur les 40.000 cas de cancer de prostate par an en France. Elle consiste à mettre manuellement une trentaine d'aiguilles creuses dans la prostate, à travers le périnée, en utilisant des images échographiques pour localiser la prostate et les aiguilles. Au moyen de ces aiguilles, des grains radioactifs sont insérés dans la prostate à des endroits précis pré-planifiés grâce à l'imagerie. Le succès de l'opération est étroitement lié à la répartition et l'homogénéité de la dose radioactive répartie dans la prostate, donc à la précision avec laquelle les grains y sont placés. Cette précision est affectée par plusieurs facteurs. Premièrement, la prostate bouge et se déforme pendant l'insertion des aiguilles et lors des déplacements de la sonde échographique pour les acquisitions d'images. Deuxièmement, la taille de la prostate est susceptible d'augmenter pendant l'opération à cause des saignements occasionnés. Enfin, les aiguilles sont très minces et susceptibles de se courber pendant leur insertion.Le laboratoire TIMC-IMAG (équipe GMCAO) a mis au point un système robotisé d'insertion d'aiguilles transpérinéale, guidé par échographie 3D avec le but d'améliorer la précision, la fiabilité et l'efficacité de la pose des grains. Ces travaux ont montré une première faisabilité globale de l'approche avec un premier prototype de laboratoire. Cependant l'approche actuelle permet de corriger seulement en partie les bougés et déformations de la prostate en cours de geste grâce au couplage avec des méthodes d'imagerie 3D. La correction ne tire pas parti des informations très riches issues de l'imagerie : seule la profondeur d'insertion est modifiée pendant le geste. Le LIRMM (équipe DEXTER) a développé récemment une approche de planification adaptative pour le guidage d'aiguille flexible lors de leur insertion dans des procédures percutanées. La technique proposée permet la mise à jour du chemin suivi par l'aiguille en intégrant des informations obtenues en ligne par un retour visuel. Cette stratégie de planification et de contrôle est définie dans une architecture en boucle fermée et permet ainsi de compenser les incertitudes du système et les perturbations (déformations des organes, inhomogénéité des tissus, etc) auxquelles il est soumis.Le but de ces travaux de thèse est donc de coupler les savoir-faire de chacun des deux laboratoires afin d’apporter une solution de guidage d’aiguilles flexibles pour la curiethérapie de prostate. La réalisation de cet objectif passe, dans un premier temps, par l’élaboration d’un algorithme de suivi d’aiguille sous échographie 3D. Cet algorithme est confronté à la faible visibilité des aiguilles offerte par cette modalité d’imagerie, associée à diverses sources de bruit. Ces conditions rendent très difficile la détection de l’aiguille. Dans le but d’améliorer la robustesse de cet algorithme, la zone de recherche de l’aiguille dans le volume est déterminée par un modèle prédictif, qui constitue une première contribution de ce manuscrit. Le contrôle de l’aiguille par planification en boucle fermée a été adapté aux spécificités de l’imagerie échographique 3D ainsi qu’à celles du robot développé précédemment. Ce contrôle est couplé au retour visuel de l’aiguille donné par l’algorithme de détection. Ce dispositif a, par la suite, été testé sur fantômes puis sur pièce anatomique afin de déterminer la viabilité et la pertinence du système proposé.Ce travail constitue donc une première étape vers une future application clinique du guidage d’aiguilles flexibles. Si voir un système robotique insérer seul une aiguille flexible en clinique est encore un rêve lointain, l’idée d’un système d’assistance à l’insertion d’aiguille, où le clinicien et le robot travaillent de pairs, est une solution envisageable dès maintenant. / In France, 25% to 30% of the 40,000 prostate cancer cases per year are treated with brachytherapy. During this procedure, about thirty needles are manually inserted into the prostate through the perineum using ultrasound images to locate the prostate and needles. Radioactive seeds are then inserted into the prostate specific pre-planned locations using needle cannula. The success of the operation is closely related to the distribution and homogeneity of the radioactive dose distribution in the prostate, therefore the precision with which the seeds are positioned. This accuracy is affected by many factors. Firstly, the prostate moves and deforms due to the insertion of the needles and to the movements of the ultrasonic probe. Secondly, the size of the prostate increases due to tissue inflammation and bleeding. Finally, the needles are very thin and could bend during insertion.The TIMC-IMAG laboratory (CAMI team) has developed a robotic system for transperineal needle insertion. This system is guided by 3D ultrasound to improve the precision, reliability and efficiency of the radioactive source positioning. These works showed a first proof of concept using a laboratory prototype. However the current approach can only partially correct prostate movements and deformations using 3D imaging methods. The correction does not take advantage of the rich information of this imaging modality: only the insertion depth is changed during the gesture. LIRMM (DEXTER team) recently developed an adaptive planning approach to guide a flexible needle during its insertion in percutaneous procedures. The proposed technique allows to update the path followed by the needle using online information from the visual feedback. This planning and control approach forms a closed-loop architecture and allows to compensate system disturbances (organ deformities, tissue inhomogeneity, etc.).The purpose of this thesis is to combine the expertise of the two laboratories to provide a flexible needle steering system for prostate brachytherapy purposes. This objective is achieved first by developing a needle tracking algorithm in 3D ultrasound. This algorithm deals with low visibility of the needles offered by this imaging modality, combined with various noises. These conditions complicate the detection of the needle. In order to improve the robustness of our algorithm, a search area is defined to detect the needle in the volume. This area is then determined by a predictive model, which is a first contribution of this manuscript. Control of the closed-loop planning needle is adapted to the specifications of the 3D ultrasound imaging system as well as those of the previously developed robot. This control is coupled to the needle visual feedback given by the detection algorithm. This device is tested on phantoms then on anatomical specimen to assess the viability and relevance of the proposed system.This work is therefore a first step towards a future clinical application of flexible needle steering. The entirely automatic insertion of flexible needle in clinic is a distant dream. However, the idea of an assistance system for needle insertion, where the clinician and the robot work together, is reachable from now.

Mon projet de maîtrise visait le développement d'un dosimètre à fibre scintillante pour la curiethérapie. Ce dosimètre permettrait de faire face plus aisément aux cas complexes d'irradiation, de plus en plus fréquents en raison de l'arrivée de nouvelles modalités de traitement. Le dosimètre à fibre scintillante al' avantage de posséder un petit volume sensible, d'être équivalent à l'eau et d'être peu coûteùx. Ce mémoire présente donc le processus de conception d'un nouveau type de dosimètre. Des mesures effectuées à l'aide de l'équipement de traitement du centre de radio-oncologie de l'Hôtel-Dieu de Québec montrent en effet la capacité d'effectuer des mesures de profil et de rendement en profondeur pour un faisceau de photons. Des mesures de dose in vivo pour un traitement de curiethérapie sont aussi présentées.

Les tumeurs neuroendocrines (TNEs) sont des maladies rares dont l'incidence augmente depuis le début des années 2000. Lorsque la maladie est métastatique, ce qui arrive dans plus de 20% des cas au diagnostic, peu d'options curatives s'offrent aux patients. La thérapie radionucléidique (PRRT) au ¹⁷⁷Lu-DOTA,Tyr3-octréotate (¹⁷⁷Lu-octréotate) dépendante des récepteurs de la somatostatine a récemment été démontrée plus efficace que le traitement de première ligne actuel, soit les analogues de la somatostatine. Or, les cas de rémission avec la PRRT restent très rares et peu d'agents ont actuellement été utilisés pour en améliorer l'efficacité. Pour l'heure, les traitements pour améliorer la PRRT dans les études cliniques sont principalement tournés vers la combinaison avec des doses thérapeutiques de chimiothérapie. Dans les études précliniques, de nombreuses avenues sont à l'essai que ce soit en augmentant la perfusion des tumeurs, l'internalisation de ¹⁷⁷Lu-octréotate, la létalité des dommages induits par la radioactivité ou en ajoutant un fardeau supplémentaire de dommage à l'ADN. Les inhibiteurs de la poly(ADP-ribose) polymérase (iPARP) interfèrent avec la réparation de l'ADN, principalement la réparation par excision de base. La combinaison d'un iPARP avec la PRRT dans un modèle de sphéroïdes de TNEs humaines bronchopulmonaires (NCI-H727) et pancréatiques (BON-1) a démontré que la combinaison ralentissait davantage la croissance que l'iPARP seul ou la PRRT seule pour les deux lignées cellulaires. Le témozolomide (TMZ) et le 5-fluorouracile (5-FU), deux agents de chimiothérapie couramment utilisés pour traiter les TNEs, ont possiblement un rôle plus vaste que la toxicité à l'ADN. En effet, en exposant les cellules BON-1 au TMZ et au 5-FU à des doses toxiques, mais non létales, une augmentation des récepteurs à la somatostatine et de l'internalisation du ¹⁷⁷Lu-octréotate a été observée. Donc, les traitements combinatoires pour potentialiser la PRRT, notamment les iPARPs et la chimiothérapie, pourraient permettre un meilleur traitement des TNEs. / Neuroendocrine tumors (NETs) are rare diseases, the incidence of which has been increasing over the past 20 years. When the disease is metastatic, which happens in more than 20% of cases at diagnosis, few curative options are available for patients. Peptide receptor radionuclide therapy (PRRT) via somatostatin receptors (SSTR) and ¹⁷⁷Lu-DOTA,Tyr3-octreotate (¹⁷⁷Lu-octreotate) has recently been shown to be more effective than the current first-line therapy, namely somatostatin analogues. However, cases of remission with PRRT remain very rare and few agents have currently been used to improve its effectiveness. At present, treatments to improve PRRT in clinical studies have mainly focused on combination with therapeutic doses of chemotherapy. In preclinical studies, many avenues are being tested whether by increasing tumor perfusion, internalization of ¹⁷⁷Luoctreotate, lethality of radioactivity-induced damage or by adding an additional burden of DNA damage to the tumor. Poly (ADP-ribose) polymerase inhibitors (PARPi) interfere with DNA repair, mainly altering base excision repair pathways. Combining PARPi with PRRT in a spheroid model of bronchopulmonary NETs (NCI-H727) and pancreatic NETs (BON-1) demonstrated that the combination slows growth more than PARPi alone or PRRT alone for both cell lines. Temozolomide (TMZ) and 5-fluorouracil (5-FU), two chemotherapeutic agents commonly used to treat NETs, may have a broader role than conventional cytotoxicity via DNA damage in NET therapy. Indeed, by exposing BON-1 cells to TMZ and 5-FU to toxic, but not lethal doses, an increase in somatostatin receptors and internalization of ¹⁷⁷Lu-octreotate was observed. Acting on various mechanisms to potentiate PRRT is possible with PARPis or chemotherapy. Having multiples targes for potentiation could be key for a better treatment of NETs.

Un détecteur optique à fibre scintillante pour la curiethérapie fut développé au cours de ce projet afin de simplifier les problèmes rencontrés par un physicien faisant face à des cas complexes d'irradiation. Les caractéristiques recherchées sont une grande résolution spatiale et un bon volume sensible possédant des propriétés radiologiques comparables à celles de l'eau. Le détecteur optique à fibre scintillante permet d'effectuer la mesure de profils de dose de faisceaux de photons avec une précision supérieure à 1 %. Le détecteur optique a permis d'obtenir des mesures de rendement en profondeur comparables à celles d'une chambre à ionisation. Ceux-ci représentent une différence de dose maximale de 0,5 % ou de 0,5 cGy entre la chambre à ionisation et le détecteur optique. La reproductibilité de mesure de l'appareil permet en plus de l'utiliser en dosimétrie absolue pour réaliser la mesure de débits de dose de faisceaux de radiation.