Cette thèse a pour sujet l’amélioration du traitement contre le cancer par radiothérapie externe à l’aide d’images prises par l’imageur portal. Actuellement, la dose totale d’un traitement curatif en radiothérapie externe est fractionnée sur plusieurs semaines. Au cours de celles-ci, le patient peut présenter des modifications anatomiques dues à de multiples facteurs (comme la perte de poids ou la modification du volume tumoral), ce qui peut compromettre la qualité du traitement planifié. La finalité de ce projet est d’améliorer les traitements de radiothérapie externe en utilisant une technique capable de déterminer si l’anatomie du patient traité est toujours conforme à sa planification. Ce principe est appelé radiothérapie adaptative. L’imageur portal est un détecteur, fixé sur le portique du côté opposé à la source de rayonnement et derrière la table de traitement, ce qui lui permet de mesurer le signal sortant de l’accélérateur, avec ou sans le patient sur la table de traitement. Le but de ce travail a été de développer une méthode, adaptée en fonction de la localisation du site anatomique traité, permettant de vérifier que le patient est anatomiquement conforme à son imagerie de référence, et dans le cas contraire, de chercher l’impact dosimétrique des changements observés pour, au besoin, mettre en place des mesures correctives. Pour chacun des sites anatomiques, des images de dose de sortie sont acquises à chaque fraction de traitement, ainsi que l’acquisition d’imagerie volumétrique par faisceau conique au début et à la fin du traitement. Une analyse gamma est réalisée pour chaque image en prenant comme référence celle de la première fraction et de nombreux paramètres sont extraits de ces analyses: le γ moyen, l’écart-type, le TOP 1% (la valeur moyenne des 1% des plus hautes valeurs de γ), pourcentage de points avec γ supérieur à 1 et, la plus grande surface de pixels connectés avec une valeur gamma> 1. Les analyses ont été effectuées avec une tolérance en dose et en distance classique de 3% / 3 mm et avec un seuil de 10 % du maximum. Des logiciels d’extraction d’image et d’analyse ont été développés premièrement pour faciliter le suivi et à terme, pour inclure le procédé dans une routine clinique automatisé. Chaque site ayant sa propre problématique, ils ont tous été abordés indépendamment des uns des autres. Les contraintes de chaque localisation ainsi que toutes les possibilités d’amélioration des traitements ont été étudiées afin de proposer une solution envisageable dans les conditions cliniques actuelles d’un centre de radiothérapie. Ainsi, chacune des solutions proposées pour améliorer le traitement des patients, que ce soit dans les chapitres 3 et 4ou encore dans l’annexe 1 sur le poumon, est basée sur les besoins réels, cliniquement parlant. Cette méthode, rapide à mettre en place et très simple d’utilisation, a su prouver qu’elle était susceptible d’améliorer les traitements des trois sites anatomiques étudiés. / This thesis project aims to improve cancer treatments by external radiotherapy using images from the electronic portal imaging device (EPID). The portal imager is a detector, attached to the gantry on the opposite side of the radiation source and behind the treatment table when a patient is treated. This enables the collection of the signal from the accelerator, with or without the patient on the treatment table. Currently, the total dose of a curative treatment by external radiotherapy is delivered over several weeks. During these weeks, the patients may have anatomical changes due to multiple factors (such as weight loss or changes in tumor volume), which may compromise the accuracy of the delivered dose as compared to the planned treatment. The aim of this research project is to develop a new adaptive radiotherapy methodology allowing to determine at each stage of the treatment whether the patient’s anatomy is still consistent with the initial planning and to estimate the dosimetric impact when changes were observed. EPID dose images were acquired at each treatment fraction for the three different anatomical site under study (head and neck, prostate and lung), together with cone beam volumetric imaging acquisition taken at least twice during treatment, at the second and last fractions. An image extraction and analysis software was first developed to facilitate monitoring and eventually to include the process in an automated clinical routine. A gamma analysis was thus performed for each image, with the one from the first fraction set as reference and several parameters were extracted from these analyzes: average γ-value, standard deviation, Top 1% from maximum γ, the percentage of points with a γ value larger than 1 and the largest connected pixel area with a gamma value > 1. Analyses were made with 3%/3mm as passing criteria and with a threshold of 10% for the low value cut-off. Since each targeted anatomical site has its own characteristics, they were all assessed independently. Taking into account the constraints of each anatomic site, the specificity and the sensitivity values that we have determined, confirmed the performance of the method to detect anatomical changes. Moreover, the γ-analysis threshold correlated well with morphological changes having a relevant dosimetric impact. In conclusion, such analyses of daily EPID images allow to identify patients at risk of deviation from the planned treatment and can support an early replanning decision. Our method is very quick to implement and very easy to use, and should be a powerful tool to improve the treatment of cancers, particularly those of the three anatomical sites studied

Thèse ou mémoire avec insertion d'articles / L'objectif principal de cette thèse est d'explorer les applications de l'imagerie par résonance magnétique multiparamétrique (IRMmp) en radio-oncologie. Les images IRM sont utilisées à différentes étapes de la radiothérapie, notamment la planification, le guidage et le suivi. L'étape de planification utilise généralement le contraste des tissus mous de l'IRM ou des images physiologiques pour délimiter les cibles. L'étape de guidage utilise le contraste des tissus mous de l'IRM pour guider les traitements de radiothérapie. L'IRM quantitative (qMRI) et l'IRMmp sont utilisées pour évaluer une réponse au traitement. Cette thèse vise à utiliser les cartes qMRI pour quantifier la réponse des tissus de la tête et du cou à l'oxygénation, réduire les artefacts et les distorsions de l'IRM, et enfin fusionner l'IRM et la tomodensitométrie (TDM). Un des objectif est d'optimiser les cartes qMRI incluant T₁ et R₂* pour quantifier la préservation de l'oxygène après avoir administré de l'oxygène pur (pO₂) aux volontaires sains. Cette étude était la première in vivo quantifiant la préservation de l'oxygène dans les tissus de la tête et du cou après l'administration de pO₂. Deux expériences distinctes ont été réalisées : (1) délivrer une oxygénation normobare (NBO) et comparer les cartes qMRI en série T₁ et R₂* acquises pendant et après la NBO avec la ligne de base (avant de délivrer la NBO), et (2 ) délivrant une oxygénation hyperbare (HBO) et comparant les cartes qMRI en série T₁ et R₂* acquises après HBO avec la ligne de base (avant de délivrer HBO). Nous avons réalisé que le niveau d'oxygène de la glande parotide et du muscle masséter augmentait de manière significative (*p* < 0,05) après l'administration du NBO pendant 15 minutes et revenait à la valeur de base environ sept minutes après le NBO. Dans l'expérience HBO, une tendance similaire a été observée. Nous n'avons pas trouvé de différence entre les images qMRI de base et post-HBO. Ensuite, le travail s'est concentrée sur les distorsions et les artefacts de l'IRM. Dans cette étude, nous avons proposé un modèle d'apprentissage profond pour prédire les distorsions géométriques spécifiques aux patients (PSgD) causées par les différences de susceptibilité entre deux tissus. Ensuite, le T₁w (ceT₁w) amélioré en contraste a été corrigé pour le PSgD. Nous avons formé notre modèle d'apprentissage profond (DL) à l'aide d'un ensemble de données de 380 sujets. Nous avons comparé les distributions de doses de radiochirurgie stéréotaxique Gamma Knife (GK-SRS) pour les patients atteints de schwannome vestibulaire, calculées à l'aide d'images corrigées et corrompues par le PSgD. Nous avons constaté qu'en moyenne D$_μ$, D$_\textup{95\%}$ et D$_\textup{min}$ en Gy ont augmenté de manière significative après correction PSgD de 16,85 à 17,25, 12,30 à 12,77 et de 8,98 à 9,92. La couverture moyenne des objectifs et l'indice de conformité de Paddick ont considérablement augmenté, passant de 0,97 à 0,98 et de 0,94 à 0,96. L'indice de gradient de Paddick moyen a diminué de manière significative, passant de 2,24 à 2,15 après correction du PSgD. Les troisième et quatrième études visaient à réduire les artefacts de mouvement de l'IRM à l'aide de nouveaux modèles génératifs. Les deux études ont été formées et testées auprès de 230 patients postopératoires. De plus, un ensemble de données de 148 patients présentant des artefacts de mouvement réels a été utilisé pour valider notre modèle afin de supprimer les artefacts de mouvement réels. Cette troisième étude a exploité la T₂ fluid-attenuated inversion recovery pour former un modèle génératif non supervisé permettant de supprimer les artefacts de mouvement ceT₁w. Nous avons comparé notre modèle avec deux modèles génératifs bien connus. Nous avons également réalisé une étude d'ablation pour évaluer différentes variantes de notre modèle proposé. Notre modèle a mieux performé quantitativement et qualitativement par rapport aux autres modèles. Dans la quatrième étude, nous avons utilisé un modèle probabiliste de diffusion conditionnelle stable pour supprimer les artefacts de mouvement ceT₁w. Cette étude a proposé une nouvelle méthode pour simuler le modèle de diffusion directe dans l'espace *k*, permettant la génération d'ensembles de données in silico avec différents niveaux d'artefacts de mouvement. Notre méthode a surpassé quantitativement et qualitativement deux modèles génératifs et un modèle supervisé. Le dernier volet a proposé une méthode non supervisée pour fusionner la tomodensitométrie et l'IRM, car elles fournissent des informations complémentaires pour la planification de la radiothérapie. Les images TDM sont géométriquement corrigées et fournissent des informations sur la densité électronique pour un calcul précis de la dose et l'IRM fournit des images avec un excellent contraste des tissus mous. Cette étude a proposé un modèle génératif de fusion médicale non supervisé pour fusionner la tomodensitométrie et le ceT₁w haute résolution afin de générer une image avec la structure osseuse de la tomodensitométrie et le contraste des tissus mous de l'IRM. Ainsi, la délimitation des tumeurs et des organes à risque sera améliorée et le temps de planification de la radiothérapie sera réduit. Les résultats de notre méthode ont été comparés quantitativement et qualitativement à sept méthodes traditionnelles et à huit méthodes de pointe DL, où notre méthode les a toutes surpassées. / The main goal of this thesis is to explore multi-parametric magnetic resonance imaging (mpMRI) applications in radiation oncology. MRI images are used in different stages of the treatments including planning, guiding, and following up. The planning step usually utilizes MRI soft-tissue contrast or physiological images to delineate targets. The guiding step uses MRI soft-tissue contrast to guide radiation treatments. Quantitative MRI (qMRI) and mpMRI are used to evaluate a response to the treatment. This thesis aimed to use qMRI maps to quantify head and neck tissues' response to oxygenation, reduce MRI artifacts and distortions, and finally fuse MRI and computed tomography (CT). This thesis was started to optimize qMRI maps including T₁ and R₂* to quantify oxygen preservation after delivering pure oxygen (pO₂) to the healthy volunteers. This study was the first in vivo quantifying head and neck tissue oxygen preservation after delivering pO₂ . Two separate experiments were carried out : (1) delivering normobaric oxygenation (NBO) and comparing serial qMRI T₁ and R₂* maps acquired during and after NBO with the baseline (before delivering NBO), and (2) delivering hyperbaric oxygenation (HBO) and comparing the serial qMRI T₁ and R₂* maps acquired after HBO with the baseline (before delivering HBO). We realized that the parotid gland and masseter muscle oxygen level increased significantly (*p* < 0.05) after delivering NBO for 15 minutes and returned to the baseline around seven minutes after the NBO. In the HBO experiment, a similar trend was observed. We did not find a difference between baseline and post-HBO qMRI images. Then, our thesis concentrated on the MRI distortions and artifacts. In the second study, we proposed a deep learning model to predict MRI patient-specific geometry distortions (PSgD) caused by susceptibility differences between two tissues. Then, the contrast-enhanced T₁W (ceT₁W) was corrected for the PSgD. We trained our deep learning (DL) model using a dataset of 380 subjects. We compared the Gamma Knife stereotactic radiosurgery (GK-SRS) dose distributions for the patients with vestibular schwannoma calculated using PSgD-corrected and PSgD-corrupted images. We found that on average D$_μ$, D$_\textup{95\%}$ et D$_\textup{min}$ in Gy significantly increased after PSgD correction from 16.85 to 17.25, 12.30 to 12.77, and from 8.98 to 9.92. Average target coverage and Paddick's conformity index significantly increased from 0.97 to 0.98, and 0.94 to 0.96. Average Paddick's gradient index decreased significantly from 2.24 to 2.15 after PSgD correction. The third and fourth studies aimed to reduce MRI motion artifacts using novel generative models. Both studies were trained and tested using post-surgery 230 patients. In addition, a dataset of 148 patients with real motion artifacts was used to validate our model to remove real motion artifacts. The third study leveraged T₂-fluid-attenuated inversion recovery to train an unsupervised generative model for removing ceT₁W motion artifacts. We compared our model with two well-known generative models. Also, we performed an ablation study to evaluate different variations of our proposed model. Our model outperformed quantitatively and qualitatively other models. In the fourth study, we used a stable conditional diffusion probabilistic model to remove ceT₁W motion artifacts. This study proposed a novel method for simulating the forward diffusion model in *k*-space, enabling the generation of in-silico datasets with varying levels of motion artifacts. Our method quantitatively and qualitatively outperformed two generative models and one supervised model. The fifth study proposed an unsupervised method to fuse CT and MRI because they provide complementary information for radiation therapy planning. CT images are geometrically corrected and provide electron density information for accurate dose calculation and MRI provides images with excellent soft-tissue contrast. This study proposed an end-to-end unsupervised medical fusion generative model to fuse CT and high-resolution ceT₁W to generate an image with CT bone structure and MRI soft-tissue contrast. Thus, tumor and organs at risk delineation will be improved and the radiotherapy planning time will be reduced. The results of our method were quantitatively and qualitatively compared with seven traditional and eight DL state-of-the-art methods where our method outperformed the traditional and DL approaches.

Ces travaux portent sur l'optimisation de la planification en radiothérapie prostatique et ORL. De façon à améliorer le calcul dosimétrique, la méthode de calcul de dose dite « Pencil beam » a d'abord été modifiée en considérant un système de coordonnées sphériques, en améliorant le mode de correction des hétérogénéités et en accélérant le calcul en effectuant les opérations de convolution grâce à la transformée de Fourier rapide. L'approche proposée a été comparée aux méthodes classiques en utilisant différents fantômes numériques. Cette évaluation a démontré la précision de la méthode proposée ainsi que l'accélération des calculs d'un facteur 40 par la méthode utilisant la transformée de Fourier, au prix toutefois d'une dégradation de la précision des résultats. Dans un second temps, l'incorporation de critères biologiques lors de l'optimisation du plan de traitement a été mise en œuvre à travers l'équivalent convexe du modèle NTCP (probabilité de toxicité des tissus sains) et son optimisation. L'évaluation de cette approche a été réalisée sur les données de dix patients traités pour un cancer de la prostate et a montré que la méthode proposée produit des planifications cliniquement satisfaisantes avec de meilleurs résultats en termes de toxicité prédite. Une méthode de compensation des incertitudes géométriques survenant lors du traitement a aussi été proposée, reposant sur une décomposition en séries de Taylor et un filtre de Butterworth. Son évaluation a montré son efficacité en termes de réduction des oscillations de haute fréquence ainsi que de présence de points chauds et froids. Enfin, dans un contexte de radiothérapie adaptative en ORL, une étude permettant d'identifier le scénario optimal de replanification, c'est-à-dire le nombre et les moments des replanifications, a été menée. Les critères de comparaison considérés reposaient sur le calcul de la dose cumulée reçue notamment par les parotides lors du traitement complet. L'efficacité des replanifications a ainsi été démontrée, avec par exemple une diminution du risque de toxicité de 9% pour le scénario optimal. Les perspectives de ce travail concernent la combinaison de ces méthodes dans un processus complet de planification pour évaluer leur impact dans un contexte clinique. / This work focuses on the optimization of planning in prostate and head-and-neck radiation therapy. In order to improve the dose calculation, the Pencil Beam method was firstly modified by considering a spherical coordinate system, by improving the heterogeneities correction method and by accelerating the calculation by performing the convolution operations using the Fast Fourier Transform. The proposed approach was compared to conventional methods using different numerical phantoms. This evaluation demonstrated the accuracy of the proposed method and the acceleration of the calculations by a factor 40 by the method using the Fast Fourier Transform, but at the cost of deterioration in the accuracy of the results. In a second step, the incorporation of biological criteria in the optimization of the treatment plan has been implemented through an equivalent convex NTCP constraints and its optimization. The evaluation of this approach has been performed on the data of ten patients treated for prostate cancer and has shown that the proposed method produces clinically satisfactory plans with better results in terms of predicted toxicity. A method to compensate geometric uncertainties occurring during treatment has also been proposed, based on the expansion in series of Taylor and a Butterworth filter. Its evaluation has shown its effectiveness in reducing high-frequency oscillations as well as the presence of hot and cold spots. Finally, in the context of adaptive radiotherapy in head and neck, a study was conducted to identify the optimal scenario of replannings, i.e. the number and timing of replannings. The comparison criteria were based on the calculation of the cumulative dose received by the parotid during the whole treatment. The effectiveness of the replanning has been demonstrated, for example with a decreased risk of toxicity 9% for the optimal scenario. The perspectives of this work relate to the combination of these methods in a comprehensive planning process to assess their clinical impact.

L’objectif général de cette thèse est d’utiliser les connaissances en physique de la radiation, en programmation informatique et en équipement informatique à la haute pointe de la technologie pour améliorer les traitements du cancer. En particulier, l’élaboration d’un plan de traitement en radiothérapie peut être complexe et dépendant de l’utilisateur. Cette thèse a pour objectif de simplifier la planification de traitement actuelle en curiethérapie de la prostate à haut débit de dose (HDR). Ce projet a débuté à partir d’un algorithme de planification inverse largement utilisé, la planification de traitement inverse par recuit simulé (IPSA). Pour aboutir à un algorithme de planification inverse ultra-rapide et automatisé, trois algorithmes d’optimisation multicritères (MCO) ont été mis en oeuvre. Suite à la génération d’une banque de plans de traitement ayant divers compromis avec les algorithmes MCO, un plan de qualité a été automatiquement sélectionné. Dans la première étude, un algorithme MCO a été introduit pour explorer les frontières de Pareto en curiethérapie HDR. L’algorithme s’inspire de la fonctionnalité MCO intégrée au système Raystation (RaySearch Laboratories, Stockholm, Suède). Pour chaque cas, 300 plans de traitement ont été générés en série pour obtenir une approximation uniforme de la frontière de Pareto. Chaque plan optimal de Pareto a été calculé avec IPSA et chaque nouveau plan a été ajouté à la portion de la frontière de Pareto où la distance entre sa limite supérieure et sa limite inférieure était la plus grande. Dans une étude complémentaire, ou dans la seconde étude, un algorithme MCO basé sur la connaissance (kMCO) a été mis en oeuvre pour réduire le temps de calcul de l’algorithme MCO. Pour ce faire, deux stratégies ont été mises en oeuvre : une prédiction de l’espace des solutions cliniquement acceptables à partir de modèles de régression et d’un calcul parallèle des plans de traitement avec deux processeurs à six coeurs. En conséquence, une banque de plans de traitement de petite taille (14) a été générée et un plan a été sélectionné en tant que plan kMCO. L’efficacité de la planification et de la performance dosimétrique ont été comparées entre les plans approuvés par le médecin et les plans kMCO pour 236 cas. La troisième et dernière étude de cette thèse a été réalisée en coopération avec Cédric Bélanger. Un algorithme MCO (gMCO) basé sur l’utilisation d’un environnement de développement compatible avec les cartes graphiques a été mis en oeuvre pour accélérer davantage le calcul. De plus, un algorithme d’optimisation quasi-Newton a été implémenté pour remplacer le recuit simulé dans la première et la deuxième étude. De cette manière, un millier de plans de traitement avec divers compromis et équivalents à ceux générés par IPSA ont été calculés en parallèle. Parmi la banque de plans de traitement généré par l’agorithme gMCO, un plan a été sélectionné (plan gMCO). Le temps de planification et les résultats dosimétriques ont été comparés entre les plans approuvés par le médecin et les plans gMCO pour 457 cas. Une comparaison à grande échelle avec les plans approuvés par les radio-oncologues montre que notre dernier algorithme MCO (gMCO) peut améliorer l’efficacité de la planification du traitement (de quelques minutes à 9:4 s) ainsi que la qualité dosimétrique des plans de traitements (des plans passant de 92:6% à 99:8% selon les critères dosimétriques du groupe de traitement oncologique par radiation (RTOG)). Avec trois algorithmes MCO mis en oeuvre, cette thèse représente un effort soutenu pour développer un algorithme de planification inverse ultra-rapide, automatique et robuste en curiethérapie HDR. / The overall purpose of this thesis is to use the knowledge of radiation physics, computer programming and computing hardware to improve cancer treatments. In particular, designing a treatment plan in radiation therapy can be complex and user-dependent, and this thesis aims to simplify current treatment planning in high dose rate (HDR) prostate brachytherapy. This project was started from a widely used inverse planning algorithm, Inverse Planning Simulated Annealing (IPSA). In order to eventually lead to an ultra-fast and automatic inverse planning algorithm, three multi-criteria optimization (MCO) algorithms were implemented. With MCO algorithms, a desirable plan was selected after computing a set of treatment plans with various trade-offs. In the first study, an MCO algorithm was introduced to explore the Pareto surfaces in HDR brachytherapy. The algorithm was inspired by the MCO feature integrated in the Raystation system (RaySearch Laboratories, Stockholm, Sweden). For each case, 300 treatment plans were serially generated to obtain a uniform approximation of the Pareto surface. Each Pareto optimal plan was computed with IPSA, and each new plan was added to the Pareto surface portion where the distance between its upper boundary and its lower boundary was the largest. In a companion study, or the second study, a knowledge-based MCO (kMCO) algorithm was implemented to shorten the computation time of the MCO algorithm. To achieve this, two strategies were implemented: a prediction of clinical relevant solution space with previous knowledge, and a parallel computation of treatment plans with two six-core CPUs. As a result, a small size (14) plan dataset was created, and one plan was selected as the kMCO plan. The planning efficiency and the dosimetric performance were compared between the physician-approved plans and the kMCO plans for 236 cases. The third and final study of this thesis was conducted in cooperation with Cédric Bélanger. A graphics processing units (GPU) based MCO (gMCO) algorithm was implemented to further speed up the computation. Furthermore, a quasi-Newton optimization engine was implemented to replace simulated annealing in the first and the second study. In this way, one thousand IPSA equivalent treatment plans with various trade-offs were computed in parallel. One plan was selected as the gMCO plan from the calculated plan dataset. The planning time and the dosimetric results were compared between the physician-approved plans and the gMCO plans for 457 cases. A large-scale comparison against the physician-approved plans shows that our latest MCO algorithm (gMCO) can result in an improved treatment planning efficiency (from minutes to 9:4 s) as well as an improved treatment plan dosimetric quality (Radiation Therapy Oncology Group (RTOG) acceptance rate from 92.6% to 99.8%). With three implemented MCO algorithms, this thesis represents a sustained effort to develop an ultra-fast, automatic and robust inverse planning algorithm in HDR brachytherapy.

Depuis les dix dernières années, l’innovation des traitements d’oncologie a fait une utilisation croissante de la nanotechnologie. De nouveaux traitements à base de nanoparticules (NPs) sont notamment rendus au stade de l’essai clinique. Possédant des caractéristiques physico-chimiques particulières, les NPs peuvent être utilisées afin de bonifier l’effet thérapeutique des traitements actuels. Par exemple, l’amélioration de la curiethérapie (c.-à-d. radiothérapie interne) nécessite le développement de nouvelles procédures permettant de diminuer la taille des implants, et ce, tout en augmentant l’homogénéité de la dose déposée dans les tumeurs. Des études théoriques et expérimentales ont démontré que l’injection de NPs d’or à proximité des implants traditionnels de curiethérapie de faible débit de dose (par ex. 125I, 103Pd) permettrait d’augmenter significativement leur efficacité thérapeutique. L'interaction entre l’or et les photons émis par les implants de curiethérapie (c.-à-d. l’effet de radiosensibilisation) génère des rayonnements divers (photoélectrons, électrons Auger, rayons X caractéristiques) qui augmentent significativement la dose administrée. Dans le cadre de cette thèse, l’approche proposée était de développer des NPs d’or radioactives comme nouveau traitement de curiethérapie contre le cancer de la prostate. L’aspect novateur et unique était de synthétiser une particule coeurcoquille (Pd@Au) en utilisant l’isotope actuellement employé en curiethérapie de la prostate: le palladium-103 (103Pd, 20 keV). Dans ce cas-ci, la présence d’atomes d’or permet de produire l’effet de radiosensibilisation et d’augmenter la dose déposée. La preuve de concept a été démontrée par la synthèse et la caractérisation des NPs 103Pd@Au-PEG NPs. Ensuite, une étude longitudinale in vivo impliquant l’injection des NPs dans un modèle xénogreffe de tumeurs de la prostate chez la souris a été effectuée. L’efficacité thérapeutique induite par les NPs a été démontrée par le retard de la croissance tumorale des souris injectées par rapport aux souris non injectées (contrôles). Enfin, une étude de cartographie de la dose générée par les NPs à l’échelle cellulaire et tumorale a permis de comprendre davantage les mécanismes thérapeutiques liés aux NPs radioactives. En résumé, l’ensemble des travaux présentés dans cette thèse font office de précurseurs relativement au domaine de la nanocuriethérapie, et pourraient ouvrir la voie à une nouvelle génération de NPs pour la radiothérapie. / The last decade saw the emergence of new innovative oncology treatments based on nanotechnology. New treatments using nanoparticles (NPs) are now translated to clinical trials. NPs possess unique physical and chemical properties that can be advantageously used to improve the therapeutic effect of current treatments. For instance, therapeutic efficiency enhancement related to internal radiotherapy (i.e., brachytherapy), requires the development of new procedures leading to a decrease of the implant size, while increasing the dose homogeneity and distribution in tumors. Several theoretical and experimental studies based on low-dose brachytherapy seeds (e.g., 125I and 103Pd) combined with gold nanoparticles (Au NPs) showed very promising results in terms of dose enhancement. Gold is a radiosensitizer that enhances the efficiency of radiotherapy by increasing the energy deposition in the surrounding tissues. Dose enhancement is caused by the photoelectric products (photoelectrons, Auger electrons, characteristic X-rays) that are generated after the irradiation of Au NPs. In this thesis, the proposed approach was to develop radioactive Au NPs as a new brachytherapy treatment for prostate cancer. The unique and innovative aspect of this strategy was to synthesize core-shell NPs based on the radioisotope palladium-103 (103Pd, 20 keV), which is currently used in low-dose rate prostate cancer brachytherapy. In this concept, the administrated dose is increased via the radiosensitization effect that is generated through the interactions of low-energy photons with the gold atoms. The proof-ofconcept of this approach was first demonstrated by the synthesis and characterization of the core-shell NPs (103Pd@Au-PEG NPs). Then, a longitudinal in vivo study following the injection of NPs in a prostate cancer xenograft murine model was performed. The therapeutic efficiency was confirmed by the tumor growth delay of the treated group as compared to the control group (untreated). Finally, a mapping study of the dose distribution generated by the NPs at the cellular and tumor levels provided new insights about the therapeutic mechanisms related to radioactive NPs. In summary, the studies presented in this thesis are precursors works in the field of nanobrachytherapy, and could pave the way for a new generation of NPs for radiotherapy.

L’utilisation de marges personnalisées dans le traitement du cancer du poumon en radiothérapie : analyse des mouvements physiologiques et des impacts dosimétriques OBJECTIFS : Le but de cette étude est d’analyser les mouvements physiologiques et leurs impacts dosimétriques lors de la planification de traitements en radiothérapie par tomodensitométrie thoracique (TDM). MÉTHODES : Il s’agit d’une étude de 15 patients. Des plans de radiothérapie conforme tridimensionnelle (3D-CRT) ont été utilisés. Un plan de référence a été fait et comparé à des plans utilisant des marges personnalisées (obtenue par 5 TDM). Des analyses volumétriques et dosimétriques ont été faites. RÉSULTATS : Les volumes obtenus progressent rapidement avec la fusion de TDM. Lorsqu’une couverture semblable est obtenue, le volume cible est moindre et l’irradiation pulmonaire est discrètement réduite. CONCLUSION : Malgré les avantages d’une marge personnalisée, elle ne produit qu’un avantage clinique limité. Toutes les techniques augmentant le volume total pour inclure les mouvements devraient en venir à des conclusions semblables. / Individualized margins in radiotherapy planning of lung cancer: analysis of physiological movements and their dosimetric impacts OBJECTIVE: This study is an analysis of physiological movements and their dosimetric impacts when a single thoracic CT-scan is used for treatment planning purposes in radiation oncology. METHODS: This is a study of 15 patients. Three-dimensional conformal radiation therapy was (3D-CRT) was used. A reference clinical plan was constructed and compared with plans using individualized margins (obtained by using five CT-scans). Volumetric and dosimetric analyses were made for each. RESULTS: The total volume occupied by GTV progressed quickly with the fusion of CT-scans. For a similar coverage, target volume was smaller and lung irradiation was slightly decreased. CONCLUSIONS: Even if the individualized margin was used, it produced a limited clinical advantage. All techniques that increase total volume with an aim to include more movements should come to similar conclusions.

Le mouvement induit par la respiration dans la région thoraco-abdominale a été évalué à l'aide de séries d'images de tomodensitométrie en quatre dimensions (4DCT) pour un échantillon de 40 patients présentant principalement des tumeurs pulmonaires et gastro-intestinales. L'observation du déplacement des structures par rapport à leur position d'équilibre respective a révélé un déplacement en phase en supérieur-inférieur. L'amplitude est plus importante pour le diaphragme et les reins. Il n'y a pas de différences significatives entre les tumeurs pulmonaires et les autres sites étudiés. La méthodologie de planification dosimétrique actuelle (3D-CRT ou IMRT) s'est révélée adéquate en moyenne pour une population de 10 cas de tumeurs pulmonaires ayant une grande amplitude de déplacement. L'utilisation de la phase de mi-ventilation ne modifie pas significativement la couverture de dose, mais diminue les variable dosimétriques du poumon. La moyenne des phases du 4DCT n'apporte pas d'avantages par rapport à la méthodologie actuelle. / Respiration-induced motion in the thoracoabdominal region was studied with fourdimensional computed tomography (4DCT) for 40 patients mainly with lung and gastrointestinal tumours. Relative distance to mean amplitude position of internal structures showed an inphase motion in superior-inferior direction. Diaphragm and kidneys displayed in average the greatest amplitude. There were no significant amplitude differences between lung and other locations motion. The actual treatment planning method (3D-CRT or IMRT) turned out to be, in average, adequate for ten lung cases with large motion. The use of mid-ventilation phase for treatment planning does not change significantly dose coverage but lower lung dosimetric parameters. The use of 4DCT average showed not benefits over the actual procedure.

Cette étude porte sur le développement d’un outil de contrôle qualité basé sur l’expérience, dérivé du concept de frontière stochastique en économie et s’appuyant sur des connaissances géométriques spécifiques au patient pour améliorer la qualité des traitements de curiethérapie à haut débit de dose pour le cancer de la prostate. Cent plans cliniques de curiethérapie à haut débit de dose de la prostate ont été utilisés dans cette étude, dans laquelle l’échographie transrectale était la seule modalité d’imagerie. Une fraction unique de 15 Gy a était prescrite à tous ces patients. Un algorithme de recuit simulé de planification inverse a été appliqué pour réaliser tous les plans et Oncentra Prostate a été employé comme système d’imagerie et de planification du traitement en temps réel. Les recommandations relatives aux paramètres de dose de la société américaine de curiethérapie pour la cible et les organes à risque ont été suivies. Les relations entre les paramètres géométriques et les paramètres dosimétriques d’intérêt sont examinées. Les paramètres géométriques sont liés aux dimensions anatomiques des patients et ceux associés aux cathéters. Pour déterminer les paramètres géométriques dominants dans un modèle de frontière stochastique donné, les relations monotones entre les paramètres géométriqueset les paramètres dosimétriques d’intérêt sont mesurées avec une approche non paramétrique, à savoir le coefficient de corrélation de Spearman. Ensuite, une recherche de force brute est effectuée pour un modèle donné dans lequel différents modèles, incluant toutes les combinaisons possibles des paramètres géométriques dominantes, sont optimisés. L’optimisation est accomplie en utilisant une méthode de vraisemblance maximale implémentée dans le progiciel de calcul statistique R, avec son algorithme de recuit simulée généralisée. Le test du rapport de vraisemblance et sa valeur-p correspondante sont utilisés pour comparer la signification statistique de l’ajout de nouveaux paramètres géométriques aux modèles. Un modèle de production pour la cible et un modèle de coût pour chacun des organes à risque sont développés pour le traitement par curiethérapie à haut débit de dose guidé par l’échographie transrectale. De plus, pour valider si chacun des modèles développés est universel, nous l’appliquons à une autre catégorie de traitement de la curiethérapie à haut débit de dose, dans laquelle la tomodensitométrie était utilisée comme modalité d’imagerie plutôt que de l’échographie transrectale. Ainsi, une nouvelle cohorte de cent plans cliniques curiethérapie à haut débit de dose guidés par la tomodensitométrie est prise en compte. Un modèle de frontière stochastique de production pour la cible et trois modèles de coût pour les organes à risque basés sur la tomodensitométrie sont développés. Enfin, les modèles intégrés de la tomodensitométrie et de l’échographie transrectale sont comparés. / This thesis focuses on developing an experience-based quality control (QC) tool, derived from the concept of stochastic frontier (SF) analysis in economics and based on patient-specific geometric knowledge to improve the quality of the high-dose-rate brachytherapy (HDR-BT) treatment for prostate cancer. One hundred clinical HDR prostate BT plans, using the transrectal ultrasound (TRUS) asthe only imaging modality, all treated with a single fraction of 15 Gy, and made using Inverse PlanningSimulated Annealing (IPSA) algorithm, are studied. Also, Oncentra Prostate system is employed as the real-time 3D prostate imaging and treatment planning system. American Brachytherapy Society dose parameter recommendations for target and organs at risk (OARs) were followed. Relationships between all the different geometric parameters (GPs) and the four dosimetric parameters (DPs) V100 of the prostate, V75 of the bladder and rectum, and D10 of the urethra were examined. Geometricinformation of the patients and catheters are considered as different GPs. To find the dominant GPs in a given SF model, monotonic relationships between the GPs and DPs of interest are measured using a nonparametric approach: the Spearman correlation coefficient. Then, to determine the optimal SF model for each of the target production SF, and the OARs cost SF models, brute-force searches are performed. Different SF models including all the possible combinations of the dominant GPs in the SF model under study are optimized. Optimization is done using a maximum likelihood method implemented in the statistical computing package R, along with its Generalized Simulated Annealing algorithm. The likelihood ratio test and its corresponding p-value are used to compare the statistical significance of adding new GPs to SF models. A production SF (PSF) model for the target, and a costSF (CSF) model for each of the bladder, rectum, and urethra are developed for TRUS-guided HDR-BTtreatment. The difference between the dose value of a plan obtained by IPSA and the one predicted by an SF model is explored. Additionally, to verify if each of the models developed for the TRUS-guided category of the HDR-BT treatment for prostate is universal, we apply it on another category of HDR-BT treatment, in which computed tomography (CT) was used as the imaging modality. So, a different cohort of one hundred clinical CT-guided HDR-BT plans is taken into consideration. A target production SF and three OARs cost SF models are developed for the CT-based plans. Subsequently, the built-in SF models for the TRUS-based and CT-based plans are compared.

La curiethérapie prostatique se fait en implantant des grains radioactifs dans une zone tumorale. À cause des soucis temporaux, la planification considère ces grains comme des sources ponctuelles dans un monde uniforme d’eau. Ce mémoire présente une évaluation de l’impact de deux effets perturbant la dosimétrie, avec des méthodes Monte Carlo, en curiethérapie prostatique. L’orientation des sources, négligée actuellement, risque d’altérer la dosimétrie calculée. Cet impact est évalué sur une cohorte de patients (n=287). Aucun impact n’est calculé sur la prostate et l’urètre mais un impact de -2% est calculé sur la vessie et le rectum. La présence de calcifications dans la zone tumorale est négligée par la planification actuelle. Une cohorte de patients (n=43) possédant des calcifications permet d’évaluer cet impact. Il ressort du calcul MC une différence de -13% sur le D90 du CTV et de -16% sur le D10 de l’urètre, en comparaison avec l’algorithme de planification actuel. / Prostatic brachytherapy is performed by inserting radioactive seeds in a tumoral zone. Because of time constraint, clinical planning considers those seeds as point sources in a water medium. This thesis presents the quantification of the impact of two perturbing effects on the dosimetry, evaluated through a Monte Carlo algorithm, in prostatic brachytherapy. Seeds orientation, actually neglected, may alter the clinical dosimetry. The impact of this effect is evaluated on a cohort (n=287) of patients. No effect is calculated on the prostate or the urethra but a difference of -2%, when compared to the clinical algorithm, is calculated on the OARs. Calcifications are actually neglected in the clinical planning. A cohort of patients (n=43) with visible calcifications is used to measure the effect of this approximation. MC calculations yield a difference of -13% on the CTV D90 and -16% on the urethra D10, when compared to the clinical algorithm.

Le mélanome uvéal est le type de cancer de l'œil le plus répandu chez l'adulte. Il s'agit du mélanome le plus commun après le cancer de la peau. La curiethérapie en est le traitement privilégié : elle consiste à irradier la tumeur à l'aide de sources radioactives disposées dans un support lui-même maintenu en place à l'aide d'une plaque épisclérale (PE). Leur conception a été élaborée par l'Association Américaine des Physiciens en Médecine (AAPM) et la Société Américaine de Curiethérapie (SAC) il y a plusieurs décennies. Cette conception permet de traiter adéquatement la plupart des formes et tailles des mélanomes uvéaux. Néanmoins, le traitement peine à traiter toutes les formes et engendre fréquemment des effets secondaires indésirables. Ce projet vise à développer une nouvelle conception des PE personnalisées pouvant répondre à une majorité de mélanomes uvéaux en minimisant les effets secondaires. La fabrication additive, qui consiste à fabriquer des objets couche par couche, a été utilisée afin de produire ces nouvelles plaques pouvant être personnalisables. Ce projet vise à produire des PE issues de la fabrication additive en polyétheréthercétone (PEEK) et de quantifier leur conformité géométrique. Pour ce faire, la tomodensitométrie par rayons X (TDM-X) a été employée. Cette technique d'imagerie permet d'évaluer de manière précise et complète le niveau de conformité géométrique des PE. Ainsi, dans ce projet, des plaques épisclérales de 10 mm, 14 mm et 22 mm ont été imprimées en PEEK, en adaptant leur conception à la fabrication additive. Une analyse de conformité géométrique utilisant la TDM-X et comparant les résultats avec les modèles 3D des plans de conception a permis de quantifier la conformité géométrique à une hauteur de 0,13 mm en moyenne. En somme, ce projet de maîtrise pave la voie à un traitement de curiethérapie pour traiter le cancer de l'œil à l'aide de PE conçues sur mesure pour le patient.