L’assurance qualité est un sujet clé en radiothérapie. En effet, la complexification des méthodes de traitements ont induit de nombreuses sources d’erreurs potentielles, et la vérification du bon déroulé du traitement est plus que jamais une tâche difficile. Un des objectifs de l’équipe de radiophysique est ainsi d’assurer que la dose délivrée au patient sera aussi conforme que possible à la prescription du médecin.Nombres d’outils ont été mis à disposition de ces équipes pour assurer des contrôles efficaces, réduisant les chances d’erreur. Une des solutions innovantes à l’épreuve dépend de l’utilisation de nouveaux détecteurs bidimensionnels, solidaires de la tête de l’accélérateur et placé en amont du patient, permettant ainsi de collecter des informations sur le flux de photons délivré par l’accélérateur.Ce type de détecteur présente plusieurs avantages. Il ne perturbe que très peu le faisceau de photons et permet donc une utilisation en simultané du traitement du patient. De plus, sa localisation en amont du patient ne permet pas d’ambiguïté sur l’origine des déviations en dose observées, une erreur de positionnement patient ne pouvant pas se confondre à une avarie sur l’accélérateur.Dans ce contexte, le groupe PHYSMED du LPSC, en collaboration avec le CHU de Grenoble développe TraDeRa, un détecteur 2D basé sur une chambre d’ionisation plane pixélisée. Embarquant une électronique de lecture dédiée conçue, il permet l’acquisition de carte de signal décrivant avec une bonne précision le flux de photons en provenance de l’accélérateur en temps réel et sans zone morte.Son portage vers la routine clinique passe en partie par la traduction de la carte de signal fournie par le détecteur en une carte de dose exploitable par les physiciens médicaux. Une des solutions envisagée tient dans le recours à des simulations Monte-Carlo complexes, afin d’associer la réponse du détecteur à un dépôt de dose calculé.La précision sur les différents calculs Monte-Carlo à fournir est très importante, aussi un modèle précis de l’accélérateur clinique nous a paru indispensable. Nous avons donc entrepris la modélisation d’un accélérateur clinique type Clinac 2100 pour le code Monte-Carlo PENELOPE, afin de reproduire le plus fidèlement possible l’accélérateur du CHU de Grenoble. Outre la géométrie complexe du dispositif, la fidélité de la reproduction vient aussi de la connaissance des caractéristiques du faisceau d’électrons utilisé pour produire ces photons. Nous avons élaboré une méthode de détermination de ces paramètres basée sur un ajustement de ces caractéristiques utilisant la comparaison de mesures avec des simulations de référence, présentant des avantages sur le processus essais-erreurs habituellement utilisé. L’objectif était de proposer une méthode applicable à n’importe quel accélérateur du même modèle, en n’exploitant qu’un jeu commun de simulations de référence, et permettre l’ajustement des caractéristiques en un minimum de temps. Cette méthode a fait ses preuves, notamment grâce à son application sur deux autres accélérateurs modèle Clinac 2100 que celui utilisé dans la conception du détecteur.Puis, nous avons modélisé le détecteur et son environnement d’exploitation à l’hôpital dans PENELOPE. Cette simulation nous a donné accès à des propriétés intrinsèques que des mesures réelles ne permettent pas de déterminer. Nous avons ainsi pu étudier la linéarité de sa réponse en dose et en débit de dose, caractériser l’atténuation qu’il oppose au faisceau, ou encore évaluer la diaphonie entre les différentes électrodes de la matrice pixélisée.Nous avons initié le travail de conversion du signal collecté par le détecteur en dose déposée dans le patient. Nous avons associé à la réponse d’électrodes choisies une distribution de dose en trois dimensions dans la cuve à eau. En décomposant un champ quelconque en une somme de réponses élémentaires, nous avons déterminé une procédure de reconstruction du dépôt de dose dans le patient. / Quality assurance is a key topic in radiation therapy. Indeed, the increasing complexity of the treatment methods led to many additional sources of potential errors, and the verification of treatment is more than ever a task that can be difficult. One of the objectives of the radiophysicists lies in the application of quality assurance procedures to ensure that the dose delivered to the patient is consistent with the oncologist’s prescription.Numerous tools are available to ensure controls that are both effective and reliable, reducing the chances of errors. However, zero risk is not achievable, and the use of new treatment techniques can make these errors difficult to detect. One of the innovative solutions studied in recent years depends on the use of new two-dimensional detectors, embedded on the head of the linear accelerator and placed upstream of the patient. These devices thus allow to collect information on the photon flux delivered by the accelerator.This type of detector has several advantages. Their attenuation is very light, and grant the possibility to use them while treating the patient. Moreover, their location does not give space to ambiguity about the origin of the observed dose deviations. Indeed, a patient positioning error cannot be confused with mechanical misbehavior of the linear accelerator.In this context, the PHYSMED group of the LPSC, in collaboration with the Grenoble Public Hospital, is developing TraDeRa, a detector based on a pixelated planar ionization chamber, embedding dedicated electronics specially designed by the lab. The detector is able to collect a signal map that accurately describes the incoming photon flux, for any clinical field, in real time and without dead zone.The portage of the detector towards clinical routine partially depends on the translation of the signal map supplied by the detector into a reliable dose map that can be used by medical physicists. To begin with, one of the considered solutions is the use of complex Monte Carlo simulations, in order to associate the detector response with a calculated dose deposition in a water tank.The precision to provide on the various Monte-Carlo calculations seemed very important. Therefore, a precise model of the clinical accelerator seemed essential. Thus, we have initiated the modeling of a type Clinac 2100 clinical accelerator for the Monte-Carlo code PENELOPE, in order to reproduce as accurately as possible the accelerator available for our measurements campaign. The knowledge of the primary electron beam characteristics is critical. We have thus developed an original method for adjusting these characteristics based on comparison of measurements with reference simulations. This method has interesting features compared with the usual trial and error process. The objective was to propose a method applicable to any accelerator of the same model, using only a set of reference simulations, thus allowing the faster adjustment (sometimes slightly less accurate than the trial and error method) of the beam characteristics. This method seems to have proved itself worth, and has been used on two other Clinac 2100 accelerators to test its reliability.Next, the full modeling of the detector in PENELOPE coupled and its environment granted us to describe some characteristics intrinsic to conception choices. Thus, we have been able to study the linearity response of the detector in terms of dose and dose rate, characterize the attenuation it opposes to the beam, and evaluate the cross-talk between the different electrodes of the pixelated matrix.In addition, we were able to initiate the work of converting the signal collected by TraDeRa into a dose deposited in the patient. We associated the response of selected electrodes with calculated dose distributions in a water tank model. By decomposing any field into a sum of elementary responses, we have determined a procedure allowing the reconstruction of the dose deposition in the patient.

La Radiothérapie Interne Vectorisée (RIV) consiste à détruire des cibles tumorales en utilisant des vecteurs radiomarqués (radiopharmaceutiques) qui se lient sélectivement à des cellules tumorales. Dans un contexte d'optimisation de la RIV, une meilleure détermination du dépôt d'énergie dans les tissues biologiques est primordiale pour la définition d'une relation dose absorbée - effet biologique et pour l'optimisation des traitement du cancer. Cela nécessite une évaluation quantitative de la distribution de l'activité (avec la technique d'imagerie moléculaire la plus appropriée) et d'effectuer le transport du rayonnement à l'échelle à laquelle se produisent les phénomènes biologiques pertinents. Les méthodologies à appliquer et les problématiques à établir dépendent strictement de l'échelle (cellule, tissu, organe) de l'application considérée, et du type de rayonnement en cause (photons, électrons, particules alpha). Mon travail de recherche a consisté à développer des techniques dosimétriques dédiées (dosimétrie mono-échelle) et innovantes, capables de prendre en compte la particularité de différents scénarios expérimentaux (cellulaire, pré-clinique, RIV clinique). / Targeted Radionuclide Therapy (TRT) consists in killing tumour targets by using radiolabeled vectors (radiopharmaceuticals) that selectively bind to tumour cells. In a context of TRT optimization, a better determination of energy deposition within biologic material is a prerequisite to the definition of the absorbed dose-effect relationship and the improvement of future cancer treatment. This requires being able to quantitatively assess activity distribution (with the most appropriate molecular imaging technique) and perform radiation transport at the scale at which biologically relevant phenomena occur. The methodologies that should be applied and the problematic to be faced strictly depend on the scale (cell, tissue, body) of the application considered, and on the type of radiation involved (photons, electrons, alpha). This research work consisted in developing dedicated dosimetric techniques (single-scale dosimetry) capable of taking into account the peculiarity of different experimental scenarios (cellular, pre-clinical, clinical TRT).

Dans le cadre du projet européen ENVISION (2010-2014) et en collaboration avec l'équipe CAS-PHABIO de l'IPNL, cette thèse constitue une contribution méthodologique et technique dans le domaine de la dosimétrie et de l'imagerie de contrôle par émission des positons (TEP) pour les organes en mouvement. Les méthodes actuelles utilisent le recalage déformable d'images CT pour estimer le mouvement des organes internes. Le recalage déformable permet d'estimer le déplacement de chaque voxel d'une image à une autre. La dose radio-thérapeutique ainsi que l'activité TEP sont accumulées sur des voxels. Ces approches ont des difficultés quand il s'agit de prendre en compte la variation de densité à l'intérieur des organes et l'aspect non-répétitif du mouvement respiratoire. Les travaux antérieurs de l'équipe ont permis de développer un premier modèle biomécanique complet du système respiratoire qui, corrélé avec des signaux externes, pourrait prendre en compte la variabilité du mouvement respiratoire. Cette thèse présente une approche qui permet d'intégrer un tel modèle biomécanique dans un système de planification de traitement pour l'hadronthérapie. Dans cette thèse, nous avons choisi d'investiguer de près l'utilisation des maillages tétraédriques déformables dans la dosimétrie et la reconstruction d'images TEP afin d'estimer les avantages et inconvénients de ce type de géométrie. En conclusion, notre approche peut être utilisée avec n'importe quel modèle de déformation basé sur une géométrie tétraédrique et dont le mouvement est décrit par le déplacement des nœuds des maillages et donc contrairement aux méthodes basés images, notre approche n'est pas nécessairement dépendante de l'existence des images internes à tout moment. Dans le futur, les méthodes développées dans cette thèse pourraient être utilisées avec un modèle biomécanique complet du système respiratoire afin de quantifier, par exemple, les effets de la variabilité de la respiration sur le dépôt de dose / Respiratory-induced organ motion is a technical challenge to nuclear imaging and to charged particle therapy dose calculations for lung cancer treatment in particular. Internal organ tissue displacements and deformations induced by breathing need to be taken into account when calculating Monte Carlo dose distributions as well as when performing tomographic reconstructions for PET imaging. Current techniques based on Deformable Image Registration (DIR) cannot fully take into account the density variations of the tissues nor the fact that respiratory motion is not reproducible. As part of the ENVISION (2010-2014) European project, in collaboration with the CAS-PHABIO team from IPNL (the Nuclear Physics Institute from Lyon), this PhD project presents a methodological contribution to physical dose calculations and PET-based treatment verification for hadron therapy in the case of moving tumours. Contrary to DIR-based methods where motion is described by relative voxel displacement, each organ is represented as a deformable grid of tetrahedra where internal motion is described by mesh vertex transformations calculated using continuum mechanics. First, this PhD project proposes a new method to calculate four dimensional dose distribution over tetrahedral meshes, which are deformed using biomechanical modeling based on Finite Element Analysis (FEA). The second part of the PhD is focused on motion compensation for PET image reconstruction using deformable tetrahedral meshes

Le mélanome uvéal est la tumeur primaire intraoculaire la plus fréquente chez l'adulte. L'un des traitements le plus souvent utilisé afin d'obtenir un contrôle local de la tumeur s'appelle la curiethérapie par plaque. Malgré un faible taux de récidive locale avec cette technique, la grande majorité des patients développeront des complications oculaires secondaires à la radiation cinq ans après le diagnostic initial. Le manque de modèles ex vivo ou in vitro de mélanome uvéal rend difficile la validation de plaques de curiethérapie personnalisées et le calcul des différents profils de dose par les algorithmes Monte-Carlo. Un fantôme dosimétrique bio-imprimé représentant l'œil humain contenant une tumeur uvéale de forme définie serait un modèle in vitro optimal pour l'évaluation de différents profils de dose dans le développement de plaques de curiethérapie personnalisées. Dans cette étude, la viabilité et la prolifération des cellules cancéreuses du mélanome uvéal ainsi que des fibroblastes et mélanocytes choroïdiens en culture dans un environnement tridimensionnel, soit une matrice extracellulaire commerciale (Matrigel®) ou un hydrogel imprimable, ont d'abord été mesurées par microscopie en contraste de phase ou en fluorescence. Ensuite, l'expression de marqueurs de prolifération, d'hypoxie et de dommages à l'ADN a été déterminée dans les cellules cancéreuses du mélanome uvéal cultivées en monocouche ou enrobées dans le Matrigel®, dans l'optique future d'étudier ces marqueurs lors de l'irradiation du modèle bio-imprimé de tumeur uvéale avec une plaque personnalisée. L'évaluation chirurgicale de prototypes de plaques de curiethérapie non radioactives a été faite afin de comparer les différentes itérations entre elles et aux plaques conventionnelles. Enfin, les caractéristiques à améliorer pour le développement d'un modèle biologique contenant une tumeur uvéale ont été discutées et les aspects techniques problématiques des premières plaques imprimées ont été identifiés afin d'optimiser les prochains prototypes de plaques personnalisées. Mes travaux représentent un avancement des connaissances sur les modèles in vitro 3D du mélanome uvéal et le traitement de cette tumeur oculaire par curiethérapie par plaque. Mon mémoire pourra servir de base aux projets subséquents visant soit i) à élucider l'impact des interactions des cellules cancéreuses avec leur microenvironnement sur la résistance thérapeutique de ce cancer ou ii) à tester de nouvelles stratégies thérapeutiques sur un modèle bio-imprimé de mélanome uvéal primaire. / Uveal melanoma is the most common primary intraocular tumor in adults. One of the treatments most often used to achieve local tumor control is called plaque brachytherapy. Despite a low local recurrence rate with this technique, most patients will develop ocular complications secondary to radiation five years after the initial diagnosis. The lack of ex vivo or in vitro models of uveal melanoma makes it difficult to validate personalized brachytherapy plates and to calculate the different dose profiles by Monte-Carlo algorithms. A bioprinted dosimetry phantom representing the human eye containing a defined uveal tumor would be an optimal in vitro model for the evaluation of different dose profiles in the development of personalized brachytherapy plates. In this study, the viability and proliferation of uveal melanoma cells, as well as choroidal fibroblasts and melanocytes in culture in a three-dimensional environment, either a commercial extracellular matrix (Matrigel®) or a printable hydrogel, were first measured by phase contrast or fluorescence microscopy. Then, the expression of markers of proliferation, hypoxia and DNA damage was determined in uveal melanoma cells cultured as monolayer or embedded in Matrigel®, in the future perspective of studying these markers after the irradiation of the bioprinted uveal tumor model using a personalized plate. The surgical evaluation of prototypes of non-radioactive brachytherapy plates was done in order to compare the different iterations with each other and with conventional plates. Finally, the characteristics to be improved for the development of a biological model containing an uveal tumor were discussed, and the problematic technical aspects of the printed plates were identified in order to optimize the next prototypes of personalized plates. My work represents an advancement of knowledge on in vitro 3D models of uveal melanoma and the treatment of this ocular tumor by plaque brachytherapy. My master's thesis could serve as a basis for subsequent projects aiming either i) to elucidate the impact of interactions of cancer cells with their microenvironment on the therapeutic resistance of this cancer or ii) to test new therapeutic strategies on a bioprinted model of primary uveal melanoma.

Le passage de particules chargées dans un milieu ayant une vitesse excédant celle de la lumière dans ce même milieu entraîne l’émission de photons. Ce phénomène, nommé effet Cherenkov, peut être utilisé afin de déterminer la dose déposée dans un fantôme d’eau par un accélérateur linéaire utilisé en radiothérapie externe. Toutefois, les photons Cherenkov sont toujours émis de façon anisotrope et rendent le calcul de la dose complexe en raison de l’absence de linéarité entre l’intensité collectée et la dose déposée. Une alternative proposée par certains consiste à ajouter un fluorophore à l’eau afin d’absorber une portion de la lumière Cherenkov anisotrope et la réémettre de façon isotrope par fluorescence. Afin d’évaluer l’efficacité de cette méthode, la présente étude vise à déterminer les proportions de chaque processus d’émission lors de l’irradiation d’une solution aqueuse de quinine et quantifier l’absorption de photons Cherenkov par le fluorophore. Cela devait permettre de mieux comprendre les mécanismes menant à une amélioration de la mesure de dose lors de l’ajout du fluorophore. Pour ce faire, diverses concentrations de solution aqueuse de quinine ont été irradiées à l’aide d’un accélérateur linéaire et le spectre émis a été recueilli à l’aide d’un spectromètre. Afin de déterminer la quantité de photons produits initialement dans le solvant par effet Cherenkov, une solution témoin constituée uniquement d’eau distillée a été irradiée sous les mêmes conditions. De plus, à l’aide de l’intensité lumineuse mesurée par une caméra CCD, une comparaison de la mesure de la dose déposée a été réalisée entre l’eau et la solution de quinine. Finalement, ces mesures de dose expérimentales ont été comparées avec les doses prédites par un système de planification de traitement afin de quantifier l’amélioration observable lors de l’ajout du fluorophore. / Particles traveling through a medium at a speed exceeding light speed in that same medium gives rise to a phenomenon of photon emission. This phenomenon, called the Cherenkov effect, can be used to determine the dose deposition in a water phantom from a linear accelerator used in external radiotherapy. However, Cherenkov effect produces an anisotropic emission which makes the calculation of the dose complex as the relation between the dose deposition and the intensity of the signal collected is not linear. An alternative recently proposed consist of adding a fluorescent agent to the water with the hypothesis that it can absorb the Cherenkov emission and reemit it as an isotropic fluorescent light. To evaluate the efficiency of this method, the present study aims to determine the contribution of each excitation source producing the total light signal measured in the visible range during the irradiation of an aqueous quinine solution. Moreover, it aims to quantify the Cherenkov light absorption by the fluorophore in the UV region. To achieve this, various concentrations of aqueous quinine solutions were irradiated with a linear accelerator and the spectra where collected with a spectrometer. To determine the initial Cherenkov light production in the solvent, a control sample of distilled water was irradiated under the same conditions as the fluorophore solutions. Furthermore, using the light signal collected by a CCD camera, a comparison between the dose deposition along the beam path was performed between the quinine solution and the pure Cherenkov light. It was then possible to compare the percent depth dose obtained with both solution with a treatment planning system dose calculation to determine how quinine improves measurements.

La radiothérapie par modulation d’intensité est une technique avancée de traitement du cancer qui utilise de nombreux faisceaux de photons dont les intensités sont modulées. Avec cette méthode, des compromis entre la couverture de la zone à traiter et la sauvegarde des organes à risque sont nécessaires et dépendent du planificateur. Pour accélérer, uniformiser et accroître la qualité des planifications futures, le présent mémoire propose des métriques basées sur la géométrie spécifique des patients. Pour ce faire, une étude rétrospective a été conduite. Certains indices dosimétriques d’intérêt ont été mis en relation avec des paramètres géométriques simples. Un modèle de frontières stochastiques a été adapté pour déterminer les frontières inférieures des distributions par une méthode de maximisation de la vraisemblance. La validité de la méthode a été testée. L’impact de l’implantation en clinique d’une métrique simple en ORL a finalement été évalué.

Les techniques dosimétriques externes, telles que les dosimètres portatifs et compteurs Geiger-Müller, sont largement utilisées dans la détection et l’interprétation de dose reçue par les employés du secteur nucléaire. Toutefois, ces techniques ne permettent pas de caractériser une contamination interne, telle que celle causée par des émetteurs alpha. Actuellement au Canada, les techniques de dosimétrie biologique sont orientées sur l’analyse d’urine, de frottis nasaux et, dans de rares cas, de sang, de tissus et exceptionnellement de matières fécales. Les matières fécales, quant à elles, procurent une voie différente et complémentaire aux autres types de prélèvement, en raison de l’interaction entre le système respiratoire et le système digestif. Il n’existe aucune procédure officielle au Canada sur ce genre d’échantillon. Une nouvelle méthodologie, basée sur la fusion boratée couplée à une méthode d’extraction, a été développée dans le cours de ce mémoire, ce qui devrait permettre de résoudre ce problème. / External dosimetric techniques, such as portable dosimeter and Geiger-Müller counter, are largely use in the detection and interpretation of received dose by employees of the nuclear sector. However, those techniques are inefficient for characterising internal contamination, such as alpha emitters. As for the moment, the techniques used in Canada for bioassay are oriented towards urine, nasal swabs sampling and on rare occasion; blood and tissue, exceptionally fecal samples. The fecal samples offer a different and complementary approach to other bioassays due to the interaction between the respiratory tract and the gastrointestinal tract. However, there is no official methodology for fecal analysis in Canada. For this thesis, a new methodology based on borated fusion coupled to column chromatography was developed to remedy this problem.

Le présent mémoire présente les récents travaux de développement d'un algorithme de calcul de dose monte carlo en brachythérapie implémenté sur GPU (bGPUMCD, GPU Monte Carlo Dose for brachytherapy) ainsi que la validation des résultats et de la performance de celui-ci en vue d'une utilisation clinique future pour les cas de curiethérapie HDR et d'une utilisation académique permettant de remplacer l'utilisation de codes Monte Carlo plus lents dans le domaine académique. Les cas de test définis par le Groupe de travail sur les algorithmes de calcul de dose en curiethérapie (WG-DCAB, Working Group on Dose Calculation Algorithms in Brachytherapy)[1] et quatre cas de patients cliniques représentant des sites de traitement représentatifs sont utilisés pour explorer la précision, la vitesse et les limites de l'algorithme dans une multitude de contextes. bGPUMCD est comparé aux résultats de calcul de dose provenant de plusieurs codes Monte Carlo tel que MCNP6 et ALGEBRA[2]. Les résultats obtenus par bGPUMCD sont dans les limites d'incertitudes requises par les recommandations du Rapport du Groupe de Travail No.186 de l'AAPM (TG-186, Report on the Task Group No.43)[3]. Une simulation en situation de Rapport du Groupe de Travail No.43 de l'AAPM (TG-43, Report on the Task Group No.43)[4] a été effectuée pour trois modèles de source et les fonctions 𝑔𝐿(𝑟) et 𝐹 (𝑟, 𝜃) obtenues correspondent avec une erreur de 2 % aux valeurs de référence à l'exception des grands angles. Nous démontrons aussi que bGPUMCD est capable de simuler une dose cliniquement équivalente à un code Monte Carlo de référence en une fraction du temps ; en fonction des différents paramètres pouvant modifier le temps de calcul, bGPUMCD permet d'obtenir un résultat équivalent à la dose de référence avec un temps de calcul se trouvant entre quelques secondes à quelques minutes par rapport à plusieurs heures pour ALGEBRA.

La curiethérapie, une forme spécialisée de traitement du cancer, consiste à placer des sources radioactives près ou directement dans la lésion cancéreuse. Un aspect crucial de cette thérapie est le calcul de la dose de radiation. Traditionnellement, ce calcul s'appuie sur un formalisme qui considère l'eau comme milieu de transport, ce qui ne tient pas suffisamment compte des variations dans la composition des tissus du patient et des effets d'atténuation entre sources pour la curiethérapie permanente à faible débit de dose (LDR pour low-dose rate). La méthode Monte Carlo (MC) est la référence pour les calculs de dose avancés en curiethérapie, offrant une solution à ces limites. Cependant, l'application pratique de la méthode MC dans la planification du traitement est limitée par son temps d'exécution relativement lent. Cette thèse explore le potentiel des méthodes d'apprentissage profond (DL pour deep learning) pour surmonter ce défi. Plus précisément, la faisabilité d'utiliser des algorithmes DL pour prédire rapidement et avec précision la distribution de dose volumétrique pour patients de cancer de la prostate traités par la curiethérapie LDR est étudiée. Premièrement, le logiciel TOPAS a été systématiquement validée pour les simulations MC en curiethérapie en comparant les résultats simulés avec les données de référence TG-186 publiées. Le spectre d'énergie d'émission de photons, l'air-kerma strength et la constante de débit de dose de la source générique $^{192}$Ir MBDCA-WG ont été extraits. Pour les calculs de dose, un estimateur de longueur de trajectoire a été validé. Les quatre cas de test du groupe de travail MBDCA-WG AAPM/ESTRO/ABG ont été évalués. Un cas de prostate, un cas palliatif de poumon et un cas de sein ont été simulés. L'air-kerma strength et la constante de débit de dose étaient respectivement à 0,3% et 0,01% des valeurs de référence. Pour tous les cas de test, 96,9% des voxels avaient des différences de dose locales dans une plage de ±1%, tandis que les différences de dose globales concernaient 99,9% des voxels dans une plage de ±0,1%. Les histogrammes dose-volume des cas cliniques étaient cohérents avec les données de référence. TOPAS offre un accès étendu à un code MC de pointe pour les simulations en curiethérapie. Deuxièmement, un modèle DL à source unique entraîné avec des simulations MC comme référence a été proposé pour prédire avec précision les distributions de dose dans le milieu (D$_\textup{M,M}$ pour dose to medium in medium) en curiethérapie prostatique LDR. Des connaissances antérieures ont été incluses dans le réseau sous forme de noyau r$^2$ lié à l'inverse de la dépendance de dose de premier ordre en curiethérapie. Les caractéristiques du modèle montraient une représentation anisotrope tenant compte des organes du patient et de leurs interfaces, de la position de la source et des régions de faible et haute dose. La métrique CTV D$_{90}$ prédite présentait une différence moyenne de -0,1% par rapport au calcul basé sur MC. La prédiction d'un volume D$_\textup{M,M}$ complet de 1,18 M de voxels se réalise en 1,8 ms. Le modèle DL proposé représente donc un algorithme de calcul extrêmement rapide et simplifié, intégrant des connaissances physiques préexistantes pertinentes à la curiethérapie. Ce modèle est conçu pour tenir compte des caractéristiques anisotropes d'une source de curiethérapie et de la composition spécifique des tissus du patient, garantissant une approche précise et adaptée des calculs de dose. Enfin, deux algorithmes DL prédictifs de dose à plusieurs sources ont été validés pour la curiethérapie prostatique LDR. Les données de référence prenaient en compte les effets d'atténuation entre les sources et une définition des matériaux basée sur les organes du patient. De plus, les incertitudes aléatoires (associées aux données d'entrée) et épistémiques (associées au modèle) des modèles DL ont été évaluées. Les résultats ont montré que la métrique D$_{90}$ de la prostate prédite présentait une différence de -0,64% et de 0,08% pour les modèles UNet et ResUNet TSE, respectivement. Les deux modèles DL prédisaient un volume de dose de 2,56 M de voxels (128×160×128) en 4 ms. L'incertitude dérivée est quantifiable et interprétable, mettant en évidence les régions où les modèles DL pourraient rencontrer des difficultés pour fournir des estimations précises de dose. L'analyse de l'incertitude est un outil précieux pour une évaluation approfondie, améliorant le processus d'évaluation des modèles de prédiction de dose. De plus, cette analyse fournit des informations critiques sur la performance du modèle, identifiant les domaines d'amélioration potentielle et garantissant une application plus fiable dans un contexte clinique. / Brachytherapy, a specialized form of cancer treatment, involves the placement of radioactive sources near or directly within the cancerous lesion. A critical aspect of this therapy is the calculation of radiation dose. Traditionally, this calculation relies on a water-based formalism, which does not adequately account for variations in patient tissue compositions and interseed effects in low-dose rate (LDR) brachytherapy. The Monte Carlo (MC) method is the gold standard for advanced dose calculations in brachytherapy, offering a solution to these limitations. However, the practical application of the MC method in treatment planning is hindered by its relatively slow execution time. This thesis explores the potential of deep learning (DL) methods to overcome this challenge. Specifically, it investigates the feasibility of using DL algorithms to accurately predict the volumetric dose distribution in LDR prostate brachytherapy patients, aiming to streamline the treatment planning process while maintaining the precision of dose calculations. Firstly, the TOPAS MC toolkit was systematically validated for brachytherapy simulations by comparing simulated results with published TG-186 reference data. The photon emission energy spectrum, the air-kerma strength, and the dose-rate constant of the MBDCA-WG generic $^{192}$Ir source were extracted. For dose calculations, a track-length estimator was implemented. The four Joint AAPM/ESTRO/ABG MBDCA-WG test cases were evaluated. A prostate, a palliative lung, and a breast case were simulated. The air-kerma strength and dose-rate constant were within 0.3% and 0.01% of the reference values, respectively. For all test cases, 96.9% of voxels had local dose differences within ±1%. On the other hand, the global dose difference histograms had 99.9% of voxels within ±0.1%. Dose-volume histograms of clinical cases were consistent with the reference data. Overall, TOPAS provides access to a state-of-the-art MC code for brachytherapy simulations. Secondly, a single-seed DL model trained with MC simulations as the gold standard was built to predict accurate single-seed dose to medium in medium (D$_\textup{M,M}$) distributions in LDR prostate brachytherapy. Existing knowledge was included in the network as an r$^2$ kernel related to the inverse of the first-order dose dependency in brachytherapy. DL model features showed an anisotropic representation that considered the patient organs and their interfaces, the source position, and the low- and high-dose regions. The predicted CTV D$_{90}$ metric had an average difference of -0.1% with respect to the MC-based calculation. The single-seed DL model takes 1.8 ms to predict a complete 3D D$_\textup{M,M}$ volume of 1.18 M voxels. The proposed DL model represents a streamlined and rapid computational engine, incorporating pre-existing physics knowledge pertinent to brachytherapy. This engine is designed to consider the anisotropic characteristics of a brachytherapy source and the specific composition of patient tissues, ensuring an accurate, fast, and tailored approach to dose calculations. Lastly, two multi-seed DL-based predictive dose algorithms were trained for LDR prostate brachytherapy. Ground truth data considered interseed effects and an organ-based material assignment. Additionally, the aleatoric (associated with the input data) and epistemic (associated with the model) uncertainties of the DL models were assessed. Results showed that the predicted prostate D$_{90}$ metric had a difference of -0.64% and 0.08% for the UNet and ResUNet TSE models, respectively. Both DL models predicted a 3D dose volume of 2.56 M voxels (128×160×128) in 4 ms. The derived uncertainty is quantifiable and interpretable, highlighting regions where DL models might face challenges in delivering precise dose estimations. The uncertainty analysis is a valuable tool for a thorough evaluation, enhancing the assessment process of the dose prediction models. This analysis provides critical insights into the model's performance, pinpointing areas for potential improvement and ensuring a more reliable application in clinical settings.

La curiethérapie et la protonthérapie sont toutes deux des méthodes permettant de traiter des mélanomes oculaires. Une différence majeure entre ces deux méthodes est la façon de les appliquer. En effet, la curiethérapie est une modalité de radiothérapie interne qui utilise des implants, plus spécifiquement des plaques dans le cas du mélanome oculaire, tandis que la protonthérapie utilise un faisceau externe de radiation ionisante. Pour ces deux méthodes de traitement, il est essentiel de déterminer leurs distributions de dose de radiation associées. La méthode Monte Carlo est reconnue pour être le standard dans le calcul de distribution dose. TOPAS (TOol for Particle Simulations) est un logiciel de simulation utilisant un algorithme Monte Carlo qui a initialement été développé pour des applications de protonthérapie. Le but de ce projet est de comparer d'un point de vue dosimétrique la curiethérapie et la protonthérapie pour des traitements du mélanome oculaire. Une première étape à été de valider et d'étendre TOPAS pour des applications de curiethérapie. Pour ce faire, 11 modèles de sources et les modèles de plaques oculaire de type COMS (10 à 22 mm de diamètre) ont été modélisés, puis caractérisés selon leur paramètres TG-43et TG-129. L'étape suivante est de créer et valider une géométrie d'œil contenant un mélanome oculaire dans ce même logiciel dans le but d'avoir un référentiel anatomique commun pour les méthodes de traitements. La validation de celui-ci est faite en le simulant conjointement avec une plaque oculaire de type COMS. Finalement, la comparaison dosimétrique des deux méthodes de traitement est effectuée après avoir simulé le traitement de deux formes de mélanomes oculaires par protonthérapie et par curiethérapie. Les cartes de distributions de dose, les doses moyennes des structures d'intérêt les points de dose spécifiques et les histogrammes cumulatifs sont extraits pour pouvoir tirer des informations quantitatives servant à la comparaison de la curiethérapie versus la protonthérapie.