Ce travail de thèse est centré sur l'établissement de modèles prédictifs de toxicité radio-induite et sur l’étude de leur intérêt en cas de radiothérapie par modulation d’intensité. Six modèles NTCP ont été implémentés et leur paramètres identifiés pour la prédiction des toxicités rectale et vésicale tardives dans le cancer de la prostate. Leur capacité prédictive a été démontrée pour les deux organes. Par ailleurs, le modèle LKB a été utilisé pour la prédiction de l’œsophagite aiguë en cas de radiothérapie du cancer bronchique non à petites cellules. Ensuite, le bénéfice tiré de l’incorporation du paramètre de dose équivalent uniforme (EUD) pour la planification inverse de la radiothérapie par modulation d’intensité (IMRT) a été évalué. L’évaluation de cette approche a montré une baisse significative de la dose dans les parois vésicale et rectale. L’incorporation de plusieurs modèles biologiques dans le processus d’optimisation de l’IMRT a aussi été réalisée. Des fonctions objectif ont été établies pour les différents facteurs biologiques comme le NTCP, l’EUD et le TCP. Les résultats dosimétriques obtenus montrent la supériorité de l’optimisation basée sur des facteurs biologiques sur celle reposant uniquement sur des facteurs physiques. Enfin, les modèles NTCP classiques ont été améliorés en intégrant un paramètre radiobiologique supplémentaire, le rapport α/β. Ce rapport α/β a été identifié pour différents types de toxicité. Avec ce nouveau paramètre, les modèles NTCP peuvent finalement être étendus à des patients traités suivant différents fractionnements, les traitements hypofractionnés étant de plus en plus utilisés. / This thesis is focused on the predictive models of irradiation induced toxicities in intensity modulated radiotherapy. Six different NTCP models were implemented and their parameters were identified at predicting late rectal and bladder toxicities in prostate cancer. Their predictive skills have been demonstrated on both organs. Second, LKB model was used to predict the irradiation induced acute esophagitis after nun-small-cell lung cancer. Then, the benefit of using EUD in prostate cancer IMRT inverse planning was evaluated. The evaluation of the proposed approach proved that the use of EUD significantly decreased both the dose in the bladder and rectum walls. Then, the incorporation of different biological models in IMRT optimization process has been realized. Objective functions were established for different biological factors like NTCP, EUD and TCP. Obtained results show the superiority of the optimization based on biological factors over the optimization relying only on physical factors. Finally, classical NTCP models were corrected to deal with another radiobiological parameter, the α/β ratio. With this additional factor, NTCP models can be extended to predict toxicity for patients with different dose fractionation, these kinds of treatments being more and more clinically used.

La Tomographie par Émission de Positon (TEP) combinée à l'imagerie scanner est intéressante pour la planification de traitement en radiothérapie. Elle réduit la variabilité inter et intra-observateur dans la définition du volume cible et permet de visualiser les hétérogénéités biologiques. Plusieurs algorithmes de segmentation ont été proposés mais aucun ne fait consensus. Pour valider ces algorithmes, les simulations de Monte-Carlo offrent la possibilité de maîtriser la vérité terrain et l'ensemble des paramètres d'acquisition.Nous avons proposé plusieurs méthodologies d'amélioration du réalisme des simulations. Des jeux de données présentant une variabilité anatomique, une hétérogénéité tumorale réaliste et intégrant les mouvements respiratoires ont ainsi été générés.Ces données ont été utilisées dans une première étude sur la segmentation du volume cible. Plusieurs algorithmes ont été comparés dans le cadre de la planification de traitement. L'utilisation de données simulées a permis de relier la précision de la segmentation à la qualité de la couverture de la vérité terrain. Nous avons aussi étudié l'impact de la respiration sur la précision de la segmentation.L'utilisation d'un algorithme de segmentation avancé permettant de définir un sous-volume plus actif pour la prescription d'une dose hétérogène a été proposée. Plusieurs scénarios de prescription ont été comparés en terme de probabilité de contrôle tumorale (TCP) calculée sur la TEP. La variabilité de la TCP liée aux paramètres d'acquisitions a été quantifiée. L'impact du contraste et de la taille du sous-volume fut étudié. Pour finir l'apport d'un ajout de compartiments à de telles prescriptions a été analysé. / There has been an increasing interest for the use Positron Emission Tomography (PET) combined with Computed Tomography for radiotherapy treatment planning. It improves target volume delineation by reducing inter and intra-observer variability and allows visualizing biological heterogeneities. Plethoras of segmentation algorithm have been proposed but there is a lack of consensus regarding which one to use. Monte Carlo simulations are interesting to validate these algorithms since they allow creating datasets with known ground-truth and for which all acquisition parameters are controlled.We proposed several methodologies for improving the realism of simulations. Several datasets incorporating patient specific variability in terms of anatomy and activity distributions, realistic tumor shape and activity modeling and integrating the respiratory motions were created.These data were used in a first study concerning target volume definition. Several algorithms were compared for radiotherapy treatment planning. The accuracy of segmentation was related to the quality of ground-truth volume coverage. We also studied the impact of respiratory motion on segmentation accuracy.We investigated the use of an advanced segmentation method able to define high uptake sub-volumes, for heterogeneous dose prescriptions. Several scenarios of prescriptions were compares in terms of Tumor Control Probability (TCP) computed on PET images. Variability of this TCP due to acquisition parameters was quantified. The impact of contrast and size of sub-volume was studied. Finally we studied the usefulness of the addition of compartments to such heterogeneous prescriptions.

Ce manuscrit est dédié au transport relativiste cinétique sous influence de champs magnétiques, identifié comme obstacle pour la modélisation et la simulation intégrée, dans le cadre de la Fusion par Confinement Inertiel (FCI). Une réalisation importante concerne le développement d'un code déterministe de référence, 2Dx-3Dv, de type Maxwell-Fokker-Planck-Landau, permettant la prise en compte de fonctions de distribution à large degré d'anisotropie. Ce travail se situe à l'interface de l'analyse numérique, des mathématiques appliquées, et de la physique des plasmas. Un deuxième résultat marquant concerne la dérivation d'un modèle collisionel multi-échelle, pour le transport d'électrons relativistes dans la matière dense. Des processus importants sont mis en évidence pour la FCI, et une analogie est menée vis-à-vis des processus de transport collisionels connus en radiothérapie. Enfin, un modèle mésoscopique aux moments angulaires, avec fermeture entropique, a été dérivé et utilisé pour le dépôt de dose pour la radiothérapie. Des schémas numériques précis, d'ordre élevé, et robustes, ont été développé dans ce cadre. / This manuscript is dedicated to the relativistic kinetic transport, under the influence of the magnetic field, identified as a barrier for the modeling and integrated simulations, in the frame of the Inertial Confinement Fusion (ICF). An important achievement concerns the development of a deterministic, reference code, 2Dx-3Dv, of Maxwell-Fokker-Planck-Landau type, that permits the treatment of distribution functions with large anisotropy degree. This work is at the interface between the numerical analysis, applied mathematics, and plasma physics. Another milestone result concerns the derivation of a multi-scale, collisional model, for the transport of relativistic electrons in dense matter. A set of processes is demonstrated to be of importance for ICF, and an analogy is conducted with respect to well-known collisional transport processes in radiotherapy. Finally, a mesoscopic angular moment model, with entropic closure, is derived and employed for radiotherapy dose computation. High order precise and robust numerical schemes are then developed in this framework.

Les douleurs viscérales chroniques font partie des effets secondaires des patients traités pour des cancers de la zone pelvienne. Ces douleurs peuvent affecter grandement la qualité de vie de ces patients. Dans les cas les plus graves, il n'existe pas de traitement analgésique efficace. Ainsi le développement de nouvelles stratégies thérapeutiques efficaces constitue un enjeu majeur. Au sein de notre laboratoire, le potentiel réparateur et immuno-modulateur des cellules stromales mésenchymateuses (CSM) a déjà été démontré dans un modèle d'ulcération colorectale radio-induite chez le rat. Dans ce contexte, l'objectif de ma thèse était d'évaluer d'abord la pertinence de l'utilisation de ce modèle pour l'étude de l'hypersensibilité viscérale persistante radio-induite, puis, le bénéfice thérapeutique de l'utilisation des CSM comme agent antinociceptif. Nous avons dans un premier temps démontré, dans ce modèle, le maintien au cours du temps d'une hypersensibilité viscérale associée à une sensibilisation centrale persistante après irradiation, validant ainsi le modèle. Nous avons ensuite montré l'implication des mastocytes (MC) et suggéré l'implication du neuromédiateur NO dans les mécanismes de la sensibilisation périphérique sous-tendant une telle hypersensibilité. Nous avons enfin mis en évidence que le traitement par des CSM permettait la réduction de l'hypersensibilité viscérale radio-induite persistante. La capacité des CSM à moduler l'activation des MC et/ou leurs interactions avec les fibres nerveuses pourrait être impliquée dans leur action antinociceptive. En conclusion, ce travail a permis d'élargir le spectre d'action thérapeutique des CSM dans notre modèle d'étude. / Patients who undergo pelvic radiotherapy may develop significant incidence of undesirable chronic gastrointestinal complications resulting from radiation-induced damages around the tumour. Chronic visceral pain is one of the radiation-induced side effects that greatly affects the quality of life of “cancer survivors”. The lack of effective analgesic treatment highlights the importance of novel and effective therapeutic strategies. In our laboratory, mesenchymal stromal cell (MSC) based approach showed beneficial immunomodulatory and regenerative effects in a rat model of irreversible radiation-induced colonic ulcers. The goal of my work was to assess the relevance of this model to study radiation-induced visceral persistent hypersensitivity and its modulation by MSC treatment. We first demonstrated that this model is associated with long-lasting visceral hypersensitivity and central neuronal sensitization. In this context we showed then that mast cells (MC) are involved in the mechanism of peripheral sensitization. Moreover, we suggested the implication of the neuromediator NO• in the pathophysiology of persistent radiation-induced visceral hypersensitivity. We also suggested that MSC treatment reversed radiation-induced hypersensitivity by a mechanism that in part may involve the modulation of MC activation and/or the decrease in the number of MC and nerve fiber interactions. In addition, MSC treatment reduced the percentage of nitrinergic neurons, increased after irradiation, and restored colonic muscular contractibility. Such processes may promote the therapeutic benefit of MSC observed in our study. In conclusion, this work provided new insights on the therapeutic benefit of MSC in our study model and a new argument in favour of their use in a future clinical trial to cure abdominopelvic radiotherapy side effects.

La radiothérapie induit des séquelles aigues puis tardives affectant les tissus sains inclus dans le volume irradié. D'une façon générale, le processus lésionnel se caractérise par une ischémie vasculaire, une apoptose cellulaire et une fibrose cicatricielle. Dans ce contexte, la thérapie cellulaire à l'aide de cellules souches mésenchymateuses médullaires CSMM pourrait constituer une nouvelle approche thérapeutique séduisante, les CSMM ayant une capacité intrinsèque à promouvoir l'angiogenèse et une implication dans les processus naturels de réparation tissulaire. La première partie de ce travail a consisté à la mise au point de modèles murins présentant un processus de dégénérescence tissulaire similaire à celui survenant après radiothérapie. L'objectif étant d'affiner la compréhension des mécanismes physiopathologiques des lésions tissulaires radio-induites et de déterminer une stratégie thérapeutique la plus adaptée possible. La seconde partie de ce travail a été consacrée à l'évaluation de la faisabilité d'une autogreffe de CSMM dans le modèle murin d'irradiation précédemment établi en répondant à deux pré-requis : la rétention des cellules injectées au niveau du tissu cible et l'évaluation de la greffe sur le métabolisme osseux. Cette investigation préclinique sur un modèle murin a permis de réaliser une étape essentielle dans l'évaluation du traitement des lésions tissulaires radio-induites par thérapie cellulaire. Les données issues de ces travaux pourraient à terme permettre la mise en place d'études cliniques. / Radiation therapy induced acute and late sequelae within healthy tissue included in the irradiated area. In general, lesions are characterized by ischemia, cell apoptosis and fibrosis. In this context, cell therapy using bone marrow mesenchymal stem cells (BMSC) might represent an attractive new therapeutic approach, based partly on their angiogenic ability and their involvement in the natural processes of tissue repair. The first part of this work consisted in the development of experimental mouse model of radio-induced tissue degeneration similar to that occurring after radiotherapy. The aim was to better understand the physiopathological mechanisms of radiation-induced tissue damage and to determine the best treatment strategy. The second part of this work investigated the feasibility of autologous BMSC therapy on the murine model of radiation previously established with emphasis on two pre-requisites : the retention of the injected cells within the target tissue and the evaluation of the graft on bone metabolism. This preclinical investigation in a mouse model constitutes an essential step allowing an evaluation of the benefit of cell therapy for the treatment of radiation-induced tissue injury. Data from these studies could allow the proposal of clinical studies.

Les travaux présentés dans le cadre de cette thèse sont divisés en trois grandes parties qui concernent l’utilisation des nanoparticules métalliques pour augmenter les effets de la radiothérapie. Cette utilisation très particulière des nanoparticules n’a fait l’objet, jusqu’à présent, que d’études précliniques sauf un nano-objet qui fait actuellement l’objet de phases cliniques I et II à l’Institut Gustave Roussy de Villejuif, France. La première partie est une recherche bibliographique qui s’est concrétisée par la parution d’un état de l’art dans une revue internationale. Ce dernier identifie les paramètres jouant un rôle clef dans l’augmentation de la radiothérapie par les nanoparticules. Suite à cette étude de la littérature, le constat a été fait que la recherche préclinique en nanomédecine est plus longue et plus onéreuse que celle qui s’intéresse aux objets (macro-molécules) de taille standard. C’est pour améliorer cette prise en charge préclinique qu’une plateforme informatique de simulation Monte-Carlo des interactions nanoparticules – rayons X a été développée. Cette dernière ayant pour objectif de réaliser un classement in silico rapide et fiable des nanoparticules radiosensibilisantes permettant d’identifier de façon efficiente les nanostructures présentant les propriétés les plus prometteuses. La seconde partie de cette thèse consiste en une analyse de robustesse de ce simulateur, visant à identifier les paramètres de variabilité intrinsèques au simulateur et à quantifier leur influence sur la variation des résultats. Trois paramètres ont été identifiés comme paramètres critiques de simulation et doivent être maintenus constants entre les différentes études. Enfin, une troisième partie traite de l’application de cet outil de simulation au screening virtuel de nanoparticules radiosensilisantes. Dans cette partie sont réalisées une analyse de prédiction in silico / in vitro et une analyse de prédiction in silico / in cellulo. Les résultats très encourageants (correspondance acceptable entre les prédictions du simulateur et les résultats in cellulo) obtenus durant cette dernière phase ont également fait l’objet d’une soumission à publication dans une revue internationale. / The work that has been carried out during this PhD thesis is divided into three main parts that are related to the use of metallic nanoparticles to enhance the effects of radiation therapy. Until now, this particular use of nanoparticles has only been limited to preclinical trials apart from a single nano-object which is currently tested in phases I and II clinical trials in the Institut Gustave Roussy of Villejuif, France. The first part of this study is a bibliographic research that has been published as a review article in an international journal. The latter identifies the key parameters responsible for the enhancement of radiation therapy by nanoparticles. Following this part, the observation was made that the preclinical research in nanomedicine is longer and more expensive than for classical macromolecules. That is why, in order to improve this preclinical step, a Monte Carlo simulation platform of nanoparticles – X rays interactions has been developed. The aim of this platform is to perform a quick and reliable in silico ranking of radiosensitizing nanoparticles in order to efficiently identify the nanostructures with the most promising properties. The second part of this thesis consists of a robustness analysis of the latter simulator, aiming to identify its intrinsic variability parameters and to quantify their influence on the variability of the results. Three parameters have been identified as critical simulation parameters and should be kept constant between studies. Finally, a third part deals with the application of the simulation platform to the virtual screening of radiosensitizing nanoparticles. A predictive in silico / in vitro and in silico / in cellulo analysis are carried out in this section. Promising results (acceptable matching between simulator’s predictions and in cellulo results) obtained during this last phase were also submitted for publication in an international journal.

La précision du calcul de dose est cruciale pour la qualité de la planification et de la réalisation des traitements en radiothérapie. L’objectif de ce travail était d’évaluer la qualité des algorithmes de calcul de dose des faisceaux d’électrons pour des conditions particulières proches des situations cliniques rencontrées. Une méthodologie spécifique de dosimétrie par films radiochromiques des faisceaux d’électrons a été développée et validée, y compris pour des situations difficiles avec une précision de 3.1% en dose absolue et 2.6% en dose relative. Cette technique a permis de développer des tests de Contrôle Qualité généralistes rapides et efficaces qui servent de base de données mesurées en cas de changement de version du système de planification de traitement et/ou d’algorithme de calcul de dose. Les mesures par films ont été comparées avec les calculs de deux algorithmes de calcul de dose Pencil Beam et Monte Carlo. Les deuxcodes ont donné des résultats similaires dans les tests d’obliquité, d’irrégularité et de DSP étendue. En revanche, les calculs Monte Carlo sont plus précis en présence d’hétérogénéités. D’autre part, cette méthode de dosimétrie par films radiochromiques a permis de développer un nouveau mode d’évaluation des plans de traitement avec des films découpés et insérés dans des fantômes anthropomorphiques (de type thorax et tête) de manière à obtenir la distribution de dose en 2D dans un plan transversal donné ; ces tests cliniques pouvant aussi être utilisés dans le cadre d’un Contrôle de Qualité interne adapté à l’activité clinique du service. La comparaison des mesures avec les calculs a montré une meilleure précision dans les calculs Monte Carlo par rapport aux calculs Pencil Beam au niveau des hétérogénéités, notamment dans les poumons, les cavités et les os. / In radiotherapy, the dose calculation accuracy is crucial for the quality and the outcome of the treatments. The purpose of our study was to evaluate the accuracy of dose calculation algorithms for electron beams in situations close to clinical conditions. A new practical approach of radiochromic film dosimetry was developed and validated especially for difficult situations. An accuracy of 3.1% and 2.6% was achieved for absolute and relative dosimetry respectively. Using this technique a measured database of dose distributions was developed to form the basis of several fast and efficient QualityAssurance tests. Such tests are intended to be used also when the dose calculation algorithm is changed or the Treatment Planning System replaced. Pencil Beam and Monte Carlo dose calculations were compared to the measured data for simple geometrical phantom setups. They both gave similar results for obliquity, surface irregularity and extended SSD tests but the Monte Carlo calculation was more accurate in presence of heterogeneities. The same radiochromic film dosimetry method was applied to film cuts inserted into anthropomorphic phantoms providing a 2D dose distribution for any transverse plan. This allowed us to develop clinical test that can be also used for internal Quality Assurance purposes. As for simpler geometries, the Monte Carlo calculations showed better agreement with the measured data than the Pencil Beam calculation, especially in presence of heterogeneities such as lungs, cavities and bones.

Le cancer du sein est un problème de santé public majeur. Avec 500 000 décès dans le monde chaque année, il concentre de nombreux efforts dans la recherche de nouvelles thérapies et de biomarqueurs aussi bien diagnostiques, pronostiques que de suivi thérapeutique. D'un point de vue diagnostique, la mammographie est actuellement la méthode de dépistage de référence. Cependant, elle présente de nombreuses limites, notamment chez les femmes avec une densité mammaire élevée. L'identification de marqueurs permettant de mettre en évidence de petites tumeurs ou pronostiquer l'évolution de ces tumeurs serait une aide précieuse dans la prise en charge de la maladie. D'un point de vue thérapeutique, la radiothérapie est l'un des traitements principaux contre le cancer du sein. Cependant, certaines patientes peuvent développer d'importants effets secondaires tardifs sévères. La prédiction de cette radiotoxicité est un enjeu majeur car elle permettrait d'identifier les patients à risque, de leur proposer un traitement personnalisé et au final d'optimiser leur prise en charge thérapeutique. Malgré de nombreux efforts, il n'existe à l'heure actuelle aucun marqueur prédictif de la radiotoxicité tardive utilisé en routine clinique.Ce travail de thèse a pour objectif d'identifier des marqueurs protéiques, d'une part pour le diagnostic et le pronostic des formes précoces du cancer du sein, et d'autre part pour la prédiction de la réponse à la radiothérapie. Grâce à différentes approches de protéomique, j'ai pu identifier trois signatures protéiques : (1) une signature d'autoanticorps sériques (GAL3, RACK1, PAK2, PHB2 et RUVBL1) pour le diagnostic des carcinomes canalaires in situ (CCIS) et des cancers précoces, (2) une signature d'autoanticorps sériques (CIRBP, ECHDC1, HMGN1, PSRC1 et RBP-Jκ) pronostic de la progression de CCIS en cancer invasif et (3) cinq protéines lymphocytaires (AK2, ANX1, APEX1, HSPA8 et IDH2) prédictives d'une toxicité radio-induite tardive. Au delà de leur intérêt diagnostic, pronostic ou prédictif, ces signatures ont également permis d'identifier de nouveaux partenaires moléculaires susceptibles d'être impliqués dans les mécanismes de carcinogénèse mammaire et de radiotoxicité tardive. / Breast cancer is a major public health problem. With 500,000 deaths every year around the world, it focuses on many efforts in the search for new therapies and for therapeutic monitoring, diagnosis or prognosis biomarkers. From a diagnostic point of view, mammography remains gold standard for breast cancer detection. However, it has many limitations, especially in women with significant breast density. The identification of biomarkers for early diagnosis or for prognosis of in situ tumors in this population at risk would be a valuable improvement in the breast cancer management. Considering treatment strategies, radiotherapy has become a major treatment against breast cancer. However, some patients can develop severe radiation-induced late side effects. Their prediction is a main challenge as clinicians will be able to identify patients at risk and develop individualized treatment. Despite all efforts, no biomarkers are validated and used in clinical routine for normal tissues outcomes after irradiation. The aim of my PhD work was to identify protein markers for the diagnosis and prognosis of early-stage breast cancers, and also for the prediction of radiation-induced severe late effects. With different proteomic approaches, I was able to identify three protein signatures: (1) a serum autoantibody signature for the diagnosis of DCIS and node negative early-stage breast cancers (GAL3, RACK1, PAK2, and PHB2 RUVBL1), (2) a serum autoantibody signature of ductal carcinoma in situ progression to invasive breast cancer (CIRBP, ECHDC1, HMGN1, PSRC1 and RBP-Jκ) and (3) five lymphocyte proteins (AK2, ANX1, APEX1, HSPA8 and IDH2 ) that could predict late radiation-induced toxicity. In addition, these signatures allowed to identify new molecular partners likely to be involved in the mechanisms of mammary carcinogenesis and in the late radio-induced toxicity.

Les glioblastomes comptent parmi les cas les plus répandus et agressifs de tumeurs cérébrales. Ils sont généralement traités avec une combinaison de résection chirurgicale, suivie de chimiothérapie et radiothérapie. Cependant, le caractère infiltrant de la tumeur rend son traitement particulièrement délicat. La personnalisation de modèles biophysiques permet d’automatiser la mise au point de thérapies spécifiques au patient, en maximisant les chances de survie. Dans cette thèse nous nous sommes attachés à élaborer des outils permettant de personnaliser la radiothérapie des glioblastomes. Nous avons tout d’abord étudié l’impact de la prise en compte de l’œdème vasogénique. Notre étude rétrospective se fonde sur une base de donnée de patients traités avec un médicament anti-angiogénique, révélant a posteriori la présence de l’œdème. Ensuite, nous avons étudié le lien entre l’incertitude due à la segmentation de la tumeur et la distribution de la dose. Pour se faire, nous avons mis au point une méthode permettant d’échantillonner efficacement de multiples segmentations réalistes, à partir d’une unique segmentation clinique. De plus, nous avons personnalisé un modèle de croissance tumorale aux images IRM de sept patients. La méthode Bayésienne adoptée permet notamment d’estimer l’incertitude sur les paramètres personnalisés. Finalement, nous avons montré comment cette personnalisation permet de définir automatiquement la dose à prescrire au patient, en combinant le modèle de croissance tumoral avec un modèle de réponse à la dose délivrée. Les résultats prometteurs présentés ouvrent de nouvelles perspectives pour la personnalisation de la radiothérapie des tumeurs cérébrales. / Glioblastomas are among the most common and aggressive primary brain tumors. It is usually treated with a combination of surgical resection, followed with concurrent chemo- and radiotherapy. However, the infiltrative nature of the tumor makes its control particularly challenging. Biophysical model personalization allows one to automatically define patient specific therapy plans which maximize survival rates. In this thesis, we focused on the elaboration of tools to personalize radiotherapy planning. First, we studied the impact of taking into account the vasogenic edema into the planning. We studied a database of patients treated with anti-angiogenic drug, revealing a posteriori the presence of the edema. Second, we studied the relationship between the uncertainty in the tumor segmentation and dose distribution. For that, we present an approach in order to efficiently sample multiple plausible segmentations from a single expert one. Third, we personalized a tumor growth model to seven patients’ MR images. We used a Bayesian approach in order to estimate the uncertainty in the personalized parameters of the model. Finally, we showed how combining a personalized model of tumor growth with a dose response model could be used to automatically define patient specific dose distribution. The promising results of our approaches offer new perspectives for personalized therapy planning.

Cette thèse porte sur la prise en compte des variations anatomiques, notamment les déformations d’organes à risque (rectum, vessie), pouvant survenir lors du traitement de radiothérapie conformationnelle par modulation d’intensité du cancer de la prostate. Ces variations peuvent entrainer d’importants écarts dosimétriques par rapport au plan de traitement initialement optimisé, et augmenter le risque de complications. Grâce à l’évolution des dispositifs d’imagerie et des méthodes de traitement d’images, des approches permettant de cumuler la dose au cours du traitement ont été récemment proposées mais restent mal évaluées et leur intégration dans un schéma de radiothérapie adaptative suscite de nombreuses questions. Ainsi, la première partie de ce travail a consisté à évaluer, à l’aide d’un fantôme numérique, une méthode de suivi de dose développée récemment au LTSI. Les résultats obtenus ont montré que les incertitudes dosimétriques liées à l’algorithme de cumul de dose sont limitées par rapport aux dérives dosimétriques observées chez les patients. La seconde partie de ce travail a consisté à proposer une stratégie de radiothérapie adaptative reposant sur le suivi de dose et à évaluer son bénéfice dosimétrique sur trois patients pour lesquels des dérives avaient été observées. Le principe de cette méthode est de détecter les dérives dosimétriques entre la dose planifiée et la dose réellement délivrée et, si besoin, de les compenser grâce à une ou plusieurs replanifications. Les résultats obtenus ont montré que cette approche permet une réduction de la dérive aux organes à risque, tout en augmentant la dose au volume cible en comparaison à un traitement standard par IGRT, avec un nombre limité de replanifications (une ou deux) permettant d’envisager une implémentation clinique. / This thesis concerns the compensation of the anatomical variations, mainly the organs at risk (rectum, bladder) deformations, which occur during intensity modulated radiotherapy of the prostate cancer. These variations can lead to significant dose drift compared to the initially planned dose, increasing the risk of toxicity. Thanks to the evolution of imaging devices and of image processing methods, dose accumulation processes, allowing to estimate the cumulated dose during the treatment, have been recently proposed. Nevertheless those strategies suffer of a lack of evaluation and their integration into an adaptive radiotherapy raises many questions. Thus, in the first part of this work, a dose accumulation method recently developed at the LTSI was evaluated using a numerical phantom. The results obtained showed that the dosimetric uncertainties related to the cumulated dose process remain low compared to the dose drifts observed for patients. The second part of this work aimed to develop a dose guided adaptive radiotherapy process and to evaluate its dosimetrical benefit using three patients showing a dose drift. The principle of this method is to detect a potential drift between the planned and actually delivered doses and, if necessary, to compensate them thanks to one or more replanning(s). The results have shown that this approach has reduced the dose drift to the organs at risk, while increasing the dose to the prostate compared to standard IGRT treatment, with a limited number of replannings (one or two), enabling to consider a clinical implementation.