Les améliorations dans les procédures cliniques de radiothérapie ont conduit à des taux de survie élevés. En conséquence, les effets secondaires possibles de la dose délivrée aux tissus sains sont devenus une préoccupation croissante pour les radiothérapeutes. L’estimation de la dose aux tissus sains, y compris à distance du volume-cible présente un intérêt clinique croissant pour évaluer le risque aux structures sensibles situées hors du champ d’irradiation. Nos travaux antérieurs se sont focalisés sur l’évaluation la dose à distance des faisceaux de photons. La dose à distance due aux faisceaux d’électrons n’a jamais été prise en compte, ce qui peut conduire à des sous-estimations des doses à distance lorsque le traitement est fait entièrement ou partiellement par les électrons. C’est la raison pour laquelle, une étude approfondie de la dose à distance des faisceaux d’électrons est devenue indispensable. Dans le présent travail de thèse, nous avons dans un premier temps réalisé une étude expérimentale décrivant la dose à distance des faisceaux d’électrons de haute énergie produits par différents accélérateurs linéaires, équipés de différents types d’applicateurs. Nous avons analysé l’influence de différents paramètres du faisceau sur la dose à distance dont l’énergie du faisceau, la taille et le type de l’applicateur, la distance à l’axe du faisceau ainsi que la profondeur dans l’eau. Nous avons séparé la dose à distance en deux composantes principales : la dose due aux photons de bremsstrahlung et la dose due aux électrons diffusés. Ensuite, nous avons développé un modèle pour le calcul de la composante de la dose due aux photons de bremsstrahlung en tout point dans le patient, et un modèle pour le calcul de la dose due aux électrons diffusés en dehors du champ d’irradiation. Enfin, nous avons évalué l’application de nos modèles de calcul de dose à distance dans une situation clinique réelles afin de démontrer l’intérêt clinique de notre modélisation, l’objectif étant de mettre un point à terme, un outil logiciel innovant répondant à la fois aux besoins de l’optimisation de la radiothérapie moderne et à ceux de l’épidémiologie de la dose comme facteur de risque d’effets iatrogènes. / The large improvements in the radiotherapy (RT) procedures have led to high survival rates. So the possible side late effects of the radiotherapy due to the doses deposited into the normal tissues have become a growing concern for the radio-oncologists. The assessment of the dose outside the radiation field presents an important clinical benefit for estimating the risk at sensible structures situated partially or entirely outside the radiation field, especially in pediatric, pregnant patients or the patients having cardiac implantable devices. More understanding of side effects of RT will require not only improved control of the high doses delivered to the target volumes, but also better knowledge of the unintended but unavoidable lower doses delivered out of the target. In this context, most studies on out-of-field dose estimation focus on photon beams. Nevertheless, electron beams are still an important component of RT, for treating superficial tumors (at depths < 5 cm). The out-of-field dose from electron beams has never been taken account, which causes an under estimation of this dose when the radiotherapy is done only or partly by the electrons. For this reason, a detailed investigation of the out-of-field dose from electron beams is essential for better estimation of the out-of-field dose regardless the radiotherapy type. In this thesis, we have experimentally evaluated the out-of-field doses in high-energy electron beams for three linear accelerators equipped with different electron applicator types used in daily practice. The dependence of this dose on different parameters, such as the applicator size, the electron beam energy, the depth, and the off-axis distance have been investigated. The scattered electrons component and the bremsstrahlung photons component have been separated by a semi-experimental method. We have developed a multi-source model based on existing multi-scattering models for calculating the bremsstrahlung dose distribution at any point in the patient inside and outside the radiation field. We have also analytically calculated the scattered electrons dose distribution outside the radiation field. These two models permit to calculate the total out-of-field dose from electron beams anywhere in the patient. Finally, we have evaluated the application of our models of dose calculation in a real clinical situation in order to validate our software, the aim being to set up an innovative software tool, meeting both the needs of radiotherapy and epidemiology of the dose as a risk factor for iatrogenic effects

La radiothérapie occupe une place majeure dans l’arsenal thérapeutique des cancers.Malgré des progrès technologiques importants depuis près de vingt ans, des tissus sains au voisinage ou à distance de la tumeur cible continuent à être inévitablement irradiés à des niveaux de doses très différents. Ces doses sont à l’origine d’effets secondaires précoces (Œdème, radionécrose, Dysphagie, Cystite) ou tardifs (rectorragies, télangiectasie, effets carcinogènes, les pathologie cérébrovasculaires).Il est donc primordial de quantifier et de prévenir ces effets secondaires afin d'améliorer la qualité de vie des patients pendant et après leur traitement.La modélisation du risque d'événements iatrogènes radio-induits repose sur la connaissance précise de la distribution de doses au tissu sain d'intérêt ainsi que sur un modèle de risque capable d'intégrer un maximum d'informations sur le profil d'irradiation et des autres facteurs de risques non dosimétriques. L'objectif de ce travail de thèse a été de développer des méthodes de modélisation capables de répondre à des questions spécifiques aux deux aspects, dosimétriques et statistiques, intervenant dans la modélisation du risque de survenue d'événements iatrogènes radio-induits.Nous nous sommes intéressé dans un premier temps au développement d'un modèle de calcul permettant de déterminer avec précision la dose à distance due au rayonnements de diffusion et de fuite lors d'un traitement par radiothérapie externe et ce, pour différentes tailles des champs et à différentes distances de l'axe du faisceau. Ensuite, nous avons utilisé des méthodes d'analyse de données fonctionnelles pour développer un modèle de risque de toxicité rectales après irradiation de la loge prostatique. Le modèle proposé a montré des performances supérieures aux modèles de risque existants particulièrement pour décrire le risque de toxicités rectales de grade 3. Dans le contexte d'une régression de Cox flexible sur données réelles, nous avons proposé une application originale des méthodes de statistique fonctionnelle permettant d'améliorer les performances d'une modélisation via fonctions B-splines de la relation dose-effet entre la dose de radiation à la thyroïde.Nous avons également proposé dans le domaine de la radiobiologie une méthodes basée sur l’analyse en composantes principales multiniveau pour quantifier la part de la variabilité expérimentale dans la variabilité des courbes de fluorescence mesurées. / Radiotherapy plays a major role in the therapeutic arsenal against cancer. Despite significant advances in technology for nearly twenty years, healthy tissues near or away from the target tumor remain inevitably irradiated at very different levels of doses. These doses are at the origin of early side effects (edema, radiation necrosis, dysphagia, cystitis) or late (rectal bleeding, telangiectasia, carcinogenic, cerebrovascular diseases). It is therefore essential to quantify and prevent these side effects to improve the patient quality of life after their cancer treatment.The objective of this thesis was to propose modelling methods able to answer specific questions asked in both aspects, dosimetry and statistics, involved in the modeling risk of developing radiation-induced iatrogenic pathologies.Our purpose was firstly to assess the out-of-field dose component related to head scatter radiation in high-energy photon therapy beams and then derive a multisource model for this dose component. For measured doses under out-of-field conditions, the average local difference between the calculated and measured photon dose is 10%, including doses as low as 0.01% of the maximum dose on the beam axis. We secondly described a novel method to explore radiation dose-volume effects. Functional data analysis is used to investigate the information contained in differential dose-volume histograms. The method is applied to the normal tissue complication probability modeling of rectal bleeding for In the flexible Cox model context, we proposed a new dimension reduction technique based on a functional principal component analysis to estimate a dose-response relationship. A two-stage knots selection scheme was performed: a potential set of knots is chosen based on information from the rotated functional principal components and the final knots selection is then based on statistical model selection. Finally, a multilevel functional principal component analysis was applied to radiobiological data in order to quantify the experimental Variability for replicate measurements of fluorescence signals of telomere length.