Les méthodes de simulation Monte-Carlo s’étendent avec succès à différents domaines de la physique médicale mais aussi à différentes échelles, par exemple de la planification des traitements de radiothérapie jusqu’à une prévision des effets des rayonnements au niveau des cellules cancéreuses. La plateforme de simulation Monte-Carlo GATE, basée sur l’outil Geant4, propose des fonctionnalités dédiées aux simulations en physique médicale (médecine nucléaire et radiothérapie). Pour les applications en radiobiologie, les modèles physiques Geant4-DNA implémentés jusqu’à très basse énergie (eV) permettent d’estimer des quantités micro-dosimétriques d’intérêt. Dans le but d’implémenter une plateforme de simulation Monte-Carlo multi-échelles, nous nous sommes d’abord intéressés à la validation des modèles physiques de Geant4-DNA, puis à leur intégration dans la plateforme de simulation GATE et enfin à une validation de cette implémentation dans un contexte de radiothérapie et protonthérapie. De manière à valider les modèles physiques de Geant4-DNA, des points kernels de dose en électrons mono-énergétiques (de 10 keV à 100 keV) ont été simulés en utilisant les modèles physiques de Geant4 et de Geant4-DNA et ils ont comparés au code Monte-Carlo EGSnrc. Les parcours et pouvoirs d’arrêts des électrons (de 7,4 eV à 1 MeV) et des protons (de 1 keV à 100 MeV) calculés avec Geant4-DNA (processus et modèles préalablement intégrés dans GATE) ont ensuite été validés. Nous avons alors proposé de simuler avec la plateforme GATE l’impact de faisceaux cliniques et pré-cliniques sur l’ADN cellulaire. Nous avons ainsi modélisé un faisceau de protonthérapie de 193,1 MeV, un accélérateur linéaire en mode électrons de 6 MeV et un irradiateur RX de 250 kV. Ces simulations ont d’abord été validées en milieu aqueux par une comparaison de la dose macroscopique avec des mesures expérimentales. Les faisceaux ont ensuite été utilisés pour calculer, pour chacun d’entre eux, les fréquences de dépôts d’énergie à l’ADN. La molécule d’ADN a été simulée tout d’abord grâce à des cylindres équivalents en dimension à 10 paires de base (2 nm x 2 nm), équivalents à la taille d’un nucléosome (10 nm x 5 nm) et équivalents à la taille d’une fibre de chromatine (25 nm x 25 nm). Tous ces cylindres ont été placés aléatoirement dans un volume d’eau liquide (de rayon 500 nm). Nous avons ensuite reconstruit la molécule d’ADN dans Geant4 à partir de la lecture de fichiers PDB (Protein Data Bank) représentant douze paires de base de la molécule d’ADN et un dinucléosome (347 paires de base). Enfin, nous avons développé un outil permettant de corréler les positions de dépôts d’énergie directs dans l’eau liquide avec les coordonnées des paires de base de l’ADN, afin de calculer les nombres de cassures simple et double brin de l’ADN. Tous les calculs réalisés au cours de ce travail, ont été déployés sur l’Infrastructure de Grille Européenne ; des tests de performance sont proposés pour mesurer l’intérêt de ce type d’architecture pour les calculs Monte-Carlo. / The Monte Carlo simulation methods are successfully being used in various areas of medical physics but also at different scales, for example, from the radiation therapy treatment planning systems to the prediction of the effects of radiation in cancer cells. The Monte Carlo simulation platform GATE based on the Geant4 toolkit offers features dedicated to simulations in medical physics (nuclear medicine and radiotherapy). For radiobiology applications, the Geant4-DNA physical models are implemented to track particles till very low energy (eV) and are adapted for estimation of micro-dosimetric quantities. In order to implement a multi-scale Monte Carlo platform, we first validated the physical models of Geant4-DNA, and integrated them into GATE. Finally, we validated this implementation in the context of radiation therapy and proton therapy. In order to validate the Geant4-DNA physical models, dose point kernels for monoenergetic electrons (10 keV to 100 keV) were simulated using the physical models of Geant4-DNA and were compared to those simulated with Geant4 Standard physical models and another Monte Carlo code EGSnrc. The range and the stopping powers of electrons (7.4 eV to 1 MeV) and protons (1 keV to 100 MeV) calculated with GATE/Geant4-DNA were then compared with literature. We proposed to simulate with the GATE platform the impact of clinical and preclinical beams on cellular DNA. We modeled a clinical proton beam of 193.1 MeV, 6 MeV clinical electron beam and a X-ray irradiator beam. The beams models were validated by comparing absorbed dose computed and measured in liquid water. Then, the beams were used to calculate the frequency of energy deposits in DNA represented by different geometries. First, the DNA molecule was represented by small cylinders : 2 nm x 2 nm ( 10 bp), 5 nm x 10 nm ( nucleosome) and 25 nm x 25 nm ( chromatin fiber). All these cylinders were placed randomly in a sphere of liquid water (500 nm radius). Then we reconstructed the DNA molecule in Geant4 by reading PDB (Protein Data Bank) files representing twelve base pairs of the DNA molecule and a dinucleosome (347 base pairs). Finally, we developed a tool to correlate the positions of direct energy deposit in liquid water with the coordinates of the base pairs of DNA to calculate the number of single and double strand breaks in DNA. All calculations in this work were perfomed on the European Grid Infrastructure; performance tests are available to estimate the utility of this type of architecture for Monte Carlo calculations.

Ce travail de thèse s'inscrit dans le cadre d'une recherche fondamentale visant à améliorer la compréhension des mécanismes d'interaction des rayonnements ionisants avec la matière biologique en s’intéressant à la prédiction par simulations numériques des dommages précoces radio-induits à l’ADN. Dans un premier temps, une étude sur le rôle des différents niveaux de compaction de la chromatine (hétérochromatine et euchromatine) dans l’induction de ces premiers effets, à savoir les cassures de brins de l’ADN, est proposée. De nouveaux modèles géométriques réalistes de noyaux cellulaires intégrant la compaction de la chromatine ont donc été créés et utilisés dans une chaîne de calcul, basée sur le code Monte Carlo ouvert et généraliste Geant4 et son extension Geant4-DNA, permettant de simuler les étapes physique, physico-chimique et chimique menant aux cassures de brin. Les développements effectués dans cette thèse ont également permis d’étudier l’impact de plusieurs types de rayonnement (protons, alphas, photons) sur les dommages radio-induits. Les différents résultats ont été confrontés à des données expérimentales et en particulier à celles obtenues par l’équipe de radiobiologistes de l’IRSN. Enfin, une étude portant sur les effets plus tardifs comme la réparation de l’ADN et la mort cellulaire a été réalisée par l’utilisation conjointe de la chaîne de calcul et de certains modèles paramétriques issus de la littérature. Ainsi, les résultats obtenus dans cette thèse ont permis d’acquérir de nouvelles connaissances et de développer des outils de calcul qui seront bientôt disponibles en accès libre à la communauté scientifique afin de prédire des effets biologiques de plusieurs types de rayonnement dans la perspective d’améliorer les modèles de risque. / This thesis work is part of a fundamental research aimed at improving the understanding of the mechanisms of interaction of ionizing radiation with biological matter by focusing on the prediction of early radiation-induced DNA damage by numerical simulations. As a first step, a study on the role of the different levels of chromatin compaction (heterochromatin and euchromatin) in the induction of these early effects, namely DNA strand breaks, is proposed. New realistic geometric models of cell nuclei integrating chromatin compaction have therefore been created and used in a calculation chain, based on the open source and general purpose Monte Carlo code Geant4 and its extension Geant4-DNA, to simulate the physical, physico-chemical and chemical stages leading to strand breaks. Developments in this thesis have also allowed studying the impact of several types of radiation (protons, alphas, photons) on radiation-induced damage. The various results were compared with experimental data and in particular those obtained by the IRSN team of radiobiologists. Finally, a study on later effects such as DNA repair and cell death was carried out using both the calculation chain and some parametric models from the literature. Thus, the results obtained in this thesis have made it possible to acquire new knowledge and to develop calculation tools that will soon be delivered in free access to the scientific community in order to predict the biological effects of several types of radiation with the aim of improving risk models.