Dans le domaine de la radiobiologie, les dommages causés à l'ADN nucléaire sont largement étudiés puisque l’ADN est considéré la cible la plus sensible dans la cellule. En plus de l’ADN, les mitochondries commencent à attirer l'attention comme des cibles sensibles, car elles contrôlent de nombreuses fonctions importantes pour la survie de la cellule. Ce sont des organites à double membranes principalement chargées de la production d'énergie ainsi que la régulation réactive des espèces d'oxygène, la signalisation cellulaire et le contrôle de l'apoptose. Certaines expériences ont montré qu'après exposition aux rayonnements ionisants, les teneurs mitochondriales sont modifiées et leurs fonctions sont affectées. C'est pourquoi nous sommes intéressés par l'étude des effets des rayonnements ionisants sur les mitochondries. À l'échelle microscopique, les simulations Monte-Carlo sont utiles pour reproduire les traces de particules ionisantes pour une étude approfondie. Par conséquent, nous avons produit des fantômes 3D de mitochondries à partir d'images microscopiques de cellules fibroblastiques. Ces fantômes ont été transformés de façon à être téléchargés dans Geant4 sous forme de mailles tessélisées et tétraédriques remplies d'eau représentant la géométrie réaliste de ces organites. Les simulations numériques ont été effectuées afin de calculer les dépôts d’énergie induits par des photons de 250 keV à l'intérieur de ces fantômes. Les processus électromagnétiques Geant4-DNA sont utilisés pour simuler les traces des électrons secondaires produits. Étant donné que les dommages groupés sont plus difficiles à réparer par les cellules, un algorithme spécifique est utilisé pour étudier le regroupement spatial des dégâts potentiels des rayonnements. En radiothérapie, il est difficile de donner une dose efficace aux sites de la tumeur sans affecter les tissus environnants sains. L'utilisation de nanoparticules d'or comme radio-sensibilisateurs semble être prometteuse. Leur coefficient d'absorption élevé augmente la probabilité d’interaction des photons et induit une dose tumorale plus importante lorsque ces particules sont absorbés de manière préférentielle dans les tumeurs. Puisque l'or a un nombre atomique élevé, les électrons Auger sont produits en abondance. Ces électrons ont une portée plus faible que les photoélectrons, ce qui leur permet de déposer la majeure partie de leur énergie près de la nanoparticule, ce qui augmente la dose locale. Nous avons étudié l'effet radio-sensibilisant des nanoparticules d'or sur le fantôme des mitochondries. L'efficacité de cette méthode dépend du nombre, de la taille et de la répartition spatiale des nanoparticules d'or. Après exposition aux rayonnements ionisants, des espèces réactives d'oxygène sont produites dans le milieu biologique qui contient une quantité d'eau abondante. Dans cette étude, nous simulons les espèces chimiques produites à l'intérieur du fantôme des mitochondries et leur regroupement est estimé. La distribution spatiale des produits chimiques et leur évolution avec le temps et par la suite analysée au moyen d’algorithme spécifique de traitement de données. / In the field of radiobiology, damage to nuclear DNA is extensively studied since it is considered as a sensitive target inside cells. Mitochondria are starting to get some attention as sensitive targets as well since they control many functions important to the cell’s survival. They are double membraned organelles mainly in charge of energy production as well as reactive oxygen species regulation, cell signaling and apoptosis control. Some experiments have shown that after exposure to ionizing radiation the mitochondrial contents are altered and their functions are affected. That is why we are interested in studying the effects of ionizing radiation on mitochondria. At the microscopic scale, Monte Carlo simulations are helpful in reproducing the tracks of ionizing particles for a close study. Therefore, we produced 3D phantoms of mitochondria starting from microscopic images of fibroblast cells. These phantoms are easily uploaded into Geant4 as tessellated and tetrahedral meshes filled with water representing the realistic geometry of these organelles. Microdosimetric analysis is performed to deposited energy by 250keV photons inside these phantoms. The Geant4-DNA electromagnetic processes are used to simulate the tracking of the produced secondary electrons. Since clustered damages are harder to repair by cells, a clustering algorithm is used to study the spatial clustering of potential radiation damages. In radiotherapy, it is a challenge to deliver an efficient dose to the tumor sites without affecting healthy surrounding tissues. The use of gold nanoparticles as radio-sensitizers seems to be promising. Their high photon absorption coefficient compared to tissues deposit a larger dose when they are preferentially absorbed in tumors. Since gold has a high atomic number, Auger electrons are produced abundantly. These electrons have lower range than photoelectrons enabling them to deposit most of their energy near the nanoparticle and thus increasing the local dose. We studied the radio-sensitizing effect of gold nanoparticles on the mitochondria phantom. The effectiveness of this method is dependent on the number, size and spatial distribution of gold nanoparticles. After exposure to ionizing radiation, reactive oxygen species are produced in the biological material that contains abundant amount of water. In this study, we simulate the chemical species produced inside the mitochondria phantom and their clustering is estimated. We take advantage of the Geant4-DNA chemistry processes libraries that is recently included in the Geant4.10.1 release to simulate the spatial distribution of the chemicals and their evolution with time.

L’interaction des particules chargées avec la matière conduit à un dépôt d’énergie très localisé dans des traces de dimensions sub-micrométriques. Cette propriété unique rend ce type de rayonnement ionisant particulièrement intéressant pour disséquer les mécanismes moléculaires radio-induits suite à l’échelle de la cellule. L’utilisation de microfaisceaux de particules chargées offre en outre la capacité d’irradier sélectivement à l’échelle du micromètre avec une dose contrôlée jusqu’à la particule unique. Mon travail a porté sur des irradiations réalisées avec le microfaisceau de particules chargées de la plateforme AIFIRA (Applications Interdisciplinaires des Faisceaux d’Ions en Région Aquitaine) du CENBG. Ce microfaisceau délivre des protons et particules alpha et est dédié aux irradiations ciblées in vitro (cellules humains) et in vivo (C. elegans).En complément de l’intérêt qu’elles présentent pour des études expérimentales, les dépôts d’énergie et les interactions des particules chargées avec la matière peuvent être modélisés précisément tout au long de leur trajectoire en utilisant des codes de structures de traces basés sur des méthodes Monte Carlo. Ces outils de simulation permettent une caractérisation précise de la micro-dosimétrie des irradiations allant de la description détaillée des interactions physiques à l’échelle nanométrique jusqu’à la prédiction du nombre de dommages à l’ADN et leurs distributions dans l’espace.Au cours de ma thèse, j’ai développée des modèles micro-dosimétriques basés sur l’outil de modélisation Geant4-DNA dans deux cas. Le premier concerne la simulation de la distribution d’énergie déposée dans un noyau cellulaire et le calcul du nombre des différents types de dommages ADN (simple et double brin) aux échelles nanométrique et micrométrique, pour différents types et nombres de particules délivrées. Ces résultats sont confrontés à la mesure expérimentale de la cinétique de protéines de réparation de l’ADN marquées par GFP (Green Fluorescent Protein) dans des cellules humaines. Le second concerne la dosimétrie de l’irradiation d’un organisme multicellulaire dans le cadre d’études de l’instabilité génétique dans un organisme vivant au cours du développement (C. elegans). J’ai simulé la distribution de l’énergie déposée dans différents compartiments d’un modèle réaliste en 3D d’un embryon de C. elegans suite à des irradiations par protons. Enfin, et en parallèle de ces deux études, j’ai développé un protocole pour caractériser le microfaisceau d'AIFIRA à l’aide de détecteurs de traces fluorescent (FNTD) pour des irradiations par protons et par particules alpha. Ce type de détecteur permet en effet de visualiser les trajectoires des particules incidentes avec une résolution de l’ordre de 200 nm et d’examiner la qualité des irradiations cellulaires réalisées par le microfaisceau. / The interaction of charged particles with matter leads to a very localized energy deposits in sub-micrometric tracks. This unique property makes this type of ionizing radiation particularly interesting for deciphering the radiation-induced molecular mechanisms at the cell scale. Charged particle microbeams (CPMs) provide the ability to target a given cell compartment at the micrometer scale with a controlled dose down to single particle. My work focused on irradiations carried out with the CPM at the AIFIRA facility in the CENBG (Applications Interdisciplinaires des Faisceaux d’Ions en Région Aquitaine). This microbeam delivers protons and alpha particles and is dedicated to targeted irradiation in vitro (human cells) and in vivo (C. elegans).In addition to their interest for experimental studies, the energy deposits and the interactions of charged particles with matter can be modeled precisely along their trajectory using track structure codes based on Monte Carlo methods. These simulation tools allow a precise characterization of the micro-dosimetry of the irradations from the detailed description of the physical interactions at the nanoscale to the prediction of the number of DNA damage, their complexity and their distribution in space.During my thesis, I developed micro-dosimetric models based on the Geant4-DNA modeling toolkit in two cases. The first concerns the simulation of the energy distribution deposited in a cell nucleus and the calculation of the number of different types of DNA damage (single and double strand breaks) at the nanometric and micrometric scales, for different types and numbers of delivered particles. These simulations are compared with experimental measurements of the kinetics of GFP-labeled (Green Fluorescent Protein) DNA repair proteins in human cells. The second is the dosimetry of irradiation of a multicellular organism to study the genetic instability in a living organism during development (C. elegans). I simulated the distribution of the energy deposited in different compartments of a realistic 3D model of a C. elegans embryo following proton irradiations. Finally, and in parallel with these two studies, I developed a protocol to characterize the AIFIRA microbeam using fluorescent nuclear track detector (FNTD) for proton and alpha particle irradiations. This type of detector makes it possible to visualize in 3D the incident particle tracks with a resolution of about 200 nm and to examine the quality of the cellular irradiations carried out by the CPM.