L'étude des effets biologiques des radiations ionisantes à l'échelle de la cellule individuelle et en particulier sur l'ADN du noyau cellulaire reste un enjeu majeur de la radiobiologie actuelle. L'objectif principal des recherches actuelles est de déterminer quels peuvent être les effets biologiques délétères des radiations ionisantes pour la santé humaine, en particulier dans le domaine des faibles doses de radiation. Afin d'étudier précisément la réponse des cellules aux radiations ionisantes, de nombreuses études expérimentales des effets des radiations ionisantes sur les cellules, tissus et organismes biologiques aux basses énergies ont accumulées de grandes quantités de données de qualité sur la réponse de cellules aux radiations. Il existe également de nombreux modèles semi-empiriques de survie cellulaire qui incorporent des paramètres biologiques et physiques. En parallèle, des stochastiques basées sur la technique " Monte Carlo " pour modéliser les processus élémentaires en physique, chimie et biologie sont en cours de développement. L'outil Geant4 développé dès 1993 (CERN et KEK) en utilisant des techniques informatiques de dernière génération (C++) permet à l'utilisateur de construire une simulation complète grâce à de nombreuses fonctionnalités : formes géométriques, matériaux, particules élémentaires, processus physiques électromagnétiques et hadroniques, visualisation, analyse de données, interactivité et extensibilité... Cependant, Geant4 présente un certain nombre de limitations pour la simulation des effets biologiques des radiations ionisants à l'échelle subcellulaire : les modèles standard ne prennent pas compte le technique " pas-à-pas ", les modèles physique sont limités à basse énergie, il n'a pas des descriptions des cibles moléculaires et Geant4 n'est pas capable de simuler les étapes physico-chimique et chimique nécessaire pour déterminer l'oxydation des bases et les éventuelles cassures d'ADN.Dans ce contexte, le projet Geant4-DNA propose d'étendre Geant4 afin de modéliser les interactions des radiations ionisantes à l'échelle de la cellule biologique et la molécule d'ADN et aux basses énergies. Au cours du travail de thèse, j'ai tout d'abord validé les modèles physiques en comparant les résultats de simulation à une grande collection de données expérimentales disponibles dans la littérature. L'accord entre les valeurs de sections efficaces totales et différentielles et les mesures expérimentales a été quantifié à l'aide du test statistique Kolmogorov-Smirnov. J'ai par la suite amélioré les classes des processus de diffusion élastique des électrons et travailler sur les calculs théoriques du modèle de diffusion élastique des protons et des alphas dans l'eau liquide auparavant inexistant dans Geant4-DNA. J'ai effectué une combinaison des processus multi-échelles des modèles de Geant4-DNA (à l'échelle microscopique) avec les modèles électromagnétiques disponibles dans l'outil Geant4 (les processus d'interaction des photons et autres modèles de Geant4). A la fin de mon travail, j'ai participé à l'estimation des performances de Geant4-DNA pour la dosimétrie dans des géométries de petite taille (jusqu'à l'échelle du nanomètre) dans l'eau liquide à l'aide des distributions " Dose Point Kernel ". J'ai ensuite calculé les fréquences de dépôts d'énergie dans des petits cylindres de dimensions nanométriques correspondant à des cibles biologiques et des modèles de noyau cellulaire humain simplifié pour l'estimation des cassures directes simple et double. Mon travail de thèse a fournit les premiers résultats de Geant4-DNA pour la prédiction de cassure de brin d'ADN combinant physique et géométries à l'échelle de l'ADN. Enfin, nous avons développé des classes de processus et modèles basés sur l'approche CTMC-COB (Classical Trajetory Monte Carlo avec critère d'Over Barrier) spécifique aux bases de la molécule d'ADN et à l'eau liquide.

A l'aide de l'imagerie fonctionnelle par résonance magnétique cérébrale (IRMf), il est possible de localiser in vivo les aires visuelles corticales dites "de bas niveau" , sur la base de leur propriété de rétinotopie. La cartographie rétinotopique est un préliminaire essentiel pour interpréter les résultats de nombreuses études sur le traitement de l'information visuelle. Il est donc important de s'assurer de sa robustesse. Nous avons obtenu des cartes rétinotopiques à partir d'acquisitions sur un imageur à 3 T, et mesuré l'accroissement de la variance des signaux fonctionnels induit par l'augmentation du champ magnétique utilisé. Nos résultats confi rment que cet accroissement n'est pas uniquement du à l'augmentation du bruit physiologique, mais aussi à une amélioration de la part de variance attribuable aux stimuli visuels. L'inconvénient majeur de la séquence d'acquisition EPI que nous utilisons est sa sensibilité aux hétérogénéités de champ magnétique qui induit des distorsions géométriques dans les images. Nos analyses révèlent que la méthode de correction des distorsions que nous utilisons évite des erreurs importantes de localisation corticale des activations fonctionnelles, et contribue à la robustesse des études dans les aires visuelles de bas niveau. Sur base des cartes rétinotopiques, nous avons mis en place un cadre novateur de représentation de données individuelles, dans la perspective d'une étude de groupe. Ce cadre permet de s'a ffranchir de la variabilité fonctionnelle inter-individuelle importante des aires visuelles de bas niveau, et de visualiser les résultats d'une étude de groupe dans un système de coordonnées uni fié. Nous avons estimé la robustesse de cette approche et l'avons appliquée à deux études portant sur le traitement local et global de l'information visuelle.

Le nombre croissant de nanostructures physiques et biologiques sont caractérisées par l'ordre non-cristallin et par les propriétés physiques et biologiques non-conventionnels. Parmi ses systèmes il faut distinguer les capsides virales. Ces coquilles solides qui sont formées par un certain nombre dec opies de la même protéine protègent le virus des agressions et facilitent le processus d'infection de la cellule hôte. La distribution des positions de protéines dans une capside est très régulière et montre un degré très élevé d'ordre, aussi bien orientationnel que positionnel. Les capsides virales de topologie sphérique possèdent la symétrie icosaédrique compatible avec l'ordre cristallin local, mais incompatible avec la symétrie cristalline globale et interdite dans les structures périodiques.Ici, sur l'exemple des Papovavirus, nous montrons l'existence d'un nouveau type d'organisation qui résulte dans l'ordre quasicristallin pentagonal chiral de protéines dans des capsides de topologie sphérique et géométrie dodécaédrique. La formation de cet ordre est décrite dans le cadre de la théorie de Landau de cristallisation. Les particularités de la structure sont élucidées grâce à la théorie d'élasticité des quasicristaux comme le résultat de la déformation phason nonlinéaire.La généralisation de la théorie de Landau de cristallisation que nous proposons permet également de décrire des structures quasicristallines octogonales et décagonales grâce à la minimisation contrainte de l'énergie libre, et donne un nouveau sens physique à la notion de " fenêtre de projection " utilisée dans la cristallographie multidimensionnelle.

Différentes méthodes ayant pour objectif une utilisation optimale d'antennes radio-fréquences spécialisées en imagerie par résonance magnétique sont développées et validées. Dans un premier temps, il est démontré qu'une méthode alternative de combinaison des signaux provenant des différents canaux de réception d'un réseau d'antennes mène à une réduction significative du biais causé par la présence de bruit dans des images de diffusion, en comparaison avec la méthode de la somme-des-carrés généralement utilisée. Cette réduction du biais engendré par le bruit permet une amélioration de l'exactitude de l'estimation de différents paramètres de diffusion et de diffusion tensorielle. De plus, il est démontré que cette méthode peut être utilisée conjointement avec une acquisition régulière sans accélération, mais également en présence d'imagerie parallèle. Dans une seconde perspective, les bénéfices engendrés par l'utilisation d'une antenne d'imagerie intravasculaire sont étudiés. Suite à une étude sur fantôme, il est démontré que l'imagerie par résonance magnétique intravasculaire offre le potentiel d'améliorer significativement l'exactitude géométrique lors de mesures morphologiques vasculaires, en comparaison avec les résultats obtenus avec des antennes de surface classiques. Il est illustré qu'une exactitude géométrique comparable à celle obtenue grâce à une sonde ultrasonique intravasculaire peut être atteinte. De plus, plusieurs protocoles basés sur une acquisition de type balanced steady-state free-precession sont comparés dans le but de mettre en évidence différentes relations entre les paramètres utilisés et l'exactitude géométrique obtenue. En particulier, des dépendances entre la taille du vaisseau, le rapport signal-sur-bruit à la paroi vasculaire, la résolution spatiale et l'exactitude géométrique atteinte sont mises en évidence. Dans une même optique, il est illustré que l'utilisation d'une antenne intravasculaire permet une amélioration notable de la visualisation de la lumière d'une endoprothèse vasculaire. Lorsque utilisée conjointement avec une séquence de type balanced steady-state free-precession utilisant un angle de basculement spécialement sélectionné, l'imagerie par résonance magnétique intravasculaire permet d'éliminer complètement les limitations normalement engendrées par l'effet de blindage radio-fréquence de l'endoprothèse. / Specific methods for an optimal use of specialized magnetic resonance radiofrequency coils are developed and validated. First, an improved combination of signals from the different channels of an array coil is shown to lead to a significant reduction of the noise bias in diffusion images, in comparison to the generally accepted sum-of-squares combination method. This reduction of the noise bias is demonstrated to greatly improve the accuracy of the estimated diffusion and diffusion tensor parameters, both for a standard non-accelerated acquisition and when parallel imaging is used. In a second scope, the benefits arising from the use of an intravascular imaging antenna are investigated. Using a phantom study, it is demonstrated that intravascular magnetic resonance imaging offers the potential to improve the geometrical accuracy of morphological vascular measurements in comparison to standard surface magnetic resonance imaging and that a geometrical accuracy comparable to the one obtained using intravascular ultrasound can be reached. Several protocols based on a balanced steady-state free-precession sequence are compared in order to highlight the relations between several acquisitions parameters and the achieved geometrical accuracy. In particular, important relations between the vessel size, the vessel wall signal-to-noise ratio, the in-plane resolution and the achieved accuracy are illustrated. In a similar manner, the use of an intravascular antenna is demonstrated to be highly beneficial for an improved in-stent lumen visualization. When used with a balanced steady-state free-precession acquisition with a carefully chosen flip angle, intravascular magnetic resonance imaging can effectively eliminate the hindering aspect of the radiofrequency shielding effect caused by the presence of the vascular stent.

La radiothérapie occupe une place majeure dans l’arsenal thérapeutique des cancers.Malgré des progrès technologiques importants depuis près de vingt ans, des tissus sains au voisinage ou à distance de la tumeur cible continuent à être inévitablement irradiés à des niveaux de doses très différents. Ces doses sont à l’origine d’effets secondaires précoces (Œdème, radionécrose, Dysphagie, Cystite) ou tardifs (rectorragies, télangiectasie, effets carcinogènes, les pathologie cérébrovasculaires).Il est donc primordial de quantifier et de prévenir ces effets secondaires afin d'améliorer la qualité de vie des patients pendant et après leur traitement.La modélisation du risque d'événements iatrogènes radio-induits repose sur la connaissance précise de la distribution de doses au tissu sain d'intérêt ainsi que sur un modèle de risque capable d'intégrer un maximum d'informations sur le profil d'irradiation et des autres facteurs de risques non dosimétriques. L'objectif de ce travail de thèse a été de développer des méthodes de modélisation capables de répondre à des questions spécifiques aux deux aspects, dosimétriques et statistiques, intervenant dans la modélisation du risque de survenue d'événements iatrogènes radio-induits.Nous nous sommes intéressé dans un premier temps au développement d'un modèle de calcul permettant de déterminer avec précision la dose à distance due au rayonnements de diffusion et de fuite lors d'un traitement par radiothérapie externe et ce, pour différentes tailles des champs et à différentes distances de l'axe du faisceau. Ensuite, nous avons utilisé des méthodes d'analyse de données fonctionnelles pour développer un modèle de risque de toxicité rectales après irradiation de la loge prostatique. Le modèle proposé a montré des performances supérieures aux modèles de risque existants particulièrement pour décrire le risque de toxicités rectales de grade 3. Dans le contexte d'une régression de Cox flexible sur données réelles, nous avons proposé une application originale des méthodes de statistique fonctionnelle permettant d'améliorer les performances d'une modélisation via fonctions B-splines de la relation dose-effet entre la dose de radiation à la thyroïde.Nous avons également proposé dans le domaine de la radiobiologie une méthodes basée sur l’analyse en composantes principales multiniveau pour quantifier la part de la variabilité expérimentale dans la variabilité des courbes de fluorescence mesurées. / Radiotherapy plays a major role in the therapeutic arsenal against cancer. Despite significant advances in technology for nearly twenty years, healthy tissues near or away from the target tumor remain inevitably irradiated at very different levels of doses. These doses are at the origin of early side effects (edema, radiation necrosis, dysphagia, cystitis) or late (rectal bleeding, telangiectasia, carcinogenic, cerebrovascular diseases). It is therefore essential to quantify and prevent these side effects to improve the patient quality of life after their cancer treatment.The objective of this thesis was to propose modelling methods able to answer specific questions asked in both aspects, dosimetry and statistics, involved in the modeling risk of developing radiation-induced iatrogenic pathologies.Our purpose was firstly to assess the out-of-field dose component related to head scatter radiation in high-energy photon therapy beams and then derive a multisource model for this dose component. For measured doses under out-of-field conditions, the average local difference between the calculated and measured photon dose is 10%, including doses as low as 0.01% of the maximum dose on the beam axis. We secondly described a novel method to explore radiation dose-volume effects. Functional data analysis is used to investigate the information contained in differential dose-volume histograms. The method is applied to the normal tissue complication probability modeling of rectal bleeding for In the flexible Cox model context, we proposed a new dimension reduction technique based on a functional principal component analysis to estimate a dose-response relationship. A two-stage knots selection scheme was performed: a potential set of knots is chosen based on information from the rotated functional principal components and the final knots selection is then based on statistical model selection. Finally, a multilevel functional principal component analysis was applied to radiobiological data in order to quantify the experimental Variability for replicate measurements of fluorescence signals of telomere length.

Différentes méthodes ayant pour objectif une utilisation optimale d'antennes radio-fréquences spécialisées en imagerie par résonance magnétique sont développées et validées. Dans un premier temps, il est démontré qu'une méthode alternative de combinaison des signaux provenant des différents canaux de réception d'un réseau d'antennes mène à une réduction significative du biais causé par la présence de bruit dans des images de diffusion, en comparaison avec la méthode de la somme-des-carrés généralement utilisée. Cette réduction du biais engendré par le bruit permet une amélioration de l'exactitude de l'estimation de différents paramètres de diffusion et de diffusion tensorielle. De plus, il est démontré que cette méthode peut être utilisée conjointement avec une acquisition régulière sans accélération, mais également en présence d'imagerie parallèle. Dans une seconde perspective, les bénéfices engendrés par l'utilisation d'une antenne d'imagerie intravasculaire sont étudiés. Suite à une étude sur fantôme, il est démontré que l'imagerie par résonance magnétique intravasculaire offre le potentiel d'améliorer significativement l'exactitude géométrique lors de mesures morphologiques vasculaires, en comparaison avec les résultats obtenus avec des antennes de surface classiques. Il est illustré qu'une exactitude géométrique comparable à celle obtenue grâce à une sonde ultrasonique intravasculaire peut être atteinte. De plus, plusieurs protocoles basés sur une acquisition de type balanced steady-state free-precession sont comparés dans le but de mettre en évidence différentes relations entre les paramètres utilisés et l'exactitude géométrique obtenue. En particulier, des dépendances entre la taille du vaisseau, le rapport signal-sur-bruit à la paroi vasculaire, la résolution spatiale et l'exactitude géométrique atteinte sont mises en évidence. Dans une même optique, il est illustré que l'utilisation d'une antenne intravasculaire permet une amélioration notable de la visualisation de la lumière d'une endoprothèse vasculaire. Lorsque utilisée conjointement avec une séquence de type balanced steady-state free-precession utilisant un angle de basculement spécialement sélectionné, l'imagerie par résonance magnétique intravasculaire permet d'éliminer complètement les limitations normalement engendrées par l'effet de blindage radio-fréquence de l'endoprothèse. / Specific methods for an optimal use of specialized magnetic resonance radiofrequency coils are developed and validated. First, an improved combination of signals from the different channels of an array coil is shown to lead to a significant reduction of the noise bias in diffusion images, in comparison to the generally accepted sum-of-squares combination method. This reduction of the noise bias is demonstrated to greatly improve the accuracy of the estimated diffusion and diffusion tensor parameters, both for a standard non-accelerated acquisition and when parallel imaging is used. In a second scope, the benefits arising from the use of an intravascular imaging antenna are investigated. Using a phantom study, it is demonstrated that intravascular magnetic resonance imaging offers the potential to improve the geometrical accuracy of morphological vascular measurements in comparison to standard surface magnetic resonance imaging and that a geometrical accuracy comparable to the one obtained using intravascular ultrasound can be reached. Several protocols based on a balanced steady-state free-precession sequence are compared in order to highlight the relations between several acquisitions parameters and the achieved geometrical accuracy. In particular, important relations between the vessel size, the vessel wall signal-to-noise ratio, the in-plane resolution and the achieved accuracy are illustrated. In a similar manner, the use of an intravascular antenna is demonstrated to be highly beneficial for an improved in-stent lumen visualization. When used with a balanced steady-state free-precession acquisition with a carefully chosen flip angle, intravascular magnetic resonance imaging can effectively eliminate the hindering aspect of the radiofrequency shielding effect caused by the presence of the vascular stent.

L'amélioration de la visualisation in vivo des lésions précancéreuse (dysplasies) du col utérin est essentielle pour mieux identifier les zones à biopsier et pour optimiser la définition des limites d'exérèse chirurgicale. Dans ce but nous étudions une nouvelle technique d'imagerie polarimétrique en rétrodiffusion, que nous avons mise en oeuvre sur des échantillons ex vivo dans des configurations expérimentales variées afin d'optimiser le diagnostic in vivo. Comme cette optimisation passe par la compréhension des contrastes polarimétriques observés, nous avons réalisé de nombreuses simulations de la propagation de lumière polarisée dans des structures multicouche représentatives des tissus. Ces structures comprennent typiquement une couche comportant des diffuseurs dans une matrice homogène et représentant l'épithélium ou le tissu conjonctif superficiel, et un substrat lambertien totalement dépolarisant pour les couches plus profondes. Ces simulations ont été effectuées au moyen d'un code Monte Carlo que nous avons adapté à notre problématique. Nous avons ainsi montré que la contribution des noyaux cellulaires est très faible en rétrodiffusion. Pour le tissu conjonctif, les fibres de collagène, modélisées par des diffuseurs sphériques de 200 nm de rayon, donnent une contribution plus importante que les noyaux, mais ne reproduisent pas la réponse polarimétrique de type Rayleigh observée dans tous les tissus étudiés, qu'ils soient sains ou pathologiques. En revanche, l'inclusion de diffuseurs de taille nettement inférieure à la longueur d'onde, modélisés par des sphères de 50 nm, permet de reproduire cette réponse de manière très stable. Ces diffuseurs correspondent a priori aux protéines intracellulaires. Dans le cadre de ce modèle, les contrastes observés entre tissus sains et cancéreux s'expliquent essentiellement par une variation de la concentration de ces petits diffuseurs. Ce résultat, encore préliminaire, suggère que l'imagerie polarimétrique en rétrodiffusion peut être sensible non seulement à la morphologie, mais également à l'état physiologique du tissu, ce qui peut s'avérer important pour la détection sélective des dysplasies.

Les travaux effectués au cours de cette thèse ont été réalisés dans le cadre du développement d'une plateforme d'irradiation protons dédiée aux études en radiobiologie (Radiograaff) à partir de l'accélérateur Van de Graaff 4 MV de l'Institut de Physique Nucléaire de Lyon. Ceci, grâce à une collaboration étroite et interdisciplinaire entre les physiciens et ingénieurs de l'Institut de Physique Nucléaire de Lyon (IPNL) et des biologistes du Laboratoire de Radiobiologie Cellulaire et Moléculaire (LRCM) du CHU de Lyon Sud. Afin de présenter le développement de la plateforme Radiograaff, ce manuscrit se découpera en trois chapitres. Le premier chapitre présente les fondements de l'hadronthérapie et le contexte scientifique du projet. Nous traiterons, dans une première partie, de l'interaction ions-matière vivante afin de mieux cerner les concepts théoriques associés à l'hadronthérapie. Et nous présenterons, dans un second temps, les intérêts scientifiques et les objectifs du projet Radiograaff. Le deuxième chapitre concernera les développements instrumentaux de la ligne d'irradiation. Après avoir discuté du mode de délivrance et d'extraction du faisceau ainsi que des méthodes de simulation que nous avons employées pour le dimensionnement théorique la ligne d'irradiation, nous présenterons le système de contrôle de la dosimétrie. Le chapitre 2 sera conclu par les résultats de l'évaluation et de la qualification de la plateforme. Enfin, dans le troisième chapitre, après une brève présentation de quelques aspects de biologie et de radiobiologie, nous présenterons les premiers résultats obtenus concernant l'efficacité biologique relative des protons délivrés par la plateforme Radiograaff. Nous discuterons des protocoles, des conditions expérimentales ainsi que des méthodes d'analyse des résultats

Le cancer est aujourd'hui la première cause de mortalité en France, devant les pathologies cardio-vasculaires, si bien qu'il constitue un enjeu de santé publique majeur. Parmi les alternatives thérapeutiques actuellement pratiquées en milieu clinique, on compte l'ensemble des techniques de radiothérapie externe. L'hadronthérapie est une technique émergente de radiothérapie, caractérisée par des propriétés balistiques et biologiques compatibles avec la définition de protocoles cliniques et thérapeutiques hautement conformationnels. La précision balistique, c'est à dire la capacité à irradier un volume cible avec précision repose sur un ensemble de paramètres pouvant être entachés d'incertitudes et dont la quantification n'est pas toujours possible. Aussi, la mise en place de procédures de contrôles de l'irradiation devient indispensable à l'utilisation de cette technique de manière raisonnée et pertinente. Le contrôle balistique peut être réalisé par une technique d'imagerie biomédicale, la Tomographie par Emission de Positons (TEP), qui permet de mesurer la distribution de la radioactivité β+ induite par le faisceau primaire. Les premiers résultats obtenus, tant sur le plan de la simulation que sur celui de l'instrumentation, ont permis de poser les jalons d'une méthodologie de mesure et d'analyse des données compatibles avec cette problématique de mesure en ligne. Des mesures réalisées auprès du centre protonthérapie d'Orsay, un des deux centres d'hadronthérapie français, et du grand accélérateur national d'ions lourds (GANIL) de Caen, ont permis de fournir une preuve de concept et d'initier un chantier visant à concevoir un détecteur suffisamment grand, qui sera exploité dans le cadre de protocoles cliniques déterminés.

Afin d'améliorer les modèles nucléaires et d'atteindre la précision requise pour un code de simulation de référence en hadronthérapie, deux expériences ont été réalisées par notre collaboration en mai 2011 et en septembre 2013 au GANIL. Leur but est d'étudier les réactions nucléaires à 95 MeV/A du 12C sur les cibles minces d'intérêt médical pour mesurer les sections efficaces doublement différentielles de fragmentation pour chaque isotopes produits. Ces données expérimentales ont été comparées à des simulations Monte-Carlo. Différents modèles nucléaires disponibles dans le logiciel de simulation GEANT4 ont dans un premier temps été testés. Des écarts avec les données expérimentales allant jusqu'à plus d'un ordre de grandeur ont été observés. Le modèle phénoménologique HIPSE a ensuite été utilisé et a démontré que la prise en compte de la zone de recouvrement géométrique des noyaux en collisions doit être prise en compte afin de reproduire la cinématique des fragments créés aux énergies intermédiaires. Devant les difficultés rencontrées par ces modèles pour reproduire les données expérimentales, un nouveau modèle, le modèle a finalement été développé, le modèle SLIIPIE. Il s'agit d'un modèle semi-microscopique, construit sur une approche géométrique participant-spectateur. Les résultats de ce modèle ont été comparés aux données expérimentales pour la réaction 12C+12C à 95 MeV/A et donne des résultats prometteurs.