Cette thèse présente des travaux de modélisation mathématiquede la réponse au traitement en oncologie appliquée à trois pathologies différentes.La première partie traite du cas des GIST et de la réponse à la thérapie ciblée.Deux modèles sont décrits afin d’étudier différents critères de suivie del’évolution tumorale. La deuxième partie porte sur les tumeurs colorectales etla réponse à la radiothérapie. Un premier modèle d’équations aux dérivées partielles,couplé à un modèle décrivant l’examen du PET-scan, est mis en place,puis il est simplifié afin de rendre la phase de calibration plus rapide. Cetteméthode est testée sur deux cas cliniques.La dernière partie traite des tumeurs ORL sous radiothérapie. Une méthodede personnalisation du modèle, similaire à celle de la partie précédente, est miseen place et est testée sur six cas cliniques. / We first present two mathematical models to simulate the evolution and theresponse to treatments of GIST.Then, we study colorectal tumors and radiotherapy response. We present apartial differential equations model to simulate the tumor evolution, the responseto radiotherapy and the PET-scan. We introduce a simplification of thefirst model to develope a calibration technic based on medical images of thetumor. Two applications on clinical cases are presented.To finish, a similar method is adapted to ORL tumors and response to radiotherapyand tested on six clinical cases.

Ce travail a été mené dans un contexte de collaboration étroite entre le Centre de Protonthérapie d’Orsay de l’Institut Curie (ICPO), Dosisoft et le laboratoire Creatis afin de mettre en place un nouveau modèle de calcul de dose pour la nouvelle salle de traitement de l’ICPO. Le projet de rénovation et d’agrandissement de ce dernier a permis l’installation d’un nouvel accélérateur ainsi que d’une nouvelle salle de traitement équipée d’un bras isocentrique de la société IBA, dans le but de diversifier les localisations des cancers traités à l’ICPO. Le premier objectif de cette thèse est de développer un ensemble de méthodologies et de nouveaux algorithmes liés au calcul de dose pour les adapter aux caractéristiques spécifiques des faisceaux délivrés par la nouvelle machine IBA, avec comme finalité de les inclure dans le logiciel Isogray de DOSIsoft. Dans un premier temps, la technique de la double diffusion est abordée en tenant compte des différences avec le système passif des lignes fixes de l’ICPO. Dans un deuxième temps, une modélisation est envisagée pour les modalités de faisceaux balayés. Le deuxième objectif est d’améliorer les modèles de calcul de dose Ray-Tracing et Pencil-Beam existants. En effet, le collimateur personnalisé du patient en fin de banc de mise en forme du faisceau pour les techniques de double diffusion et de balayage uniforme provoque une contamination de la dose délivrée au patient. Une méthodologie de réduction de cet effet a été mise en place pour le système passif de délivrance du faisceau, ainsi qu’un modèle analytique décrivant la fonction de contamination, dont les paramètres ont été validés grâce à des simulations Monte Carlo sur la plateforme GATE. Il est aussi possible d’appliquer ces méthodes aux systèmes actifs. / This work was achieved in collaboration between the Institut Curie Protontherapy Center of Orsay (ICPO), the DOSIsoft company and the CREATIS laboratory, in order to develop a new dose calculation model for the new ICPO treatment room. A new accelerator and gantry room from the IBA company were installed during the up-grade project of the protontherapy center, with the intention of enlarging the cancer localizations treated at ICPO. Developing a package of methods and new dose calculation algorithms to adapt them to the new specific characteristics of the delivered beams by the IBA system is the first goal of this PhD work. They all aim to be implemented in the DOSIsoft treatment planning software, Isogray. First, the double scattering technique is treated in taking into account major differences between the IBA system and the ICPO fixed beam lines passive system. Secondly, a model is explored for the scanned beams modality. The second objective of this work is improving the Ray-Tracing and Pencil-Beam dose calculation models already in use. For the double scattering and uniform scanning techniques, the patient personalized collimator at the end of the beam line causes indeed a patient dose distribution contamination. A reduction method of that phenomenon was set up for the passive beam system. An analytical model was developed which describes the contamination function with parameters validated through Monte-Carlo simulations on the GATE platform. It allows us to apply those methods to active scanned beams.

Le gliome infiltrant du tronc cérébral est une tumeur gliale pédiatrique de très mauvais pronostic. La survie médiane des patients varie entre 9 et 12 mois. Son aspect typique en imagerie permet le diagnostic sans confirmation histologique mais a limité la compréhension de la physiopathologie de ces tumeurs pendant plusieurs années. L'identification des mutations des histones H3 K27M comme identité moléculaire des gliomes infiltrants du tronc cérébral définit cette tumeur comme une entité unique en 2012 et la sépare des autres tumeurs cérébrales. Il y a deux variantes des histones H3 à l’origine des tumeurs, la variante H.3.1 et la variante H3.3 qui forment deux sous-groupes présentant des phénotypes et des pronostics différents. L'objectif de cette thèse était d'utiliser les techniques d'imagerie multimodale pour mieux comprendre la physiopathologie des gliomes infiltrants du tronc cérébral, en observant l'évolution des effets des différents traitements à différents temps. Nous avons tout d'abord montré une augmentation des index de perfusion associée à une diminution de l'oedème lésionnel en post- radiothérapie. Puis nous avons décrit en imagerie le phénomène de pseudo-progression. Ce phénomène, qu’il ne faut pas prendre pour une vraie progression tumorale, est caractérisé par une augmentation du volume et du rehaussement tumoral associé à une augmentation importante des index de perfusion. Le ratio d’augmentation du flux sanguin lésionnel dans les suites de la radiothérapie permet identifier une pseudo-progression avec une sensibilité et une spécificité élevées. Ces 2 groupes de patients (sans et avec pseudo-progression) ont un comportement en imagerie très différents en fin de vie. Nous avons ensuite comparé les paramètres d'imagerie aux données histologiques pour mieux appréhender les deux types de mutation d'histones. Les tumeurs H3.1 présentent plus d'oedème, plus de nécrose et une perfusion moins élevée. Les tumeurs H3.3 ont une perfusion plus élevée et moins d'oedème. La valeur du volume sanguin lésionnel est positivement corrélée à la charge tumorale. L’imagerie multimodale est essentielle dans le suivi et la compréhension des mécanismes physiopathologiques des DIPG. Elle devra être incluse dans les protocoles de recherches (efficacité des nouvelles chimiothérapies ciblées et nouvelles techniques d’application, modèles murins, radiomics, corrélation avec les nouvelles quantifications histologiques) dans le but d’avancer puis un jour de guérir ces petits patients. / Diffuse Intrinsic Pontine Glioma is a pediatric tumor with very poor prognosis. Median survival is 9-12 months. Its typical MRI appearance allows for diagnosis without histological confirmation, but has limited understanding its pathophysiology for years. DIPGs molecular identity identified as histone H3K27M mutations in 2012 defined them as a separate entity. Two subgroups with different phenotypes and prognoses are associated with mutations in one of the two variants H3.1/H3.3 of histone H3. The aim of this thesis was to use multimodal imaging techniques to better understand the pathophysiology of DIPG, by observing the evolution of the effects of different treatments over time. 1st, we showed an increase in perfusion indices associated with decreased edema after radiotherapy. Secondly, we have described the phenomenon of pseudo-progression in MRI, an increase in tumor volume and enhancement associated with a significant increase in perfusion index. This shouldn’t be confused with true tumor progression. The ratio of increase in lesion’s blood flow after radiotherapy has high sensitivity and specificity to identify pseudo-progression. 3rd, we compared the imaging parameters with the histological data to better understand the differences between the histone mutations. The mutated tumors H3.1 have more edema, more necrosis and a lower perfusion. While mutated H3.3 tumors have a higher tumor burden. Tumor burden is positive correlated to lesion blood volume. Multimodal imaging is essential in monitoring and understanding the physiopathological mechanisms of DIPG. It should be included in the research protocols in order to advance and then one day to cure these small patients.

Les tumeurs cérébrales sont une cause majeure de décès et d'invalidité dans le monde, ce qui représente 14,1 millions de nouveaux cas de cancer et 8,2 millions de décès en 2012. La radiothérapie et la radiochirurgie sont parmi l'arsenal de techniques disponibles pour les traiter. Ces deux techniques s’appuient sur une irradiation importante nécessitant une définition précise de la tumeur et des tissus sains environnants. Dans la pratique, cette délinéation est principalement réalisée manuellement par des experts avec éventuellement un faible support informatique d’aide à la segmentation. Il en découle que le processus est fastidieux et particulièrement chronophage avec une variabilité inter ou intra observateur significative. Une part importante du temps médical s’avère donc nécessaire à la segmentation de ces images médicales. L’automatisation du processus doit permettre d’obtenir des ensembles de contours plus rapidement, reproductibles et acceptés par la majorité des oncologues en vue d'améliorer la qualité du traitement. En outre, toute méthode permettant de réduire la part médicale nécessaire à la délinéation contribue à optimiser la prise en charge globale par une utilisation plus rationnelle et efficace des compétences de l'oncologue.De nos jours, les techniques de segmentation automatique sont rarement utilisées en routine clinique. Le cas échéant, elles s’appuient sur des étapes préalables de recalages d’images. Ces techniques sont basées sur l’exploitation d’informations anatomiques annotées en amont par des experts sur un « patient type ». Ces données annotées sont communément appelées « Atlas » et sont déformées afin de se conformer à la morphologie du patient en vue de l’extraction des contours par appariement des zones d’intérêt. La qualité des contours obtenus dépend directement de la qualité de l’algorithme de recalage. Néanmoins, ces techniques de recalage intègrent des modèles de régularisation du champ de déformations dont les paramètres restent complexes à régler et la qualité difficile à évaluer. L’intégration d’outils d’assistance à la délinéation reste donc aujourd’hui un enjeu important pour l’amélioration de la pratique clinique.L'objectif principal de cette thèse est de fournir aux spécialistes médicaux (radiothérapeute, neurochirurgien, radiologue) des outils automatiques pour segmenter les organes à risque des patients bénéficiant d’une prise en charge de tumeurs cérébrales par radiochirurgie ou radiothérapie.Pour réaliser cet objectif, les principales contributions de cette thèse sont présentées sur deux axes principaux. Tout d'abord, nous considérons l'utilisation de l'un des derniers sujets d'actualité dans l'intelligence artificielle pour résoudre le problème de la segmentation, à savoir le «deep learning ». Cet ensemble de techniques présente des avantages par rapport aux méthodes d'apprentissage statistiques classiques (Machine Learning en anglais). Le deuxième axe est dédié à l'étude des caractéristiques d’images utilisées pour la segmentation (principalement les textures et informations contextuelles des images IRM). Ces caractéristiques, absentes des méthodes classiques d'apprentissage statistique pour la segmentation des organes à risque, conduisent à des améliorations significatives des performances de segmentation. Nous proposons donc l'inclusion de ces fonctionnalités dans un algorithme de réseau de neurone profond (deep learning en anglais) pour segmenter les organes à risque du cerveau.Nous démontrons dans ce travail la possibilité d'utiliser un tel système de classification basée sur techniques de « deep learning » pour ce problème particulier. Finalement, la méthodologie développée conduit à des performances accrues tant sur le plan de la précision que de l’efficacité. / Brain cancer is a leading cause of death and disability worldwide, accounting for 14.1 million of new cancer cases and 8.2 million deaths only in 2012. Radiotherapy and radiosurgery are among the arsenal of available techniques to treat it. Because both techniques involve the delivery of a very high dose of radiation, tumor as well as surrounding healthy tissues must be precisely delineated. In practice, delineation is manually performed by experts, or with very few machine assistance. Thus, it is a highly time consuming process with significant variation between labels produced by different experts. Radiation oncologists, radiology technologists, and other medical specialists spend, therefore, a substantial portion of their time to medical image segmentation. If by automating this process it is possible to achieve a more repeatable set of contours that can be agreed upon by the majority of oncologists, this would improve the quality of treatment. Additionally, any method that can reduce the time taken to perform this step will increase patient throughput and make more effective use of the skills of the oncologist.Nowadays, automatic segmentation techniques are rarely employed in clinical routine. In case they are, they typically rely on registration approaches. In these techniques, anatomical information is exploited by means of images already annotated by experts, referred to as atlases, to be deformed and matched on the patient under examination. The quality of the deformed contours directly depends on the quality of the deformation. Nevertheless, registration techniques encompass regularization models of the deformation field, whose parameters are complex to adjust, and its quality is difficult to evaluate. Integration of tools that assist in the segmentation task is therefore highly expected in clinical practice.The main objective of this thesis is therefore to provide radio-oncology specialists with automatic tools to delineate organs at risk of patients undergoing brain radiotherapy or stereotactic radiosurgery. To achieve this goal, main contributions of this thesis are presented on two major axes. First, we consider the use of one of the latest hot topics in artificial intelligence to tackle the segmentation problem, i.e. deep learning. This set of techniques presents some advantages with respect to classical machine learning methods, which will be exploited throughout this thesis. The second axis is dedicated to the consideration of proposed image features mainly associated with texture and contextual information of MR images. These features, which are not present in classical machine learning based methods to segment brain structures, led to improvements on the segmentation performance. We therefore propose the inclusion of these features into a deep network.We demonstrate in this work the feasibility of using such deep learning based classification scheme for this particular problem. We show that the proposed method leads to high performance, both in accuracy and efficiency. We also show that automatic segmentations provided by our method lie on the variability of the experts. Results demonstrate that our method does not only outperform a state-of-the-art classifier, but also provides results that would be usable in the radiation treatment planning.

The segmentation problem arises in the elaboration of a radiation therapy plan. After the cancer has been diagnosed and the radiation therapy sessions have been prescribed, the physician has to locate the tumor as well as the organs situated in the radiation field, called the organs at risk. The physician also has to determine the different dosage he wants to deliver in each of them and has to define a lower bound on the dosage for the tumor (which represents the minimum amount of radiation that is needed to have a sufficient control of the tumor) and an upper bound for each organ at risk (which represents the maximum amount of radiation that an organ can receive without damaging). Designing a radiation therapy plan that respects these different bounds of dosage is a complex optimization problem that is usually tackled in three steps. The segmentation problem is one of them.<p><p>Mathematically, the segmentation problem amounts to decomposing a given nonnegative integer matrix A into a nonnegative integer linear combination of some binary matrices. These matrices have to respect the consecutive ones property. In clinical applications several constraints may arise that reduce the set of binary matrices which respect the consecutive ones property that we can use. We study some of them, as the interleaf distance constraint, the interleaf motion constraint, the tongue-and-groove constraint and the minimum separation constraint.<p><p>We consider here different versions of the segmentation problem with different objective functions. Hence we deal with the beam-on time problem in order to minimize the total time during which the patient is irradiated. We study this problem under the interleaf distance and the interleaf motion constraints. We consider as well this last problem under the tongue-and-groove constraint in the binary case. We also take into account the cardinality and the lex-min problem. Finally, we present some results for the approximation problem. <p><p>/Le problème de segmentation intervient lors de l'élaboration d'un plan de radiothérapie. Après que le médecin ait localisé la tumeur ainsi que les organes se situant à proximité de celle-ci, il doit aussi déterminer les différents dosages qui devront être délivrés. Il détermine alors une borne inférieure sur le dosage que doit recevoir la tumeur afin d'en avoir un contrôle satisfaisant, et des bornes supérieures sur les dosages des différents organes situés dans le champ. Afin de respecter au mieux ces bornes, le plan de radiothérapie doit être préparé de manière minutieuse. Nous nous intéressons à l'une des étapes à réaliser lors de la détermination de ce plan: l'étape de segmentation.<p><p>Mathématiquement, cette étape consiste à décomposer une matrice entière et positive donnée en une combinaison positive entière linéaire de certaines matrices binaires. Ces matrices binaires doivent satisfaire la contrainte des uns consécutifs (cette contrainte impose que les uns de ces matrices soient regroupés en un seul bloc sur chaque ligne). Dans les applications cliniques, certaines contraintes supplémentaires peuvent restreindre l'ensemble des matrices binaires ayant les uns consécutifs (matrices 1C) que l'on peut utiliser. Nous en avons étudié certaines d'entre elles comme celle de la contrainte de chariots, la contrainte d'interdiciton de chevauchements, la contrainte tongue-and-groove et la contrainte de séparation minimum.<p><p>Le premier problème auquel nous nous intéressons est de trouver une décomposition de la matrice donnée qui minimise la somme des coefficients des matrices binaires. Nous avons développé des algorithmes polynomiaux qui résolvent ce problème sous la contrainte de chariots et/ou la contrainte d'interdiction de chevauchements. De plus, nous avons pu déterminer que, si la matrice donnée est une matrice binaire, on peut trouver en temps polynomial une telle décomposition sous la contrainte tongue-and-groove.<p><p>Afin de diminuer le temps de la séance de radiothérapie, il peut être désirable de minimiser le nombre de matrices 1C utilisées dans la décomposition (en ayant pris soin de préalablement minimiser la somme des coefficients ou non). Nous faisons une étude de ce problème dans différents cas particuliers (la matrice donnée n'est constituée que d'une colonne, ou d'une ligne, ou la plus grande entrée de celle-ci est bornée par une constante). Nous présentons de nouvelles bornes inférieures sur le nombre de matrices 1C ainsi que de nouvelles heuristiques.<p><p>Finalement, nous terminons par étudier le cas où l'ensemble des matrices 1C ne nous permet pas de décomposer exactement la matrice donnée. Le but est alors de touver une matrice décomposable qui soit aussi proche que possible de la matrice donnée. Après avoir examiné certains cas polynomiaux nous prouvons que le cas général est difficile à approximer avec une erreur additive de O(mn) où m et n représentent les dimensions de la matrice donnée. / Doctorat en Sciences / info:eu-repo/semantics/nonPublished

L’application de nanotubes de carbone (CNTs) dans le domaine biomédical a été largement explorée grâce à leur propriétés physico-chimiques et à leur biocompatibilité. Par la fonctionnalisation extérieur et/ou intérieur des CNTs c’est possible de préparer des nouveaux conjugués avec différentes propriétés et applications. On a exploré la modification des nanotubes par voie covalente pour leur utilisation comme vecteurs de biomolécules pour achever la thérapie anticancéreuse. Pendant ma thèse, j’ai travaillé sur trois projets: l’application de différentes approches pour la conversion des groupes acides carboxyliques de MWCNTs oxydés en amines, dans le but de préparer des conjugués capables de complexer du siRNA (petits ARN interférents). Dans un second projet, j’ai développé des conjugués à base de nanotubes de carbone couplés avec un fragment d’anticorps thérapeutique via une liaison clivable afin d’en étudier le potentiel antitumoral. Dans le dernier projet, on a achevé la fonctionnalisation de CNTs remplis avec des molécules radioactivables par cycloaddition de nitrene et ensuite conjugué un anticorps de ciblage tumoral. Le but été d’utiliser les nanotubes comme vecteurs pour la délivrance de radioactivité à l'intérieur des cellules tumorales ciblées par l’anticorps. On a aussi conduit des investigations biologique, afin d’évaluer la toxicité et l’efficace de ce conjugué. / The application of carbon nanotubes (CNTs) in the biomedical field has been widely explored thanks to their physico-chemical properties and their biocompatibility. By the external and/or internal functionalization of CNTs it is possible to prepare novel conjugates tailoring different properties and applications. We have investigated the covalent derivatization of CNTs by different chemical strategies to achieve suitable carriers for anticancer therapy. In one project, we have explored the conversion of the carboxylic groups of oxidized CNTs into amino groups, and the ability of these conjugates to complex genetic material, for gene delivery. In another project, CNTs have been functionalized with linkers bearing a cleavable disulfide bond, and further conjugated to a therapeutic nanobody for controlled intracellular drug release. Finally, we have investigated the reactivity of close-ended CNTs filled with radioactivable material toward Bingel and nitrene cycloadditions and the conjugation of a targeting antibody, for the target delivery of radioactivity. By several characterization techniques we have proved that the antibody is covalently grafted to the CNT-carrier and it still possesses its targeting ability. Investigations on the biological profile of these conjugates (cytotoxicity, targeting, uptake, biodistribution) have been also carried out.

Une nouvelle stratégie oncologique, basée sur l’intégration de la radiothérapie nanovectorisée et l’administration loco-régionale, a été évaluée pour le traitement et l’imagerie du glioblastome, le type le plus commun des tumeurs cérébrales primaires. Les dendrimères Gallic Acid-Triethylène Glycol (GATG) sont des nanovecteurs de choix pour délivrer simultanément l’agent thérapeutique (le radioisotope 188Re par son rayonnement béta a été retenu) et l’agent diagnostique (le gadolinium est un agent paramagnétique utilisé en Imagerie par Résonance Magnétique (IRM)). Leur évaluation a été réalisée par administration locorégionale par stéréotaxie sur un modèle de rat F 98. Les données pharmaco-cinétiques ont été également obtenues après injection intraveineuse permettant d’apprécier les propriétés des différents dendrimères synthétisés. Leur apport en terme de confinement au site d’injection représente un avantage majeur de ce nouveau type de radiopharmaceutiques. / A new oncologic strategy, based on the integration of nanovectorized radiotherapy and locoregional delivery, was evaluated for the treatment and imaging of glioblastomas, the most common and lethal type of primary brain tumors. Gallic acidtriethylene glycol (GATG) dendrimers were the nanovectors of choice to deliver the radiotherapeutic 188Re and paramagnetic nuclei Gd3+, with a minimally invasive stereotactic injection, directly depositing the radiotherapeutic dose to the tumor site in a F98 rat glioma model. Intravenous injection was used to further investigate the pharmacokinetics, throughout body distribution and clearance profiles of these dendrimers. Molecular weight and architecture had an important role on the in vivo behavior of the dendrimers. Their use as nanovectors prevented the fast brain clearance of the radionuclide alone, and prolonged the confinement of the internal radiation at the tumor site.

Malgré l’augmentation des cas de cancers, l’amélioration des thérapies anti-cancéreuses a permis d’accroitre la survie des patients. Bien qu’efficace, la radiothérapie peut induire des complications sévères. La sphère abdomino-pelvienne concentre de nombreux cancers (prostate, vessie…), et des organes à risque lors de la radiothérapie. Le côlon-rectum développe des séquelles sévères chez 20% des patients 20 ans après traitement. La fibrose colorectale est la principale de ces complications. Les traitements actuels de ces lésions sont palliatifs. Les Cellules Souches Mésenchymateuses (CSM) favorisent la régénération tissulaire dans de nombreuses pathologies, y compris fibrosantes, et semblent donc adaptées au traitement des atteintes radio-induites. Néanmoins, les effets des CSM sur la tumeur et sur les complications des radiothérapies sont méconnus. Nos travaux évaluent la sureté et l’efficacité de la transplantation de CSM avant et après radiothérapie colorectale chez le rat. Sur un modèle de tumorigénèse colorectale suivie de radiothérapie, l’injection de CSM a inhibé la croissance tumorale en modifiant le profil des lymphocytes T et macrophages du microenvironnement tumoral. Dans un second modèle, les CSM ont induit une suppression durable de la fibrose colorectale radio-induite. Les protéines HGF et TSG-6 sécrétées par les CSM bloquent l’acquisition du phénotype pro-fibrosant par les cellules sécrétrices de matrice extracellulaire dans le côlon-rectum. Les CSM ont amélioré la survie des animaux dans ces deux modèles. Dans l’ensemble, nos résultats supportent l’utilisation des CSM dans le contexte des complications des radiothérapies abdomino-pelviennes. / Despite the growing number of cancer cases, current anti-cancer treatments greatly improve patients’ survival. Although it is efficient, radiotherapy can induce severe complications. The abdomino-pelvic area regroups cancers with high prevalence (prostate, bladder…) and organs at risk during radiotherapy. Colon and rectum display severe side effects in 20% of patients 20 years after treatment. Colorectal fibrosis is the most frequent of these complications. Existing treatments are only palliative. Mesenchymal Stem Cells (MSCs) promote tissue regeneration in a wide variety of pathologies, fibrosis included, and thus seem fitted for the treatment of radiation-induced disorders. However, the effects of MSCs on tumor growth and radiotherapy induced damages are still unclear. Our work evaluates the safety and efficacy of MSC transplantation before and after colorectal radiotherapy in rats. In a model of chemically-induced colorectal carcinogenesis, followed by radiotherapy, MSC injection suppressed tumor growth by modifying the phenotype of T lymphocytes and macrophages of the tumor microenvironment. In a second model, transplanted MSCs suppressed radiation-induced fibrosis. Two proteins secreted by MSCs, HGF and TSG-6, are responsible for inhibiting extracellular matrix-producing cells, which are the major contributors to fibrosis. MSC injection was associated with increased survival in both studies. Overall, our results support the use of MSCs to treat the side effects of abdomino-pelvic radiotherapy.

Ces travaux de thèse s’inscrivent dans le contexte de la prédiction de la toxicité en radiothérapie du cancer de la prostate. Dans l'objectif d'analyser les corrélations spatiales entre la dose et les effets secondaires cette problématique est abordée dans un cadre d'analyse de population. La mise en correspondance inter-individus de l'anatomie et de la distribution de dose planifiée soulève des difficultés liées aux fortes variabilités anatomiques et au faible contraste des images CT considérées. Nous avons envisagé différentes stratégies de recalage non-rigide exploitant les informations relatives aux structures anatomiques, aux combinaisons intensité-structure, ou aux relations inter-structures. Les méthodes proposées s'appuient notamment sur l’utilisation de descripteurs structurels des organes tels que les cartes de distances euclidiennes ou du champ scalaire solution de l’équation de Laplace. Ces méthodes ont permis d'améliorer significativement la précision de la mise en correspondance, tant au niveau anatomique que dosimétrique. Les plus performantes ont été utilisées pour analyser une population de 118 individus. Les comparaisons statistiques des distributions de dose entre les patients souffrant ou non de saignements rectaux ont permis d’identifier une sous-région du rectum où la dose semble corrélée à la toxicité. La sous-région rectale identifiée apparaît potentiellement impliquée et hautement prédictive du risque de saignement. L'approche proposée permet d’améliorer les performances des modèles mathématiques de prédiction de la toxicité. / This thesis deals with the issue of predicting the toxicity within the context of prostate cancer radiotherapy. With the aim of analyzing the spatial correlations between dose and side effects, this problem is addressed in a population analysis framework. Inter-individual matching of both the anatomy and planned dose distribution raises difficulties related to high anatomical variability and low contrast in the CT images. We considered different strategies for non-rigid registration involving the use of information on anatomical structures, intensity-structure combinations, or inter-structures relations. The proposed methods are primarily based on the use of structural descriptors of organs such as Euclidean distance maps or scalar field solution of the Laplace equation. These methods allowed us to significantly improve the accuracy of the matching, at both the dosimetric and the anatomical level. The most accurate matching strategy has been used for analyzing a population of. Statistical comparisons of dose distributions between patients with or without rectal bleeding have been used to identify a rectal sub-region likely correlated with toxicity. The identified rectal sub-region appears potentially involved in side effects and highly predictive of the risk of bleeding. The proposed approach makes it possible to improve the performance of mathematical models for predicting the toxicity.

La radiothérapie stéréotaxique est une technique de pointe relativement récente utilisée pour le traitement de tumeurs bénignes ou malignes de petites dimensions employant des mini-faisceaux. L'efficacité clinique de cette technique est prouvée et n'est pas remise en cause, cependant il n'existe pas actuellement de dosimètre véritablement approprié permettant de caractériser ces faisceaux de petites dimensions par des mesures précises de dose absolue et relative. Le problème du manque d'équilibre électronique latéral rencontré en mini-faisceaux entraîne principalement les contraintes suivantes pour le dosimètre : équivalence-eau et petit volume de détection. Les caractéristiques du diamant (faible numéro atomique Z=6, densité élevée d'atomes) en font un candidat idéal. Au cours de cette thèse, nous avons développé un prototype de dosimètre pour mini-faisceaux à partir de diamant monocristallin synthétique CVD. Les échantillons ont été caractérisés optiquement par différentes techniques et leurs propriétés de détection ont été étudiées sous rayonnement X et sous particules ?. Une série de premiers prototypes a été développée et testée sur plusieurs machines de stéréotaxie. Une étape d'optimisation de ces premiers dosimètres diamant a ensuite été réalisée notamment par l'utilisation de simulations Monte Carlo. L'optimisation des différents paramètres entrant en jeu dans la réponse du dosimètre en mini-faisceaux a permis d'aboutir à un prototype final de dosimètre diamant. Ce prototype répond au cahier des charges rédigé par les physiciens médicaux des centres hospitaliers, aussi bien en champs standards qu'en mini-faisceaux. / Stereotactic radiotherapy is a relatively recent technique used for the treatment of small benign and malignant tumors with small radiation beams. The clinical efficiency of this technique has been proved. However, the measurement of absolute and relative dose in small beams is not possible currently due to the lack of suited detectors for these measurements. In small beam dosimetry, the detector has to be as close as possible to tissue equivalence and exhibit a small detection volume due to the lack of lateral electronic equilibrium. Characteristics of diamond (water equivalent material Z=6, high density) make it an ideal candidate to fulfil most of small beam dosimetry requirements. In this thesis, we developed a dosimeter prototype for small beams, based on CVD synthetic single crystal diamond. The diamond samples were characterized optically and their detection properties were investigated under X-rays and alpha-particles. First diamond dosimeter prototypes were tested with small beams produced by several stereotactic machines. Studies using Monte Carlo simulations were performed in order to optimize the parameters involved in the detector response in small beams. This leaded to a final diamond dosimeter prototype that respects all radiotherapy centers requirements, in both standard and small beams.