L'hadronthérapie est une modalité d'irradiation récente particulièrement attractive. Les ions, par leur profil caractéristique de dépôt de dose dans la matière et leur efficacité biologique accrue, sont des particules parfaitement adaptées pour le traitement du cancer. C'est une modalité émergente et les travaux de recherche et de développement qui en font l'objet se poursuivent de manière soutenue. Cependant, il n'existe à ce jour aucun outil permettant de quantifier pour le patient le gain clinique associé aux améliorations proposées, comme l'apport d'une gantry par exemple. Nous proposons dans ce travail de concevoir un module de planification inverse du traitement pour un but prospectif. Détachée des contraintes usuelles de précision et de temps de calcul, notre méthode d'optimisation se base sur un algorithme génétique afin d'approcher d'une solution globale vis-à-vis d'un grand nombre de paramètres balistiques (champs d'irradiation libres) et en associant les diverses régions d'intérêt dosimétrique. La stratégie d'optimisation retenue est progressivement complexifiée afin de prendre en compte de manière efficace les différents enjeux de la planification. La robustesse du plan vis-à-vis des incertitudes inhérentes au traitement, primordiale en hadronthérapie, est évaluée. Dans toutes les situations testées, il apparaît que l'inclusion dans l'optimisation de paramètres habituellement fixés manuellement permet une amélioration de la qualité de traitement. Nous proposons au terme de cette étude un outil prospectif d'optimisation au réglage simple et capable de mener des études comparées sur la pertinence de nouvelles modalités d'irradiation.

Le cancer de la prostate est le deuxième plus fréquent cancer chez les hommes. La France occupe le troisième rang du taux d’incidence. La curiethérapie bas-débit dose (LDR) est une option de traitement largement utilisée. Au cours de la curiethérapie LDR, des graines radioactives sont implantées en permanence dans la prostate afin de délivrer une dose thérapeutique de façon locale dans la zone cancéreuse tout en épargnant les organes voisins à risque (OAR). Malgré son taux de réussite élevé (75% à 91%), les effets secondaires restent élevés. La dose délivrée à la tumeur dépend des positions d’implantation des graines, ce qui implique que la planification est essentielle. Les systèmes cliniques de planification fournissent automatiquement les positions d’implantation. Cependant, cette prédiction est basée sur un modèle dosimétrique simplifié où le corps humain est considéré comme un volume d’eau. Un autre facteur des erreurs est l’apparition d’un oedème de la prostate impliquant un changement volumétrique. L’oedème peut entraîner une sous-estimation du D90 par exemple il est de 13.6% pour un changement volumétrique de 20%. De plus, l’oedème varie (10% à 96%) entre les patients. Aujourd’hui le mécanisme exact de l’apparition de cet oedème reste inconnu. Nous proposons un système de traitement inverse pour la curiethérapie prostate qui tient compte d’une personnalisation précise de la dosimétrie et de l’oedème. Ces travaux peuvent également être utilisés dans d’autres contextes cliniques, tel que la curiethérapie haut-débit, mais également être adapté pour traiter d’autres organes. Dans le futur, nos travaux porteront sur la personnalisation du modèle biomécanique de la prostate proposé à chaque patient en utilisant des mesures d’élasticité via l’élastographie. En raison des limitations inhérentes à la FEM, l’incorporation du modèle biomécanique de l’oedème dans le système de planification du traitement est coûteuse en temps de calcul. Une méthode alternative, serait de proposer un modèle sans maillage afin d’améliorer la simulation de l’oedème. / Prostate cancer is the second most common cancer in men. Two-thirds of the cases are diagnosed in developed countries and France is ranked third in incidence rate. Low-dose-rate (LDR) brachytherapy is a widely used treatment option. During LDR brachytherapy, radioactive seeds are implanted permanently in the prostate to deliver a therapeutic dose locally in the cancerous region while sparing the organs at risk (OARs). Despite its high success rate (75% to 91%), the side-effects (sexual and urinary problems) remain high. The dose delivered to the tumor depends on the implantation positions of the seeds, which implies that treatment planning is essential. Clinical inverse planning systems automatically provide optimal implantation positions. However, this prediction is based on a simplified dosimetric model where the human body is considered an infinite volume of water. Another important factor that induces treatment errors is the occurrence of prostate edema during brachytherapy that involves volumetric changes of the organ. Edema can lead to a significant underestimation of the D90, for example, by 13.6% for a volumetric change of 20%. Moreover, the edema magnitude varies considerably (10% to 96%) between patients. Today the exact mechanism of edema formation remains unknown. We propose in this thesis a system of inverse treatment for prostate brachytherapy which considers a precise personalization of the dosimetry but also of the prostate edema. This work can also be used in other clinical contexts, such as high-dose-rate brachytherapy, but also be adapted to treat other organs. In the future, our work will focus on the study of the ability to adapt the proposed prostate biomechanical model to each patient using elastic measurements via prostate elastography. Due to the inherent limitations of FEM, the incorporation of the biomechanical model of edema into the treatment planning system is costly in computation time. An alternative method would be to propose a new meshless model to improve the simulation of edema during intraoperative planning.

L'hadronthérapie est une modalité d'irradiation récente particulièrement attractive. Les ions, par leur profil caractéristique de dépôt de dose dans la matière et leur efficacité biologique accrue, sont des particules parfaitement adaptées pour le traitement du cancer. C’est une modalité émergente et les travaux de recherche et de développement qui en font l'objet se poursuivent de manière soutenue. Cependant, il n'existe à ce jour aucun outil permettant de quantifier pour le patient le gain clinique associé aux améliorations proposées, comme l’apport d’une gantry par exemple. Nous proposons dans ce travail de concevoir un module de planification inverse du traitement pour un but prospectif. Détachée des contraintes usuelles de précision et de temps de calcul, notre méthode d'optimisation se base sur un algorithme génétique afin d'approcher d'une solution globale vis-à-vis d'un grand nombre de paramètres balistiques (champs d’irradiation libres) et en associant les diverses régions d'intérêt dosimétrique. La stratégie d'optimisation retenue est progressivement complexifiée afin de prendre en compte de manière efficace les différents enjeux de la planification. La robustesse du plan vis-à-vis des incertitudes inhérentes au traitement, primordiale en hadronthérapie, est évaluée. Dans toutes les situations testées, il apparaît que l'inclusion dans l'optimisation de paramètres habituellement fixés manuellement permet une amélioration de la qualité de traitement. Nous proposons au terme de cette étude un outil prospectif d'optimisation au réglage simple et capable de mener des études comparées sur la pertinence de nouvelles modalités d’irradiation. / Hadrontherapy is a recent and particularly attractive modality. Characterized by a specific dose deposition profile in matter and by a high biological effectiveness, ions are found to be very well-suited for cancer treatment. As an emergent modality, the research in hadrontherapy is extremely active and promises many improvements for the future. However, there is no tool to date to quantify the clinical benefit for the patient related to the proposed improvements, the use of a gantry for example. In this work, we propose to use the treatment planning system, usually dedicated to clinical practice, in a prospective purpose. Suppressing the classical constraints of precision and time, our optimization method is based on a genetic algorithm designed to approach a global solution including a high number of balistic parameters (free irradiation fields) for all regions of dosimetric interest. The optimization strategy is progressively complicated in order to efficientely take into account the main issues of the inverse planning problem. The robustness of plans towards the uncertainties related to the application of the treatment, essential in hadrontherapy, is evaluated. The results show that the inclusion, in the optimization, of parameters usually fixed by the human planner leads systematically to an improved treatment quality. The final product of this work is a prospective optimization tool characterized by an easy set-up system and the ability to perform comparative studies on the relevance of new irradiation modalities.