Les travaux présentés dans le cadre de cette thèse ont porté sur la modélisation mathématique de la réponse d’une tumeur en traitement par la radiothérapie. Le but étant de fournir aux médecins un outil numérique d’aide pour diagnostiquer le cancer. Comme par exemple, suivre l’évolution du volume de la tumeur pendant et après le traitement, réadapter les stratégies thérapeutiques, etc. Dans un premier temps, nous avons proposé un modèle discret stochastique basé sur une approche multiéchelle. Dans ce contexte, nous nous sommes concentrés sur trois différentes échelles de modélisation tumorale : l’échelle microscopique (les cellules dans un voxel), l’échelle mésoscopique (population de cellules dans un voxel) et l’échelle macroscopique (tissu tumoral), avec des interfaces de transition entre ces trois échelles. Au niveau cellulaire, la description est basée sur des probabilités de transfert de phase dans le cycle cellulaire. À l’échelle mésoscopique, nous représentons les populations de cellules selon les différentes étapes d’un cycle cellulaire. Enfin, à l’échelle macroscopique, la description tumorale est basée sur l’utilisation des images médicales PET FDG. Ces trois échelles existent naturellement : les données biologiques sont collectées au niveau macroscopique mais le comportement pathologique de la tumeur est basé sur un cycle cellulaire anormal à l’échelle microscopique. L’introduction d’une échelle mésoscopique a été essentielle pour réduire l’écart entre les deux extrêmes, en termes de transition entre eux. Nous utilisons le modèle multiéchelle discret pour prédire l’évolution temporelle du nombre de cellules tumorales. Par contre, ce modèle n’est pas bien adapté pour prédire l’évolution du volume de la tumeur. Aussi, avons-nous proposé dans un second temps, un deuxième modèle qui est biomécanique et basé sur une équation d’advection réaction. Enfin, les modèles discrets multiéchelle et biomécanique ont été associés pour former un modèle hybride. En effet, le modèle discret est utilisé pour estimer les trajectoires des pressions partielles d’oxygène dans l’environnement tumoral, ces pressions sont ensuite mises en entrée du modèle continu (biomécanique) pour la prédiction de l’évolution du volume tumoral. / The work presented in this thesis focused on the mathematical modeling of tumor response during treatment by radiotherapy. The goal was to provide for doctors a digital tool to help cancer diagnose. For example, monitoring tumor volume during and after treatment, rehabilitating therapeutic strategies, etc. In a first step, we proposed a discrete stochastic model based on a multiscale approach. In this context, we focused on three different scales of tumor modeling :microscopic scale (cells in a voxel), mesoscopic scale (cell population in a voxel) and macroscopic scale (tumor tissue), with transitional interfaces between these three scales. At the cellular level, the description was based on probabilities of phase transfer in the cellular cycle. At the mesoscopic scale, we represented cell populations according to the differents stages of a cell cycle. Finally, on a macroscopic scale, tumor description was based on the use of FDG PET medical images.These three scales naturally exist : the biological data were collected at the macroscopic level but the pathological behavior of the tumor is based on an abnormal cell cycle at the microscopic scale. Introduction of a mesoscopic scale was essential to reduce the gap between the two extremes, in terms of transition between them. We used the discrete multiscale model to predict the temporal evolution of the tumor cells number. On the other hand, this model was not well adapted to predict the tumor volume evolution. Thus, we had proposed a second model which was biomechanical and based on an advection reaction equation. Finally, the discrete multiscale and the biomechanical models had been combined to form a hybrid model. Indeed, the discrete model was used to estimate the oxygen partial pressures trajectories, in the tumor environment. These pressures were then input to the continuous (biomechanical) model for the tumor volume evolution prediction.