Nous introduisons un modèle mathématique d'évolution d'une maladie cancéreuse à l'échelle de l'organisme, prenant en compte les métastases ainsi que leur taille et permettant de simuler l'action de plusieurs thérapies telles que la chirurgie, la chimiothérapie ou les traitements anti-angiogéniques. Le problème mathématique est une équation de renouvellement structurée en dimension deux. Son analyse mathématique ainsi que l'analyse fonctionnelle d'un espace de Sobolev sous-jacent sont effectuées. Existence, unicité, régularité et comportement asymptotique des solutions sont établis dans le cas autonome. Un schéma numérique lagrangien est introduit et analysé, permettant de prouver l'existence de solutions dans le cas non-autonome. L'effet de la concentration de la donnée au bord en une masse de Dirac est aussi envisagé.Le potentiel du modèle est ensuite illustré pour des problématiques cliniques telles que l'échec des anti-angiogéniques, les protocoles temporels d'administration pour la combinaison d'une chimiothérapie et d'un anti-angiogénique et les chimiothérapies métronomiques. Pour tenter d'apporter des réponses mathématiques à ces problèmes cliniques, un problème de contrôle optimal est formulé, analysé et simulé. / We introduce a mathematical model for the evolution of a cancer disease at the organism scale, taking into account for the metastases and their sizes as well as action of several therapies such as primary tumor surgery, chemotherapy and anti-angiogenic therapy. The mathematical problem is a renewal equation with bi-dimensional structuring variable. Mathematical analysis and functional analysis of an underlying Sobolev space are performed. Existence, uniqueness, regularity and asymptotic behavior of the solutions are proven in the autonomous case. A lagrangian numerical scheme is introduced and analyzed. Convergence of this scheme proves existence in the non-autonomous case. The effect of concentration of the boundary data into a Dirac mass is also investigated.Possible applications of the model are numerically illustrated for clinical issues such as the failure of anti-angiogenic monotherapies, scheduling of combined cytotoxic and anti-angiogenic therapies and metronomic chemotherapies. In order to give mathematical answers to these clinical problems an optimal control problem is formulated, analyzed and simulated.

Cette thèse s'inscrit dans le cadre de la modélisation des interactions entre hôtes et auxiliaires de lutte biologique. L'objectif principal est de faire l'analyse mathématique et la simulation numérique des modèles spatiotemporels construits. Il s'agit de déterminer la typologie et la catégorisation des structures spatiales émergentes en fonction des paramètres de contrôle. Nous considérons dans la première partie de la thèse, une chaîne alimentaire de deux espèces, c'est à dire une population de proies et une population de prédateurs modélisées par un système de réaction-diffusion. Nous étudions l'analyse qualitatives des solutions, les bifurcations globales et locales, et déterminons les conditions de variation spatiales et temporales des motifs. Nous démontrons l'existence de "Travelling waves" par les outils d'analyse fonctionnelle en généralisant la méthode développée par S. Ahmad. Une étude mathématique similaire est menée dans le cadre d'une chaîne alimentaire de trois espèces constituée d'une proie, d'un prédateur et d'un super-prédateur. Le dernier chapitre de cette thèse est consacré à la construction et l'étude d'un modèle mathématique de type réaction-diffusion de la thérapie génétique du cancer. Le modèle prend en considération à la fois la dynamique de la population des cellules cancéreuses, des virus réplicatifs et de la réponse immunitaire qui reconnait les antigènes viraux dans les cellules cancéreuses. Nous établissons les conditions de stabilité de l'état d'équilibre endémique et celui correspondant à l'élimination de la tumeur. Si la tumeur ne peut pas être complétement guérie, nous déterminons les conditions d'une thérapie optimale et estimons par simulation le temps de survie du patient.