L'objectif de cette thèse est de développer la théorie du contrôle stochastique et ses applications en dynamique des populations. D'un point de vue théorique, nous présentons l'étude de problèmes de contrôle stochastique à horizon fini sur des processus de diffusion, de branchement non linéaire et de branchement-diffusion. Dans chacun des cas, nous raisonnons par la méthode de la programmation dynamique en veillant à démontrer soigneusement un argument de conditionnement analogue à la propriété de Markov forte pour les processus contrôlés. Le principe de la programmation dynamique nous permet alors de prouver que la fonction valeur est solution (régulière ou de viscosité) de l'équation de Hamilton-Jacobi-Bellman correspondante. Dans le cas régulier, nous identifions également un contrôle optimal markovien par un théorème de vérification. Du point de vue des applications, nous nous intéressons à la modélisation mathématique du cancer et de ses stratégies thérapeutiques. Plus précisément, nous construisons un modèle hybride de croissance de tumeur qui rend compte du rôle fondamental de l'acidité dans l'évolution de la maladie. Les cibles de la thérapie apparaissent explicitement comme paramètres du modèle afin de pouvoir l'utiliser comme support d'évaluation de stratégies thérapeutiques.

Bien que reconnu comme une étape importante vers une meilleur compréhension de l’évolution des tumeurs, de la morphogénèse des tissus et des tests hauts débits de médicaments, l’utilisation de tests cellulaires in vitro en trois dimensions est toujours limitée et ce surtout par la difficulté d’établir un protocole simple et robuste pour leur formation. Dans ce travail, nous présentons d'abord une nouvelle méthode microfluidique pour la formation des sphéroïdes multicellulaires. Cette technologie des Capsules cellulaire est basée sur l'encapsulation et la croissance des cellules à l'intérieur de micro- sphères creuses, perméable, élastiques. Deuxièmement, nous montrons que ces microcapsules servent de capteurs mécaniques pour mesurer la pression exercée par les sphéroïdes expansion. En imagerie en temps réel multi- photons, on observe en outre que le confinement induit une organisation cellulaire stratifiée, avec un noyau nécrotique, solide et dense, entouré d'un rebord de cellules périphériques hyper-mobiles, qui présentent des propriétés invasives. Troisièmement, nous avons adapté la technologie des capsules cellulaires pour former des tubes creux. Cette géométrie cylindrique nous permet d'étudier l'impact de la libération partielle de confinement (le long de l'axe du tube principal) sur la cinétique de croissance d’agrégats cellulaires pseudo-unidimensionnel (nommé cylindroids). Nos données de microscopie et l’analyse d'images suggèrent un mécanisme de croissance par pointe et la prouvent la génération d’une contrainte radiale. La combinaison des configurations sphériques et cylindriques tend vers l'image globale du confinement qui déclenche la motilité cellulaire et l'invasion par la périphérie de l'agrégat cellulaire tandis que la prolifération des cellules est inhibée dans le noyau lorsque la pression augmente. Quatrièmement, nous utilisons l’alginate comme moule pour concevoir des coquilles et tubes multicouches perméables. En particulier, une légère adaptation du protocole nous permet d'ancrer une fine couche de Matrigel (utilisé comme une membrane basale artificielle) sur la paroi interne de l'alginate. Par l'utilisation de ces capsules sphériques décorés de Matrigel, nous montrons que les monocouches sphériques fermés de cellules épithéliales, ou des kystes, peuvent être facilement conçus avec des tailles qui sont imposées par la taille des capsules. De même, les capsules tubulaires décorées de Matrigel sont utilisées pour la formation des organoïds cultivés à partir de cellules extraites des cryptes du côlon de la souris. Enfin, notre technologie offre une nouvelle voie pour produire dans les tests cellulaires in vitro utiles pour développer de nouvelles thérapies anticancéreuses ou des approches d'ingénierie tissulaire et d'étudier l'interaction entre la mécanique et de la croissance dans les agrégats cellulaires in vitro. / Although recognized as an important step towards better understanding of tumor progression, tissue morphogenesis and high throughput screening of drugs, the use of three dimensional in vitro cellular assays is still limited, especially due to the difficulty in establishing simple and robust protocols for their formation. In this work, we first present a novel microfluidics-assisted method for multicellular spheroids formation. This Cellular Capsules technology is based on the encapsulation and growth of cells inside permeable, elastic, hollow micro-spheres. Second, we show that these microcapsules serve as unique mechanical sensors to measure the pressure exerted by the expanding spheroids. By multiphoton live imaging, we additionally observe that confinement induces a layered cellular organization, with a dense, solid, necrotic core surrounded by a rim of hyper-motile peripheral cells, which exhibit enhanced invasive properties. Third, we adapt the Cellular Capsules technology to form hollow tubes. This cylindrical geometry allows us to investigate the impact of partial confinement release (along the main tube axis) on the growth kinetics of pseudo-one dimensional cellular aggregates (named cylindroids). Our microscopy data and image analyses suggest a tip-growing mechanism and evidence radial stress generation. The combination of the spherical and cylindrical configurations leads to the overall picture that confinement triggers cell motility and invasion at the periphery of the cellular aggregate while cell proliferation is inhibited in the core as pressure builds up. Fourth, we use alginate as a template to design multilayered permeable shells and tubes. In particular, slight adaptation of the protocol allows us to anchor a thin layer of Matrigel (used as an artificial basement membrane) to the alginate inner wall. Using these Matrigel-decorated spherical capsules, we show that closed spherical monolayers of epithelial cells, or cysts, can be readily engineered with sizes that are imposed by the size of the capsules. Similarly, Matrigel-decorated tubular capsules are shown to be convenient for the formation of organoids grown from cells extracted from the cypts of mouse colon. Finally, our technology offers a new avenue to produce in vitro cell-based assays useful for developing new anti-cancer therapies or tissue engineering approaches and to investigate the interplay between mechanics and growth of in vitro cellular assemblies.

L'objectif de cette thèse est de développer la théorie du contrôle stochastique et ses applications en dynamique des populations. D'un point de vue théorique, nous présentons l'étude de problèmes de contrôle stochastique à horizon fini sur des processus de diffusion, de branchement non linéaire et de branchement-diffusion. Dans chacun des cas, nous raisonnons par la méthode de la programmation dynamique en veillant à démontrer soigneusement un argument de conditionnement analogue à la propriété de Markov forte pour les processus contrôlés. Le principe de la programmation dynamique nous permet alors de prouver que la fonction valeur est solution (régulière ou de viscosité) de l'équation de Hamilton-Jacobi-Bellman correspondante. Dans le cas régulier, nous identifions également un contrôle optimal markovien par un théorème de vérification. Du point de vue des applications, nous nous intéressons à la modélisation mathématique du cancer et de ses stratégies thérapeutiques. Plus précisément, nous construisons un modèle hybride de croissance de tumeur qui rend compte du rôle fondamental de l'acidité dans l'évolution de la maladie. Les cibles de la thérapie apparaissent explicitement comme paramètres du modèle afin de pouvoir l'utiliser comme support d'évaluation de stratégies thérapeutiques. / The main objective of this thesis is to develop stochastic control theory and applications to population dynamics. From a theoritical point of view, we study finite horizon stochastic control problems on diffusion processes, nonlinear branching processes and branching diffusion processes. In each case we establish a dynamic programmic principle by carefully proving a conditioning argument similar to the strong Markov property for controlled processes. Then we deduce that the value function is a (viscosity or regular) solution of the associated Hamilton-Jacobi-Bellman equation. In the regular case, we further identify an optimal control in the class of markovian strategies thanks to a verification theorem. From a pratical point of view, we are interested in mathematical modelling of cancer growth and treatment. More precisely, we build a hybrid model of tumor growth taking into account the essential role of acidity. Therapeutic targets appear explicitly as model parameters in order to be able to evaluate treatment strategies.

Le cancer du sein est le cancer le plus fréquent chez les femmes. Il y a une multitude de solutions proposées concernant une éventuelle intervention médicale pour le cancer du sein ‐ une en particulier est la chirurgie mammaire conservatrice (tumoréctomie). Le but de la tumoréctomie est de parvenir à un contrôle local du cancer, ainsi que de préserver une forme du sein qui satisfait les besoins esthétiques de la femme. Bien que ces objectifs sont généralement atteint, il reste encore parfois des résultats inattendus,tels qu'une tumeur récurrence locale, ou des résultats cosmétiques insuffisants.L'objectif de cette thèse est de proposer une plateforme de calcul, qui contribue à la tumoréctomie. Cela comprend:1) Une étude de la dynamique de croissance des tumeurs du sein.2) Une étude sur la prédiction du contour du sein grâce a la chirurgie virtuelle.3) Un modèle de calcul de la forme finale du sein après cicatrisation. / Breast cancer is the most common cancer among women in the developed as well as the developing countries. There are a plethora of proposed solutions regarding possible medical interventions for breast cancer–one in particular is Breast Conserving Therapy (BCT). BCT comprises of complete surgical excision of the tumor (partialmastectomy), and post-operative radiotherapy for the remaining breast tissue. This is a feasible treatment for most women with breast cancer. The goal of BCT is toachieve local control of the cancer, as well as to preserve breast shape that appeases awoman’s cosmetic concerns. Although these goals are usually achieved, there are still occasional unexpected results, such as reexcision of the tumor due to a positive margin assessment, tumor local recurrence, unsatisfactory cosmetic results, and breastpain. Other than surgical experience and judgment, there are currently no toolswhich can predict the outcome of partial mastectomy on the contour and deformity of the treated breast. The objective of this dissertation is to propose computational framework, which contributes to BCT operations, this was achieve by exploring two areas.On the one hand we developed a multiscale model adapted for breast cancer tumor growth, ductal carcinoma in situ (DCIS). The model features included: nutrients growth limitation, wall degradation enzyme and HER2 chemical expression tumor phenotype. Our model successfully simulate some pattern of DCIS carcinoma.Among the interesting result we showed that the enzyme contributed to a greater tumor size and that when HER2 was over expressed, the growth limiting factor wasthe EGFR. On the other hand, we developed a virtual surgery box to simulate BCT surgery. The box will input MRI patient data and will output cosmetic and functional indicator to rate the impact of the surgery. It appears that stiffness of the tissue, resection radius as well as the lump quadrant location are the most sensitive parameters to the indicators. A healing model was also embedded to simulate the wound closure after resection, this model was stress dependent and illustrate anasymmetric wound closure progression.The tools developed in this research allows a new type of field convergence between the surgery and computation field. At the local level it will allow surgeons and patient to be able to communicate on the pertinence and necessity of performing alumpectomy surgery, enabling to anticipate the possible outcome of the operation.On the global aspect this type of tool gives birth to a new type of field: computational surgery, where computer scientist and surgeons work hand in hand to provide the best and the most reliable service to the patients.