Cette thèse vise à utiliser la modélisation mathématique avec les outils du contrôle avancé, afin de guider les thérapies pour assurer la contraction de la tumeur. Les buts de cette thèse sont la contribution au développement des méthodes de la théorie des ensembles pour le contrôle robuste des systèmes non linéaires et le développement d’outils numériques pour l’analyse et le contrôle de la croissance tumorale en présence de chimiothérapie et=ou de traitement anti-angiogénique. Génériquement, dans le contexte de la théorie du contrôle, les techniques qui sont théoriquement basées sur certaines propriétés des sous-ensembles de l’espace d’état du système pourraient être désignées comme des méthodes de la théorie des ensembles. Dans la première partie, nous passons en revue les définitions, concepts et outils de la théorie des ensembles existants dans la littérature pour réponde efficacement à des problématiques de contrôle des systèmes linéaires et non linéaires avec contraintes dures et incertitudes. Dans ce cadre, nous nous intéressons à deux propriétés des ensembles qui sont l’invariance et la contraction. Les problèmes liés à la stabilité des systèmes peuvent être formulés en termes de calcul de leurs domaines d’attraction. Pour des fins de développement, nous rappelons les méthodes de la littérature pour la caractérisation de ces domaines d’attraction pour les systèmes linéaires et non linéaires. Une application importante de ces méthodes est le contrôle de la croissance tumorale en présence de différents traitements. Car dans cette application, plusieurs contraintes peuvent être posées pour éviter l’intoxication des patients pendant les traitements et les méthodes de la théorie des ensembles peuvent les prendre en compte facilement. Pour cette application, nous proposons une méthodologie pour déterminer les domaines d’attraction pour les modèles mathématiques choisis pour simuler la croissance tumorale. Dans la deuxième partie, nous proposons des méthodes de la théorie des ensemble pour la caractérisation des domaines d’attraction pour les systèmes non linéaires incertains. Au début, nous développons des conditions suffisantes pour l’invariance et la contraction d’un ellipsoïde pour des systèmes saturés. Ces conditions permettent de déterminer implicitement une fonction de Lyapunov quadratique locale. Nous montrerons que l’approche proposée est moins conservatrice que celles de la littérature, et donnerons un algorithme pour la caractérisation de l’ellipsoïde invariant et contractif. Pour les systèmes non linéaires incertains, nous développons une condition suffisante pour l’invariance contrôlable robuste pour le cas des incertitudes paramétriques. Une méthode basée sur cette condition est développée pour la caractérisation des domaines d’attraction des systèmes avec ces incertitudes. Ensuite, nous nous concentrons sur l’étude des systèmes non linéaires avec incertitudes additives, et nous donnons également une autre méthode pour la caractérisation de leurs domaines d’attraction. Ces méthodes sont des méthodes facilement traitables en utilisant les outils de l’optimisation convexe. Dans la troisième partie, nous développons des outils numériques pour la caractérisation des domaines d’attraction pour les modèles de la croissance tumorale en présence de traitements, en particulier la chimiothérapie et le traitement anti-angiogénique. Ces domaines contiennent tous les états des patients pour lesquels ils existent des protocoles de traitement efficaces. Dans ce cadre, nous considérons que les modèles sont incertains car les paramètres exactes qui les définissent sont en pratique inconnus. Ces outils sont basés sur les méthodes rappelées et développées dans cette thèse. Plusieurs informations utiles pour une thérapie tumorale efficace peuvent être extraites de ces domaines. / This thesis aims at using the mathematical modeling with advanced control tools to guide therapies for the contraction of the tumor. The aims of this thesis are the contribution to the development of the set-theoretic methods for robust control of nonlinear systems and the development of analytical tools for the analysis and control of tumor growth in presence of chemotherapy and/oranti-angiogenic therapy. Generically, in the context of control theory, techniques that are theoretically based on some properties of subsets of the system state space could be referred as set-theoretic methods.In the first part, we review the definitions, concepts and tools of the existing set-theoretic methods in the literature to respond effectively to the control issues of linear and nonlinear systems with hard constraints and uncertainties. In this context, we are interested in two properties of sets that are invariance and contractiveness. The problems associated with the stability of the systems may be formulated in terms of calculation of their domain of attraction. For development purposes, we recall methods from the literature for characterizing these domains of attraction for linear and nonlinear systems. An important application of these methods is the control of tumor growth in the presence of different treatments. For this application, several constraints can be imposed in order to avoid the patient intoxications during the treatments and the set-theoretic methods can consider easily these constraints. For this latter application, we propose a methodology to estimate the domains of attraction for the mathematical models chosen to simulate the tumor growth.In the second part, we propose set-theoretic methods for the characterization of the domains ofattraction for linear and nonlinear uncertain systems. At the beginning, we develop sufficient conditions for the invariance and contractiveness of an ellipsoid for saturated systems. These conditions allow implicitly determining a local Lyapunov function. We will show that the proposed approach is less conservative than those in the literature, and we give an algorithm for characterizing the invariant ellipsoids. For uncertain nonlinear systems, we develop a sufficient condition for the robust controlled invariance in the case of parametric uncertainties. A method based on this condition is developed for characterizing the domains of attraction for nonlinear systems with these uncertainties. Then we focus on the study of nonlinear systems with additive uncertainties, and we also give a method for the characterization of their domains of attraction. These methods are easily treatable using convex optimization tools.In the third part, we develop numerical tools for characterizing the domains of attraction for themodels of tumor growth in the presence of treatments, particularly chemotherapy and anti-angiogenictreatment. These domains contain all the states of the patients for whom effective treatment protocols exist. In this context, we consider that the models are uncertain and in particular the parameters that are unknown in practice. These tools are based on the methods developed in this thesis. Several useful informations for effective tumor therapy can be extracted from these domains.