Au-delà des techniques conventionnelles de diagnostic et de suivi du cancer, l’analyse radiomique a pour objectif de permettre une médecine plus personnalisée dans le domaine de la radiothérapie, en proposant une caractérisation non invasive de l’hétérogénéité tumorale. Basée sur l’extraction de paramètres quantitatifs avancés (histogrammes des intensités, texture, forme) issus de l’imagerie multimodale, cette technique a notamment prouvé son intérêt pour définir des signatures prédictives de la réponse aux traitements. Dans le cadre de cette thèse, des signatures de la récidive des cancers du col utérin ont notamment été développées, à partir de l’analyse radiomique seule ou en combinaison avec des biomarqueurs conventionnels, apportant des perspectives majeures dans la stratification des patients pouvant aboutir à une adaptation spécifique de la dosimétrie.En parallèle de ces études cliniques, différentes barrières méthodologiques ont été soulevées, notamment liées à la grande variabilité des protocoles et technologies d’acquisition des images, qui entraîne un biais majeur dans les études radiomiques multicentriques. Ces biais ont été évalués grâce à des images de fantômes et des images multicentriques de patients pour l’imagerie TEP, et deux méthodes de correction de l’effet de stratification ont été proposées. En IRM, une méthode de standardisation des images par harmonisation des histogrammes a été évaluée dans les tumeurs cérébrales.Pour aller plus loin dans la caractérisation de l’hétérogénéité intra-tumorale et permettre la mise en œuvre d’une radiothérapie personnalisée, une méthode d’analyse locale de la texture a été développée. Adaptée particulièrement aux images IRM de tumeurs cérébrales, ses capacités à différencier des sous-régions de radionécrose ou de récidive tumorale ont été évaluées. Dans ce but, les cartes paramétriques d’hétérogénéité ont été proposées à des experts comme des séquences IRM additionnelles.À l’issue de ce travail, une validation dans des centres extérieurs des modèles développés, ainsi que la mise en place d’essais cliniques intégrant ces méthodes pour personnaliser les traitements seront des étapes majeures dans l’intégration de l’analyse radiomique en routine clinique. / Beyond the conventional techniques of diagnosis and follow-up of cancer, radiomic analysis allows to personalize radiotherapy treatments, by proposing a non-invasive characterization of tumor heterogeneity. Based on the extraction of advanced quantitative parameters (histograms of intensities, texture, shape) from multimodal imaging, this technique has notably proved its interest in determining predictive signatures of treatment response. During this thesis, signatures of cervical cancer recurrence have been developed, based on radiomic analysis alone or in combination with conventional biomarkers, providing major perspectives in the stratification of patients that can lead to dosimetric treatment plan adaptation.However, various methodological barriers were raised, notably related to the great variability of the protocols and technologies of image acquisition, which leads to major biases in multicentric radiomic studies. These biases were assessed using phantom acquisitions and multicenter patient images for PET imaging, and two methods enabling a correction of the stratification effect were proposed. In MRI, a method of standardization of images by harmonization of histograms has been evaluated in brain tumors.To go further in the characterization of intra-tumor heterogeneity and to allow the implementation of a personalized radiotherapy, a method for local texture analysis has been developed. Specifically adapted to brain MRI, its ability to differentiate sub-regions of radionecrosis or tumor recurrence was evaluated. For this purpose, parametric heterogeneity maps have been proposed to experts as additional MRI sequences.In the future, validation of the predictive models in external centers, as well as the establishment of clinical trials integrating these methods to personalize radiotherapy treatments, will be mandatory steps for the integration of radiomic in the clinical routine.

En raison des relations complexes entre les variables des systèmes biologiques, l’hétérogénéité des données biologiques pose un défi pour leur modélisation par des modèles mathématiques et statistiques. En réponse, étant conçus pour traiter des données multiniveaux et bruitées, les modèles à effets mixtes deviennent de plus en plus populaires en modélisation quantitative de systèmes biologiques. L'objectif de cette thèse est de présenter l’application de modèles à effets mixtes à différents systèmes biologiques. Le deuxième chapitre de ce mémoire vise à déterminer la relation entre la cote de qualité du sirop d'érable, divers indicateurs de qualité couramment obtenus par les producteurs ainsi qu'un nouvel indicateur, le COLORI, et la concentration en acides aminés (AA). Pour cela, nous avons créé deux modèles à effets mixtes : le premier est un modèle ordinal qui prédit directement la cote de qualité du sirop d'érable en utilisant la transmittance, COLORI et AA ; le deuxième modèle est un modèle non linéaire qui prédit la concentration en AA en utilisant COLORI avec le pH comme approximation temporelle. Nos résultats montrent que la concentration en AA est un bon prédicteur de la qualité du sirop d'érable et que COLORI est un bon prédicteur de la concentration en AA. Le troisième chapitre traite de l’utilisation d’un modèle de la pharmacocinétique de population (PopPK) pour décrire la dynamique de l'estradiol dans un modèle de pharmacologie quantitative des systèmes (QSP) de la différenciation des cellules mammaires en cellules myoépithéliales afin de capturer l'hétérogénéité de la population de patients. Nous avons trouvé que la composante PopPK du modèle QSP n’a pas ajoutée de grande variation dans la dynamique de patients virtuels, ce qui suggère que le modèle QSP inclut intrinsèquement l'hétérogénéité. Dans l'ensemble, ce mémoire démontre l'application de modèles à effets mixtes au systèmes biologiques pour comprendre l'hétérogénéité des données biologiques. / Modelling biological systems with mathematical models has been a challenge due to the tendency for biological data to be heavily heterogeneous with complex relationships between the variables. Mixed effects models are an increasingly popular choice as a statistical model for biological systems since it is designed for multilevel data and noisy data. The aim of this thesis is to showcase the range of usage of mixed effects modelling for different biological systems. The second chapter aims to determine the relationship between maple syrup quality rating and various quality indicator commonly obtained by producers as well as a new indicator, COLORI, and amino acid (AA) concentration. For this, we created two mixed effects models: the first is an ordinal model that directly predicts maple syrup quality rating using transmittance, COLORI and AA; the second model is a nonlinear model that predicts AA concentration using COLORI with pH as a time proxy. Our models show that AA concentration is a good predictor for maple syrup quality, and COLORI is a good predictor for AA concentration. The third chapter involves using a population pharmacokinetics (PopPK) model to estimate estradiol dynamics in a quantitative systems pharmacokinetics (QSP) model for mammary cell differentiation into myoepithelial cells in order to capture population heterogeneity among patients. Our results show that the QSP model inherently includes heterogeneity in its structure since the added PopPK estradiol portion of the model does not add large variation in the estimated virtual patients. Overall, this thesis demonstrates the application of mixed effects models in biology as a way to understand heterogeneity in biological data.