Avec la révolution récente de la génomique et la médecine stratifiée, le développement de signatures moléculaires devient de plus en plus important pour prédire le pronostic (biomarqueurs pronostiques) ou l’effet d’un traitement (biomarqueurs prédictifs) de chaque patient. Cependant, la grande quantité d’information disponible rend la découverte de faux positifs de plus en plus fréquente dans la recherche biomédicale. La présence de données de grande dimension (nombre de biomarqueurs ≫ taille d’échantillon) soulève de nombreux défis statistiques tels que la non-identifiabilité des modèles, l’instabilité des biomarqueurs sélectionnés ou encore la multiplicité des tests.L’objectif de cette thèse a été de proposer et d’évaluer des méthodes statistiques pour l’identification de ces biomarqueurs et l’élaboration d’une prédiction individuelle des probabilités de survie pour des nouveaux patients à partir d’un modèle de régression de Cox. Pour l’identification de biomarqueurs en présence de données de grande dimension, la régression pénalisée lasso est très largement utilisée. Dans le cas de biomarqueurs pronostiques, une extension empirique de cette pénalisation a été proposée permettant d’être plus restrictif sur le choix du paramètre λ dans le but de sélectionner moins de faux positifs. Pour les biomarqueurs prédictifs, l’intérêt s’est porté sur les interactions entre le traitement et les biomarqueurs dans le contexte d’un essai clinique randomisé. Douze approches permettant de les identifier ont été évaluées telles que le lasso (standard, adaptatif, groupé ou encore ridge+lasso), le boosting, la réduction de dimension des effets propres et un modèle implémentant les effets pronostiques par bras. Enfin, à partir d’un modèle de prédiction pénalisé, différentes stratégies ont été évaluées pour obtenir une prédiction individuelle pour un nouveau patient accompagnée d’un intervalle de confiance, tout en évitant un éventuel surapprentissage du modèle. La performance des approches ont été évaluées au travers d’études de simulation proposant des scénarios nuls et alternatifs. Ces méthodes ont également été illustrées sur différents jeux de données, contenant des données d’expression de gènes dans le cancer du sein. / With the recent revolution in genomics and in stratified medicine, the development of molecular signatures is becoming more and more important for predicting the prognosis (prognostic biomarkers) and the treatment effect (predictive biomarkers) of each patient. However, the large quantity of information has rendered false positives more and more frequent in biomedical research. The high-dimensional space (i.e. number of biomarkers ≫ sample size) leads to several statistical challenges such as the identifiability of the models, the instability of the selected coefficients or the multiple testing issue.The aim of this thesis was to propose and evaluate statistical methods for the identification of these biomarkers and the individual predicted survival probability for new patients, in the context of the Cox regression model. For variable selection in a high-dimensional setting, the lasso penalty is commonly used. In the prognostic setting, an empirical extension of the lasso penalty has been proposed to be more stringent on the estimation of the tuning parameter λ in order to select less false positives. In the predictive setting, focus has been given to the biomarker-by-treatment interactions in the setting of a randomized clinical trial. Twelve approaches have been proposed for selecting these interactions such as lasso (standard, adaptive, grouped or ridge+lasso), boosting, dimension reduction of the main effects and a model incorporating arm-specific biomarker effects. Finally, several strategies were studied to obtain an individual survival prediction with a corresponding confidence interval for a future patient from a penalized regression model, while limiting the potential overfit.The performance of the approaches was evaluated through simulation studies combining null and alternative scenarios. The methods were also illustrated in several data sets containing gene expression data in breast cancer.

Les ribosomes sont responsables de la traduction des ARNm en protéines. Des modifications de la composition des ribosomes altèrent son activité de traduction et favorisent la tumorigenèse. L’identification des altérations de composition des ribosomes dans les cancers du sein pourrait être un nouveau mécanisme de tumorigenèse mammaire et ouvrir de nouvelles perspectives thérapeutiques. En effet, les cancers du sein restent la première cause de mortalité liés aux cancers chez la femme et leur hétérogénéité induit un problème thérapeutique important. Dans ce contexte, les altérations de composition des ribosomes dans les cancers du sein ont été abordées dans des cohortes humaines et dans des modèles cellulaires de l’EMT (Transition Epithélio-Mésenchymateuse), un processus impliqué dans la tumorigenèse mammaire. Ces travaux ont permis d’identifier : i) deux facteurs impliqués dans la biogenèse des ribosomes, FBL (fibrillarine) et NCL (nucléoline) dont les variations d’expression sont associées à un mauvais pronostic chez les patientes ; et ii) des variations de composition du ribosome et de son activité traductionnelle dans l’EMT. L’ensemble de ces résultats soutient l’existence d’altérations de composition des ribosomes dans les cancers du sein / Ribosomes are responsible of translating mRNAs to proteins. Alterations of ribosome composition modify its translation activity and favour tumourigenesis. Identification of ribosomes composition alterations in breast cancers might correspond to a new mechanism responsible of mammary tumourigenesis and might open up novel therapeutic approaches. Indeed breast cancers represent the first cause of women mortality due to cancers and their heterogeneity induces an important therapeutic problem.In this context, alterations of ribosomes composition were determined in human cohorts and in EMT (Epithelial to Mesenchymal Transition) cellular models, the EMT being a process involved in mammary tumourigenesis. This studies identify : (i) two factors involved in ribosome biogenesis, FBL (fibrillarin) and NCL (nucleolin) whose expression variations are associated with poor prognosis in patients and (ii) variations of ribosome composition and its translational activity in EMT. Altogether, this data support the presence of ribosomes composition alterations in breast cancers

Les cancers triple négatif (TN) représente la forme la plus agressive des cancers du sein, avec un pourcentage de décès importants. Il existe une grande hétérogénéité au sein de cette maladie en termes de présentation clinique initiale, de caractéristiques biologiques, de sensibilité au traitement et d’évolution. Aucun progrès en survie n’a été réalisé depuis l’avènement des protocoles de chimiothérapie standards. En effet, malgré une bonne réponse initiale au traitement, 65% des patientes résistent aux thérapies actuelles et récidivent ce qui leur confère un pronostic particulièrement sombre. Il y a donc urgence à identifier de nouveaux protocoles de traitement et de nouvelles molécules efficaces pour ces patientes.Une stratégie de plus en plus intéressante actuellement est celle du repositionnement de composés médicaux qui n’étaient initialement pas destinés au traitement d’une maladie donnée. Cette approche a pour avantage de profiter de l’effort de recherche et développement initial extrêmement couteux et de profiter des études pharmacologiques déjà disponibles. J’ai ainsi effectué au cours de ma thèse un criblage de composés chimiques à haut débit sur 12 lignées de cancers du sein TN afin de prendre en compte leur hétérogénéité. A l’issue de ce crible, plusieurs composés se sont avérés intéressants de par leur potentiel anti-cancéreux. Plus particulièrement, des molécules psychoactives impliquées dans le métabolisme de la sérotonine (ie antidépresseurs, et notamment les inhibiteurs de recapture de la sérotonine-SSRI) sont apparues comme des « hits » forts.Suite à ces résultats, mon travail de thèse s’est orienté plus particulièrement vers la compréhension de l’activité de ces molécules et du métabolisme de la sérotonine dans nos modèles TN afin de comprendre pourquoi ces composés pouvaient présenter un intérêt dans le traitement de ces cancers. Différents aspects biologiques ont ainsi été investigués pour ces antidépresseurs. J’ai ainsi étudié le rôle exercé par la sérotonine sur mes modèles cellulaires. D’autre part, j’ai entrepris une cartographie des acteurs du métabolisme de la sérotonine afin de caractériser mes modèles. J’ai ainsi découvert deux récepteurs à la sérotonine majoritairement présents, HTR1D et HTR1B, qui ont fait l’objet de recherches approfondies. J’ai ainsi pu démontrer l’intérêt de ces deux récepteurs comme cibles thérapeutiques potentielles dans les cancers triple négatifs. Grace à une étude rétrospective j’ai pu mettre en évidence une corrélation statistiquement significative entre le niveau d’expression de chacun de ces deux récepteurs et la survie des patientes TN. Nous observons ainsi une nette discrimination entre les deux groupes de cancers exprimant peu ou fortement ces gènes. J’ai ainsi pu mettre en évidence que ces deux récepteurs représentent des biomarqueurs pronostics forts des patientes TN. L’étude immunohistochimique, a permis de confirmer la présence de ces récepteurs dans les tumeurs TN. Par ailleurs, j’ai pu identifier un micro ARN régulant l’expression de l’un des récepteurs dans les lignées TN. De façon cohérente, j’ai pu observer un effet pronostic significatif du niveau d’expression de ce micro ARN sur la survie des patientes TN. L’efficacité des composés de type SSRI et d’un antagoniste de nos deux récepteurs a pu être vérifiée sur des cultures ex vivo issues de PDX notamment résistantes aux chimiothérapies. L’évaluation préclinique de ces composés a pu être testée sur un premier modèle murin TN de type PDX mais n’a cependant pas permis de démontrer d’efficacité antitumorale in vivo. En effet, la complexité du métabolisme de la sérotonine, tout comme l’hétérogénéité biologique des TN requièrent des études plus approfondies afin de pouvoir faire la preuve de concept du ciblage thérapeutique de ces récepteurs et de la modulation du métabolisme de la sérotonine dans ces cancers. Ce travail fait l’objet d’un manuscrit en préparation pour publication dans le cadre de cette thèse. / Triple negative breast cancer (TNBC) is the most aggressive form of breast cancers. It accounts for 15-20% of breast cancers. No progress in survival has been achieved since the advent of standard chemotherapy protocols. TNBC is an important clinical challenge. They have the worst outcome among breast cancer subgroups. Given their poor prognosis, their assumed hetetogeneity, and absence of any alternative specific targeted therapy, chemotherapy remains the only TNBC treatment. Despite an often good initial response to treatment, more than a half of patients do not achieve a pathological complete response, with a frequent and fast tumor relapse. Several therapeutic approaches have been identified preclinically, but none of these molecules have been shown to be effective on all of these patients. There is a urge for the identification of new treatments.An interesting strategy is the repurposing of medical compounds that were initially not intended for the treatment of a given disease. This strategy takes advantage of the extremely expensive initial research and development effort. This process is potentially efficient and cost-effective as previous clinical trials have been performed and pharmacokinetics/pharmacodynamics and toxicity have been already explored. In order to develop new treatment schemes we addressed the following question: Is there available drugs with strong activity in TNBC? To do so, we performed a high-throughput drug screening on 12 TNBC cell lines to reflect the dramatic heterogeneity of the disease. From this drug discovery program, several interesting compounds were identified with significant anti-tumor potential against TNBC. More particularly, psychoactive compounds regulating serotonin metabolism (ie antidepressant drugs and notably serotonin selective reuptake inhibitors-SSRIs) were found to be highly effective “hits”.My thesis work turned to the comprehension of serotonin implication in TNBC physiopathology to understand if modulating its metabolism could be of therapeutic interest for TNBC management. Different biological aspects were investigated concerning serotonin effects on TNBC cellular models (serotonin adjunction in vitro or endogenous synthesis inhibition). In addition, I established a comprehensive map of the serotonergic landscape in TNBC (biosynthetic capacity, transporters, receptors) that led to the identification of therapeutic targets that would be of interest in the treatment of cancer: HTR1D and HTR1B. Indeed, by blocking these promising targets (with chemical inhibitors or siRNA knockdown) we observed a strong reduction in cell viability in our large panel of TNBC cell lines. Remarkably, we found that their expression levels were associated to poor prognosis in breast cancer, and notably in TNBC subtype with huge dichotomy observed in the outcome, allowing future stratification of TNBC patient management and selection for further targeted therapies. These results pinpoint HTR1D and HTR1B as strong prognosis biomarkers in TNBC. Immunohistochemistry staining was also conducted to confirm the presence of these targets at the protein level in tumor samples. Moreover, I could identify a microRNA regulating one of these receptors: has-miR-599. Consistently, expression levels of this microRNA demonstrated a prognostic impact on TNBC survival. While ex vivo data of one SSRI and the dual antagonist of HTR1D/HTR1D receptors shown encouraging efficacy, their preclinical evaluation assessed in a TN PDX model could not allow to demonstrate any significant effect on tumor growth in vivo. As a matter of fact, serotonin metabolism is a complex system and TNBC heterogeneity does not permit to conclude on the therapeutic proof of concept of the serotonergic modulation in TNBC with this first attempt. A scientific manuscript of this work is being prepared for publication.