Le cancer de la prostate (CaP) est le cancer le plus diagnostiqué et représente la troisième cause de décès par cancer chez les hommes au Canada. Les androgènes jouent un rôle crucial dans la progression de la maladie et sont la cible du traitement du CaP. L'environnement hormonal, notamment la testostérone (T), présente une valeur pronostique et prédictive. Or, l'environnement hormonal ne se limite pas uniquement à la T. Il a été démontré, par notre groupe et d'autres, que les niveaux des précurseurs surrénaliens comme la DHEA sont associés à la progression du CaP. Les androgènes non canoniques oxygénés en position 11 (11oxyA), également dérivés de la glande surrénale, sont abondants en circulation. Certains de ces dérivés comme le 11-keto-T (11KT) ont un potentiel androgénique comparable à ceux de la T et son métabolite la dihydrotestostérone (DHT). Aucune étude n'a questionné la valeur pronostique et prédictive des 11oxyA en CaP localisé. **L'hypothèse** centrale de mon projet de thèse stipulait que les niveaux circulants des 11oxyA pourraient constituer de nouveaux marqueurs pronostiques et prédictifs permettant d'améliorer la prédiction du risque de progression du CaP localisé. Les travaux reposent sur l'étude de la cohorte prospective multicentrique Québécoise PROCURE, de patients atteints d'un CaP localisé et initialement traités par prostatectomie radicale (PR). Une approche quantitative basée sur la spectrométrie de masse en tandem couplée à la chromatographie liquide (LC-MS/MS) a été utilisée afin de quantifier les hormones stéroïdiennes, incluant sept dérivés de 11oxyA comme les précurseurs 11OHA4 et 11KA4, les androgènes 11OHT, 11KT et 11KDHT, et leurs métabolites 11OHAST et 11KAST, jamais étudiés dans ce contexte clinique. L'association entre les niveaux des stéroïdes avec les critères cliniques et pathologiques, la récidive et la survie a été évaluée par des courbes de survie de Kaplan-Meier et des modèles de régression multivariés de Cox. **Le premier objectif** visait à évaluer les niveaux hormonaux préopératoires et d'établir le lien avec la progression de la maladie chez les patients atteints d'un CaP localisé nouvellement diagnostiqué et ayant été traités par prostatectomie radicale. La cohorte à l'étude était constituée de 1793 patients n'ayant pas reçu de traitement en préopératoire et 155 patients ayant reçu des inhibiteurs de la 5α-réductase. L'hypothèse stipulait que les niveaux circulants préopératoires des 11oxyA en maladie localisée soient associés à la progression vers la maladie métastatique. Les résultats ont révélé une association entre des niveaux élevés du précurseur surrénalien 11OHA4 et une survie sans métastase réduite. En revanche, les niveaux élevés de l'androgène 11KT, et son métabolite 11KAST, ont été associés à une survie sans métastase prolongée. Notre étude établit le potentiel pronostique des niveaux plasmatiques d'androgènes 11-oxygénés associés à la maladie métastatique, et met en évidence des changements significatifs de leurs niveaux suivant une exposition aux inhibiteurs de la voie 5α-réductase. **Le second objectif** visait à évaluer les niveaux hormonaux et leur lien avec la progression de la maladie chez les patients atteints d'un CaP récidivant après une PR non métastatique sous thérapie hormonale de déprivation androgénique. **L'hypothèse** stipulait que les niveaux circulants des 11oxyA sous thérapie hormonale soient associés à la maladie résistante à la castration. Les niveaux circulants des stéroïdes ont été quantifiés chez 145 patients avec une maladie récidivante non métastatique suivant la chirurgie sous thérapie pour lesquels des spécimens étaient disponibles sous thérapie. Nos résultats ont mis en évidence que l'hormonothérapie, caractérisée par un agoniste ou un antagoniste de la LHRH, n'affecte pas les niveaux circulants des 11oxyA, tandis qu'une diminution significative a été observée pour la T et d'autres stéroïdes. Le 11KT constituait plus de 70 % des androgènes actifs en circulation. Les niveaux élevés de 11KT ont été associés à l'apparition plus précoce de la maladie résistante à la castration, avec un risque 2,70 fois plus élevé (*P* = 0,019). Les données suggèrent la valeur pronostique et prédictive des niveaux circulants élevés du 11KT chez les patients récidivants sous thérapie hormonale. Nos observations supportent l'hypothèse et suggèrent que l'androgène non canonique 11KT pourrait contribuer à la progression de la maladie localisée et récidivante chez un patient sous thérapie hormonale. / Prostate cancer (PCa) is the most diagnosed cancer and represents the third leading cause of cancer death among men in Canada. Androgens play a crucial role in disease progression and are the primary target of PCa treatment. The hormonal environment, notably testosterone (T), has a prognostic and predictive value. However, the hormonal environment is not limited only to T. It has been demonstrated by our lab and others that the levels of adrenal precursors, such as DHEA, are associated with the progression of PCa. Non-canonical oxygenated androgens at position 11 (11oxyA), also derived from the adrenal gland, are abundant in circulation. Some of these derivatives, such as 11-keto-T (11KT), have an androgenic potential comparable to those of T and its metabolite dihydrotestosterone (DHT). No study has yet investigated the prognostic and predictive value of 11oxyA in localized PCa. The main hypothesis of my thesis stipulated that the circulating levels of 11oxyA could constitute new prognostic and predictive markers to enhance the risk assessment of disease progression of localized PCa. The study is based on the study of the Quebec multicentric prospective PROCURE cohort, which includes patients newly diagnosed with localized PCa who underwent initial treatment by radical prostatectomy. A quantitative method using tandem mass spectrometry coupled with liquid chromatography (LC-MS/MS) was employed to quantify steroid hormones, including seven 11oxyA derivatives such as the precursors 11OHA4 and 11KA4, the androgens 11OHT, 11KT and 11KDHT and their metabolites 11OHAST and 11KAST which have never been studied in this clinical context. The association between steroid levels and clinical, pathological criteria, recurrence, and survival was evaluated using Kaplan-Meier survival analysis and multivariable Cox regression models. The first objective was to evaluate preoperative steroid levels and establish the link with disease progression in newly diagnosed localized PCa patients treated by radical prostatectomy. The study included 1793 patients who had not received preoperative treatment and 155 patients who had been exposed to 5α-reductase inhibitors before prostatectomy. The hypothesis stated that preoperative circulating levels of 11oxyA in localized disease are associated with progression to metastatic disease. High levels of the adrenal precursor 11OHA4 were associated with reduced metastasis-free survival. Conversely, high levels of the androgen 11KT, and its metabolite 11KAST were associated with prolonged metastasis-free survival. Our study establishes the potential prognostic value of preoperative plasma levels of 11-oxygenated androgen in predicting metastatic disease and demonstrates significant changes in their levels following exposure to 5α-reductase pathway inhibitors. The second objective aimed to evaluate steroid levels and their link with disease progression in patients with non-metastatic recurrent PCa undergoing androgen deprivation therapy (ADT). The hypothesis stated that circulating levels of 11oxyA under hormonal therapy are associated with castration-resistant disease. Circulating steroid levels were quantified in 145 patients with recurrent disease following surgery and under ADT, for whom specimens were available during therapy. Our results demonstrated that hormonal therapy, characterized by an LHRH agonist or antagonist, does not affect circulating levels of 11oxyA, while a significant decrease was observed for T and other steroids. 11KT constituted more than 70% of circulating active androgens. High levels of 11KT were associated with earlier onset of castration-resistant disease, with a 2.70-fold increased risk (*P* = 0.019). Our findings highlight the prognostic and predictive value of elevated circulating levels of 11KT in recurrent patients under hormonal therapy. Our observations support the prognostic and predictive value of non-canonical androgens, particularly 11KT, making it possible to improve the prediction of the risk of progression and the response to hormonal therapy in localized PCa. The work also supports the role of 11-oxygenated androgens in the progression of localized cancer.

Les options thérapeutiques d'intention curative ont une faible probabilité de succès chez les patients atteints d'un cancer de la prostate avec métastases ganglionnaires. Ainsi, l'obtention d'une méthode de prédiction de la présence ou l'apparition de métastases ganglionnaires est souhaitable. Ce document présente le développement d'un modèle de prédiction de la présence de métastases ganglionnaires à la prostatectomie radicale. Le modèle utilise les marqueurs radiomiques extraits de l'examen FDG-TEP/CT fait en préopératoire. Ces marqueurs issus de la radiomique - définie comme le processus d'extraction quantitative de données exploitables de haute dimension à partir d'images médicales - permettent de quantifier des caractéristiques invisibles à l'œil tels que les paramètres de texture et d'intensité. Dans un premier volet, afin de limiter les erreurs de recalage entre la TEP et le CT, une évaluation de l'extraction des marqueurs radiomiques a été effectuée en comparant la valeur maximale d'absorption standardisée (SUVₘₐₓ) sur l'imagerie TEP. Une méthode de segmentation semi-automatique de la vessie en TEP a été développée de manière à soustraire la vessie de la segmentation de la prostate, ce qui permet une extraction plus juste des marqueurs radiomiques. Dans un second volet, une méthode de sélection des marqueurs radiomiques a été développée afin de réduire les marqueurs redondants et de sélectionner les plus importants, ce qui a permis de sélectionner 17 marqueurs TEP. Lorsque combinés avec l'intelligence artificielle, les marqueurs radiomiques peuvent être utilisés pour la prédiction de différents paramètres cliniques. Un modèle de prédiction utilisant un classificateur par forêts aléatoires a permis d'obtenir des résultats démontrant le potentiel de l'algorithme et des marqueurs radiomiques en FDG-TEP/CT. Une fois couplé aux données cliniques, l'algorithme permet une meilleure prédiction. Une AUC de (79 ± 9) % est obtenue lors de la combinaison du modèle de prédiction avec le stade clinique de la tumeur. / Therapeutic options with curative intent have a low probability of success in patients with prostate cancer with lymph node metastases. Therefore, a method for predicting the presence or development of lymph node metastases is desirable. This document presents the development of a model for predicting the presence of lymph node metastases at radical prostatectomy. The model uses radiomic markers extracted from the preoperative FDG-PET/CT examination. These radiomic markers - defined as the process of quantitatively extracting high-dimensional usable data from medical images - allow the quantification of features invisible to the eye such as texture and intensity parameters. In the first part, to limit the misalignment errors between PET and CT, an evaluation of the extraction of radiomic markers was carried out by comparing the standardized maximum absorption value (SUVₘₐₓ) on PET imaging. A semi-automatic PET bladder segmentation method was developed to subtract the bladder from the prostate segmentation, allowing a more accurate extraction of radiomic markers. In the second phase, a method for selecting radiomic markers was developed to reduce redundant markers and to select the most important ones, resulting in the selection of 17 PET markers. When combined with artificial intelligence, radiomic markers can be used for the prediction of various clinical parameters. A prediction model using a random forest classifier provided results demonstrating the potential of the algorithm and radiomic markers in FDG-PET/CT. Once coupled with clinical data, the algorithm allows a better prediction. AUC of (79 ± 9) % is obtained when combining the prediction model with the clinical stage of tumor.