Le sélénium est reconnu comme un micronutriment important pour l'homme et les animaux. Plusieurs études ont montré qu'une supplementation en sélénium dans le régime alimentaire pourrait être bénéfique contre les cancers du foie, du colon, du pancréas et de la prostate. Le mécanisme anti-carcinogène du sélénium se produit au niveau systémique, cellulaire et nucléaire. Ces processus peuvent également impliquer le système immunitaire et ne doivent pas être interprétés par un seul mécanisme. Jusqu'à présent son mécanisme d'action est encore inconnu. L'objectif de cette étude était d'étudier l'effet des composés du sélénium, à faibles concentrations, sur la capacité de réparation de l'ADN dans les cellules du cancer de la prostate LNCaP (p53 compétentes). Ce travail est divisé en trois parties. La première partie du travail a été consacrée à étudier l'effet des deux composés du sélénium (SS et SM) sur les propriétés cytotoxiques et génotoxiques de différents stress oxydatifs et non oxydatifs. Les résultats ont montré qu'un prétraitement avec une faible dose en Se stimulait la synthèse des sélénoprotéines, et protègait contre la toxicité et les dommages oxydatifs à l'ADN induites par les UVA ou H2O2, mais pas par MMS ou UVC. La deuxième partie a été consacrée à l'influence de la supplementation en sélénium sur la capacité de réparation de l'ADN. Notre travail a clairement montré l'augmentation de l'efficacité d'excision de certaines glycosylases que n'est pas nécessairement corrélée à une augmentation de l'expression génique et /ou protéiques. Enfin, la troisième partie de notre travail a été dédiée à l'optimisation de la technique Host Cell Reactivation (HCR) qui nous a permis d'étudier la capacité de réparation de l'ADN in cellulo, afin de cibler les partenaires impliqués dans la voie de signalisation affectées par la supplémentation en sélénium. En conclusion, nous pourront penser que le mécanisme d'action du sélénium est représenté par un délicat équilibre entre l'activation et la répression de l'activité de certaines protéines qui induit des changements conformationnels plus ou moins directement impliqués dans la réparation de l'ADN et la progression de la croissance cellulaire.

Introduction: Au Canada, le cancer de la prostate est le cancer le plus fréquemment diagnostiqué chez les hommes et le plus mortel après les cancers du poumon et du côlon. Il y a place à optimiser le traitement du cancer de la prostate de manière à mettre en œuvre une médecine personnalisée qui s’adapte aux caractéristiques de la maladie de chaque patient de façon individuelle. Dans ce mémoire, nous avons évalué la réponse aux dommages de l’ADN (RDA) comme biomarqueur potentiel du cancer de la prostate. Les lésions potentiellement oncogènes de l'ADN déclenche une cascade de signalisation favorisant la réparation de l'ADN et l’activation des points de contrôle du cycle cellulaire pour préserver l’intégrité du génome. La RDA est un mécanisme central de suppression tumorale chez l’homme. La RDA joue un rôle important dans l’arrêt de la prolifération des cellules dont les génomes sont compromis, et donc, prévient la progression du cancer en agissant comme une barrière. Cette réponse cellulaire détermine également comment les cellules normales et cancéreuses réagissent aux agents utilisés pour endommager l'ADN lors du traitement du cancer comme la radiothérapie ou la chimiothérapie, en plus la présence d,un certain niveau de RDA dans les cellules du cancer de la prostate peuvent également influer sur l'issue de ces traitements. L’activation des signaux de la RDA peut agir comme un frein au cancer dans plusieurs lésions pré-néoplasiques de l'homme, y compris le cancer de la prostate. Il a été démontré que la RDA est augmentée dans les cellules de néoplasie intra- épithéliale (PIN) comparativement aux cellules prostatiques normales. Toutefois, le devient de la RDA entre le PIN et l’adénocarcinome est encore mal documenté et aucune corrélation n'a été réalisée avec les données cliniques des patients. Notre hypothèse est que les niveaux d’activation de la RDA seront variables selon les différents grades et agressivité du cancer de la prostate. Ces niveaux pourront être corrélés et possiblement prédire les réponses cliniques aux traitements des patients et aider à définir une stratégie plus efficace et de nouveaux biomarqueurs pour prédire les résultats du traitement et personnaliser les traitements en conséquence. Nos objectifs sont de caractériser l'activation de la RDA dans le carcinome de la prostate et corréler ses données avec les résultats cliniques. Méthodes : Nous avons utilisé des micro-étalages de tissus (tissue microarrays- TMAs) de 300 patients ayant subi une prostatectomie radicale pour un cancer de la prostate et déterminé le niveau d’expression de protéines de RDA dans le compartiment stromal et épithélial des tissus normaux et cancéreux. Les niveaux d’expression de 53BP1, p-H2AX, p65 et p-CHK2 ont été quantifiés par immunofluorescence (IF) et par un logiciel automatisé. Ces marqueurs de RDA ont d’abord été validés sur des TMAs-cellule constitués de cellules de fibroblastes normales ou irradiées (pour induire une activation du RDA). Les données ont été quantifiées à l'aide de couches binaires couramment utilisées pour classer les pixels d'une image pour que l’analyse se fasse de manière indépendante permettant la détection de plusieurs régions morphologiques tels que le noyau, l'épithélium et le stroma. Des opérations arithmétiques ont ensuite été réalisées pour obtenir des valeurs correspondant à l'activation de la RDA qui ont ensuite été corrélées à la récidive biochimique et l'apparition de métastases osseuses. Résultats : De faibles niveaux d'expression de la protéine p65 dans le compartiment nucléaire épithélial du tissu normal de la prostate sont associés à un faible risque de récidive biochimique. Par ailleurs, nous avons aussi observé que de faibles niveaux d'expression de la protéine 53BP1 dans le compartiment nucléaire épithéliale du tissu prostatique normal et cancéreux ont été associés à une plus faible incidence de métastases osseuses. Conclusion: Ces résultats confirment que p65 a une valeur pronostique chez les patients présentant un adénocarcinome de la prostate. Ces résultats suggèrent également que le marqueur 53BP1 peut aussi avoir une valeur pronostique chez les patients avec le cancer de la prostate. La validation d'autres marqueurs de RDA pourront également être corrélés aux résultats cliniques. De plus, avec un suivi des patients plus long, il se peut que ces résultats se traduisent par une corrélation avec la survie. Les niveaux d'activité de la RDA pourront éventuellement être utilisés en clinique dans le cadre du profil du patient comme le sont actuellement l’antigène prostatique spécifique (APS) ou le Gleason afin de personnaliser le traitement. / Background: Prostate cancer is the most frequently diagnosed cancer in Canadian men and is the third deadliest after lung and colon cancers. Currently, prostate cancer treatments are based on results obtained of digital rectal exam, Gleason scores from biopsy specimens and serum PSA (Prostatic Specific Antigen) levels. The identification of specific biomarkers for diagnosis and prognosis, as well as new therapeutic targets, is quickly paving the way for personalized medicine. Ideally, in the future, patient care will include molecular signature of a patient's disease to guide for a more efficient treatment. In this thesis, we evaluated the DNA damage response (DDR) as a potential biomarker in prostate cancer. DNA lesions in mammalian cells trigger the DDR signalling cascade that orchestrates DNA repair and activate cell cycle checkpoints to preserve genome integrity. Loss of genome stability is usually associated with cancer development, and activated DDR signalling in cells with genomic instability act as a cancer barrier in several pre-neoplastic human lesions, including prostate cancer. Thus, the DDR is an important cancer suppression mechanism. The DDR is also activated in response to anti- cancer agents including radiation therapy (RT) and DNA-damaging chemotherapies. Pre- existing DDR levels in prostate cancer cells may influence the outcome of these cancer treatments. DDR signalling has been detected during human prostate cancer progression from low levels in normal prostate cells to high levels in high-grade prostatic intraepithelial neoplasia (HG-PIN). However, DDR signalling variations detected from HG-PIN to adenocarcinoma remain unclear, and no correlations were performed with patient clinical outcome data. Our hypothesis is that the levels of persistent DDR signalling activity will be variable with different grades and aggressiveness of prostate cancer. The levels of this activity could be correlated with the clinical responses to treatments and could even predict this process. We believe that having new biomarkers will help personalizing cancer treatment and certainly increase treatments’ efficiency. Our objectives are to characterize the occurrence of DDR activation in prostate carcinoma and to correlate it with patients’ survival and responsiveness to treatment. Methods: We used tissue microarrays (TMAs) from human radical prostatectomy specimens of 300 men with prostate cancer and estimated the level of DDR protein expression in the stromal and epithelial compartments of normal and aggressive cancer tissues. The expression level of the DDR markers p53 binding protein-1 (53BP1), phosphorylated H2AX (p-H2AX), p65 (p65 subunit of Nuclear Factor (NF-κB) and phosphorylated checkpoint kinase-2 (p-CHK2) was quantified using immunofluorescence (IF) coupled to high-content automated imaging. The quantification of our DDR markers was first validated on an experimental TMA (TMA-cell) including normal and irradiated (to induce DDR signalling) cultured human fibroblasts. The data was quantified using binary layers commonly used to classify pixels in an image so areas could be analysed independently allowing the segregation of specific compartments including nuclei, epithelia and stroma. Arithmetic operations were performed to render values corresponding to DDR activation that were then correlated with clinical outcomes such as biochemical recurrence and occurrence of bone metastasis. Results: We found that low levels of p65 protein expression in the nuclear epithelial compartments of normal prostate tissue were associated with a reduced probability of biochemical failure (which corresponds to a rise in the serum level of PSA in prostate cancer patients following treatment, surgery in this cohort of patients). Moreover, we also observed that low levels of 53BP1 protein expression in the nuclear epithelial compartments of normal and cancerous prostate tissue were associated with a lower incidence of bone metastasis. Conclusion: These results confirm that p65 has prognostic value in patients with prostate adenocarcinoma. Based on our results, we suggest that 53BP1 marker may have a prognostic value as well. The validation of other markers and particularly DDR markers may correlate with patients’ outcome. With longer follow-up, it may translate into correlation with survival. Levels of DDR activity in cancer tissue could be used in daily clinic as part of the patient’s diagnostic profile as much as his prostatic specific antigen (PSA) or Gleason score in order to predict response and personalize the treatment in order to guide the patients towards the most appropriate treatment amongst all those available for their prostate cancer.

Le cancer de la prostate est le cancer le plus fréquemment diagnostiqué chez les hommes canadiens et la troisième cause de décès relié au cancer. Lorsque diagnostiqué à un stade précoce de la maladie, le cancer de la prostate est traité de manière curative par chirurgie et radiothérapie. Par contre, les thérapies actuelles ne peuvent éradiquer la maladie lorsqu’elle progresse à des stades avancés. Ces thérapies, comme la chimiothérapie et l’hormonothérapie, demeurent donc palliatives. Il est primordial d’optimiser de nouvelles thérapies visant l’élimination des cellules cancéreuses chez les patients atteints des stades avancés de la maladie. Une de ces nouvelles options thérapeutiques est l’immunothérapie. L’immunothérapie du cancer a fait des progrès considérables durant les dernières années. Cependant, les avancements encourageants obtenus lors d’essais précliniques ne se sont pas encore traduits en des résultats cliniques significatifs. En ce qui concerne le cancer de la prostate, les résultats négligeables suivants des interventions immunothérapeutiques peuvent être causés par le fait que la plupart des études sur le microenvironnement immunologique furent effectuées chez des modèles animaux. De plus la majorité des études sur l’immunologie tumorale humaine furent effectuées chez des patients atteints d’autres cancers, tels que le mélanome, et non chez les patients atteints du cancer de la prostate. Donc, le but central de cette thèse de doctorat est d’étudier le microenvironnement immunologique chez les patients atteints du cancer de la prostate afin de mieux définir les impacts de la tumeur sur le développement de la réponse immunitaire antitumorale. Pour réaliser ce projet, nous avons établi deux principaux objectifs de travail : (i) la caractérisation précise des populations des cellules immunitaires infiltrant la tumeur primaire et les ganglions métastatiques chez les patients atteints du cancer de la prostate; (ii) l’identification et l’étude des mécanismes immunosuppressifs exprimés par les cellules cancéreuses de la prostate. Les résultats présentés dans cette thèse démontrent que la progression du cancer de la prostate est associée au développement d’un microenvironnement immunosuppressif qui, en partie, est régulé par la présence des androgènes. L’étude initiale avait comme but la caractérisation du microenvironnement immunologique des ganglions drainant la tumeur chez des patients du cancer de la prostate. Les résultats présentés dans le chapitre III nous a permis de démontrer que les ganglions métastatiques comportent des signes cellulaires et histopathologiques associés à une faible réactivité immunologique. Cette immunosuppression ganglionnaire semble dépendre de la présence des cellules métastatiques puisque des différences immunologiques notables existent entre les ganglions non-métastatiques et métastatiques chez un même patient. La progression du cancer de la prostate semble donc associée au développement d’une immunosuppression affectant les ganglions drainant la tumeur primaire. Par la suite, nous nous sommes intéressés à l’impact de la thérapie par déplétion des androgènes (TDA) sur le microenvironnement immunologique de la tumeur primaire. La TDA est associée à une augmentation marquée de l’inflammation prostatique. De plus, les protocoles d’immunothérapies pour le cancer de la prostate actuellement évalués en phase clinique sont dirigés aux patients hormonoréfractaires ayant subi et échoué la thérapie. Cependant, peu d’information existe sur la nature de l’infiltrat de cellules immunes chez les patients castrés. Il est donc essentiel de connaître la nature de cet infiltrat afin de savoir si celui-ci peut répondre de manière favorable à une intervention immunothérapeutique. Dans le chapitre IV, je présente les résultats sur l’abondance des cellules immunes infiltrant la tumeur primaire suivant la TDA. Chez les patients castrés, les densités de lymphocytes T CD3+ et CD8+ ainsi que des macrophages CD68+ sont plus importantes que chez les patients contrôles. Nous avons également observé une corrélation entre la densité de cellules NK et une diminution du risque de progression de la maladie (rechute biochimique). Inversement, une forte infiltration de macrophages est associée à un plus haut risque de progression. Conjointement, durant cette étude, nous avons développé une nouvelle approche informatisée permettant la standardisation de la quantification de l’infiltrat de cellules immunes dans les échantillons pathologiques. Cette approche facilitera la comparaison d’études indépendantes sur la densité de l’infiltrat immun. Ces résultats nous ont donc permis de confirmer que les effets pro-inflammatoires de la TDA chez les patients du cancer de la prostate ciblaient spécifiquement les lymphocytes T et les macrophages. L’hypothèse intéressante découlant de cette étude est que les androgènes pourraient réguler l’expression de mécanismes immunosuppressifs dans la tumeur primaire. Dans le chapitre V, nous avons donc étudié l’expression de mécanismes immunosuppressifs par les cellules cancéreuses du cancer de la prostate ainsi que leur régulation par les androgènes. Notre analyse démontre que les androgènes augmentent l’expression de molécules à propriétés immunosuppressives telles que l’arginase I et l’arginase II. Cette surexpression dépend de l’activité du récepteur aux androgènes. Chez les patients castrés, l’expression de l’arginase II était diminuée suggérant une régulation androgénique in vivo. Nous avons observé que l’arginase I et l’arginase II participent à la prolifération des cellules du cancer de la prostate ainsi qu’à leur potentiel immunosuppressif. Finalement, nous avons découvert que l’expression de l’interleukin-8 était aussi régulée par les androgènes. De plus, l’interleukin-8, indépendamment des androgènes, augmente l’expression de l’arginase II. Ces résultats confirment que les androgènes participent au développement d’une microenvironnement immunosuppressif dans le cancer de la prostate en régulant l’expression de l’arginase I, l’arginase II et l’interleukin-8. En conclusion, les résultats présentés dans cette thèse témoignent du caractère unique du microenvironnement immunologique chez les patients atteints du cancer de la prostate. Nos travaux ont également permis d’établir de nouvelles techniques basées sur des logiciels d’analyse d’image afin de mieux comprendre le dialogue entre la tumeur et le système immunitaire chez les patients. Approfondir les connaissances sur les mécanismes de régulation du microenvironnement immunologique chez les patients atteint du cancer de la prostate permettra d’optimiser des immunothérapies mieux adaptées à éradiquer cette maladie. / Prostate cancer is the most frequently diagnosed cancer in Canadian men and the third cause of cancer related death. When diagnosed at an early stage, prostate cancer can be effectively cured by surgery and radiotherapy. However, current therapies do not eradicate the advanced stages of the disease. Treatment of prostate cancer via chemotherapy or hormonotherapy remains palliative. It is thus essential to optimize novel therapies whose goal is to eliminate tumor cells in patients with advanced prostate cancer. One such approach is immunotherapy. Cancer immunotherapy has made important strides in recent years. The encouraging progress observed in pre-clinical trials has nonetheless not translated to significant results in the clinical setting. Concerning prostate cancer, the limited clinical efficacy of current immunotherapeutic protocols could be explained by the lack of studies directly evaluating the immunological microenvironment in prostate cancer patients and not in animal models or in patients afflicted by other malignancies, such as melanoma. Thus, the fundamental goal of this Ph.D. thesis is to study the immunological microenvironment in prostate cancer patients in order to better understand the impact of the tumor on the development of the anti-tumoral immune response. To realize this project, we established two main working objectives: (i) to precisely characterize the immune cell populations in tumor draining lymph nodes (LNs) and in the primary tumor of prostate cancer patients; (ii) to identify and to study the immunosuppressive pathways expressed by prostate cancer cells. The results detailed in this thesis demonstrate that prostate cancer progression is associated with the development of an immunosuppressive microenvironment, which is regulated, in part, by the presence of androgens. The initial study was based on the characterization of the immunological microenvironment of tumor draining LNs of prostate cancer patients. The results presented in chapter III allowed us to demonstrate that metastatic lymph nodes displayed cellular and histopathological evidence associated with a reduced immunological reactivity. This LN immunosuppression seemed to be dependant on the presence of metastatic cells as we noted significant immunological differences between non-metastatic and metastatic lymph nodes of the same patient. Prostate cancer progression was thus associated with the development of an immunosuppressive state, which affected tumor-draining lymph nodes. Next, we studied the impact of androgen deprivation therapy (ADT) on the immunological microenvironment of the primary tumor. Following ADT, there is a marked augmentation in intra-prostatic inflammation. Immunotherapeutic protocols currently evaluated in clinical trials are targeted at hormone refractory patients, which have received and failed ADT. However, very little information is available regarding the nature of the post-ADT immune infiltrate. Thus, it becomes essential to understand whether this post-ADT infiltrate could positively react to immunotherapy. In chapter IV, I present the results of the quantification of the immune cell abundance within the primary tumor. In patients who have received ADT prior to surgery, there was an elevated density of CD3+ and CD8+ T lymphocytes as well as CD68+ macrophages compared to control patients. We also observed an inverse correlation between the NK cell density and the risk of disease progression (biochemical recurrence). Conversely, an elevated macrophage infiltration was associated with a higher risk of progression. Furthermore, for this study, we developed a novel computerized approach allowing for the standardization of the quantification of immune cell infiltrate. This approach could facilitate the interpretation of results from independent studies on the density of immune cells within pathological specimens. This study confirmed that the pro-inflammatory impact of androgen deprivation therapy in prostate cancer patients target specifically the T lymphocyte and macrophage populations. The interesting hypothesis arising from this study was that androgens could positively regulate the expression of immunosuppressive pathways within the primary tumor. In chapter V, we evaluated the immunosuppressive mechanisms expressed by prostate cancer cells and regulated by androgens. Our analysis demonstrate that androgens increase the expression of molecules with immunosuppressive properties, such as arginase I and arginase II in an androgen receptor dependent manner. This androgen regulated expression of arginase II was also observed in prostate cancer patients treated by ATD. We observed that arginase I and arginase II participate in prostate cancer cell proliferation as well as in their immunosuppressive potential. Finally, we discovered that interleukin-8 expression was also regulated by androgens. Moreover, interleukin-8, independently of androgens, increased the expression of arginase II. Altogether, these results confirmed that androgens participate in the development of an immunosuppressive microenvironment in prostate cancer by regulating the expression of arginase I, arginase II and interlukin-8. In conclusion, the results presented in this thesis attest to the unique character of the immunological microenvironment in prostate cancer patients. Our work has also allowed to establish novel software-based analysis methods in order to better understand the dialogue between the tumor and the immune system. Further understanding of the regulatory pathways involved in the immunological microenvironment will allow for the optimization of immunotherapies better suited to eradicate prostate cancer.

La voie de signalisation des androgènes, à travers le récepteur aux androgènes (AR), joue un rôle important dans le développement et la fonction de la prostate, ainsi que dans l’initiation et la progression du cancer de la prostate. La découverte de nouveaux effecteurs de la signalisation androgènes-AR permettra une meilleure compréhension de ces mécanismes. MiR-135a a été identifié comme un gène cible de la voie de signalisation androgènes-AR. Après stimulation androgénique, AR active directement la transcription du gène miR-135a2, en se fixant sur un élément de réponse aux androgènes dans la région promotrice.Une surexpression de miR-135a inhibe la migration et l’invasion de cellules prostatiques cancéreuses, en régulant négativement l’expression des protéines ROCK1 et ROCK2, deux gènes cibles de miR-135a nouvellement identifiés.De plus, miR-135a cible et régule négativement l’expression du facteur de transcription FOXN3, capable de moduler l’activité transcriptionnelle de AR et la prolifération cellulaire dépendante des androgènes.L’étude fonctionnelle de miR-135a suggère donc qu’il puisse être impliqué dans la progression du cancer de la prostate, en régulant la formation des métastases et la signalisation androgénique. L’expression de miR-135a, dans le tissu tumoral par rapport au tissu sain adjacent, de prostatectomies de patients, est inversement corrélée aux paramètres d’agressivité de la maladie, suggérant qu’il puisse être utilisé comme marqueur de pronostic du cancer de la prostate.Ces résultats font de miR-135a un nouvel effecteur de la voie de signalisation de AR, pouvant contribuer à la progression du cancer de la prostate. / Androgens signaling through the androgen receptor (AR) is critical for normal prostate development and function, as well as prostate cancer initiation and progression. The discovery of new effectors of androgens-AR pathway will allow a better understanding of these mechanisms.MiR-135a has been identified as a target gene in androgen-AR signaling pathway. After androgen stimulation, AR directly activates the transcription of miR-135a2 gene by binding to an androgen response element in the promoter region.Ectopic expression of miR-135a was found to induce morphological modification leading to an inhibition of migration and invasion in prostate cancer cells, by down-regulating ROCK1 and ROCK 2 expression, two newly identified miR-135a target genes.Moreover, miR-135a targets and downregulates the expression of the transcription factor FOXN3, able to modulate AR transcriptional activity and androgen-mediated cell proliferation.Thus, functional study of miR-135a suggests that it could be implicated in prostate cancer progression, by regulating metastases formation and androgen signaling.MiR-135a expression level in surgical cancerous speciments normalized to pair-matched normal counterpart tissues was inversely correlated with aggressivity parameters of the disease, suggesting that it could be used as a candidate prognostic marker in human prostate cancer.These results define miR-135a as a novel effector in androgens-AR signaling, which may contribute to prostate cancer progression.

La prédiction d'un événement clinique à l'aide d'outils pronostiques est une question centrale en oncologie. L'émergence des biomarqueurs mesurés au cours du temps permet de proposer des outils incorporant les données répétées de ces biomarqueurs pour mieux guider le clinicien dans la prise en charge des patients. L'objectif de ce travail est de développer et valider des outils pronostiques dynamiques de rechute de cancer de la prostate, chez des patients traités initialement par radiothérapie externe, en prenant en compte les données répétées du PSA, l'antigène spécifique de la prostate, en plus des facteurs pronostiques standard. Ces outils sont dynamiques car ils peuvent être mis à jour à chaque nouvelle mesure disponible du biomarqueur. Ils sont construits à partir de modèles conjoints pour données longitudinales et de temps d'événement. Le principe de la modélisation conjointe est de décrire l'évolution du biomarqueur à travers un modèle linéaire mixte, décrire le risque d'événement à travers un modèle de survie et lier ces deux processus à travers une structure latente. Deux approches existent, les modèles conjoints à effets aléatoires partagés et les modèles conjoints à classes latentes. Dans un premier travail, nous avons tout d'abord comparé, en terme de qualité d'ajustement et de pouvoir prédictif, des modèles conjoints à effets aléatoires partagés différant par leur forme de dépendance entre le PSA et le risque de rechute clinique. Puis nous avons évalué et comparé ces deux approches de modélisation conjointe. Dans un deuxième travail, nous avons proposé un outil pronostique dynamique différentiel permettant d'évaluer le risque de rechute clinique suivant l'initiation ou non d'un second traitement (un traitement hormonal) au cours du suivi. Dans ces travaux, la validation de l'outil pronostique a été basée sur deux mesures de pouvoir prédictif: le score de Brier et l'entropie croisée pronostique. Dans un troisième travail, nous avons enfin décrit la dynamique des PSA après un second traitement de type hormonal chez des patients traités initialement par une radiothérapie seule. / The prediction of a clinical event with prognostic tools is a central issue in oncology. The emergence of biomarkers measured over time can provide tools incorporating repeated data of these biomarkers to better guide the clinician in the management of patients. The objective of this work is to develop and validate dynamic prognostic tools of recurrence of prostate cancer in patients initially treated by external beam radiation therapy, taking into account the repeated data of PSA, the Prostate-Specific Antigen, in addition to standard prognostic factors. These tools are dynamic because they can be updated at each available new measurement of the biomarker. They are built from joint models for longitudinal and time-to-event data. The principle of joint modelling is to describe the evolution of the biomarker through a linear mixed model, describe the risk of event through a survival model and link these two processes through a latent structure. Two approaches exist, shared random-effect models and joint latent class models. In a first study, we first compared in terms of goodness-of-fit and predictive accuracy shared random-effect models differing in the form of dependency between the PSA and the risk of clinical recurrence. Then we have evaluated and compared these two approaches of joint modelling. In a second study, we proposed a differential dynamic prognostic tool to evaluate the risk of clinical recurrence according to the initiation or not of a second treatment (an hormonal treatment) during the follow-up. In these works, validation of the prognostic tool was based on two measures of predictive accuracy: the Brier score and the prognostic cross-entropy. In a third study, we have described the PSA dynamics after a second treatment (hormonal) in patients initially treated by a radiation therapy alone.

Ce travail de thèse porte sur la quantification et la prise en compte des variations anatomiques en cours de radiothérapie guidée par l'image pour le cancer de la prostate. Nous proposons tout d'abord une approche basée population pour quantifier et analyser les incertitudes géométriques, notamment à travers des matrices de probabilité de présence de la cible en cours de traitement. Nous proposons ensuite une méthode d'optimisation des marges suivant des critères de couverture géométrique de la cible tumorale. Cette méthode permet d'obtenir des marges objectives associées aux différents types d'incertitudes géométriques et aux différentes modalités de repositionnement du patient. Dans un second temps, nous proposons une méthode d'estimation de la dose cumulée reçue localement par les tissus pendant un traitement de radiothérapie de la prostate. Cette méthode repose notamment sur une étape de recalage d'images de façon à estimer les déformations des organes entre les séances de traitement et la planification. Différentes méthodes de recalage sont proposées, suivant les informations disponibles (délinéations ou points homologues) pour contraindre la déformation estimée. De façon à évaluer les méthodes proposées au regard de l'objectif de cumul de dose, nous proposons ensuite la génération et l'utilisation d'un fantôme numérique reposant sur un modèle biomécanique des organes considérés. Les résultats de l'approche sont présentés sur ce fantôme numérique et sur données réelles. Nous montrons ainsi que l'apport de contraintes géométriques permet d'améliorer significativement la précision du cumul et que la méthode reposant sur la sélection de contraintes ponctuelles présente un bon compromis entre niveau d'interaction et précision du résultat. Enfin, nous abordons la question de l'analyse de données de populations de patients dans le but de mieux comprendre les relations entre dose délivrée localement et effets cliniques. Grâce au recalage déformable d'une population de patients sur une référence anatomique, les régions dont la dose est significativement liée aux événements de récidive sont identifiées. Il s'agit d'une étude exploratoire visant à terme à mieux exploiter l'information portée par l'intégralité de la distribution de dose, et ce en fonction du profil du cancer. / This work deals with the quantification and the compensation of anatomical deformations during image-guided radiotherapy of prostate cancer. Firstly, we propose a population-based approach to quantify the geometrical uncertainties by means of coverage probability matrices of the target tumor during the treatment. We then propose a margins optimization method based on geometrical coverage criteria of the tumor target. This method provides rationnal margins models associated to the different geometrical uncertainties and patient repositioning protocols. Secondly, we propose a method to estimate the locally accumulated dose during the treatment. This method relies on a deformable image registration process in order to estimate the organ deformations between each treatment fraction and the planning. Different registration methods are proposed, using different level of user interactions (landmarks specification or delineations) to constrain the deformation estimation. In order to evaluate the performance of the proposed methods, we then describe the generation of a numerical phantom based on a biomechanical model. The results are presented for the numerical phantom and real clinical cases. We show that the benefit brought by the manual placement of some landmarks to constrain the registration represents a good compromise between the required interaction level and the dose estimation accuracy. Finally, we address the issue of the analysis of population data in order to better understand the relationship between the locally delivered dose and clinical effects. With deformable image registration of a population of patients on an anatomical template, regions whose dose is significantly associated with recurrence events are identified. This last part is an exploratory study aiming to better use the information carried by the entire distribution dose, and according to the cancer profile.

Le cancer de la prostate représente la deuxième cause de décès liée au cancer. Des stratégies thérapeutiques ciblant des mécanismes moléculaires conduisant à la résistance doivent donc être développées. Une stratégie visant à améliorer les traitements du cancer de la prostate consiste à cibler les gènes qui sont activés lors de la disparition des androgènes, soit pour retarder ou empêcher l'émergence du phénotype de résistance à la castration. Le but de cette thèse est d'identifier et de développer des petites molécules inhibitrices ciblant des interactions protéine-protéine impliquées dans le cancer de la prostate. Cette thèse porte sur l'étude de deux protéines cruciales liées au cancer de la prostate, à savoir, la protéine de choc thermique de bas poids moléculaire (Hsp27) et la protéine TCTP. Nous avons validé deux composés ciblant TCTP en utilisant une chimiothèque dédiée à l'inhibition d'interaction protéine-protéine. Des tests fonctionnels sont actuellement mis au point pour évaluer la capacité de ces molécules à être proposées comme composés potentiels contre le cancer de la prostate. / Prostate Cancer (PCa) is one of most common malignancies, being the second leading cause among cancer-related death. Additional therapeutic strategies targeting molecular mechanisms mediating resistance must be developed because of the defects of docetaxel-based treatments. One strategy to improve therapies in advanced PCa involves targeting genes that are activated by androgen withdrawal, either to delay or prevent the emergence of the CR phenotype. The purpose of my thesis is to identify & develop small molecules inhibitors targeting PPIs involved in prostate cancer. we focuses on 2 crucial prostate cancer related proteins, namely, the small molecular weight Heat shock protein 27 (Hsp27) and the Translationally Controlled Tumor Protein (TCTP). We have validated 2 compounds targeting TCTP by using a "PPI Inhibitor-like" dedicated chemical library. Functional tests are now being developed to evaluate the capacity of such molecules to be proposed as potential compounds against prostate cancer.

Cette thèse concerne le développement et l'évaluation des nanoparticules pour le traitement du cancer et plus particulièrement pour le cancer de la prostate.Le manuscrit comprend une revue de la littérature sur l'application de la nano médecine pour le traitement du cancer de la prostate. Dans la première partie expérimentale, des nanoparticules d'or fonctionnalisées ont été caractérisées et chargées avec le docétaxel par adsorption non covalente.Ces nanoparticules d'or ont montré un effet cytotoxique in vitro prolongé contre les cellules cancéreuses de la prostate. La deuxième partie expérimentale de cette thèse décrit une étude de synthèse et une nano-précipitation de polyesters pour la co-délivrance de deux médicaments chimio-thérapeutiques, le docétaxel (DOC) et la mitoxantrone (MIT). Les polycaprolactone, poly(acide lactique) et poly(lactide-co-glycolide) ont été synthétisés par polymérisation par ouverture de cycle avec des poids moléculaires différents de polyéthylène glycol. Des nanoparticules monodisperses d’un diamètre d’environ 80 nm ont été obtenues et se sont avérées être efficaces contre les cellules cancéreuses de la prostate quand cela est chargé en MIT et DOC. De plus, un effet synergique a été observé en utilisant des combinaisons de ces nanoparticules. Par conséquent, ces nanoparticules, à base de polyester, ont de potentielles applications cliniques. / This thesis concerns the development and evaluation of nanoparticles for cancer treatment, and in particular to prostate cancer. The manuscript includes a literature review on the application of nanomedicine to the treatment of prostate cancer. In the first experimental part, functionalized gold nanoparticles were characterized and loaded with docetaxel by non covalent adsorption. These gold nanoparticles showed a sustained cytotoxic effect in vitro against prostate cancer cells. The second experimental part of this thesis describes a study of synthesis and nanoprecipitation of polyesters for the co-delivery of two chemotherapeutic drugs, docetaxel (DOC) and mitoxantrone (MIT). Polycaprolactone, poly(lactic acid) and poly (lactide-co-glycolide) were synthesized by ring-opening polymerization with different molecular weights of polyethylene glycol. Monodisperse nanoparticles with diameters of less than 80 nm were produced and were shown to be effective against prostate cancer cells when loaded with MIT and DOC. Moreover, a synergistic effect was observed using combinations of these nanoparticles. Therefore, these polyester based nanoparticles have potential clinical applications.

Le sélénium est reconnu comme un micronutriment important pour l'homme et les animaux. Plusieurs études ont montré qu'une supplementation en sélénium dans le régime alimentaire pourrait être bénéfique contre les cancers du foie, du colon, du pancréas et de la prostate. Le mécanisme anti-carcinogène du sélénium se produit au niveau systémique, cellulaire et nucléaire. Ces processus peuvent également impliquer le système immunitaire et ne doivent pas être interprétés par un seul mécanisme. Jusqu'à présent son mécanisme d'action est encore inconnu. L'objectif de cette étude était d'étudier l'effet des composés du sélénium, à faibles concentrations, sur la capacité de réparation de l'ADN dans les cellules du cancer de la prostate LNCaP (p53 compétentes). Ce travail est divisé en trois parties. La première partie du travail a été consacrée à étudier l'effet des deux composés du sélénium (SS et SM) sur les propriétés cytotoxiques et génotoxiques de différents stress oxydatifs et non oxydatifs. Les résultats ont montré qu'un prétraitement avec une faible dose en Se stimulait la synthèse des sélénoprotéines, et protègait contre la toxicité et les dommages oxydatifs à l'ADN induites par les UVA ou H2O2, mais pas par MMS ou UVC. La deuxième partie a été consacrée à l'influence de la supplementation en sélénium sur la capacité de réparation de l'ADN. Notre travail a clairement montré l'augmentation de l'efficacité d'excision de certaines glycosylases que n'est pas nécessairement corrélée à une augmentation de l'expression génique et /ou protéiques. Enfin, la troisième partie de notre travail a été dédiée à l'optimisation de la technique Host Cell Reactivation (HCR) qui nous a permis d'étudier la capacité de réparation de l'ADN in cellulo, afin de cibler les partenaires impliqués dans la voie de signalisation affectées par la supplémentation en sélénium. En conclusion, nous pourront penser que le mécanisme d'action du sélénium est représenté par un délicat équilibre entre l'activation et la répression de l'activité de certaines protéines qui induit des changements conformationnels plus ou moins directement impliqués dans la réparation de l'ADN et la progression de la croissance cellulaire. / Selenium was recognized as an important micronutrient for both humans and animals. Several studies showed that increased selenium in the diet might be beneficial against liver, colon, pancreas and prostate cancer. The anticarcinogenic actions of Se occur at the systemic, cellular and nuclear level. These actions may also involve the immune system and thus cannot be interpreted by a single mechanism. Until now its mechanisms of action are not well understood. The objective of this study was to investigate the effect of selenocompounds at low doses on DNA repair capacity in the p53-proficient LNCaP prostate cancer cells. This work is divided into three parts. The first part of the work was devoted to study the effect of two selenocompounds (SS and SM) on the cytotoxic and genotoxic properties of various oxidative and non oxidative stresses. The results showed that low doses of Se pre-treatment stimulates selenoprotein synthesis, protects against toxicity and oxidative DNA damage induced by UVA or H2O2 but not by MMS or UVC. The second part of our investigation was devoted to the influence of selenium supplementation on DNA repair capacity. Our work clearly showed an increase in excision efficiency of the glycosylases activity that was not necessarily correlated with an increase of gene expression and/or protein levels. Finally, the third part of our work was devoted to the optimization of Host Cell Reactivation assay (HCR) to study the DNA repair capacity in cellulo, in order to target the partners involved in the signalling pathway affected by selenium supplementation. In conclusion, we could image that the mechanism of action of selenium is represented by a delicate balance between activation and repression of protein activity that induces conformational changes of several proteins more or less directly involved in DNA repair and progression of cell growth.

Le cancer de la prostate est la pathologie tumorale la plus fréquente aux Antilles. Notre étude a pour but d’étudier certains facteurs de risque de survenue et de récidive. Pour mener à bien cette étude, nous avons utilisé les patients inclus dans l’étude cas-témoins Karuprostate, et une cohorte de patients après prostatectomie radicale.Les principaux résultats et conclusions de ma thèse portent sur :a) L’étude des facteurs génétiques en lien avec le métabolisme des xénobiotiques dans le risque de survenue du cancer de la prostate en Guadeloupe. Le nombre exact de copies (CNV) des gènes codant pour les Glutathion S transférases GSTM1 et GSTT1 ont été déterminés chez 629 cas incidents de cancer de la prostate et 622 témoins. Les hommes présentant 2, 3 ou plus de copies de GSTT1 présentent un risque significativement augmenté de cancer de la prostate. De même les hommes avec 3, 4, 5 ou plus de copies combinant GSTM1 et GSTT1 présentent un risqué augmenté de survenue de la maladie.b) L’étude des facteurs génétiques en lien avec le métabolisme des œstrogènes dans le risque de survenue du cancer de la prostate en Guadeloupe. Cinq polymorphismes (3 SNP concernant CYP17, CYP1B1 et COMT, ainsi que de polymorphismes de taille concernant CYP19 et UGT1A1) ont été étudiés et comparés chez 498 cas incidents et 565 témoins. Les sujets présentant le génotype AA de COMT présentent un risque significativement diminué de survenue du cancer la prostate. Aucune association significative n’a été retrouvée avec les autres polymorphismes étudiés. Une étude portant sur 150 cas incidents de cancer de la prostate et 150 témoins issus d’une population du Congo-Zaïre a fait l’objet de ces mêmes génotypages avec les mêmes résultats.c) L’influence des expositions environnementales à des polluants persistants présentant des propriétés hormonales sur la récidive biologique de cancer de la prostate après prostatectomie radicale. Les concentrations plasmatiques en chlordécone, DDE (principal métabolite du DDT) et en PCBs ont été mesurés chez 340 sujets porteurs d’un cancer de la prostate ayant subi une prostatectomie radicale. L’exposition (préopératoire) au chlordécone a été retrouvée associé à une augmentation significative du risque de récidive biologique. A l’inverse, les concentrations croissantes en DDE ont été retrouvées associées à une diminution significative du risque de récidive biologique. Aucune association n’a été retrouvée entre l’exposition au PCB153 et la récidive de la maladie.d) Les facteurs de risque de récidive de cancer de la prostate clinique et histologique ont été étudiés sur 964 patients qui ont bénéficié d’une prostatectomie radicale avec un suivi média de 4,8 ans. Le diabète, le PSA, le stade clinique avancé, le score de Gleason élevé, un pourcentage de biopsie de prostate élevé, le stade pathologique avancé, la présence de marge positive sont des facteurs prédictifs de récidive biologique après prostatectomie radicale. Nos résultats montrent que la survenue et la récidive du cancer de la prostate sont sous l’influence des facteurs génétiques et environnementaux. Le contexte génétique et environnemental spécifique à la Guadeloupe expliquerait en partie la forte incidence du cancer de la prostate.Par ailleurs, d’autres travaux intégreront d’autres gènes dans le futur. Le projet ambitieux à venir est la création d’une cohorte prospective de tous les patients atteints d’un cancer de la prostate tout stade confondu. / Prostate cancer is the most common tumor pathology in West Indies. Our study aims to study risk factors of occurrence and recurrence.To carry out this study, we used the patients included in the case-control study called Karuprostate and a cohort of patients after radical prostatectomy.The main results and conclusions of my work are:a) The study of genetic factors related to the metabolism of xenobiotics and the risk of prostate cancer occurrence in Guadeloupe. The exact number (CNV) gene encoding the glutathione S transferases GSTT1 and GSTM1 were determined in 629 incident cases of prostate cancer and 622 controls. Men having 2, 3 or more copies of GSTT1 have a significantly increased risk of prostate cancer. Similarly men with 3, 4, 5 or more copies of GSTM1 and GSTT1 combined have an increased risk of disease occurrence.b) The study of genetic factors related to estrogen metabolism and the risk of prostate cancer occurrence in Guadeloupe. Five polymorphisms (SNP 3 on CYP17, CYP1B1 and COMT as well as size and UGT1A1 polymorphisms on CYP19) were studied and compared in 498 incident cases and 565 controls. Individuals with the AA genotype COMT have a significantly decreased risk of prostate cancer occurrence. No significant association was found with other studied polymorphisms. A study of 150 incident cases of prostate cancer and 150 controls from a population of Congo-Zaire was the subject of these same genotyping, with the same results.c) The influence of environmental exposure to persistent pollutants with hormonal properties of biochemical recurrence of prostate cancer after radical prostatectomy. The plasma concentrations of chlordecone, DDE (the main metabolite of DDT) and PCBs were measured in 340 subjects with prostate cancer who underwent radical prostatectomy. The exhibition (preoperative) to chlordecone was found associated with a significant increased risk of biochemical recurrence. Conversely, the increasing concentrations of DDE were found associated with a significantly decreased risk of biochemical recurrence. No association was found between exposure to PCB153 and recurrence of the disease.d) The clinical and histological risk factors of recurrence of prostate cancer were studied in 964 patients who underwent radical prostatectomy with a médian follow-up of 4.8 years. Diabetes, PSA, advanced clinical stage, high Gleason score, a high percentage of prostate biopsy, advanced pathological stage, the presence of positive margins are predictors of biochemical recurrence after radical prostatectomy.Our results show that the occurrence and recurrence of prostate cancer are Under influence of genetic and environmental factors. The specific genetic and environmental context in Guadeloupe may partly explain the high incidence of prostate cancer.In addition, further work will incorporate other genes in the future. The next ambitious project is the creation of a prospective cohort of all patients with all prostate cancer stages.