Abstract Around 5−10% of all breast cancer cases are estimated to result from a strong hereditary predisposition to the disease. However, mutations in the currently known breast cancer susceptibility genes account for only 20−30% of all familial cases. Additional factors contributing to the pathogenesis of breast cancer, therefore, await discovery. Aims of this study were to evaluate variations of the AATF and MRG15 genes as novel potential candidates for breast cancer susceptibility, to further examine the prevalence of the cancer-related PALB2 c.1592delT mutation among BRCA-negative high-risk breast cancer families counselled at the Department of Clinical Genetics, Oulu University Hospital, to identify Finnish Fanconi anaemia patients complementation groups as well as causative mutations, and to evaluate the potential role of these mutations in breast cancer susceptibility. The analysis of 121 familial breast cancer cases revealed altogether seven different sequence changes in the AATF gene. However, none of them were considered pathogenic, suggesting that germline mutations in AATF are rare or absent in breast cancer patients. Investigation of the MRG15 gene among familial breast cancer cases revealed seven previously unreported variants, but in silico analyses revealed that none of these variants appeared to modify the function of MRG15. The results suggest that MRG15 alterations are unlikely to be significant breast cancer susceptibility alleles. A previously identified pathogenic PALB2 mutation, c.1592delT, was identified in three patients from a cohort of 62 high-risk BRCA1/2-negative breast cancer patients from the Department of Clinical Genetics. PALB2 c.1592delT mutation testing should thus be a routine part of the genetic counselling protocol, particularly for BRCA1/2-negative high-risk breast cancer patients. Investigation of the complementation groups of Finnish Fanconi anaemia patients revealed a total of six different causative mutations. These mutations were examined further by analysing their prevalence in large cohorts of breast (n=1840) and prostate (n=565) cancers. However, no significant association emerged between cancer predisposition and these FA mutations. / Tiivistelmä Arviolta 5−10 prosenttia kaikista rintasyöpätapauksista aiheutuu merkittävästä perinnöllisestä alttiudesta sairauteen. Tällä hetkellä tiedossa olevien rintasyövälle altistavien geenivirheiden ajatellaan kuitenkin selittävän vain noin 20−30 prosenttia kaikista perinnöllisistä tapauksista. On todennäköistä, että uusia tekijöitä, jotka osallistuvat rintasyövän patomekanismiin, on vielä löytymättä. Tämän tutkimuksen tarkoituksena oli arvioida AATF- ja MRG15-geeneissä esiintyvien muutosten mahdollista vaikutusta rintasyöpäalttiuteen, tutkia tarkemmin PALB2 c.1592delT -mutaation esiintymistä BRCA-mutaationegatiivisten korkean rintasyöpäriskin potilaiden joukossa (perinnöllisyyspoliklinikka, Oulun yliopistollinen sairaala) ja määrittää suomalaisten Fanconi-anemiapotilaiden komplementaatioryhmät, sairauden taustalla olevat mutaatiot sekä tutkia näihin mutaatioihin mahdollisesti liittyvää rintasyöpäriskiä. 121 familiaalisen rintasyöpätapauksen analyysissä löytyi yhteensä seitsemän erilaista sekvenssimuutosta AATF-geenissä. Näistä yksikään ei kuitenkaan ollut selvästi patogeeninen. Tuloksen perusteella perinnölliset rintasyövälle altistavat muutokset AATF-geenissä ovat joko erittäin harvinaisia tai niitä ei esiinny lainkaan. MRG15-geenin mutaatioanalyysissä havaittiin seitsemän aikaisemmin raportoimatonta muutosta, mutta in silico -analyysien perusteella millään muutoksista ei ole vaikutusta MRG15-proteiinin toimintaan. Tulosten perusteella on epätodennäköistä, että MRG15-geenin muutokset olisivat merkittäviä rintasyövälle altistavia muutoksia. Jo aiemmin patogeeniseksi todettu PALB2 c.1592delT -mutaatio löydettiin kolmelta niistä perinnöllisyyspoliklinikan korkean syöpäriskin 62 potilaasta, jotka olivat BRCA1/2-geenitestauksessa saaneet normaalin tuloksen. Tulostemme perusteella PALB2 c.1592delT -mutaatiotestaus tulisi Suomessa ottaa osaksi perinnöllisyyspoliklinikoiden tarjomaa tutkimusprotokollaa. Suomalaisten Fanconi-anemiapotilaiden komplementaatioryhmiä selvittävässä tutkimuksessa identifioitiin yhteensä kuusi erilaista tautia aiheuttavaa mutaatiota. Näiden muutosten esiintymistä tutkittiin myös laajoissa rinta- (n=1840) ja eturauhassyöpäaineistoissa (n=565). Tilastollisesti merkittävää assosiaatiota ei kuitenkaan todettu suomalaisten FA-mutaatioiden ja syöpäalttiuden välillä.

Abstract Hereditary mutations in DNA damage response (DDR) genes often lead to genomic instability and ultimately tumor development. However, the molecular mechanism of how these DDR deficiencies promote genomic instability and malignancy is not well understood. Thus, the specific aim of this thesis is to identify the functional and molecular framework behind the elevated breast cancer risk observed in heterozygous PALB2 and ABRAXAS mutation carriers. The heterozygous germline alteration in PALB2 (c.1592delT) causes a haploinsufficiency phenotype in the mutation carrier cells. Due to PALB2 haploinsufficiency, elevated Cdk activity and consequently aberrant DNA replication/damage response was observed in the PALB2 mutation carrier cells. Excessive origin firing that is indicative of replication stress was also seen in the PALB2 mutation carrier cells. In addition to replication stress, PALB2 mutation carrier cells also experience G2/M checkpoint maintenance defects. The increased malignancy risk in females associated with heterozygosity for the Finnish PALB2 founder mutation is likely to be due to aberrant DNA replication, elevated genomic instability and multiple different cell cycle checkpoint defects. The heterozygous germline alteration in ABRAXAS (c.1082G>A) causes a dominant-negative phenotype in the mutation carrier cells. Decreased BRCA1 protein levels as well as reduced nuclear localization and foci formation of BRCA1 and CtIP was observed in the ABRAXAS mutation carrier cells. This causes disturbances in basal BRCA1-A complex localization, which is reflected by a restraint in error-prone DNA double-strand break (DSB) repair pathway usage, attenuated DNA damage response, deregulated G2/M checkpoint control and apoptosis. Most importantly, mutation carrier cells display a change in their transcriptional profile, which we attribute to the reduced nuclear levels of BRCA1. Thus, the Finnish ABRAXAS founder mutation acts in a dominant-negative manner on BRCA1 to promote genome destabilization in the heterozygous carrier cells. / Tiivistelmä Perinnölliset muutokset DNA-vauriovasteen geeneissä johtavat usein genomin epävakauteen ja lopulta syövän kehittymiseen. Molekyylitason mekanismeja, joilla vauriovasteen vajaatoiminta ajaa genomin epävakautta ja syöpää, ei kuitenkaan ymmärretä kunnolla. Tämän väitöskirjan tavoitteena on tunnistaa solutoiminnan ja molekyylitason vaikuttajat heterotsygoottisten PALB2- ja ABRAXAS-geenimuutosten kantajien kohonneen rintasyöpäriskin taustalla. Heterotsygoottinen ituradan suomalainen perustajamuutos PALB2-geenissä (c.1592delT) aiheuttaa haploinsuffisienssin kantajahenkilöiden soluissa. PALB2:n haploinsuffisienssin seurauksena kantajasoluissa havaittiin kohonnutta Cdk-proteiinin aktiivisuutta ja siitä johtuvaa kiihtynyttä DNA:n kahdentumista. PALB2-mutaatiota kantavissa soluissa nähtiin myös liiallista replikaation aloituskohtien käyttöä, mikä viittaa replikaatiostressiin. Replikaatiostressin lisäksi PALB2-mutaation kantajasoluilla havaittiin vaikeuksia ylläpitää solusyklin G2/M-tarkastuspisteen toimintaa. Näiden solutoiminnan poikkeavuuksien takia heterotsygoottisen PALB2 c.1592delT -mutaation kantajilla todettiin genomin epävakautta ja kohonnut syöpäriski. Heterotsygoottinen ituradan mutaatio ABRAXAS-geenissä (c.1082G>A) aiheuttaa dominantti-negatiivisen fenotyypin mutaation kantajasoluissa. ABRAXAS-mutaatiota kantavissa soluissa havaittiin BRCA1-proteiinitasojen laskua sekä BRCA1- ja CtIP-proteiinien vähentynyttä lokalisaatiota tumaan ja DNA-vauriopaikoille. Tämä aiheuttaa häiriöitä BRCA1-A-kompleksin paikallistumisessa, mikä johtaa häiriöihin virhealttiiden DNA-kaksoisjuoste¬katkoksien korjausmekanismien käytössä, DNA-vauriovasteessa, G2/M-tarkastus-pisteen säätelyssä ja ohjelmoidussa solukuolemassa. Tärkeimpänä löydöksenä havaittiin mutaation kantajasoluissa muuttunut transkriptioprofiili, joka johtunee BRCA1-proteiinitasojen laskusta tumassa. Näin ollen suomalainen ABRAXAS-perustajamutaatio toimii dominantti-negatiivisena BRCA1:n suhteen, aiheuttaen genomin epävakautta heterotsygoottisissa kantajasoluissa.

Abstract Mutations in the currently known breast cancer susceptibility genes account for only 25–30% of all familial cases. Novel susceptibility genes can be identified by several methods, including candidate gene re-sequencing and genome-wide microarrays. We have applied microarrays for the detection of a new genomic variation class, copy number variants (CNVs), which potentially could disrupt genes in multiple pathways related to breast cancer susceptibility. The aim of the current study was to evaluate the role of the RNF8, UBC13, MMS2 and RAD51C DNA damage response genes in breast cancer susceptibility as well as to study if rare CNVs are associated with the predisposition to this disease. The analysis of 123 familial breast cancer cases revealed altogether nine different changes in the RNF8 and UBC13 candidate genes. However, none of the observed alterations were considered pathogenic. No alterations were observed in MMS2. The obtained results suggest that breast cancer predisposing alterations in RNF8, UBC13 and MMS2 are rare, or even absent. The RAD51C mutation screening of 147 familial breast cancer cases and 232 unselected ovarian cancer cases revealed two deleterious mutations: c.-13_14del27 was observed in a breast cancer case with familial history of ovarian cancer and c.774delT in an ovarian cancer case. Both mutations were absent in the control cohort. The results of the study support the hypothesis that rare variants of RAD51C predispose predominantly to ovarian cancer. A genome-wide scan of CNVs was performed for 103 familial breast cancer cases and 128 controls. The biological networks of the genes disrupted by CNVs were different between the two groups. In familial breast cancer cases, the observed mutations disrupted genes, which were significantly overrepresented in cellular functions related to maintenance of genomic integrity (P=0.0211). Biological network analysis showed that the disrupted genes were closely related to estrogen signaling and TP53-centered tumor suppressor network, and this result was confirmed by the analysis of an independent young breast cancer cohort of 75 cases. These results suggest that rare CNVs represent an alternative source of genetic variation contributing to hereditary risk for breast cancer. / Tiivistelmä Tunnetut rintasyöpäalttiusgeenien mutaatiot selittävät vain 25–30 prosenttia kaikista perinnöllisistä rintasyöpätapauksista. Uusia alttiusgeenejä voidaan tunnistaa useilla eri menetelmillä, kuten kandidaattigeenien mutaatiokartoituksella ja genomin-laajuisilla mikrosirutekniikoilla. Tässä tutkimuksessa sovelsimme mikrosirutekniikkaa uuden geneettisen variaatioluokan, kopiolukuvariaation (CNV), tutkimiseen. CNV:t voivat vaurioittaa lukuisia rintasyöpäalttiuteen liittyviä biokemiallisia reittejä. Tämän tutkimuksen tarkoitus oli arvioida RNF8-, UBC13-, MMS2- ja RAD51C -DNA- vauriovastegeenien sekä harvinaisten CNV:iden yhteyttä rintasyöpä-alttiuteen. 123 familiaalisen rintasyöpätapauksen analyysissä löytyi yhteensä yhdeksän muutosta RNF8- ja UBC13-geeneistä, joista yksikään ei osoittautunut patogeeniseksi. MMS2-geenissä ei havaittu muutoksia. Tulosten perusteella rintasyövälle altistavat muutokset RNF8-, UBC13- ja MMS2- geeneissä ovat joko erittäin harvinaisia tai niitä ei esiinny lainkaan. RAD51C-geenin mutaatiokartoitus 147 familiaalisesta rintasyöpätapauksesta sekä 232 valikoimattomasta munasarjasyöpätapauksesta paljasti kaksi haitallista mutaatiota. c.-13_14del27 havaittiin rintasyöpäpotilaalla, jonka suvussa esiintyi munasarjasyöpää, ja c.774delT todettiin munasarjasyöpäpotilaalta. Kumpaakaan mutaatiota ei havaittu verrokkiaineistossa. Tulokset vahvistavat hypoteesia RAD51C-geenin harvinaisten varianttien yhteydestä pääasiassa munasarjasyöpäriskiin. CNV:iden genomin-laajuinen skannaaminen suoritettiin 103 familiaaliselle rintasyöpätapaukselle ja 128 verrokille. CNV:iden häiritsemien geenien muodostamat biologiset verkostot olivat erilaiset näiden kahden ryhmän välillä. Familiaalisilla rintasyöpätapauksilla havaitut CNV:t vaikuttivat geeneihin, jotka olivat voimakkaasti korostuneita genomin eheyttä ylläpitävissä tehtävissä (P=0.0211). Biologisten verkostojen analyysi paljasti, että CNV:iden vahingoittamat geenit liittyivät läheisesti estrogeenisignalointiin sekä TP53-tuumorisupressoriverkostoon, ja tämä tulos vahvistettiin analysoimalla riippumatonta nuorista rintasyöpäpotilaista koostuvaa kohorttia (N=75). Tutkimuksen tulosten mukaan harvinaiset CNV:t ovat vaihtoehtoinen geneettisen variaation lähde perinnölliseen rintasyöpäalttiuteen.