Abstract Around 5–10% of all breast cancers stem from a strong hereditary predisposition to the disease. Mutations in currently known breast cancer predisposing genes, however, account for only 25–30% of all hereditary breast cancer cases, BRCA1 and BRCA2 being the two major ones. Since BRCA1 and BRCA2 participate in the DNA damage response, mutations in other genes, such as PALB2 and RAP80, which are involved in these pathways, may also predispose to breast tumours. Therefore, the aim of this study was to evaluate variations of the human PALB2 and RAP80 genes as novel potential candidates for breast cancer susceptibility and to further characterize the role of PALB2-deficiency in cancer development. A mutation, c.1592delT, was identified in PALB2 at an elevated frequency among breast cancer patients (0.9%) compared to controls (0.2%) (P =  0.003, OR 3.94, 95% CI 1.5–12.1). Among familial cases the frequency was even higher (2.7%). This mutation represents a genuine loss-of-function mutation since its protein product showed significantly decreased BRCA2-binding affinity and could neither support homologous recombination nor restore crosslink repair in PALB2-deficient cells. Heterozygous PALB2 c.1592delT carriers displayed haploinsufficiency of PALB2 marked by aberrant DNA replication and DNA damage response that led to a significant increase in genomic instability. As the tumours were negative for loss of heterozygosity at this chromosomal locus, these findings provide a mechanism for the early stages of breast cancer development in PALB2 c.1592delT carriers. Palb2 was also found to play a critical role in early mouse development. As in Brca1/2-deficient embryos, homozygous inactivation of Palb2 resulted in embryonic lethality due to mesoderm differentiation and cell proliferation defects. The phenotypic similarity of Palb2 and Brca1/2-deficient mice further supports the close functional relationship shown in vitro for these proteins. A novel mutation, delE81, was identified in RAP80 in one out of 112 breast cancer families, and in one patient diagnosed with bilateral breast cancer out of 503 unselected breast cancers. The resultant delE81 protein displayed significantly reduced ubiquitin binding and double-strand break (DSB) localization. Furthermore, it impaired the recruitment of the whole BRCA1-A complex to the site of DSBs, thus compromising BRCA1-mediated DNA damage response signalling. Although the mutation is quite rare, the current results indicate that the RAP80 delE81 defect is biologically relevant and is likely associated with a hereditary predisposition to breast cancer. / Tiivistelmä Arviolta 5–10 % rintasyöpätapauksista aiheutuuu merkittävästä perinnöllisestä alttiudesta sairauteen. Mutaatiot tähän mennessä tunnistetuissa rintasyövän alttiusgeeneissä, joista BRCA1 ja BRCA2 ovat tärkeimmät, selittävät kuitenkin vain 25–30 % kaikista perinnöllisistä rintasyöpätapauksista. Tämän tutkimuksen tarkoituksena on arvioida PALB2- ja RAP80-geenien mahdolliset vaikutukset rintasyöpäalttiuteen, sekä määrittää tarkemmin PALB2:n vaikutus syövän kehitykseen. PALB2:sta löydettiin mutaatio, c.1592delT, jota esiintyi merkittävästi enemmän rintasyöpäpotilailla (0,9 %) kuin kontrollihenkilöillä (0,2 %) [P =  0.003, OR 3.94, 95 % CI 1.5–12.1]. Kaikista yleisimmin geenimuutos esiintyi perinnöllisten ritasyöpätapausten joukossa (2,7 %). Mutaatio aiheuttaa toiminnallisesti viallisen proteiinin, joka sitoutuu BRCA2:n kanssa normaalia heikommin, eikä se pysty kunnolla toimimaan homologisessa rekombinaatiossa tai ristikkäiden DNA-virheiden korjauksessa. Heterotsygoottisen PALB2 c.1592delT-mutaation aiheuttaa PALB2-geenin haploinsuffisienssi joka ilmentyy kantajien soluissa epänormaalina DNA:n kahdentumisena ja DNA-vauriovasteena, jotka johtavat merkittävästi kohonneeseen genomin epävakaisuuteen. Jo kyseiset toiminnalliset puutteet näyttävät tarjoavan pätevän selityksen PALB2 c.1592delT kantajien merkittävästi suurentuneelle rintasyöpäriskille ja lienee myös syy siihen, ettei potilaiden kasvaimissa havaittu normaalin vastinaleelin menetystä. Palb2:lla on keskeinen rooli hiiren alkiokehityksessä. Kuten Brca1/2-puutteellisissa alkioissa, myös homotsygoottinen Palb2-inaktivaatio aiheuttaa alkioiden enneaikaisen kuoleman, joka aiheutuu puutteista mesodermin erilaistumisessa ja hidastuneesta solujen kasvussa. Palb2- ja Brca1/2-puuttellisten hiirien samankaltaisuus vahvistaa ennestään näiden proteiinien toiminnallista yhteyttä, joka on osoitettu jo aikaisemmin laboratorio-oloissa. RAP80-geenistä löydettiin uusi mutaatio, delE81, yhdestä 112 tutkitusta rintasyöpäperheestä. Kyseinen muutos nähtiin myös yhdessä molemminpuoliseen rintasyöpään sairastaneessa potilaassa valikoimattomassa 503 tapauksen kattavasta aineistosta. Mutatoitunut proteiinituote vähensi huomattavasti DNA-vauriovastekompleksin kykyä sitoutua ubikitiiniin ja paikallistua DNA-kaksoisjuostekatkoksille. Ennen kaikkea mutaatio heikensi BRCA1-A kompleksin kuljetuksen DNA-vauriopaikalle, vaarantaen BRCA1-välitteisen DNA-vauriovasteen. Harvinaisuudesta huolimatta nämä tutkimustulokset osoittavat RAP80 delE81 vaikutuksen olevan biologisesti merkittävä. Kyseinen synnynnäinen RAP80-geenimuutos altistaa mitä todennäköisimmin kantajansa rintasyövälle.

Abstract Around 5−10% of all breast cancer cases are estimated to result from a strong hereditary predisposition to the disease. However, mutations in the currently known breast cancer susceptibility genes account for only 20−30% of all familial cases. Additional factors contributing to the pathogenesis of breast cancer, therefore, await discovery. Aims of this study were to evaluate variations of the AATF and MRG15 genes as novel potential candidates for breast cancer susceptibility, to further examine the prevalence of the cancer-related PALB2 c.1592delT mutation among BRCA-negative high-risk breast cancer families counselled at the Department of Clinical Genetics, Oulu University Hospital, to identify Finnish Fanconi anaemia patients complementation groups as well as causative mutations, and to evaluate the potential role of these mutations in breast cancer susceptibility. The analysis of 121 familial breast cancer cases revealed altogether seven different sequence changes in the AATF gene. However, none of them were considered pathogenic, suggesting that germline mutations in AATF are rare or absent in breast cancer patients. Investigation of the MRG15 gene among familial breast cancer cases revealed seven previously unreported variants, but in silico analyses revealed that none of these variants appeared to modify the function of MRG15. The results suggest that MRG15 alterations are unlikely to be significant breast cancer susceptibility alleles. A previously identified pathogenic PALB2 mutation, c.1592delT, was identified in three patients from a cohort of 62 high-risk BRCA1/2-negative breast cancer patients from the Department of Clinical Genetics. PALB2 c.1592delT mutation testing should thus be a routine part of the genetic counselling protocol, particularly for BRCA1/2-negative high-risk breast cancer patients. Investigation of the complementation groups of Finnish Fanconi anaemia patients revealed a total of six different causative mutations. These mutations were examined further by analysing their prevalence in large cohorts of breast (n=1840) and prostate (n=565) cancers. However, no significant association emerged between cancer predisposition and these FA mutations. / Tiivistelmä Arviolta 5−10 prosenttia kaikista rintasyöpätapauksista aiheutuu merkittävästä perinnöllisestä alttiudesta sairauteen. Tällä hetkellä tiedossa olevien rintasyövälle altistavien geenivirheiden ajatellaan kuitenkin selittävän vain noin 20−30 prosenttia kaikista perinnöllisistä tapauksista. On todennäköistä, että uusia tekijöitä, jotka osallistuvat rintasyövän patomekanismiin, on vielä löytymättä. Tämän tutkimuksen tarkoituksena oli arvioida AATF- ja MRG15-geeneissä esiintyvien muutosten mahdollista vaikutusta rintasyöpäalttiuteen, tutkia tarkemmin PALB2 c.1592delT -mutaation esiintymistä BRCA-mutaationegatiivisten korkean rintasyöpäriskin potilaiden joukossa (perinnöllisyyspoliklinikka, Oulun yliopistollinen sairaala) ja määrittää suomalaisten Fanconi-anemiapotilaiden komplementaatioryhmät, sairauden taustalla olevat mutaatiot sekä tutkia näihin mutaatioihin mahdollisesti liittyvää rintasyöpäriskiä. 121 familiaalisen rintasyöpätapauksen analyysissä löytyi yhteensä seitsemän erilaista sekvenssimuutosta AATF-geenissä. Näistä yksikään ei kuitenkaan ollut selvästi patogeeninen. Tuloksen perusteella perinnölliset rintasyövälle altistavat muutokset AATF-geenissä ovat joko erittäin harvinaisia tai niitä ei esiinny lainkaan. MRG15-geenin mutaatioanalyysissä havaittiin seitsemän aikaisemmin raportoimatonta muutosta, mutta in silico -analyysien perusteella millään muutoksista ei ole vaikutusta MRG15-proteiinin toimintaan. Tulosten perusteella on epätodennäköistä, että MRG15-geenin muutokset olisivat merkittäviä rintasyövälle altistavia muutoksia. Jo aiemmin patogeeniseksi todettu PALB2 c.1592delT -mutaatio löydettiin kolmelta niistä perinnöllisyyspoliklinikan korkean syöpäriskin 62 potilaasta, jotka olivat BRCA1/2-geenitestauksessa saaneet normaalin tuloksen. Tulostemme perusteella PALB2 c.1592delT -mutaatiotestaus tulisi Suomessa ottaa osaksi perinnöllisyyspoliklinikoiden tarjomaa tutkimusprotokollaa. Suomalaisten Fanconi-anemiapotilaiden komplementaatioryhmiä selvittävässä tutkimuksessa identifioitiin yhteensä kuusi erilaista tautia aiheuttavaa mutaatiota. Näiden muutosten esiintymistä tutkittiin myös laajoissa rinta- (n=1840) ja eturauhassyöpäaineistoissa (n=565). Tilastollisesti merkittävää assosiaatiota ei kuitenkaan todettu suomalaisten FA-mutaatioiden ja syöpäalttiuden välillä.

Abstract Hereditary mutations in DNA damage response (DDR) genes often lead to genomic instability and ultimately tumor development. However, the molecular mechanism of how these DDR deficiencies promote genomic instability and malignancy is not well understood. Thus, the specific aim of this thesis is to identify the functional and molecular framework behind the elevated breast cancer risk observed in heterozygous PALB2 and ABRAXAS mutation carriers. The heterozygous germline alteration in PALB2 (c.1592delT) causes a haploinsufficiency phenotype in the mutation carrier cells. Due to PALB2 haploinsufficiency, elevated Cdk activity and consequently aberrant DNA replication/damage response was observed in the PALB2 mutation carrier cells. Excessive origin firing that is indicative of replication stress was also seen in the PALB2 mutation carrier cells. In addition to replication stress, PALB2 mutation carrier cells also experience G2/M checkpoint maintenance defects. The increased malignancy risk in females associated with heterozygosity for the Finnish PALB2 founder mutation is likely to be due to aberrant DNA replication, elevated genomic instability and multiple different cell cycle checkpoint defects. The heterozygous germline alteration in ABRAXAS (c.1082G>A) causes a dominant-negative phenotype in the mutation carrier cells. Decreased BRCA1 protein levels as well as reduced nuclear localization and foci formation of BRCA1 and CtIP was observed in the ABRAXAS mutation carrier cells. This causes disturbances in basal BRCA1-A complex localization, which is reflected by a restraint in error-prone DNA double-strand break (DSB) repair pathway usage, attenuated DNA damage response, deregulated G2/M checkpoint control and apoptosis. Most importantly, mutation carrier cells display a change in their transcriptional profile, which we attribute to the reduced nuclear levels of BRCA1. Thus, the Finnish ABRAXAS founder mutation acts in a dominant-negative manner on BRCA1 to promote genome destabilization in the heterozygous carrier cells. / Tiivistelmä Perinnölliset muutokset DNA-vauriovasteen geeneissä johtavat usein genomin epävakauteen ja lopulta syövän kehittymiseen. Molekyylitason mekanismeja, joilla vauriovasteen vajaatoiminta ajaa genomin epävakautta ja syöpää, ei kuitenkaan ymmärretä kunnolla. Tämän väitöskirjan tavoitteena on tunnistaa solutoiminnan ja molekyylitason vaikuttajat heterotsygoottisten PALB2- ja ABRAXAS-geenimuutosten kantajien kohonneen rintasyöpäriskin taustalla. Heterotsygoottinen ituradan suomalainen perustajamuutos PALB2-geenissä (c.1592delT) aiheuttaa haploinsuffisienssin kantajahenkilöiden soluissa. PALB2:n haploinsuffisienssin seurauksena kantajasoluissa havaittiin kohonnutta Cdk-proteiinin aktiivisuutta ja siitä johtuvaa kiihtynyttä DNA:n kahdentumista. PALB2-mutaatiota kantavissa soluissa nähtiin myös liiallista replikaation aloituskohtien käyttöä, mikä viittaa replikaatiostressiin. Replikaatiostressin lisäksi PALB2-mutaation kantajasoluilla havaittiin vaikeuksia ylläpitää solusyklin G2/M-tarkastuspisteen toimintaa. Näiden solutoiminnan poikkeavuuksien takia heterotsygoottisen PALB2 c.1592delT -mutaation kantajilla todettiin genomin epävakautta ja kohonnut syöpäriski. Heterotsygoottinen ituradan mutaatio ABRAXAS-geenissä (c.1082G>A) aiheuttaa dominantti-negatiivisen fenotyypin mutaation kantajasoluissa. ABRAXAS-mutaatiota kantavissa soluissa havaittiin BRCA1-proteiinitasojen laskua sekä BRCA1- ja CtIP-proteiinien vähentynyttä lokalisaatiota tumaan ja DNA-vauriopaikoille. Tämä aiheuttaa häiriöitä BRCA1-A-kompleksin paikallistumisessa, mikä johtaa häiriöihin virhealttiiden DNA-kaksoisjuoste¬katkoksien korjausmekanismien käytössä, DNA-vauriovasteessa, G2/M-tarkastus-pisteen säätelyssä ja ohjelmoidussa solukuolemassa. Tärkeimpänä löydöksenä havaittiin mutaation kantajasoluissa muuttunut transkriptioprofiili, joka johtunee BRCA1-proteiinitasojen laskusta tumassa. Näin ollen suomalainen ABRAXAS-perustajamutaatio toimii dominantti-negatiivisena BRCA1:n suhteen, aiheuttaen genomin epävakautta heterotsygoottisissa kantajasoluissa.