Abstract A central goal in evolutionary biology is to identify the ecological and genetic mechanisms that give rise to adaptation and speciation. Importantly, a large body of theoretical work has modelled the adaptive evolution under selection, migration and drift. Yet to test these predictions on an empirical level has proven a challenging task. The aim of my thesis is to explore outstanding questions in local adaptation and reproductive isolation using natural populations of Arabidopsis lyrata: How does differential selection lead to adaptive divergence in the face of gene flow and drift? What traits underlie both short- and large-scale adaptive differentiation? And what reproductive barriers are involved in incipient speciation? By combining whole-genome based demography simulations with a multi-year reciprocal transplant experiment, I confirmed that alpine and lowland populations of A. lyrata are adapted to their local environments despite high gene flow and strong drift. Patterns of trait differentiation, supported by analysis of phenotypic selection, further suggested that flowering traits have contributed to the adaptive divergence. Selection patterns at the sequence level confirmed that the genetic architecture underlying the local adaptation conforms to theory: populations under higher levels of gene flow had fewer adaptive loci that were also found in areas of reduced recombination. Although most selection outliers were population specific, indicating conditional neutrality, a small proportion showed potential for genetic trade-offs (antagonistic pleiotropy). The analysis also revealed important traits and biological processes linked to alpine and lowland adaptation. The role of seed germination in large-scale adaptation and reproductive isolation was also studied. Populations representing the European and North American subspecies exhibited germination patterns consistent with adaptive differentiation. Comparisons against first- and second-generation hybrids then indicated that genetic incompatibilities impede germination of the hybrid seeds. Furthermore, genetic mapping helped to clarify the genetic basis of these phenotypic traits. Taken together, the three studies in this thesis highlight the value of combining traditional organismal methods with next-generation genomics, by providing novel insights into processes underlying adaptation and speciation. / Tiivistelmä Evoluutiobiologian keskeinen tehtävä on sopeutumiseen ja lajiutumiseen johtavien prosessien selvittäminen. Vaikka evoluutiovoimien – luonnonvalinnan, geenivirran ja geneettisen satunnaisajautumisen – vaikutusta adaptiivisen muuntelun määrään on mallinnettu laajalti, teoreettisten ennusteiden tarkastelu empiirisellä tasolla on usein osoittautunut haastavaksi. Tässä väitöskirjatyössä pyrin vastaamaan eräisiin paikallissopeutumisen ja lajiutumisen kannalta tärkeisiin kysymyksiin, hyödyntäen kasvilaji idänpitkäpalkoa (Arabidopsis lyrata) malliorganismina: Kuinka luonnonvalinta johtaa paikallissopeutumiseen tilanteessa, jossa geenivirta samankaltaistaa eriytyvien populaatioiden perimää? Mitkä ominaisuudet vaikuttavat adaptiiviseen erilaistumiseen eri etäisyyksillä olevien populaatioiden välillä? Sekä millaiset lisääntymisesteet johtavat alkavaan lajiutumiseen? Yhdistämällä genomisekvensointiin perustuvan demografia-analyysin ja monivuotisen siirtoistutuskokeen, selvitin kuinka idänpitkäpalkopopulaatiot ovat sopeutuneet elinympäristöihinsä runsaasta geenivirrasta ja voimakkaasta satunnaisajautumisesta huolimatta. Fenotyyppisen muuntelun ja kelpoisuuden yhteys vahvisti myös, että kukkimisominaisuudet ovat vaikuttaneet populaatioidenväliseen adaptiiviseen erilaistumiseen. Valinnan merkkien etsiminen sekvenssitasolla osoitti, että havaintoni paikallissopeutumisen geneettisestä arkkitehtuurista tukevat teoreettisia ennusteita: populaatioista, joihin kohdistuu voimakasta geenivirtaa, löytyi vähemmän adaptiivisia lokuksia ja ne olivat keskittyneet matalamman rekombinaation alueille. Suurin osa adaptiivisista lokuksista löytyi ainoastaan yhdestä populaatiosta, ollen näin todennäköisesti valinnan alla ainoastaan tietyssä elinympäristössä. Pieni osuus lokuksista vastasi kuitenkin harvoin havaittua tilannetta, jossa hajottava valinta on johtanut eri alleelien runsastumiseen populaatioissa, joita yhdistää geenivirta. Tutkin myös, miten itämisajan muuntelu vaikuttaa sopeutumiseen pitkällä aikavälillä. Eurooppalaista ja pohjoisamerikkalaista alalajia edustavat populaatiot itivät tavalla, joka viittaa adaptiiviseen erilaistumiseen. Ensimmäisen ja toisen hybridisukupolven siementen vertailu paljasti lisäksi, että geneettiset yhteensopimattomuudet haittaavat hybridien itämistä, toimien näin lisääntymisesteenä. Geenikartoitus auttoi myös selventämään näiden itämisominaisuuksien geneettistä taustaa. Tämän väitöskirjan kolme osatyötä korostavat miten perinteisten yhteiskenttäkokeiden ja uuden sukupolven genomimenetelmien yhdistelmä voi tuottaa arvokasta lisätietoa sopeutumisen ja lajiutumisen mekanismeista.

Abstract Many species and populations have perished as a consequence of human actions. During the last ~200 years, large carnivores have been almost completely extirpated from Western Europe. Large-scale wolf hunting started in Finland around the 1850s, and the population size quickly collapsed. The population was very small until the mid-1990s, when wolves started to regularly reproduce in Finland again. The wolf is an endangered species in Finland, and the biggest threat to the species’ survival is excessive hunting. In this doctoral thesis study, I inspected the genetic structure and diversity of the Finnish wolf population using neutral genetic markers. Almost 300 wolves from the contemporary Finnish population and over 50 wolves from the north-western Russia were analyzed with genetic methods. Additionally, the genetic history of the population was examined with the help of over 100 museum samples. The modern Finnish wolf population proved to be genetically as diverse as the non-endangered Eastern European and North American wolf populations. However, the genetic diversity decreased significantly during the study period (1995–2009), and was at its lowest level in the final phase of the examination. In tandem, the inbreeding coefficient rose to a relatively high level. Genetic sub-structures were observed due to social structures within wolf packs. The mean dispersal distances of wolves were approximately only 100 km. The Finnish wolf population is divided into neighbourhoods of related individuals, and their size substantially decreased during the study period. This pattern, together with the growth of the inbreeding coefficient, suggests that lost alpha individuals in wolf packs are replaced by their offspring. This study demonstrated that Russian and Finnish wolf populations are nowadays genetically differentiated. Gene flow between the populations is low, despite the geographic interconnection. Only a few possible immigrants from Russia into Finland were detected in the study. The effective size of the Finnish wolf population proved to be small, and was mainly below the often-considered critical size of 50. Historical analysis revealed that the Finnish wolf population was formerly genetically more diverse, more continuous with the Russian wolf population, and had a more than 90% larger effective size. On the basis of this study, the genetic status of the Finnish wolf population is worrying and needs to be monitored. The population should be substantially larger than today and/or the amount of gene flow higher, so that the population viability could be considered secured even in the short term. / Tiivistelmä Ihmisen toiminnan seurauksena lukuisat eliölajit ja –populaatiot ovat hävinneet. Viimeisten noin 200 vuoden aikana suurpedot hävitettiin lähes koko Länsi-Euroopasta. Laajamittainen sudenmetsästys alkoi Suomessa 1850-luvun paikkeilla ja kanta romahti nopeasti. Populaatio oli hyvin pieni lähes koko 1900-luvun, ja sudet ovat jälleen lisääntyneet yhtäjaksoisesti Suomessa vasta 1990-luvun puolivälistä. Susi on erittäin uhanalainen Suomessa ja merkittävin uhka lajin säilymiselle on liiallinen metsästys. Tarkastelen tässä väitöskirjatyössäni Suomen susipopulaation geneettistä rakennetta ja monimuotoisuutta neutraaleja geenimerkkejä käyttäen. Tutkimuksessa analysoitiin geneettisin menetelmin lähes 300 sutta nyky-Suomesta sekä yli 50 sutta Luoteis-Venäjältä. Lisäksi populaation geneettistä historiaa selvitettiin yli 100 museonäytteen avulla. Nykyinen Suomen susipopulaatio osoittautui tutkimuksessa geneettisesti yhtä monimuotoiseksi kuin ei-uhanalaiset susipopulaatiot Itä-Euroopassa ja Pohjois-Amerikassa. Geneettisen muuntelun määrä kuitenkin laski tutkimusajanjaksolla (1995–2009) merkitsevästi ollen matalin tarkastelujakson lopussa. Samanaikaisesti populaation sukusiitoskerroin nousi verrattain korkeaksi. Susipopulaatiossa havaittiin sosiaalisista rakenteista johtuvia geneettisiä alarakenteita. Susien dispersaalimatkat olivat keskimäärin vain noin 100 km. Suomen susipopulaatio on jakautunut toisilleen sukua olevien yksilöiden naapurustoiksi, joiden koko pieneni huomattavasti tutkimusajanjaksolla. Tämä yhdessä sukusiitoskertoimen kasvun kanssa viittaa susilaumojen menetettyjen alfayksilöiden korvautumiseen jälkeläisillään. Tutkimus osoitti, että Venäjän ja Suomen susipopulaatiot ovat nykyisin geneettisesti erilaistuneet. Geenivirta populaatioiden välillä on maantieteellisestä yhteydestä huolimatta vähäistä. Tutkimuksessa havaittiin vain muutamia todennäköisiä immigrantteja Venäjältä Suomeen. Suomen susipopulaation efektiivinen koko osoittautui pieneksi ollen pääosin alle kriittisenä rajana pidetyn 50:en. Historiallinen tarkastelu osoitti Suomen susipopulaation olleen aiemmin geneettisesti monimuotoisempi, yhtenäisempi Venäjän susipopulaation kanssa ja efektiiviseltä kooltaan yli 90 % nykyistä suurempi. Tutkimuksen perusteella Suomen susipopulaation geneettinen tila on huolestuttava ja tarvitsee seurantaa. Populaation tulisi olla nykyistä huomattavasti suurempi ja/tai geenivirran määrän korkeampi, jotta populaation elinvoimaisuuden voitaisiin katsoa olevan turvattu edes lyhyellä aikavälillä.

Abstract Wild populations of large carnivores in Europe were almost wiped out during the last centuries. Nowadays, the number of brown bears in North and Eastern Europe has increased, and the current situation suggests that these populations have recovered or are in the process of recovery. Knowledge of the population genetic consequences of demographic recovery in large carnivores, especially across national borders and on broader geographical scales, is still limited. In this study, we collected 3,757 fecal and hair samples as well as 881 tissue samples from brown bears across Northern Europe, with a focus on the Finnish population and neighboring areas, to investigate the population structure, connectivity, and genetic diversity on a spatial as well as a temporal scale. Bayesian clustering analysis of the population structure suggested the division of brown bears in Northern Europe into several genetic clusters, and the subdivision of the Finnish population into a northern and southern subpopulation. The estimation of gene flow pointed to better connectivity of the bears between Southern Finland and Western Russia, while migration between Scandinavia and Northern Finland as well as between Scandinavia and Southern Finland/Western Russia appeared to be restricted. Genetic clusters identified in Finland, Russia and Northern Norway displayed high genetic diversity, which was among the highest reported in wild brown bears. Recovery of the Finnish population has been accompanied by a detected range expansion towards the north, while genetic differentiation between clusters has decreased and genetic diversity has increased in the southern population, suggesting expansion from the south. Our results demonstrated that the immigration of bears from Russia still plays a major role in the Finnish bear population; however, connectivity between the Finnish-Russian population and Scandinavian bears appears to be restricted and should be improved, as well as regularly monitored. / Tiivistelmä Suurpetojen luonnonpopulaatiot hävisivät Euroopasta melkein kokonaan viimeisten vuosisatojen aikana. Ruskeakarhujen määrä on viime aikoina kasvanut Pohjois- ja Itä-Euroopassa, ja karhupopulaatiot ovat toipuneet tai toipumassa. Tieto demografisen toipumisen geneettisistä seurauksista populaatioissa on varsin rajoittunutta etenkin laajemmassa maantieteellisessä mittakaavassa, yli valtiorajojen. Keräsimme tätä tutkimusta varten 3757 uloste- ja karvanäytettä ja 881 kudosnäytettä Suomesta ja sen lähialueilta. Tarkoituksenamme oli kartoittaa Pohjois-Euroopan karhupopulaatioiden geneettistä rakennetta ja monimuotoisuutta, sekä populaatioiden välisiä yhteyksiä huomioiden ajallinen ja maantieteellinen ulottuvuus. Bayesiläisen ryhmittelyanalyysin perusteella Pohjois-Euroopan karhut jakaantuvat useaan geneettiseen ryhmään. Suomen populaatiossa erottuivat eteläinen ja pohjoinen alapopulaatio. Analyysit geenivirran määrästä osoittivat, että Etelä-Suomen ja Länsi-Venäjän karhupopulaatiot ovat yhteneväisemmät, kun taas migraatio Skandinavian ja Pohjois-Suomen sekä Etelä-Suomen ja Länsi-Venäjän välillä vaikuttaisi olevan rajoittunutta. Suomesta, Venäjältä ja Pohjois-Norjasta tunnistetut alaryhmät olivat geneettisesti hyvin monimuotoisia, ja muuntelu oli korkeampaa kuin koskaan aiemmin karhuilla havaittu. Suomen karhupopulaation toipuessa ja levitessä pohjoiseen, geneettinen erilaistuminen maan sisällä on vähentynyt ja eteläisen alapopulaation monimuotoisuus kasvanut. Tämä viittaa populaation laajentumiseen etelästä käsin. Tulosten perusteella karhujen tulomuutto Venäjältä on yhä tärkeää Suomen populaatiolle. Suomen ja Venäjän karhupopulaatioiden yhteyttä Skandinavian karhupopulaatioihin tulisi seurata ja parantaa.

Abstract Both demographic histories and natural selection complicate the speciation process. There is a need to jointly study the effects of natural selection on so called magic traits that can cause reproductive isolation such as climatic adaptation, and its interaction with neutral demographic histories. Closely related incipient coniferous species offer us a great system for this effort. I used genetic variation at one set of climate-related candidate genes and another set of reference loci and cytoplasmic genomic fragments of two closely related parapatric pine species: Pinus massoniana Lamb. and Pinus hwangshanensis Hisa. Population genetic analyses were used to measure genetic variation and detect signals of ancient and recent selection. Speciation parameters including migration rates and divergence times at candidate genes and reference loci were compared under the Isolation with migration model. Hierarchical Approximate Bayesian Computation (ABC) was used to define demographic and speciation models. Intra- and interspecific genetic variation at cytoplasmic and nuclear intronic sequences were compared between parapatric populations and allopatric populations to distinguish the effects of introgression and incomplete lineage sorting in generating shared genetic variation between the species. The results showed that ancient selection were shared by the lineages leading to the species while recent selection has been species-specific. Candidate genes had significant lower migration rates compared to reference loci. Recent differential climatic selection might counteract against gene flow at underlying genes, which therefore favors divergence between the two pines through ecological speciation. Shared mitotypes were randomly distributed across species’ ranges, which therefore supported the incomplete lineage sorting hypothesis, but the shared nuclear intronic variation distributed more frequently in parapatric populations than in allopatric populations, supported the introgression hypothesis. ABC and species’ distribution modeling also supported the secondary gene flow model. The three genomes had different rates of mutation and gene flow might mirror different phases of the speciation continuum. The results in this thesis are valuable for understanding evolution in general and for other applied purposes such as tree breeding and climate change adaptation. / Tiivistelmä Luonnonvalinta ja populaatioiden historian demografia tekevät lajiutumisesta monimutkaisen tapahtumaketjun. Luonnonvalinnan ja demografisten tekijöiden vuorovaikutusta on paras tutkia samanaikaisesti, kun tarkastellaan lajiutumiseen vaikuttavia ominaisuuksia. Tällaisia ovat esimerkiksi ilmastoon sopeutumiseen liittyvät ominaisuudet. Lähisukuiset havupuulajit tarjoavat erinomaiset mahdollisuudet tähän työhön. Tutkin geneettistä muuntelua yhtäältä ilmastosopeutumiseen liittyvissä ns. ehdokasgeeneissä ja toisaalta neutraaleiksi oletetuissa verrokkigeeneissä sekä sytoplasman genomeissa kahdessa lähisukuisessa mäntylajissa Pinus massoniana Lamb. ja Pinus hwangshanensis Hisa, joiden populaatiot esiintyvät joskus erillään toisistaan (allopatrisesti), toisinaan vierekkäin (parapatrisesti). Mittasin muuntelun määrää ja etsin merkkejä valinnan vaikutuksesta. Vertasin erilaisia lajiutumismallien parametrejä verrokki- ja ehdokasgeeneissä. Käytin simulaatioita etsiäkseni parhaat demografiset ja lajiutumiseen liittyvät mallit. Vertasin kloroplastien ja mitokondrioiden genomien sekvenssien lajinsisäistä ja lajien välistä muuntelua allopatrisissa ja parapatrisissa populaatioissa tutkiakseni onko lajien yhteinen muuntelu seurausta siitä että lajien eriytymisestä on kulunut vain vähän aikaa vai siitä että sen jälkeen on tapahtunut geenivirtaa. Kauan sitten tapahtunut valinta on vaikuttanut samalla tavalla kumpaankin lajiin, osin koska tutkimus kohdistui myös niiden yhteiseen edeltäjälinjaan. Äskettäinen valinta taas oli suuremmassa määrin kummallekin lajille ominaista. Viime aikojen ilmastoon liittyvä valinta on voinut vähentää geenivirtaa ehdokasgeeneissä, mikä voisi edistää ekologista lajiutumista. Tuman DNA:n muuntelu jakautuminen tuki sitä mahdollisuutta että lajien yhteinen geneettinen muuntelu johtuu äskettäisestä geenivirrasta, ei vain siitä että lajiutuminen on niin varhaisessa vaiheessa. Mitokondrioiden geeneissä lajeilla yhtä paljon yhteistä muuntelua sekä allopatrisissa että parapatrisissa populaatioissa, mikä tukee sen sijaan eriytymisen jälkeistä epätäydellistä muuntelun erilaistumista. Eri genomit heijastavat lajiutumisprosessin eri vaiheita. Väitöskirjan tulokset ovat osaltaan tuottaneet uutta tietoa lajiutumisesta ja valinnasta. Lisäksi niillä on merkitystä ilmastomuutoksen vaikutusten ymmärtämisessä ja metsänjalostuksessa.