Du fait de la complexité des processus de spéciation, l'étude des relations évolutives entre espèces nécessite une approche intégrative. Nous avons combiné croisements expérimentaux et études moléculaires (séquençage mitochondrial et RAD-seq) pour étudier les relations évolutives entre espèces indigènes et introduites du genre Ciona, en Europe. Nous avons examiné deux mécanismes post-zygotiques restant à explorer pour expliquer l'absence d'introgression de C. robusta et C. intestinalis dans leur zone de sympatrie en Manche : 1) la contre-sélection des hybrides par l'environnement (température et salinité) et 2) des incompatibilités de type Dobzhansky-Muller (DMIs). L'absence de dépression hybride (étudiée chez 725 hybrides F1) nous a conduit à rejeter le premier mécanisme. Le second a été exploré grâce à l'étude de sept familles double-hybrides ou issues de rétrocroisements, analysées par RAD-seq. Une stérilité sur la fonction mâle des hybrides F1 et d'importantes distorsions de ségrégation sont en faveur de la présence de DMIs. Nous avons étendu notre étude à d'autres espèces du genre Ciona. Les principaux résultats, notamment soutenus par une approche phylogénomique (7 taxons - 89 individus), sont : 1) la remise en cause du statut d'espèce de C. roulei par rapport à C. intestinalis (probablement deux lignées allopatriques), 2) les premières données montrant la forte divergence évolutive de C. edwardsi avec les autres Ciona spp. et 3) la présence de variabilité génétique et/ou d'introgression chez C. intestinalis type C et type D. Ces résultats ouvrent d'intéressantes perspectives de recherches dont des études populationnelles des espèces présentes en Méditerranée. / Speciation is a complex process. Evolutionary relationships between close species thus required an integrative approach. We combined experimental crosses and molecular data (mitochondrial and RAD-tag sequencing) to investigate evolutionary relationships between native and non-indigenous species of the genus Ciona nowadays found in Europe. We studied two post-zygotic mechanisms, still to be examined, to explain the lack of introgression between C. robusta and C. intestinalis in their sympatric range –i.e. the English Channel: i) selection against hybrids, by the environment (here temperature and salinity) and ii) Dobzhansky-Muller incompatibilities (DMIs). The absence of outbreeding depression (over 725 F1-hybrids) makes unlikely the first mechanism. The second has been investigated with seven families of F2-hybrids and backcrosses, all studied with RAD-tag sequences. Male sterility on F1-hybrids and many segregation distortions are in favor of presence of DMIs. We then expanded our study to other Ciona species. The main outcomes, supported by a phylogenomic approach (7 taxa - 89 individuals) are: 1) a needed reappraisal of the species status of C. roulei and C. intestinalis, which are most likely two allopatric lineages of a same species (as defined by biological and phylogenetic species concepts), 2) the first data showing that C. edwardsi is strongly evolutionary divergent from the other Ciona species and 3) the presence of unexpected genetic variability and/or introgression in C. intestinalis type C and D. All together these results open new research perspectives, in particular based on population studies of the species nowadays found in the Mediterranean Sea.

La spéciation peut être définie comme l’ensemble des processus conduisant à l’évolution de l’isolement reproducteur entre groupes d’individus. Ces dernières décennies, de nombreuses études ont souligné l’importance de la sélection naturelle comme processus majeur dans la formation de nouvelles espèces en conditions de sympatrie, notamment dans des modèles de spéciation écologique. Le chêne sessile (Quercus petraea (Matt.) Liebl.) et le chêne pédonculé (Q. robur L.) sont deux espèces sympatriques qui présentent de fortes divergences morphologiques et écologiques, malgré des taux d’hybridation naturelle estimés relativement importants. Cependant, très peu de données sont connues sur la nature et la force des barrières reproductives chez ces espèces. L’objectif de cette thèse était donc de caractériser ces barrières aux niveaux phénotypique et génétique, pour mieux comprendre leur importance relative, leur rôle dans le processus de divergence et leur évolution au sein de ce complexe d’espèces. Une première approche basée sur la réalisation de croisements contrôlés a montré tout d’abord (i) l’existence de fortes barrières reproductives au niveau pré-zygotique et de barrières significatives bien que plus faibles au niveau de la fitness des descendants hybrides, et (ii) une variabilité importante de ces barrières liée aux génotypes des individus et à leur expression dans des micro-environnements différents. Une deuxième approche de génomique des populations sur 33 gènes candidats à l’isolement reproducteur pré-zygotique a ensuite permis d’identifier des « gènes de spéciation » soumis à de la sélection divergente, liés en particulier à la phénologie de la floraison, et d’apporter des éléments de discussion supplémentaires au modèle de colonisation de ces espèces en peuplements naturels. / Speciation can be defined as the range of processes that lead to the evolution of reproductive isolation among groups of individuals. Past decades have witnessed a renewal in the recognition of natural selection as a primary force in the formation of new species, in particular for ecological speciation models in conditions of sympatry. Sessile oak (Quercus petraea (Matt.) Liebl.) and pedunculate oak (Q. robur L.) are two sympatric species which exhibit large morphological and ecological differences, despite relatively high estimated rates of natural hybridization. However, very little is known about the nature and strength of reproductive barriers between those two species. The objective of this thesis was therefore to characterize their isolating barriers at phenotypic and genetic levels, in order to better understand their relative importance, their role in the process of divergence and their evolution in that species complex. A first approach based on controlled crosses has shown (i) the existence of strong barriers at the pre-zygotic level and that of significant although weaker ones at the post-zygotic level, based on observations from fitness of hybrid progenies, and (ii) a large variability for traits linked to barriers phenotypes, across genotypes and also for their expression in different micro-environments. A second approach of population genomics used 33 candidate genes to reproductive isolation and allowed to identify «speciation genes» submitted to divergent selection, the strongest divergence being observed for genes involved in the flowering pathway. The model of colonization of these oak species in natural stands was discussed in the light of these new results.