Les génomes sont affectés par des régimes de sélection conflictuels. Ceci est particulièrement bien illustré par le concept de barrière semi-perméable au flux génique, issu de la littérature des zones hybrides. Certains gènes contribuent à empêcher le mélange entre lignées génétiques différenciées, soit parce qu'ils participent à l'adaptation aux conditions environnementales locales, soit parce qu'ils sont incompatibles avec les gènes d'autres lignées. D'autres parties du génome sont soit neutres, soit soumises à une sélection qui tend à homogénéiser les différentes lignées entre elles. Dans la première partie de cette thèse, des modèles d'évolution de l'isolement reproductif sont présentés pour expliquer les patrons d'isolements observés dans les expériences d'hybridation au laboratoire. Par modélisation classique d'incompatibilités génétiques de type Dobzhansky-Muller, il est montré que l'asymétrie et la complexité des incompatibilités sont imparfaitement expliquées par un filtre évolutif, c.a.d. une vitesse d'accumulation différente entre types d'incompatibilité. Une approche complémentaire de modélisation quantitative à l'aide d'une extension du modèle géométrique de Fisher a permis de préciser quelles conditions de divergence entre lignées isolées conduisaient à un effet fortement délétère des mutations dans les génotypes hybrides. L'importance relative du niveau d'épistasie moyen, de la distribution des effets des mutations et des modalités de l'adaptation de chaque lignée est discutée. La seconde partie de cette thèse profite des avancées techniques de la génomique pour étudier l'histoire de la spéciation et de l'adaptation dans un complexe d'espèces non-modèles, les moules du genre Mytilus. Une méthode statistique d'inférence de scénarios de spéciation est présentée. Les résultats montrent que les moules Européennes ont connu une histoire complexe de divergence stricte suivie d'une période de connectivité périodique. En accord avec le concept de barrière semi-perméable au flux génique, il est montré que les taux d'introgression sont hétérogènes le long du génome. Ensuite, des scans génomiques de la différenciation ont été menés entre paires de populations du complexe d'espèces. L'analyse de la variation génétique et des généalogies d'allèles sur une échelle chromosomique localisée a permis de reconstituer l'histoire évolutive de plus de 1000 régions du génome des moules. Cette analyse a révélé qu'une cause majeure, mais insoupçonnée, de la différenciation génétique intraspécifique est l'introgression différentielle d'allèles étrangers. Globalement, cette thèse montre non seulement le rôle majeur de la biogéographie de la spéciation, c.a.d. des patrons temporels et spatiaux du flux de gènes, dans notre compréhension de la biodiversité actuelle, mais aussi sa surprenante complexité et l'étendue de ses conséquences sur l'évolution des génomes. / Genomes are affected by conflicting selective regimes. This is particularly well illustrated by the concept of semi-permeable barriers to gene flow, as found in the hybrid zones literature. Some genes contribute to the prevention of mixing between differentiated genetic lineages, either because they are involved in adaptation to local environmental conditions, or because they are incompatible with alleles from other genetic lineages. Other parts of the genome are either neutral, or subjected to selection which tends to homogenize the genetic lineages. In the first part of this thesis, models of the evolution of reproductive isolation are presented to explain the isolation patterns observed in experimental hybridizing crosses between incipient species. Using standard models of Dobzhansky-Muller genetic incompatibilities, it is shown that the asymmetry and complexity of incompatibilities are not well explained by there being an “evolutionary sieve”, i.e. a different rate of accumulation between incompatibilities. A complementary approach to quantitative modeling (an extension of Fisher's Geometric Model) then clarifies which conditions of divergence between allopatric lines led to highly deleterious effects in hybrid genotypes. The relative importance of mean levels of fitness epistasis, the distribution of mutation sizes, and the way lineages adapt to new environmental conditions is discussed. The second part of this thesis takes advantage of technical advances in genomics to study the history of speciation and adaptation in a non-model species complex, Mytilus mussels. A statistical method of inferring speciation scenarios is presented. Results show that European mussels experienced a complex history of strict divergence followed by a period of periodic connectivity. In agreement with the concept of semi-permeable barriers to gene flow, it is shown that introgression rates are heterogeneous along the genome. Next, genome scans of differentiation were conducted between pairs of populations of the species complex. The analysis of genetic variation and allele genealogies on a small chromosomal scale allowed to reconstruct the evolutionary history of more than 1000 genomic regions. This analysis reveals that a major cause of intraspecific differentiation is the differential introgression of foreign alleles. Overall, this thesis shows not only that biogeography of speciation, i.e. the temporal and spatial patterns of gene flow, play a major role in our understanding of existing biodiversity, but also its amazing complexity and extent of its impact on genome evolution.

La génétique des populations a révélé que la diversité génétique des espèces marines était très souvent distribuée de façon discrète dans l’espace, en mosaïque de patchs populationnels génétiquement homogènes délimités par des discontinuités appelées barrière au flux génique. L’objectif de cette thèse était de contribuer à mieux comprendre les processus expliquant l’origine, le maintien et la position des barrières génétiques au niveau de la zone de transition entre l’Atlantique et la Méditerranée. Dans un premier temps a été étudiée la structure génétique de la moule Mytilus galloprovincialis. Contrairement au cline abrupt et étroit reporté en Espagne, nous avons découvert en Algérie une vaste zone hybride mosaïque sur 600 km de côtes à l'Est du front océanique Almeria-Oran. Dans un deuxième temps a été menée une étude de la structure génétique du gastéropode marin Stramonita haemastoma. Nous avons découvert deux lignées cryptiques différentiellement fixées pour des haplogroupes mitochondriaux, et différenciées sur 3 marqueurs microsatellites développés dans cette thèse. La distribution spatiale en mosaïque est étonnante avec un patch de la lignée atlantique enclavé au nord de la Méditerranée occidentale et bordé par une zone hybride au sud dans la région de Valence. Ces deux études mettent en avant l’importance de l’isolement reproductif intrinsèque dans l’explication de la distribution mosaïque de la diversité génétique marine. Bien que les frontières entre patchs correspondent à des barrières physiques à la dispersion ou à des écotones, l’hydrographie et l’environnement n’expliquent sans doute que la position des discontinuités génétiques mais ni leur origine ni leur maintien. / Population genetics has revealed the genetic diversity of marine species is often subdivided into a mosaic of discrete patches, within which populations are genetically homogeneous, delineated by discontinuities called barriers to gene flow. The aim of this thesis was to contribute to better understand the processes explaining the origin, maintenance and location of genetic barriers at the Atlantic/Mediterranean transition zone. First, we studied the genetic structure of the mussel Mytilus galloprovincialis. In contrast to the abrupt narrow cline reported in Spain, we discovered along the Algerian coastline a 600 km wide mosaic hybrid zone eastward of the Almeria-Oran oceanic front. Second, we studied the genetic structure of a marine gastropod Stramonita haemastoma. We discovered two cryptic lineages differentially fixed for alternative mitochondrial haplogroups, and differentiated at three microsatellite markers developed in this PhD work. Surprisingly, the spatial distribution proved to be an unusual mosaic with a patch of the Atlantic lineage enclaved in the north of the Western Mediterranean Sea, bordered in the South by a hybrid zone in eastern Spain around Valencia. These two studies highlight the importance of intrinsic reproductive isolation in explaining the mosaic distribution of the marine genetic diversity. Although boundaries between patches coincide with physical barriers to dispersal or ecotones, hydrography and environment mainly explain the position of the genetic discontinuities but neither their origin nor their maintenance.