Alors que les technologies de séquençage à très haut débit ont permis de réaliser d’importants progrès pour documenter l’architecture génomique de la spéciation, les mécanismes moléculaires responsables de l’isolement reproducteur demeurent nébuleux. L’objectif principal de cette thèse est d’apporter un nouvel éclairage sur les bases moléculaires de l’isolement reproducteur dans un système d’espèces naissantes : le Grand Corégone. En particulier, l’approche était d’examiner les mécanismes associés à la stabilité du génome et à sa dérégulation dans un contexte de divergence et d’hybridation. Par une méthode de transcriptomique, nous avons documenté une profonde dérégulation à l’échelle du transcriptome chez les hybrides entre les formes naine et normale du Grand Corégone, incluant la dérépression des éléments transposables et des transcrits non-codants. Par la suite, nous avons observé que les hybrides montrent des signes importants de déstabilisation de la méiose et de la mitose, malgré l’absence de changement de caryotype entre les formes parentales. Finalement, nous avons observé un polymorphisme sub-chromosomique importants chez trois paires de Grand Corégones sympatriques, principalement associé à la période d’allopatrie. Ces travaux montrent que des changements importants à l’échelle du génome entier surviennent tôt au cours du processus de divergence, et sont susceptibles de conduire à de profonds dérèglements chez les hybrides. Enfin, cette thèse montre qu’une approche dite intégrative favorise une meilleure compréhension des mécanismes liés à la divergence et à la spéciation. / While high throughput sequencing has led to significant progress towards the understanding of the genomic architecture of speciation, molecular mechanisms responsible for reproductive isolation remain unclear. The main objective of this thesis is to contribute to elucidate the molecular basis of reproductive isolation in a nascent species complex : the Lake Whitefish. In particular, the approach was to examine the mechanisms associated with genome stability and instability in a context of divergence and hybridization. Using transcriptomics, we documented a profound deregulation at the transcriptome scale in hybrids between dwarf and normal Lake Whitefish, including transposable element and non-coding RNA derepression. Then, we found that hybrids show significant signs of meiosis and mitosis breakdown, despite the absence of karyotype changes between parental forms. Finally, we observed conspicuous sub-chromosomal polymorphism in three sympatric Lake Whitefish species pairs, mainly associated with earlier allopatry. This work shows that genome-scale reorganization occurs early during divergence, and may lead to profound dysregulation in hybrids. This thesis also shows that integrative biology promotes a better understanding of the mechanisms linked to divergence and speciation.