Le genre Ectocarpus Lyngbye (Ectocarpales, Phaeophyceae) regroupe des algues marines filamenteuses caractérisées par un cycle haploïde-diploïde. L'objectif de la thèse était de délimiter les espèces et d'étudier la spéciation dans ce genre. Nous avons commencé par clarifier le nombre d'espèces cryptiques en utilisant deux loci indépendants et une approche intégrative associant une analyse de détection de " barcode gap " avec des reconstructions phylogénétiques. Nos résultats montrent l'existence d'au moins 15 espèces qui se répartissent en un groupe monophylétique composé d'E. crouaniorum (Ecro) et de deux espèces proches ainsi que d'un mélange paraphylétique composé des 12 autres espèces incluant E. siliculosus (Esil). Deuxièmement, les analyses de séquençage Rad et de phylogénomique ont permis de résoudre les relations au sein du groupe paraphylétique. Les espèces se regroupent maintenant en deux clades divergents (Ecro and Esil). Des niveaux de divergence variables entre espèces sont révélés au sein du clade Esil. Des phénomènes d'hybridation entre les espèces les plus apparentées, et trouvées en sympatrie, sont suspectés. Finalement, l'importance de l'isolement reproducteur a été étudié entre les espèces Esil et Ecro, les plus communes, mais les plus divergentes, en utilisant des marqueurs spécifiques de chacune des espèces. Nos résultats indiquent que la méiose agit comme une forte barrière reproductive entre ces espèces et démontrent que les espèces du genre Ectocarpus sont d'excellents systèmes pour étudier les conséquences évolutives de l'hybridation et de l'introgression pour le maintien ou la divergence des espèces grâce à leur cycle haploïde-diploïde. / The genus Ectocarpus Lyngbye (Ectocarpales, Phaeophyceae) comprises marine filamentous algae characterized by an alternation between two independent multicellular organisms of different ploidy. The general objective of the thesis was to study species delineation and speciation within this genus. We started clarifying the number of cryptic species using two unlinked loci (COI-5P and ITS1) and an integrative approach associating barcode gap detection analyses with phylogenetic reconstructions. We showed the presence of at least 15 species partitioned within a monophyletic group composed of E. crouaniorum (Ecro) and two closely related species and a paraphyletic assemblage composed of the remaining 12 other species including E. siliculosus (Esil). Second, Rad sequencing and phylogenomics analyses allowed to resolve the relationships within the paraphyletic assemblage. The different species becomes well separated into two divergent clades (Ecro and Esil). A diversity of taxa with various levels of divergence was revealed within the clade Esil and hybridization between the closest and sympatric species was suggested. Finally, the importance of reproductive isolation among the two commonest but most divergent species Esil and Ecro was studied using species-specific nuclear and cytoplasmic markers jointly with 9 microsatellites. We showed that meiosis acts as a strong reproductive barrier among these two species and demonstrates that the species of the genus Ectocarpus are excellent systems to study evolutionary consequences of hybridization and introgression for the maintenance or breakdown of species because of their haploid diploid life cycle.