La gynodioécie – la coexistence d’individus femelles et hermaphrodites- est un des systèmes le plus commun après l’hermaphrodisme chez les angiospermes. Le maintien et l’évolution de la gynodioécie intriguent beaucoup de scientifiques. L’objectif de ma thèse était de déterminer les forces évolutives impliquées dans le maintien d’un tel polymorphisme sexuel et d’étudier certaines conditions nécessaires à l’occurrence d’une meilleure performance des individus femelles et à la variation de l’ampleur de cet avantage chez Silene nutans. Par une approche de génomique des populations, j’ai comparé le polymorphisme des trois génomes (nucléaire, mitochondrial et chloroplastique) de deux espèces, une gynodioïque ; S. nutans et une dioïque : Silene otites. J’ai montré la gynodioécie se maintien chez S. nutans grâce à une sélection fréquence-dépendante négative. Un deuxième volet de ma thèse concerne l’occurrence et la variation de l’amplitude de l’avantage femelle. Grâce à une approche de biologie et de génétique des populations, j’ai comparé le succès reproducteur des femelles et hermaphrodites. J’ai montré que l’avantage femelle dépend de l’efficacité de pollinisation et du taux d’autofécondation qui varient selon le sexe ratio en conditions expérimentales. Par ailleurs, j’ai montré qu’en population naturelle les flux de pollen étaient majoritairement restreints dans l’espace. J’ai aussi montré que dans la population naturelle étudiée le déterminisme génétique de la gynodioécie est nucléaire. Enfin, j’ai mis en évidence une meilleure contribution des pollinisateurs nocturnes au succès reproducteur chez S. nutans par rapport aux pollinisateurs diurnes de cette espèce. / Gynodioecy - the coexistence of female and hermaphrodite individuals, is one of the most common systems after hermaphroditism in angiosperms. The maintenance and evolution of gynodioecy intrigued many evolutionary biologists. The aim of my thesis was to determine the evolutionary forces involved in maintaining such a sexual polymorphism and study some necessary conditions for the occurrence of a better performance of female and the variation of the magnitude of this advantage in Silene nutans. By population genomics approach, I compared the polymorphism of three genomes (nuclear, mitochondrial and chloroplast) of two species, gynodioïque, S. nutans and dioecious: Silene otites. I showed that gynodioecy is maintained in S. nutans through a frequency-dependent negative selection. A second part of my thesis concerns the occurrence and variation of the amplitude of the female advantage. With biology and genetic of population approach, I compared the reproductive success of females and hermaphrodites. I showed that the female advantage depends on the efficiency of pollination and selfing rates that vary according to the sex ratio in experimental conditions. Furthermore, I showed that natural population pollen flow were mainly restricted in space. I also showed that in the studied natural population the genetic determinism of gynodioecy is nuclear. Finally, I highlighted a greater contribution of nocturnal pollinators to reproductive success in S. nutans in relation to diurnal pollinators of this species.