Les chênes sessiles et pédonculés sont deux espèces sympatriques interfertiles occupant des places distinctes dans la succession écologique. Elles constituent pour cela un bon modèle pour l’étude de la spéciation écologique. Malgré leur écologie contrastée, les deux espèces de chênes coexistent naturellement dans de nombreuses forêts, rendant possible l’étude de leur système de reproduction intra- et interspécifique. Des travaux précédents ont suggéré que l’hybridation entre ces deux espèces serait fréquence-dépendante. Elle dépendrait de la proportion de pollen allospécifique (c'est-à-dire de pollen de l’autre espèce) que reçoit l’arbre mère étudié. Ce phénomène d’hybridation fréquence-dépendante est appelé effet Hubbs, du nom d’un ichtyologue qui découvrit ce mécanisme en 1955. Mon travail a consisté à étudier, dans une parcelle mixte de chênes, les barrières à l’hybridation qui permettent la coexistence de ces deux espèces. Pour cela, j’ai effectué une étude de paternité de grande ampleur (près de 3500 individus typés sur 12 marqueurs microsatellites). Tout d’abord, je me suis intéressée à la délimitation des deux espèces en appliquant pour la première fois in situ le critère d’interfertilité. Je me suis ensuite concentrée sur les facteurs qui influencent l’hybridation au travers d’une modélisation des croisements à l’échelle de l’individu. Les résultats montrent que le maintien de ces deux espèces est régi par deux composantes environnementales importantes : la fréquence de chaque espèce et leur distribution, qui influencent la quantité de pollen reçue. Grâce à cette étude empirique et à l’approche de modélisation de ces croisements, nous avons désormais une bien meilleure vision de l’effet de l’environnement sur l’hybridation. J’ai par la suite comparé les caractéristiques du système de reproduction de chaque espèce (dispersion du pollen et fécondité mâle) en cherchant si un lien existait avec leur stratégie écologique. Les résultats suggèrent que les différences de dynamique écologique pourraient être à l’origine de la spéciation du fait de l’existence de compromis différents en termes d’allocation de ressources mais qu’à plus court terme la stabilité de l’environnement est essentielle au maintien des espèces. / Quercus petraea and Q. robur are two interfertile sympatric species. They occupy distinct stages during forest succession and constitute therefore good models for ecological speciation studies. Despite their differences, they often grow together in mixed stands, allowing the study of their intra- and interspecific reproductive system. Hybridization between these two oak species has been suggested to be frequency-dependent. The effect of the relative species abundance on hybridization is known as the “Hubbs’ effect”, from the name of an ichthyologist who described this mechanism in 1955. My work was to study the processes that limit hybridization between these two species, thereby allowing their coexistence. I conducted an extensive paternity analysis (almost 3500 individuals genotyped at 12 microsatellite markers). First, I tried to delimitate the two oak species by applying for the first time in situ the interfertility criterion. Then, I focused on interspecific crosses by studying those factors influencing hybridization. Results showed that the maintenance of these two species depends on the frequency of each species and their distribution, as both factors influence the quantity of pollen received by female flowers. Thanks to this empirical study and to this modeling approach, we have now a much better view of environmental effects on hybridization. I then compared the characteristics of the reproductive system of each species (pollen dispersal and male fertility) in relation with their ecological strategies. The results suggest that differences in species ecological dynamics are at the origin of the speciation process but that at a finer scale the stability of the environment is crucial for species’ maintenance.