La présence des mutations délétères a favorisé l'évolution de mécanismes, au niveau cellulaire et au niveau des organismes (e.g. les régimes de reproduction), permettant de diminuer leurs effets négatifs. Au cours de cette thèse nous avons étudié leur impact sur la taille des populations à travers des modèles tenant compte de l'interaction entre la démographie et la sélection, cette interaction étant souvent mise de coté dans les modèles conventionnels de génétique des populations. Dans un contexte déterministe à un seul locus des mutations somatiques et gamétiques influencent la taille et le fardeau génétique des populations (ces derniers étant dépendants du moment d’expression des mutations dans le cycle de vie). Nos modèles stochastiques avec un grand nombre de locus indiquent que la viabilité des populations dépend des paramètres démographiques et génétiques (taux de mutation, effet délétère des mutations). L'autofécondation est généralement avantageuse, augmentant la taille et la viabilité des populations, mais lorsque les mutations sont de faible effet un régime d'autogamie stricte mène à l'extinction par fonte mutationelle. En permettant l'évolution de l'autofécondation à partir d'une population allogame nous observons des cas de suicide évolutif où les populations évoluent vers l'autogamie stricte et s'éteignent, ce qui pourrait expliquer les taux d’extinctions élevés des espèces auto-fécondantes comparées aux allo-fécondantes. Ces modèles prédisent que la taille des populations pourrait être une conséquence et non une cause de leurs propriétés génétiques, appuyant sur l’importance de prendre en compte leur interaction dans l'étude de l'évolution des populations. / As the ultimate source of genetic variation, mutation has the inconvenience of introducing deleterious mutations. These mutations shape the evolution of species, from genetic mechanisms on the cellular level to reproductive systems, which lessen their effects on fitness. In this thesis we explore how these mutations influence population size by allowing the interaction between population size and selection, which has been little explored in conventional population genetics models. In a deterministic context with a single locus, germ-line and somatic mutations influence population size and the mutation load, both which depend on the timing of the expression of these mutations. Multi-locus individual based models show that population viability depends on the demographic properties and on the rate of introduction and impact of mutations. Though self-fertilisation generally increases population viability, strictly self-fertilising populations go extinct due to mutational meltdown when mutations are of small effect. When selfing is allowed to evolve from an outcrossing reproductive regime, there are cases of evolutionary suicide where strict selfing evolves and leads to extinction. We predict that the genetic properties of populations may not be a consequence but a cause of population size. We have emphasized the importance of taking the demographic consequences of deleterious mutations into account when studying the evolution of populations, as in the case of the evolution of self-fertilisation where the previously undetected evolutionary suicide was observed. This result may explain the observed higher extinction rates in selfing compared to outcrossing species.

Thèse numérisée par la Direction des bibliothèques de l'Université de Montréal.