Le concept de paysage adaptatif a été introduit par S. Wright dans le domaine de la biologie de l'évolution dans les années 1930. Il est l'un des concepts pertinents pour modéliser l'évolution d'une population d'organismes. Dans le domaine de l'optimisation combinatoire par métaheuristiques, il est également utilisé et <br />permet de lier une description géométrique d'un problème d'optimisation avec la dynamique des algorithmes de recherche.<br />Deux géométries de paysage correspondant à deux dynamiques d'algorithme ont été principalement étudiées. La géométrie de paysage multimodale est liée à la présence d'optima locaux,<br />où la dynamique est une succession de marches adaptatives vers de meilleures solutions et de dégradations de performance. La géométrie des paysages adaptatifs neutres, mise en avant par la théorie de la neutralité en évolution moléculaire de Motoo Kimura,<br />est liée à la présence de plateaux ; la dynamique se caractérise alors par une dérive aléatoire entrecoupée de rares découvertes de solutions plus performantes. Cette thèse se propose d'approfondir <br />l'étude des paysages neutres dans le contexte de l'optimisation et de proposer de nouvelles métaheuristiques adaptées à ce type de paysages.<br /><br />La thèse se compose de quatre chapitres. Dans un premier chapitre,<br />nous présentons les principaux résultats concernant les paysages adaptatifs et plus particulièrement les paysages adaptatifs neutres.<br />Dans un deuxième chapitre, nous développons le concept d'ensemble de neutralité en introduisant la notion de 'nuage adaptatif' qui permet d'étudier la corrélation de performance entre solutions voisines et nous l'appliquons à la classe des paysages 'embarqués' qui regroupe les paysages NK et Max-SAT. Dans un troisième chapitre, nous résumons l'ensemble des mesures relatives aux réseaux de neutralité et nous proposons une nouvelle mesure. Une étude expérimentale est réalisée sur trois familles de paysages pour lesquelles la neutralité est ajustable et deux problèmes classiques de la littérature. Enfin, un nouvel algorithme de recherche adapté aux paysages neutres lié à la nouvelle mesure est proposé et évalué sur différents paysages neutres. Nous réalisons l'étude du paysage adaptatif massivement neutre<br />issu du problème d'apprentissage de la règle d'un automate cellulaire réalisant la tâche de classification par la densité, afin d'en améliorer les métaheuristiques connues existantes.

L'épistasie a longtemps été négligée, mais aujourd'hui elle connait un regain d'intérêt avec le développement du séquençage haut-débit et des études d'association pangénomique (GWAS). Elle est quasi-omniprésente, ayant été détectée sur de nombreux traits et chez de nombreuses espèces. Elle joue un rôle important d'un point de vue évolutif, puisqu'elle est à l'origine d'incompatibilités de Dobzhansky-Müller, expliquant l'isolement reproductif entre lignées apparentées. Par ailleurs, chez les polyploïdes à héritabilité disomique (essentiellement des allopolyploïdes), elle peut permettre de fixer l'hétérosis. L'objectif de cette thèse a été d'étudier l'épistasie dans ce contexte évolutif. Le matériel d'étude a été une population à base génétique large d'une espèce autogame allopolyploïde, le blé dur (Triticum turgidum), possédant deux génomes : le génome A et le génome B. Cette population a été constituée à partir de différents taxons : blé dur (T. t. durum), amidonnier domestique (T. t. dicoccum) et amidonnier sauvage (T. t. dicoccoides). Il est donc possible qu'elle présente des combinaisons de gènes coadaptées, et donc de l'épistasie générant des incompatibilités de Dobzhansky-Müller.Une première partie présente différents modèles permettant d'estimer l'épistasie. Ces modèles ont des inconvénients et des avantages, qui dépendent de l'objectif que l'on s'est fixé. Dans une deuxième partie, nous avons utilisé l'un de ces modèles sur des données de RNA-seq (données d'expression et de génotypage) de la population de blé dur, afin de détecter des effets régulateurs de l'expression, et notamment de l'épistasie entre gènes homéologues. Cette analyse est une première pour le blé dur et probablement pour les espèces polyploïdes. Nous n'avons presque pas détecté d'épistasie de premier ordre, mais des interactions avec le fond génétique ont été observées. Nous avons trouvé plus d'eQTL sur le génome B que sur le génome A, ce qui est peut-être dû au fait que les ancêtres diploïdes du blé dur n'avaient pas le même régime de reproduction. Par ailleurs, nous avons montré que les niveaux d'expression des gènes homéologues étaient très fréquemment (80%) corrélés de manière positive, ce qui indique que les gènes homéologues appartiennent fréquemment aux mêmes complexes de gènes corégulés. Enfin, les régulations trans sont plus fréquentes au sein des paires de gènes d'homéologues, ce qui corrobore également l'idée que les gènes homéologues appartiennent aux mêmes réseaux de gènes. Dans une troisième partie, le rôle évolutif de l'épistasie a été examiné. D'abord, nous avons montré comment l'épistasie influençait la covariance parents-enfants, et donc l'évolution à courts termes d'une population. Ensuite, nous avons étudié l'impact d'un type particulier d'épistasie (celui à l'origine des d'incompatibilités de Dobzhansky-Müller, présentant des combinaisons de gènes coadaptés) sur l'évolution d'une population soumise à de la sélection par troncation (comme dans les populations de pre-breeding), à l'aide d'un modèle haploïde bilocus, en fonction du taux de recombinaison et de l'intensité de la sélection. Nous avons montré que si le génotype optimal n'est pas présent dans la population initiale, un fort taux de recombinaison risque de mener à la fixation du génotype sous-optimal. Néanmoins, un peu de recombinaison est nécessaire pour créer ce génotype optimal et le fixer.En perspectives, nous proposons d'adopter une méthode basée sur les réseaux de gènes pour approfondir les mécanismes de la régulation de l'expression chez le blé dur. Nous proposons également de complexifier le modèle permettant d'étudier l'effet de la recombinaison sur l'évolution d'un trait épistatique, sélectionné par troncation, et de compléter ces travaux de modélisation par des études expérimentales. / Epistasis has long been neglected, but it is currently subject to a renewed interest with the development of high-throughput sequencing technologies and of genome-wide association studies (GWAS). It is virtually ubiquitous, having been detected on many traits and in many species. It plays an important evolutionary role, since it is one of the sources of Dobzhansky-Muller incompatibilities, explaining reproductive isolation between related lineages. Moreover, it can enable to fix heterosis in disomic polyploids (mostly allopolyploids). The objective of this thesis was to study epistasis in this evolutionary context. The study material was a broad genetic basis population of a self-pollinating allopolyploid species, durum wheat (Triticum turgidum), having two genomes: A and B genomes. This population was composed from different taxa: durum wheat (T. t. durum), domestic emmer (T. t. dicoccum) and wild emmer (T. t. dicoccoides). Therefore, there are probably combinations of coadapted genes in this population, and thus epistasis generating Dobzhansky-Muller incompatibilities.The first part presents different models to estimate epistasis. These models have advantages and drawbacks, depending on the overall objective. In a second part, we used one of these models on RNA-seq data (expression and genotyping data) of the population of durum wheat to detect regulatory effects of expression, including epistasis between homoelogous genes. This analysis is unique in durum wheat, and probably in polyploid species. We did not detect first-order epistasis, but interactions with genetic background were observed. We found more eQTL on the B genome than on the A genome, which may be due to the fact that the diploid progenitors of durum wheat did not have the same mating system. Furthermore, we showed that the expression levels of homoelogous genes were frequently (80%) positively correlated, indicating that homoelogous genes often belong to the same complex of coregulated genes. Finally, trans regulations are more common among pairs of homoelogous genes, which also supports the idea that homoelogous genes belong to the same gene networks. In the third part, the evolving role of epistasis was examined. First, we showed how epistasis influences the parent-offspring covariance, and thus the short-term evolution of a population. Then we studied the impact of a particular type of epistasis (the one which can generate Dobzhansky-Muller incompatibilities, with combinations of co-adapted genes) on the evolution of a population subjected to truncation selection (as in pre-breeding populations), using a haploid bilocus model, based on the recombination rate and selection intensity. We have shown that if the optimal genotype is not present in the initial population, a high rate of recombination may lead to the fixation of the sub-optimal genotype. However, some recombination is needed to create this optimal genotype and fix it.In perspective, we propose to adopt a network-based method to further the regulation mechanisms of expression in durum wheat. We also propose to make the model more complex, in order to study the effect of recombination on the evolution of an epistatic trait selected by truncation, and complete these modelling works by experimental studies.

La capacité de persistance d’une population face à un changement environnemental stressant est une question complexe à l’interface entre l’écologie et l’évolution. Le processus par lequel une population échappe à l’extinction en s’adaptant aux nouvelles conditions environnementales stressantes est nommé sauvetage évolutif. Ce cas particulier de dynamique éco-évolutive est de plus en plus étudié autant théoriquement, qu’expérimentalement, entre autres dans le contexte des changements environnementaux d’origines anthropiques. Cependant, les études modélisant ce processus négligent les interactions entre génotypes et environnements impactant le potentiel évolutif des populations faisant aux changements environnementaux. Dans le cadre de cette thèse, j’ai développé des modèles intégrant ces interactions. Pour cela, j’ai modélisé le processus de sauvetage évolutif de populations à reproduction asexuée, face à des changements environnementaux abruptes, en utilisant le paysage adaptatif de Fisher (modèle géométrique de Fisher (1930)). Ce paysage nous a permis de modéliser ces interactions génotypes-environnement et leur impact sur la proportion de mutations pouvant sauver une population. A travers deux modèles, considérant soit le sauvetage d’une population par une mutation d’effet fort, soit par un grand nombre de mutations d’effets faibles, nous avons pu dégager des prédictions pour la probabilité de sauvetage évolutif en fonction des conditions environnementales et des caractéristiques de l’organisme étudié. Ces modèles peuvent être paramétrés sur des données d’évolution expérimentale et leurs prédictions comparées à des données de traitement antibiotiques visant des pathogènes asexués. Au-delà du sauvetage évolutif, les modèles développés nous ont également permis d’établir des outils permettant de modéliser d’autres dynamiques éco-évolutives, intégrant des interactions génotype-environnement et leurs effets sur la distribution d’effets des mutations. / The persistence ability of a population facing a stressing environmental change is a complex question at the connection between ecology and evolution. The process by which a population avoid extinction by adapting to the new stressing environmental conditions is termed evolutionary rescue. This particular case of eco-evolutionary dynamic is increasingly investigated both theoretically and experimentally, among other things in the context of the environmental changes from human activity. However, the studies modelling this process neglect the interactions between genotypes and environments impacting the evolutionary potential of the populations facing environmental changes. In the context of this thesis, I developed models integrating these interactions. To this end, I modelled the process of evolutionary rescue in asexual populations, facing abrupt environmental changes, using the adaptive landscape of Fisher (Fisher’s geometric model (1930)). This landscape allowed us to model the genotypes-environments interactions and their impact on the proportion of mutations able to save a population. Using two models, considering either the rescue of a population by a mutation of strong effect, either by a large number of mutation of small effect, we derived predictions for the probability of evolutionary rescue, which depends on the environmental conditions and the characteristics of the studied organism. These models can be parametrized on data from evolutionary experiments and their predictions compared to data of antibiotic treatments aiming on asexual pathogens. Beyond evolutionary rescue, the models developed in this thesis also gave tools to model other eco-evolutionary dynamics, integrating genotype-environment interactions and their effects on the distribution of mutations effects.