Dans cette thèse, nous étudions les effets d'un environnement stochastique et de l'utilisation d'une stratégie d'opting-out sur l'évolution de la coopération dans les jeux évolutionnaires. La thèse contient 8 articles, dont 6 sont déjà publiés dans des revues avec comité de lecture. Outre l'introduction, la thèse est divisée en deux parties, la partie 1 composée de 5 articles et la partie 2 de 3 articles. La partie 1 étudie l'impact de gains randomisés dans les jeux évolutionnaires. L'article 1 introduit les concepts de stabilité pour les jeux avec matrice de paiement aléatoire 2x2 dans des populations infinies avec des générations discrètes sans chevauchement dans un environnement stochastique. On y donne les conditions pour qu'un équilibre, sur la frontière ou à l'intérieur du simplexe des fréquences des stratégies, soit stochastiquement localement stable ou instable. L'article 2 étend les résultats de l'article 1 au cas où la valeur sélective est une fonction exponentielle du gain attendu suite à des interactions aléatoires par paires et montre que, de manière inattendue, le bruit aléatoire environnemental peut rompre un cycle périodique et favoriser la stabilité d'un équilibre intérieur. L'article 3 discute des effets de la sélection faible. Alors que les conditions de stabilité dans un environnement aléatoire reviennent aux conditions du cas déterministe lorsque l'intensité de la sélection diminue, les fluctuations aléatoires des gains peuvent accélérer la vitesse de convergence vers un équilibre stable sous une sélection plus faible. L'article 4 applique la théorie de la stabilité évolutive stochastique à un jeu randomisé de dilemme du prisonnier. On y montre que l'augmentation de la variance des gains de défection est propice à l'évolution de la coopération. L'article 5 étudie les jeux matriciels randomisés dans des populations finies et donne les conditions pour que la sélection favorise l'évolution de la coopération dans le contexte du jeu randomisé de dilemme du prisonnier. La partie 2 considère un jeu répété de dilemme du prisonnier dans le cas où un comportement d'opting-out est adopté par chaque joueur dans les interactions par paires. L'article 6 étudie la dynamique évolutive de la coopération et de la défection dans ce contexte et montre une possible coexistence à long terme, en supposant une population infinie et un équilibre rapide (en fait, instantané) dans les fréquences des paires. L'article 7 rapporte des résultats expérimentaux avec 264 étudiants universitaires utilisant la stratégie d'opting-out qui soutiennent la prédiction théorique d'une coexistence à long terme de coopération et de défection. L'article 8 étend l'analyse du modèle avec la stratégie d'opting-out au cas d'une population finie et fournit une preuve rigoureuse des deux échelles de temps pour les fréquences de coopération et de défection d'une part et les fréquences de paires de stratégies d'autre part. / In this thesis, we study the effects of a stochastic environment and the use of an opting-out strategy on the evolution of cooperation in evolutionary games. The thesis contains 8 articles, among which 6 are already published in peer-reviewed journals. Apart from the introduction, the thesis is divided into two parts, Part 1 made with 5 articles and Part 2 with 3 articles. Part 1 studies randomized payoffs in evolutionary games. Article 1 introduces stability concepts for 2x2 matrix games in infinite populations undergoing discrete, non-overlapping generations in a stochastic environment and gives conditions for an equilibrium, either on the boundary or in the interior of the simplex of all strategy frequencies, to be stochastically locally stable or unstable. Article 2 extends the results of Article 1 to the case where fitness is an exponential function of expected payoff in random pairwise interactions and shows that, unexpectedly, environmental random noise can break a periodic cycle and promote stability of an interior equilibrium. Article 3 discusses the effects of weak selection. While stability conditions in a random environment return to conditions in the deterministic case as selection intensity diminishes, random fluctuations in payoffs can accelerate the speed of convergence toward a stable equilibrium under weaker selection. Article 4 applies stochastic evolutionary stability theory to a randomized Prisoner's dilemma game and shows that increasing the variance in payoffs for defection is conducive to the evolution of cooperation. Article 5 studies randomized matrix games in finite populations and gives conditions for selection to favor the evolution of cooperation in the context of a randomized Prisoner's dilemma. Part 2 considers a repeated Prisoner's dilemma game with an opting-out behavior adopted by every player in pairwise interactions. Article 6 studies the evolutionary dynamics of cooperation and defection in this context and shows possible long-term coexistence, assuming an infinite population and fast (actually, instantaneous) equilibrium in the pair frequencies. Article 7 reports experimental results with 264 university students using the opting-out strategy that support the theoretical prediction of a long-term coexistence of cooperation and defection. Article 8 extends the analysis of the model with the opting-out strategy to the case of a finite population and provides a rigorous proof of the two-time scales for the frequencies of cooperation and defection on one hand and the frequencies of strategy pairs on the other.