Cette thèse est composée de deux parties indépendantes : la première partie traite des équations différentielles stochastiques dans le cadre de la G-espérance, tandis que la deuxième partie présente les résultats obtenus pour les équations différentielles stochastiques du seconde ordre. Dans un premier temps, on considère les intégrales stochastiques par rapport à un processus croissant, et on donne une extension de la formule d'Itô dans le cadre de la G-espérance. Ensuite, on étudie une classe d'équations différentielles stochastiques réfléchies unidimensionnelles dirigées par un G-mouvement brownien. Dans la suite, en utilisant une méthode de localisation, on prouve l'existence et l'unicité de solutions pour les équations différentielles stochastiques dirigées par un G-mouvement brownien, dont les coefficients sont localement lipschitziens. Enfin, dans le même cadre, on discute des problèmes de réflexion multidimensionnelle et on fournit quelques résultats de convergence. Dans un deuxième temps, on étudie une classe d'équations différentielles stochastiques rétrogrades du seconde ordre à croissance quadratique. Le but de ce travail est de généraliser le résultat obtenu par Possamaï et Zhou en 2012. On montre aussi l'existence et l'unicité des solutions pour ces équations, mais sous des hypothèses plus faibles. De plus, ce résultat théorique est appliqué aux problèmes de maximisation robuste de l'utilité du portefeuille en finance.

Cette thèse s'intéresse à une étude variée des EDSRs. Une grande partie des résultats sont obtenus sous l'hypothèse d'une croissance de type quadratique du générateur en sa dernière variable. Un premier lien entre EDSRs quadratiques unidimensionnelles et théorie des jeux nous amène à développer des résultats avec générateurs convexes. La théorie du contrôle optimal nécessite quant à elle de traiter du cas multidimensionnel, dans lequel existence et unicité globales ne sont obtenues que pour des générateurs diagonalement quadratiques. Les résultats majeurs sur les EDSRs réfléchies (dont la solution est contrainte à rester dans un domaine) concernent des générateurs Lipschitziens. C'est dans ce cadre que nous développons un résultat de propagation du chaos, avec une contrainte portant sur la loi de la solution plutôt que sur sa trajectoire. Nous dressons enfin un pont entre EDSRs quadratiques et EDSRs réfléchies grâce aux EDSRs quadratiques de type champ moyen. Nous donnons plusieurs nouveaux résultats sur la possibilité de résoudre une équation quadratique dont le générateur dépend également de la moyenne des deux variables. / In this thesis, we are interested in studying variously Backward Stochastic Differential Equations. A large proportion of the results are obtained under the assumption that the driver is of quadratic growth in its last variable. A first link between one-dimensional quadratic BSDEs and game theory leads us to develop results with convex drivers. Optimal control theory requires as for it to deal with the multidimensional case, in which global existence and uniqueness are obtained only for diagonaly quadratic drivers. Major achievements in reflected BSDEs (whose solution is constrained to remain in a domain) are reached for Lipschitz drivers. We develop a result of chaos propagation in this setting, with a constraint on the law of the solution rather than on its path. We finaly build bridge between quadratic BSDEs and reflected BSDEs thanks to mean field quadratic BSDEs. We give several new results on solvability of a quadratic BSDE whose driver depends also on the mean of both variables.

Cette thèse est composée de deux parties indépendantes : la première partie traite des équations différentielles stochastiques dans le cadre de la G-espérance, tandis que la deuxième partie présente les résultats obtenus pour les équations différentielles stochastiques du seconde ordre. Dans un premier temps, on considère les intégrales stochastiques par rapport à un processus croissant, et on donne une extension de la formule d'Itô dans le cadre de la G-espérance. Ensuite, on étudie une classe d'équations différentielles stochastiques réfléchies unidimensionnelles dirigées par un G-mouvement brownien. Dans la suite, en utilisant une méthode de localisation, on prouve l'existence et l'unicité de solutions pour les équations différentielles stochastiques dirigées par un G-mouvement brownien, dont les coefficients sont localement lipschitziens. Enfin, dans le même cadre, on discute des problèmes de réflexion multidimensionnelle et on fournit quelques résultats de convergence. Dans un deuxième temps, on étudie une classe d'équations différentielles stochastiques rétrogrades du seconde ordre à croissance quadratique. Le but de ce travail est de généraliser le résultat obtenu par Possamaï et Zhou en 2012. On montre aussi l'existence et l'unicité des solutions pour ces équations, mais sous des hypothèses plus faibles. De plus, ce résultat théorique est appliqué aux problèmes de maximisation robuste de l'utilité du portefeuille en finance. / This thesis consists of two relatively independent parts : the first part concerns stochastic differential equations in the framework of the G-expectation, while the second part deals with a class of second order backward stochastic differential equations. In the first part, we first consider stochastic integrals with respect to an increasing process and give an extension of Itô's formula in the G-framework. Then, we study a class of scalar valued reflected stochastic differential equations driven by G-Brownian motion. Subsequently, we prove the existence and the uniqueness of solutions for some locally Lipschitz stochastic differential equations driven by G-Brownian motion. At the end of this part, we consider multidimensional reflected problems in the G-framework, and some convergence results are obtained. In the second part, we study the wellposedness of a class of second order backward stochastic differential equations (2BSDEs) under a quadratic growth condition on their coefficients. The aim of this part is to generalize a wellposedness result for quadratic 2BSDEs by Possamaï and Zhou in 2012. In this thesis, we work under some usual assumptions and deduce the existence and uniqueness theorem as well. Moreover, this theoretical result for quadratic 2BSDEs is applied to solve some robust utility maximization problems in finance.