Cette thèse porte sur les processus croissants pour l'ordre convexe que nous désignons sous le nom de peacocks. Un résultat remarquable dû à Kellerer stipule qu'un processus stochastique à valeurs réelles est un peacock si et seulement s'il possède les mêmes marginales unidimensionnelles qu'une martingale. Une telle martingale est dite associée à ce processus. Mais dans son article, Kellerer ne donne ni d'exemple de peacock, ni d'idée précise sur la construction d'une martingale associée pour un peacock donné. Ainsi, comme d'autres travaux sur les peacocks, notre étude vise deux objectifs. Il s'agit d'exhiber de nouvelles familles de peacocks et de construire des martingales associées pour certains peacocks. Dans les trois premiers chapitres, nous exhibons diverses classes de peacocks en utilisant successivement les notions de monotonie conditionnelle, de peacock très fort et de positivité totale d'ordre 2. En particulier, nous fournissons plusieurs extensions du résultat de Carr-Ewald-Xiao selon lequel la moyenne arithmétique du mouvement brownien géométrique, encore appelée "option asiatique" est un peacock. L'objet du dernier chapitre est de construire des martingales associées pour une classe de peacocks. Pour cela, nous utilisons les plongements d'Azéma-Yor et de Bertoin-Le Jan. L'originalité de ce chapitre est l'utilisation de la positivité totale d'ordre 2 dans l'étude du plongement d'Azéma-Yor / This thesis deals with real valued stochastic processes which increase in the convex order. We call them peacocks. A remarkable result due to Kellerer states that a real valued process is a peacock if and only if it has the same one-dimensional marginals as a martingale. Such a martingale is said to be associated to this process. But in his article, Kellerer provides neither an example of peacock nor a concrete idea to construct an associated martingale to a given peacock. Hence, as other investigations on peacocks, our study has two purposes. We first exhibit new families of peacocks and then, we contruct associated martingales to certain of them. In the first three chapters, we exhibit several classes of peacocks using successively the notions of conditional monotonicity, very strong peacock and total positivity of order 2. In particular, we provide many extensions of Carr-Ewald-Xiao result which states that the arithmetic mean of geometric Brownian motion, also called "Asian option" is a peacock. The purpose of the last chapter is to construct associated martingales to certain peacocks. To this end, we use Azéma-Yor and Bertoin-Le Jan embedding algorithms. The originality of this chapter is the use of total positivity of order 2 in the study of Azéma-Yor embedding algorithm

Ce travail étudie des modèles financiers pour les prix d'options, les taux d'intérêts et le risque de crédit, avec des processus stochastiques à mémoire et comportant des discontinuités. Ces modèles sont formulés en termes du mouvement Brownien fractionnaire, du processus de Lévy fractionnaire ou filtré (et doublement stochastique) et de leurs approximations par des semimartingales. Leur calcul stochastique est traité au sens de Malliavin, et des formules d'Itô sont déduites. Nous caractérisons les probabilités risque neutre en termes de ces processus pour des modèles d'évaluation d'options de type de Black-Scholes avec sauts. Nous étudions également des modèles de taux d'intérêts, en particulier les modèles de Vasicek, de Cox-Ingersoll-Ross et de Heath-Jarrow-Morton. Finalement nous étudions la modélisation du risque de crédit / This work investigates financial models for option pricing, interest rates and credit risk with stochastic processes that have memory and discontinuities. These models are formulated in terms of the fractional Brownian motion, the fractional or filtered Lévy process (also doubly stochastic) and their approximations by semimartingales. Their stochastic calculus is treated in the sense of Malliavin and Itô formulas are derived. We characterize the risk-neutral probability measures in terms of these processes for options pricing models of Black-Scholes type with jumps. We also study models of interest rates, in particular the models of Vasicek, Cox-Ingersoll-Ross and Heath-Jarrow-Morton. Finally we study credit risk models

Ces travaux de thèse présentent une étude expérimentale des fluctuations d'une particule Brownienne soumise à deux différentes conditions hors-équilibre dans un fluide . Le but est de comprendre d'une manière générale la relation entre les fluctuations spontanées, la fonction de réponse linéaire et la production totale d'entropie des processus loin de l'équilibre thermique. La première partie est consacrée à l'étude du mouvement d'une particule colloïdale dans un état stationnaire périodique hors-équilibre induit par une force non-conservative et à sa réponse à une perturbation externe. Nous analysons la dynamique du système dans le contexte des différentes approches généralisées de fluctuation-dissipation. Nous montrons que ces relations théoriques sont satisfaites par les données expérimentales quand on prend en compte le rôle du courant du à la rupture du bilan détaillé. Dans une deuxième partie nous étudions les fluctuations et la réponse d'une particule Brownienne dans deux types de bains vieillissants qui relaxent vers l'équilibre thermique: un verre colloïdal de Laponite et une solution aqueuse de gélatine. Dans ce cas-là nous montrons que le flux de chaleur de la particule vers le bain pendant sa relaxation représente une correction hors-équilibre du théorème de fluctuation-dissipation. Donc, le flux de chaleur joue le même rôle que le courant dans un état stationnaire. En conséquence, les résultats de la thèse mettent en évidence l'importance générale de la production totale d'entropie pour quantifier les relations de fluctuation-dissipation généralisées dans les systèmes hors-équilibre. / This thesis describes an experimental study on fluctuations of a Brownian particle immersed in a fluid, confined by optical tweezers and subject to two different kinds of non-equilibrium conditions. We aim to gain a rather general understanding of the relation between spontaneous fluctuations, linear response and total entropy production for processes away from thermal equilibrium. The first part addresses the motion of a colloidal particle driven into a periodic non-equilibrium steady state by a nonconservative force and its response to an external perturbation. The dynamics of the system is analyzed in the context of several generalized fluctuation-dissipation relations derived from different theoretical approaches. We show that, when taking into account the role of currents due to the broken detailed balance, the theoretical relations are verified by the experimental data. The second part deals with fluctuations and response of a Brownian particle in two different aging baths relaxing towards thermal equilibrium: a Laponite colloidal glass and an aqueous gelatin solution. The experimental results show that heat fluxes from the particle to the bath during the relaxation process play the same role of steady state currents as a non-equilibrium correction of the fluctuation-dissipation theorem. Then, the present thesis provides evidence that the total entropy production constitutes a unifying concept which links the statistical properties of fluctuations and the linear response function for non-equilibrium systems either in stationary or non stationary states.

Dans cette thèse, nous développons une nouvelle méthode de détection de ruptures "Off-line", appelée Dérivée Filtrée avec p-value, sur des paramètres d'une suite de variables aléatoires indépendantes, puis sur le paramètre de Hurst d'un mouvement Brownien multifractionnaire. Cette thèse est composée de trois articles. Dans un premier article paru dans Sequential Analysis nous posons les bases de la méthode Dérivée Filtrée avec p-value (FDpV) en l'appliquant à une suite de variables aléatoires indépendantes. La méthode a une complexité linéaire en temps et en mémoire. Elle est constituée de deux étapes. La première étape utilisant la méthode Dérivée Filtrée détecte les bons instants de ruptures, mais également certaines fausses alarmes. La deuxième étape attribue une p-value à chaque instant de rupture potentiel détecté à la première étape, et élimine les instants dont la p-value est inférieure à un certain seuil critique. Nous démontrons les propriétés asymptotiques nécessaires à la calibration de la méthode. L'efficacité de la méthode a été prouvé tant sur des données simulées que sur des données réelles. Ensuite, nous nous sommes attaqués à l'application de la méthode pour la détection de ruptures sur le paramètre de Hurst d'un mouvement Brownien multifractionnaire. Cela s'est fait en deux phases. La première phase a fait l'objet d'un article à paraitre dans ESAIM P&S où nous avons établi un Théorème Central Limite pour l'estimateur du paramètre de Hurst appelé Increment Ratio Statistic (IRS). Puis, nous avons proposé une version localisée de l'IRS et démontré un TCL local pour estimer la fonction de Hurst d'un mouvement Brownien multifractionnaire. Les preuves sont intuitives et se distinguent par leur simplicité. Elles s'appuient sur le théorème de Breuer-Major et une stratégie originale appelée "freezing of time". La deuxième phase repose sur un nouvel article soumis pour publication. Nous adaptons la méthode FDpV pour détecter des ruptures sur l'indice de Hurst d'un mouvement Brownien fractionnaire constant par morceaux. La statistique sous-jacent de l'algorithme FDpV est un nouvel estimateur de l'indice de Hurst, appelé Increment Zero-Crossing Statistic (IZCS) qui est une variante de l'IRS. La combinaison des méthodes FDpV + IZCS constitue une procédure efficace et rapide avec une complexité linéaire en temps et en mémoire. / This Ph.D dissertation deals with "Off-line" detection of change points on parameters of time series of independent random variables, and in the Hurst parameter of multifrcational Brownian motion. It consists of three articles. In the first paper, published in Sequential Analysis, we set the cornerstones of the Filtered Derivative with p-Value method for the detection of change point on parameters of independent random variables. This method has linear time and memory complexities, with respect to the size of the series. It consists of two steps. The first step is based on Filtered Derivative method which detects the right change points as well as the false ones. We improve the Filtered Derivative method by adding a second step in which we compute the p-values associated to every single potential change point. Then we eliminate false alarms, i.e. the change points which have p-value smaller than a given critical level. We showed asymptotic properties needed for the calibration of the algorithm. The effectiveness of the method has been proved both on simulated data and on real data. Then we moved to the application of the method for the detection of change point on the Hurst parameter of multifractional Brownian motion. This was done in two phases. In the first phase, a paper is to be published in ESAIM P&S where we investigated the Central Limit Theorem of the Increment Ratio Statistic of a multifractional Brownian motion, leading to a CLT for the time varying Hurst index. The proofs are quite simple relying on Breuer-Major theorems and an original freezing of time strategy.The second phase relies on a new paper submitted for publication. We adapted the FDpV method to detect change points on the Hurst parameter of piecewise fractional Brownian motion. The underlying statistics of the FDpV technology is a new statistic estimator for Hurst index, so-called Increment Zero-Crossing Statistic (IZCS) which is a variation of IRS. Both FDpV and IZCS are methods with linear time and memory complexities, with respect to the size of the series.

Depuis une dizaine d'années, la transformée en ondelettes a été reconnue comme un outil privilégié d'analyse des objets fractals, en permettant de définir un formalisme multifractal généralisé des mesures aux fonctions. Dans une première partie, nous utilisons la méthode MMTO (Maxima du Module de la Transformée en Ondelettes) 2D, outil d'analyse multifractale en traitement d'images pour étudier des mammographies. On démontre les potentialités de la méthode pour le problème de la segmentation de texture rugueuse et la caractérisation géométrique d'amas de microcalcifications, signes précoces d'apparition du cancer du sein. Dans une deuxième partie méthodologique, nous généralisons la méthode MMTO pour l'analyse multifractale de données 3D scalaires et vectorielles, en détaillant la mise en oeuvre numérique et un introduisant la transformée en ondelettes tensorielle. On démontre en particulier que l'utilisation d'une technique de filtres récursifs permet un gain de 25 a 60 \% en temps de calcul suivant l'ondelette analysatrice choisie par rapport à un filtrage par FFT. La méthode MMTO 3D est appliquée sur des simulations numériques directes (SND) des équations de Navier-Stokes en régime turbulent. On montre que les champs 3D de dissipation et d'enstrophie pour des nombres de Reynolds modérés sont bien modélisés par des processus multiplicatifs de cascades non-conservatifs comme en témoigne la mesure de l'exposant d'extinction $\kappa$ qui diffère significativement de zéro. On observe en outre que celui-ci diminue lorsqu'on augmente le nombre de Reynolds. Enfin, on présente les premiers résultats d'une analyse multifractale pleinement vectorielle des champs de vitesse et de vorticité des mêmes simulations numériques en montrant que la valeur du paramètre d'intermittence $C_2$, mesuré par la méthode MMTO 3D tensorielle, est significativement plus grande que celle obtenue en étudiant les incréments de vitesse longitudinaux 1D.

Pour ma thèse, j'ai étudié trois problèmes autour des propriétés de transport des suspensions actives. J'ai utilisé principalement des suspensions de bactéries Escherichia Coli mais aussi des systèmes de nageurs artificiels auto-propulsés. En premier lieu, j'ai étudié l'activation du mouvement Brownien de particules passives dans une suspension de bactéries, près d'une surface. En utilisant diverses solutions et diverses conditions expérimentales permettant de changer les conditions de nage des bactéries et le confinement, j'ai montré que la diffusivité des traceurs passifs augmente linéairement avec ce que j'ai défini comme le flux actif de la suspension; c'est à dire la concentration de nageurs actifs multipliée par leur vitesse moyenne de nage. De manière générale, le confinement entre deux parois ou par rapprochement d'une paroi, montre un meilleur transfert de la quantité de mouvement qui a pour conséquence une augmentation du facteur de couplage entre diffusivité et fluide actif. Le remplacement des bactéries par des nageurs artificiels comme des bâtonnets bi-métalliques en condition réductrice produit des résultats identiques. Deuxièmement, j'ai étudié la modification de la viscosité d'un fluide produite par la présence d'entités autopropulsées. Il a été montré théoriquement que la présence de nageurs du type "pousseurs" comme les bactéries, réduit la viscosité de la suspension à une valeur inférieure de celle du fluide porteur. Le manque de résultats expérimentaux qui mettent en évidence cet effet au sein d'une suspension (cela été montré pour des films liquides minces), nous a poussé à fabriquer un rhéomètre microfluidique en forme d'Y permettant d'étudier la réponse rhéologique d'une suspension d'E. Coli. Des résultats préliminaires révèlent un comportement non Newtonien de la suspension active avec une baisse de viscosité du liquide aux faibles taux de cisaillement et aux faibles fractions volumiques. Troisièmement, j'ai proposé d'étudier les effets de dispersion et de transport de solutions E. Coli dans un micro-canal rectangulaire possédant une constriction en son centre. Dans un tel milieu confiné, les interactions avec les parois ainsi que la géométrie du canal jouent un rôle essentiel sur les propriétés de transport. Mes résultats, de façon inattendue, montrent que l'écoulement dans un canal produit une re-concentration en bactéries après la constriction et que cet effet est contrôlé par l'écoulement même.

Le mouvement Brownien réfléchi de manière oblique dans le quadrant, introduit par Harrison, Reiman, Varadhan et Williams dans les années 80, est un objet largement analysé dans la littérature probabiliste. Cette thèse, qui présente l’étude complète de la mesure invariante de ce processus dans tous les cônes du plan, a pour objectif plus global d’étendre au cadre continu une méthode analytique développée initialement pour les marches aléatoires dans le quart de plan par Fayolle, Iasnogorodski et Malyshev dans les années 70. Cette approche est basée sur des équations fonctionnelles, reliant des fonctions génératrices dans le cas discret et des transformées de Laplace dans le cas continu. Ces équations permettent de déterminer et de résoudre des problèmes frontière satisfaits par ces fonctions génératrices. Dans le cas récurrent, cela permet de calculer explicitement la mesure invariante du processus avec rebonds orthogonaux, dans le chapitre 2, et avec rebonds quelconques, dans le chapitre 3. Les transformées de Laplace des mesures invariantes sont prolongées analytiquement sur une surface de Riemann induite par le noyau de l’équation fonctionnelle. L’étude des singularités et l’application de méthodes du point col sur cette surface permettent de déterminer l’asymptotique complète de la mesure invariante selon toutes les directions dans le chapitre 4. / Obliquely reflected Brownian motion in the quadrant, introduced by Harrison, Reiman, Varadhan and Williams in the eighties, has been studied a lot in the probabilistic literature. This thesis, which presents the complete study of the invariant measure of this process in all the cones of the plan, has for overall aim to extend to the continuous framework an analytic method initially developped for random walks in the quarter plane by Fayolle, Iasnogorodski and Malyshev in the seventies. This approach is based on functional equations which link generating functions in the discrete case and Laplace transform in the continuous case. These equations allow to determine and to solve boundary value problems satisfied by these generating functions. In the recurrent case, it permits to compute explicitly the invariant measure of the process with orthogonal reflexions, in the chapter 2, and with any reflexions, in the chapter 3. The Laplace transform of the invariant measure is analytically extended to a Riemann surface induced by the kernel of the functional equation. The study of singularities and the use of saddle point methods on this surface allows to determine the full asymptotics of the invariant measure along every directions in the chapter 4.

Les travaux de ma thèse s'articulent en trois parties distinctes.Dans la première partie j'étudie les mesures de Malliavin-Shavguldize sur les difféomorphismes du cercle et de l'intervalle. Il s'agit de mesures de type « Haar » pour ces groupes de dimension infinie : elles furent introduites il a une vingtaine d'années pour permettre une étude de leur théorie des représentations. Un premier chapitre est dédié à recueillir les résultats présents dans la littérature et et les représenter dans une forme plus étendue, avec un regard particulier sur les propriétés de quasi-invariance de ces mesures. Ensuite j'étudie de problèmes de nature plus dynamique : quelle est la dynamique qu'on doit s'attendre d'un difféomorphisme choisi uniformément par rapport à une mesure de Malliavin-Shavguldize ? Je démontre en particulier qu'il y a une forte présence des difféomorphismes de type Morse-Smale.La partie suivante vient de mon premier travail publié, obtenu en collaboration avec Andrés Navas. Inspirés d'un théorème récent de Avila et Kocsard sur l'unicité des distributions invariantes par un difféomorphisme lisse minimal du cercle, nous analysons le même problème en régularité faible, avec des argument plus géométriques.La dernière partie est constituée des résultats récemment obtenus avec Mikhail Khristoforov et Victor Kleptsyn. Nous abordons les problèmes reliés à la gravité quantique de Liouville en étudiant des espaces auto-similaires qui sont la limite de graphes finis. Nous démontrons qu'il est possible de trouver des distances aléatoires non-triviales sur ces espaces qui sont compatibles avec la structure auto-similaire. / This thesis is divided into three different parts.In the first part, we study the Malliavin-Shavgulidze measure on circle and interval diffeomorphisms. They are Haar-like measures for these infinite-dimensional groups: they were introduced about twenty years ago to help to study their represantation theory. The first chapter collects the results that were obtained in the past years and in some cases we present them under a renewed point of view, with particular attention on quasi-invariance properties for this measures. Then we study some questions of dynamical nature: which is the typical dynamics that we must expect described by a diffeomorphism chosen randomly according to some Malliavin-Shavguldize measure? In particular, we prove that there is a strong presence of Morse-Smale diffeomorphisms.The third chapter comes from the published joint work with Andrés Navas. Inspired by a recent theorem by Avila and Kocsard about the uniqueness of the invariant distribution for a minimal smooth circle diffeomorphism, we analyse the same problem in low regularity, with more geometric arguments.The last part corresponds to the recent results obtained with Mikhail Khristoforov and Victor Kleptsyn. We consider problems in relation with Liouville quantum gravity, by studying self-similar metric spaces which are the limit of finite graphs. We prove that it is possible to find nontrivial random distances on these spaces which are compatible with the self-similar structure.

Nous avons étudié expérimentalement les fluctuations de micro-particules browniennes piégées à l'aide de pinces optiques dans un réseau de puits de potentiels voisins. Nous donnons un descriptif général du montage expérimental, puis détaillons quatre utilisations différentes du système. Nous avons d'abord utilisé une unique particule dans un double puits de potentiel pour modéliser un système mémoire à deux niveaux, avec lequel nous avons vérifié le principe de Landauer sur le coût minimal en énergie pour l'effacement d'un bit d'information. Nous avons également appliqué une version détaillée d'un théorème de fluctuation à la procédure d'effacement de l'information pour retrouver la limite énergétique attendue. Nous avons ensuite étudié l'interaction hydrodynamique entre deux particules dont l'une est soumise à une température effective. Nous avons montré qu'il n'y a pas de fluctuations anormales lors de la transition sol-gel de la gélatine, contrairement à ce qui avait été observé précédemment, et que ce système ne pouvait donc pas être utilisé pour étudier des températures effectives. En revanche, nous avons montré que l'ajout d'un forçage aléatoire bien choisi sur la position d'un piège créait une température effective. Nous avons montré que le forçage d'une des particules résultait en une corrélation instantanée entre les mouvements des deux particules, et s'accompagnait d'un échange de chaleur de la particule virtuellement chaude à la particule froide en équilibre avec le bain thermique. Nous avons obtenu un bon accord entre les données expérimentales et les prédictions d'un modèle de couplage hydrodynamique. Enfin, nous décrivons l'utilisation de canaux micro-fluidiques pour réaliser un écoulement cisaillé à l'échelle micrométrique, et nous discutons de la possibilité d'interpréter un cisaillement en terme de température effective en testant une relation de fluctuation-dissipation. / We experimentally study the fluctuations of Brownian micro-particles trapped with optical tweezers arranged in various spatial configurations. We give a general description of the set-up and detail four different experiments we conducted. We first use a single particle in a double-well potential to model a two-state memory system. We verify the Landauer principle on the minimal energetic cost to erase one bit of information, and we use a detailed version of a fluctuation theorem to retrieve the expected energetic bound. We then use two particles in two different traps to study the hydrodynamic interactions between two systems kept at different effective temperatures. Contrary to what was previously observed, we show that the sol-gel transition of gelatine does not provide any anomalous fluctuations for the trapped particle when the sample is quenched below gelification temperature. However, we show that an effective temperature is created when a well chosen random noise is added on one trap position. We demonstrate that the random forcing on one particle induces an instantaneous correlation between the two particles motions, and an energy exchange from the virtually hot particle to the cold one, which is in equilibrium with the thermal bath. We show a good agreement between the experimental data and the predictions from an hydrodynamic coupling model. Finally, we describe the use of micro-fluidic channels to create a shear flow at the micron size, and we discuss the possibility to interpret the force due to the shear-flow in terms of an effective temperature by testing a fluctuation-dissipation relation.

Depuis la publication de l'ouvrage de Choquet (1955), la théorie d'espérance non linéaire a attiré avec grand intérêt des chercheurs pour ses applications potentielles dans les problèmes d'incertitude, les mesures de risque et le super-hedging en finance. Shige Peng a construit une sorte d'espérance entièrement non linéaire dynamiquement cohérente par l'approche des EDP. Un cas important d'espérance non linéaire cohérente en temps est la G-espérance, dans laquelle le processus canonique correspondant (B_{t})_{t≥0} est appelé G-mouvement brownien et joue un rôle analogue au processus de Wiener classique. L'objectif de cette thèse est d'étudier, dans le cadre de la G-espérance, certaines équations différentielles stochastiques rétrogrades (G-EDSR) à croissance quadratique avec applications aux problèmes de maximisation d'utilité robuste avec incertitude sur les modèles, certaines équations différentielles stochastiques (G-EDS) réfléchies et équations différentielles stochastiques rétrogrades réfléchies avec générateurs lipschitziens. On considère d'abord des G-EDSRs à croissance quadratique. Dans le Chapitre 2 nous fournissons un resultat d'existence et unicité pour des G-EDSRs à croissance quadratique. D'une part, nous établissons des estimations a priori en appliquant le théorème de type Girsanov, d'où l'on en déduit l'unicité. D'autre part, pour prouver l'existence de solutions, nous avons d'abord construit des solutions pour des G-EDSRs discretes en résolvant des EDPs non-linéaires correspondantes, puis des solutions pour les G-EDSRs quadratiques générales dans les espaces de Banach. Dans le Chapitre 3 nous appliquons les G-EDSRs quadratiques aux problèmes de maximisation d'utilité robuste. Nous donnons une caratérisation de la fonction valeur et une stratégie optimale pour les fonctions d'utilité exponentielle, puissance et logarithmique. Dans le Chapitre 4, nous traitons des G-EDSs réfléchies multidimensionnelles. Nous examinons d'abord la méthode de pénalisation pour résoudre des problèmes de Skorokhod déterministes dans des domaines non convexes et établissons des estimations pour des fonctions α-Hölder continues. A l'aide de ces résultats obtenus pour des problèmes déterministes, nous définissons le G-mouvement Brownien réfléchi et prouvons son existence et son unicité dans un espace de Banach. Ensuite, nous prouvons l'existence et l'unicité de solution pour les G-EDSRs multidimensionnelles réfléchies via un argument de point fixe. Dans le Chapitre 5, nous étudions l'existence et l'unicité pour les équations différentielles stochastiques rétrogrades réfléchies dirigées par un G-mouvement brownien lorsque la barrière S est un processus de G-Itô. / Since the publication of Choquet's (1955) book, the theory of nonlinear expectation has attracted great interest from researchers for its potential applications in uncertainty problems, risk measures and super-hedging in finance. Shige Peng has constructed a kind of fully nonlinear expectation dynamically coherent by the PDE approach. An important case of time-consistent nonlinear expectation is G-expectation, in which the corresponding canonical process (B_{t})_{t≥0} is called G-Brownian motion and plays a similar role to the classical Wiener process. The objective of this thesis is to study, in the framework of the G-expectation, some backward stochastic differential equations (G-BSDE) under a quadratic growth condition on their coefficients with applications to robust utility maximization problems with uncertainty on models, Reflected stochastic differential equations (reflected G-SDE) and reflected backward stochastic differential equations with Lipschitz coefficients (reflected G-BSDE). We first consider G-BSDE with quadratic growth. In Chapter 2 we provide a result of existence and uniqueness for quadratic G-BSDEs. On the one hand, we establish a priori estimates by applying the Girsanov-type theorem, from which we deduce the uniqueness. On the other hand, to prove the existence of solutions, we first constructed solutions for discrete G-BSDEs by solving corresponding nonlinear PDEs, then solutions for the general quadratic G-BSDEs in the spaces of Banach. In Chapter 3 we apply quadratic G-BSDE to robust utility maximization problems. We give a characterization of the value function and an optimal strategy for exponential, power and logarithmic utility functions. In Chapter 4, we discuss multidimensional reflected G-SDE. We first examine the penalization method to solve deterministic Skorokhod problems in non-convex domains and establish estimates for continuous α-Hölder functions. Using these results for deterministic problems, we define the reflected G-Brownian motion and prove its existence and its uniqueness in a Banach space. Then we prove the existence and uniqueness of the solution for the multidimensional reflected G-SDE via a fixed point argument. In Chapter 5, we study the existence and uniqueness of the reflected backward stochastic differential equations driven by a G-Brownian motion when the obstacle S is a G-Itô process.