Cette thèse se compose de trois parties indépendantes, toutes en rapport avec les lois et processus stables. Dans un premier temps, nous établissons des théorèmes de convergence (principe d'invariance) vers des processus stables. Les objets considérés sont des fonctionnelles additives de carrés non intégrables d'une chaîne de Markov à temps discret. L'approche envisagée repose sur l'utilisation des coefficients de mélange pour les chaînes de Markov. Dans un second temps, nous obtenons des vitesses de convergence vers des lois stables dans le théorème central limite généralisé à l'aide des propriétés de la distance idéale de Zolotarev. La dernière partie est consacrée à l'étude des ordres stochastiques convexes ou inégalités de comparaison convexe entre des intégrales stochastiques dirigées par des processus stables. L'idée principale sur laquelle reposent les résultats consiste à adapter au contexte stable le calcul stochastique forward-backward. / This PhD Thesis is composed of three independent parts about stable laws and processes. In the first part, we establish convergence theorems (invariance principle) to stable processes, for additive functionals of a discrete time Markov chain that are not assumed to be square-integrable. The method is based on the use of mixing coefficients for Markov chains. In the second part, we obtain some rates of convergence to stable laws in the generalized central limit theorem by means of the Zolotarev ideal probability metric. The last part of the thesis is devoted to the study of convex ordering or convex comparison inequalities between stochastic integrals driven by stable processes. The main idea of our results is based on the forward-backward stochastic calculus for the stable case.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Le premier chapitre de cette thèse introduit les différentes notions que nous utiliserons et présente les travaux qui constituent ce mémoire.Dans le deuxième chapitre de cette thèse nous donnons une construction ainsi que les principales propriétés de l'intégrale stochastique par rapport au mBm harmonisable. Y sont également établies des formules d'Itô et une formule de Tanaka pour l'intégrale stochastique par rapport à ce mBm..Dans le troisième chapitre nous donnons une nouvelle définition, à la fois plus simple et plus générale, du mouvement brownien multifractionnaire. Nous montrons ensuite que le mBm apparaît naturellement comme limite de suite de somme de mouvement brownien fractionnaire (fBm) d’indices de Hurst différents.Nous appliquons alors cette idée pour tenter de construire une intégrale stochastique par rapport au mouvement brownien multifractionnaire à partir d’intégrales par rapport au fBm. Cela fait nous appliquons cette définition d’intégrale par rapport au mBm pour une méthode d’intégration donnée aux deux méthodes que sont le calcul de Malliavin et la théorie du bruit blanc.Dans ce dernier cas nous comparons alors l’intégrale ainsi construite à celle obtenue au chapitre 2. Le quatrième et dernier chapitre est une application du calcul stochastique développé dans les chapitres précédents. Nous y proposons un modèle à volatilité multifractionnaire où le processus de volatilité est dirigée par un mBm. L’intérêt résidant dans le fait que l’on peut ainsi prendre en compte à la fois la dépendance à long terme des accroissements de la volatilité mais aussi le fait que la trajectoire de ces accroissements varie au cours du temps.Utilisant alors la théorie de la quantification fonctionnelle pour, entre autres, approximer la solution de certaines des équations différentielles stochastiques, nous parvenons à calculer le prix d’option à départ forward et implicitons ainsi une nappe de volatilité que l’on représente graphiquement pour différentes maturités. / The aim of this PhD Thesis was to build and develop a stochastic calculus (in particular a stochastic integral) with respect to multifractional Brownian motion (mBm). Since the choice of the theory and the tools to use was not fixed a priori, we chose the White Noise theory which generalizes, in the case of fractional Brownian motion (fBm) , the Malliavin calculus. The first chapter of this thesis presents several notions we will use in the sequel.In the second chapter we present a construction as well as the main properties of stochastic integral with respect to harmonizable mBm.We also give Ito formulas and a Tanaka formula with respect to this mBm. In the third chapter we give a new definition, simplier and generalier of multifractional Brownian motion. We then show that mBm appears naturally as a limit of a sequence of fractional Brownian motions of different Hurst index.We then use this idea to build an integral with respect to mBm as a limit of sum of integrals with respect ot fBm. This being done we particularize this definition to the case of Malliavin calculus and White Noise theory. In this last case we compare the integral hence defined to the one we got in chapter 2. The fourth and last chapter propose a multifractional stochastic volatility model where the process of volatility is driven by a mBm. The interest lies in the fact that we can hence take into account, in the same time, the long range dependence of increments of volatility process and the fact that regularity vary along the time.Using the functional quantization theory in order to, among other things, approximate the solution of stochastic differential equations, we can compute the price of forward start options and then get and plot the implied volatility nappe that we graphically represent.

Mon travail de thèse est composé de deux parties bien distinctes, la première partie est consacrée à l’analysestochastique en temps discret des marches aléatoires obtuses quant à la deuxième partie, elle est liée aux probabili-tés libres. Dans la première partie, on donne une construction des intégrales stochastiques itérées par rapport à unefamille de martingales normales d-dimentionelles. Celle-ci permet d’étudier la propriété de représentation chaotiqueen temps discret et mène à une construction des opérateurs gradient et divergence sur les chaos de Wiener correspon-dant. [...] d’une EDP non linéaire alors que la deuxième est de nature combinatoire.Dans un second temps, on a revisité la description de la mesure spectrale de la partie radiale du mouvement Browniensur Gl(d,C) quand d ! +¥. Biane a démontré que cette mesure est absolument continue par rapport à la mesurede Lebesgue et que son support est compact dans R+. Notre contribution consiste à redémontrer le résultat de Bianeen partant d’une représentation intégrale de la suite des moments sur une courbe de Jordon autour de l’origine etmoyennant des outils simples de l’analyse réelle et complexe. / My PhD work is composed of two parts, the first part is dedicated to the discrete-time stochastic analysis for obtuse random walks as to the second part, it is linked to free probability. In the first part, we present a construction of the stochastic integral of predictable square-integrable processes and the associated multiple stochastic integrals ofsymmetric functions on Nn (n_1), with respect to a normal martingale.[...] In a second step, we revisited thedescription of the marginal distribution of the Brownian motion on the large-size complex linear group. Precisely, let (Z(d)t )t_0 be a Brownian motion on GL(d,C) and consider nt the limit as d !¥ of the distribution of (Z(d)t/d)⋆Z(d)t/d with respect to E×tr.