The aim of this PhD Thesis was to build and develop a stochastic calculus (in particular a stochastic integral) with respect to multifractional Brownian motion (mBm). Since the choice of the theory and the tools to use was not fixed a priori, we chose the White Noise theory which generalizes, in the case of fractional Brownian motion (fBm) , the Malliavin calculus. The first chapter of this thesis presents several notions we will use in the sequel.In the second chapter we present a construction as well as the main properties of stochastic integral with respect to harmonizable mBm.We also give Ito formulas and a Tanaka formula with respect to this mBm. In the third chapter we give a new definition, simplier and generalier of multifractional Brownian motion. We then show that mBm appears naturally as a limit of a sequence of fractional Brownian motions of different Hurst index.We then use this idea to build an integral with respect to mBm as a limit of sum of integrals with respect ot fBm. This being done we particularize this definition to the case of Malliavin calculus and White Noise theory. In this last case we compare the integral hence defined to the one we got in chapter 2. The fourth and last chapter propose a multifractional stochastic volatility model where the process of volatility is driven by a mBm. The interest lies in the fact that we can hence take into account, in the same time, the long range dependence of increments of volatility process and the fact that regularity vary along the time.Using the functional quantization theory in order to, among other things, approximate the solution of stochastic differential equations, we can compute the price of forward start options and then get and plot the implied volatility nappe that we graphically represent.

Le premier chapitre de cette thèse introduit les différentes notions que nous utiliserons et présente les travaux qui constituent ce mémoire.Dans le deuxième chapitre de cette thèse nous donnons une construction ainsi que les principales propriétés de l'intégrale stochastique par rapport au mBm harmonisable. Y sont également établies des formules d'Itô et une formule de Tanaka pour l'intégrale stochastique par rapport à ce mBm..Dans le troisième chapitre nous donnons une nouvelle définition, à la fois plus simple et plus générale, du mouvement brownien multifractionnaire. Nous montrons ensuite que le mBm apparaît naturellement comme limite de suite de somme de mouvement brownien fractionnaire (fBm) d’indices de Hurst différents.Nous appliquons alors cette idée pour tenter de construire une intégrale stochastique par rapport au mouvement brownien multifractionnaire à partir d’intégrales par rapport au fBm. Cela fait nous appliquons cette définition d’intégrale par rapport au mBm pour une méthode d’intégration donnée aux deux méthodes que sont le calcul de Malliavin et la théorie du bruit blanc.Dans ce dernier cas nous comparons alors l’intégrale ainsi construite à celle obtenue au chapitre 2. Le quatrième et dernier chapitre est une application du calcul stochastique développé dans les chapitres précédents. Nous y proposons un modèle à volatilité multifractionnaire où le processus de volatilité est dirigée par un mBm. L’intérêt résidant dans le fait que l’on peut ainsi prendre en compte à la fois la dépendance à long terme des accroissements de la volatilité mais aussi le fait que la trajectoire de ces accroissements varie au cours du temps.Utilisant alors la théorie de la quantification fonctionnelle pour, entre autres, approximer la solution de certaines des équations différentielles stochastiques, nous parvenons à calculer le prix d’option à départ forward et implicitons ainsi une nappe de volatilité que l’on représente graphiquement pour différentes maturités. / The aim of this PhD Thesis was to build and develop a stochastic calculus (in particular a stochastic integral) with respect to multifractional Brownian motion (mBm). Since the choice of the theory and the tools to use was not fixed a priori, we chose the White Noise theory which generalizes, in the case of fractional Brownian motion (fBm) , the Malliavin calculus. The first chapter of this thesis presents several notions we will use in the sequel.In the second chapter we present a construction as well as the main properties of stochastic integral with respect to harmonizable mBm.We also give Ito formulas and a Tanaka formula with respect to this mBm. In the third chapter we give a new definition, simplier and generalier of multifractional Brownian motion. We then show that mBm appears naturally as a limit of a sequence of fractional Brownian motions of different Hurst index.We then use this idea to build an integral with respect to mBm as a limit of sum of integrals with respect ot fBm. This being done we particularize this definition to the case of Malliavin calculus and White Noise theory. In this last case we compare the integral hence defined to the one we got in chapter 2. The fourth and last chapter propose a multifractional stochastic volatility model where the process of volatility is driven by a mBm. The interest lies in the fact that we can hence take into account, in the same time, the long range dependence of increments of volatility process and the fact that regularity vary along the time.Using the functional quantization theory in order to, among other things, approximate the solution of stochastic differential equations, we can compute the price of forward start options and then get and plot the implied volatility nappe that we graphically represent.