The aim of this PhD Thesis was to build and develop a stochastic calculus (in particular a stochastic integral) with respect to multifractional Brownian motion (mBm). Since the choice of the theory and the tools to use was not fixed a priori, we chose the White Noise theory which generalizes, in the case of fractional Brownian motion (fBm) , the Malliavin calculus. The first chapter of this thesis presents several notions we will use in the sequel.In the second chapter we present a construction as well as the main properties of stochastic integral with respect to harmonizable mBm.We also give Ito formulas and a Tanaka formula with respect to this mBm. In the third chapter we give a new definition, simplier and generalier of multifractional Brownian motion. We then show that mBm appears naturally as a limit of a sequence of fractional Brownian motions of different Hurst index.We then use this idea to build an integral with respect to mBm as a limit of sum of integrals with respect ot fBm. This being done we particularize this definition to the case of Malliavin calculus and White Noise theory. In this last case we compare the integral hence defined to the one we got in chapter 2. The fourth and last chapter propose a multifractional stochastic volatility model where the process of volatility is driven by a mBm. The interest lies in the fact that we can hence take into account, in the same time, the long range dependence of increments of volatility process and the fact that regularity vary along the time.Using the functional quantization theory in order to, among other things, approximate the solution of stochastic differential equations, we can compute the price of forward start options and then get and plot the implied volatility nappe that we graphically represent.

Le premier chapitre de cette thèse introduit les différentes notions que nous utiliserons et présente les travaux qui constituent ce mémoire.Dans le deuxième chapitre de cette thèse nous donnons une construction ainsi que les principales propriétés de l'intégrale stochastique par rapport au mBm harmonisable. Y sont également établies des formules d'Itô et une formule de Tanaka pour l'intégrale stochastique par rapport à ce mBm..Dans le troisième chapitre nous donnons une nouvelle définition, à la fois plus simple et plus générale, du mouvement brownien multifractionnaire. Nous montrons ensuite que le mBm apparaît naturellement comme limite de suite de somme de mouvement brownien fractionnaire (fBm) d’indices de Hurst différents.Nous appliquons alors cette idée pour tenter de construire une intégrale stochastique par rapport au mouvement brownien multifractionnaire à partir d’intégrales par rapport au fBm. Cela fait nous appliquons cette définition d’intégrale par rapport au mBm pour une méthode d’intégration donnée aux deux méthodes que sont le calcul de Malliavin et la théorie du bruit blanc.Dans ce dernier cas nous comparons alors l’intégrale ainsi construite à celle obtenue au chapitre 2. Le quatrième et dernier chapitre est une application du calcul stochastique développé dans les chapitres précédents. Nous y proposons un modèle à volatilité multifractionnaire où le processus de volatilité est dirigée par un mBm. L’intérêt résidant dans le fait que l’on peut ainsi prendre en compte à la fois la dépendance à long terme des accroissements de la volatilité mais aussi le fait que la trajectoire de ces accroissements varie au cours du temps.Utilisant alors la théorie de la quantification fonctionnelle pour, entre autres, approximer la solution de certaines des équations différentielles stochastiques, nous parvenons à calculer le prix d’option à départ forward et implicitons ainsi une nappe de volatilité que l’on représente graphiquement pour différentes maturités. / The aim of this PhD Thesis was to build and develop a stochastic calculus (in particular a stochastic integral) with respect to multifractional Brownian motion (mBm). Since the choice of the theory and the tools to use was not fixed a priori, we chose the White Noise theory which generalizes, in the case of fractional Brownian motion (fBm) , the Malliavin calculus. The first chapter of this thesis presents several notions we will use in the sequel.In the second chapter we present a construction as well as the main properties of stochastic integral with respect to harmonizable mBm.We also give Ito formulas and a Tanaka formula with respect to this mBm. In the third chapter we give a new definition, simplier and generalier of multifractional Brownian motion. We then show that mBm appears naturally as a limit of a sequence of fractional Brownian motions of different Hurst index.We then use this idea to build an integral with respect to mBm as a limit of sum of integrals with respect ot fBm. This being done we particularize this definition to the case of Malliavin calculus and White Noise theory. In this last case we compare the integral hence defined to the one we got in chapter 2. The fourth and last chapter propose a multifractional stochastic volatility model where the process of volatility is driven by a mBm. The interest lies in the fact that we can hence take into account, in the same time, the long range dependence of increments of volatility process and the fact that regularity vary along the time.Using the functional quantization theory in order to, among other things, approximate the solution of stochastic differential equations, we can compute the price of forward start options and then get and plot the implied volatility nappe that we graphically represent.

Les travaux présentés dans cette thèse s'intéressent à la géométrie fractale de processus stochastiques à travers le prisme d'un outil appelé l'analyse 2-microlocale. Ce dernier est issu d'une autre branche des mathématiques, l'analyse fonctionnelle et l'étude des équations aux dérivées partielles, et s'est avéré être pertinent pour décrire la géométrie fine de fonctions déterministes ou de processus aléatoires, généralisant notamment les exposants de Hölder classiques. Nous envisageons ainsi dans ce manuscrit différentes classes de processus, traitant en premier lieu le cas des martingales continues et de l'intégrale stochastique d'Ito. La régularité 2-microlocale de ces derniers fait notamment apparaître un autre concept, la pseudo frontière 2-microlocale, étroitement lié à son aîné. Nous appliquons également ce formalisme d'étude à une classe de processus gaussiens : le mouvement brownien multifractionnaire. Nous caractérisons ainsi sa régularité 2-microlocale et hölderienne, et déterminons dans un deuxième temps la forme générale de la dimension fractale de ses trajectoires. Dans notre étude portant sur les processus de Lévy, nous combinons le formalisme 2-microlocale à l'analyse multifractale, permettant alors de mettre en évidence des comportements géométriques n'étant pas captés par les outils usuels. Nous obtenons également en corollaire le spectre multifractal des processus fractionnaires de Lévy. Enfin, dans une dernière partie, nous nous intéressons à la définition et aux propriétés de certains processus de Markov multiparamètres, pouvant être plus généralement indicés par des ensembles. / The work presented in this thesis concerns the study of the fractal geometry of stochastic processes using the formalism of 2-microlocal analysis. The latter has been introduced in another branch of mathematics -functional analysis- but has also proved to be relevant to describe the geometry of deterministic functions or random processes, extending in particular the classic Hölder exponents. Several classes of processes are investigated in this manuscript, beginning with continuous martingales and Ito integrals. In particular, the characterisation of the 2-microlocal regularity of the latter leads to the introduction of a closely related concept: the pseudo 2-microlocal frontier. We also investigate using this formalism a class of Gaussian processes called multifractional Brownian motion and obtain a fine description of its Hölder and 2-microlocal behaviours. In addition, we characterize entirely the Hausdorff and Box dimensions of its graph. In our study of Lévy processes, we combine the 2-microlocal formalism and multifractal analysis to describe their regularity, exhibiting in particular some subtle geometrical behaviours which are not captured by classic tools. Furthermore, as a corollary of this result, we also determine the multifractal spectrum of another family of processes: the fractional Lévy processes. Lastly, we also define a class of multiparameter and set-indexed Markov processes and study its properties.

Hurst exponent and variance are two quantities that often characterize real-life, highfrequency observations. We develop the method for simultaneous estimation of a timechanging Hurst exponent H(t) and constant scale (variance) parameter C in a multifractional Brownian motion model in the presence of white noise based on the asymptotic behavior of the local variation of its sample paths. We also discuss the accuracy of the stable and simultaneous estimator compared with a few selected methods and the stability of computations that use adapted wavelet filters. Multifractals have become popular as flexible models in modeling real-life data of high frequency. We developed a method of testing whether the data of high frequency is consistent with monofractality using meaningful descriptors coming from a wavelet-generated multifractal spectrum. We discuss theoretical properties of the descriptors, their computational implementation, the use in data mining, and the effectiveness in the context of simulations, an application in turbulence, and analysis of coding/noncoding regions in DNA sequences. The wavelet thresholding is a simple and effective operation in wavelet domains that selects the subset of wavelet coefficients from a noised signal. We propose the selection of this subset in a semi-supervised fashion, in which a neighbor structure and classification function appropriate for wavelet domains are utilized. The decision to include an unlabeled coefficient in the model depends not only on its magnitude but also on the labeled and unlabeled coefficients from its neighborhood. The theoretical properties of the method are discussed and its performance is demonstrated on simulated examples.

Dans cette thèse, nous développons une nouvelle méthode de détection de ruptures "Off-line", appelée Dérivée Filtrée avec p-value, sur des paramètres d'une suite de variables aléatoires indépendantes, puis sur le paramètre de Hurst d'un mouvement Brownien multifractionnaire. Cette thèse est composée de trois articles. Dans un premier article paru dans Sequential Analysis nous posons les bases de la méthode Dérivée Filtrée avec p-value (FDpV) en l'appliquant à une suite de variables aléatoires indépendantes. La méthode a une complexité linéaire en temps et en mémoire. Elle est constituée de deux étapes. La première étape utilisant la méthode Dérivée Filtrée détecte les bons instants de ruptures, mais également certaines fausses alarmes. La deuxième étape attribue une p-value à chaque instant de rupture potentiel détecté à la première étape, et élimine les instants dont la p-value est inférieure à un certain seuil critique. Nous démontrons les propriétés asymptotiques nécessaires à la calibration de la méthode. L'efficacité de la méthode a été prouvé tant sur des données simulées que sur des données réelles. Ensuite, nous nous sommes attaqués à l'application de la méthode pour la détection de ruptures sur le paramètre de Hurst d'un mouvement Brownien multifractionnaire. Cela s'est fait en deux phases. La première phase a fait l'objet d'un article à paraitre dans ESAIM P&S où nous avons établi un Théorème Central Limite pour l'estimateur du paramètre de Hurst appelé Increment Ratio Statistic (IRS). Puis, nous avons proposé une version localisée de l'IRS et démontré un TCL local pour estimer la fonction de Hurst d'un mouvement Brownien multifractionnaire. Les preuves sont intuitives et se distinguent par leur simplicité. Elles s'appuient sur le théorème de Breuer-Major et une stratégie originale appelée "freezing of time". La deuxième phase repose sur un nouvel article soumis pour publication. Nous adaptons la méthode FDpV pour détecter des ruptures sur l'indice de Hurst d'un mouvement Brownien fractionnaire constant par morceaux. La statistique sous-jacent de l'algorithme FDpV est un nouvel estimateur de l'indice de Hurst, appelé Increment Zero-Crossing Statistic (IZCS) qui est une variante de l'IRS. La combinaison des méthodes FDpV + IZCS constitue une procédure efficace et rapide avec une complexité linéaire en temps et en mémoire. / This Ph.D dissertation deals with "Off-line" detection of change points on parameters of time series of independent random variables, and in the Hurst parameter of multifrcational Brownian motion. It consists of three articles. In the first paper, published in Sequential Analysis, we set the cornerstones of the Filtered Derivative with p-Value method for the detection of change point on parameters of independent random variables. This method has linear time and memory complexities, with respect to the size of the series. It consists of two steps. The first step is based on Filtered Derivative method which detects the right change points as well as the false ones. We improve the Filtered Derivative method by adding a second step in which we compute the p-values associated to every single potential change point. Then we eliminate false alarms, i.e. the change points which have p-value smaller than a given critical level. We showed asymptotic properties needed for the calibration of the algorithm. The effectiveness of the method has been proved both on simulated data and on real data. Then we moved to the application of the method for the detection of change point on the Hurst parameter of multifractional Brownian motion. This was done in two phases. In the first phase, a paper is to be published in ESAIM P&S where we investigated the Central Limit Theorem of the Increment Ratio Statistic of a multifractional Brownian motion, leading to a CLT for the time varying Hurst index. The proofs are quite simple relying on Breuer-Major theorems and an original freezing of time strategy.The second phase relies on a new paper submitted for publication. We adapted the FDpV method to detect change points on the Hurst parameter of piecewise fractional Brownian motion. The underlying statistics of the FDpV technology is a new statistic estimator for Hurst index, so-called Increment Zero-Crossing Statistic (IZCS) which is a variation of IRS. Both FDpV and IZCS are methods with linear time and memory complexities, with respect to the size of the series.