Les algorithmes MCMC sont difficiles à mettre à l'échelle, car ils doivent balayer l'ensemble des données à chaque itération, ce qui interdit leurs applications dans de grands paramètres de données. En gros, tous les algorithmes MCMC évolutifs peuvent être divisés en deux catégories: les méthodes de partage et de conquête et les méthodes de sous-échantillonnage. Le but de ce projet est de réduire le temps de calcul induit par des fonctions complexes ou à grande efficacité. / MCMC algorithms are difficult to scale, since they need to sweep over the whole data set at each iteration, which prohibits their applications in big data settings. Roughly speaking, all scalable MCMC algorithms can be divided into two categories: divide-and-conquer methods and subsampling methods. The aim of this project is to reduce the computing time induced by complex or largelikelihood functions.

L'urne de Polya est l'exemple typique de processus stochastique avec renforcement. La limite presque sûre (p.s.) en temps existe, est aléatoire et non dégénérée. L'urne de Friedman est une généralisation naturelle dont la limite (proportion asymptotique en temps) n'est plus aléatoire. De nombreux modèles aléatoires sont fondés sur des processus de renforcement comme pour la conception d'essais cliniques au design adaptatif, en économie, ou pour des algorithmes stochastiques à des fins d'optimisation ou d'estimation non paramétrique. Dans ce mémoire, inspirés par de nombreux articles récents, nous introduisons une nouvelle famille de systèmes (finis) de processus de renforcement où l'interaction se traduit par un phénomène de renforcement collectif additif, de type champ moyen. Les deux taux de renforcement (l'un spécifique à chaque composante, l'autre collectif et commun à toutes les composantes) sont possiblement différents. Nous prouvons deux types de résultats mathématiques. Différents régimes de paramètres doivent être considérés : type de la règle (brièvement, Polya/Friedman), taux du renforcement. Nous prouvons l'existence d'une limite p.s. coommune à toutes les composantes du système (synchronisation). La nature de la limite (aléatoire/déterministe) est étudiée en fonction du régime de paramètres. Nous étudions également les fluctuations en prouvant des théorèmes centraux de la limite. Les changements d'échelle varient en fonction du régime considéré. Différentes vitesses de convergence sont ainsi établies. / The Polya urn is the paradigmatic example of a reinforced stochastic process. It leads to a random (non degenerated) almost sure (a.s.) time-limit.The Friedman urn is a natural generalization whose a.s. time-limit is not random anymore. Many stochastic models for applications are based on reinforced processes, like urns with their use in adaptive design for clinical trials or economy, stochastic algorithms with their use in non parametric estimation or optimisation. In this work, in the stream of previous recent works, we introduce a new family of (finite) systems of reinforced stochastic processes, interacting through an additional collective reinforcement of mean field type. The two reinforcement rules strengths (one componentwise, one collective) are tuned through (possibly) different rates. In the case the reinforcement rates are like 1/n, these reinforcements are of Polya or Friedman type as in urn contexts and may thus lead to limits which may be random or not. We state two kind of mathematical results. Different parameter regimes needs to be considered: type of reinforcement rule (Polya/Friedman), strength of the reinforcement. We study the time-asymptotics and prove that a.s. convergence always holds. Moreover all the components share the same time-limit (synchronization). The nature of the limit (random/deterministic) according to the parameters' regime is considered. We then study fluctuations by proving central limit theorems. Scaling coefficients vary according to the regime considered. This gives insights into the different rates of convergence.

Cette thèse porte sur les processus croissants pour l'ordre convexe que nous désignons sous le nom de peacocks. Un résultat remarquable dû à Kellerer stipule qu'un processus stochastique à valeurs réelles est un peacock si et seulement s'il possède les mêmes marginales unidimensionnelles qu'une martingale. Une telle martingale est dite associée à ce processus. Mais dans son article, Kellerer ne donne ni d'exemple de peacock, ni d'idée précise sur la construction d'une martingale associée pour un peacock donné. Ainsi, comme d'autres travaux sur les peacocks, notre étude vise deux objectifs. Il s'agit d'exhiber de nouvelles familles de peacocks et de construire des martingales associées pour certains peacocks. Dans les trois premiers chapitres, nous exhibons diverses classes de peacocks en utilisant successivement les notions de monotonie conditionnelle, de peacock très fort et de positivité totale d'ordre 2. En particulier, nous fournissons plusieurs extensions du résultat de Carr-Ewald-Xiao selon lequel la moyenne arithmétique du mouvement brownien géométrique, encore appelée "option asiatique" est un peacock. L'objet du dernier chapitre est de construire des martingales associées pour une classe de peacocks. Pour cela, nous utilisons les plongements d'Azéma-Yor et de Bertoin-Le Jan. L'originalité de ce chapitre est l'utilisation de la positivité totale d'ordre 2 dans l'étude du plongement d'Azéma-Yor / This thesis deals with real valued stochastic processes which increase in the convex order. We call them peacocks. A remarkable result due to Kellerer states that a real valued process is a peacock if and only if it has the same one-dimensional marginals as a martingale. Such a martingale is said to be associated to this process. But in his article, Kellerer provides neither an example of peacock nor a concrete idea to construct an associated martingale to a given peacock. Hence, as other investigations on peacocks, our study has two purposes. We first exhibit new families of peacocks and then, we contruct associated martingales to certain of them. In the first three chapters, we exhibit several classes of peacocks using successively the notions of conditional monotonicity, very strong peacock and total positivity of order 2. In particular, we provide many extensions of Carr-Ewald-Xiao result which states that the arithmetic mean of geometric Brownian motion, also called "Asian option" is a peacock. The purpose of the last chapter is to construct associated martingales to certain peacocks. To this end, we use Azéma-Yor and Bertoin-Le Jan embedding algorithms. The originality of this chapter is the use of total positivity of order 2 in the study of Azéma-Yor embedding algorithm

Cette thèse développe des estimations d’erreur a posteriori et critères d’arrêt pour les méthodes de décomposition de domaine avec des conditions de transmission de Robin optimisées entre les interfaces. Différents problèmes sont considérés: l’équation de Darcy stationnaire puis l’équation de la chaleur, discrétisées par les éléments finis mixtes avec un schéma de Galerkin discontinu de plus bas degré en temps pour le second cas. Pour l’équation de la chaleur, une méthode de décomposition de domaine globale en temps, avec mêmes ou différents pas de temps entre les différents sous domaines, est utilisée. Ce travail est finalement étendu à un modèle diphasique en utilisant une méthode de volumes finis centrés par maille en espace. Pour chaque modèle, un problème d’interface est résolu itérativement, où chaque itération nécessite la résolution d’un problème local dans chaque sous-domaine, et les informations sont ensuite transmises aux sous-domaines voisins. Pour les modèles instationnaires, les problèmes locaux dans les sous-domaines sont instationnaires et les données sont transmises par l’interface espace-temps. L’objectif de ce travail est, pour chaque modèle, de borner l’erreur entre la solution exacte et la solution approchée à chaque itération de l’algorithme de décomposition de domaine. Différentes composantes d’erreur en jeu de la méthode sont identifiées, dont celle de l’algorithme de décomposition de domaine, de façon à définir un critère d’arrêt efficace pour cette méthode. En particulier, pour l’équation de Darcy stationnaire, on bornera l’erreur par un estimateur de décomposition de domaine ainsi qu’un estimateur de discrétisation en espace. On ajoutera à la borne de l’erreur un estimateur de discrétisation en temps pour l’équation de la chaleur et pour le modèle diphasique. L’estimation a posteriori répose sur des techniques de reconstructions de pressions et de flux conformes respectivement dans les espaces H1 et H(div) et sur la résolution de problèmes locaux de Neumann dans des bandes autour des interfaces de chaque sous-domaine pour les flux. Ainsi, des critères pour arrêter les itérations de l’algorithme itératif de décomposition de domaine sont développés. Des simulations numériques pour des problèmes académiques ainsi qu’un problème plus réaliste basé sur des données industrielles sont présentées pour illustrer l’efficacité de ces techniques. En particulier, différents pas de temps entre les sous-domaines sont considérés pour cet exemple. / This work contributes to the developpement of a posteriori error estimates and stopping criteria for domain decomposition methods with optimized Robin transmission conditions on the interface between subdomains. We study several problems. First, we tackle the steady diffusion equation using the mixed finite element subdomain discretization. Then the heat equation using the mixed finite element method in space and the discontinuous Galerkin scheme of lowest order in time is investigated. For the heat equation, a global-in-time domain decomposition method is used for both conforming and nonconforming time grids allowing for different time steps in different subdomains. This work is then extended to a two-phase flow model using a finite volume scheme in space. For each model, the multidomain formulation can be rewritten as an interface problem which is solved iteratively. Here at each iteration, local subdomain problems are solved, and information is then transferred to the neighboring subdomains. For unsteady problems, the subdomain problems are time-dependent and information is transferred via a space-time interface. The aim of this work is to bound the error between the exact solution and the approximate solution at each iteration of the domain decomposition algorithm. Different error components, such as the domain decomposition error, are identified in order to define efficient stopping criteria for the domain decomposition algorithm. More precisely, for the steady diffusion problem, the error of the domain decomposition method and that of the discretization in space are estimated separately. In addition, the time error for the unsteady problems is identified. Our a posteriori estimates are based on the reconstruction techniques for pressures and fluxes respectively in the spaces H1 and H(div). For the fluxes, local Neumann problems in bands arround the interfaces extracted from the subdomains are solved. Consequently, an effective criterion to stop the domain decomposition iterations is developed. Numerical experiments, both academic and more realistic with industrial data, are shown to illustrate the efficiency of these techniques. In particular, different time steps in different subdomains for the industrial example are used.

Dans cette thèse, notre but est de donner un cadre numérique général pour approcher les solutions des problèmes du transport optimal (TO). L’idée générale est d’introduire une régularisation entropique du problème initial. Le problème régularisé correspond à minimiser une entropie relative par rapport à une mesure de référence donnée. En effet, cela équivaut à trouver la projection d’un couplage par rapport à la divergence de Kullback-Leibler. Cela nous permet d’utiliser l’algorithme de Bregman/Dykstra et de résoudre plusieurs problèmes variationnels liés au TO. Nous nous intéressons particulièrement à la résolution des problèmes du transport optimal multi-marges (TOMM) qui apparaissent dans le cadre de la dynamique des fluides (équations d’Euler incompressible à la Brenier) et de la physique quantique (la théorie de fonctionnelle de la densité ). Dans ces cas, nous montrons que la régularisation entropique joue un rôle plus important que de la simple stabilisation numérique. De plus, nous donnons des résultats concernant l’existence des transports optimaux (par exemple des transports fractals) pour le problème TOMM. / In this thesis we aim at giving a general numerical framework to approximate solutions to optimal transport (OT) problems. The general idea is to introduce an entropic regularization of the initialproblems. The regularized problem corresponds to the minimization of a relative entropy with respect a given reference measure. Indeed, this is equivalent to find the projection of the joint coupling with respect the Kullback-Leibler divergence. This allows us to make use the Bregman/Dykstra’s algorithm and solve several variational problems related to OT. We are especially interested in solving multi-marginal optimal transport problems (MMOT) arising in Physics such as in Fluid Dynamics (e.g. incompressible Euler equations à la Brenier) and in Quantum Physics (e.g. Density Functional Theory). In these cases we show that the entropic regularization plays a more important role than a simple numerical stabilization. Moreover, we also give some important results concerning existence and characterization of optimal transport maps (e.g. fractal maps) for MMOT .

Dans cette thèse, nous proposons une approche progressive (forward) pour la représentation probabiliste d'Equations aux Dérivées Partielles (EDP) nonlinéaires et nonconservatives, permettant ainsi de développer un algorithme particulaire afin d'en estimer numériquement les solutions. Les Equations Différentielles Stochastiques Nonlinéaires de type McKean (NLSDE) étudiées dans la littérature constituent une formulation microscopique d'un phénomène modélisé macroscopiquement par une EDP conservative. Une solution d'une telle NLSDE est la donnée d'un couple $(Y,u)$ où $Y$ est une solution d' équation différentielle stochastique (EDS) dont les coefficients dépendent de $u$ et de $t$ telle que $u(t,cdot)$ est la densité de $Y_t$. La principale contribution de cette thèse est de considérer des EDP nonconservatives, c'est-à- dire des EDP conservatives perturbées par un terme nonlinéaire de la forme $Lambda(u,nabla u)u$. Ceci implique qu'un couple $(Y,u)$ sera solution de la représentation probabiliste associée si $Y$ est un encore un processus stochastique et la relation entre $Y$ et la fonction $u$ sera alors plus complexe. Etant donnée la loi de $Y$, l'existence et l'unicité de $u$ sont démontrées par un argument de type point fixe via une formulation originale de type Feynmann-Kac. / This thesis performs forward probabilistic representations of nonlinear and nonconservative Partial Differential Equations (PDEs), which allowto numerically estimate the corresponding solutions via an interacting particle system algorithm, mixing Monte-Carlo methods and non-parametric density estimates.In the literature, McKean typeNonlinear Stochastic Differential Equations (NLSDEs) constitute the microscopic modelof a class of PDEs which are conservative. The solution of a NLSDEis generally a couple $(Y,u)$ where $Y$ is a stochastic process solving a stochastic differential equation whose coefficients depend on $u$ and at each time $t$, $u(t,cdot)$ is the law density of the random variable $Y_t$.The main idea of this thesis is to consider this time a non-conservative PDE which is the result of a conservative PDE perturbed by a term of the type $Lambda(u, nabla u) u$. In this case, the solution of the corresponding NLSDE is again a couple $(Y,u)$, where again $Y$ is a stochastic processbut where the link between the function $u$ and $Y$ is more complicated and once fixed the law of $Y$, $u$ is determined by a fixed pointargument via an innovating Feynmann-Kac type formula.

Depuis l’article fondateur de Jordan, Kinderlehrer et Otto en 1998, il est bien connu qu’une large classe d’équations paraboliques peuvent être vues comme des flots de gradient dans l’espace de Wasserstein. Le but de cette thèse est d’étendre cette théorie à certaines équations et systèmes qui n’ont pas exactement une structure de flot de gradient. Les interactions étudiées sont de différentes natures. Le premier chapitre traite des systèmes avec des interactions non locales dans la dérive. Nous étudions ensuite des systèmes de diffusions croisées s’appliquant aux modèles de congestion pour plusieurs populations. Un autre modèle étudié est celui où le couplage se trouve dans le terme de réaction comme les systèmes proie-prédateur avec diffusion ou encore les modèles de croissance tumorale. Nous étudierons enfin des systèmes de type nouveau où l’interaction est donnée par un problème de transport multi-marges. Une grande partie de ces problèmes est illustrée de simulations numériques. / Since 1998 and the seminal work of Jordan, Kinderlehrer and Otto, it is well known that a large class of parabolic equations can be seen as gradient flows in the Wasserstein space. This thesis is devoted to extensions of this theory to equations and systems which do not have exactly a gradient flow structure. We study different kind of couplings. First, we treat the case of nonlocal interactions in the drift. Then, we study cross diffusion systems which model congestion for several species. We are also interested in reaction-diffusion systems as diffusive prey-predator systems or tumor growth models. Finally, we introduce a new class of systems where the interaction is given by a multi-marginal transport problem. In many cases, we give numerical simulations to illustrate our theorical results.