L'objet de cette thèse est l'analyse fine de méthodes de Monte Carlopar chaînes de Markov (MCMC) et la proposition de méthodologies nouvelles pour échantillonner une mesure de probabilité en grande dimension. Nos travaux s'articulent autour de trois grands sujets.Le premier thème que nous abordons est la convergence de chaînes de Markov en distance de Wasserstein. Nous établissons des bornes explicites de convergence géométrique et sous-géométrique. Nous appliquons ensuite ces résultats à l'étude d'algorithmes MCMC. Nous nous intéressons à une variante de l'algorithme de Metropolis-Langevin ajusté (MALA) pour lequel nous donnons des bornes explicites de convergence. Le deuxième algorithme MCMC que nous analysons est l'algorithme de Crank-Nicolson pré-conditionné, pour lequel nous montrerons une convergence sous-géométrique.Le second objet de cette thèse est l'étude de l'algorithme de Langevin unajusté (ULA). Nous nous intéressons tout d'abord à des bornes explicites en variation totale suivant différentes hypothèses sur le potentiel associé à la distribution cible. Notre étude traite le cas où le pas de discrétisation est maintenu constant mais aussi du cas d'une suite de pas tendant vers 0. Nous prêtons dans cette étude une attention toute particulière à la dépendance de l'algorithme en la dimension de l'espace d'état. Dans le cas où la densité est fortement convexe, nous établissons des bornes de convergence en distance de Wasserstein. Ces bornes nous permettent ensuite de déduire des bornes de convergence en variation totale qui sont plus précises que celles reportées précédemment sous des conditions plus faibles sur le potentiel. Le dernier sujet de cette thèse est l'étude des algorithmes de type Metropolis-Hastings par échelonnage optimal. Tout d'abord, nous étendons le résultat pionnier sur l'échelonnage optimal de l'algorithme de Metropolis à marche aléatoire aux densités cibles dérivables en moyenne Lp pour p ≥ 2. Ensuite, nous proposons de nouveaux algorithmes de type Metropolis-Hastings qui présentent un échelonnage optimal plus avantageux que celui de l'algorithme MALA. Enfin, nous analysons la stabilité et la convergence en variation totale de ces nouveaux algorithmes. / The subject of this thesis is the analysis of Markov Chain Monte Carlo (MCMC) methods and the development of new methodologies to sample from a high dimensional distribution. Our work is divided into three main topics. The first problem addressed in this manuscript is the convergence of Markov chains in Wasserstein distance. Geometric and sub-geometric convergence with explicit constants, are derived under appropriate conditions. These results are then applied to thestudy of MCMC algorithms. The first analyzed algorithm is an alternative scheme to the Metropolis Adjusted Langevin algorithm for which explicit geometric convergence bounds are established. The second method is the pre-Conditioned Crank-Nicolson algorithm. It is shown that under mild assumption, the Markov chain associated with thisalgorithm is sub-geometrically ergodic in an appropriated Wasserstein distance. The second topic of this thesis is the study of the Unadjusted Langevin algorithm (ULA). We are first interested in explicit convergence bounds in total variation under different kinds of assumption on the potential associated with the target distribution. In particular, we pay attention to the dependence of the algorithm on the dimension of the state space. The case of fixed step sizes as well as the case of nonincreasing sequences of step sizes are dealt with. When the target density is strongly log-concave, explicit bounds in Wasserstein distance are established. These results are then used to derived new bounds in the total variation distance which improve the one previously derived under weaker conditions on the target density.The last part tackles new optimal scaling results for Metropolis-Hastings type algorithms. First, we extend the pioneer result on the optimal scaling of the random walk Metropolis algorithm to target densities which are differentiable in Lp mean for p ≥ 2. Then, we derive new Metropolis-Hastings type algorithms which have a better optimal scaling compared the MALA algorithm. Finally, the stability and the convergence in total variation of these new algorithms are studied.

Šis darbas skirtas Italijos verslininkų pasitenkinimo darbu analizei, naudojantis kokybinių požymių daugiamatės statistikos metodais. Duomenys yra iš Italijos Veneto regiono verslininkų tyrimo, kurį 2006 metais pradėjo Padujos universiteto Statistikos departamentas. Imtį sudaro 1216 stebėjimų iš beveik 113000 Veneto regiono (Šiaurės rytų Italija) verslininkų populiacijos. Priklausomasis kintamasis, t.y. pasitenkinimas darbu, išmatuotas ranginėje keturių taškų Likert skalėje su šiomis kategorijomis: „nepatenkintas“, „nei patenkintas, nei nepatenkintas“, „pakankamai patenkintas“ ir „patenkintas“. Paaiškinamuosius kintamuosius sudaro demografinės, firmos charakteristikos, tapimo verslininku motyvus, darbą, laisvalaikį ir ateities perspektyvas atspindintys kintamieji. Beveik visi kintamieji, taip pat ir priklausomasis, yra kategoriniai. Todėl pagrindinis šio darbo tikslas yra išsirinkti geriausiai tokio tipo duomenims tinkantį modelį. Aptariama galimybė naudotis tiesine regresija, atlikus optimalųjį matavimo skalės transformavimą (optimal scaling), logistine regresija, prieš tai apjungus priklausomojo kintamojo rangus, daugianariu logit modeliu, analizuojant kiekvienos kategorijos tikimybę atskirai ir rangine regresija su logit ir cloglog sąryšio funkcijomis. Potencialių pasitenkinimo darbu veiksnių skaičius- pakankamai didelis (daugiau negu 30), todėl itin svarbus uždavinys yra parinkti aiškinančiuosius kintamuosius, vengiant multikolinearumo problemos. Siekiant sumažinti... [toliau žr. visą tekstą] / The paper presents job satisfaction analysis among Italian entrepreneurs using multivariate statistical techniques. Data are taken from Veneto region (North-East part of Italy) businessmen research started by Department of Statistics of Padova University at 2006. Sample consists of 1216 observations (real population is almost 113 000 entrepreneurs at this region). The outcome variable for the job satisfaction is measured on an ordered, categorical, four-point Likert scale – „dissatisfied‘“, „neither satisfied nor dissatisfied“ , „quite satisfied“ and „satisfied“. Explanatory variables include demographic items, firm characteristics, variables representing the reasons of having started the own business, items associated with work, leisure activities and future perspectives. Quite all variables, as well as the dependent one, beeing categorical, the main objective of this work is to select an appropriate model for such type of data among possible alternatives. Discussions are made on possibility to applicate linear regression with optimal scaling, binary logit for dichotomized dependent variable, multinomial logit for analysis of every single category and ordinal logistic regression with several link functions (logit and cloglog). The number of possible determinants of job satisfaction beeing quite large (there were more than 30 questionnaire items associated with job satisfaction) it was of a great importance choosing which explanatory variables should be included in the models... [to full text]

Nous présentons dans ce mémoire un nouvel algorithme de type Metropolis-Hastings dans lequel la distribution instrumentale a été conçue pour l'estimation de distributions cibles bimodales. En fait, cet algorithme peut être vu comme une modification de l'algorithme Metropolis de type marche aléatoire habituel auquel on ajoute quelques incréments de grande envergure à des moments aléatoires à travers la simulation. Le but de ces grands incréments est de quitter le mode de la distribution cible où l'on se trouve et de trouver l'autre mode. Par la suite, nous présentons puis démontrons un résultat de convergence faible qui nous assure que, lorsque la dimension de la distribution cible croît vers l'infini, la chaîne de Markov engendrée par l'algorithme converge vers un certain processus stochastique qui est continu presque partout. L'idée est similaire à ce qui a été fait par Roberts et al. (1997), mais la technique utilisée pour la démonstration des résultats est basée sur ce qui a été fait par Bédard (2006). Nous proposons enfin une stratégie pour trouver la paramétrisation optimale de notre nouvel algorithme afin de maximiser la vitesse d'exploration locale des modes d'une distribution cible donnée tout en estimant bien la pondération relative de chaque mode. Tel que dans l'approche traditionnellement utilisée pour ce genre d'analyse, notre stratégie passe par l'optimisation de la vitesse d'exploration du processus limite. Finalement, nous présentons des exemples numériques d'implémentation de l'algorithme sur certaines distributions cibles, dont une ne respecte pas les conditions du résultat théorique présenté. / In this thesis, we present a new Metropolis-Hastings algorithm whose proposal distribution has been designed to successfully estimate bimodal target distributions. This sampler may be seen as a variant of the usual random walk Metropolis sampler in which we propose large candidate steps at random times. The goal of these large candidate steps is to leave the actual mode of the target distribution in order to find the second one. We then state and prove a weak convergence result stipulating that if we let the dimension of the target distribution increase to infinity, the Markov chain yielded by the algorithm converges to a certain stochastic process that is almost everywhere continuous. The theoretical result is in the flavour of Roberts et al. (1997), while the method of proof is similar to that found in Bédard (2006). We propose a strategy for optimally parameterizing our new sampler. This strategy aims at optimizing local exploration of the target modes, while correctly estimating the relative weight of each mode. As is traditionally done in the statistical literature, our approach consists of optimizing the limiting process rather than the finite-dimensional Markov chain. Finally, we illustrate our method via numerical examples on some target distributions, one of which violates the regularity conditions of the theoretical result.