La motivation principale de cette thèse est l'étude du comportement en temps grand des solutions non-bornées d'équations de Hamilton-Jacobi visqueuses dans RN en présence d'un terme d'Ornstein-Uhlenbeck. Nous considérons la même question dans le cas d'une équation de Hamilton-Jacobi du premier ordre. Dans le premier cas, qui constitue le cœur de la thèse, nous généralisons les résultats de Fujita, Ishii et Loreti (2006) dans plusieurs directions. La première est de considérer des opérateurs de diffusion plus généraux en remplaçant le Laplacien par une matrice de diffusion quelconque. Nous considérons ensuite des opérateurs non-locaux intégro-différentiels de type Laplacien fractionnaire. Le second type d'extension concerne le Hamiltonien qui peut dépendre de x et est seulement supposé sous-linéaire par rapport au gradient. / The main aim of this thesis is to study large time behavior of unbounded solutions of viscous Hamilton-Jacobi equations in RN in presence of an Ornstein-Uhlenbeck drift. We also consider the same issue for a first order Hamilton-Jacobi equation. In the first case, which is the core of the thesis, we generalize the results obtained by Fujita, Ishii and Loreti (2006) in several directions. The first one is to consider more general operators. We first replace the Laplacian by a general diffusion matrix and then consider a non-local integro-differential operator of fractional Laplacian type. The second kind of extension is to deal with more general Hamiltonians which are merely sublinear.

On étudie l'équation de Hamilton-Jacobi évolutive du premier ordre, couplée avec une donnée initiale lipschitzienne. Le but est de comparer les solutions de viscosité et les solutions variationnelles pour cette équation, deux notions de solutions faibles qui coïncident en dynamique hamiltonienne convexe. Pour travailler dans un cadre pertinent pour les deux types de solutions, on doit d’abord construire une solution variationnelle sans hypothèse de compacité sur la variété ou le hamiltonien étudiés. On retrace dans ce cas la construction historique des solutions variationnelles, en détaillant les propriétés de la famille génératrice obtenue par la méthode des géodésiques brisées. Il en découle des estimées permettant d’obtenir la solution de viscosité à partir de la solution variationnelle par un procédé d’itération. Après avoir vérifié que la solution variationnelle construite coïncide effectivement avec la solution de viscosité pour un Hamiltonien convexe, on caractérise les Hamiltoniens intégrables pour lesquels cette propriété persiste, en étudiant attentivement des exemples élémentaires en dimension 1 et 2. / We study the first order Hamilton-Jacobi equation associated with a Lipschitz initial condition. The purpose of this thesis is to compare two notions of weak solutions for this equation, namely the viscosity solution and the variational solution, that are known to coincide in convex Hamiltonian dynamics. In order to work in a relevant framework for both notions, we first need to build a variational solution without compactness assumption on the manifold or the Hamiltonian. To do so, we follow the historical construction, detailing properties of the generating family obtained via the broken geodesics method. Local estimates allow to prove that the viscosity solution can be obtained from the variational solution via an iterative process. We then check that this construction gives effectively the viscosity solution for a convex Hamiltonian, and characterize the integrable Hamiltonians for which this property persists by carefully studying elementary examples in dimension 1 and 2.

Dans cette thèse, nous nous intéressons à des problèmes de segmentation d'images sous contraintes géométriques. Cette problématique a émergé suite à l'analyse de plusieurs méthodes classiques de détection de contours qui a été faite. En effet, ces méthodes classiques (Modèles déformables, contours actifs géodésiques, 'fast marching', etc...) se révèlent caduques quand des données de l'image sont manquantes ou de mauvaise qualité. En imagerie médicale par exemple, des phénomènes d'occlusion peuvent se produire : des organes peuvent se masquer en partie l'un l'autre (ex du foie). Par ailleurs, deux objets qui se jouxtent peuvent posséder des textures intrinsèques homogènes si bien qu'il est difficile d'identifier clairement l'interface entre ces deux objets. La définition classique d'un contour qui est caractérisé comme étant le lieu des points connexes présentant une forte transition de luminosité ne s'applique donc plus. Enfin, dans certains contextes d'étude, comme en géophysique, on peut disposer en plus des doneées d'imagerie, de données géométriques à intégrer au processus de segmentation.<br /><br />Pour pallier ces difficultés, nous proposons ici des modèles de segmentation intégrant des contraintes géométriques et satisfaisant les critères classiques de détection avec en particulier la régularité sur le contour que cela implique.

Cette thèse présente deux principaux sujets de recherche indépendants, le dernier étant décliné sous la forme de deux problèmes distincts. Dans toute la première partie de la thèse, nous nous intéressons à la notion d'équations différentielles stochastiques rétrogrades du second ordre (dans la suite 2EDSR), introduite tout d'abord par Cheredito, Soner, Touzi et Victoir puis reformulée récemment par Soner, Touzi et Zhang. Nous prouvons dans un premier temps une extension de leurs résultats d'existence et d'unicité lorsque le générateur considéré est seulement continu et à croissance linéaire. Puis, nous poursuivons notre étude par une nouvelle extension au cas d'un générateur quadratique. Ces résultats théoriques nous permettent alors de résoudre un problème de maximisation d'utilité pour un investisseur dans un marché incomplet, à la fois car des contraintes sont imposées sur ses stratégies d'investissement, et parce que la volatilité du marché est supposée être inconnue. Nous prouvons dans notre cadre l'existence de stratégies optimales, caractérisons la fonction valeur du problème grâce à une EDSR du second ordre et résolvons explicitement certains exemples qui nous permettent de mettre en exergue les modifications induites par l'ajout de l'incertitude de volatilité par rapport au cadre habituel. Nous terminons cette première partie en introduisant la notion d'EDSR du second ordre avec réflexion sur un obstacle. Nous prouvons l'existence et l'unicité des solutions de telles équations, et fournissons une application possible au problème de courverture d'options Américaines dans un marché à volatilité incertaine. Le premier chapitre de la seconde partie de cette thèse traite d'un problème de pricing d'options dans un modèle où la liquidité du marché est prise en compte. Nous fournissons des développements asymptotiques de ces prix au voisinage de liquidité infinie et mettons en lumière un phénomène de transition de phase dépendant de la régularité du payoff des options considérées. Quelques résultats numériques sont également proposés. Enfin, nous terminons cette thèse par l'étude d'un problème Principal/Agent dans un cadre d'aléa moral. Une banque (qui joue le rôle de l'agent) possède un certain nombre de prêts dont elle est prête à échanger les intérêts contre des flux de capitaux. La banque peut influencer les probabilités de défaut de ces emprunts en exerçant ou non une activité de surveillance coûteuse. Ces choix de la banque ne sont connus que d'elle seule. Des investisseurs (qui jouent le rôle de principal) souhaitent mettre en place des contrats qui maximisent leur utilité tout en incitant implicitement la banque à exercer une activité de surveillance constante. Nous résolvons ce problème de contrôle optimal explicitement, décrivons le contrat optimal associé ainsi que ses implications économiques et fournissons quelques simulations numériques.

Ce mémoire présente mes travaux de recherche effectués après ma thèse, entre 2002 et 2008. Les thèmes principaux sont les équations aux dérivées partielles non-linéaires et des problèmes d'évolutions de fronts ou d'interfaces. Il est organisé en trois chapitres.<br /><br />Le premier chapitre concerne l'évolution de fronts avec une vitesse normale prescrite. Pour étudier ce genre de problème, une première approche, dite par lignes de niveaux, consiste àreprésenter le front comme une ligne de niveau d'une fonction auxiliaire u. Cette approche ramène l'étude du problème d'évolution géométrique à un problème d'EDP puisque u vérifie une équation de Hamilton-Jacobi. Quelques résultats dans le cas de vitesses locales comme la courbure moyenne sont présentés mais la majorité des résultats concerne le cas de vitesses non-locales décrivant la dynamique des dislocations dans un cristal ou modélisant l'asymptotique d'un système de FitzHugh-Nagumo apparaissant en biologie. Une approche différente, basée sur des solutions de viscosité géométriques, est utilisée pour étudier des problèmes de propagation de fronts apparaissant en optimisation de formes. Le but est de trouver un ensemble optimal minimisant une énergie du type capacité à volume ou périmètre constant. L'idée est de déformer le bord d'un ensemble donné avec une vitesse normale adéquate de manière à diminuer au plus son énergie. La mise en oeuvre de cette idée nécessite la construction rigoureuse d'une telle évolution pour tout temps et la preuve de la convergence vers une solution du problème initial. De plus, la décroissance de l'énergie est obtenue le long du flot.<br /><br />Le deuxième chapitre décrit des résultats d'unicité, d'existence et d'homogénéisation pour des équations de Hamilton-Jacobi-Bellman. La majeure partie du travail effectué concerne des équations provenant de problèmes de contrôle stochastique avec des contrôles non-bornés. Les équations comportent alors des termes quadratiques par rapport au gradient et les solutions étudiées sont elles-mêmes à croissance quadratique. Des liens entre ces solutions et les fonctions valeurs des problèmes de contrôle correspondants sont établis. La seconde partie est consacrée à un théorème d'homogénéisation pour un système d'équations de Hamilton-Jacobi du premier ordre.<br /><br />Le troisième et dernier chapitre traite d'un sujet un peu à part, à savoir le lien entre les flots de gradient et l'inégalité de Lojasiewicz. La principale originalité de ce travail est de placer l'étude dans un cadre hilbertien pour des fonctions semiconvexes, ce qui sort du cadre de l'inégalité de Lojasiewicz classique. Le principal théorème produit des caractérisations de cette inégalité. Les résultats peuvent être précisés dans le cas des fonctions convexes ; en particulier, un contre-exemple de fonction convexe ne vérifiant pas l'inégalité de Lojasiewicz est construit. Cette dernière inégalité est reliée à la longueur des trajectoires de gradient. Une borne de cette longueur est obtenue pour les fonctions convexes coercives en dimension deux même lorsque cette inégalité n'est pas vérifiée.

Cette thèse est consacrée à l'étude de quelques problèmes dans le domaine des équations différentielles stochastiques rétrogrades (EDSR), et leurs applications aux équations aux dérivées partielles.Dans le premier chapitre, nous introduisons la notion d'équation différentielle doublement stochastique rétrograde (EDDSR) avec condition terminale singulière. Nous étudions d’abord les EDDSR avec générateur monotone, et obtenons ensuite un résultat d'existence par un schéma d'approximation. Une dernière section établit le lien avec les équations aux dérivées partielles stochastiques, via l'approche solution faible développée par Bally, Matoussi en 2001.Le deuxième chapitre est consacré aux EDSR avec condition terminale singulière et sauts. Comme dans le chapitre précédent la partie délicate sera de prouver la continuité en T. Nous formulons des conditions suffisantes sur les sauts afin d'obtenir cette dernière. Une section établit ensuite le lien entre solution minimale de l'EDSR et équations intégro-différentielles. Enfin le dernier chapitre est dédié aux équations différentielles stochastiques rétrogrades du second ordre (2EDSR) doublement réfléchies. Nous avons établi l'existence et l'unicité de telles équations. Ainsi, il nous a fallu dans un premier temps nous concentrer sur le problème de réflexion par barrière supérieure des 2EDSR. Nous avons ensuite combiné ces résultats à ceux existants afin de donner un cadre correct aux 2EDSRDR. L'unicité est conséquence d'une propriété de représentation et l'existence est obtenue en utilisant les espaces shiftés, et les distributions de probabilité conditionnelles régulières. Enfin une application aux jeux de Dynkin et aux options Israëliennes est traitée dans la dernière section. / This thesis is devoted to the study of some problems in the field of backward stochastic differential equations (BSDE), and their applications to partial differential equations.In the first chapter, we introduce the notion of backward doubly stochastic differential equations (BDSDE) with singular terminal condition. A first work consists to study the case of BDSDE with monotone generator. We then obtain existing result by an approximating scheme built considering a truncation of the terminal condition. The last part of this chapter aim to establish the link with stochastic partial differential equations, using a weak solution approach developed by Bally, Matoussi in 2001.The second chapter is devoted to the BSDEs with singular terminal conditions and jumps. As in the previous chapter the tricky part will be to prove continuity in T. We formulate sufficient conditions on the jumps in order to obtain it. A section is then dedicated to establish a link between a minimal solution of our BSDE and partial integro-differential equations.The last chapter is dedicated to doubly reflected second order backward stochastic differential equations (2DRBSDE). We have been looking to establish existence and uniqueness for such equations. In order to obtain this, we had to focus first on the upper reflection problem for 2BSDEs. We combined then these results to those already existing to give a well-posedness context to 2DRBSDE. Uniqueness is established as a straight consequence of a representation property. Existence is obtained using shifted spaces, and regular conditional probability distributions. A last part is then consecrated to the link with some Dynkin games and Israeli options.