Cette thèse propose une étude de trois grands problèmes de mathématiques financières dans les marchés financiers avec coûts de transactions proportionnels. La première partie est consacrée à l'étude des conditions de non arbitrage dans un marché avec information incomplete. La seconde partie résoud le problème de recouvrement d'option américaine dans le cas continue et introduit le concept de système de prix cohérent. Enfin, la troisième partie traite du problème de consommation - investissement de Merton dans un marché où le processus des prix est dirigé par un processus de Lévy.

Dans cette thèse, nous nous intéressons à des sujets différents en mathématiques financières, tous liés aux imperfections de marché et à la technique fondamentale de la maximisation d'utilité. Elle comporte trois parties. Dans la première, qui se base sur deux papiers, nous considérons le problème d'investissement optimal sur un marché financier avec coûts de transaction proportionnels. On commence par étudier le problème d'investissement dans le cas où la fonction d'utilité est multivariée (ce qui s'adapte particulièrement bien aux marchés des devises) et l'agent a une dotation initiale aléatoire, qui peut s'interpréter comme une option ou un autre contrat dérivé. Après avoir analysé les propriétés du problème et de son dual, nous utilisons ces résultats pour examiner, dans ce contexte, certains aspects d'une technique de pricing devenue populaire dans le cadre des marchés incomplets, l'évaluation par indifférence d'utilité. Dans le deuxième chapitre, nous étudions le problème d'existence d'un ensemble de prix (appelés "prix fictifs" ou "shadow prices") qui offrirait la même utilité maximale à l'agent si le marché n'avait pas de frictions. Ces résultats sont utiles pour clarifier le lien entre la théorie classique des marchés sans frictions et la littérature en croissance rapide sur les coûts de transaction. Dans la deuxième partie de cette thèse, nous considérons le problème d'évaluation de produits dérivés par indifférence d'utilité dans des marchés incomplets, où la source d'incomplétude provient du fait que certains actifs ne peuvent pas être échangés sur le marché, ce qui est le cas par exemple dans le cadre des modèles structurels pour le prix de l'électricité. Sous certaines hypothèses, nous dérivons une caractérisation en terme d'équations différentielles stochastiques rétrogrades (EDSR) pour le prix, et nous nous concentrons ensuite sur les options européennes en établissant en particulier l'existence d'une stratégie de couverture optimale, même lorsque le payoff présente des discontinuités et est éventuellement non borné. Dans la dernière partie, nous analysons un simple problème de principal-agent à horizon fini, où le principal est essentiellement interprété comme un régulateur et l'agent comme une entreprise qui produit certaines émissions polluantes. Nous traitons séparément les problèmes du principal et de l'agent et nous utilisons la théorie des EDSR pour fournir des conditions nécessaires et suffisantes d'optimalité. Nous effectuons également des analyses de sensibilité et nous montrons des résultats numériques dans le but de fournir une meilleure compréhension du comportement des agents.

Dans cette thèse, nous nous intéressons à des sujets différents en mathématiques financières, tous liés aux imperfections de marché et à la technique fondamentale de la maximisation d'utilité. Elle comporte trois parties. Dans la première, qui se base sur deux papiers, nous considérons le problème d'investissement optimal sur un marché financier avec coûts de transaction proportionnels. On commence par étudier le problème d'investissement dans le cas où la fonction d'utilité est multivariée (ce qui s'adapte particulièrement bien aux marchés des devises) et l'agent a une dotation initiale aléatoire, qui peut s'interpréter comme une option ou un autre contrat dérivé. Après avoir analysé les propriétés du problème et de son dual, nous utilisons ces résultats pour examiner, dans ce contexte, certains aspects d'une technique de pricing devenue populaire dans le cadre des marchés incomplets, l'évaluation par indifférence d'utilité. Dans le deuxième chapitre, nous étudions le problème d'existence d'un ensemble de prix (appelés "prix fictifs" ou "shadow prices") qui offrirait la même utilité maximale à l'agent si le marché n'avait pas de frictions. Ces résultats sont utiles pour clarifier le lien entre la théorie classique des marchés sans frictions et la littérature en croissance rapide sur les coûts de transaction. Dans la deuxième partie de cette thèse, nous considérons le problème d'évaluation de produits dérivés par indifférence d'utilité dans des marchés incomplets, où la source d'incomplétude provient du fait que certains actifs ne peuvent pas être échangés sur le marché, ce qui est le cas par exemple dans le cadre des modèles structurels pour le prix de l'électricité. Sous certaines hypothèses, nous dérivons une caractérisation en terme d'équations différentielles stochastiques rétrogrades (EDSR) pour le prix, et nous nous concentrons ensuite sur les options européennes en établissant en particulier l'existence d'une stratégie de couverture optimale, même lorsque le payoff présente des discontinuités et est éventuellement non borné. Dans la dernière partie, nous analysons un simple problème de principal-agent à horizon fini, où le principal est essentiellement interprété comme un régulateur et l'agent comme une entreprise qui produit certaines émissions polluantes. Nous traitons séparément les problèmes du principal et de l'agent et nous utilisons la théorie des EDSR pour fournir des conditions nécessaires et suffisantes d'optimalité. Nous effectuons également des analyses de sensibilité et nous montrons des résultats numériques dans le but de fournir une meilleure compréhension du comportement des agents. / In this thesis we deal with different topics in financial mathematics, that are all related to market imperfections and to the fundamental technique of utility maximization. The work consists of three parts. In the first one, which is based on two papers, we consider the problem of optimal investment on a financial market with proportional transaction costs. We initially study the investment problem in the case where the utility function is multivariate (which is particularly suitable on currency markets) and the agent is endowed with a random claim, which can be interpreted as an option or another derivative contract. After analyzing the properties of the primal and dual problems, we apply those results to investigate, in this context, some aspects of a popular pricing technique in incomplete markets, i.e. utility indifference evaluation. In the second contribution to the transaction costs literature, we investigate the existence problem for a set of prices (called shadow prices) that would provide the same maximal utility to the agent if the market did not have frictions. These results shed some light on the link between the classical theory of frictionless markets and the quickly growing literature on transaction costs. In the second part of this thesis we consider the utility indifference pricing problem in incomplete markets, where the source of incompleteness comes from the fact that some assets in the market cannot be actively traded, which is the case for example in the framework of structural models for electricity prices. We provide a BSDE characterization for the price under mild assumptions, and then focus on the case of European claims by establishing in particular the existence of an optimal hedging strategy even when the claim presents discontinuities and is possibly unbounded. In the last contribution we analyze a simple principal-agent problem in finite time horizon, where the principal is mainly interpreted as a regulator and the agent as a firm producing some kind of polluting emissions. We separately treat both the agent's and the principal's problems and use the BSDE theory for providing necessary and sufficient conditions for optimality. We also perform some sensitivity analyses and give numerical results in order to provide a better understanding of the agents' behavior.