Dans cette thèse, nous étudions dans une première partie l'impact de la contrainte de sécurité en tatouage. Dans le contexte WOA (Watermarked contents Only Attack), un adversaire possède plusieurs contenus tatoués et cherche à estimer la clé secrète d'insertion afin d'accéder aux messages cachés. Une nouvelle manière de tatouer en étalement de spectre est présentée ici. Celle-ci est basée sur la construction de distributions circulaires dans le sous-espace secret de tatouage. Cette technique permet de minimiser la distorsion en moyenne provoquée par l'ajout de la marque dans le contexte WOA en utilisant l'algorithme d'optimisation des Hongrois et la théorie du transport. Nous vérifions ensuite qu'un tatouage sûr est utilisable en pratique en prenant comme exemple le tatouage d'images naturelles. Dans une seconde partie, nous nous intéressons au cadre de l'estampillage d'oe uvres numériques permettant de tracer les redistributeurs de copies illégales. Les codes traçants utilisés sont ceux proposés par Gabor Tardos et sont résistants aux attaques de coalition, c'est-à-dire au groupement d'adversaires mettant en commun leurs contenus numériques afin de forger une version pirate. Puisque les techniques de tatouage permettent l'insertion de codes traçants dans un contenu numérique, nous avons conçu une attaque "au pire cas" qui dépend du niveau de sécurité et qui permet, pour les adversaires, de baisser leur accusation. Nous montrons que pour le cas particulier de l'estampillage un tatouage sûr sera plus efficace qu'un tatouage non-sûr (à robustesse équivalente). Finalement, une implantation des codes traçants dans un contenu vidéo utilisant des méthodes sûres par étalement de spectre est proposée. Nous montrons alors l'efficacité de l'accusation des adversaires dans ce cadre pratique.

Le transport optimal trouve un nombre grandissant d’applications, dont celle qui nous intéresse dans ce travail, l'interpolation d’images. Malgré cet essor, la résolution numérique de ce transport soulève des difficultés et le développement d’algorithmes efficaces reste un problème d'actualité, en particulier pour des images de grande taille, comme on en trouve dans certains domaines (météorologie,...).Nous nous intéressons dans ce travail à la formulation de Benamou et Brenier, qui ont placé le problème dans un contexte de mécanique des milieux continus en ajoutant une dimension temporelle. Leur formulation consiste en la minimisation d’une fonctionnelle sur un espace des contraintes contenant une condition de divergence nulle, et les algorithmes existants utilisent une projection sur cet espace.A l'opposé, dans cette thèse, nous définissons et mettons en oeuvre des algorithmes travaillant directement dans cet espace.En effet, nous montrons que la fonctionnelle a de meilleures propriétés de convexité sur celui-ci.Pour travailler dans cet espace, nous considérons trois représentations des champs de vecteurs à divergence nulle. La première est une base d’ondelettes à divergence nulle. Cette formulation a été implémentée numériquement dans le cas des ondelettes périodiques à l'aide d'une descente de gradient, menant à un algorithme de convergence lente mais validant la faisabilité de la méthode. La deuxième approche consiste à représenter les vecteurs à divergence nulle par leur fonction de courant munie d'un relèvement des conditions au bord et la troisième à utiliser la décomposition de Helmholtz-Hodge.Nous montrons de plus que dans le cas unidimensionnel en espace, en utilisant l’une ou l'autre de ces deux dernières représentations, nous nous ramenons à la résolution d’une équation de type courbure minimale sur chaque ligne de niveau du potentiel, munie des conditions de Dirichlet appropriées.La minimisation de la fonctionnelle est alors assurée par un algorithme primal-dual pour problèmes convexes de Chambolle-Pock, qui peut aisément être adapté à nos différentes formulations et est facilement parallèlisable, menant à une implémentation performante et simple.En outre, nous démontrons les gains significatifs de nos algorithmes par rapport à l’état de l’art et leur application sur des images de taille réelle. / Optimal transport has an increasing number of applications, including image interpolation, which we study in this work. Yet, numerical resolution is still challenging, especially for real size images found in applications.We are interested in the Benamou and Brenier formulation, which rephrases the problem in the context of fluid mechanics by adding a time dimension.It is based on the minimization of a functional on a constraint space, containing a divergence free constraint and the existing algorithms require a projection onto the divergence-free constraint at each iteration.In this thesis, we propose to work directly in the space of constraints for the functional to minimize.Indeed, we prove that the functional we consider has better convexity properties on the set of constraints.To work in this space, we use three different divergence-free vector decompositions. The first in which we got interested is a divergence-free wavelet base. This formulation has been implemented numerically using periodic wavelets and a gradient descent, which lead to an algorithm with a slow convergence but validating the practicability of the method.First, we represented the divergence-free vector fields by their stream function, then we studied the Helmholtz-Hodge decompositions. We prove that both these representations lead to a new formulation of the problem, which in 1D + time, is equivalent to the resolution of a minimal surface equation on every level set of the potential, equipped with appropriate Dirichlet boundary conditions.We use a primal dual algorithm for convex problems developed by Chambolle and Pock, which can be easily adapted to our formulations and can be easily sped up on parallel architectures. Therefore our method will also provide a fast algorithm, simple to implement.Moreover, we show numerical experiments which demonstrate that our algorithms are faster than state of the art methods and efficient with real-sized images.

Au début des années 2000, J. D. Benamou et Y. Brenier ont proposé une formulation dynamique du transport optimal basée sur la recherche en espace-temps d'une densité et d'une quantité de mouvement minimisant une énergie de déplacement entre deux densités. Ils ont alors proposé, pour la résolution numérique de ce problème, d'écrire ce dernier sous la forme d'une recherche de point selle d'un certain lagrangien via un algorithme de lagrangien augmenté. Nous étudierons, à l'aide de la théorie des opérateurs non-expansifs, la convergence de cet algorithme vers un point selle du lagrangien introduit, et ceci dans les conditions les plus générales possibles, en particulier dans les cas où les densités de départ et d'arrivée s'annulent sur certaines zones du domaine de transport. La principale difficulté de notre étude consistera en la preuve de l'existence d'un point selle, et surtout de l'unicité de la composante densité-quantité de mouvement dans de telles conditions. En effet, celles-ci impliquent de devoir traiter avec des plans de transport optimaux non réguliers : c'est pourquoi une importante partie de nos travaux aura pour objet une étude approfondie de la régularité d'un champ de vitesse associé à de tels plans de transport. Nous tenterons également de caractériser les propriétés d'un champ de vitesse associé à un plan de transport optimal dans l'espace quadratique. Pour finir, nous explorerons différentes approches relatives à l'introduction de contraintes physiques dans la formulation dynamique du transport optimal, basées sur une pénalisation du domaine de transport ou du champ de vitesse. / In the beginning of the 2000 years, J. D. Benamou and Y. Brenier have proposed a dynamical formulation of the optimal transport problem, corresponding to the time-space search of a density and a momentum minimizing a transport energy between two densities. They proposed, in order to solve this problem in practice, to deal with it by looking for a saddle point of some Lagrangian by an augmented Lagrangian algorithm. Using the theory of non-expansive operators, we will study the convergence of this algorithm to a saddle point of the Lagrangian introduced, in the most general feasible conditions, particularly in cases where initial and final densities are canceling on some areas of the transportation domain. The principal difficulty of our study will consist of the proof, in these conditions, of the existence of a saddle point, and especially in the uniqueness of the density-momentum component. Indeed, these conditions imply to have to deal with non-regular optimal transportation maps: that is why an important part of our works will have for object a detailed study of the properties of the velocity field associated to an optimal transportation map in quadratic space. To finish, we will explore different approaches for introducing physical priors in the dynamical formulation of optimal transport, based on penalization of the transportation domain or of the velocity field.

No description available.

Cette thèse comprend deux parties indépendantes.Dans la première partie nous contribuons une nouvelle méthode qui, étant donnée un volume de tolérance, génère un maillage triangulaire surfacique garanti d’être dans le volume de tolérance, sans auto-intersection et topologiquement correct. Un algorithme flexible est conçu pour capturer la topologie et découvrir l’anisotropie dans le volume de tolérance dans le but de générer un maillage de faible complexité.Dans la seconde partie nous contribuons une nouvelle approche pour calculer une fonction de correspondance entre deux surfaces. Tandis que la plupart des approches précédentes procède par composition de correspondance avec un domaine simple planaire, nous calculons une fonction de correspondance en optimisant directement une fonction de sorte à minimiser la variance d’un plan de transport entre les surfaces / This thesis is divided into two independent parts.In the first part, we introduce a method that, given an input tolerance volume, generates a surface triangle mesh guaranteed to be within the tolerance, intersection free and topologically correct. A pliant meshing algorithm is used to capture the topology and discover the anisotropy in the input tolerance volume in order to generate a concise output. We first refine a 3D Delaunay triangulation over the tolerance volume while maintaining a piecewise-linear function on this triangulation, until an isosurface of this function matches the topology sought after. We then embed the isosurface into the 3D triangulation via mutual tessellation, and simplify it while preserving the topology. Our approach extends toDépôt de thèseDonnées complémentairessurfaces with boundaries and to non-manifold surfaces. We demonstrate the versatility and efficacy of our approach on a variety of data sets and tolerance volumes.In the second part we introduce a new approach for creating a homeomorphic map between two discrete surfaces. While most previous approaches compose maps over intermediate domains which result in suboptimal inter-surface mapping, we directly optimize a map by computing a variance-minimizing mass transport plan between two surfaces. This non-linear problem, which amounts to minimizing the Dirichlet energy of both the map and its inverse, is solved using two alternating convex optimization problems in a coarse-to-fine fashion. Computational efficiency is further improved through the use of Sinkhorn iterations (modified to handle minimal regularization and unbalanced transport plans) and diffusion distances. The resulting inter-surface mapping algorithm applies to arbitrary shapes robustly and efficiently, with little to no user interaction.

Les travaux portent sur l'étude d'équations aux dérivées partielles à la charnière de la physique de la mécanique des milieux continus et de la géométrie différentielle, le point de départ étant le modèle d'électromagnétisme non-linéaire introduit par Max Born et Leopold Infeld en 1934 comme substitut aux traditionnelles équations linéaires de Maxwell. Ces équations sont remarquables par leurs liens avec la géométrie différentielle (surfaces extrémales dans l'espace de Minkowski) et ont connu un regain d'intérêt dans les années 90 en physique des hautes énergies (cordes et D-branes).Le travail se décompose en quatre chapitres.La théorie des systèmes paraboliques dégénérés d'EDP non-linéaires est fort peu développée, faute de pouvoir appliquer les principes de comparaison habituels (principe du maximum), malgré leur omniprésence dans de nombreuses applications (physique, mécanique, imagerie numérique, géométrie...). Dans le premier chapitre, on montre comment de tels systèmes peuvent être parfois dérivés, asymptotiquement, à partir de systèmes non-dissipatifs (typiquement des systèmes hyperboliques non-linéaires), par simple changement de variable en temps non-linéaire dégénéré à l'origine (où sont fixées les données initiales). L'avantage de ce point de vue est de pouvoir transférer certaines techniques hyperboliques vers les équations paraboliques, ce qui semble à première vue surprenant, puisque les équations paraboliques ont la réputation d'être plus facile à traiter (ce qui n'est pas vrai, en réalité, dans le cas de systèmes dégénérés). Le chapitre traite, comme prototype, du curve-shortening flow", qui est le plus simple des mouvements par courbure moyenne en co-dimension supérieure à un. Il est montré comment ce modèle peut être dérivé de la théorie des surfaces de dimension deux d'aire extrémale dans l'espace de Minkowski (correspondant aux cordes relativistes classiques) qui peut se ramener à un système hyperbolique. On obtient, presque automatiquement, l'équivalent parabolique des principes d'entropie relative et d'unicité fort-faible qu'il est, en fait, bien plus simple d'établir et de comprendre dans le cadre hyperbolique.Dans le second chapitre, la même méthode s'applique au système de Born-Infeld proprement dit, ce qui permet d'obtenir, à la limite, un modèle (non répertorié à notre connaissance) de Magnétohydrodynamique (MHD), où on retrouve à la fois une diffusivité non-linéaire dans l'équation d'induction magnétique et une loi de Darcy pour le champ de vitesse. Il est remarquable qu'un système d'apparence aussi lointaine des principes de base de la physique puisse être si directement déduit d'un modèle de physique aussi fondamental et géométrique que celui de Born-Infeld.Dans le troisième chapitre, un lien est établi entre des systèmes paraboliques et le concept de flot gradient de formes différentielles pour des métriques de transport. Dans le cas des formes volumes, ce concept a eu un succès extraordinaire dans le cadre de la théorie du transport optimal, en particulier après le travail fondateur de Felix Otto et de ses collaborateurs. Ce concept n'en est vraiment qu'à ses débuts: dans ce chapitre, on étudie une variante du «curve-shortening flow» étudié dans le premier chapitre, qui présente l'avantage d'être intégrable (en un certain sens) et de conduire à des résultats plus précis.Enfin, dans le quatrième chapitre, on retourne au domaine des EDP hyperboliques en considérant, dans le cas particulier des graphes, les surfaces extrémales de l'espace de Minkowski, de dimension et co-dimension quelconques. On parvient à montrer que les équations peuvent se reformuler sous forme d'un système élargi symétrique du premier ordre (ce qui assure automatiquement le caractère bien posé des équations) d'une structure remarquablement simple (très similaire à l'équation de Burgers) avec non linéarités quadratiques, dont le calcul n'a rien d'évident. / Our work concerns about the study of partial differential equations at the hinge of the continuum physics and differential geometry. The starting point is the model of non-linear electromagnetism introduced by Max Born and Leopold Infeld in 1934 as a substitute for the traditional linear Maxwell's equations. These equations are remarkable for their links with differential geometry (extremal surfaces in the Minkowski space) and have regained interest in the 90s in high-energy physics (strings and D-branches).The thesis is composed of four chapters.The theory of nonlinear degenerate parabolic systems of PDEs is not very developed because they can not apply the usual comparison principles (maximum principle), despite their omnipresence in many applications (physics, mechanics, digital imaging, geometry, etc.). In the first chapter, we show how such systems can sometimes be derived, asymptotically, from non-dissipative systems (typically non-linear hyperbolic systems), by simple non-linear change of the time variable degenerate at the origin (where the initial data are set). The advantage of this point of view is that it is possible to transfer some hyperbolic techniques to parabolic equations, which seems at first sight surprising, since parabolic equations have the reputation of being easier to treat (which is not true , in reality, in the case of degenerate systems). The chapter deals with the curve-shortening flow as a prototype, which is the simplest exemple of the mean curvature flows in co-dimension higher than 1. It is shown how this model can be derived from the two-dimensional extremal surface in the Minkowski space (corresponding to the classical relativistic strings), which can be reduced to a hyperbolic system. We obtain, almost automatically, the parabolic version of the relative entropy method and weak-strong uniqueness, which, in fact, is much simpler to establish and understand in the hyperbolic framework.In the second chapter, the same method applies to the Born-Infeld system itself, which makes it possible to obtain, in the limit, a model (not listed to our knowledge) of Magnetohydrodynamics (MHD) where we have non-linear diffusions in the magnetic induction equation and the Darcy's law for the velocity field. It is remarkable that a system of such distant appearance of the basic principles of physics can be so directly derived from a model of physics as fundamental and geometrical as that of Born-Infeld.In the third chapter, a link is established between the parabolic systems and the concept of gradient flow of differential forms with suitable transport metrics. In the case of volume forms, this concept has had an extraordinary success in the field of optimal transport theory, especially after the founding work of Felix Otto and his collaborators. This concept is really only on its beginnings: in this chapter, we study a variant of the curve-shortening flow studied in the first chapter, which has the advantage of being integrable (in a certain sense) and lead to more precise results.Finally, in the fourth chapter, we return to the domain of hyperbolic EDPs considering, in the particular case of graphs, the extremal surfaces of the Minkowski space of any dimension and co-dimension. We can show that the equations can be reformulated in the form of a symmetric first-order enlarged system (which automatically ensures the well-posedness of the equations) of a remarkably simple structure (very similar to the Burgers equation) with quadratic nonlinearities, whose calculation is not obvious.

Sur une droite, le transport optimal ne pose pas de difficultés. Récemment, ce constat a été utilisé pour traiter des problèmes plus généraux. En effet, on a remarqué qu'une habile désintégration permet souvent de se ramener à la dimension un, ce qui permet d'utiliser les méthodes afférentes pour obtenir un premier résultat, que l'on fait ensuite évoluer pour gagner en précision.Je montre ici l'efficacité de cette approche, en revenant sur deux problèmes déjà résolus partiellement de cette manière, et en complétant la réponse qui en avait été donnée.Le premier problème concerne le calcul de l'application de Yann Brenier. En effet, Guillaume Carlier, Alfred Galichon et Filippo Santambrogio ont prouvé que celle-ci peut être obtenue grâce à une équation différentielle, pour laquelle une condition initiale est donnée par le réarrangement de Knothe--Rosenblatt (lui-même défini via une succession de transformations unidimensionnelles). Ils n'ont cependant traité que des mesures finales discrètes ; j'étends leur résultat aux cas continus. L'équation de Monge--Ampère, une fois dérivée, donne une EDP pour le potentiel de Kantorovitch; mais pour obtenir une condition initiale, il faut utiliser le théorème des fonctions implicites de Nash--Moser.Le chapitre 1 rappelle quelques résultats essentiels de la théorie du transport optimal, et le chapitre 2 est consacré au théorème de Nash--Moser. J'expose ensuite mes propres résultats dans le chapitre 3, et leur implémentation numérique dans le chapitre 4.Enfin, le dernier chapitre est consacré à l'algorithme IDT, développé par François Pitié, Anil C. Kokaram et Rozenn Dahyot. Celui-ci construit une application de transport suffisamment proche de celle de M. Brenier pour convenir à la plupart des applications. Une interprétation en est proposée en termes de flot de gradients dans l'espace des probabilités, avec pour fonctionnelle la distance de Wasserstein projetée. Je démontre aussi l'équivalence de celle-ci avec la distance usuelle de Wasserstein. / In dimension one, optimal transportation is rather straightforward. The easiness with which a solution can be obtained in that setting has recently been used to tackle more general situations, each time thanks to the same method. First, disintegrate your problem to go back to the unidimensional case, and apply the available 1D methods to get a first result; then, improve it gradually using some evolution process.This dissertation explores that direction more thoroughly. Looking back at two problems only partially solved this way, I show how this viewpoint in fact allows to go even further.The first of these two problems concerns the computation of Yann Brenier's optimal map. Guillaume Carlier, Alfred Galichon, and Filippo Santambrogio found a new way to obtain it, thanks to an differential equation for which an initial condition is given by the Knothe--Rosenblatt rearrangement. (The latter is precisely defined by a series of unidimensional transformations.) However, they only dealt with discrete target measures; I~generalize their approach to a continuous setting. By differentiation, the Monge--Ampère equation readily gives a PDE satisfied by the Kantorovich potential; but to get a proper initial condition, it is necessary to use the Nash--Moser version of the implicit function theorem.The basics of optimal transport are recalled in the first chapter, and the Nash--Moser theory is exposed in chapter 2. My results are presented in chapter 3, and numerical experiments in chapter 4.The last chapter deals with the IDT algorithm, devised by François Pitié, Anil C. Kokaram, and Rozenn Dahyot. It builds a transport map that seems close enough to the optimal map for most applications. A complete mathematical understanding of the procedure is, however, still lacking. An interpretation as a gradient flow in the space of probability measures is proposed, with the sliced Wasserstein distance as the functional. I also prove the equivalence between the sliced and usual Wasserstein distances.

Cette thèse porte sur deux aspects de la dépendance entre actifs financiers. La première partie concerne la dépendance entre vecteurs aléatoires. Le premier chapitre consiste en une comparaison d'algorithmes calculant l'application de transport optimal pour le coût quadratique entre deux probabilités sur R^n, éventuellement continues. Ces algorithmes permettent de calculer des couplages ayant une propriété de dépendance extrême, dits couplage de corrélation maximale, qui apparaissent naturellement dans la définition de mesures de risque multivariées. Le second chapitre propose une définition de la dépendance extrême entre vecteurs aléatoires s'appuyant sur la notion de covariogramme ; les couplages extrêmes sont caractérisés comme des couplages de corrélation maximale à modification linéaire d'une des marginales multivariées près. Une méthode numérique permettant de calculer ces couplages est fournie, et des applications au stress-test de dépendance pour l'allocation de portefeuille et la valorisation d'options européennes sur plusieurs sous-jacents sont détaillées. La dernière partie décrit la dépendance spatiale entre deux diffusions markoviennes, couplées à l'aide d'une fonction de corrélation dépendant de l'état des deux diffusions. Une EDP de Kolmogorov forward intégrée fait le lien entre la famille de copules spatiales de la diffusion et la fonction de corrélation. On étudie ensuite le problème de la dépendance spatiale atteignable par deux mouvements Browniens, et nos résultats montrent que certaines copules classiques ne permettent pas de décrire la dépendance stationnaire entre des mouvements Browniens couplés.

Nous étudions dans ce travail les mouvements de foule intervenant dans les situa- tions d’urgence. Nous proposons un modèle macroscopique (la foule est représentée par une densité de personnes) obéissant à deux principes très simples. Tout d’abord, chaque personne possède une vitesse souhaitée (typiquement celle qui la mène vers la sortie), qu’elle adopterait en l’absence des autres. Ensuite, la foule doit respecter une contrainte de congestion, et la densité de personnes doit rester inférieure à une valeur fixée. Cette contrainte impose une vitesse de déplacement différente de la vitesse souhaitée. Nous choisissons de prendre comme vitesse réelle celle qui est la plus proche, au sens des moindres carrés, de la vitesse souhaitée, parmi les champs de vitesses admissibles, au sens où ils respectent la contrainte de densité maximale. Le modèle obtenu s’écrit sous la forme d’une équation de transport impliquant une vitesse peu régulière a priori, et qui ne peut être étudiée par des méthodes classiques. Nous démontrons un résultat d’existence grâce à la théorie du transport optimal, tout d’abord dans le cas d’une vitesse donnée comme le gradient d’une fonction, puis dans le cas général. Nous mettons également en œuvre un schéma numérique de type catching-up : à chaque pas de temps, la densité est déplacée selon le champ de vitesse souhaitée, puis est projetée sur l’ensemble des densités admissibles. Les résultats obtenus fournissent des temps d’évacuation dont l’ordre de grandeur est proche de la réalité. / In this work, we aim at modelling crowd motion in emergency situations. We propose a macroscopic model (where people are represented as a density) following two basic principles. First, each individual has a spontaneous velocity (typically, the one which leads to the nearest exit) which would be fulfilled in the absence of other people. On the other hand, the crowd has to respect a congestion constraint, and its density must remain underneath a critical density. This constraint prevents people from following their desired velocity. The actual velocity we consider is the closest, in a mean square sense, to the desired one, among the velocities which respect the maximal density constraint.The mathematical formulation writes as a transport equation which cannot be studied with classical methods, since the real velocity field has no a priori regularity, even if the desired velocity is smooth. Thanks to the optimal transport theory, we prove an existence result, first in the case where the desired velocity is the gradient of a given function, and then in the general framework. We also propose a numerical scheme which follows the catching-up principle: at each time step, we move the density according to the spontaneous velocity, and then project it onto the space of admissible densities. The numerical results we obtain reproduce qualitatively the experimental observations

Le problème du transport optimal, originellement introduit par Monge au 18ème siècle, consiste à minimiser l'énergie nécessaire au déplacement d'une masse dont la répartition est donnée vers une autre masse dont la répartition est elle aussi donnée; mathématiquement, cela se traduit par : trouver le minimiseur de l'intégrale de c(x,T(x)) (où c est le coût de transport de x vers T(x)) parmi toutes les applications T à mesure image prescrite.Cette thèse est consacrée à l'étude de problèmes variationnels similaires où l'on fait intervenir la matrice jacobienne de la fonction de transport, c'est-à-dire que le coût dépend de trois variables c(x,T(x),DT(x)) ; il s'agit typiquement de rajouter l'intégale de |DT(x)|^2 à la fonctionnelle afin d'obtenir une pénalisation Sobolev. Ce type de problème trouve ses motivations en mécanique des milieux continus, élasticité incompressible ou en analyse de forme et appelle d'un point de vue mathématique une approche totalement différente de celle du problème de transport usuel.Les questions suivantes sont envisagées :- bonne définition du problème, notamment de l'énergie de Dirichlet, via les espaces de Sobolev par rapport à une mesure, et résultats d'existence de minimiseurs ;- caractérisation de ces minimiseurs : optimalité du transport croissant sur la droite réelle, et approche du type équation d'Euler-Lagrange en dimension quelconque ;- sélection d'un minimiseur via une procédure de pénalisation du type Gamma-convergence (l'énergie de Dirichlet est mutipliée par un petit paramètre) lorsque le coût de transport est le coût de Monge donné par la distance, pour lequel l'application de transport optimale n'est pas unique ;- autres approches du problème et perspectives : formulation dynamique du type Benamou-Brenier, et formulation duale similaire à celle de Kantorovitch dans le cas du problème du transport optimal usuel. / The optimal transportation problem was originally introduced by Monge in the 18th century; it consists in minimizing the total energy of the displacement of a given repartition of mass onto another given repartition of mass. This is mathematically expressed by: find the minimizer of the integral of c(x,T(x)) (where c(x,T(x)) is the cost to send x onto T(x)) among the maps T with prescribed image measure.This thesis is devoted to similar variational problems, which involve the Jacobian matrix of the transport map, meaning that the cost depends on three variables c(x,T(x),DT(x)); we typically add the Dirichlet energy to the transport functional in view to obtain a Sobolev-type penalization. This kind of constraints finds its motivations in continuum mechanics, incompressible elasticity or shape analysis, and a quite different mathematical approach than in the usual theory of optimal transportation is needed.We consider the following questions:- proper definition of the problem, in particular of the Dirichlet energy, thanks to the theory of Sobolev spaces with respect to a measure, and existence results;- characterizations of these minimizers: optimality of the monotone transport map on the real line, and Euler-Lagrange-like approach in any dimension;- selection of a minimizer via a Gamma-convergence-like penalization procedure (we multiply the Dirihlet energy with a vanishing positive parameter) where the transport cost is the Monge cost given by the distance (for which the optimal transport map is not unique);- other related problems and perspectives: dynamic Benamou-Brenier-like formulation, and dual Kantorovich-like formulation.