Dans cette thèse, nous développons un nouveau modèle de déformation pour étudier les formes. Les déformations, et les difféomorphismes en particulier, jouent un rôle fondamental dans l'étude statistique de formes, comme un moyen de mesurer et d'interpréter les différences entre des objets similaires. Les difféomorphismes résultent généralement d'une intégration d'un flot régulier de champs de vitesses, dont les paramètres n'ont jamais encore vraiment permis de contrôler localement les déformations. Nous proposons un nouveau modèle dans lequel les champs de vitesses sont construits grâce à la combinaison de quelques champs de vecteurs locaux et interprétables. Ces champs de vecteurs sont générés à l'aide d'une structure que nous appelons module de déformation. Un module de déformation génère un champ de vecteurs d'un type particulier (e.g. homothétie) choisi à l'avance: cela permet d'incorporer des contraintes dans le modèle de déformation. Ces contraintes peuvent correspondre à un savoir que l'on a sur les formes étudiées, ou à un point de vue à partir duquel on veut étudier ces formes. Dans un premier chapitre nous définissons les modules de déformation et nous en donnons des exemples variés. Nous expliquons également comment construire facilement un module de déformation adapté à des contraintes complexes en combinant des modules de déformations simples. Ensuite nous construisons des grandes déformations modulaires en tant que flot de champs de vecteurs générés par un module de déformation. Les champs de vecteurs générés par un module de déformation sont paramétrés par deux variables : une géométrique (descripteur géométrique) et une de contrôle. Nous associons également un coût à chaque couple de descripteur géométrique et de contrôle. Dans un deuxième chapitre nous expliquons comment utiliser un module de déformation donné pour étudier des formes. Nous construisons tout d'abord une structure sous-Riemannienne sur l'espace défini comme le produit de l'espace de formes et de celui des descripteurs géométriques. La métrique sous-Riemannienne vient du coût choisi : nous munissons le nouvel espace d'une métrique choisie, qui en générale n'est pas le pull-back d'une métrique sur les champs de vecteurs mais tient compte la manière dont les champs de vecteurs sont construits à partir des contraintes. Grâce à cette structure nous définissons une distance sous-Riemannienne et nous montrons l'existence des géodésiques (trajectoires dont la longueur vaut la distance entre les points de départ et d'arrivée). L'étude des géodésiques se ramène à un problème de contrôle optimal, elles peuvent être obtenues grâce à un formalisme Hamiltonien. En particulier nous montrons qu'elles peuvent être paramétrées par une variable initiale, le moment. Après cela nous présentons les grandes déformations modulaires optimales transportant une forme source sur une forme cible. Nous définissons également l'atlas modulaire d'une population de formes par la donnée d'une forme moyenne et d'une grande déformation modulaire par forme. Dans la discussion nous étudions un modèle alternatif dans lequel les géodésiques sont paramétrées en dimension plus petite. Dans un troisième chapitre nous présentons l'algorithme implémenté pour obtenir les grandes déformations ainsi que la descente de gradient estimant les atlas. Dans un dernier chapitre nous présentons plusieurs exemples numériques grâce auxquels nous étudions certains aspects de notre modèle. En particulier nous montrons que le choix du module de déformation utilisé influence la forme moyenne, et que choisir un module de déformation adapté permet d'effectuer simultanément des recalages rigides et non linéaires. Dans le dernier exemple nous étudions des formes sans a priori, nous utilisons donc un module correspondant à des contraintes faibles et nous montrons que l'atlas obtenu est toujours intéressant. / This thesis is dedicated to the development of a new deformation model to study shapes. Deformations, and diffeormophisms in particular, have played a tremendous role in the field of statistical shape analysis, as a proxy to measure and interpret differences between similar objects but with different shapes. Diffeomorphisms usually result from the integration of a flow of regular velocity fields, whose parameters have not enabled so far a full control of the local behaviour of the deformation. We propose a new model in which velocity fields are built on the combination of a few local and interpretable vector fields. These vector fields are generated thanks to a structure which we name deformation module. Deformation modules generate vector fields of a particular type (e.g. a scaling) chosen in advance: they allow to incorporate a constraint in the deformation model. These constraints can correspond either to an additional knowledge one would have on the shapes under study, or to a point of view from which one would want to study these shapes. In a first chapter we introduce this notion of deformation module and we give several examples to show how diverse they can be. We also explain how one can easily build complex deformation modules adapted to complex constraints by combining simple deformation modules. Then we introduce the construction of modular large deformations as flow of vector fields generated by a deformation module. Vector fields generated by a deformation module are parametrized by two variables: a geometrical one named geometrical descriptor and a control one. We build large deformations so that the geometrical descriptor follows the deformation of the ambient space. Then defining a modular large deformation corresponds to defining an initial geometrical descriptor and a trajectory of controls. We also associate a notion of cost for each couple of geometrical descriptor and control. In a second chapter we explain how we can use a given deformation module to study data shapes. We first build a sub-Riemannian structure on the space defined as the product of the data shape space and the space of geometrical descriptors. The sub-Riemannian metric comes from the chosen cost: we equip the new (shape) space with a chosen metric, which is not in general the pull-back of a metric on vector fields but takes into account the way vector fields are built with the chosen constraints. Thanks to this structure we define a sub-Riemannian distance on this new space and we show the existence, under some mild assumptions, of geodesics (trajectories whose length equals the distance between the starting and ending points). The study of geodesics amounts to an optimal control problem, and they can be estimated thanks to an Hamiltonian framework: in particular we show that they can be parametrized by an initial variable named momentum. Afterwards we introduce optimal modular large deformations transporting a source shape into a target shape. We also define the modular atlas of a population of shapes which is made of a mean shape, and one modular large deformation per shape. In the discussion we study an alternative model where geodesics are parametrized in lower dimension. In a third chapter we present the algorithm that was implemented in order to compute these modular large deformations and the gradient descent to estimate the optimal ones as well as mean shapes. In a last chapter we introduce several numerical examples thanks to which we study specific aspects of our model. In particular we show that the choice of the used deformation module influences the form of the estimated mean shape, and that by choosing an adapted deformation module we are able to perform in a satisfying and robust way simultaneously rigid and non linear registration. In the last example we study shapes without any prior knowledge, then we use a module corresponding to weak constraints and we show that the atlas computation still gives interesting results.

Le thème central de cette thèse est l'étude et le rôle des<br />trajectoires anormales en théorie du contrôle optimal.<br /><br />Après avoir rappelé quelques résultats fondamentaux en contrôle<br />optimal, on étudie l'optimalité des<br />anormales pour des systèmes affines mono-entrée avec contrainte<br />sur le contrôle, d'abord pour le problème du temps optimal, puis<br />pour un coût quelconque à temps final fixé ou non.<br />On étend cette théorie aux<br />systèmes sous-Riemanniens de rang 2, montrant qu'on se ramène<br />à un système affine du type précédent.<br />Ces résultats montrent que,<br />sous des conditions générales, une trajectoire anormale est<br />\it{isolée} parmi toutes les solutions du système ayant les mêmes<br />conditions aux limites, et donc \it{localement optimale}, jusqu'à<br />un premier point dit \it{conjugué} que l'on peut caractériser.<br /><br />On s'intéresse ensuite<br />au comportement asymptotique et à la<br />régularité de la fonction valeur associée à un système affine<br />analytique avec un coût quadratique. On montre que, en<br />l'absence de trajectoire<br />anormale minimisante, la fonction valeur est<br />\it{sous-analytique et continue}. S'il existe une anormale<br />minimisante, on sort de la catégorie sous-analytique en général,<br />notamment en géométrie sous-Riemannienne. La présence d'une<br />anormale minimisante est responsable de la \it{non-propreté} de<br />l'application exponentielle, ce qui provoque un phénomène de<br />\it{tangence} des ensembles de niveaux de la fonction valeur par<br />rapport à la direction anormale. Dans le cas affine mono-entrée<br />ou sous-Riemannien de rang 2, on décrit précisément ce<br />contact, et on en déduit une partition de la<br />sphère sous-Riemannienne au voisinage de l'anormale<br />en deux secteurs appelés \it{secteur<br />$L^\infty$} et \it{secteur $L^2$}.\\ <br />La question de transcendance est étudiée dans le cas<br />sous-Riemannien de Martinet où la distribution est<br />$\Delta=\rm{Ker }(dz-\f{y^2}{2}dx)$. On montre que<br />pour une métrique générale graduée d'ordre $0$~:<br />$g=(1+\alpha y)^2dx^2+(1+\beta x+\gamma y)^2dy^2$,<br />les sphères de petit rayon<br />\it{ne sont pas sous-analytiques}. Dans le cas général<br />intégrable où $g=a(y)dx^2+c(y)dy^2$, avec $a$ et $c$ analytiques,<br />les sphères de Martinet appartiennent à la<br />\it{catégorie log-exp}.

Dans cette thèse, on présente une notion de courbure géodésique pour les courbes lisses horizontales dans une variété sous-Riemannienne de contact, qui indique dans quelle mesure une courbe est différente d'une géodésique. Cette courbure géodésique se présente sous la forme de deux fonctions qui sont toutes deux identiquement nulles le long d'une courbe lisse horizontale si et seulement si cette dernière courbe est une géodésique. Le résultat principal de cette thèse réside dans l'interprétation métrique que l'on donne de ces fonctions de courbure. Cette interprétation consiste à extraire la courbure géodésique des premiers termes de correction dans le développement limité de la distance sous-Riemannienne entre deux points proches le long de la courbe. / We present a notion of geodesic curvature for smooth horizontal curves in a contact sub-Riemannian manifold, measuring how far a horizontal curve is from being a geodesic. This geodesic curvature consists in two functions that both vanish along a smooth horizontal curve if and only if this curve is a geodesic. The main result of this thesis is the metric interpretation of these geodesic curvature functions. This interpretation consists in seeing the geodesic curvature functions as the first corrective coefficients in the Taylor expansion of the sub-Riemannian distance between two close points on the curve.

Nous étudions la commandabilité du système de contrôle décrivant le procédé de roulement, sans glissement ni pivotement, de deux variétés riemanniennes n-dimensionnelles, l'une sur l'autre. Ce modèle est étroitement associé aux concepts de développement et d'holonomie des variétés, et il se généralise au cas de deux variétés affines. Les contributions principales sont celles données dans quatre articles, attachés à la fin de la thèse.Le premier d'entre eux «Rolling manifolds and Controllability : the 3D case»traite le cas où les deux variétés sont 3-dimensionelles. Nous donnons alors, la liste des cas possibles pour lesquelles le système n'est pas commandable.Dans le deuxième papier «Rolling manifolds on space forms», l'une des deux variétés est supposée être de courbure constante. On peut alors réduire l'étude de commandabilité à l'étude du groupe d'holonomie d'une certaine connexion vectorielle et on démontre, par exemple, que si la variété à courbure constante est une sphère n-dimensionelle et si ce groupe de l'holonomie n'agit pas transitivement, alors l'autre variété est en fait isométrique à la sphère.Le troisième article «A Characterization of Isometries between Riemannian Manifolds by using Development along Geodesic Triangles» décrit, en utilisant le procédé de roulement (ou développement) le long des lacets, une version alternative du théorème de Cartan-Ambrose-Hicks, qui caractérise, entre autres, les isométries riemanniennes. Plus précisément, on prouve que si on part d'une certaine orientation initiale, et si on ne roule que le long des lacets basés au point initial (associé à cette orientation), alors les deux variétés sont isométriques si (et seulement si) les chemins tracés par le procédé de roulement sur l'autre variété, sont tous des lacets.Finalement, le quatrième article «Rolling Manifolds without Spinning» étudie le procédé de roulement et sa commandabilité dans le cas où l'on ne peut pas pivoter. On caractérise alors les structures de toutes les orbites possibles en termes des groupes d'holonomie des variétés en question. On montre aussi qu'il n'existe aucune structure de fibré principal sur l'espace d'état tel que la distribution associée à ce modèle devienne une distribution principale, ce qui est à comparer notamment aux résultats du deuxième article.Par ailleurs, dans la troisième partie de cette thèse, nous construisons soigneusement le modèle de roulement dans le cadre plus général des variétés affines, ainsi que dans celui des variétés riemanniennes de dimensiondifférente. / We study the controllability of the control system describing the rolling motion, without slipping nor spinning, of two n-dimensional Riemannian manifolds, one against the other.This model is closely related to the concepts of development and holonomy of the manifolds, and it generalizes to the case of affine manifolds.The main contributions are those given in four articles attached to the the thesis.First of them "Rolling manifolds and Controllability: the 3D case"deal with the case where the two manifolds are 3-dimensional. We give the listof all the possible cases for which the system is not controllable.In the second paper "Rolling manifolds on space forms"one of the manifolds is assumed to have constant curvature.We can then reduce the study of controllability to the study of the holonomy groupof a certain vector bundle connection and we show, for example, thatif the manifold with the constant curvature is an n-sphere and ifthis holonomy group does not act transitively,then the other manifold is in fact isometric to the sphere.The third paper "A Characterization of Isometries between Riemannian Manifolds by using Development along Geodesic Triangles"describes, by using the rolling motion (or development) along the loops,an alternative version of the Cartan-Ambrose-Hicks Theorem,which characterizes, among others, the Riemannian isometries.More precisely, we prove that if one starts from a certain initial orientation,and if one only rolls along loops based at the initial point (associated to this orientation),then the two manifolds are isometric if (and only if) the pathstraced by the rolling motion on the other manifolds, are all loops.Finally, the fourth paper "Rolling Manifolds without Spinning"studies the rolling motion, and its controllability, when slipping is allowed.We characterize the structure of all the possible orbits in terms of the holonomy groupsof the manifolds in question. It is also shown that there does not exist anyprincipal bundle structure such that the related distribution becomes a principal distribution,a fact that is to be compared especially to the results of the second article.Furthermore, in the third chapter of the thesis, we construct carefully the rolling modelin the more general framework of affine manifolds, as well as that of Riemannian manifolds,of possibly different dimensions.

Nous étudions la commandabilité du système de contrôle décrivant le procédé de roulement, sans glissement ni pivotement, de deux variétés riemanniennes n-dimensionnelles, l'une sur l'autre. Ce modèle est étroitement associé aux concepts de développement et d'holonomie des variétés, et il se généralise au cas de deux variétés affines. Les contributions principales sont celles données dans quatre articles, attachés à la fin de la thèse.Le premier d'entre eux "Rolling manifolds and Controllability : the 3D case"traite le cas où les deux variétés sont 3-dimensionelles. Nous donnons alors, la liste des cas possibles pour lesquelles le système n'est pas commandable.Dans le deuxième papier "Rolling manifolds on space forms", l'une des deux variétés est supposée être de courbure constante. On peut alors réduire l'étude de commandabilité à l'étude du groupe d'holonomie d'une certaine connexion vectorielle et on démontre, par exemple, que si la variété à courbure constante est une sphère n-dimensionelle et si ce groupe de l'holonomie n'agit pas transitivement, alors l'autre variété est en fait isométrique à la sphère.Le troisième article "A Characterization of Isometries between Riemannian Manifolds by using Development along Geodesic Triangles" décrit, en utilisant le procédé de roulement (ou développement) le long des lacets, une version alternative du théorème de Cartan-Ambrose-Hicks, qui caractérise, entre autres, les isométries riemanniennes. Plus précisément, on prouve que si on part d'une certaine orientation initiale, et si on ne roule que le long des lacets basés au point initial (associé à cette orientation), alors les deux variétés sont isométriques si (et seulement si) les chemins tracés par le procédé de roulement sur l'autre variété, sont tous des lacets.Finalement, le quatrième article "Rolling Manifolds without Spinning" étudie le procédé de roulement et sa commandabilité dans le cas où l'on ne peut pas pivoter. On caractérise alors les structures de toutes les orbites possibles en termes des groupes d'holonomie des variétés en question. On montre aussi qu'il n'existe aucune structure de fibré principal sur l'espace d'état tel que la distribution associée à ce modèle devienne une distribution principale, ce qui est à comparer notamment aux résultats du deuxième article.Par ailleurs, dans la troisième partie de cette thèse, nous construisons soigneusement le modèle de roulement dans le cadre plus général des variétés affines, ainsi que dans celui des variétés riemanniennes de dimensiondifférente.

Cette thèse est consacrée à l’étude du problème de transport de Monge pour le coût quadratique en géométrie sous-Riemannienne et des conditions essentielles à l’obtention des résultats d’existence et et d’unicité de solutions. Ces travaux consistent à étendre ces résultats au cas des structures sous-Riemanniennes admettant des géodésiques minimisantes singulières. Dans une première partie, on développe des techniques inspirées de travaux de Cavalletti et Huesmann pour d’obtenir des résultats significatifs pour des structures de rang 2 en dimension 4. Dans une deuxième partie, on étudie des outils analytiques de la h-semiconcavité de la distance sousriemannienne et on montre comment ce type de régularité peut aboutit à l’obtention d’existence et d’unicité de solutions dans un cas général. / This thesis is devoted to the study of the Monge transport problem for the quadratic cost in sub-Riemannian geometry and the essential conditions to obtain existence and uniqueness of solutions. These works consist in extending these results to the case of sub-Riemannian structures admitting singular minimizing geodesics. In a first part, we develop techniques inspired by works by Cavalletti and Huesmann in order to obtain significant results for structures of rank 2 in dimension 4. In a second part, we study analytical tools of the h-semiconcavity of the sub-Riemannian distance and we show how this type of regularity can lead to the well-posedness of the Monge problem in general cases.

Cette thèse est dédiée à l’étude de la géométrie sous-riemannienne en dimension infinie, et à ses applications à l’analyse des déformations par difféomorphismes. La première partie du manuscrit est un résumé détaillé des travaux effectués. La seconde compile les articles rédigés pendant ces trois dernières années. On étend d’abord à la dimension infinie le cadre de la géométrie sous-riemannienne classique, en établissant notamment des conditions assurant l’existence d’un flot géodésique. Puis, on applique ces résultats aux structures sous-riemanniennes fortes et invariantes à droite sur le groupe des difféomorphismes d’une variété. On définit ensuite rigoureusement les espaces de formes, notion jusqu’alors assez vague dans la littérature. Il s’agit de variétés de Banach sur lesquelles un groupe de difféomorphismes a une action satisfaisant certaines propriétés. On construit alors diverses structures sous-riemanniennes sur ces espaces de formes grâce à cette action. Enfin, on ajoute des contraintes aux déformations possibles et on formule les problèmes d’analyse de formes dans un cadre relevant de la théorie du contrôle optimal en dimension infinie. On démontre un principe du maximum de type Pontryagin adapté à ce contexte, permettant d’établir les équations géodésiques contraintes. Des algorithmes pour la recherche de déformations optimales sont ensuite développés et appuyés par des simulations numériques dans le chapitre 7. Ils unifient et étendent des méthodes précédemment établies pour l’analyse de formes dans le domaine de l’image. / This manuscript is dedicated to the study of infinite dimensional sub-Riemannian geometry and its applications to shape analysis using dieomorphic deformations. The first part is a detailed summary of our work, while the second part combines the articles we wrote during the last three years. We first extend the framework of sub- Riemannian geometry to infinite dimensions, establishing conditions that ensure the existence of a Hamiltonian geodesic flow. We then apply these results to strong right- invariant sub-Riemannian structures on the group of diffeomorphisms of a manifold. We then define rigorously the abstract concept shape spaces. A shape space is a Banach manifold on which the group of diffeomorphisms of a manifold acts in a way that satisfy certain properties. We then define several sub-Riemannian structures on these shape spaces using this action, and study these. Finally, we add constraints to the possible deformations, and formulate shape analysis problems in an infinite dimensional control theoritic framework. We prove a Pontryagin maximum principle adapted to this context, establishing the constrained geodesic equations. Algorithms for fin- ding optimal deformations are then developped, supported by numerical simulations. These algorithms extend and unify previously established methods in shape analysis.

Cette thèse traite de deux problèmes qui ont leur origine dans la théorie du contrôle géométrique, et qui concernent les systèmes de contrôle avec dérive, c'est-à-dire de la forme $\dot q= f_0(q)+\sum_{j=1}^m u_j f_j(q)$. Dans la première partie de la thèse, on généralise le concept de complexité de courbes non-admissibles, déjà bien compris pour les systèmes sous-riemanniens, au cas des systèmes de contrôle avec dérive, et on donne des estimations asymptotiques de ces quantités. Ensuite, dans la deuxième partie, on considère une famille de systèmes de contrôle sans dérive en dimension 2 et on s'intéresse à l'operateur de Laplace-Beltrami associé et à l'évolution de la chaleur et des particules quantiques qu'il définit. On étudie plus particulièrement l'effet qu'a l'ensemble où les champs de vecteurs contrôlés deviennent colinéaires sur ces évolutions.

Nous étudions les relations qui existent entre des aspects de la géométrie sous-riemannienne et une diversité de singularités typiques dans ce contexte.Avec les théorèmes de Whitney sous-riemanniens, nous conditionnons l’existence de prolongements globaux de courbes horizontales définies sur des fermés à des hypothèses de non-singularité de l’application point-final dans l’approximation nilpotente de la variété.Nous appliquons des méthodes perturbatives pour obtenir des asymptotiques sur la longueur de courbes localement minimisantes perdant leur optimalité proche de leur point de départ dans le cas des variétés sous-riemanniennes de contact de dimension arbitraire. Nous décrivons la géométrie du lieu singulier et prouvons sa stabilité dans le cas des variétés de dimension 5.Nous introduisons une construction permettant de définir des champs de directions à l’aide de couples de champs de vecteurs. Ceci fournit une topologie naturelle pour analyser la stabilité des singularités de champs de directions sur des surfaces. / We investigate the relationship between features of of sub-Riemannian geometry and an array of singularities that typically arise in this context.With sub-Riemannian Whitney theorems, we ensure the existence of global extensions of horizontal curves defined on closed set by requiring a non-singularity hypothesis on the endpoint-map of the nilpotent approximation of the manifold to be satisfied.We apply perturbative methods to obtain asymptotics on the length of short locally-length-minimizing curves losing optimality in contact sub-Riemannian manifolds of arbitrary dimension. We describe the geometry of the singular set and prove its stability in the case of manifolds of dimension 5.We propose a construction to define line fields using pairs of vector fields. This provides a natural topology to study the stability of singularities of line fields on surfaces.

Ce mémoire s'organise autour de deux cadres d'étude : d'une part, celui des espaces symétriques riemanniens non compacts X = G/K, pour lesquels nous prouvons un encadrement optimal et global en les variables d'espace et de temps, du noyau de la chaleur associé à l'opérateur de Laplace-Beltrami L ; d'autre part, dans le cas d'un groupe de Lie semi-simple G, nous montrons que tous les sous-laplaciens sur G qui induisent l'action de L sur X = G/K présentent des analogies avec L vis-à-vis de l'équation de la chaleur : le bas de leur spectre L^2 est le même, les distances de Carnot-Carathéodory associées sont comparables à la métrique riemannienne sur X et, surtout, les noyaux de la chaleur sont tous comparables (en temps grand) au noyau de la chaleur sur X. Nous en déduisons en particulier des encadrements très précis des noyaux de la chaleur dans ce cadre, ainsi que des fonctions de Green correspondantes.