Cette thèse propose une étude du comportement des tissus mous intra-orbitaires dans le cadre du traitement des exophtalmies, caractérisées par une protrusion du globe oculaire. La partie chirurgicale de ce traitement consiste en une décompression de l'orbite par le biais d'une ostéotomie des parois orbitaires pour réduire la protrusion du globe. Nos travaux visent à prédire les relations entre le volume des tissus décompressés, la surface d'ostéotomie et le recul oculaire résultant pour apporter une aide au planning chirurgical. Pour cela, deux modèles ont été développés. Le premier est un modèle analytique simple de l'orbite assimilant les parois orbitaires à un cône et le globe à une sphère. Il permet de déterminer de façon satisfaisante le volume décompressé en fonction du recul souhaité. Le deuxième est un modèle biomécanique des tissus mous intra-orbitaires et de leurs interactions avec les parois osseuses et le globe. Il s'agit d'un maillage Eléments Finis utilisant un matériau poroélastique et prenant en compte la morphologie de l'orbite du patient, les propriétés mécaniques des tissus mous. Il permet de quantifier le recul oculaire et le volume de tissus décompressés en fonction de l'effort (ou du déplacement) imposé par le chirurgien et de l'ostéotomie (surface et position). Ses résultats sont relativement intéressants et permettent d'évaluer le comportement des tissus intra-orbitaires. La méthode de génération automatique de maillage éléments finis, développée dans cette thèse, a permis d'effectuer différentes simulations d'ostéotomies et de conclure que la morphologie de l'orbite patient a un impact sur le recul et le volume décompressé et que l'influence de la surface d'ostéotomie est modérée. Une analyse rhéologique des tissus mous orbitaires a été effectuée. Les tests in vitro ont permis de poser les bases de futures mesures. Les tests in vivo, réalisés avec un capteur ad hoc, ont déterminé la raideur des tissus mous. Bien que les modèles présentés dans cette thèse ne soient pas encore utilisables dans le cadre d'un planning chirurgical, ils fournissent des résultats satisfaisants et une bonne estimation des phénomènes observés lors d'une décompression orbitaire.

Les techniques de chirurgie assistée par ordinateur suscitent depuis quelques années un vif intérêt, depuis l’aide au diagnostic jusqu’à l’intervention chirurgicale elle-même, en passant pas les prises de décision. Dans ce but, l’Analyse par Éléments Finis (AEF) du comportement de modèles biomécaniques tridimensionnels est une des méthodes numériques les plus utilisées et les plus efficaces. Cependant, la fiabilité des solutions de l’AEF dépend fortement de la qualité et de la finesse de la représentation des organes sous la forme de maillages d'éléments finis (MEF). Or la génération de tels maillages peut être extrêmement longue et exigeante en ressources computationnelles, car il est nécessaire de procéder à l’extraction précise de la géométrie de l’organe-cible à partir d’images médicales avant de recourir à des algorithmes sophistiqués de maillage. Confrontés à ces enjeux, certains travaux se sont attachés à éviter la procédure de maillage en exploitant des méthodes fondées pour chaque patient sur la déformation géométrique d’un maillage défini sur un sujet de référence, dit « Atlas ». Mais ces méthodes nécessitent toujours une description géométrique précise de l’organe-cible du patient, sous la forme de contours, de modèles surfaciques tridimensionnels ou d’un ensemble de points de référence. Dans ce contexte, le but de la thèse est de développer une méthodologie de conception automatique de maillages « patient-spécifiques », basée sur un Atlas, mais évitant cette étape de segmentation de la géométrie de l’organe-cible du patient. Dans une première partie de la thèse, nous proposons une méthode automatique qui, dans une première phase, procède au recalage volumétrique de l'image anatomique de l’Atlas sur celle du patient, afin d’extraire la transformation géométrique permettant de passer de l’Atlas au patient, puis, dans une seconde phase, déforme le maillage de l’Atlas et l’adapte au patient en lui appliquant cette transformation. Le processus de recalage est conçu de telle manière que la transformation géométrique préserve la régularité et la haute qualité du maillage. L’évaluation de notre méthode, à savoir l'exactitude du processus de recalage inter-sujets, s’est faite en deux étapes. Nous avons d’abord utilisé un ensemble d’images CT de la cage thoracique, en accès libre. Puis nous avons exploité des données IRM de la langue que nous avons recueillies pour deux sujets sains et deux patients souffrant de cancer de la langue, en condition pré- et post-opératoire.Dans une seconde partie, nous développons une nouvelle méthode, toujours basée sur un Atlas, qui exploite à la fois l'information fournie par les images anatomiques et celle relative à la disposition des fibres musculaires telles qu’elle est décrite par imagerie par résonance magnétique du tenseur de diffusion (RM-DT). Cette nouvelle démarche s’appuie ainsi, d’abord sur le recalage anatomique proposé dans notre première méthode, puis sur l’identification et le recalage d’un ensemble de faisceaux de fibres musculaires qui seront ensuite intégrés aux maillages « patient-spécifiques ». Contrairement aux techniques usuelles de recalage d’images RM-DT, qui impliquent pour chaque image la réorientation des tenseurs de diffusion soit au cours de l'estimation de la transformation géométrique, soit après celle-ci, notre technique ne nécessite pas cette réorientation et recale directement les faisceaux de fibres de l’Atlas sur ceux du patient. Notre démarche est très importante, car la détermination et l’identification précises de toutes les sous-structures musculaires nécessiteraient une intervention manuelle pour analyser des milliers, voire des millions, de fibres, qui sont grandement influencées par les limitations et aux distorsions inhérentes aux images RM-DT et aux techniques de tractographie des fibres. L’efficacité de notre méthodologie est démontrée par son évaluation sur un ensemble d’images IRM et RM-DT de la langue d’un sujet. / During the last years, there has been considerable interest in using computer-aided medical design, diagnosis, and decision-making techniques that are rapidly entering the treatment mainstreams. Finite Element Analysis (FEA) of 3D models is one of the most popular and efficient numerical methods that can be utilized for solving complex problems like deformation of soft tissues or orthopedic implant designs/configurations. However, the accuracy of solutions highly depends upon the quality and accuracy of designed Finite Element Meshes (FEMs). The generation of such high-quality subject/patient-specific meshes can be extremely time consuming and labor intensive as the process includes geometry extraction of the target organ and meshing algorithms. In clinical applications where the patient specifiity has to be taken into account via the generation of adapted meshes these problems become methodological bottlenecks. In this context, various studies have addressed these challenges by bypassing the meshing phase by employing atlas-based frameworks using the deformation of an atlas FE mesh. However, these methods still rely on the geometrical description of the target organ, such as contours, 3D surface models, or a set of land-marks.In this context, the aim of this thesis is to investigate how registration techniques can overcome these bottlenecks of atlas-based approaches.We first propose an automatic atlas-based method that includes the volumetric anatomical image registration and the morphing of an atlas FE mesh. The method extracts a 3D transformation by registering the atlas' volumetric image to the subject's one. The subject-specific mesh is then generated by deforming a high-quality atlas FE mesh using the derived transformation. The registration process is designed is such a way to preserve the regularity and the quality of meshes for subsequent FEAs. A first step towards the evaluation of our approach, namely the accuracy of the inter-subject registration process, is provided using a data set of CT ribcage. Then, subject-specific tongue meshes are generated for two healthy subjects and two patients suffering from tongue cancer, in pre- and post-surgery conditions. In order to illustrate a tentative fully automatic process compatible with the clinical constraints, some functional consequences of a tongue surgery are simulated for one of the patients, where the removal of the tumor and the replacement of the corresponding tissues with a passive flap are modeled. With the extraction of any formal priorknowledge on the shape of the target organ and any meshing algorithm, high-quality subject-specific FE meshes are generated while subject’s geometrical properties are successfully captured.Following this method, we develop an original atlas-based approach that employs the information provided by the anatomical images and diffusion tensor imaging (DTI) based muscle fibers for the recognition and registration of fiber-bundles that can be integrated in the subject-specific FE meshes. In contrast to the DT MR images registration techniques that include reorientation of tensors within or after the transformation estimation, our methodology avoids this issue and directly aligns fiber-bundles. This also enables one to handel limited or distorted DTIs by deformation of an atlas fibers’ structure according to the most reliable and non-distorted subject’s ones. Such a manner becomes very important, since the classification and the determination of muscular sub-structures need manual intervention of thousands or millions of fibers for each subject, which are influenced by the limitations associated with the DTI image acquisition process and fiber tractography techniques. To evaluate the performance of our method in the recognition of subject’s fiber-bundles and accordingly in the deformation of the atlas ones, a simulated data set is utilized. In addition, feasibility of our method is demonstrated on acquired human tongue data set.