Le principal sujet de cette thèse est la mise au point d'algorithmes de recalage rigide de surfaces au sein de VirtualScope, un système de guidage per-opératoire dédié au percement des axes des implants dentaires. Elle est basée sur une approche purement statistique, qui, en essayant de maximiser la vraisemblance calculée à partir d'une modélisation explicite du bruit, permet de justifier l'utilisation de l'ICP pour le recalage d'amers géométriques, puis de proposer l'ICP/EM multi-échelles, un peu plus précis et surtout beaucoup plus robuste et rapide. De nouveaux modèles de bruits sont proposés pour adapter l'algorithme aux surfaces échantillonnées et bruitées. La prédiction théorique de l'incertitude est abordée, et permet en particulier de guider l'acquisition des données. L'étude expérimentale très poussée des performances de l'algorithme permet de régler efficacement ses paramètres, mettre au point des systèmes de sécurité, et garantir ainsi un fonctionnement parfaitement satisfaisant au sein de VirtualScope. La seconde partie de cette thèse aborde plus généralement le problème de la modélisation statistique des courbes et surfaces échantillonnées bruitées. En regroupant les travaux sur la saillance et le vote de tenseurs, elle présente la notion de champs de vote, qui permet d'exprimer la probabilité d'un élément de la courbe ou surface connaissant un autre élément. Elle donne des exemples rudimentaires mais facilement programmables de champs de votes, qui prennent en compte la forme de la surface et la façon dont les points ont été échantillonnés et bruités. Elle montre comment les appliquer avec succès au problème du recalage, puis indique comment ils pourraient servir pour dériver des algorithmes bayésiens pour de nombreuses autres applications concernant les courbes et surfaces. Ces travaux seraient alors susceptibles de déboucher sur la mise au point d'un canevas statistique et multi-échelles commun à toutes ces méthodes.

Les travaux de recherche présentés pour l'habilitation à diriger des recherches, visent à proposer de nouveaux outils pour simuler des interventions médicales et chirurgicales. Ces outils ont plusieurs applications dont l'amélioration de la formation des praticiens, la planification d'interventions pour la préparation et la validation d'une thérapie ou encore l'assistance au geste médical durant une intervention. Or, pour simuler ces interventions de manière réaliste voire prédictive, il faut tenir compte de la déformation des structures anatomiques et des interactions mécaniques entre les outils et les organes. En même temps, la simulation doit être interactive et calculée en temps-réel pour garder le geste du praticien dans la boucle de la simulation. Le défi majeur de notre travail est donc de garantir un calcul précis au niveau de la simulation tout en gardant un temps de calcul très court, qui soit compatible avec le temps-réel. D'abord, nous proposons une formulation optimisée de la méthode par éléments finis (FEM) et de nouveaux outils numériques (pré-conditionneurs, couplage entre modèles...) dédiés à au calcul FEM temps-réel. Cette approche est utilisée pour calculer la biomécanique des déformations des tissus anatomiques et les instruments flexibles. Nous abordons ensuite un autre point clé de ces simulations que sont les conditions aux limites. Les interactions mécaniques entre organes et/ou entre les outils chirurgicaux et les tissus sont souvent complexes à modéliser. Or, une mauvaise prise en compte de ces interactions peut aboutir à des erreurs importantes. Notre approche suit les bases de la mécanique non-régulière pour gérer, notamment, le contact et le frottement entre solides. Nous étendons l'approche à d'autres modèles d'interaction (comme l'insertion d'aiguille par exemple). Dans ce contexte, nous mettons l'accent sur le calcul de la compliance des structures en temps-réel. Par ailleurs, pour certaines interventions où le retour visuel n'est pas parfait, le praticien se guide aussi avec le sens du toucher. Il est donc important de reproduire au moins partiellement cette sensation - dite haptique - avec des interfaces à retour d'effort, pilotée à partir des données de la simulation. Dans ce domaine, nous proposons une approche centrée sur le rendu haptique des interactions mécaniques entre outil chirurgical et tissus humain. Cette approche se base notamment sur une désynchronisation du calcul de la boucle de simulation et de la boucle de retour d'effort qui demande un rafraichissement à haute fréquence (1kHz). Finalement, nous présentons ces résultats de recherche sur des exemples concrets d'application et nous présentons les défis à venir pour permettre à la simulation de devenir un outil utilisé par les praticiens à l'avenir. Le manuscrit est en anglais.