Ce travail de thèse constitue une première étape vers l'élaboration d'un simulateur cellulaire destiné aux biologistes. Nous proposons une approche dynamique en trois dimensions pour la modélisation de systèmes biologiques en combinant des mécanismes d'origine diverse (élasticité cellulaire, dynamique du cytosquelette, réactions chimiques) à différentes échelles de temps (de la seconde à la minute) et d'espace (depuis l'intérieur de la cellule jusqu'à une population de cellules). Une relation explicite est ainsi établie entre les réactions chimiques hébergées par la cellule et la dynamique de son mouvement tout en considérant les signaux extracellulaires. Nous nous intéressons également aux lois d'interaction entre objets biologiques et nous attachons à décrire différents types de contacts (cellule-cellule, cellule-substrat), leur évolution dynamique (glissement, roulement) et les conséquences sur l'architecture de la cellule ou du tissu.

La thèse concerne l'étude des déformations cellulaires à travers 2 approches complémentaires, expérimentale et théorique. motivées par la mise en évidence lors de travaux antérieurs, de l'existence d'une certaine auto-organisation des schémas des déformations membranaires pour des cellules arrondies. Nous avons choisi de nous intéresser ici au cas de fibroblastes L929 qui présentent une organisation plus complexe du cytosquelette. La caractérisation expérimentale a été réalisée à partir de séquences d'images vidéomicroscopiques. Les données morphodynamiques des cellules ont été extraites des séquences par 2 méthodes : (i) une segmentation des contours et (ii) une méthode de flot optique. Les résultats montrent que les cellules présentent le plus souvent des morphologies symétriques caractérisées dynamiquement par un mouvement pulsant synchronisé et périodique. Sur le plan théorique, nous nous sommes intéressés à un modèle cytomécanique des déformations décrivant la dynamique de poly/dépolymérisation de l'actine en relation avec les interactions mécaniques entre la membrane et le cytosquelette. Les simulations montrent la capacité du modèle à générer qualitativement des états pulsants tels qu'observés. Deux extensions du modèle ont alors été proposées pour prendre en compte : (i) l'interaction cellule-cellule caractérisée par l'inhibition de l'activité protrusive et (ii) la migration cellulaire par chimiotaxie, en agissant dans les 2 cas sur les propriétés mécaniques de la membrane et du cortex. Des comportements cellulaires réalistes ont ainsi pu être simulés. Finalement, une nouvelle formulation du modèle initial a été proposée pour modéliser les longs prolongements membranaires des fibroblastes. Le travail réalisé permet en particulier de proposer la possibilité d'utiliser les paramètres morphodynamiques comme critères d'identification des phénotypes cellulaires.