Plusieurs modèles pharmacocinétiques-pharmacodynamiques moléculaires ont été proposés au cours des dernières décennies afin de représenter et de prédire les effets d'un médicament dans les chimiothérapies anticancéreuses. La plupart de ces modèles ont été développés au niveau de la population de cellules, puisque des effets mesurables peuvent y être observés beaucoup plus facilement que dans les cellules individuelles.Cependant, les véritables cibles moléculaires des médicaments se trouvent au niveau de la cellule isolée. Les médicaments utilisés soit perturbent l'intégrité du génome en provoquant des ruptures de brins de l'ADN et par conséquent initialisent la mort cellulaire programmée (apoptose), soit bloquent la prolifération cellulaire, par inhibition des protéines (cdks) qui permettent aux cellules de procéder d'une phase du cycle cellulaire à la suivante en passant par des points de contrôle (principalement en $G_1/S$ et $G_2/M$). Les dommages à l'ADN causés par les médicaments cytotoxiques ou la $\gamma$-irradiation activent, entre autres, les voies de signalisation contrôlées par la protéine p53 qui forcent directement ou indirectement la cellule à choisir entre la survie et la mort.Cette thèse vise à explorer en détail les voies intracellulaires impliquant la protéine p53, ``le gardien du génome", qui sont initiées par des lésions de l'ADN, et donc de fournir un rationnel aux cancérologues pour prédire et optimiser les effets des médicaments anticancéreux en clinique. Elle décrit l'activation et la régulation de la protéine p53 dans les cellules individuelles après leur exposition à des agents causant des dommages à l'ADN. On montre que les comportements dynamiques qui ont été observés dans les cellules individuelles peuvent être reconstruits et prédits par fragmentation des événements cellulaires survenant après lésion de l'ADN, soit dans le noyau, soit dans le cytoplasme. Ceci est mis en œuvre par la description du réseau des protéines à l'aide d'équations différentielles ordinaires (EDO) et partielles (EDP) impliquant plusieurs agents dont les protéines ATM, p53, Mdm2 et Wip1, dans le noyau aussi bien que dans le cytoplasme, et entre les deux compartiments. Un rôle positif de Mdm2 dans la synthèse de p53, qui a été récemment observé, est exploré et un nouveau mécanisme provoquant les oscillations de p53 est proposé. On pourra noter en particulier que le nouveau modèle rend compte d'observations expérimentales qui n'ont pas pu être entièrement expliquées par les modèles précédents, par exemple, l'excitabilité de p53.En utilisant des méthodes mathématiques, on observe de près la façon dont un stimulus (par exemple, une $\gamma$-irradiation ou des médicaments utilisés en chimiothérapie) est converti en un comportement dynamique spécifiques (spatio-temporel) de p53, en particulier que ces dynamiques spécifiques de p53, comme messager de l'information cellulaire, peuvent moduler le cycle de division cellulaire, par exemple provoquant l'arrêt du cycle ou l'apoptose. Des modèles mathématiques EDO et EDP de réaction-diffusion sont utilisés pour examiner comment le comportement (spatio-temporel) de p53 émerge, et nous discutons des conséquences de ce comportement sur les réseaux moléculaires, avec des applications possibles dans le traitement du cancer.Les interactions protéine-protéine sont considérées comme des réactions enzymatiques. On présente quelques résultats mathématiques pour les réactions enzymatiques, en particulier on étudie le comportement en temps grand du système de réaction-diffusion pour la réaction enzymatique réversible à l'aide d'une approche entropique. À notre connaissance, c'est la première fois qu'une telle étude est publiée sur ce sujet. / Various molecular pharmacokinetic–pharmacodynamic models have been proposed in the last decades to represent and predict drug effects in anticancer therapies. Most of these models are cell population based models since clearly measurable effects of drugs can be seen on populations of (healthy and tumour) cells much more easily than in individual cells.The actual targets of drugs are, however, cells themselves. The drugs in use either disrupt genome integrity by causing DNA strand breaks and consequently initiate programmed cell death or block cell proliferation mainly by inhibiting proteins (cdks) that enable cells to proceed from one cell cycle phase to another. DNA damage caused by cytotoxic drugs or $\gamma$-irradiation activates, among others, the p53 protein-modulated signalling pathways that directly or indirectly force the cell to make a decision between survival and death.The thesis aims to explore closely intracellular pathways involving p53, ``the guardian of the genome", initiated by DNA damage and thus to provide oncologists with a rationale to predict and optimise the effects of anticancer drugs in the clinic. It describes p53 activation and regulation in single cells following their exposure to DNA damaging agents. We show that dynamical patterns that have been observed in individual cells can be reconstructed and predicted by compartmentalisation of cellular events occurring either in the nucleus or in the cytoplasm, and by describing protein interactions, using both ordinary and partial differential equations, among several key antagonists including ATM, p53, Mdm2 and Wip1, in each compartment and in between them. Recently observed positive role of Mdm2 in the synthesis of p53 is explored and a novel mechanism triggering oscillations is proposed. For example, new model can explain experimental observations that previous (not only our) models could not, e.g., excitability of p53.Using mathematical methods we look closely on how a stimulus (e.g., $\gamma$-radiation or drugs used in chemotherapy) is converted to a specific (spatio-temporal) pattern of p53 whereas such specific p53 dynamics as a transmitter of cellular information can modulate cellular outcomes, e.g., cell cycle arrest or apoptosis. Mathematical ODE and reaction-diffusion PDE models are thus used to see how the (spatio-temporal) behaviour of p53 is shaped and what possible applications in cancer treatment this behaviour might have. Protein-protein interactions are considered as enzyme reactions. We present some mathematical results for enzyme reactions, among them the large-time behaviour of the reaction-diffusion system for the reversible enzyme reaction treated by an entropy approach. To our best knowledge this is published for the first time.

Ce travail de thèse parti de l'observation que la maintenance des fonctions cellulaires est basée sur l'orchestration précise d'interactions fonctionnelles entre biomolécules telles que l'ADN, l'ARN et les protéines. Bien que ces processus basiques ne montrent pas généralement une organisation spatiale stricte, ils semblent néanmoins contraints par des schémas dynamiques ou spatiaux précis. Cela pose ainsi la question des forces pouvant, dans un microenvironnement cellulaire, diriger les différents acteurs de processus biochimiques complexes au bon endroit, au bon moment et dans le bon ordre afin d'assurer les fonctions cellulaires essentielles. L'existence de forces sélectives à longue portée de nature électromagnétique, pouvant être responsables de l'extraordinaire efficacité des machineries biomoléculaires, est prédite par la mécanique quantique et l'électrodynamique; par longue portée, nous entendons entre 0.1 à 1 micron, ce qui est bien au delà de celle des forces traditionnelles reconnues comme les forces électrostatiques, de van der Waals-London ou les liaisons hydrogènes. Aucune procédure expérimentale ne fut proposée à ce jour pour confirmer ou infirmer cette hypothèse d'une utilisation efficace de telles forces électromagnétiques dans la matière vivante. Si ces forces sélectives de recrutement à longue portée sont effectivement actives au niveau biomoléculaire, cela constituerait un pas important vers une compréhension des processus et mécanismes cellulaires fondamentaux (expression génique, division cellulaire, signalisation, etc.). / The main subject of the present thesis work stems from the observation that the maintenance of cell functions is based on a precise orchestration of functional interactions between biomolecules such as DNA, RNA and proteins. Although these basic processes generally do not exhibit strict spatial organization, they seem constrained into a very accurate temporal - or dynamic - pattern. This raises the question of what types of physical forces can, in the cellular microenvironments, bring the various actors of complex biochemical processes both in the right place, at the right time and in the right order so as to ensure the essential cellular functions. The existence of selective, long-range forces of electromagnetic nature that may be responsible for the extraordinary efficiency of the biomolecular machineries is predicted by quantum mechanics and electrodynamics ; long-range meaning here of the order of 0.1-1 micron, well beyond the traditionally recognized forces, electrostatic ones, hydrogen bonds, van der Waals-London, etc.). Yet, to date, no experimental test has been proposed to disprove or confirm the hypothesis of an effective exploitation of such electromagnetic forces in living matter. If these selective, long-range recruitment forces were found to be active at the biomolecular level, this would represent an important step forward to the understanding of fundamental cellular processes and mechanisms (gene expression, cell division, signalling, etc.).

Les travaux de cette thèse ont porté sur le développement de deux méthodes de modélisation des enzymes contenant des groupes prosthétiques de la famille des flavines.La première méthode, PredFace, permet de prédire la stéréochimie des produits d'une réaction catalysée par des enzymes contenant des groupes prosthétiques, en identifiant la face libre d'interaction avec les substrats. Le protocole mis en place pour cette méthode implique l'utilisation de huit complexes "sondes", obtenus par des opérations de symétrie à partir de l'état de transition de la réaction de transfert d'un atome d'hydrogène entre le nicotinamide et la lumiflavine. Ces complexes sont positionnés dans le site actif avec le groupe prosthétique comme référence et dans chaque cas l'énergie d'interaction protéine-ligand est évaluée par la fonction de score implémentée dans le logiciel de docking utilisé (AutoDock). L'énergie d'interaction la plus favorable permet d'identifier la face du groupe prosthétique accessible pour la réaction enzymatique dans le site actif. La méthode PredFace a été validée par l'analyse de l'ensemble des structures de la Protein Data Bank contenant des groupes prosthétiques de la famille des flavines (2170). Le protocole mis au point est très rapide (moins d'une minute), ce qui nous a permis de développer un site web afin de mettre cette méthode à la disposition de la communauté.La seconde méthode, ProsthDock, est une nouvelle méthode de docking basée sur le mécanisme d'une réaction enzymatique catalysée par un groupe prosthétique et guidée par la présence de ce groupe prosthétique dans le site actif de l'enzyme. Le développement de cette méthode a été motivé par le fait que les méthodes actuelles de docking, en présence de groupes prosthétiques, se révèlent incapables de produire des poses correctes pour des substrats, en accord avec les réactions enzymatiques. Afin de remédier à ce problème nous avons ajouté à la fonction de score classique un terme supplémentaire, qui rendra compte de l'interaction du ligand avec le groupe prosthétique. Dans un premier temps, nous avons construit un modèle simplifié du complexe NADH/FMN et calculé l'état de transition de la réaction de transfert d'hydrogène entre les deux partenaires. Des surfaces d'énergie potentielle pour cette réaction ont été calculées en variant la distance, l'angle et l'angle dièdre entre les deux réactifs. Un docking sous contrainte est ensuite réalisé et en fonction du positionnement de chaque pose de docking dans le site actif le terme supplémentaire de la fonction de score est calculé à partir des surfaces d'énergie potentielle, ce qui nous permet de modifier le classement des résultats de docking en favorisant les poses qui sont en accord avec la réaction enzymatique. / During this PhD thesis we developped two new molecular modeling methods applied to enzymes containing flavin-type prosthetic groups.The first method, PredFace, predicts the stereochemistry of products from a reaction catalyzed by enzymes containing prosthetic groups, by automatically identifying the solvent-exposed face of the prosthetic group. The protocol involves the use of eigth complexes as "probes", obtained by symmetry operations starting from the transition state of a hydrogen atom transfer reaction between nicotinamide and lumiflavin. These complexes are positioned in the binding site with the prosthetic group as reference and the energy of the protein-ligand interaction is evaluated by the scoring function implemented in the docking software (AutoDock). The most favorable interaction energy allows the identification of the prosthetic group face that is available for the enzymatic reaction in the binding site. The PredFace method has been validated by analyzing all the structures in the Protein Data Bank containing flavin-derived prosthetic groups (2170). This method is very fast (less than a minute), which allowed us to develop a web site open to the scientific community.The second method, ProsthDock, is a new mechanism-based molecular docking method guided by prosthetic groups present in the active sites of enzymes. The development of this method was motivated by the incapacity of the currently available docking methods to provide, in the presence of prosthetic groups, ligand conformations that are compatible with the enzymatic reactions. In this regard, we have added a new term to the classical scoring function, to take into account the interaction between ligand and prosthetic group. We have built a simplified model of the NADH/FMN complex and calculated the transition state of the hydrogen transfer reaction between the two partners. Potential energy surfaces have been calculated for this reaction by variating the angle, diedral angle and distance between the two reaction partners. A subsequent docking with constraints provides binding site conformations of the ligand for which the new term of the scoring function is calculated using the potential energy surfaces. This results in a new ranking of the docking poses, favoring those in agreement with the enzymatic reaction.