L’adénosine est un neuromodulateur ubiquitaire impliqué dans différents processus physiologiques et neuroprotecteurs du système nerveux central. Elle agit via quatre sous-types de récepteurs couplés à protéine G (A1, A2a, A2b et A3). Le récepteur A2a (A2aR) est fortement exprimé dans des régions riches en dopamine, avec de fortes concentrations dans la zone du caudate-putamen du cerveau, où elle a un rôle important dans la transmission neuronale et dans le processus dégénératif d’origine extrapyramidale. Ainsi, le blocage du récepteur A2a s’est révélé être une cible prometteuse pour le traitement des maladies neurodégénératives tels la Maladie de Parkinson (MP) et la Maladie d’Alzheimer (MA). A ce jour, seulement trois composés sont en phase clinique dans le cadre du traitement de la MP. Toutefois, bien que très affins, ils ne possèdent pas des propriétés ADME ou une sélectivité optimales.Au début de ce projet, la sous-structure Tic-hydantoïne a été identifiée comme présentant une bonne affinité pour A2aR. Après étude des fonctions manquantes de cette molécule et en respectant les éléments pharmacophoriques nécessaires pour une bonne activité, nous avons imaginé et évalué dans la structure co-cristallisé du A2aR et du ligand antagoniste de référence ZM241385 différentes modulations autour de l’hétérocycle. Ceci a permis de proposer la famille des Tic-guanidines, qui présente une fonction donneur de liaison hydrogène avec le résidu Asn253 du site et qui a été synthétisé après optimisation d’un chemin synthétique original. De plus, 1700 molécules ont été conçues de novo et évaluées in silico. Parmi les familles potentiellement intéressantes, deux d’entre elles, les quinolizidinones et les amino-imidazopyridines ont été synthétisées et évaluées in vitro afin de déterminer leur affinité vis-à-vis le récepteur A2a ainsi que leur cytotoxicité vis-à-vis les cellules neuronales. / Adenosine is a ubiquitous neuromodulator able to regulate many physiological processes and plays an important neuroprotective role in the central nervous system. Its effects are transmitted by four distinct G protein receptor subtypes designated A1, A2a, A2b, and A3. A2a receptors (A2aR) show a restricted distribution, being characteristic of the dopamine enriched areas, the highest concentration being in the caudate-putamen in brain, where it has an important role in neuronal signaling with this region and potential involvement in neurologic disease of extrapyramidal origin.A2a antagonism was shown to be a promising pharmacological target for neurodegenerative diseases such as Parkinson’s disease (PD) and Alzheimer disease (AD). Currently, only three compounds are still in clinical phase for PD treatment. Even if they show good affinities for the receptor, there is still a need for improving their ADME properties by keeping their selectivity towards other adenosine receptors.At the beginning of this project, a Tic-hydantoin derivative was identified as a new ligand with a good affinity for the A2a receptor. Based on the recently published crystalline structure of the A2A receptor complexed with the selective and high-affinity antagonist ZM241385 and a pharmacophoric model, we identified the missing features needed for a good affinity in our molecule. We designed and evaluated in silico many pharmacomodulations around the heterocyclic ring and Tic-guanidin substructure was proposed to present favorable hydrogen bound with Asn253 of the A2a binding site. This structure was obtained after optimization of a new synthetic pathway. Moreover, 1700 molecules were originally designed and evaluated in silico. Among potential interesting families, two of them, quinolizidinones and amino-imidazopyridines were synthesized and evaluated in vitro toward their affinity for A2a receptor and their cytotoxicity towards neuronal cells.

Le docking moléculaire est une tâche complexe, difficile à appréhender pour une personne seule. C'est pourquoi, nous nous proposons d'étudier la distribution cognitive des charges de travail à travers la collaboration. Une plate-forme distribuée de déformation moléculaire interactive a été mise en place afin d'étudier les avantages mais aussi les limites et les contraintes du travail collaboratif étroitement couplé. Cette première étude, basée sur trois expérimentations, a permis de valider l'intérêt d'une approche collaborative pour des tâches complexes à fort couplage. Cependant, elle a mis en évidence des conflits de coordination ainsi que des problématiques liées à la dynamique d'un groupe. Suite à cette première étude, nous avons proposés une nouvelle configuration de travail associée à des métaphores de communication haptiques afin d'améliorer la communication et les interactions entre les différents collaborateurs. Une dernière expérimentation avec des biologistes a permis de montrer l'utilité de la communication haptique pour le travail collaboratif sur des tâches complexes à fort couplage.

Le docking moléculaire est une tâche complexe, difficile à appréhender pour une personne seule. C’est pourquoi, nous nous proposons d’étudier la distribution cognitive des charges de travail à travers la collaboration. Une plate-forme distribuée de déformation moléculaire interactive a été mise en place afin d’étudier les avantages mais aussi les limites et les contraintes du travail collaboratif étroitement couplé. Cette première étude, basée sur trois expérimentations, a permis de valider l’intérêt d’une approche collaborative pour des tâches complexes à fort couplage. Cependant, elle a mis en évidence des conflits de coordination ainsi que des problématiques liées à la dynamique d’un groupe. Suite à cette première étude, nous avons proposés une nouvelle configuration de travail associée à des métaphores de communication haptiques afin d’améliorer la communication et les interactions entre les différents collaborateurs. Une dernière expérimentation avec des biologistes a permis de montrer l’utilité de la communication haptique pour le travail collaboratif sur des tâches complexes à fort couplage. / Molecular docking is a very complex task that can not be deal by only one user. Based on this observation, we propose to study the cognitive workload distribution on group of users in collaboration. For this purpose, we implement a distributed platform to interactively manipulate and deform structures of the molecules. With this platform, we want to study the assets of the closely coupled collaboration but also highlight the constraints and the drawbacks. Based on three experimentations, the study validate the concept of workload distribution in the closely coupled collaboration. However, it highlights limits with coordination conflicts through communication problem. Moreover, some difficulties have been encountered with the dynamic in a group of collaborators.Based on these results, we proposed a new working configuration coupled with new haptic communication metaphors to improve the communication and the coordination between the members of the group. These propositions have been evaluated in a fourth experimentation introducing biologists. The results show the importance of the haptic communication to improve the coordination in closely coupled collaboration.

Ce travail de thèse consiste au développement méthodologique et logiciel d'une méthode de docking moléculaire dite inverse. Cette méthode propose à travers le programme AMIDE — Automatic Inverse Docking Engine — de distribuer un grand nombres de simulations d'amarrage moléculaire sur des architectures HPC (clusters de calcul) avec les applications AutoDock 4.2 et AutoDock Vina. Le principe de cette méthode consiste à tester de petites molécules sur un ensemble de protéines cibles potentielles. Les paramètres optimaux ont été définis à partir d'une étude pilote et le protocole a été validé sur des ligands et peptides liants les protéines MMPs et EBP de la matrice extracellulaire. Cette méthode montre qu'elle permet d‘améliorer la recherche conformationnelle lors du calcul de docking sur des structures expérimentales par rapport à des protocoles existants (blind docking). Il est montré que le programme AMIDE permet de discriminer des sites de fixation privilégiés lors d'expériences de criblage inverse de protéines de manière plus performante que par blind docking. Ces résultats sont obtenus par la mise en place de méthodes de partitionnement de l'espace de recherche qui permettent également à travers un système de distribution hybride de déployer un ensemble de tâches indépendantes pour un traitement autorisant le passage d'échelle. / This work is a methodological and software development of so-called inverse molecular docking method. This method offers through an in house program AMIDE — Automatic Reverse Docking Engine — to distribute large numbers of molecular docking simulations on HPC architectures (com- puting clusters) with AutoDock 4.2 and AutoDock Vina applications. The principle of this method is to test small molecules on a set of potential target proteins. The program optimum parameters were defined from a pilot study and the protocol was validated on ligands and peptides binding MMPs and EBP extracellular matrix proteins. This method improves the conformational search in docking computation on experimental structures compared to existing protocols (blind docking). It is shown that the AMIDE program is more efficient to discriminate preferred binding sites in inverse proteins screening experiments than blind docking. These results are obtained by the implemen- tation of methods for partitioning the search space that also allow through a hybrid distribution system to deploy a set of independent embarassingly parallel tasks perfectly scalable.

Dans la recherche de nouveaux traitements des maladies broncho-pulmonaires comme l'asthme et la broncho-pneumopathie chronique obstructive, les inhibiteurs de PDE4 sont des cibles intéressantes. Dans cette voie, notre laboratoire s'intéresse à la synthèse d'une nouvelle famille d'inhibiteurs à base pyridazinone. Pour cela, cette thèse couple la modélisation moléculaire (docking : développement méthodologique et application), la synthèse organique ainsi que des tests biologiques.Dans un premier temps, le développement du logiciel d'amarrage moléculaire AlgoGen a été poursuivi. AlgoGen (créé initialement à l'université de Lorraine en 2009) est un logiciel qui couple un algorithme génétique pour la recherche conformationnelle à une évaluation de l'énergie protéine-ligand à un niveau quantique semi-empirique alors que les autres logiciels existant effectuent ce calcul à un niveau classique en général. Le calcul d'une énergie à un niveau quantique est très coûteux en temps. C'est pourquoi, nous avons apporté de nombreuses modifications à ce logiciel afin d'accroître son efficacité dans la recherche conformationnelle. Ce logiciel a ensuite été utilisé sur un jeu de 22 dimères (typiques des reconnaissances moléculaires biologiques) et à huit systèmes protéine-ligand.Dans un deuxième temps, huit inhibiteurs ont été synthétisés et testés in vitro sur la cible PDE4. Pour compléter ce volet expérimental, une étude de structure-activité a été effectuée grâce au docking moléculaire (AlgoGen, Autodock, Glide) pour rationaliser les activités mesurées (IC50). Pour terminer, des pharmaco-modulations guidées par docking ont été réalisées afin de proposer de nouveaux inhibiteurs de plus grandes affinités avec la protéine PDE4D. / For the research of new treatment of bronchopulmonary diseases such as asthma and chronic obstructive pulmonary disease (COPD), the PDE4 inhibitors are an attractive target. Our laboratory is interested in a new PDE4 inhibitors family based on the pyridazinone pattern. For this purpose, this thesis couples molecular modeling (docking: methodological development and application), organic synthesis and biological tests.First, the development of the molecular docking software AlgoGen was continued. AlgoGen (initially created at university of Lorraine in 2009) is a program which couples a genetic algorithm for the conformational research and a protein-ligand energy evaluation at the quantum semi-empirical level while other software do this evaluation at a classical level. Quantum energy calculations are very time consuming. That is the reason why some modifications have been made to improve its efficiency for the conformational search. This software was then used for calculations on a set of 22 dimers (typical in biological molecular recognition) as well on 8 ligand-protein complexes.Secondly, eight inhibitors were synthesized and tested in vitro on the PDE4 target. To complete the experimental part, a structure-activity relationship study was carried out through a molecular docking to rationalize the measured activity (IC50). Finally, pharmaco-modulations guided by docking were made to propose new inhibitors with more affinity with the protein.

La drépanocytose est une maladie génétique qui se caractérise par des globules rouges en forme de faucille. Chez les personnes atteintes de drépanocytose, ces globules rouges (GR) adhèrent à l’endothélium vasculaire et provoquent ainsi une vaso-occlusion. Ce phénomène s’explique par la surexpression de la protéine Lutheran (Lu) à la surface des globules rouges falciformes qui se lie fortement à la Laminine (Ln) 511/521 exprimée par l’endothélium vasculaire enflammé. Le but de cette étude est d’identifier un inhibiteur d’interaction protéine-protéine (PPI) qui possède une forte probabilité de liaison à Lu afin d’inhiber l’interaction Lu-Ln 511/521. Un criblage virtuel de 1 295 678 composés ciblant la protéine Lu a été réalisé. La validation préalable d’un protocole de scoring a été envisagée sur la protéine CD80 qui présente un site de liaison avec des caractéristiquestopologiques et physico-chimiques similaires au site de liaison prédit sur Lu ainsi que plusieurs ligands avec des constantes d’affinité connues. Ce protocole contient différentes étapes de sélection basées sur les affinités calculées (scores), des simulations de dynamique moléculaire et les propriétés moléculaires. Un protocole de scoring fiable a été validé sur CD80 avec le programme de docking DOCK6 et les fonctions de scoring XSCORE et MM-PBSA ainsi qu’avec la méthode decalcul FMO. L’application de ce protocole sur Lu a permis d’obtenir deux ligands validés par des tests in vitro qui font l’objet d’un dépôt de brevet. La fonction de scoring XSCORE a permis d’identifier neuf autres ligands qui semblent aussi être des candidats prometteurs pour inhiber l’interaction Lu-Ln 511/521. / Drepanocytosis is a genetic blood disorder characterized by red blood cells that assume an abnormal sickle shape. In the pathogenesis of vaso-occlusive crises of sickle cell disease, red blood cells bind to the vascular endothelium and promote vaso-occlusion. At the surface of these sickle red blood cells, the overexpressed protein Lutheran (Lu) strongly interacts with the Laminin (Ln) 511/521.The aim of this study was to identify a protein-protein interaction (PPI) inhibitor with a highprobability of binding to Lu for the inhibition of the Lu-Ln 511/521 interaction. A virtual screening was performed with 1 295 678 compounds that target Lu. Prior validation of a robust scoring protocol was considered on the protein CD80 because this protein has a binding site with similar topological and physico-chemical characteristics and it also has a series of ligands with known affinity constants. This protocol consisted of multiple filtering steps based on calculated affinities (scores), molecular dynamics simulations and molecular properties. A robust scoring protocol was validated on the protein CD80 with the docking program DOCK6 and the scoring functions XSCORE and MM-PBSA and also with the FMO method. This protocol was applied to the protein Lu and we found two compounds that were validated by in vitro studies. The protection of these ligands by a patent is under process. Nine other compounds were identified by the scoring functionXSCORE and seem to be promising candidates for inhibiting the Lu-Ln 511/521 interaction.

Le docking moléculaire est une méthode permettant de prédire l'orientation d'une molécule donnée relativement à une autre lorsque celles-ci forment un complexe. Le premier algorithme de docking moléculaire a vu jour en 1990 afin de trouver de nouveaux candidats face à la protéase du VIH-1. Depuis, l'utilisation de protocoles de docking est devenue une pratique standard dans le domaine de la conception de nouveaux médicaments. Typiquement, un protocole de docking comporte plusieurs phases. Il requiert l'échantillonnage exhaustif du site d'interaction où les éléments impliqués sont considérées rigides. Des algorithmes de clustering sont utilisés afin de regrouper les candidats à l'appariement similaires. Des méthodes d'affinage sont appliquées pour prendre en compte la flexibilité au sein complexe moléculaire et afin d'éliminer de possibles artefacts de docking. Enfin, des algorithmes d'évaluation sont utilisés pour sélectionner les meilleurs candidats pour le docking. Cette thèse présente de nouveaux algorithmes de protocoles de docking qui facilitent la prédiction des structures de complexes protéinaires, une des cibles les plus importantes parmi les cibles visées par les méthodes de conception de médicaments. Une première contribution concerne l‘algorithme Docktrina qui permet de prédire les conformations de trimères protéinaires triangulaires. Celui-ci prend en entrée des prédictions de contacts paire-à-paire à partir d'hypothèse de corps rigides. Ensuite toutes les combinaisons possibles de paires de monomères sont évalués à l'aide d'un test de distance RMSD efficace. Cette méthode à la fois rapide et efficace améliore l'état de l'art sur les protéines trimères. Deuxièmement, nous présentons RigidRMSD une librairie C++ qui évalue en temps constant les distances RMSD entre conformations moléculaires correspondant à des transformations rigides. Cette librairie est en pratique utile lors du clustering de positions de docking, conduisant à des temps de calcul améliorés d'un facteur dix, comparé aux temps de calcul des algorithmes standards. Une troisième contribution concerne KSENIA, une fonction d'évaluation à base de connaissance pour l'étude des interactions protéine-protéine. Le problème de la reconstruction de fonction d'évaluation est alors formulé et résolu comme un problème d'optimisation convexe. Quatrièmement, CARBON, un nouvel algorithme pour l'affinage des candidats au docking basés sur des modèles corps-rigides est proposé. Le problème d'optimisation de corps-rigides est vu comme le calcul de trajectoires quasi-statiques de corps rigides influencés par la fonction énergie. CARBON fonctionne aussi bien avec un champ de force classique qu'avec une fonction d'évaluation à base de connaissance. CARBON est aussi utile pour l'affinage de complexes moléculaires qui comportent des clashes stériques modérés à importants. Finalement, une nouvelle méthode permet d'estimer les capacités de prédiction des fonctions d'évaluation. Celle-ci permet d‘évaluer de façon rigoureuse la performance de la fonction d'évaluation concernée sur des benchmarks de complexes moléculaires. La méthode manipule la distribution des scores attribués et non pas directement les scores de conformations particulières, ce qui la rend avantageuse au regard des critères standard basés sur le score le plus élevé. Les méthodes décrites au sein de la thèse sont testées et validées sur différents benchmarks protéines-protéines. Les algorithmes implémentés ont été utilisés avec succès pour la compétition CAPRI concernant la prédiction de complexes protéine-protéine. La méthodologie développée peut facilement être adaptée pour de la reconnaissance d'autres types d'interactions moléculaires impliquant par exemple des ligands, de l'ARN… Les implémentations en C++ des différents algorithmes présentés seront mises à disposition comme SAMSON Elements de la plateforme logicielle SAMSON sur http://www.samson-connect.net ou sur http://nano-d.inrialpes.fr/software. / Molecular docking is a method that predicts orientation of one molecule with respect to another one when forming a complex. The first computational method of molecular docking was applied to find new candidates against HIV-1 protease in 1990. Since then, using of docking pipelines has become a standard practice in drug discovery. Typically, a docking protocol comprises different phases. The exhaustive sampling of the binding site upon rigid-body approximation of the docking subunits is required. Clustering algorithms are used to group similar binding candidates. Refinement methods are applied to take into account flexibility of the molecular complex and to eliminate possible docking artefacts. Finally, scoring algorithms are employed to select the best binding candidates. The current thesis presents novel algorithms of docking protocols that facilitate structure prediction of protein complexes, which belong to one of the most important target classes in the structure-based drug design. First, DockTrina - a new algorithm to predict conformations of triangular protein trimers (i.e. trimers with pair-wise contacts between all three pairs of proteins) is presented. The method takes as input pair-wise contact predictions from a rigid-body docking program. It then scans and scores all possible combinations of pairs of monomers using a very fast root mean square deviation (RMSD) test. Being fast and efficient, DockTrina outperforms state-of-the-art computational methods dedicated to predict structure of protein oligomers on the collected benchmark of protein trimers. Second, RigidRMSD - a C++ library that in constant time computes RMSDs between molecular poses corresponding to rigid-body transformations is presented. The library is practically useful for clustering docking poses, resulting in ten times speed up compared to standard RMSD-based clustering algorithms. Third, KSENIA - a novel knowledge-based scoring function for protein-protein interactions is developed. The problem of scoring function reconstruction is formulated and solved as a convex optimization problem. As a result, KSENIA is a smooth function and, thus, is suitable for the gradient-base refinement of molecular structures. Remarkably, it is shown that native interfaces of protein complexes provide sufficient information to reconstruct a well-discriminative scoring function. Fourth, CARBON - a new algorithm for the rigid-body refinement of docking candidates is proposed. The rigid-body optimization problem is viewed as the calculation of quasi-static trajectories of rigid bodies influenced by the energy function. To circumvent the typical problem of incorrect stepsizes for rotation and translation movements of molecular complexes, the concept of controlled advancement is introduced. CARBON works well both in combination with a classical force-field and a knowledge-based scoring function. CARBON is also suitable for refinement of molecular complexes with moderate and large steric clashes between its subunits. Finally, a novel method to evaluate prediction capability of scoring functions is introduced. It allows to rigorously assess the performance of the scoring function of interest on benchmarks of molecular complexes. The method manipulates with the score distributions rather than with scores of particular conformations, which makes it advantageous compared to the standard hit-rate criteria. The methods described in the thesis are tested and validated on various protein-protein benchmarks. The implemented algorithms are successfully used in the CAPRI contest for structure prediction of protein-protein complexes. The developed methodology can be easily adapted to the recognition of other types of molecular interactions, involving ligands, polysaccharides, RNAs, etc. The C++ versions of the presented algorithms will be made available as SAMSON Elements for the SAMSON software platform at http://www.samson-connect.net or at http://nano-d.inrialpes.fr/software.

Le docking moléculaire est une méthode permettant de prédire l'orientation d'une molécule donnée relativement à une autre lorsque celles-ci forment un complexe. Le premier algorithme de docking moléculaire a vu jour en 1990 afin de trouver de nouveaux candidats face à la protéase du VIH-1. Depuis, l'utilisation de protocoles de docking est devenue une pratique standard dans le domaine de la conception de nouveaux médicaments. Typiquement, un protocole de docking comporte plusieurs phases. Il requiert l'échantillonnage exhaustif du site d'interaction où les éléments impliqués sont considérées rigides. Des algorithmes de clustering sont utilisés afin de regrouper les candidats à l'appariement similaires. Des méthodes d'affinage sont appliquées pour prendre en compte la flexibilité au sein complexe moléculaire et afin d'éliminer de possibles artefacts de docking. Enfin, des algorithmes d'évaluation sont utilisés pour sélectionner les meilleurs candidats pour le docking. Cette thèse présente de nouveaux algorithmes de protocoles de docking qui facilitent la prédiction des structures de complexes protéinaires, une des cibles les plus importantes parmi les cibles visées par les méthodes de conception de médicaments. Une première contribution concerne l‘algorithme Docktrina qui permet de prédire les conformations de trimères protéinaires triangulaires. Celui-ci prend en entrée des prédictions de contacts paire-à-paire à partir d'hypothèse de corps rigides. Ensuite toutes les combinaisons possibles de paires de monomères sont évalués à l'aide d'un test de distance RMSD efficace. Cette méthode à la fois rapide et efficace améliore l'état de l'art sur les protéines trimères. Deuxièmement, nous présentons RigidRMSD une librairie C++ qui évalue en temps constant les distances RMSD entre conformations moléculaires correspondant à des transformations rigides. Cette librairie est en pratique utile lors du clustering de positions de docking, conduisant à des temps de calcul améliorés d'un facteur dix, comparé aux temps de calcul des algorithmes standards. Une troisième contribution concerne KSENIA, une fonction d'évaluation à base de connaissance pour l'étude des interactions protéine-protéine. Le problème de la reconstruction de fonction d'évaluation est alors formulé et résolu comme un problème d'optimisation convexe. Quatrièmement, CARBON, un nouvel algorithme pour l'affinage des candidats au docking basés sur des modèles corps-rigides est proposé. Le problème d'optimisation de corps-rigides est vu comme le calcul de trajectoires quasi-statiques de corps rigides influencés par la fonction énergie. CARBON fonctionne aussi bien avec un champ de force classique qu'avec une fonction d'évaluation à base de connaissance. CARBON est aussi utile pour l'affinage de complexes moléculaires qui comportent des clashes stériques modérés à importants. Finalement, une nouvelle méthode permet d'estimer les capacités de prédiction des fonctions d'évaluation. Celle-ci permet d‘évaluer de façon rigoureuse la performance de la fonction d'évaluation concernée sur des benchmarks de complexes moléculaires. La méthode manipule la distribution des scores attribués et non pas directement les scores de conformations particulières, ce qui la rend avantageuse au regard des critères standard basés sur le score le plus élevé. Les méthodes décrites au sein de la thèse sont testées et validées sur différents benchmarks protéines-protéines. Les algorithmes implémentés ont été utilisés avec succès pour la compétition CAPRI concernant la prédiction de complexes protéine-protéine. La méthodologie développée peut facilement être adaptée pour de la reconnaissance d'autres types d'interactions moléculaires impliquant par exemple des ligands, de l'ARN… Les implémentations en C++ des différents algorithmes présentés seront mises à disposition comme SAMSON Elements de la plateforme logicielle SAMSON sur http://www.samson-connect.net ou sur http://nano-d.inrialpes.fr/software. / Molecular docking is a method that predicts orientation of one molecule with respect to another one when forming a complex. The first computational method of molecular docking was applied to find new candidates against HIV-1 protease in 1990. Since then, using of docking pipelines has become a standard practice in drug discovery. Typically, a docking protocol comprises different phases. The exhaustive sampling of the binding site upon rigid-body approximation of the docking subunits is required. Clustering algorithms are used to group similar binding candidates. Refinement methods are applied to take into account flexibility of the molecular complex and to eliminate possible docking artefacts. Finally, scoring algorithms are employed to select the best binding candidates. The current thesis presents novel algorithms of docking protocols that facilitate structure prediction of protein complexes, which belong to one of the most important target classes in the structure-based drug design. First, DockTrina - a new algorithm to predict conformations of triangular protein trimers (i.e. trimers with pair-wise contacts between all three pairs of proteins) is presented. The method takes as input pair-wise contact predictions from a rigid-body docking program. It then scans and scores all possible combinations of pairs of monomers using a very fast root mean square deviation (RMSD) test. Being fast and efficient, DockTrina outperforms state-of-the-art computational methods dedicated to predict structure of protein oligomers on the collected benchmark of protein trimers. Second, RigidRMSD - a C++ library that in constant time computes RMSDs between molecular poses corresponding to rigid-body transformations is presented. The library is practically useful for clustering docking poses, resulting in ten times speed up compared to standard RMSD-based clustering algorithms. Third, KSENIA - a novel knowledge-based scoring function for protein-protein interactions is developed. The problem of scoring function reconstruction is formulated and solved as a convex optimization problem. As a result, KSENIA is a smooth function and, thus, is suitable for the gradient-base refinement of molecular structures. Remarkably, it is shown that native interfaces of protein complexes provide sufficient information to reconstruct a well-discriminative scoring function. Fourth, CARBON - a new algorithm for the rigid-body refinement of docking candidates is proposed. The rigid-body optimization problem is viewed as the calculation of quasi-static trajectories of rigid bodies influenced by the energy function. To circumvent the typical problem of incorrect stepsizes for rotation and translation movements of molecular complexes, the concept of controlled advancement is introduced. CARBON works well both in combination with a classical force-field and a knowledge-based scoring function. CARBON is also suitable for refinement of molecular complexes with moderate and large steric clashes between its subunits. Finally, a novel method to evaluate prediction capability of scoring functions is introduced. It allows to rigorously assess the performance of the scoring function of interest on benchmarks of molecular complexes. The method manipulates with the score distributions rather than with scores of particular conformations, which makes it advantageous compared to the standard hit-rate criteria. The methods described in the thesis are tested and validated on various protein-protein benchmarks. The implemented algorithms are successfully used in the CAPRI contest for structure prediction of protein-protein complexes. The developed methodology can be easily adapted to the recognition of other types of molecular interactions, involving ligands, polysaccharides, RNAs, etc. The C++ versions of the presented algorithms will be made available as SAMSON Elements for the SAMSON software platform at http://www.samson-connect.net or at http://nano-d.inrialpes.fr/software.

L'enjeu des travaux effectués au cours de cette thèse est l'extraction in silico de molécules potentiellement intéressantes dans le processus d'inhibition du récepteur tyrosine kinase c-Met. La faculté de cette protéine à interagir dans les phénomènes d'embryogenèse et de réparation tissulaires rendent son inhibition cruciale dans les traitements contre les développements tumoraux où c-Met se trouve impliquée. Pour cela, la stratégie employée implique l'utilisation de méthodes in silico de conception rationnelle de médicaments. Nous avons utilisé comme support les multiples structures cristallographiques publiées sur la ProteinData Base. Un travail de modélisation par homologie fut tout d'abord nécessaire pour combler les lacunes des structures cristallographiques collectées. Afin d'échantillonner au mieux l'espace conformationnel de la kinase c-Met et de caractériser sa flexibilité, une longue campagne de simulation de Dynamique Moléculaire fut menée. Pour compléter ces simulations, nous avons également utilisé la méthode des modes normaux de vibration. De ces 2 approches, nous avons extrait un ensemble de 10 conformères considérés comme les plus représentatifs de l'espace conformationnel simulé pour la kinase c-Met et avons proposé un mode de fonctionnement de ce récepteur. Utilisant les conformations représentatives, nous avons ensuite mené une importante campagne de criblage virtuel sur plusieurs chimiothèques constituant environ 70.000 composés. L'analyse des résultats de l'arrimage moléculaire nous a conduits à la sélection de composés intéressants possédant théoriquement une bonne affinité pour la kinase c-Met. Ces molécules ont été soumises aux tests expérimentaux. / The challenge of this PhD work is the in silico identification of potentially interesting molecules concerning the inhibitory process of tyrosine kinase receptor c-Met. The faculty of this protein to interact in embryogenesis and tissue repair phenomena makes its inhibition crucial for treatments against tumor development in which c-Met is involved. For that purpose, the employed strategy involves the use of several in silico methods for rational drug design. As the basement of this work, we used the multiple crystal structures published in the ProteinData Base (PDB). A preliminary homology modeling work was needed to fill gaps in the crystal structures. To sample at best the c-Met kinase conformational space and to characterize its flexibility, a long Molecular Dynamics (MD) simulation campaign was carried out both on apo and holo forms of available crystal structures. To complete these simulations, part of this work consisted to use normal modes of vibration (NM) method. From these two approaches (DM and NM), we extracted a set of 10 conformers considered as the most representative of the kinase simulated conformational space and we suggested a mode of operation of this kinase. Using extracted conformations from the conformational sampling has enabled us to conduct an extensive campaign on several virtual screening libraries constituting a total of approximately 70,000 compounds. Analysis of the molecular docking results has led us to the selection of several theoretically interesting molecules with good potential affinity for c-Met kinase. These molecules were submitted to experimental tests performed by the biologist team associated to our work.

L'enjeu des travaux effectués au cours de cette thèse est l'extraction in silico de molécules potentiellement intéressantes dans le processus d'inhibition du récepteur tyrosine kinase c-Met. La faculté de cette protéine à interagir dans les phénomènes d'embryogenèse et de réparation tissulaires rendent son inhibition cruciale dans les traitements contre les développements tumoraux où c-Met se trouve impliquée. Dans ce but, la stratégie que nous avons employée implique l'utilisation de plusieurs méthodes in silico de conception rationnelle de médicaments. Nous avons utilisé comme support les multiples structures cristallographiques publiées sur la ProteinData Base (PDB). Un travail de modélisation par homologie fut tout d'abord nécessaire pour combler les lacunes des structures cristallographiques collectées. Afin d'échantillonner au mieux l'espace conformationnel du récepteur kinase c-Met et de caractériser sa flexibilité, une longue campagne de simulation de Dynamique Moléculaire (DM) fut menée concernant les formes apo et holo des structures cristallographiques disponibles. Pour compléter ces simulations, une partie du travail consista à utiliser également la méthode des modes normaux de vibration (NM). De ces 2 approches (DM et NM), nous avons extrait un ensemble de 10 conformères considérés comme les plus représentatifs de l'espace conformationnel simulé pour la kinase c-Met et avons proposé un mode de fonctionnement de ce récepteur. Utilisant les conformations extraites de l'échantillonnage conformationnel, nous avons ensuite mené une importante campagne de criblage virtuel sur plusieurs chimiothèques constituant au total environ 70.000 composés. L'analyse des résultats de l'arrimage moléculaire nous a conduits à la sélection de plusieurs molécules intéressantes possédant théoriquement une bonne affinité pour la kinase c-Met. Ces molécules ont été soumises aux tests expérimentaux effectués par l'équipe de biologistes associée à nos travaux.