Le but de cette thèse est d'analyser et de développer les objets mathématiques apparus dans l'article "New classical limits of quantum theories" de S. G. Rajeev, notamment les (loc.sit) "limites néoclassiques" dans le contexte de la théorie des formes modulaires. Afin de voir au mieux quels sont les objets en jeu dans l'étude de Rajeev, on a dans une première étape construit certains modèles-jouets afin de mener dedans des calculs similaires que ceux exposés dans l'article en question tout en essayant d'étudier le rapprochement avec des objets et théories mathématiques rigoureuses, notamment la quantification kählerienne, la géométrie algébrique arithmétique et la formule pour la trace des opérateurs de Hecke. Dans une deuxième étape, on a développé un cadre mathématique rigoureux où vivent naturellement les objets de l'étude de Rajeev. Ce cadre devrait servir dans la suite afin de faire de manière rigoureuse les calculs de "limite néoclassique" dans ce contexte ci. Ainsi les objets développés devraient servir aux mathématiciens de mieux comprendre les idées des physiciens et aux physiciens de pouvoir pousser plus loin les calculs de perturbations / The goal of this thesis is to analyze and to develop the mathematical objects that appeared in "New classical limits of quantum theories" of S. G. Rajeev, especially the (loc. sit) "neoclassical limits" in the context of the contexte of the theory of modular forms. To see what are the objects involved in the study of Rajeev, we constructed certain toy models where could develop similar calculations as those done in the article mentioned above. This was done by trying to compare these toy models with rigorous mathematical theories, for example Kähler quantization, algebric geometry and the trace formula for Hecke operators. After that we developed a rigorous mathematical frame where the objects introduced by Rajeev naturally live. This frame should be used in the futur to do the "neoclassical limit" calculations in this context. So the objects developed could be used by the mathematicians to understand the physical ideas and by the physicists to push further the calculations of perturbation