Ce mémoire présente la modélisation théorique de l'expérience FORCA-G (FORce de CAsimir et Gravitation à courte distance) actuellement en cours de développement à l'Observatoire de Paris. L'objet de cette expérience est la mesure des interactions à courte portée entre un atome et une surface massive. Les interactions recherchées sont du type électrodynamique quantique (effet Casimir-Polder) et gravitationnelle. Le travail présenté ici a consisté à calculer les états des atomes dans le contexte de l'expérience afin de prévoir les signaux et les performances de l'expérience. Ceci a permis l'optimisation du schéma expérimental pour la mesure à la fois de l'effet Casimir-Polder à une précision non encore atteinte ainsi que pour la recherche de déviations à la loi de Newton prédites par les théories d'unification.