Une caractéristique unique de l'environnement spatial de Mercure est le fort couplage qui existe entre la surface, l'exosphère, la magnétosphère et le vent solaire. Ce système peut être étudié par des méthodes de télédétection embarquées sur les missions spatiales telles que Mariner 10, MESSENGER et bientôt BepiColombo, ainsi que par les observatoires au sol. L'exosphère de Mercure est un milieu complexe avec seulement quelques espèces détectées jusqu'ici, dont l'hydrogène atomique H. H a seulement été détecté une fois par la sonde Mariner 10 en 1974-1975 et représente un traceur de l'interaction entre le vent solaire et la planète Mercure. L'instrument PHEBUS 'a bord de la mission ESA/JAXA BepiColombo vers Mercure est un spectromètre double canal EUV-FUV capable de détecter les émissions les plus faibles, comme H I Lyman-α 'a 121.6 nm. La première partie de cette thèse se concentre sur la modélisation radiométrique et la simulation des performances de PHEBUS. Pour préparer la calibration spectrale en vol et pendant la phase orbitale, un ensemble d'étoiles de référence est déterminé et évalué pour tirer partie au mieux de la résolution et du domaine spectral du détecteur. Des prévisions sur la possibilité de détection des raies d'émission exosphériques sont également données (science performance). Comme PHEBUS est basé sur SPICAV, le spectromètre UV de Venus Express, des techniques semblables de calibration spectrale peuvent être utilisées. Une étude des occultations stellaire de SPICAV est réalisée dans la deuxième partie de cette thèse. Les spectres des étoiles sont extraits, analysés et convolués avec la fonction instrumentale en vue de préparer les futures observations de PHEBUS. Les résultats sont disponibles dans la base de données de calibration du groupe de travail 'a l'ISSI Cross-calibration of past FUV experiments . En parallèle aux nouveaux instruments de grande sensibilité et à haute résolution spectrale, comme PHEBUS, le développement de simulations numériques est nécessaire 'a la compréhension de l'exosphère de Mercure. La troisième partie de cette thèse présente le modèle SPERO, premier modèle auto-cohérent 3D Monte Carlo dédié 'a l'hydrogène exosphérique de Mercure, prenant en compte toutes les sources et les pertes, tels que la désorption thermique, la photoionisation ou la pression de radiation solaire. La désorption thermique est par hypothèse la source dominante d'hydrogène exosphérique. La densité surfacique ainsi que les densités, températures et vitesses exosphériques sont calculées jusqu'à 8 rayons mercuriens. Une étude de sensibilité est effectuée en se basant sur les incertitudes dans les mécanismes de source et de perte, donnant lieu à des asymétries jour/nuit en densité et en température. En utilisant les densités calculées dans un modèle de transfert radiatif, il est possible de comparer les sorties de SPERO avec les données d'émission Lyman-α de Mariner 10, et d'anticiper le retour de données hydrogène grâce 'a l'instrument MASCS embarqué sur la mission MESSENGER de la NASA.