L'étude des états moléculaires à énergie élevée est à la frontière entre divers domaines des sciences qui relèvent de la physique/chimie (mécanique quantique, calcul ab initio des structures électroniques, spectroscopie à haute résolution, physique atmosphérique) et de la dynamique des systèmes complexes. Pour bien interpréter les données expérimentales il y a un fort besoin de modèles théoriques utilisant les algorithmes mathématiques efficaces qui peuvent décrire des spectra avec une haute précision. Le projet de ce travail en co-tutelle est axé vers le développement de modèles et des outils théoriques qui soient adaptés à une description des états du mouvement nucléaire de molécules très excitées. L’objectif est d’accompagner les analyses des spectres et de permettre une modélisation suffisamment précise des mesures expérimentales. Le développement des algorithmes mathématiques et outils informatiques, leurs optimisations, programmations et applications pour des problèmes atmosphérique et environnementales représente le sujet central de la thèse, qui doit s’appuyer sur les compétences du candidat en mathématique appliquée / programmations scientifique et en spectroscopie moléculaire. Des méthodes mathématiques sont considérées dans le contexte des tâches physiques suivantes: 1) Construction et ajustement des modèles d'Hamiltonians effectifs pour décrire un grand nombre des transitions ro-vibrationnelles de protoxyde d'azote (N2O). 2) Construction de modèles analytiques de surface d'énergie potentielle (SEP) d'ozone (O3) à partir de calculs ab initio et ajustements aux données expérimentales vibrationnels. 3) Amélioration d'algorithme des transformations contactes (TC) pour calculer spectra des molécules poly-atomiques avec signifiant nombre des atomes. / The studies of highly excited molecular states are located on the frontier between different scientific domains involving physics / chemistry (quantum mechanics, ab initio electronic structure calculations, high-resolution spectroscopy, atmospheric physics) and dynamics of the very complex molecular systems. For good interpreting of this kind of data it is necessary to have theoretical models which are based on optimized algorithms permitting to predict the experimental data with acceptable precision. The subject of this work is focused in the field of development of theoretical models and algorithms which are adapted to the description of states of the nuclear movements of molecules in highly excited states. Our main goal is to provide efficient computational means to perform spectral analyses and to model the spectroscopic experimental measurements with good accuracy. This task includes developing and enhancing mathematical algorithms, creating and optimization of the necessary field-specific software for applications to the environmental and atmospheric problems. The tasks are in the following competences of the candidate: applied mathematics, scientific programming and molecular spectroscopy.Mathematical methods are considered in the context of the following physical tasks: 1) Construction and fitting of the models of effective Hamiltonians for description of high number of ro-vibrational transitions of nitrous oxide (N2O). 2) Construction of analytical models of the potential energy surface of ozone (O3) using ab initio calculations and fittings to experimental vibrational data. 3) Improvement of the algorithm of contact transformations (CT) aimed at the calculation of ro-vibrational spectra of polyatomic molecules with significant number of atoms.