Ces cinquantes dernières années, la majorité des paramètres de conception des moteurs cryotechniques ont été ajustés en l'absence d'une compréhension détaillée des phénomènes de combustion, en raison des limites des diagnostiques expérimentaux et des capacités de calcul. L'objectif de cette thèse est de réaliser des simulations numériques instationnaires d'écoulements réactifs transcritiques de haute fidélité, pour permettre une meilleure compréhension de la dynamique de flamme dans les moteurs cryotechniques et finalement guider leur amélioration. Dans un premier temps, la thermodynamique gaz-réel et son impact sur les schémas numériques sont présentés. Comme la Simulation aux Grandes Echelles (SGE) comporte des équations filtrées, les effets de filtrages induits par la thermodynamique gaz-réel sont ensuite mis en évidence dans une configuration transcritique type et un opérateur de diffusion artificiel, spécifique au gaz réel, est proposé pour lisser les gradients transcritiques en SGE. Dans un deuxième temps, une étude fondamentale du mélange turbulent et de la combustion dans la zone proche-injecteur des moteurs cryotechniques est menée grâce à la Simulation Numérique Directe (SND). Dans le cas non-réactif, les lâchers tourbillonnaires dans le sillage de la lèvre de l’injecteur jouent un rôle majeur dans le mélange turbulent et provoquent la formation de structures en peigne déjà observées expérimentalement dans des conditions similaires. Dans le cas réactif, la flamme reste attachée à la lèvre de l'injecteur, sans extinction locale, et les structures en peigne disparaissent. La structure de flamme est analysée et différents modes de combustion sont identifiés. Enfin, une étude de flamme-jet transcritique H2/O2, accrochée à un injecteur coaxial avec et sans retrait interne, est menée. Les résultats numériques sont d'abord validés par des données expérimentales pour l'injecteur sans retrait. Ensuite, la configuration avec retrait est comparée à la solution de référence sans retrait et à des données experimentales pour observer les effets de ce paramètre de conception sur l'efficacité de combustion. / In the past fifty years, most design parameters of the combustion chamber of Liquid Rocket Engines (LREs) have been adjusted without a detailed understanding of combustion phenomena, because of both limited experimental diagnostics and numerical capabilities. The objective of the present thesis work is to conduct high-fidelity unsteady numerical simulations of transcritical reacting flows, in order to improve the understanding of flame dynamics in LRE, and eventually provide guidelines for their improvement. First real-gas thermodynamics and its impact on numerical schemes are presented. As Large-Eddy Simulation (LES) involves filtered equations, the filtering effects induced by real-gas thermodynamics are then highlighted in a typical 1D transcritical configuration and a specific real-gas artificial dissipation is proposed to smooth transcritical density gradients in LES. Then, a Direct Numerical Simulation (DNS) study of turbulent mixing and combustion in the near-injector region of LREs is conducted. In the non-reacting case, vortex shedding in the wake of the lip of the injector is shown to play a major role in turbulent mixing, and induces the formation of finger-like structures as observed experimentally in similar operating conditions. In the reacting case, the flame is attached to the injector rim without local extinction and the finger-like structures disappear. The flame structure is analyzed and various combustion modes are identified. Finally, a LES study of a transcritical H2/O2 jet flame, issuing from a coaxial injector with and without inner recess, is conducted. Numerical results are first validated against experimental data for the injector without recess. Then, the recessed configuration is compared to the reference solution and to experimental results, to scrutinize the effects of this design parameter on combustion efficiency.