Dévoiler les mystères du système solaire pour comprendre les mécanismes de la formation de la Terre, pour rechercher des signes de vie ou pour développer des colonies sur d’autres planètes, dépend de notre capacité à repousser les limites de l'ingénierie et de la science. Pour cela, il est important de développer des technologies de pointe pour permettre aux véhicules spatiaux de survivre la phase d'entrée ou de rentrée atmosphérique. Lors de l’entrée ou de la rentrée, l’engin spatial peut être exposé à flux radiatifs intenses qui ne peuvent pas encore être prédits avec précision, imposant ainsi des marges de sécurité sur la conception des systèmes de protection thermique. Ces incertitudes augmentent lorsque le bouclier thermique est constitué d'un matériau ablatif car sa dégradation introduit de nouvelles espèces chimiques réagissant avec le plasma produit devant le véhicule, ce qui affecte le rayonnement. Le but de cette thèse est d’étudier les flux de chaleur radiatifs sur un véhicule de rentrée de petite taille en présence d’un bouclier ablatif (Thermal Protection System, ou TPS), en utilisant des simulations numériques et des expériences pour développer un instrument de vol qui sera embarqué à bord du CubeSat QARMAN.Une évaluation de la trajectoire de rentrée du véhicule QARMAN (masse : 5 kg) a été réalisée en utilisant un code maison à 6 degrés de liberté. Un ensemble de simulations Monte Carlo ont permis de quantifier les incertitudes et ont montré un maximum de ± 15% écart par rapport à la trajectoire nominale. Les spectres sans ablation ont alors été déterminés en utilisant une approche découplée avec deux codes : Stagline (VKI) et SPECAIR (EM2C, CentraleSupélec). Ces simulations ont été effectuées pour la trajectoire nominale ainsi que pour la gamme des incertitudes. Elles ont permis de mettre en évidence un comportement non-linéaire des caractéristiques spectrales par rapport aux valeurs nominales, avec une augmentation drastique vers la fin de la mission.Les effets de l'ablation ont été étudiés avec une nouvelle technique de mesure développée au cours de cette thèse. Basée sur deux sondes de mesure de rayonnement, l’une refroidie et l’autre recouverte d’un matériau ablatif, cette méthode permet de quantifier l'émission et l'absorption induite par tout type de TPS ayant des interactions gaz-surface avec l'écoulement, dans l’hypothèse que les raies d’émission et d’absorption des espèces ablatives ne soient pas superposées. La méthode a été validée sur un échantillon de graphite TPS. Elle a ensuite été appliquée à la prédiction du rayonnement attendu lors de la mission QARMAN (Cork P50 TPS). Cette étude a également permis de sélectionner un spectromètre d’émission adapté à la mission QARMAN et aux objectifs de la thèse (plage de 350 à 800 nm pour une masse de 68 g).Un instrument de mesure de rayonnement standard a été testé et les limites de cet appareil ont été établies. Deux nouvelles technologies ont été développées et la charge utile (spectromètre d’émission INES) a été construite et intégrée au véhicule QARMAN. Un étalonnage spectral et thermique dédié a également été développé pour maximiser la qualité du retour scientifique en prenant en compte les variations de température dans la baie de charge utile de QARMAN.L’instrument proposé est, à ce jour, la seule charge utile non intrusive capable d’effectuer des mesures radiatives sans limitations liées à la contamination par les poussières et gaz d'ablation. L’instrument peut aussi fournir des mesures de la récession, de la sublimation et du gonflement du TPS avec une précision d'au moins 0,2 mm. Le fonctionnement de l'appareil a été démontré pour une grande variété de conditions de test, y compris différents profils d'enthalpie, mélanges de gaz et matériaux de TPS. / Unveiling the mysteries of the solar system to understand the mechanisms of Earth’s formation, to search for signs of life, or to develop settlements on other planets, depends on our abilities to push the limits of engineering and science. One of the key aspects of space exploration is the development of advanced technologies to sustain the entry/reentry phase. During entry or reentry, the spacecraft may be exposed to intense radiative fluxes that cannot be accurately predicted yet, thus imposing high safety margins on the design of thermal protection systems. These uncertainties rise when the heat shield is made of an ablative material as its degradation introduces new chemical species reacting with the flow affecting radiation processes. The goal of this thesis is to study the radiative heat fluxes onto a small size reentry vehicle in the presence of an ablative TPS, using numerical simulations and experiments to develop a flight instrument that will be carried onboard the QARMAN CubeSat.An assessment of the reentry trajectory of the 5-kg QARMAN vehicle was performed using a custom 6-degree of freedom code. An extensive set of Monte Carlo simulations allowed to quantify uncertainties and showed a maximum of ±15% deviation from the nominal trajectory. The spectra without ablation were then computed using a decoupled approach with two codes: Stagline (VKI) and SPECAIR (EM2C, CentraleSupélec). These simulations were performed for the nominal trajectory as well as for the range of uncertainties. They showed a nonlinear behavior of the spectral features deviations from nominal with a drastic increase toward the end of the mission.The effects of ablation were studied with a new measurement technique developed during this thesis. Based on two radiation measurement probes, one cooled and the other with an ablative surface, it allows to quantify the emission and absorption induced by any kind of TPS having gas-surface interactions with the flow, provided that the radiative emission or absorption features of the ablative species do not fully overlap. The method was validated on a graphite TPS sample. It was then applied to determine the radiation expected during the QARMAN mission (Cork P50 TPS). This study also allowed to select an emission spectrometer (350-800 nm range for a 68-g mass).A standard radiation instrument was tested and the limits of this device shown. On those lessons learned, two new technologies were developed and an emission spectrometer payload (INES) was built and integrated into the QARMAN reentry CubeSat. A dedicated spectral and thermal calibration was also developed to maximize the quality of the scientific return by tackling the non-standard internal temperature variations of QARMAN’s payload bay.Relying on two inventions made during this study, the apparatus is at the time of writing, the only non-intrusive payload capable of making radiative measurements without limitations due to ablation dust contamination. The instrument can also provide measurements of recession, sublimation and swelling of the TPS with a precision of at least 0.2 mm. Operation of the apparatus was demonstrated for a wide variety of test conditions, including different enthalpy profiles, gas mixtures and TPS materials.