Les réacteurs à neutrons rapides refroidis au sodium sont en développement en vue d'assurer une quatrième génération de réacteurs répondant à la demande énergétique, tout en assurant la préservation des ressources d'uranium par un fonctionnement en surgénérateur. L'objectif de la filière est également d'améliorer la gestion de la radiotoxicité des déchets produits par transmutation des actinides mineurs et de contrôler la non-prolifération par un fonctionnement en cycle fermé. Une instrumentation de surveillance et de contrôle de ce type de réacteur a été étudiée dans cette thèse. La spectrométrie gamma de nouvelle génération permet, par les hauts taux de traitement aujourd'hui accessibles, d'envisager de nouvelles approches pour suivre avec une précision accrue la puissance neutronique et de détecter plus précocement des ruptures de gaine combustible. Des simulations numériques ont été réalisées et une campagne d'essai a été menée à bien sur le réacteur Phénix de Marcoule. Des perspectives prometteuses ont été mises en exergue pour ces deux problématiques.

L'industrie électronucléaire, pour faire face aux besoins énergétiques croissant, à besoin de développer une nouvelle génération de réacteur : la quatrième génération. Parmi les six candidats, on trouve les réacteurs à sels fondus, qui, en configuration rapide, semble avoir de très bonnes propriétés : la régénération est facilement accessible tout en gardant des coefficients de contre-réaction négatifs. Le procédé de retraitement du sel combustible n'est toutefois toujours pas établi de manière définitive. Beaucoup d'incertitude sur les paramètres physicochimiques des sels combustibles empêchent de définir de manière précise chaque étape du procédé. Grâce à la simulation numérique nous avons pu étudier le comportement du cœur du réacteur couplé à une unité de retraitement de référence. De cette manière nous avons pu quantifier les flux de chaleurs et les radiations pour identifier les étapes qui nécessiteront une attention particulière lors du dimensionnement. Nous avons aussi pu identifier les éléments pour lesquels une mauvaise extraction mettrait en péril le bon fonctionnement du réacteur. Enfin, toujours grâce à la simulation numérique, ce travail présente une analyse des sensibilités du procédé de retraitement sur un certain nombre de grandeurs physique représentative du cœur du MSFR.

Un concept innovant de réacteurs nucléaires à sels fondus, le Thorium Molten Salt Reactor (TMSR), a été défini au LPSC Grenoble. Le présent mémoire porte sur les études, optimisations et caractérisations réalisées sur les configurations en spectre rapide de ce concept, appelées ‘TMSR non modérés' ou TMSR-NM, très prometteuses. Le cœur est un simple cylindre dans lequel circule un sel fluore contenant du LiF et le combustible. Nos études portent sur les caractéristiques de ces réacteurs en termes de sûreté, inventaire fissile, retraitement chimique, production de déchets et capacité de régénération et de déploiement. Un tel réacteur présente maints avantages intrinsèques permettant un fonctionnement simple et sûr en cycle du combustible Thorium, ainsi que l'utilisation de divers éléments fissiles au démarrage tels l'233U, 235U ou les transuraniens issus des réacteurs actuels. Ceci permettrait une transition optimisée vers le cycle Thorium tout en fermant le cycle actuel.