L’objectif de cette thèse est d’étudier et de reproduire les caractéristiques spécifiques de la microstructure du combustible nucléaire irradié à fort taux de combustion, appelée structure HBS (High Burnup Structure). Il s’agit d’étudier les différents paramètres pertinents impliqués dans la formation d’une telle structure, en évaluant leur importance, et en clarifiant leurs éventuelles synergies. Cet objectif a été réalisé en utilisant un système de modèle ultra simplifié, à savoir des monocristaux de dioxyde d’uranium (UO₂) irradiés par des ions de basse énergie (quelques centaines de keV) de Lanthane (La) ou de xénon (Xe) à une température de 773 K, correspondant à celle de la périphérie des véritables pastilles de combustible en réacteur. Les énergies et les masses des ions ont été choisies pour étudier la déstabilisation du solide en fonction de deux paramètres-clefs: (i) les collisions nucléaires élastiques et (ii) la contribution chimique de l'incorporation d'impuretés à forte concentration. Les deux espèces ont été choisies délibérément pour leurs solubilités très différentes dans le dioxyde d’uranium: les ions La sont solubles dans l'UO₂ jusqu’à de très fortes concentrations, tandis que les ions Xe sont insolubles. Les techniques de la Microscopie Électronique en Transmission (TEM) et de Spectrométrie de Rétrodiffusion Rutherford en canalisation RBS/C ont été conduites in situ couplée avec l’irradiation. Ces deux techniques utilisées pour visualiser, quantifier et fournir des informations concernant la fraction des défauts induits par l’irradiation et la formation des bulles, de cavités ou de précipités dans le solide. Les données de canalisation ont été analysées par simulation Monte-Carlo en supposant l’existence de deux catégories de défauts : (i) des atomes aléatoirement déplacés (RDA) et (ii) des distorsions des rangés atomiques (BC). L’évolution de la fraction de défaut de type RDA montre une forte augmentation entre 0.4 à 4.0 dpa (correspondant à une très faible concentration des ions implantés), indépendamment de la nature des ions. Elle est suivie par une saturation de la fraction de RDA pour les deux ions sur une large gamme d’irradiation quoi s’étend jusque 100 dpa. Une forte élévation de la fraction de RDA est observée en particulier pour les cristaux implantés avec des ions Xe pour une concentration élevée dépassant les 4%. En ce qui concerne l’évolution de BC, elle augmente fortement jusqu’à 4 dpa et sature ensuite deux ions La et Xe. Les résultats de microscopie électronique in situ montrent que des défauts identiques pour les deux ions induits par l’irradiation apparaissent, et présentent la même évolution en fonction de la fluence. Les différents défauts évoluent en fonction de la fluence : la première étape correspond à la formation de ‘black dots’ ; la deuxième étape est caractérisée par la formation de boucles puis de lignes de dislocations, qui évoluent finalement jusqu’à commencer à devenir moins différenciables; le processus de restructuration se poursuit et forme un réseau de dislocations enchevêtrées. Une forte densité de bulles de gaz, de taille nanométrique et avec un diamètre moyen de 2 nm est observée pour le cristal Xe implanté à une dose seuil de 4 dpa. Le couplage des deux techniques conduites in situ montre que la différence entre les valeurs à saturation des fractions RDA des deux ions, d’une part, et l'augmentation drastique de RDA à très forte concentration d'ions Xe implantés d’autre part peuvent être attribuées à : (i) la solubilité des ions La vis-à-vis des ions Xe, conduisant à la formation des bulles de gaz de taille nanométrique et (ii) la taille des espèces implantées dans la matrice UO₂, pour laquelle les atomes Xe insolubles ont un rayon atomique beaucoup plus grand que le rayon cationique des atomes U⁴⁺(les atomes La³⁺ ont un rayon atomique similaire à celui des atomes U⁴⁺), responsable de plus de contraintes supplémentaires dans la structure cristalline. / The aim of this thesis is to investigate and reproduce the specific features of the microstructure of the high burnup structure of the irradiated nuclear fuel and to explore the various relevant parameters involved in the formation of such a structure, in evaluating their importance, and in clarifying the synergies between them. This have been performed by using a very simplified model system – namely uranium dioxide single crystals- irradiated with low energy La and Xe ions at 773 K, corresponding to the temperature at the periphery of the genuine fuel. The energies and masses of bombarding ions were chosen to investigate the destabilization of the solid due to: (i) the elastic nuclear collisions and by (ii) the chemical contribution of implanting impurities at high concentrations by implanting different ions in UO₂, namely Xe and La, having very different solubility: La species are soluble in UO₂ while Xe ions are insoluble. In situ Transmission electron Microscopy (TEM) and in situ Rutherford Backscattering Spectrometry in the channeling mode (RBS/C), both techniques coupled to ion irradiation, were performed to visualize, quantify and provide information with respect to the fraction of radiation-induced defects and the formation of bubbles, cavities, or precipitates. The channeling data were analyzed afterwards by Monte Carlo simulations assuming two class of defects comprising (i) randomly displaced atoms (RDA) and (ii) bent channels (BC) defects. Regarding the RDA evolution, a sharp increase step appears from 0.4 to 4.0 dpa (corresponding to a low concentration of implanted ions) regardless of nature of ions followed by a saturation of the fraction of RDA for both ions over a wide range of irradiation. A sharp increase of RDA fraction is observed specifically for crystals implanted with Xe ions at a high concentration exceeding 1.5 % (corresponding to the dose of more than 125 dpa). Regarding the BC evolution, for both ions, the evolution shows an increase in the fraction of BC up to 4.0 dpa then the fraction of BC almost saturates for Xe and La ions. In situ TEM results show that a similar radiation-induced defects appear for both ions and the same evolution of defects as a function of the fluence is observed. The various defects evolved as a function of the fluence: starting from the black dot defects formation that were observed as a first type of defects created, then dislocation lines and loops appeared and evolved until they started to be become less distinguishable, the restructuring process continued by forming a tangled dislocation network. A high density of nanometer-sized gas bubbles with a mean diameter 2 nm were observed at room temperature for the Xe-implanted crystal at a threshold dose of 4 dpa. The coupling between both techniques (in situ RBS/C and TEM) demonstrates that the difference between the two plateaus of saturation between the two ions and the dramatic increase of RDA at high concentration of implanted Xe ions can be ascribed to: (i) the solubility of La compared to Xe ions leading to the formation of nanometer-sized gas bubbles and (ii) the size of implanted species in UO₂ matrix where insoluble Xe atoms have an atomic radius much larger than the cationic radius of U⁴⁺ atoms, (La³⁺ atoms have a similar atomic radius as U⁴⁺ atoms) responsible for more stress in UO₂ crystal.