L’étude du comportement des roches nécessite de comprendre leur réponse sous diverses sollicitations. L’étude énergétique de l’endommagement des roches est indispensable pour prédire les phénomènes dynamiques. Ces phénomènes sont dus au développement de fissures dans les roches soumises à des fortes contraintes initiales et induites. La fissuration est une forme de dissipation d’énergie qui permet de rétablir l'équilibre du milieu. L’objectif de la thèse est de modéliser la fissuration dans les milieux rocheux dans la perspective d’étudier le comportement des ouvrages souterrains à grande profondeur. Le développement des modèles capables de représenter la fissuration, la coalescence des fissures et leur interaction avec des fractures préexistantes est indispensable. De la littérature, il ressort deux principales approches théoriques et numériques de modélisation de la fissuration : continue et discrète. Une synthèse critique de ces approches nous a conduit à retenir l’approche discrète et plus particulièrement le code Yade dans le cadre de cette thèse. Ce code permet de simuler explicitement la fissuration avec ou sans fractures pré-existantes. Des développements ont été effectués afin de tenir compte des différentes formes d’énergie intervenant dans le comportement des roches soumises à des sollicitations. En particulier une corrélation entre l’énergie de fissuration numérique et l’activité microsismique observée sur des échantillons en laboratoire en compression. Les différentes composantes énergétiques explicitées puis implémentées dans Yade sont : le travail externe, l’énergie potentielle, l'énergie élastique, l’énergie de frottement, l’énergie de fissuration, l'énergie cinétique et l’énergie dissipée en amortissement. La validation de l’approche énergétique a été réalisée grâce à la simulation des essais de laboratoire. L’évolution des différentes composantes énergétiques a permis de vérifier que le bilan des énergies est correctement évalué. Le bilan énergétique a également été vérifié à échelle de structures en simulant l’excavation souterraine d’un Mine-by Experiment (URL Manitoba). L’extension de la zone endommagée induite par l’excavation prédite numériquement a été comparée à celle observée in-situ autour du Mine-by Experiment. Il a été constaté que l’endommagement prédit est similaire à celui observé dans les directions des contraintes initiales mineure et majeure. Par ailleurs la formulation énergétique permet d’étudier numériquement les processus de fissuration des roches. Wassermann (2006) a réalisé des essais de compression uniaxiale et triaxiale sur des échantillons de minerai de fer lorrain. Nous avons modélisé ces essais. La comparaison qualitative des événements acoustiques et des énergies de fissuration issues respectivement des essais et des simulations numériques a montré des tendances similaires. Par contre, la comparaison d’un point de vue quantitatif a montré que le nombre des événements acoustiques numériques est plus important que celui déterminé expérimentalement. L’énergie dissipée par fissuration numérique est également plus importante que celle obtenue sur les essais. Cette différence est expliquée par le fait que les capteurs du dispositif expérimental ne détectent pas tous les événements acoustiques. Les résultats obtenus pourront permettre de mieux comprendre les cinétiques des phénomènes dynamiques dans les ouvrages souterrains profonds. Une autre application a consisté à modéliser un pilier de mine de fer de Joeuf (Lorraine). Le modèle numérique montre deux modes de fissuration dans le pilier : (a) écaillage en peau de pilier, (b) deux bandes de rupture s’initiant du mur et toit du pilier pour se propager vers le cœur du pilier. Ce travail offre de bonnes perspectives pour mieux comprendre la propagation de la fissuration à plus grande échelle mais aussi de progresser dans la recherche de corrélation entre la géomécanique et la géophysique / The study of rock mass behavior requires the understanding of their response under various loadings. The study of rock damage from an energetic point of view is essential in order to predict dynamic phenomena. These phenomena are due to the development of cracks in rocks subjected to strong initial and induced stresses. Fracturing is a form of energy dissipation that restores the balance of the involved medium. The aim of the thesis is to model rock cracks and study the behavior of underground structures at great depths. The development of models able to simulate the fracturing, the coalescence of cracks and their interaction with pre-existing fractures is essential. In the literature, there are two main theoretical and numerical approaches for crack modeling: continuous and discrete. A detailed analysis of these approaches has led us to choose the discrete approach and more particularly the code Yade. This code enables to simulate explicitly cracks propagation with or without pre-existing fractures. Developments have been made to evaluate the different forms of energy involved in rock behavior. In particular, a correlation between the cracks energy determined numerically and the microseismic activity observed in laboratory samples has been performed. The various energy components developed and then implemented in Yade are: external work, potential energy, elastic energy, friction energy, cracks energy, kinetic energy and damping energy. Validation of the energy approach was carried out by simulating laboratory tests. The evolution of the various energy components permits to verify that the energy balance is correctly evaluated. The energy balance was also verified at a structure scale by simulating the underground excavation of a Mine-by Experiment (URL Manitoba). The extension of the damaged zone induced by excavation and predicted by numerical simulations was compared with that observed in-situ around the Mine-by Experiment. It has been found that the predicted and the observed damage are similar in the directions of initial minor and major initial stresses. In addition, the energy formulation enables to study numerically the fracturing process of rocks. Wassermann (2006) performed uniaxial and triaxial compression tests on samples of iron ore from Lorraine. We have modeled these tests. The qualitative comparison of acoustic events and cracks energies determined from tests and numerical simulations showed similar trends. On the other hand, the quantitative comparison showed that the number of numerical acoustic events is greater than the number of experimental acoustic events. Also, the energy dissipated by cracks determined numerically is greater than the energy measured in the tests. This difference is explained by sensors accuracy of the experimental device, which are not able to detect all the generated acoustic events. The results obtained will allow us to better understand the dynamic phenomena in the deep underground structures. Another application consisted in modeling an iron ore pillar of Joeuf (Lorraine). The numerical model shows two modes of cracking in the pillar: (a) flaking of pillar wall, (b) two breaking bands initiating from the wall and the roof of the pillar to propagate towards his core. This provides good perspectives for better understanding cracks propagation at a larger scale, also to progress in the understanding of the correlation between geomechanics and geophysics