La dégradation géométrique de la voie ferrée sur les Lignes à Grande Vitesse (LGV) est un phénomène qui entraîne des coûts de maintenance importants pour assurer une qualité de circulation et de sécurité. Cette dégradation géométrique est imputable, en partie au tassement de la couche de ballast qui constitue l'une des parties de la voie ferrée.Le tassement du ballast est un phénomène difficile à estimer et à prédire car sa nature granulaire et ses caractéristiques particulières entraînent des variabilités de ses propriétés mécaniques. Ce travail de thèse est consacré à l'étude du comportement mécanique du ballast, pour le développement d'un modèle prédictif du tassement sur voie ferrée à partir de la caractérisation mécanique initiale du matériau (grâce à l'utilisation du pénétromètre léger Panda) et des sollicitations auxquelles la voie est soumise. Grâce à l'étude paramétrique développée sur un banc d'essais à échelle réelle, nous avons constitué et validé un modèle de prédiction qui est basé sur une loi de relaxation logarithmique.La modélisation numérique par éléments discrets en utilisant la méthode de la Dynamique des Contacts permet d'étudier les propriétés mécaniques du matériau ballast à l'échelle des grains. L'analyse des déformations transitoires montre une dépendance claire de la déformation moyenne par rapport à la contrainte appliquée et au rapport d'aspect en raison de l'action du frottement aux frontières. Les fluctuations de ces déformations, sont très importantes et semblent évoluer avec la déformation moyenne. Finalement, la pertinence de la caractérisation du ballast à partir de l'essai Panda a été vérifiée à partir d'une étude paramétrique sur les mécanismes d'enfoncement grâce à l'utilisation de cette approche numérique discrète. / Railway track degradation on high-speed lines is a phenomenon which causes high maintenance costs to ensure quality traffic and safety.This geometric degradation is due in part to the vertical strain (settlement) of the ballast layer, which compose the track.The ballast settlement is a difficult phenomenon to estimate and predict because its granular nature and characteristics of this layer induces variability of its mechanical properties.This work is devoted to the study of the mechanical behavior of ballast, to develop a predictive model of track settlement from the initial mechanical characterization of the material (by means a light penetrometer Panda) and the loading on track. By means several test on a full-scale model of railway track, we established and validated a predictive model based on a logarithmic relaxation law. Numerical modeling by discrete element method using the Dynamic Contacts allows to study the mechanical properties of ballast at grain-scale.Transient deformation analysis shows a clear dependence of the average deformation with respect to the stress and aspect ratio as a result of the frictional feedback at the boundaries. Fluctuations of these deformations are significant and seem to evolve with the average deformation. Finally, the relevance of the ballast characterization using the Panda test has been verified by means a parametric study on mechanisms during the penetration process by discrete element method.