En ingénierie mécanique, la rupture des matériaux est un risque qu'il convient d'anticiper et qui reste aujourd'hui une menace pour les structures. La rupture des systèmes pré-fissurés a lieu quand l'énergie libérée par la propagation de la fissure préexistante excède un seuil critique (taux de restitution d'énergie) qui représente une propriété du matériau. Au contraire, la rupture de systèmes sans défauts préexistants survient lorsque la contrainte appliquée atteint la résistance, également propriété du matériau. L'existence de deux critères pour la rupture semble indiquer des mécanismes d'amorçage différents, ce qui soulève la question des cas réels intermédiaires qui présentent des concentrations de contrainte modérées. Différentes approches existantes sont cohérentes avec les deux situations limites mais il n'y a pas de consensus clair dans la communauté scientifique. Dans cette thèse, nous étudions les mécanismes de la rupture fragile à l'échelle atomique afin d'en comprendre l'origine physique pour différentes concentrations de contraintes. La rupture provient de la rupture des liaisons à l'échelle atomique. Nous utilisons donc des techniques de simulation moléculaire pour étudier la physique élémentaire de l'initiation de la rupture fragile. Dans ce but, on étudie deux types de structure atomique. Le premier est un matériau modèle à maille triangulaire, dont le potentiel permet d'interpréter analytiquement, et avec précision, les résultats des simulations moléculaires. L'étude est étendue à un système plus réel : le graphène. Ce matériau, qui présente une résistance élevée au regard de sa faible ténacité, a l'une des plus petites tailles de zone d'élaboration par rapport aux autres matériaux fragiles, ce qui permet d'appliquer numériquement les concepts de la rupture fragile jusqu'à l'échelle nanométrique de la simulation moléculaire. On s'intéresse dans un premier temps à la rupture des matériaux à 0K. À cette température, un système atomique est en équilibre statique. La rupture peut donc être traitée comme une instabilité. L'analyse du profil énergétique du système atomique fournit un moyen d'identifier les mécanismes de rupture. Nous montrons qu'on peut identifier la rupture en cherchant les valeurs propres nulles ou négative de la matrice hessienne. Les vecteurs propres correspondants indiquent les modes de rupture et montrent l'apparition de bandes de transition entre mouvements de groupes d'atomes pour des systèmes intacts, dont la largeur rappelle la longueur d'élaboration, généralement introduite dans des théories macroscopiques d'initiation de la rupture. On étudie aussi l'effet de la présence de défauts sur les modes d'instabilité et leur dégénérescence. Cette étude fournit une technique générale pour identifier les mécanismes d'initiation de rupture quelle que soit la concentration de contrainte dans la structure. On s'intéresse ensuite aux températures non nulles. On étudie les effets combinés de la température, de la taille du système et du taux de chargement. En partant de la théorie cinétique, nous montrons qu'il existe des lois d'échelle générales fournissant une équivalence taille-vitesse de chargement-température et permettant de relier résistance et ténacité à la limite à 0K. La différence entre la loi d'échelle en résistance et celle en ténacité réside dans le fait que la rupture ne soit pas sensible à la taille du système pré-fissuré mais au nombre de pointes de fissure. Cela indique une différence statistique essentielle entre la rupture en résistance et la fracture ce qui permet de mieux comprendre la transition de l'une à l'autre. Dans l'esprit de mieux comprendre la transition entre les deux types de rupture, on traite le cas de trous elliptiques à différents rapports d'aspects et on analyse en même temps l'effet de cette transition sur les modes d'instabilité. On étudie en dernière partie, l'effet des surfaces libres et les différents paramètres caractérisant cette situation / In mechanical engineering, failure is a risk that must be anticipated and is still a threat for structures. The failure of pre-cracked systems occurs when the energy released by the propagation of the pre-existing crack exceeds a critical threshold (Griffith's energy release rate) which represents a property of the material. On the contrary, the failure of systems without pre-existing defects occurs when the applied stress reaches the strength, also property of the material. The existence of two criteria for failure suggests different driving mechanisms, which raises the question of intermediate cases with moderate stress concentrations. Different existing approaches are consistent with the two limit cases but there is no clear consensus in the scientific community.In this work, we study the mechanisms of brittle failure on the atomic scale in order to understand the underlying physical mechanisms. Macroscopic failure comes from the breaking of bonds at the atomic scale. We therefore use molecular simulation techniques to study the elementary physics of brittle failure initiation. Two types of atomic structure are studied. The first one is a triangular lattice toy model whose simplicity allows precise analytical interpretation of the molecular simulation results. The study is extended to a more realistic system: graphene. This material, which has a high strength and a rather low toughness in comparison, has one of the smallest process zones compared to other brittle materials, which makes it possible to apply the concepts of brittle failure up to the nanometric scale of molecular simulation. We first investigate the failure of materials at 0K. At this temperature, an atomic system is in static equilibrium. The breaking of bonds can be treated as instability. The analysis of the energy profile of the atomic system provides a means of identifying the mechanisms of failure. We show that we can identify failure initiation by looking for negative or zero eigenvalues of the Hessian matrix. The corresponding eigenvectors indicate the modes of failure and show the appearance of transition bands between motions of groups of atoms for intact systems, whose width recalls the size of the process zone, generally introduced in macroscopic theories of failure initiation. We also study the effect of defects on the instability modes and their degeneracy. This study provides a general technique to capture fracture initiation mechanisms irrespective of the stress concentration in the structure. We focus afterwards on finite temperatures. We study the combined effects of temperature, system size and loading rate. Starting from the kinetic theory, we identify general scaling laws providing a size-loading rate-temperature equivalence and relating the strength and toughness to the limit at 0K. The difference between the scaling law of strength and that of toughness lies in the fact that failure is not sensitive to the size of the pre-cracked system but to the number of crack tips. This indicates an essential statistical difference between strength and fracture failures which makes it possible to better understand the transition from one to the other.In order to better understand the transition between the two types of failure, we treat the case of elliptic holes with different aspect ratios and we focus at the same time on the effect of this transition on instability modes. We study in the last part the case of non-periodic structures with free surfaces. We determine the various parameters characterizing this situation and the effect of the presence of surface phenomena on instability modes