Dans ce travail de thèse, nous avons entrepris une analyse rigoureuse du concept de transition de phase et de sa pertinence pour aborder la dynamique non linéaire et invariante d'échelle des objets géologiques. En particulier, nous tentons de définir clairement les ingrédients nécessaires et les implications d'un état critique pour un système, et étudions dans quelle mesure ces ingrédients sont compatibles avec les caractéristiques géomécaniques des objets géologiques. Nous passons également en revue les approches récemment proposées pour aborder la rupture des matériaux, la déformation de la croûte ou le glissement sur une faille, en terme de transition de phase. Nous portons notre intérêt non seulement sur le concept d'état critique, mais aussi sur d'autres mécanismes susceptibles de générer des lois d'échelle. Nous utilisons ensuite ce formalisme pour étudier trois exemples concrets: la mécanique des éruptions dans un volcan, la fracturation d'un réservoir d'hydrocarbure et la déformation viscoplastique d'un échantillon de glace. La variété de ces exemples illustre la généralité et la puissance d'analyse du concept de transition de phase pour aborder la mécanique des objets géologiques. D'abord, nous proposons pour les volcans basaltiques un modèle de réservoir composé d'un grand nombre de lentilles de magma en interaction, dans lequel une éruption résulterait d'un phénomène de cascade initié par de faibles perturbations. Ce modèle est en accord avec les données du Piton de la Fournaise. Ensuite, nous isolons sur un site d'extraction d'hydrocarbure l'effet d'une variation basse fréquence de la vitesse de chargement du milieu sur son mode de fracturation (diffus/localisé). Nous discutons les implications de cet effet tant en termes industriels que pour la mécanique des séismes. Enfin, nous montrons que la déformation viscoplastique d'un matériau par mouvements de dislocations peut s'interpréter, comme la déformation cassante, dans le cadre des transitions de phase.