Les objectifs de cette thèse sont de décrire les mécanismes de déformations de la lithosphère en régime compressif, et le contrôle imposé par les paramètres mécaniques sur la manière dont le raccourcissement horizontal est accommodé (par la formation de plis, de chevauchements, ou encore par épaississement homogène). Nous avons étudié la nature des instabilités susceptibles de se développer en utilisant des calculs analytiques basés sur la résolution des équations de Navier-Stokes ainsi que leur évolution pour des taux de déformation importants à partir de modèles analogiques et de calculs numériques par la méthode des éléments finis. Les calculs analytiques ont permis de déterminer l'influence des différents paramètres mécaniques de la lithosphère sur le développement d'instabilités périodiques. En domaine océanique, le raccourcissement est essentiellement accommodé par la formation de plis affectant l'ensemble de la lithosphère. Les parties fragiles de la lithosphère et les contrastes de densité contrôlent la croissance des instabilités. Des expériences analogiques ont permis de confirmer les résultats précédents et d'étudier l'évolution tridimensionnelle d'instabilités Iithosphériques après l'apparition de la fracturation. En domaine continental, le passé tectonique, et les hétérogénéités mécaniques qui en résultent, joue un rôle essentiel pour l'initiation des plis. ' En effet, les hétérogénéités initiales peuvent favoriser l'apparition de failles aux dépends des plis de grandes longueurs d'onde. Les structures ainsi formées s'apparentent à des bassins compressifs dont la géométrie reste cependant contrôlée, en partie,par la longueur d'onde des plis Iithosphériques. Ces résultats ont été complétés par des calculs numériques basés sur la méthode des éléments finis et appliqués à des exemples naturels situés, en domaine océanique, dans l'Océan Indien, et en domaine continental au Japon. Les plis ne se développent qu'après plastification complète des parties fragiles de la lithosphère océanique ou continentale.