La découverte récente de roches mantelliques à l'affleurement en pied de marge continentale passive, à la limite entre la croûte continentale amincie et la croûte océanique, a remis en question les modèles d'extension de la lithosphère continentale. Deux approches ont été choisies ici pour essayer de comprendre les mécanismes d'amincissement de la lithosphère continentale et de remontée du manteau sous une zone de rift: (1) une approche expérimentale sur modèles réduits analogiques dimensionnés, comparés à des modèles analytiques et (2) une étude pétro-structurale des péridotites et des roches du socle continental de la marge profonde de la Galice. Les modèles montrent que la déformation de la lithosphère, assimilée à une multicouche fragile-ductile, est guidée par l'amplification d'instabilités dues à l'hétérogénéité verticale de la structure rhéologique; en extension, ces instabilités développent le boudinage des niveaux les plus résistants (croûte supérieure et manteau superficiel pour une lithosphère stable de 100 à 120 km d'épaisseur). Ce boudinage est accomodé dans les niveaux ductiles découplants (croûte inférieure et manteau lithosphérique) par la création d~ zones de cisaillement en faille normale. Le couplage des niveaux résistants contrôle la largeur et le degré de symétrie interne de la zone lithosphérique déformée. Ce modèle mécanique de formation des marges par boudinage montre en particulier que la remontée du manteau sous une zone de rift jusqu'à la surface peut être une conséquence directe de l'amincissement de la lithosphère; le dôme mantellique est symétrique, tandis que la structure interne de la lithosphère amincie peut être asymétrique. L'étude pétro-structurale des péridotites serpentinisées de la marge de la Galice a montré qu'elles ont subi une fusion partielle limitée dans les conditions du faciès à plagioclase, compatible avec une décompression adiabatique pendant leur remontée. Elles ont été mylonitisées pendant leur mise en place dans la lithosphère dans une zone de cisaillement à rejet normal à faible pendage vers le continent, puis ont subi une déformation cassante et une serpentinisation tardive en arrivant près de la surface. Cette évolution et la cinématique de la déformation sont compatibles avec la montée d'un dôme mantellique à l'aplomb de la zone ' lithosphérique amincie pendant la phase de rifting continental qui a précédé l'océanisation. Le modèle de boudinage est appliqué à la formation de la marge de la Galice, en tenant compte des contraintes apportées par la structure et l'évolution de la marge et des péridotites.