The transition from a laminar to a turbulent flow strongly modifies the boundary layer properties.Understanding the mechanisms leading to transition is crucial to reliably predict aerodynamicperformances. For boundary layers subjected to high levels of external disturbances, the naturaltransition due to the amplification of the least stable mode is replaced by an early transition, calledBypass transition. This is the result of non-normal mode interactions that lead to a phenomenon oftransient growth of disturbances. These disturbances are known as Klebanoff modes and take theform of streamwise velocity streaks.This thesis aims at understanding this linear mechanism of transient growth and quantifying itsinfluence on the classical modal amplification of disturbances. This is done by computing theso-called optimal perturbations, i.e. the initial disturbances that undergo maximum amplificationin the boundary layer.These optimal perturbations are first determined for two-dimensional compressible boundary layersdeveloping over curved surfaces. In particular, we show that Klebanoff modes naturally evolvetowards Görtler vortices that occur over concave walls. Three-dimensional boundary layers arethen considered. In such configurations, transient growth provides an initial amplitude to crossflowvortices. Finally, applying the tools developed in this thesis to new flow cases such as swept wingsprovides further understanding of the phenomenon of transient growth for realistic geometries. / Le passage du régime laminaire au régime turbulent s’accompagne d’importantes modifications despropriétés physiques de la couche limite. La détermination précise de la transition est donc crucialedans de nombreux cas pratiques. Lorsque la couche limite se développe dans un environnementextérieur faiblement perturbé, la transition est gouvernée par l’amplification du mode propre le moinsstable. Lorsque l’intensité des perturbations extérieures augmente, des interactions multimodalesentraînent une amplification transitoire des perturbations. Ce phénomène peut conduire à unetransition prématurée, appelée transition Bypass. Les perturbations prennent alors la forme destries longitudinales de vitesse appelées modes de Klebanoff.L’objectif de cette thèse est d’étudier ce mécanisme linéaire de croissance transitoire et soninfluence sur l’amplification modale classique des perturbations. Cela passe par la déterminationdes perturbations les plus amplifiées au sein de la couche limite, appelées perturbations optimales.Ces perturbations optimales sont d’abord calculées pour des couches limites bidimensionnelles etcompressibles se développant sur des surfaces courbes. En particulier, on montre que les modes deKlebanoff évoluent vers les tourbillons de Görtler qui se forment sur des parois concaves. Le cas plusgénéral de couches limites tridimensionnelles est ensuite envisagé. Pour de telles configurations, lacroissance transitoire fournit une amplitude initiale aux instabilités transversales. Enfin, l’applicationdes outils développés dans cette thèse fournit de nouveaux résultats pour des cas d’écoulementsautour de géométries réalistes comme une aile en flèche.