L’objectif de cette thèse est d’analyser le développement des instabilités secondaires bidimensionnelles et tridimensionnelles dans les couches de mélange à densité variable, incompressibles et à nombre de Froude infini. Dans ces conditions, la présence d’inhomogénéités de masse volumique modifie sensiblement la dynamique rotationnelle de l’écoulement et celle des instabilités secondaires sous l’action du couple barocline. Une analyse de stabilité linéaire non-modale est mise en oeuvre pour identifier les mécanismes physiques de croissance transitoire. Cette analyse permet également de prendre en compte le caractère instationnaire de la couche de mélange, absent dans l’analyse modale quasi-statique de Fontane (2005). Après établissement des équations de Navier–Stokes linéarisées directes et adjointes à densité variable, celles-ci sont utilisées dans une méthode d’optimisation itérative qui permet de déterminer les perturbations à croissance énergétique maximale. La première partie consiste en la description des perturbations optimales pour une couche de mélange homogène. Aux temps courts, lorsque la couche de mélange est quasi-parallèle, les perturbations optimales présentent de fortes amplifications transitoires, dont l’origine physique est due à la synergie des mécanismes classiques de Orr et de lift-up. Puis lorsque la couche s’enroule pour former un tourbillon de Kelvin–Helmholtz, les perturbations évoluent vers les instabilités tridimensionnelles elliptiques ou hyperboliques, selon le nombre d’onde latéral. Dans la deuxième partie, l’analyse est étendue aux couches de mélange à densité variable. Pendant la phase initiale de développement des perturbations optimales, les inhomogénéïtés de masse volumique ont une influence minime sur la croissance des perturbations. Ce n’est qu’une fois la couche de mélange enroulée que les effets de densité deviennent actifs, entraînant un supplément d’amplification significatif par rapport à la situation homogène. En particulier, le couple barocline favorise le développement des perturbations du côté du fluide léger du rouleau de Kelvin–Helmholtz. Enfin, lorsque le temps d’injection des perturbations est suffisamment retardé, la vorticité produite par le couple barocline favorise le développement d’une instabilité bidimensionnelle du type Kelvin-Helmholtz identifiée par Reinaud et al. (2000). / The purpose of this thesis is to analyse the development of two-dimensional and three-dimensional secondary instabilities in incompressible variable-density mixing layers, in the limit of infinite Froude number. Under these conditions, mass inhomogeneities alter significantly the rotational dynamics of the flow under the action of the baroclinic torque. A nonmodal stability analysis is implemented to identify the physical mechanisms of transient growth. This analysis allows to take into account the unsteady natureof the flow, which was absent in the quasi-static modal analysis (Fontane, 2005). After establishing of the direct and adjoint linearised Navier-Stokes equations for variable-density flows, they are used in an iterative optimization method to determine the perturbations that maximize their energy. The optimal perturbations are first obtained for a homogeneous time-evolving mixing layer. For times short enough, when the time-evolving mixing layer is almost parallel, optimal perturbations exhibit the largest transient growth. These amplifications arise from the synergy between the well-known Orr and liftup mechanisms. Once the mixing layer rolls up into a Kelvin–Helmholtz billow, the disturbances trigger the three-dimensional elliptical and hyperbolic instabilities. The analysis is then extended to variable-density mixing layers. During the initial development of optimal perturbations, mass inhomogeneities have no influence over the perturbations growth. Once the mixing layer has rolled up, the variable-density effects contribute significantly to the increase of the perturbation energy. In particular, the baroclinic torque enhances the development of perturbations in the light side of the Kelvin–Helmholtz billow. Finally, when the injection time of perturbations is delayed long enough, the baroclinic vorticity generation on the light side of the Kelvin–Helmholtz billow triggers a two-dimensional secondary Kelvin–Helmholtz instability, which has been identified by Reinaud et al. (2000).