Dans la configuration de Rayleigh-Bénard, on considère une fine couche de fluide placée entre deux parois horizontales, chauffée par le bas et refroidie par le haut. Cette couche peut être le siège d'une instabilité si le gradient thermique est suffisamment important : on passe alors de l'état conductif à l'état convectif et on parle de bifurcation primaire pour qualifier cette première transition. Cette mise en mouvement du fluide se fait de manière ordonnée : on constate ainsi l'émergence de différents motifs de convection comme des rouleaux, des carrés ou encore des hexagones. Ces structures vont à leur tour subir des instabilités qualifiées de secondaires qui vont limiter la gamme de nombres d'onde stables. On étudie ici théoriquement ces instabilités d'une part à proximité du seuil de la convection grâce à une approche faiblement non linéaire, d'autre part loin des conditions critiques grâce à une approche fortement non linéaire. Le fluide est rhéofluidifiant, ce qui correspond au comportement rhéologique le plus fréquemment rencontré, et est décrit par le modèle de Carreau. À proximité du seuil, on considère deux situations : la première correspond au cas où les plaques ont une conductivité finie, la seconde à celui d'un fluide thermodépendant. Dans chaque cas, l'influence du caractère rhéofluidifiant sur la nature du motif émergeant à la bifurcation primaire et sur les instabilités secondaires est mise en évidence. Pour étudier les motifs de convection loin des conditions critiques, on a recours à une procédure de continuation permettant de déterminer de proche en proche les caractéristiques de l'écoulement comme les champs de vitesse ou de température ainsi que le nombre de Nusselt. / In the Rayleigh-Bénard configuration, we consider a thin layer of fluid confined between two horizontal slabs which is heated from below and cooled from above. This layer undergoes an instability if the thermal gradient is strong enough: a transition from the conductive state to the convective state and called _ primary bifurcation _occurs. Moreover, it happens in an ordered way: we can notice the emergence of various convection patterns such as rolls, squares or hexagons. In their turn, these patterns undergo _ secondary instabilities _ that limit the range of stable wavenumbers. These instabilities are studied theoretically _firstly near the threshold thanks to a weakly nonlinear approach, and secondly far from critical conditions thanks to a strongly nonlinear approach. We consider a shear thinning fluid, the most common rheological behavior, which is described by the Carreau model. Near the threshold, two situations are considered: the first corresponds to finite conductivity plates, the second corresponds to a thermodependent fluid. In each case, the influence of the shear thinning effect on the nature of the pattern emerging at the primary bifurcation and on secondary instabilities is highlighted. To study the convection patterns far from the critical conditions, a continuation procedure is used to determine, step-by-step, the characteristics of the flow, such as the velocity or temperature fields and the Nusselt number.

L’objectif de cette thèse est d’analyser le développement des instabilités secondaires bidimensionnelles et tridimensionnelles dans les couches de mélange à densité variable, incompressibles et à nombre de Froude infini. Dans ces conditions, la présence d’inhomogénéités de masse volumique modifie sensiblement la dynamique rotationnelle de l’écoulement et celle des instabilités secondaires sous l’action du couple barocline. Une analyse de stabilité linéaire non-modale est mise en oeuvre pour identifier les mécanismes physiques de croissance transitoire. Cette analyse permet également de prendre en compte le caractère instationnaire de la couche de mélange, absent dans l’analyse modale quasi-statique de Fontane (2005). Après établissement des équations de Navier–Stokes linéarisées directes et adjointes à densité variable, celles-ci sont utilisées dans une méthode d’optimisation itérative qui permet de déterminer les perturbations à croissance énergétique maximale. La première partie consiste en la description des perturbations optimales pour une couche de mélange homogène. Aux temps courts, lorsque la couche de mélange est quasi-parallèle, les perturbations optimales présentent de fortes amplifications transitoires, dont l’origine physique est due à la synergie des mécanismes classiques de Orr et de lift-up. Puis lorsque la couche s’enroule pour former un tourbillon de Kelvin–Helmholtz, les perturbations évoluent vers les instabilités tridimensionnelles elliptiques ou hyperboliques, selon le nombre d’onde latéral. Dans la deuxième partie, l’analyse est étendue aux couches de mélange à densité variable. Pendant la phase initiale de développement des perturbations optimales, les inhomogénéïtés de masse volumique ont une influence minime sur la croissance des perturbations. Ce n’est qu’une fois la couche de mélange enroulée que les effets de densité deviennent actifs, entraînant un supplément d’amplification significatif par rapport à la situation homogène. En particulier, le couple barocline favorise le développement des perturbations du côté du fluide léger du rouleau de Kelvin–Helmholtz. Enfin, lorsque le temps d’injection des perturbations est suffisamment retardé, la vorticité produite par le couple barocline favorise le développement d’une instabilité bidimensionnelle du type Kelvin-Helmholtz identifiée par Reinaud et al. (2000). / The purpose of this thesis is to analyse the development of two-dimensional and three-dimensional secondary instabilities in incompressible variable-density mixing layers, in the limit of infinite Froude number. Under these conditions, mass inhomogeneities alter significantly the rotational dynamics of the flow under the action of the baroclinic torque. A nonmodal stability analysis is implemented to identify the physical mechanisms of transient growth. This analysis allows to take into account the unsteady natureof the flow, which was absent in the quasi-static modal analysis (Fontane, 2005). After establishing of the direct and adjoint linearised Navier-Stokes equations for variable-density flows, they are used in an iterative optimization method to determine the perturbations that maximize their energy. The optimal perturbations are first obtained for a homogeneous time-evolving mixing layer. For times short enough, when the time-evolving mixing layer is almost parallel, optimal perturbations exhibit the largest transient growth. These amplifications arise from the synergy between the well-known Orr and liftup mechanisms. Once the mixing layer rolls up into a Kelvin–Helmholtz billow, the disturbances trigger the three-dimensional elliptical and hyperbolic instabilities. The analysis is then extended to variable-density mixing layers. During the initial development of optimal perturbations, mass inhomogeneities have no influence over the perturbations growth. Once the mixing layer has rolled up, the variable-density effects contribute significantly to the increase of the perturbation energy. In particular, the baroclinic torque enhances the development of perturbations in the light side of the Kelvin–Helmholtz billow. Finally, when the injection time of perturbations is delayed long enough, the baroclinic vorticity generation on the light side of the Kelvin–Helmholtz billow triggers a two-dimensional secondary Kelvin–Helmholtz instability, which has been identified by Reinaud et al. (2000).