Cette thèse s'inscrit dans un contexte d'étude de la dynamique des fronts atmosphériques et océaniques et de l'origine des ondes de gravité dans l'atmosphère. Pour cela on s'intéresse à un front composé de deux couches de fluides miscibles en milieu tournant et soumis à un cisaillement vertical. Un travail à la fois expérimental et numérique met en évidence des phénomènes agéostrophiques qui vont au-delà de la configuration équilibrée usuelle d'un front barocline. D'abord, l'étude des différents régimes instables d'un front en configuration annulaire en terme de nombre de Rossby et de Burger révèle une instabilité agéostrophique couplant des mouvements équilibrés et divergents grâce à la résonance entre une onde de Rossby et une onde de Kelvin. Cette instabilité Rossby-Kelvin a été confirmée numériquement grâce aux structures des perturbations en champs de vitesse dans chaque couche. Ensuite, des structures de petite échelle présentes sur le front ont aussi été observées expérimentalement. Les caractéristiques de l'interface en terme de nombre de Richardson et épaisseurs de l'interface en vitesse et en densité suggère une instabilité de cisaillement de Hölmböe. Une simulation directe numérique axisymmétrique avec un nombre de Schmidt valant 700 confirme cette conjecture. Des ondes inertie-gravité supplémentaires sont observées numériquement sur un mode instable Rossby-Kelvin et le mécanisme de génération de ces ondes est discuté. Enfin l'étude numérique d'un front stable a mis en évidence la présence de couches d'Ekman internes avec une structure additionnelle pour des valeurs élevées de nombre de Schmidt et un faible nombre de Rossby. Dans le cas de front en in/outcropping, la dynamique est modifiée par l'interaction du front avec les couches d'Ekman au niveau du point singulier d'épaisseur nulle. Elle dépend à la fois de la circulation verticale et du mélange sur le nez du front et des nombreuses instabilités possibles associées à des résonances d'ondes horizontalement et verticalement. / This thesis has to be seen within the general study of atmospheric and oceanic fronts and the origin of gravity waves in the atmosphere. In this context we focus on a front in a rotating two-layer miscible fluid under vertical shear. Both experimental and numerical study highlights ageostrophic phenomena going beyond the usual geostrophic equilibrated configuration of a baroclinic front. First, the classification of different instability regimes of a front in an annular configuration as a fonction of Rossby number and Burger number reveals an ageostrophic instability coupling equilibrated and divergent motions due to a resonance between a Rossby wave and a Kelvin wave. This Rossby-Kelvin instability is confirmed numerically by the structure of the perturbation velocity fields in each layer. Second, small-scale structures have also been observed experimentally. Caracteristics of the interface in function of Richardson number and density and velocity interface thicknesses suggests the presence of the Hölmböe shear instability. A direct numerical simulation with an axisymmetric configuration and with a Schmidt number 700 confirms this conjecture. Other smalle-scale perturbations compatible with inertia-gravity waves have been observed numerically superimposed on an unstable Rossby-Kelvin front and the wave generation mechanism is discussed. In addition, a numerical study of a stable front highlighted the presenec of internal Ekman layers with an additional interfacial structure in the case of high Schmidt number and small Rossby number. For fronts in in/outcropping, front dynamics is modified by interaction with Ekman boundary layer at the location of the intersection zero-thickness singular point. It depends on both vertical circulation and mixing on the nose of the front and the various possible instabilities associated to horizontal or vertical wave resonances.

Une grande quantité d'énergie est présente dans les mouvements de rotations propre et orbitale des planètes. Des forçages harmoniques tels que les déformations de marées, la précession ou la libration peuvent en convertir une partie pour générer des écoulements dans les couches fluides d'une planète. Ces écoulements restent largement méconnus même s'ils sont importants pour contraindre des modèles d'intérieur planétaire ou expliquer la présence de champs magnétiques dans certains astres. Dans cette thèse, nous étudions les mécanismes engendrés par ces forçages en combinant une approche théorique, expérimentale et numérique et soulignons la généricité des phénomènes observés. L'étude d'un forçage de libration longitudinale, i.e. des oscillations de la vitesse de rotation d'un astre, montre la présence d'un écoulement zonal généré par des interactions nonlinéaires dans les couches visqueuses. Nous étudions ensuite l'instabilité qui apparaît à la paroi pour des amplitudes de libration suffisantes et qui peut transférer de l'énergie vers le volume du fluide. Finalement, une étude expérimentale de forçage de marées dans une sphère met en évidence que l'excitation directe d'ondes inertielles induit un écoulement zonal intense et localisé. Cet écoulement peut se déstabiliser par une instabilité de cisaillement et générer un écoulement turbulent dans tout le volume. Pour finir, nous considérons la pertinence de ces résultats pour des applications géo- /astrophysiques, telles que l'étude des océans internes sous la surface de glace des satellites joviens Ganymède, Encelade et Europe.

Une grande quantité d'énergie est présente dans les mouvements de rotations propre et orbitale des planètes. Des forçages harmoniques tels que les déformations de marées, la précession ou la libration peuvent en convertir une partie pour générer des écoulements dans les couches fluides d'une planète. Ces écoulements restent largement méconnus même s'ils sont importants pour contraindre des modèles d'intérieur planétaire ou expliquer la présence de champs magnétiques dans certains astres.Dans cette thèse, nous étudions les mécanismes engendrés par ces forçages en combinant une approche théorique, expérimentale et numérique et soulignons la généricité des phénomènes observés. L'étude d'un forçage de libration longitudinale, i.e. des oscillations de la vitesse de rotation d'un astre, montre la présence d'un écoulement zonal généré par des interactions non-linéaires dans les couches visqueuses. Nous étudions ensuite l'instabilité qui apparaît à la paroi pour des amplitudes de libration suffisantes et qui peut transférer de l'énergie vers le volume du fluide. Finalement, une étude expérimentale de forçage de marées dans une sphère met en évidence que l'excitation directe d'ondes inertielles induit un écoulement zonal intense et localisé. Cet écoulement peut se déstabiliser par une instabilité de cisaillement et générer un écoulement turbulent dans tout le volume.Pour finir, nous considérons la pertinence de ces résultats pour des applications géo-/astrophysiques, telles que l'étude des océans internes sous la surface de glace des satellites joviens Ganymède, Encelade et Europe. / A huge amount of energy is stored in the spin and orbital motions of any planet. Harmonic forcings such as libration, precession and tides are capable of conveying a portion of this energy to drive intense three-dimensional flows in liquid layers of planetary bodies. The generated flows remain largely unknown even if they are important to constraint model of planetary interior or to explain the presence of magnetic fields in some astrophysical bodies.In this thesis, we study the mechanisms induced by these forcings by combining theoretical, experimental and numerical approaches and we highlight the genericity of the observed phenomena. The study of a longitudinal libration forcing, corresponding to oscillations of the rotation rate of a planet, shows the presence of a mean zonal flow generated by non-linear interactions in the viscous layers. We then study the instability which appears at the outer boundary at sufficiently large libration amplitude or small Ekman number and which can transfer energy to the bulk of the fluid. Finally, an experimental study of tidal forcing in a sphere shows that the nonlinear self-interaction of excited inertial waves may drive an intense and localised axisymmetric jet, which becomes unstable at low Ekman number following a shear instability, generating space-filling turbulence.To conclude, we consider the relevance of these results to geo-/astrophysical applications, such as the subsurface oceans of the icy satellites Ganymede, Enceladus or Europa.