Cette thèse s'inscrit dans un contexte d'étude de la dynamique des fronts atmosphériques et océaniques et de l'origine des ondes de gravité dans l'atmosphère. Pour cela on s'intéresse à un front composé de deux couches de fluides miscibles en milieu tournant et soumis à un cisaillement vertical. Un travail à la fois expérimental et numérique met en évidence des phénomènes agéostrophiques qui vont au-delà de la configuration équilibrée usuelle d'un front barocline. D'abord, l'étude des différents régimes instables d'un front en configuration annulaire en terme de nombre de Rossby et de Burger révèle une instabilité agéostrophique couplant des mouvements équilibrés et divergents grâce à la résonance entre une onde de Rossby et une onde de Kelvin. Cette instabilité Rossby-Kelvin a été confirmée numériquement grâce aux structures des perturbations en champs de vitesse dans chaque couche. Ensuite, des structures de petite échelle présentes sur le front ont aussi été observées expérimentalement. Les caractéristiques de l'interface en terme de nombre de Richardson et épaisseurs de l'interface en vitesse et en densité suggère une instabilité de cisaillement de Hölmböe. Une simulation directe numérique axisymmétrique avec un nombre de Schmidt valant 700 confirme cette conjecture. Des ondes inertie-gravité supplémentaires sont observées numériquement sur un mode instable Rossby-Kelvin et le mécanisme de génération de ces ondes est discuté. Enfin l'étude numérique d'un front stable a mis en évidence la présence de couches d'Ekman internes avec une structure additionnelle pour des valeurs élevées de nombre de Schmidt et un faible nombre de Rossby. Dans le cas de front en in/outcropping, la dynamique est modifiée par l'interaction du front avec les couches d'Ekman au niveau du point singulier d'épaisseur nulle. Elle dépend à la fois de la circulation verticale et du mélange sur le nez du front et des nombreuses instabilités possibles associées à des résonances d'ondes horizontalement et verticalement. / This thesis has to be seen within the general study of atmospheric and oceanic fronts and the origin of gravity waves in the atmosphere. In this context we focus on a front in a rotating two-layer miscible fluid under vertical shear. Both experimental and numerical study highlights ageostrophic phenomena going beyond the usual geostrophic equilibrated configuration of a baroclinic front. First, the classification of different instability regimes of a front in an annular configuration as a fonction of Rossby number and Burger number reveals an ageostrophic instability coupling equilibrated and divergent motions due to a resonance between a Rossby wave and a Kelvin wave. This Rossby-Kelvin instability is confirmed numerically by the structure of the perturbation velocity fields in each layer. Second, small-scale structures have also been observed experimentally. Caracteristics of the interface in function of Richardson number and density and velocity interface thicknesses suggests the presence of the Hölmböe shear instability. A direct numerical simulation with an axisymmetric configuration and with a Schmidt number 700 confirms this conjecture. Other smalle-scale perturbations compatible with inertia-gravity waves have been observed numerically superimposed on an unstable Rossby-Kelvin front and the wave generation mechanism is discussed. In addition, a numerical study of a stable front highlighted the presenec of internal Ekman layers with an additional interfacial structure in the case of high Schmidt number and small Rossby number. For fronts in in/outcropping, front dynamics is modified by interaction with Ekman boundary layer at the location of the intersection zero-thickness singular point. It depends on both vertical circulation and mixing on the nose of the front and the various possible instabilities associated to horizontal or vertical wave resonances.

Les écoulements atmosphériques et océaniques sont habituellement séparés en une partie lente, proche de l'équilibre géostrophique, et une partie rapide qui interagissent faiblement. Les instabilités agéostrophiques procurent néanmoins un mécanisme capable de coupler les mouvements équilibrés et non-équilibrés. L'étude de tels mécanismes dans cette thèse est d'abord effectuée par des études systématiques de stabilité linéaire dans le modèle de l'eau peu profonde. L'instabilité de Rossby-Kelvin (RK), issue du couplage barocline d'une onde de Rossby (équilibrée) et d'une onde de Kelvin ou de Poincaré (non-équilibrées), est mise en évidence dans un canal. Ces résultats sont étendus à un anneau en géométrie cylindrique et montrent que dans les configurations proches des dispositifs expérimentaux il peut y avoir une compétition entre l'instabilité RK et l'instabilité barocline classique. Les instabilités des courants côtiers, caractérisés par la présence d'un bord vertical et d'un "outcropping", sont ensuite étudiées de manière exhaustive. Les instabilités dues à l'interaction d'un mode frontal et d'une onde de Kelvin (KF) ou d'une onde de Rossby (RF) sont mises en évidence. Le développement non-linéaire de ces instabilités est étudié dans le modèle de l'eau peu profonde par une méthode numérique aux volumes finis et dans un fluide continument stratifié à l'aide d'un modèle méso-échelle. Ces simulations montrent que les instabilités RK et KF ont un développement non-linéaire marqué par une croissance à amplitude finie et une saturation. Le déferlement de l'onde de Kelvin conduit alors à la formation d'un front de Kelvin, zone localisée de mélange et de dissipation, à l'émission d'ondes d'inertie-gravité et à la réorganisation de l'écoulement moyen. Dans le cas des courants côtiers cette réorganisation est suivie du développement d'une instabilité secondaire qui conduit à la formation et au détachement de vortex.