Cette thèse s'inscrit dans un contexte d'étude de la dynamique des fronts atmosphériques et océaniques et de l'origine des ondes de gravité dans l'atmosphère. Pour cela on s'intéresse à un front composé de deux couches de fluides miscibles en milieu tournant et soumis à un cisaillement vertical. Un travail à la fois expérimental et numérique met en évidence des phénomènes agéostrophiques qui vont au-delà de la configuration équilibrée usuelle d'un front barocline. D'abord, l'étude des différents régimes instables d'un front en configuration annulaire en terme de nombre de Rossby et de Burger révèle une instabilité agéostrophique couplant des mouvements équilibrés et divergents grâce à la résonance entre une onde de Rossby et une onde de Kelvin. Cette instabilité Rossby-Kelvin a été confirmée numériquement grâce aux structures des perturbations en champs de vitesse dans chaque couche. Ensuite, des structures de petite échelle présentes sur le front ont aussi été observées expérimentalement. Les caractéristiques de l'interface en terme de nombre de Richardson et épaisseurs de l'interface en vitesse et en densité suggère une instabilité de cisaillement de Hölmböe. Une simulation directe numérique axisymmétrique avec un nombre de Schmidt valant 700 confirme cette conjecture. Des ondes inertie-gravité supplémentaires sont observées numériquement sur un mode instable Rossby-Kelvin et le mécanisme de génération de ces ondes est discuté. Enfin l'étude numérique d'un front stable a mis en évidence la présence de couches d'Ekman internes avec une structure additionnelle pour des valeurs élevées de nombre de Schmidt et un faible nombre de Rossby. Dans le cas de front en in/outcropping, la dynamique est modifiée par l'interaction du front avec les couches d'Ekman au niveau du point singulier d'épaisseur nulle. Elle dépend à la fois de la circulation verticale et du mélange sur le nez du front et des nombreuses instabilités possibles associées à des résonances d'ondes horizontalement et verticalement. / This thesis has to be seen within the general study of atmospheric and oceanic fronts and the origin of gravity waves in the atmosphere. In this context we focus on a front in a rotating two-layer miscible fluid under vertical shear. Both experimental and numerical study highlights ageostrophic phenomena going beyond the usual geostrophic equilibrated configuration of a baroclinic front. First, the classification of different instability regimes of a front in an annular configuration as a fonction of Rossby number and Burger number reveals an ageostrophic instability coupling equilibrated and divergent motions due to a resonance between a Rossby wave and a Kelvin wave. This Rossby-Kelvin instability is confirmed numerically by the structure of the perturbation velocity fields in each layer. Second, small-scale structures have also been observed experimentally. Caracteristics of the interface in function of Richardson number and density and velocity interface thicknesses suggests the presence of the Hölmböe shear instability. A direct numerical simulation with an axisymmetric configuration and with a Schmidt number 700 confirms this conjecture. Other smalle-scale perturbations compatible with inertia-gravity waves have been observed numerically superimposed on an unstable Rossby-Kelvin front and the wave generation mechanism is discussed. In addition, a numerical study of a stable front highlighted the presenec of internal Ekman layers with an additional interfacial structure in the case of high Schmidt number and small Rossby number. For fronts in in/outcropping, front dynamics is modified by interaction with Ekman boundary layer at the location of the intersection zero-thickness singular point. It depends on both vertical circulation and mixing on the nose of the front and the various possible instabilities associated to horizontal or vertical wave resonances.