La dynamique d'instabilité d'un écoulement laminaire décollé est étudiée expérimentalement et son contrôle par le biais de la simulation numérique. La configuration étudiée est une couche limite laminaire décollée au dessus d'une géométrie de type bosse.Pour une certaine gamme de paramètres, l'écoulement de recirculation en aval de la bosse est caractérisé par un battement basse fréquence. L'étude expérimentale de cette dynamique a permis de retrouver les différents régimes d'instabilité mis a jour par voie numérique. Ces résultats prouvent notamment que les instabilités basse fréquence, dont l'existence a été surtout mise en évidence dans des configurations d'écoulements compressibles, sont un phénomène générique pour des bulles de recirculations allongées. Le contrôle du battement basse fréquence est ensuite étudié par voie numérique suivant deux approches complémentaires. Un asservissement en boucle fermée de la dynamique de perturbation linéaire est tout d'abord proposé. Les modes d'instabilité linéaires sont utilisés afin de construire des modèles réduits de la dynamique de perturbation. Cette réduction de modèle donne lieu à des estimateurs de faible dimension capables d'estimer la dynamique et de la contrôler. Ainsi la dynamique d'instabilité linéaire peut être supprimée en couplant le système de Navier-Stokes linéarisé avec le contrôleur.Le contrôle de la dynamique non linéaire est ensuite étudié en utilisant une méthode d'optimisation Lagrangienne. Cette méthode permet de calculer les lois de contrôle à partir de la dynamique non linéaire des équations de Navier-Stokes. / The dynamics and control of a separated boundary-layer flow have been investigated. Separation is triggered by a bump mounted on a flat plate and the transition dynamics has been investigated experimentally. For a certain parameter range, the recirculation region is subject to self-sustained low-frequency oscillations, and results from the numerical simulation for the same geometry are recovered. These results show that low frequency oscillations, observed mainly in compressible flow regimes, are inherent to elongated recirculation bubbles.The control of this low-frequency instability has been investigated using modern control theory based on two complementary approaches. Feedback control of the linear perturbation dynamics is first considered. Global instability modes are used to build reduced-order estimators. This model reduction gives rise to low-dimensional compensators capable of controlling the unstable dynamics. Once coupled to the unstable linearised Navier-Stokes system, the compensator is seen to succesfully control the unstable dynamics. The control of the nonlinear dynamics is then investigated using adjoint-based optimisation procedures. This method is used to compute control laws based on a complete knowledge of the nonlinear dynamics. Although the low-frequency instability is clearly attenuated, it seems difficult to control the flow towards its steady state, using only a few blowing/suction actuators localized on the wall.