La thèse est consacrée aux instabilités de type Rayleigh-Taylor. Elle est inspirée par les progrès récents dans la physique de la compression des plasmas, surtout avec des dispositifs comme les Z-pinches. L'instabilité Rayleigh-Taylor (IRT) joue un rôle important dans l'évolution des plasmas magnétisés dans les expériences, aussi bien que dans les étoiles et dans les fluides classiques. Dans les phénomènes plasmas associés à la fusion thermonucléaire, l'IRT est souvent le phénomène qui limite les possibilités de compression. On essaie d'étudier des particularités de ces instabilités afin d'en profiter et d'éliminer leurs effets nuisibles. Dans ce travail on étudie aussi bien le cas général de l'instabilité Rayleigh-Taylor " classique " (dans les fluides incompressibles) que les cas plus spécifiques des instabilités de type Rayleigh-Taylor dans les plasmas magnétisés, dans les implosions des coquilles à fils etc.<br /> On a étudié l'influence de la diffusion Hall du champ magnétique sur le taux de croissance de l'instabilité. On a obtenu des solutions auto-similaires pour l'élargissement du profil initial et pour l'onde de pénétration du champ magnétique. Puis, on a étudié l'évolution postérieure du champ magnétique dans les commutateurs à ouverture de plasmas (COP) et on a montré la possibilité d'existence d'une onde de raréfaction forte, dans les cas avec et sans collisions. Cette onde peut expliquer le phénomène d'ouverture de COP.<br />Le phénomène de suppression de l'IRT par des oscillations forcées de la frontière entre deux fluides permet de proposer quelques idées pour les expériences de fusion inertielle. On considère le cas général de l'instabilité, c'est-à-dire deux fluides incompressibles visqueux dans un champ de gravitation. On obtient l'expression précise analytique du taux de croissance et on analyse l'influence des paramètres de " pompage " du système sur l'instabilité. Les résultats peuvent être appliqués à une grande diversité de situations, à partir de l'hydrodynamique classique, jusqu'aux plasmas astrophysiques. <br />Le schéma des coquilles à fils est récemment devenu une méthode très populaire d'obtention de rayonnement haute puissance ou d'implosion de haute qualité dans le domaine des Z-pinches (plasmas de striction magnétique). Il se trouve que les résultats expérimentaux sont bien meilleurs dans le cas d'une implosion de fils fins multiples situés sur un cylindre que dans le cas du schéma ordinaire du " liner ". On a examiné un problème modélisant la stabilisation de IRT dans ce cas due aux modulations régulières de la surface de séparation entre le plasma et le champ magnétique. Ce type de modulation peut apparaître grâce aux explosions initiales et à l'évolution postérieure des fils solides. On a montré que le couplage des modes de l'instabilité en présence du champ magnétique peut effectivement réduire le taux de croissance.