Ce mémoire synthétise les travaux réalisés sur le thème des instabilités propagatives et l'éclatement tourbillonnaire observé dans des installations expérimentales telles que les souffleries à catapulte ou les bassins hydrodynamiques, dont le but est de caractériser le sillage tourbillonnaire d'avions de transport. Il comprend une synthèse bibliographique, une exploitation des campagnes d'essais réalisées dans la soufflerie B20 à l'ONERA Lille, une présentation du code de calcul FLUDILES de Simulation Numérique Directe, une modélisation des perturbations d'un tourbillon de Lamb-Oseen et la validation des calculs DNS sur la théorie de stabilité linéaire, ainsi qu'une étude numérique et théorique de la dynamique non linéaire d'un tourbillon de Lamb-Oseen par la DNS.

Cette thèse porte sur l'instabilité elliptique des écoulements en rotation. Deux exemples d'application ont été envisagés : l'écoulement dans un sillage d'avion et la dynamique du noyau liquide de certaines planètes. Dans le sillage lointain d'un avion, l'écoulement consiste en deux tourbillons contra-rotatifs. Chaque tourbillon induit un champ de contrainte qui déforme l'autre tourbillon et entraîne sa déstabilisation. Les caractéristiques de cette instabilité sont analysées d'un point de vue théorique et numérique pour différents profils de tourbillon quand un jet axial est présent dans leur cœur. Le deuxième exemple porte sur la stabilité d'écoulement en rotation dans une sphère déformée en ellipsoïde. La déformation elliptique modélise un effet de marée sur le noyau liquide d'une planète. Les propriétés de stabilité de l'écoulement ont été obtenues par méthodes expérimentale et théorique. Un bon accord a été mis en évidence.