Le travail de thèse s'inscrit dans le cadre des travaux de recherche appliquée qui ont lieu au Laboratoire de Mécanique de Lille et à l'Institut de Recherche de l'Ecole Navale dans le domaine respectif des machines tournantes de type turbomachines ou celui des hélices marines et appendices de type surfaces portantes équipant les navires (stabilisateurs, safrans,...). L'objectif principal de la thèse est d'étudier les instabilités de cavitation. Pour cela, des simulations numériques associant des modèles de cavitation déjà existants sont mises en oeuvre et une comparaison de ces modèles est effectuée. On s'intéresse particulièrement aux modèles de cavitation homogènes pour lesquels le mélange liquide/vapeur est considéré comme un fluide unique à densité variable. Le transfert de masses entre les deux phases est contrôlé soit par une loi d'état barotrope qui relie la densité à la pression soit par une équation de transport de taux de vide avec des termes sources appropriées. En parallèle, des mesures expérimentales basées sur la mesure de pression pariétale et d'acquisition vidéo sont menées dans le Tunnel de cavitation de l'Ecole Navale. Cette étude expérimentale est complétée par l'étude menée par O. Coutier-Delgosha à l'Ecole Nationale Supérieure de Techniques Avancées à Paris et qui a permis d'obtenir les profils de taux de vide instantanés par des mesures Rayon X. Les résultats expérimentaux et numériques sont analysés par des techniques de traitement du signal originales.