Le soudage par friction malaxage FSW est un procédé de soudage à l'état solide, sans fusion du matériau. La soudure est réalisée par l'action d'un outil composé d'un épaulement et d'un pion positionné à l'interface des deux pièces à souder. L'outil a deux rôles : échauffement de la matière par frottement de l'épaulement, malaxage de la matière par l'intermédiaire du pion. Ce travail de thèse s'inscrit dans le cadre d'un partenariat entre Arts et Métiers ParisTech et l'Institut de Soudure. Son objectif est de développer un modèle de simulation du FSW afin de réduire le nombre d'essais expérimentaux nécessaire à l'optimisation du procédé. Ainsi, plusieurs points ont été abordés dans ce manuscrit. Une analyse expérimentale des cycles thermiques et des mouvements de matière dans le cas où les pions sont non filetés a été menée. Cette situation permet (1) de faciliter la comparaison avec la simulation numérique et (2) de se placer dans les conditions de pions usés. L'analyse des formulations (lagrangienne, eulérienne et ALE) en vue de choisir celle la plus appropriée pour représenter les écoulements de matière a permis de retenir une formulation eulérienne (mise en œuvre dans le logiciel FLUENT) pour estimer les champs thermiques et de vitesses à l'état stationnaire. La mise en place d'un modèle numérique dans le logiciel FLUENT est présentée. Nous avons en particulier étudier l'influence des paramètres numériques sur les résultats et mis en place une stratégie d'identification de certains paramètres non accessibles expérimentalement. Une comparaison fine entre nos résultats expérimentaux et ceux issus des simulations a été effectuée avec succès. L'étude de l'impact des paramètres process (vitesse d'avance, vitesse de rotation) et de la géométrie du pion sur les champs thermiques et de vitesses a permis de mettre en évidence le lien entre les champs de vitesse et la présence de défauts de type tunnel.