Le soudage par friction malaxage « Friction Stir Welding » est un procédé d'assemblage de pièces en phase semi solide. Le cordon de soudure est obtenu grâce à un outil de révolution composé d'un épaulement et d'un pion. Ce procédé utilise le principe de la conversion de l'énergie mécanique en énergie thermique par frottement de l'outil avec les pièces à assembler. Ce travail de thèse est une contribution à la modélisation expérimentale et à la simulation numérique de ce procédé permettant de fournir des modèles pour aider à la compréhension des phénomènes thermiques et mécaniques ainsi que les interactions entre les paramètres de soudage. Les études expérimentales sont principalement orientées vers la caractérisation de l'écoulement de matière à l'aide de marqueurs et vers l'optimisation des paramètres du procédé. L'effet de la géométrie de l'outil (outil à pion cylindrique ou outil avec méplats) sur l'écoulement de la matière au cours du soudage est étudié. Pour représenter la géométrie de l'écoulement et prédire les champs thermiques et mécaniques à l'état stationnaire, des modèles formulés sur la base de la dynamique des fluides sont adoptés dans la présente thèse. Deux modèles thermomécaniques sont développés: (1) un premier modèle numérique construit sous Fluent permet d'étudier le comportement thermomécanique et l'écoulement au cours du soudage FSW. Une loi de comportement dépendante de la température et de la vitesse de déformation est utilisée et une discussion sur les conditions de contact entre l'outil et les plaques à souder est présentée. Les résultats de l'écoulement sont comparés avec ceux obtenus expérimentalement dans le cas de suivi des trajectoires de particules de cuivre. (2) un deuxième modèle original basé sur une procédure itérative est mis en œuvre permettant le soudage de plaque de grandes dimensions. En effet, pour une meilleure prise en compte des conditions aux limites thermiques, un modèle thermomécanique construit autour de l'outil de soudage et couplé avec un modèle thermique pour tout le reste du domaine étudié. Ce modèle permet de prendre en compte le transfert de chaleur dans l'outil et dans la plaque support. Les cycles thermiques et la plage de viscosité pour deux alliages d'aluminium (AA7020-T6 et AA6061-T3) sont analysés et comparés avec succès aux résultats expérimentaux. Les efforts et le couple de soudage calculés numériquement sont validés par rapport à la littérature. / The friction stir welding is a process for assembling a semisolid phase parts. The weld seam is achieved by a revolution tool consists of the shoulder and the pin. This process converts the mechanical energy into heat energy by friction of the tool with the parts to be joined.This thesis is a contribution to the experimental modeling and numerical simulation of this process in order to provide models to assist in understanding the thermal and mechanical phenomena and interactions between the welding parameters. Experimental studies are used for the characterization of the material flow with markers and to optimize the process parameters. The effect of tool geometry (cylindrical pin or tool with flats) on the material flow during welding is studied. To represent the flow geometry and predict the thermal and mechanical fields in the steady state, CFD models are adopted in this thesis. Two thermomechanical models are developed: (1) first numerical model is used to study the thermomechanical behavior and flow during FSW. FLUENT is employed to solve the coupled thermal and fluid flow equations. A behavior law depending on temperature and strain rate is used and a discussion on the contact conditions between the tool and the workpieces is presented. The results of the flow are compared with those obtained experimentally in the followed case of trajectories copper particles. (2) A second original model based on iterative procedure is implemented to welding large plates. To take account the correctly thermal boundary conditions, a thermomechanical model built around the welding tool and coupled with a thermal model for the rest of the area studied. This model allows taking into account the transfer of heat in the tool and in the backing-bar. Thermal cycles and the viscosity range for two aluminum alloys (AA7020-T6 and AA6061-T3) are successfully analyzed and compared with experimental results. The loads and torque welding are calculated numerically and validated in the literature.