Ce mémoire de thèse à été réalisée dans le cadre d'une collaboration scientifique avec "La Manufacture Française des Pneumatiques Michelin". Il porte sur l'analyse mathématique et numérique de la convergence et de la stabilité de formulations mixtes ou hybrides de problèmes d'optimisation sous contrainte avec la méthode des multiplicateurs de Lagrange et dans le cadre de la méthode éléments finis étendus (XFEM). Tout d'abord, nous essayons de démontrer la stabilité de la discrétisation X-FEM pour le problème d'élasticité linéaire incompressible en statique. Le deuxième axe, qui représente le contenu principal de la thèse est dédié à l'étude de certaines méthodes de multiplicateur de Lagrange stabilisées. La particularité de ces méthodes est que la stabilité du multiplicateur est assurée par l'ajout de termes supplémentaires dans la formulation faible. Dans ce contexte, nous commençons par l'étude de la méthode de stabilisation de Barbosa-Hughes appliquée au problème de contact unilatéral sans frottement avec XFEM cut-off. Ensuite, nous construisons une nouvelle méthode basée sur des techniques de projections locales pour stabiliser un problème de Dirichlet dans le cadre de X-FEM et une approche de type domaine fictif. Nous faisons aussi une étude comparative entre la stabilisation avec la technique de projection locale et la stabilisation de Barbosa-Hughes. Enfin, nous appliquons cette nouvelle méthode de stabilisation aux problèmes de contact unilatéral en élastostatique avec frottement de Tresca dans le cadre de X-FEM. / This Ph.D. thesis was done in collaboration with "La Manufacture Française des Pneumatiques Michelin". It concerns the mathematical and numerical analysis of convergence and stability of mixed or hybrid formulation of constrained optimization problem with Lagrange multiplier method in the framework of the eXtended Finite Element Method (XFEM). First we try to prove the stability of the X-FEM discretization for incompressible elastostatic problem by ensured a LBB condition. The second axis, which present the main content of the thesis, is dedicated to the use of some stabilized Lagrange multiplier methods. The particularity of these stabilized methods is that the stability of the multiplier is provided by adding supplementary terms in the weak formulation. In this context, we study the Barbosa-Hughes stabilization technique applied to the frictionless unilateral contact problem with XFEM-cut-off. Then we present a new consistent method based on local projections for the stabilization of a Dirichlet condition in the framework of extended finite element method with a fictitious domain approach. Moreover we make comparative study between the local projection stabilization and the Barbosa-Hughes stabilization. Finally we use the local projection stabilization to approximate the two-dimensional linear elastostatics unilateral contact problem with Tresca frictional in the framework of the eXtended Finite Element Method X-FEM.