Le travail de cette thèse a été réalisé dans le cadre d'une collaboration entre EDF R&D et le LMA de Marseille (CNRS). Le but était de développer des outils théoriques et numériques pour le calcul de modes non-linéaires de structures industrielles possédant des non-linéarités localisées à jeu. La méthode de calcul utilisée est une combinaison de la méthode d'équilibrage harmonique (EH) et de la méthode asymptotique numérique (MAN), appelée EHMAN. Elle est réputée pour sa robustesse sur les problèmes réguliers. L'enjeu de ce travail de thèse est de l'appliquer sur des problèmes non-réguliers régularisés de type butée à jeu pour lequel un grand nombre d'harmonique est nécessaire. Des améliorations ont été apportées à la méthode de base pour rendre effectif le traitement de modèles à "grand" nombre de degrés de liberté (DDL). L'algorithme Fast Fourier Transform est utilisé pour accélérer le calcul des termes non-linéaires. Le calcul de la matrice jacobienne a été optimisé. Et la dissociation du nombre d'harmoniques entre les variables de déplacement et de force non-linéaire a été introduite. Les développements réalisés pendant la thèse ont été capitalisés par la création de nouveaux opérateurs dans Code_Aster. Une étude approfondie d'un système à 2 degrés de liberté a permis de faire émerger quelques caractéristiques des systèmes non-linéaires à jeu. Celles-ci ont servi entre autre à établir une méthodologie pour l'étude de systèmes à grand nombre de DDL. Pour finir, la potentialité des modes non-linéaires comme outil de diagnostic vibratoire est démontrée avec l'étude d'un tube cintré de générateur de vapeur. Le calcul des modes non-linéaires a monté l'existence d'une interaction entre un mode hors-plan (basse fréquence) et un mode plan (haute fréquence) expliquant des régimes vibratoires non-standards. Ce résultat, impossible à obtenir avec les outils de l'analyse modale linéaire, est confirmé expérimentalement.