Le suivi vibratoire de l'état des ouvrages de génie civil vise à anticiper une défaillance structurale par la détection précoce d'endommagement. Dans ce contexte, la détection de nouveauté constitue une approche particulièrement adaptée à l'analyse des signaux compte tenu des difficultés à modéliser une structure unique et soumise à de nombreux facteurs extérieurs influant sur la dynamique vibratoire. Une telle approche présente un double intérêt consistant à éviter de formuler des hypothèses a priori sur le comportement dynamique et à intégrer tous les facteurs de variabilité. Ce travail de thèse poursuit ainsi deux objectifs. Le premier objectif consiste à observer dans quelle mesure la détection de nouveauté parvient à détecter un endommagement dans un contexte fortement perturbé par des variations environnementales d'une part, et par une excitation de nature impulsionnelle, d'autre part. Le deuxième objectif est de proposer et d'étudier un nouvel indicateur vectoriel, désigné par JFV (pour Jacobian Feature Vector). Le calcul du JFV s'appuie sur la reconstruction de la trajectoire du système dynamique observé dans son espace des phases. Cette approche exploite les développements scientifiques récents réalisés en théorie des systèmes dynamiques non linéaires, parfois qualifiée de théorie du chaos. Le JFV est comparé aux coefficients de modèles auto-régressifs (AR), couramment utilisés en analyse des séries temporelles. Pour réaliser ce travail de thèse, plusieurs cas d'études expérimentaux sont utilisés dont notamment une maquette de structure en bois sur laquelle l'excitation est contrôlée et des variations environnementales sévères sont imposées. \indent Les indicateurs AR et JFV sont extraits des signaux vibratoires relatifs aux différents cas d'études et normalisés par le biais du concept de distance de Mahalanobis. Les résultats expérimentaux montrent que, pour les deux indicateurs vectoriels, la détection de l'endommagement est favorisée par une sollicitation comportant une composante de bruit. Une excitation purement instationnaire, constituée de séquences aléatoires d'impulsions, dégrade de façon significative les performances de détection. Les variations environnementales génèrent une forte variabilité des indicateurs, rendant difficile l'ajustement d'un modèle statistique robuste dédié à la discrimination des dégradations. Seuls les niveaux d'endommagement extrêmes sont repérés dans la configuration d'essai la plus pénalisante. L'analyse comparée des coefficients AR et du JFV met en évidence une dispersion beaucoup plus grande des composantes de ce dernier, conduisant à une sensibilité plus faible. Une étude paramétrique montre cependant que la sensibilité du JFV peut être améliorée par une optimisation des méthodes de sélection des paramètres de reconstruction de l'espace des phases. Face aux performances limitées des indicateurs AR et JFV dans certains cas très défavorables, un autre indicateur est proposé, basé sur la corrélation croisée des informations portées par une paire de capteurs. Cet indicateur présente une performance intéressante sur un cas d'étude complexe combinant variations environnementales fortes et sollicitation purement instationnaire. Une discussion est également proposée sur la façon de répartir les mesures de référence dans les différentes bases de données nécessaires à l'application de la démarche de détection de nouveauté. Enfin, différentes approches de modélisation statistique des indicateurs normalisés sont mises en oeuvre dans le but de comparer leurs aptitudes respectives à la définition d'un seuil de classification robuste.