Dans les dernières décennies, la surveillance vibratoire des machines tournantes a acquis un intérêt particulier fournissant une aide efficace pour la maintenance dans l'industrie. Aujourd'hui, de nombreuses techniques efficaces sont bien établies, ancrées sur des outils puissants offerts notamment par la théorie des processus cyclostationnaires. Cependant, toutes ces techniques reposent sur l'hypothèse d’un régime de fonctionnement (c.à.d. vitesse et/ou charge) constant ou éventuellement fluctuant d’une façon stationnaire. Malheureusement, la plupart des machines surveillées dans l'industrie opèrent sous des régimes non stationnaires afin de remplir les tâches pour lesquelles elles ont été conçues. Dans ce cas, ces techniques ne parviennent pas à analyser les signaux vibratoires produits. Ce problème a occupé la communauté scientifique dans la dernière décennie et des techniques sophistiquées de traitement du signal ont été conçues pour faire face à la variabilité du régime. Mais ces tentatives restent limitées, dispersées et généralement peu soutenues par un cadre théorique. Le principal objectif de cette thèse est de combler partiellement cette lacune sur la base d'une formalisation théorique du sujet et d’un développement systématique de nouveaux outils de traitement du signal. Dans ce travail, la non-stationnarité du régime est limitée à celle de la vitesse— c.à.d. vitesse variable et charge constante— supposée connue a priori. Afin d'atteindre cet objectif, la méthodologie adoptée consiste à étendre le cadre cyclostationnaire avec ses outils dédiés. Nous avons élaboré cette stratégie en distinguant deux types de signatures. Le premier type comprend des signaux déterministes connus comme cyclostationnaires au premier ordre. La solution proposée consiste à généraliser la classe cyclostationnaire au premier ordre à la classe cyclo-non-stationnaire au premier ordre qui comprend des signaux déterministes en vitesse variable. Le second type comprend des signaux aléatoires périodiquement corrélés connus comme cyclostationnaires au deuxième ordre. Trois visions différentes mais complémentaires ont été proposées pour traiter les variations induites par la non-stationnarité de la vitesse de fonctionnement. La première adopte une approche cyclostationnaire angle\temps, la seconde une solution basée sur l'enveloppe et la troisième une approche cyclo-non-stationnaire (au second ordre). De nombreux outils ont été conçus dont les performances ont été testées avec succès sur des signaux vibratoires réels et simulés. / In the last decades, vibration-based condition monitoring of rotating machine has gained special interest providing an efficient aid for maintenance in the industry. Nowadays, many efficient techniques are well-established, rooted on powerful tools offered in particular by the theory of cyclostationary processes. However, all these techniques rely on the assump-tion of constant— or possibly fluctuating but stationary— operating regime (i.e. speed and/or load). Unfortunately, most monitored machines used in the industry operate under nonstationary regimes in order to fulfill the task for which they have been designed. In this case, these techniques fail in analyzing the produced vibration signals. This issue, therefore, has occupied the scientific committee in the last decade and some sophisticated signal processing techniques have been conceived to deal with regime variability. But these works remain limited, dispersed and generally not supported by theoretical frameworks. The principal goal of this thesis is to partially fill in this gap on the basis of a theoretical formalization of the subject and a systematic development of new dedicated signal processing tools. In this work, the nonstationarity of the regime is confined to that of the speed— i.e. variable speed and constant load, assumed to be known a priori. In order to reach this goal, the adopted methodology consists in extending the cyclostationary framework together with its dedicated tools. We have elaborated this strategy by distinguishing two types of signatures. The first type includes deterministic waveforms known as first-order cyclostationary. The proposed solution consists in generalizing the first-order cyclostationary class to the more general first-order cyclo-non-stationary class which enfolds speed-varying deterministic signals. The second type includes random periodically-correlated waveforms known as second-order cyclostationary. Three different but complementary visions have been proposed to deal with the changes induced by the nonstationarity of the operating speed. The first one adopts an angle\time cyclostationary approach, the second one adopts an envelope-based solution and the third one adopts a (second-order) cyclo-non-stationary approach. Many tools have been conceived whose performances have been successfully tested on simulated and real vibration signals.