Les superpositions d'ondes modulées en amplitude et en fréquence (modes AM--FM) sont couramment utilisées pour modéliser de nombreux signaux du monde réel : cela inclut des signaux audio (musique, parole), médicaux (ECG), ou diverses séries temporelles (températures, consommation électrique). L'objectif de ce travail est l'analyse et la compréhension fine de tels signaux, dits "multicomposantes" car ils contiennent plusieurs modes. Les méthodes mises en oeuvre vont permettre de les représenter efficacement, d'identifier les différents modes puis de les démoduler (c'est-à-dire déterminer leur amplitude et fréquence instantanée), et enfin de les reconstruire. On se place pour cela dans le cadre bien établi de l'analyse temps-fréquence (avec la transformée de Fourier à court terme) ou temps-échelle (transformée en ondelettes continue). On s'intéressera également à une méthode plus algorithmique et moins fondée mathématiquement, basée sur la notion de symétrie des enveloppes des modes : la décomposition modale empirique. La première contribution de la thèse propose une alternative au processus dit ``de tamisage'' dans la décomposition modale empirique, dont la convergence et la stabilité ne sont pas garanties. \`A la place, une étape d'optimisation sous contraintes ainsi qu'une meilleure détection des extrema locaux du mode haute fréquence garantissent l'existence mathématique du mode, tout en donnant de bons résultats empiriques. La deuxième contribution concerne l'analyse des signaux multicomposantes par la transformée de Fourier à court terme et à la transformée en ondelettes continues, en exploitant leur structure particulière ``en ridge'' dans le plan temps-fréquence. Plus précisément, nous proposons une nouvelle méthode de reconstruction des modes par intégration locale, adaptée à la modulation fréquentielle, avec des garanties théoriques. Cette technique donne lieu à une nouvelle méthode de débruitage des signaux multicomposantes. La troisième contribution concerne l'amélioration de la qualité de la représentation au moyen de la ``réallocation'' et du ``synchrosqueezing''. Nous prolongeons le synchrosqueezing à la transformée de Fourier à court terme, et en proposons deux extensions inversibles et adaptées à des modulations fréquentielles importantes, que nous comparons aux méthodes originelles. Une généralisation du synchrosqueezing à la dimension 2 est enfin proposée, qui utilise le cadre de la transformée en ondelettes monogène. / Many signals from the physical world can be modeled accurately as a superposition of amplitude- and frequency-modulated waves. This includes audio signals (speech, music), medical data (ECG) as well as temporal series (temperature or electric consumption). This thesis deals with the analysis of such signals, called multicomponent because they contain several modes. The techniques involved allow for the detection of the different modes, their demodulation (ie, determination of their instantaneous amplitude and frequency) and reconstruction. The thesis uses the well-known framework of time-frequency and time-scale analysis through the use of the short-time Fourier and the continuous wavelet transforms. We will also consider a more recent algorithmic method based on the symmetry of the enveloppes : the empirical mode decomposition. The first contribution proposes a new way to avoid the iterative ``Sifting Process'' in the empirical mode decomposition, whose convergence and stability are not guaranteed. Instead, one uses a constrained optimization step together with an enhanced detection of the local extrema of the high-frequency mode. The second contribution analyses multicomponent signals through the short-time Fourier transform and the continuous wavelet transform, taking advantage of the ``ridge'' structure of such signals in the time-frequency or time-scale planes. More precisely, we propose a new reconstruction method based on local integration, adapted to the local frequency modulation. Some theoretical guarantees for this reconstruction are provided, as well as an application to multicomponent signal denoising. The third contribution deals with the quality of the time-frequency representation, using the reassignment method and the synchrosqueezing transform: we propose two extensions of the synchrosqueezing, that enable mode reconstruction while remaining efficient for strongly modulated waves. A generalization of the synchrosqueezing in dimension 2 is also proposed, based on the so-called monogenic wavelet transform.

Les superpositions d'ondes modulées en amplitude et en fréquence (modes AM--FM) sont couramment utilisées pour modéliser de nombreux signaux du monde réel : cela inclut des signaux audio (musique, parole), médicaux (ECG), ou diverses séries temporelles (températures, consommation électrique). L'objectif de ce travail est l'analyse et la compréhension fine de tels signaux, dits "multicomposantes" car ils contiennent plusieurs modes. Les méthodes mises en oeuvre vont permettre de les représenter efficacement, d'identifier les différents modes puis de les démoduler (c'est-à-dire déterminer leur amplitude et fréquence instantanée), et enfin de les reconstruire. On se place pour cela dans le cadre bien établi de l'analyse temps-fréquence (avec la transformée de Fourier à court terme) ou temps-échelle (transformée en ondelettes continue). On s'intéressera également à une méthode plus algorithmique et moins fondée mathématiquement, basée sur la notion de symétrie des enveloppes des modes : la décomposition modale empirique. La première contribution de la thèse propose une alternative au processus dit ''de tamisage'' dans la décomposition modale empirique, dont la convergence et la stabilité ne sont pas garanties. Á la place, une étape d'optimisation sous contraintes ainsi qu'une meilleure détection des extrema locaux du mode haute fréquence garantissent l'existence mathématique du mode, tout en donnant de bons résultats empiriques. La deuxième contribution concerne l'analyse des signaux multicomposantes par la transformée de Fourier à court terme et à la transformée en ondelettes continues, en exploitant leur structure particulière ''en ridge'' dans le plan temps-fréquence. Plus précisément, nous proposons une nouvelle méthode de reconstruction des modes par intégration locale, adaptée à la modulation fréquentielle, avec des garanties théoriques. Cette technique donne lieu à une nouvelle méthode de débruitage des signaux multicomposantes. La troisième contribution concerne l'amélioration de la qualité de la représentation au moyen de la ''réallocation'' et du ''synchrosqueezing''. Nous prolongeons le synchrosqueezing à la transformée de Fourier à court terme, et en proposons deux extensions inversibles et adaptées à des modulations fréquentielles importantes, que nous comparons aux méthodes originelles. Une généralisation du synchrosqueezing à la dimension 2 est enfin proposée, qui utilise le cadre de la transformée en ondelettes monogène.

Cette thèse propose une nouvelle méthode pour modéliser les fonctions non linéaires de modulation d'amplitude et de fréquence de signaux multicomposantes non stationnaires de durée longue. La méthode repose sur une décomposition du signal en segments courts pour une modélisation locale sur les segments. Pour initialiser la modélisation, nous avons conçu une première étape qui peut être considérée comme un estimateur indépendant et non paramétrique des fonctions de modulation. L'originalité de l'approche réside dans la définition d'une matrice de convergence totale intégrant simultanément les valeurs d'amplitude et de fréquence et utilisé pour l'association d'un pic à une composante selon un critère d'acceptation stochastique. Suite à cette initialisation, la méthode estime les fonctions de modulation par enchainement des étapes de segmentation, modélisation et fusion. Les fonctions de modulation estimées localement par maximum de vraisemblance sont connectées dans l'étape de fusion, qui supprime les discontinuités, et produit l'estimation globale sur la durée totale du signal. Les étapes sont conçues afin de pouvoir modéliser des signaux multicomposantes avec des morts et naissances, ce qui en fait une de ses originalités par rapport aux techniques existantes. Les résultats sur des signaux réels et simulés ont illustré les bonnes performances et l'adaptabilité de la méthode proposée.