Plusieurs méthodes de séparation aveugle de source (SAS), fondées sur des transformées temps-fréquence (TF), ont été proposées au cours de cette thèse. En sortie des systèmes utilisés, une contribution de chaque source est estimée, uniquement à l'aide des signaux mélangés. Toutes les méthodes étudiées dans ce manuscrit trouvent des petites zones du plan TF où une seule source est présente et estiment dans ces zones les paramètres de mélange. Ces approches sont particulièrement adaptées aux sources non-stationnaires.<br />Nous avons tout d'abord étudié et amélioré des méthodes proposées précédemment par l'équipe, basées sur des critères de variance ou de corrélation, pour des mélanges linéaires instantanés. Elles apportent d'excellentes performances pour des signaux de parole et peuvent aussi séparer des spectres issus de données astrophysiques. Cependant, la nature des mélanges qu'elles peuvent traiter limite leur champ d'application.<br />Nous avons donc étendu ces approches à des mélanges plus réalistes. Les premières extensions considèrent des mélanges de sources atténuées et décalées temporellement, ce qui correspond physiquement aux mélanges en chambre anéchoïque. Elles nécessitent des hypothèses de parcimonie beaucoup moins fortes que certaines approches de la littérature, tout en traitant le même type de mélanges. Nous avons étudié l'apport de méthodes de classification non-supervisée sur nos approches et avons obtenu de bonnes performances pour des mélanges de signaux de parole.<br />Enfin, une extension théorique aux mélanges convolutifs généraux est décrite mais nécessite de fortes hypothèses de parcimonie et le réglage d'indéterminations propres aux méthodes fréquentielles.

Dans cette thèse, nous nous sommes attaqués au problème de séparation aveugle de mélanges linéaires de sources ayant des propriétés de cyclo-stationnarité. Trois applications ont été abordées à savoir : télécommunications, vibrations mécaniques et biomécaniques. Dans un premier temps, deux nouvelles méthodes ont été proposées, la première a pour but de séparer aveuglement des sources cyclo-stationnaires partageant une ou plusieurs fréquences cycliques inconnues. Elle combine la diagonalisation conjointe à un nouveau détecteur de points utiles (retard-fréquence cyclique) permettant de composer l’ensemble de matrices de corrélation cyclique devant être diagonalisées conjointement. Quant à la deuxième méthode, elle vise à identifier la matrice de mélange de sources cyclostationnaires de fréquences cycliques inconnues et différentes. L’identification commence par une étape de détection des matrices de rang un, puis décompose en éléments propres le produit de matrices sélectionnées, enfin une méthode de regroupement hiérarchique restitue les colonnes de notre matrice recherchée. Les deux solutions ont été appliquées aux signaux de télécommunications. Dans un second temps, nous avons appliqué d’abord la première méthode proposée sur des signaux mécaniques issus d’un banc de roulements défaillants afin de tester son aptitude à séparer les sources. Ensuite, nous avons proposé une approche qui s’appuie sur l’analyse en composantes parcimonieuses pour séparer les composantes de la force de réaction au sol ayant des propriétés cyclo-stationnaires à l’ordre 1 et 2 / In this thesis, we have tackled the problem of blind separation of linear mixtures of sources with cyclo-stationarity properties. Three applications were studied : telecommunications, mechanical vibrations and biomechanics. First, two new methods have been proposed, the first one aims to blindly separate cyclo-stationary sources sharing one or more unknown cyclic frequencies. It combines the joint diagonalization with a new useful point detector (time lag-cyclic frequency) to compose the set of cyclic correlation matrices to be jointly diagonalized. As for the second method, it aims to identify the mixture matrix of cyclo-stationary sources of unknown and different cyclic frequencies. The identification begins with a step of detecting the matrices of rank one, then the product of selected matrices is decomposed into eigen-elements, and finally a hierarchical regrouping method returns the columns of our sought matrix. Both solutions have been applied to telecommunications signals. In a second step, we first applied the first proposed method on mechanical signals coming from a bank of faulty bearings in order to test its ability to separate the sources. Next, we proposed an approach based on sparse component analysis to separate the components of the ground reaction force with cyclo-stationary properties at order 1 and 2

Dans cette thèse, nous étudions le problème de la séparation aveugle de mélanges linéaires convolutifs sur-déterminés réels ou complexes de sources. Les sources considérées sont réelles ou complexes, déterministes ou aléatoires et dans ce dernier cas statistiquement indépendantes ou corrélées, stationnaires, cyclostationnaires ou non-stationnaires. Nous développons des approches combinant de nouveaux algorithmes de (bloc) diagonalisation conjointe (non unitaires) à de nouveaux détecteurs de points (temps-fréquence ou autres...) particuliers permettant d'élaborer le ou les ensembles de matrices devant être (bloc) diagonalisées conjointement. Les principaux avantages de ces approches sont d'être plus directes en ce se sens qu'elles ne requièrent plus de blanchiment préalable des observations. Elles permettent en outre d'aborder le cas réputé difficile des signaux corrélés. En ce qui concerne les algorithmes de (bloc) diagonalisation conjointe, nous proposons quatre nouveaux algorithmes sans contrainte d'unitarité sur la matrice recherchée. Le premier algorithme est de type algébrique itératif. Il est basé sur l'optimisation d'un critère de type moindres carrés. Les trois autres approches utilisent un schéma d'optimisation de type gradient. Dans un premier temps le calcul du gradient matriciel de la fonction de coût étudiée est approché. Puis dans un second temps le calcul exact est mené et deux nouveaux algorithmes sont proposés : l'un à base de gradient, l'autre à base de gradient relatif. Nous étudions les versions à pas fixe de ces trois algorithmes, puis les versions à pas optimal afin d'accélérer la convergence des algorithmes (le pas est alors recalculé algébriquement à chaque itération en cherchant les racines d'un polynôme d'ordre trois). Un lien avec la diagonalisation conjointe non unitaire est également établi. Ces algorithmes de bloc-diagonalisation conjointe possèdent l'avantage d'être généraux : les matrices de l'ensemble considéré ne sont ni nécessairement réelles, ni à symétrie hermitienne, ni définies positives et le bloc-diagonaliseur conjoint peut être une matrice unitaire ou non-unitaire.