Ce travail de thèse se cadre autour de la thématique d'identification / égalisation aveugle (autodidacte) de canaux de transmission, dont l'atout majeur est, incontestablement, la suppression de la séquence d'apprentissage. Néanmoins, une telle démarche présente certains inconvénients, par rapport à un traitement classique (avec séquence d'apprentissage) du problème, à savoir, un niveau de performance plus faible, un coût de calcul plus élevé et une sensibilité plus importante aux incertitudes sur certains paramètres, tel l'ordre du canal. Ce qui joue en défaveur d'une large application des schémas d'identification / égalisation aveugle dans la pratique. Tenant compte de cette problématique et afin d'améliorer les performances des systèmes d'identification / égalisation aveugle et de palier à leurs carences, cette étude vient, dans un premier temps, résumer, clarifier et évaluer un certain nombre de travaux déjà existants, et dans un deuxième temps, proposer deux nouvelles approches adaptatives et rapides d'égalisation du type erreur quadratique moyenne minimale (MMSE: Minimum Mean Square Error), aveugle du second ordre, pour des systèmes multicanaux à réponse impulsionnelle finie. La première approche, destinée à des systèmes à entrées multiples sorties multiples (MIMO: Multiple Input Multiple Output), est robuste aux erreurs de surestimation de l'ordre du canal. Tandis que la deuxième approche, destinée à des systèmes à une entrée plusieurs sorties (SIMO: Single Input Multiple Output), est totalement indépendante de l'ordre du canal.

Au cours de la dernière décennie, l’étude mathématique et statistique des représentations parcimonieuses de signaux et de leurs applications en traitement du signal audio, en traitement d’image, en vidéo et en séparation de sources a connu une activité intensive. Cependant, l'exploitation de la parcimonie dans des contextes de traitement multidimensionnel comme les communications numériques reste largement ouverte. Au même temps, les méthodes aveugles semblent être la réponse à énormément de problèmes rencontrés récemment par la communauté du traitement du signal et des communications numériques tels que l'efficacité spectrale. Aussi, dans un contexte de mobilité et de non-stationnarité, il est important de pouvoir mettre en oeuvre des solutions de traitement adaptatives de faible complexité algorithmique en vue d'assurer une consommation réduite des appareils. L'objectif de cette thèse est d'aborder ces challenges de traitement multidimensionnel en proposant des solutions aveugles de faible coût de calcul en utilisant l'à priori de parcimonie. Notre travail s'articule autour de trois axes principaux : la poursuite de sous-espace principal parcimonieux, la séparation adaptative aveugle de sources parcimonieuses et l'identification aveugle des systèmes parcimonieux. Dans chaque problème, nous avons proposé de nouvelles solutions adaptatives en intégrant l'information de parcimonie aux méthodes classiques de manière à améliorer leurs performances. Des simulations numériques ont été effectuées pour confirmer l’intérêt des méthodes proposées par rapport à l'état de l'art en termes de qualité d’estimation et de complexité calculatoire. / During the last decade, the mathematical and statistical study of sparse signal representations and their applications in audio, image, video processing and source separation has been intensively active. However, exploiting sparsity in multidimensional processing contexts such as digital communications remains a largely open problem. At the same time, the blind methods seem to be the answer to a lot of problems recently encountered by the signal processing and the communications communities such as the spectral efficiency. Furthermore, in a context of mobility and non-stationarity, it is important to be able to implement adaptive processing solutions of low algorithmic complexity to ensure reduced consumption of devices. The objective of this thesis is to address these challenges of multidimensional processing by proposing blind solutions of low computational cost by using the sparsity a priori. Our work revolves around three main axes: sparse principal subspace tracking, adaptive sparse source separation and identification of sparse systems. For each problem, we propose new adaptive solutions by integrating the sparsity information to the classical methods in order to improve their performance. Numerical simulations have been conducted to confirm the superiority of the proposed methods compared to the state of the art.