Dans plusieurs applications de traitement du signal pour les systèmes de communication sans fil, le signal reçu est de nature multidimensionnelle et possède une structure algébrique multilinéaire. Dans ce contexte, la décomposition tensorielle de type PARAFAC a fait l'objet de plusieurs travaux au cours des six dernières années. Il s'avère que des décompositions tensorielles plus générales sont nécessaires pour couvrir des classes plus larges de systèmes de communication faisant intervenir µa la fois des modèles de transmission et de canal plus complexes et des méthodes de traitement plus efficaces. Cette thèse traite les problèmes de modélisation des systèmes multi-antennes, d'égalisation de canal, de séparation de signaux et d'estimation paramétrique de canal à l'aide d'approches tensorielles. Dans un premier temps, de nouvelles décompositions tensorielles (bloc-PARAFAC avec contraintes et CONFAC) ont été développées et étudiées en termes d'identifiabilité. Dans un deuxième temps, la décomposition bloc-PARAFAC avec contraintes a été appliquée tout d'abord pour mettre en évidence une modélisation tensorielle unifiée des systèmes suréchantillonnées , DS-CDMA et OFDM, avec application à l'égalisation multiutilisateur. Puis, cette décomposition a été utilisée pour modéliser des systèmes de transmission MIMO avec étalement spatio-temporel et détection aveugle. La décomposition CONFAC a ensuite été exploitée pour concevoir un nouveau schéma de transmission MIMO/CDMA combinant diversité et multiplexage spatial. Les propriétés d'unicité de cette décomposition ont permis de réaliser un traitement aveugle au niveau du récepteur pour la reconstruction du canal et des symboles transmis. Un troisième volet du travail concerne l'application de la décomposition PARAFAC pour la conception de nouveaux schéma de transmission spatio-temporel-fréquentiel pour des systèmes MIMO multiporteuses, et pour l'estimation paramétrique de canaux multitrajets. .