L'objectif de cette thèse est d'étudier et d'améliorer une technique de réception numérique appelée turbo-égalisation et basée sur le principe turbo. Ce système est constitué de plusieurs fonctions qui traitent itérativement les différentes perturbations apportées par le canal de propagation. L'Interférences Entre Symboles (IES) est corrigée par un égaliseur particulier appelé annuleur d'interférences construit à l'aide de filtres optimisés selon le critère de Minimum d'Erreur Quadratique Moyenne (MEQM). Le bruit et l'IES résiduelle sont ensuite traités par un décodeur de canal. Chaque fonction produit une information souple sur les données émises qui est améliorée à chaque traitement. L'IES est ainsi éliminée progressivement au cours des itérations.<br /><br />Grâce à une analogie avec les modulations codées, nous expliquons l'influence du schéma d'entrelacement, qui peut être réalisé au niveau des bits ou des symboles de modulation, sur les performances de la turbo-égalisation selon les caractéristiques temporelles des canaux de propagation. D'autre part, afin d'obtenir des performances satisfaisantes sur un modèle de canal ionosphérique, dont les caractéristiques de propagation sont réputées difficiles, nous étudions les différentes structures et algorithmes d'adaptation possibles pour les égaliseurs présents dans la turbo-égalisation. Puis nous présentons des améliorations de la conversion Maire-binaire sans information a priori. Une optimisation du mapping pour la conversion Maire-binaire avec information a priori de la turbo-égalisation est proposée et conduit à un gain de performances en terme de Taux d'Erreurs Binaires. Enfin nous comparons la turbo-égalisation à trois techniques alternatives : un système avec turbo-décodage, la technique multiporteuse COFDM, et un turbo-détecteur à treillis réduit.

Le traitement itératif est actuellement largement répandu dans les récepteurs sans fil modernes pour le décodage des codes de canal avancés. L'extension de ce principe avec l'ajout d'une boucle de rétroaction vers l'égaliseur et le demappeur a montré d'excellentes performances dans des conditions sévères de canaux de transmission (effacement, multi-trajets, modèles réels de canaux à évanouissements). Toutefois, l'adoption du traitement itératif avec du turbo décodage est fortement limitée par la complexité d'implémentation engendrée, qui impacte fortement sur le débit, la latence et la consommation. Pour faire face à ces problèmes et permettre l'adoption généralisée du traitement itératif, de nouvelles techniques d'optimisation au niveau système doivent être exploitées. Dans ce travail, nous avons étudié la vitesse de convergence et la complexité au niveau système des récepteurs avancés combinant plusieurs processus itératifs. La première partie de cette thèse a été axée sur l'étude de la combinaison de la démodulation itérative avec du turbo décodage, tandis que la deuxième partie a étendu cette étude vers les récepteurs itératifs MIMO en appliquant de la turbo égalisation, de la turbo démodulation et du turbo décodage. Plusieurs techniques de communication et paramètres système, tels que spécifiés dans les applications émergentes de communication sans fil, ont été pris en compte. De nouveaux ordonnancements des itérations pour les boucles de rétroaction internes et externes ont été proposés pour améliorer la convergence et réduire la complexité globale en termes d'opérations arithmétiques et d'accès mémoire. En outre, l'analyse effectuée et les ordonnancements proposés démontrent l'efficacité des boucles de rétroaction externes, même en termes de complexité, par rapport aux récepteurs classiques non itératifs. Ces résultats ont permis la proposition de nouveaux récepteurs itératifs à complexité adaptative appliquant du turbo décodage, de la turbo démodulation et de la turbo égalisation.