L'objectif des travaux réalisés dans le cadre de cette thèse est d'étudier l'association des techniques de transmission multi-antennes (MIMO) avec des schémas de réception itératifs dans un contexte de transmission sans fil haut débit.<br /><br />A largeur de bande et qualité de réception équivalentes, l'utilisation d'antennes multiples en communications numériques permet d'augmenter le débit utile de la transmission. Cependant sous l'hypothèse d'une non connaissance du canal à l'émission, les potentialités du canal MIMO ne sont généralement exploitées qu'au prix d'une réception très complexe, difficilement réalisable au sein d'un circuit intégré. <br /><br />Tout d'abord, afin de lutter contre la sélectivité fréquentielle et de simplifier le traitement en réception, nous choisissons d'associer la modulation multi-porteuses OFDM à des schémas de transmission MIMO. Par ailleurs, en étendant les résultats obtenus dans le domaine de la turbo-égalisation au contexte multi-antennes, nous étudions une technique de réception itérative adaptée au schéma de transmission MIMO-OFDM. L'utilisation de filtres linéaires optimisés au sens du critère Minimum Mean Square Error (MMSE) confère aux récepteurs une complexité raisonnable et conciliable avec les exigences d'implémentation.<br /><br />Les récepteurs proposés sont ensuite associés à des techniques complémentaires telles que le précodage linéaire ou le MC-CDMA. Il est démontré qu'en dimensionnant convenablement l'émission il est possible de tirer parti de toute la diversité du canal de propagation tout en exploitant de façon optimale sa capacité.<br /><br />Les performances de différents systèmes sont enfin évaluées sur différents canaux théoriques puis réalistes, en examinant notamment l'influence de la corrélation entre antennes et en intégrant la fonction d'estimation de canal. Dans ces différents contextes, la comparaison avec des systèmes conventionnels montre l'intérêt d'utiliser une réception itérative.

Les travaux présentés dans cette thèse proposent des solutions à forte efficacité spectrale pour les communications mobiles multi-antennes et multiporteuses, particulièrement optimisées pour la voie descendante des systèmes hertziens. Cette étude s'inscrit dans un contexte fortement concurrentiel pour l'accès de masse au haut-débit sans fil, et contribue à l'effort collectivement mené au sein des projets européens sur les systèmes dits de 4e génération (4G). La première partie du document cadre l'étude en identifiant les contraintes physiques, technologiques et financières, ainsi que les exigences des systèmes 4G en termes de services, débit et mobilité. En particulier, une complexité raisonnable au récepteur mobile est requise en voie descendante pour honorer coût et consommation. Dans un souci de réalisme, le canal de propagation radio-mobile large-bande MIMO est caractérisé. Les corrélations en temps/fréquence/espace induisent le dimensionnement du système de communication numérique proposé. La deuxième partie du document est consacrée à l'étude des systèmes multi-porteuses, multi-utilisateurs, et multi-antennes, afin d'unifier l'approche et d'explorer plusieurs axes en utilisant au mieux les propriétés du canal. Tout d'abord, le choix de l'accès large-bande multi-utilisateurs s'est porté sur la combinaison de l'OFDM et d'étalement en accès multiple CDMA, afin de discuter du compromis diversité/orthogonalité suivant les algorithmes de chip-mapping et de détection employés. Ensuite, pour exploiter les gains de réseau d'antennes, diversité et multiplexage offerts par le canal MIMO en fonction du contexte, un état de l'art des techniques multi-antennes est dressé. La classification proposée permet d'établir une stratégie tout en conservant une faible complexité de détection. Nous détaillons les systèmes les plus réalistes en contexte mobile et en voie descendante, n'ayant pas connaissance du canal en émission. La chaîne de communication MIMO-OFDM-CDMA complète est finalement présentée en insistant sur la flexibilité des algorithmes linéaires adoptés. La troisième partie du document s'attache à optimiser les combinaisons précédentes en contexte réaliste, et propose des techniques de codage et d'estimation temps/fréquence/espace innovantes. Tout d'abord, une approche pragmatique amène à considérer des solutions exploitant la diversité qui assurent robustesse, détection simple et compatibilité avec l'ensemble des terminaux. Nous privilégions un codage spatial de rendement unitaire, et proposons d'agir sur les trajets multiples grâce aux antennes supplémentaires. Des axes d'optimisation sont fournis au niveau codage, chip-mapping, détection et propagation de fiabilités. Comparé aux méthodes OSTBC ou CDD, des gains sont illustrés en performance, répartition de puissance, potentiel d'adaptabilité et de robustesse... Ensuite, en relâchant légèrement les contraintes de complexité et d'orthogonalité spatiale, nous proposons de nouvelles solutions en contexte plus favorable. Même avec une simple détection linéaire MMSE, ces techniques offrent un potentiel supérieur en haut-débit mobile dès que le nombre d'antennes augmente. Enfin, nous introduisons des méthodes d'estimation du canal MIMO adaptées aux systèmes précédents, utilisant des symboles pilotes répartis et éventuellement les données décodées de manière itérative afin de répondre à un ensemble de compromis sur des récepteurs variés. Les nombreux résultats obtenus démontrent la pertinence des solutions développées.