Le contexte de ces travaux de thèse est la transmission dite faster-than-Nyquist (FTN). Cette technique propose d’augmenter l’efficacité spectrale en augmentant lerythme de transmission au-delà de la bande occupée par le signal émis, indépendamment de laconstellation choisie. Il a été montré que le FTN offre des taux d’information supérieurs à ceuxdes systèmes de Nyquist. Toutefois, le non respect du critère de Nyquist entraîne l’apparitiond’interférence entre symboles et des techniques de réception appropriées doivent être utilisées.La technique de réception dite channel shortening consiste à filtrer la séquence reçue puis àcalculer des probabilités symbole a posteriori approximatives à l’aide de l’algorithme BCJRen considérant une réponse de canal modifiée, de longueur réduite. Dans la littérature, enprésence d’information a priori, les filtres du récepteur channel shortening sont optimiséssous critère de maximisation de l’information mutuelle généralisée (IMG) en utilisant desméthodes numériques. Nous proposons dans ces travaux de thèse une solution analytiquepour l’ensemble des filtres channel shortening sous critère de maximisation de l’IMG lorsquele récepteur dispose d’information a priori. Nous démontrons ensuite que l’égaliseur au sens dela minimisation de l’erreur quadratique moyenne (MMSE) est un cas particulier de l’égaliseurchannel shortening. Dans le cadre de la turbo égalisation, nous étudions ensuite un estimateurpermettant d’obtenir l’information a priori à partir de l’information en sortie du décodeurcorrecteur d’erreurs. Finalement, nous évaluons les performances du système complet aveccodage correcteur d’erreurs sur canal à bruit additif blanc Gaussien. / In order to increase the spectral efficiency of digital communications systems,the faster-than-Nyquist (FTN) approach increases the symbol rate beyond the occupied bandwidthof the transmitted signal independently of the constellation type and size. It has beenshown that information rates of FTN systems are greater than those of Nyquist systems.However, the non-compliance of the Nyquist criterion causes inter-symbol interference to appearand therefore appropriate reception techniques must be used. At reception, the channelshortening approach consists on a receiving filter followed by a BCJR algorithm computingapproximate a posteriori symbol probabilities by considering a modified channel response ofreduced length. In the literature, the channel shortening receiving filters are chosen to maximizethe generalized mutual information (GMI). Such optimization is performed by usingnumerical optimization methods. In this PhD thesis, we propose a closed-form solution forall channel shortening filters considering the GMI maximization criterion. We show that theminimum mean square error (MMSE) equalizer is a particular case of the channel shorteningapproach. Within the frame of turbo equalization, we then study a suitable estimator allowingto obtain symbols a priori information from the information provided by the a decoder. Finally,we study the performance of the complete system with channel coding over an additivewhite Gaussian noise channel.

In the nineties, two major events brought about a revolution in the field of digital communications: the invention of turbo codes and the development of multiple-input multiple-output (MIMO) wireless systems. The turbo codes are error-correcting codes which enable communication systems to operate close to the channel capacity with a reasonable complexity. Multiple-antenna transceivers, a.k.a. MIMO wireless systems, mitigate the effect of multipath fading that occurs in most terrestrial wireless communications. MIMO transmissions are more reliable than single-input single-output transmissions. Moreover, the data rate achievable by MIMO systems is also much higher. This thesis combines these two recent breakthroughs in digital communications. Iterative decoding is a key factor in the success of turbo codes. This principle has proved to be so powerful that it has soon been applied to other schemes such as iterative channel equalization, also known as turbo equalization. In the first part of this thesis, we derived a low-complexity iterative equalizer for frequency-selective MIMO channels. Its robustness against channel estimation errors was also addressed. The second part of this thesis is devoted to the estimation of the channel impulse response and the noise variance for coded transmissions over MIMO channels. We proposed several new iterative estimators based on the expectation-maximization algorithm, the expectation-conditionalmaximization algorithm and the minimum mean square error criterion. Finally, we derived lower bounds on the mean square error of channel estimators. In particular, the Cramer-Rao bound for the estimation of frequency-selective MIMO channels were computed. We mainly investigated the case where no training sequence are transmitted and the case where the receiver has a partial knowledge of the transmitted sequence.

L'objectif de cette thèse est l'étude de récepteurs MIMO LDPC itératifs. Les techniques MIMO permettent d'augmenter la capacité des réseaux sans fil sans la nécessité de ressources fréquentielles additives. Associées aux schémas de modulations multiporteuses CP-OFDM, les techniques MIMO sont ainsi devenues la pierre angulaire pour les systèmes sans fil à haute efficacité spectrale. La réception optimale peut être obtenue à l'aide d'une réception conjointe (Egalisation/Décodage). Étant très complexe, la réception conjointe n'est pas envisagée et l'égalisation et le décodage sont réalisés disjointement au coût d'une dégradation significative en performances. Entre ces deux solutions, la réception itérative trouve son intérêt pour sa capacité à s'approcher des performances optimales avec une complexité réduite. La conception de récepteurs itératifs pour certaines applications, de type WiFi à titre d'exemple doit respecter la structure du code imposée par la norme. Ces codes ne sont pas optimisés pour des récepteurs itératifs. En observant l'effet du nombre d' itérations dans le processus itératif, on montre par simulation que l'ordonnancement des itérations décodage LDPC/Turbo-égalisation joue un rôle important dans la complexité et le délai du récepteur. Nous proposons de définir des ordonnancements permettant de réduire la complexité globale du récepteur. Deux approches sont proposées, une approche statique ainsi qu'une autre dynamique. Ensuite nous considérons un système multi-utilisateur avec un accès multiple par répartition spatiale. Nous étudions l'intérêt de la réception itérative dans ce contexte tenant en compte la différence de puissance signale utile/interférence.

L’objectif de cette thèse est l’étude de récepteurs MIMO LDPC itératifs. Les techniques MIMO permettent d’augmenter la capacité des réseaux sans fil sans la nécessité de ressources fréquentielles additives. Associées aux schémas de modulations multiporteuses CP-OFDM, les techniques MIMO sont ainsi devenues la pierre angulaire pour les systèmes sans fil à haute efficacité spectrale. La réception optimale peut être obtenue à l’aide d’une réception conjointe (Egalisation/Décodage). Étant très complexe, la réception conjointe n’est pas envisagée et l’égalisation et le décodage sont réalisés disjointement au coût d’une dégradation significative en performances. Entre ces deux solutions, la réception itérative trouve son intérêt pour sa capacité à s’approcher des performances optimales avec une complexité réduite. La conception de récepteurs itératifs pour certaines applications, de type WiFi à titre d’exemple doit respecter la structure du code imposée par la norme. Ces codes ne sont pas optimisés pour des récepteurs itératifs. En observant l’effet du nombre d' itérations dans le processus itératif, on montre par simulation que l’ordonnancement des itérations décodage LDPC/Turbo-égalisation joue un rôle important dans la complexité et le délai du récepteur. Nous proposons de définir des ordonnancements permettant de réduire la complexité globale du récepteur. Deux approches sont proposées, une approche statique ainsi qu'une autre dynamique. Ensuite nous considérons un système multi-utilisateur avec un accès multiple par répartition spatiale. Nous étudions l’intérêt de la réception itérative dans ce contexte tenant en compte la différence de puissance signale utile/interférence. / The aim of this thesis is to address the design of iterative MIMO receivers using LDPC Error Correcting codes. MIMO techniques enable capacity increase in wireless networks with no additional frequency ressources. The associationof MIMO with multicarrier modulation techniques OFDM made them the cornerstone of emerging high rate wireless networks. Optimal reception can be achieved using joint detection and decoding at the expense of a huge complexity making it impractical. Disjoint reception is then the most used. The design of iterative receivers for some applications using LDPC codes like Wifi (IEEE 802.11n) is constrained by the standard code structure which is not optimized for such kind of receivers. By observing the effect of the number of iterations on performance and complexity we underline the interest of scheduling LDPC decoding iterations and turboequalization iterations. We propose to define schedules for the iterative receiver in order to reduce its complexity while preserving its performance. Two approaches are used : static and dynamic scheduling. The second part of this work is concerns Multiuser MIMO using Spatial Division Multiple Access. We explore and evaluate the interest of using iterative reception to cancel residual inter-user interference.

L'objectif des travaux réalisés dans le cadre de cette thèse est d'étudier l'association des techniques de transmission multi-antennes (MIMO) avec des schémas de réception itératifs dans un contexte de transmission sans fil haut débit.<br /><br />A largeur de bande et qualité de réception équivalentes, l'utilisation d'antennes multiples en communications numériques permet d'augmenter le débit utile de la transmission. Cependant sous l'hypothèse d'une non connaissance du canal à l'émission, les potentialités du canal MIMO ne sont généralement exploitées qu'au prix d'une réception très complexe, difficilement réalisable au sein d'un circuit intégré. <br /><br />Tout d'abord, afin de lutter contre la sélectivité fréquentielle et de simplifier le traitement en réception, nous choisissons d'associer la modulation multi-porteuses OFDM à des schémas de transmission MIMO. Par ailleurs, en étendant les résultats obtenus dans le domaine de la turbo-égalisation au contexte multi-antennes, nous étudions une technique de réception itérative adaptée au schéma de transmission MIMO-OFDM. L'utilisation de filtres linéaires optimisés au sens du critère Minimum Mean Square Error (MMSE) confère aux récepteurs une complexité raisonnable et conciliable avec les exigences d'implémentation.<br /><br />Les récepteurs proposés sont ensuite associés à des techniques complémentaires telles que le précodage linéaire ou le MC-CDMA. Il est démontré qu'en dimensionnant convenablement l'émission il est possible de tirer parti de toute la diversité du canal de propagation tout en exploitant de façon optimale sa capacité.<br /><br />Les performances de différents systèmes sont enfin évaluées sur différents canaux théoriques puis réalistes, en examinant notamment l'influence de la corrélation entre antennes et en intégrant la fonction d'estimation de canal. Dans ces différents contextes, la comparaison avec des systèmes conventionnels montre l'intérêt d'utiliser une réception itérative.

Depuis quelques années, les techniques multi-antennes sont envisagées comme solution<br />potentielle pour augmenter le débit des futurs systèmes de communications sans fils. L'objectif<br />de cette thèse est d'étudier et d'améliorer les techniques d'émission et de réception de ces<br />systèmes MIMO (Multiple Input Multiple Output) dans un contexte multi-porteuses.<br />En effet, l'OFDM (Orthogonal Frequency Division Multiplex), qui permet de transformer<br />un canal sélectif en fréquence en de multiples canaux non sélectifs, est particulièrement bien<br />adapté à la conception de récepteurs MIMO peu complexes.<br />D'autre part, deux techniques permettant d'améliorer l'exploitation de la diversité fréquentielle<br />et/ou temporelle sont associées à l'OFDM, à savoir le précodage linéaire (LP-OFDM) et<br />le CDMA dans un schéma de type MC-CDMA (Multicarrier-Code division Multiplex Access).<br />Nous avons associé le LP-OFDM et le MC-CDMA à deux techniques MIMO ne nécessitant<br />pas de connaissance du canal à l'émission, le codage espace-temps en blocs STBC (Space-Time<br />Block Coding) et le multiplexage spatial.<br />On montre que pour les deux systèmes MIMO MC-CDMA et MIMO LP-OFDM, les diversités<br />spatiales, temporelles et fréquentielles sont efficacement exploitées.<br />L'avantage de l'association avec les STBC orthogonaux est que des récepteurs particulièrement<br />simples peuvent être mis en oeuvre. En effet, pour un système STBC LP-OFDM, un<br />simple égaliseur linéaire MMSE fournit des performances proches de celles obtenues avec un<br />récepteur à maximum de vraisemblance permettant l'utilisation de grandes matrices de précodage.<br />En STBC MC-CDMA, des récepteurs mono-utilisateur conduisent, comme en SISO<br />MC-CDMA, au meilleur compromis performances/complexité.<br />Lorsque le LP-OFDM ou le MC-CDMA sont associés à du multiplexage spatial, le surplus<br />de complexité des récepteurs est inhérent à la gestion de l'interférence multi-antennes. Nous<br />avons démontré que la mise en oeuvre d'un simple récepteur de type MMSE nécessitant<br />l'inversion de la matrice de canal MIMO conduit à de très bonnes performances. Un processus<br />similaire peut également être appliqué pour des STBC non orthogonaux.<br />Associés à un système itératif lors de l'insertion d'un codage de canal à l'émission, tous<br />ces systèmes peuvent atteindre les performances de la borne du filtre adapté proche des performances<br />de la courbe gaussienne en utilisant de simples opérations.<br />Le gain en efficacité spectrale et en performances est à l'avantage des techniques à multiplexage<br />spatial car elles profitent de l'augmentation linéaire de la capacité avec le minimum<br />du nombre d'antennes d'émission et de réception. Le compromis débit/complexité indiquera<br />le choix du système MIMO à associer au LP-OFDM ou au MC-CDMA. Les performances sont<br />étudiées avec ou sans corrélation et sur des canaux théoriques et réalistes.

Cette thèse traite du problème de l'égalisation des modulations codées pour les transmissions haut-débit sur canaux sélectifs en fréquence, sujets au phénomène d'interférence entre symboles. Nous considérons plus particulièrement la Turbo-Égalisation, qui instaure un échange réciproque d'information entre l'égaliseur et le décodeur, et ce de manière itérative. Nous étudions dans un premier temps le turbo-égaliseur MAP, qui utilise un égaliseur optimal au sens de la minimisation de la p probabilité d'erreur par symbole. Nous montrons que ce récepteur offre des gains de performances importants en comparaison avec les récepteurs conventionnels où les opérations d'égalisation et décodage sont généralement effectuées de manière disjointe. En contrepartie, la complexité du turbo-égaliseur MAP devient rapidement prohibitive en présence de modulations à grand nombre d'états et sur des canaux présentant des étalements temporels importants. En conséquence, nous nous intéressons à une seconde classe de turbo-égaliseurs de moindre complexité et reposant sur des égaliseurs à base de filtres linéaires, optimisés selon le critère MEQM. La nouveauté consiste ici à prendre en compte explicitement la présence d'information a priori dans le calcul des coefficients des filtres, ce qui conduit à des structures bien plus performantes que les égaliseurs MEQM classiques. Nos études montrent que ce type de récepteur constitue une solution attractive pour les transmissions à grande efficacité spectrale sur canaux sélectifs en fréquence. Finalement, nous présentons la mise en oeuvre d'un turbo-égaliseur MEQM sur un DSP virgule-fixe et faible coût, le TMS320VC5509, typiquement destiné aux terminaux mobiles. Nous obtenons ainsi un débit utile de 42 Kbits/s après 5 itérations avec une implémentation en langage C, ce qui démontre la faisabilité de tels récepteurs avec les moyens technologiques actuels.

Le traitement itératif est actuellement largement répandu dans les récepteurs sans fil modernes pour le décodage des codes de canal avancés. L'extension de ce principe avec l'ajout d'une boucle de rétroaction vers l'égaliseur et le demappeur a montré d'excellentes performances dans des conditions sévères de canaux de transmission (effacement, multi-trajets, modèles réels de canaux à évanouissements). Toutefois, l'adoption du traitement itératif avec du turbo décodage est fortement limitée par la complexité d'implémentation engendrée, qui impacte fortement sur le débit, la latence et la consommation. Pour faire face à ces problèmes et permettre l'adoption généralisée du traitement itératif, de nouvelles techniques d'optimisation au niveau système doivent être exploitées. Dans ce travail, nous avons étudié la vitesse de convergence et la complexité au niveau système des récepteurs avancés combinant plusieurs processus itératifs. La première partie de cette thèse a été axée sur l'étude de la combinaison de la démodulation itérative avec du turbo décodage, tandis que la deuxième partie a étendu cette étude vers les récepteurs itératifs MIMO en appliquant de la turbo égalisation, de la turbo démodulation et du turbo décodage. Plusieurs techniques de communication et paramètres système, tels que spécifiés dans les applications émergentes de communication sans fil, ont été pris en compte. De nouveaux ordonnancements des itérations pour les boucles de rétroaction internes et externes ont été proposés pour améliorer la convergence et réduire la complexité globale en termes d'opérations arithmétiques et d'accès mémoire. En outre, l'analyse effectuée et les ordonnancements proposés démontrent l'efficacité des boucles de rétroaction externes, même en termes de complexité, par rapport aux récepteurs classiques non itératifs. Ces résultats ont permis la proposition de nouveaux récepteurs itératifs à complexité adaptative appliquant du turbo décodage, de la turbo démodulation et de la turbo égalisation.

La croissance exponentielle du trafic de données sans fils, causée par l'Internet mobile et les smartphones, contraint les futurs systèmes radio à inclure des modulations/formes d'ondes plus avancées offrant un débit plus élevé et une utilisation efficace des ressources spectrales. Les transmissions dites Faster-Than-Nyquist (FTN), introduites en 1975, sont parmi les meilleurs candidates pour répondre à ces besoins. En transmettant les symboles à une cadence plus rapide que celle définie par le critère de Nyquist, FTN peut théoriquement augmenter le débit mais en introduisant des interférences en contrepartie. Dans cette thèse, nous explorons le concept des transmissions FTN à travers un canal AWGN (Additive White Gaussian Noise) dans le contexte des modulations OFDM/OQAM (Orthogonal Frequency Division Multiplexing with Offset Quadrature Amplitude Modulation).L'objectif principal de cette thèse est de présenter un système OFDM/OQAM qui permet de transmettre l'information au-delà de la cadence de Nyquist tout en tenant en compte la complexité globale du système. Tout d'abord, nous proposons une nouvelle implémentation efficace des systèmes OFDM/OQAM appliquant le concept FTN, désignée ici par FTN-OQAM, qui garde la même complexité que les systèmes OFDM/OQAM et qui permet un gain en débit très proche du gain théorique. Vu que la condition de Nyquist n'est plus respectée, le signal transmis est maintenant perturbé par des interférences. Pour remédier à ce problème, nous proposons un récepteur basé sur le principe de l'égalisation linéaire sous le critère minimum erreur quadratique moyenne avec annulation d'interférences appelé MMSE LE-IC. Le but de notre système est d'augmenter le débit de transmission, ce qui signifie que des constellations d'ordres élevés seront ciblées. Dans ce contexte, le MMSE LE-IC, dont la complexité est indépendante de la constellation, représente un bon compromis entre efficacité et complexité. Puisque la modulation OFDM/OQAM utilise différents types de formes d'ondes, nous proposons pour plusieurs d'entre elles un algorithme pour déterminer la valeur minimale du facteur d'accélération, en fonction de l'ordre de constellation, qui apporte un gain en efficacité spectrale tout en gardant les mêmes performances que les systèmes respectant le critère de Nyquist à un SNR fixé. Ensuite, nous étudions l'amélioration du traitement itératif de l'émetteur-récepteur. La méthode proposée consiste à combiner un précodeur avec le système FTN-OQAM afin de réduire les interférences causées par du FTN à l'émission. Nous proposons un modèle de précodage dispersé, car il est difficile de précoder conjointement tous les symboles transmis. Nous présentons trois familles de précodeurs avec les récepteurs correspondants. En outre, nous modifions différents blocs de l'émetteur FTN-OQAM tels que le codage canal, le mappage des bits et le mappage des symboles afin d'améliorer davantage le transmetteur FTN-OQAM. Les résultats présentés révèlent le potentiel important des systèmes proposés. / The exponential growth of wireless data traffic driven by mobile Internet and smart devices constrains the future radio systems to include advanced modulations/waveforms offering higher data rates with more efficient bandwidth usage. One possibility is to violate the well known Nyquist criterion by transmitting faster than the Nyquist rate, i.e., using a technique also known as Faster-Than-Nyquist (FTN) signaling. Nyquist-based systems have the advantage of simple transmitter and receiver architectures at the detriment of bandwidth efficiency. The idea of signaling beyond the Nyquist rate to trade the interference-free transmission for more throughput goes back to 1975. In this dissertation, we investigate the concept of FTN signaling over Additive White Gaussian Noise (AWGN) channel in the context of Orthogonal Frequency Division Multiplexing with Offset Quadrature Amplitude Modulation OFDM/OQAM modulation.The main objective of our work is to present an OFDM/OQAM system signaling faster than the Nyquist one and explore its potential rate improvement while keeping under consideration the overall system complexity. First, we propose a new efficient FTN implementation of OFDM/OQAM systems, denoted by FTN-OQAM, that has the same complexity as OFDM/OQAM systems, while approaching very closely the FTN theoretical rate improvement. As the Nyquist condition is no longer respected, severe interference impacts the transmitted signals. To deal with the introduced interferences, we propose a turbo-like receiver based on Minimum Mean Square Error Linear Equalization and Interference Cancellation, named MMSE LE-IC. The aim of our system is to boost the transmission rate, which means that high constellation orders will be targeted. In this respect, the MMSE LE-IC, whose complexity is independent of the constellation, turns out to be a good candidate. Since OFDM/OQAM modulation can be equipped with different types of pulse shapes, we propose an algorithm to find, for different constellation orders, the minimum achieved FTN packing factor for various pulse shapes. Then, we aim at improving the iterative processing of the introduced transceiver. The proposed method involves combining a precoder with the FTN-OQAM system in order to remove FTN-induced interference at the transmitter. We also present a sparse precoding pattern as it is difficult to jointly precode all the transmitted symbols. We introduce three families of precoders along with the corresponding receivers. Furthermore, we propose several modifications of the FTN-OQAM transmitter concerning different blocks such as channel coding, bits mapping and symbols mapping to further enhance the FTN-OQAM transceiver design. Presented results reveal the significant potential of the proposed methods.

Nous considérons dans cette thèse le problème de la transmission fiable de données par paquets en utilisant une transmission mono-porteuse sur des canaux sélectifs en fréquence à évanouissements. Notre objectif est de concevoir des couples émetteurs-récepteurs permettant d'améliorer les performances de la détection en l'absence d'information sur le canal à la transmission et ceci en exploitant la diversité temporelle disponible dans le cadre des protocoles de retransmission hybrides (HARQ). En analysant les performances du système de transmission avec un récepteur à maximum de vraisemblance, nous établissons un critère pertinent pour l'étude des performances du système basé sur les statistiques de la distance Euclidienne à la sortie du canal sélectif en fréquence. A partir de ce cadre théorique, nous proposons un nouveau schéma de diversité entre les différentes retransmissions, nommé précodage de phase, qui permet de combattre l'interférence entre symboles pour les canaux lentement variables dans le temps. Puis, à l'aide de nos outils d'analyse, nous revisitons un autre schéma de diversité qu'est la diversité d'entrelacement. En particulier, nous soulignons le double avantage offert par ce schéma, à savoir la diversité de modulation et la réduction de l'interférence entre symboles. Nous réalisons ensuite une étude comparative entre les deux schémas de diversité précédents sous traitement itératif ou non itératif au récepteur. Enfin, nous introduisons un nouveau protocole de retransmission adaptative pour les transmissions dîtes multi-couches afin de réduire l'interférence entre couches pour les canaux rapidement variant dans le temps utilisant des informations de retour limitées.