In multicell coordinated networks where multiple base stations cooperate to jointly combat interference from adjacent cells and fading to receivers, one of the outstanding questions is what is the role of receive antenna and receiver processing. Multiple receive antennas not only enable additional degrees of freedom at each receiver to combat the other-cell interference but also can change the transmitter design because transmitter and receiver beamforming design is often closely coordinated. In this dissertation, we investigate the role of the multiple receive antennas in multicell cooperative systems under different interference conditions. We then present novel non-iterative and iterative coordinated beamforming and precoding algorithms with different receiver processing. We present comprehensive performance comparison of various multicell cooperative systems and explore the feasibility of achieving much higher throughput via hyper-densification of heterogeneous and small cell networks with mandatory multicell cooperation. / text

Ce travail présente deux contributions clés dans le domaine des réseaux de communication sans fil 4G+/5G, en particulier dans le domaine de la détection MIMO d’ordre supérieur et le design (conception) de réseau relai semi-duplex. La première partie de ce travail de recherche s’intéresse au développement d’une stratégie de détection MIMO d’ordre supérieur pour les terminaux 4G+/5G existants et futurs, d’un point de vue à la fois théorique et pratique. Une nouvelle technique de décomposition QR Bloc de prétraitement est proposée pour un récepteur LTE dans un scénario limité à un seul utilisateur, interférence limitée, ainsi qu’un scénario point par point dont les résultats surlignent les avantages et inconvénients en performance et complexité. La deuxième partie de cette étude comprend une étude de faisabilité d’une stratégie de message novatrice à deux phases et trois parties pour un réseau relai semi-duplex à couche physique, qui comporte un codage de superposition et un décodage d’annulation d’interférence successif, conscient des interférences. Un point clé de cette étude était d’analyser la performance du schéma d’adaptation des liaisons proposées dans le régime non asymptotique et d’évaluer l’efficacité spectrale (ES) par rapport aux hypothèses théoriques des blocs d’asymptotiquement grandes longueurs. Une comparaison ES supplémentaire est également présentée, avec une transmission de relais à deux étapes non coopérative et une stratégie de transmission point à point. Les résultats obtenus révèlent les gains d'ES qui peuvent être obtenus en exploitant la coopération de couche physique entre le relais et la station de base. / The evolution of wireless communication networks has always been rapidly progressive partly due to the demands of today’s data hungry users. This dissertation presents two key contributions to the body of knowledge in the evolving area of physical layer 4G+/5G communication technologies, especially in the domain of Higher-order MIMO detection and half-duplex relay network design. The initial part of this research investigates the development of a higher-order MIMO detection strategy for existing and future 4G+/5G receivers, from both a theoretical and practical perspective. A novel pre-processing Block QR decomposition technique has been proposed for an LTE receiver in a single-user interference-limited scenario as well as a point-to-point scenario with the results highlighting the complexity advantages and limitations in performance. The second part of this study involves a practical feasibility study of a novel two-phase three-part-message strategy for a physical layer half-duplex relay network, which features superposition coding and interference-aware successive interference cancellation decoding. A key aim of this study was to analyze the performance of the proposed link adaptation scheme in the non-asymptotic regime (finite block-length and discrete constellation signaling), and evaluate the spectral efficiency (SE) against the theoretical assumptions of asymptotically large block-lengths. An additional SE comparison with a non-cooperative two-hop relay transmission and point-to-point transmission strategy is also presented. The resulting outcomes reveal the SE gains that can be had by exploiting physical layer cooperation between the relay and base station.