Les systèmes multi-porteuses sont utilisés depuis longtemps, et dans de nombreux standards de communication tels qu'ADSL, DVB-T, WiMax et LTE.la modulation OFDM (Orthogonal Frequency Division Multiplexing) est aujourd'hui la technologie dominante. Cependant, l'innovation qu'est l'agrégation de spectres permet aux systèmes de communication de mieux exploiter le spectre radio, aujourd'hui rare, cher et sous-utilisé.Les futures communications 5G devront trouver le moyen d'exploiter ce spectre fragmenté de manière aussi flexible que possible.Le standard PMR (Private Mobile Radio) fait face aux mêmes problèmes vis-à-vis de l'introduction de services large bande dans un spectre déja surchargé.Ces problématiques nécessitent des formes d'onde dont l'occupation spectrale est presque parfaite, afin de limiter au possible les bandes de garde entre différents utilisateurs. L'occupation spectrale d'OFDM n'est tout simplement pas assez bonne pour satisfaire ces impératifs. Parmi les nouvelles formes d'onde prises en considération dans ce cadre, les systèmes FBMC/OQAM (Filter Bank Multicarrier/Offset QAM) sont conçus de manière à fournir une bien meilleure occupation spectrale que les systèmes OFDM, avec un débit optimal, et sans le besoin d'ajouter un préfixe cyclique.Cependant, un des grands inconvénients des systèmes multi-porteuses tels qu'OFDM ou FBMC/OQAM est leur enveloppe non-constante. Les signaux générés présentent de nombreux pics de puissance élevée qui apparaissent quand les sous-porteuses modulées indépendamment puis sommées sont en phase les unes avec les autres.Cela fait que les signaux multi-porteuses sont très sensibles aux non-linéarités des composants électroniques des systèmes de communication, et tout particulièrement à celles de l'amplificateur de puissance (PA) à l'émission. Ces non-linéarités génèrent des distorsions en dedans et en dehors de la bande utile, ce qui crée des remontées spectrales qui viennent dégrader l'occupation spectrale des signaux.Le but de cette thèse est d'évaluer l'impact que le PA peut avoir sur les performances spectrales du signal FBMC/OQAM, et de réduire la sensibilité de la forme d'ondes à ces non-linéarités.Nous basons nos travaux sur des simulations Matlab et des mesures expérimentales, en utilisant le signal OFDM comme référence.Nous commençons par confirmer que le signal FBMC/OQAM a de meilleures performances spectrales que le signal OFDM. Puis nous quantifions l'effet des non-linéarités de l'amplificateur sur les deux signaux.Ensuite, nous proposons une méthode améliorée de contrôle de la dynamique de l'enveloppe du signal, basée sur une technique de précodage, qui a pour but de réduire la sensibilité du signal FBMC/OQAM aux non-linéarités, pour un coût de complexité modeste.Nous étudions les différents paramètres de cette méthode pour en déduire le paramétrage optimal.Enfin, nous présentons des simulations et des mesures de la capacité de cette méthode à réduire les remontées spectrales en dedans et en dehors de la bande utile quand le signal FBMC/OQAM subit les non-linéarités du PA. / Multi-carrier systems are well established in many different communication standards such as ADSL, DVB-T, WiMax, and LTE.The dominant technology for broadband communications today is OFDM (Orthogonal Frequency Division Multiplexing).However the introduction of frequency bands aggregation is allowing systems to deal with a spectrum that is scarce, expensive and underutilized.Future 5G communications must find a way to exploit this fragmented spectrum as flexibly as possible.Similar problems are present also for introducing future broadband PMR (Private Mobile Radio) standards in the already crowded PMR spectrum.This requires waveforms with almost perfect spectrum occupation in order to limit the guard frequency band between users.OFDM's spectral occupation is not good enough to fulfill these requirements.Among the considered waveform approaches, FBMC/OQAM (Filter Bank Multicarrier/Offset QAM) systems are designed to provide a much better spectral occupation than OFDM systems, with optimal data rate, and no need for a cyclic prefix.However, a major disadvantage of a multi-carrier system such as OFDM or FBMC/OQAM is the resulting non constant envelope with numerous high power peaks that appear when the independently modulated sub-carriers are added coherently.This results in a high sensitivity to the non-linearities of electronic components, especially to the PA (Power Amplifier).PA non-linearities generate distortions in-band and out-of band, creating spectral regrowth which degrades the spectral occupation of the signals at the transmitter.The aim of this thesis is to evaluate the impact of the PA on the FBMC/OQAM signal's spectral performances, and to reduce the waveform's sensitivity to those non-linearities.Through simulations and experimental measurements, using the OFDM signal as a basis for comparison, we first confirm FBMC/OQAM's better spectral occupation than OFDM, and then quantify the effect of the PA non-linearities on the FBMC/OQAM an OFDM signals.We then propose an improved precoding method for dynamic envelope control, which aims to reduce the FBMC/OQAM signal's sensitivity to PA non-linearities with limited additional complexity. We study the various parameters in order to provide the optimal parameter choice.Finally, we present simulations and measurements of the method's ability to reduce spectral regrowth in and out of band when the FBMC/OQAM signal is subjected to the PA nonlinearities.

Avec l'augmentation du trafic de données, la multiplication des objets connectés et la diversification des types de communication, la cinquième génération de réseaux cellulaires (5G) doit relever un grand nombre de défis. Dans ce contexte, les systèmes« massive MIMO » présentent de nombreux avantages en utilisant un grand nombre d'antennes combiné à des techniques de traitement de signal adaptées. De plus, l'utilisation de la modulation FBMC/OQAM au lieu de la modulation OFDM pourrait améliorer la performance des systèmes dans ce11aines situations. En premier lieu, cette thèse se centre sur des scénarios véhiculaires. En par1iculier, les systèmes« massive MIMO » sont proposés dans le but de combattre les interférences dues à l'effet Doppler pour la voie montante. Nous montrons ainsi de manière analytique que l'augmentation du nombre d'antennes implique une réduction drastique de l'impact de l'effet Doppler. De plus, les performances des modulations OFDM et FBMC/OQAM sont comparées dans ce contexte pour des environnements« Non-Line-Of-Sight » (NLOS) et« Line-Of-Sight » (LOS). Le second scéna1io étudié dans cette thèse considère les communications dans des zones mal desservies. Dans ce contexte, les systèmes« massive MIMO » permettent de créer un lien sans-fil longue-po11ée de type« backhaul » entre deux stations de base. Ainsi, le coût de déploiement des réseaux r cellulaires est réduit. Dans cette thèse, un nouveau précodeur « massive MIMO » est proposé dans le but d'utiliser la même bande de fréquence pour le liens accès et« backhaul ». De plus, l'impact d'une désynchronisation entre les liens d'accès et le lien « backhaul » est étudié et l'utilisation de la modulation FBMC/OQAM pour le lien« backhaul » est examinée. / ESUME DE LA THESE EN ANGLAIS With the increase of the global data tmffic, the multiplication of co1mected devices and the diversification of the communication types, the fifth generation of cellular networks (5G) has to overcome a se1ies of challenges. In this context, massive MlMO systems hold a wide range of benefits by using a large number of antennas combined with appropriate signal processing techniques. Additionally, the use of the FBMC/OQAM modulation instead of the classical OFDM modulation may enhance the performance of the systems in cer1ain situations. Firstly, this thesis focuses on vehicular scenarios. In par1icular, massive MIMO systems are proposed to overcome the interference due to the Doppler effect for the uplink. We thus analytically highlight that increasing the number of receive antermas induces a drastic reduction of the impact of the Doppler effect. Moreover, the perfonnance of the OFDM and the FBMC/OQAM modulations are compared in this context for Non-Line-Of-Sight (NLOS) and Line-Of-Sight (LOS) environments. The second scenario investigated in this thesis considers communications in wide underse1ved areas. In this context, massive MIMO systems allow to create a long-range wireless back.haul link between two base stations. Thereby, the cost of deployment of the cellular networks is reduced. In this thesis r a new massive MLMO precoding technique is proposed in order to use the same fequency band for the backhaul link and the access links. Moreover, the impact of a desynchronization between the back haul link and the access links is studied and the use of the FBMC/OQAM modulation for the backhaul link is discussed.

La 5ème génération de réseaux mobiles (5G), actuellement en cours de standardisation, prévoit de nouveaux scénarios de communication dans l’évolution vers un monde entièrement connecté et communicant. Dans ce contexte, un nombre très important de techniques avancées sont en cours d’exploration pour répondre aux nombreux défis imposés en termes de débit, de latence, de consommation énergétique, et de capacité à faire communiquer entre eux, efficacement, des milliards d'objets très différents. Parmi les techniques les plus prometteuses de la couche physique, de nouvelles formes d'ondes multiporteuses filtrées sont proposées. Bien qu’elles offrent un meilleur confinement spectral et une meilleure localisation en temps et en fréquence par rapport à l’OFDM de la 4G, elles présentent des limitations soit en termes de complexité soit en termes de performance et d’intégration. De plus, ces formes d’ondes sont évaluées d’un point de vue théorique et les résultats ne sont pas toujours validés sur des plateformes matérielles de preuve de concept reproduisant les conditions réelles des scénarios de la 5G.Dans ce contexte, les travaux de cette thèse proposent plusieurs contributions originales aussi bien au niveau algorithmes de traitement qu’au niveau architectures matérielles. Dans le domaine algorithmique,les travaux réalisés ont mené aux contributions suivantes : (1) Un nouveau filtre prototype court est proposé pour la forme d’onde FBMC/OQAM. Des analyses analytiques, complétées par simulation,montrent que le filtre proposé permet d’améliorer la résistance aux erreurs de synchronisation temporel et de réduire la complexité du récepteur FBMC de type « frequency-spread » comparé aux autres filtres de la littérature, (2) Un nouveau type de récepteur FBMC adapté pour les filtres courts est proposé. Ce récepteur a la particularité d’améliorer sensiblement la résistance aux canaux doublement dispersifs pour des filtres courts, et de supporter les communications asynchrones, (3) Un émetteur UF-OFDM original de complexité significativement réduite par rapport à la littérature est proposé. Contrairement aux techniques existantes, l’émetteur proposé n’introduit aucune approximation dans le signal généré, et préserve ainsi le confinement spectral de la forme d’onde. Dans le domaine de la conception matérielle, les travaux réalisés durant cette thèse ont mené aux contributions suivantes : (4) Une architecture matérielle optimisée des émetteurs FBMC et UF-OFDM de complexité comparable à OFDM, (5) Une architecture matérielle optimisée de l’étage de filtrage du récepteur FBMC « frequency-spread », avec une complexité comparable à celle d’un récepteur « polyphase-network », et (6) Une des premières plateformes matérielles de preuve de concept de la 5G, pouvant évaluer les performances des formes d’ondes pour les différents services de la 5G. / The 5th generation of mobile communications is fore seen to cope with a high degree of heterogeneity in terms of services: enhanced mobile broadband, massive machine, vehicular and mission critical communications, broadcast services. Consequently, diverse and often contradicting key performance indicators need to be supported, such as high capacity/user-rates, low latency, high mobility, massive number of devices, low cost and low power consumption. 4G is not designed to efficiently meet such a high degree of heterogeneity: the OFDM waveform exhibits several limitations in terms of spectrum usage and robustness to frequency and timing synchronization errors. In order to overcome these limitations and to cope with the new 5G requirements,several research initiatives have been conducted to design new waveforms. Proposed candidates, such as FBMC/OQAM or UF-OFDM,are mainly based on multicarrier modulation with specific filtering scheme used on the top of the OFDM basis. However, most of the proposed new waveforms are often studied and analyzed at the algorithmic level considering mainly the quality of the communication link. Therefore, the investigation of low-complexity implementations and the availability of real hardware prototypes are of high interest for performance validation and proof-of-concept of the diverse proposed communication techniques. In the above context, this thesis work proposes several original contributions in the algorithm and the hardware design domains. In the algorithm domain, this work leads to the following contributions: (1) Anovel short prototype filter for FBMC allowing for near perfectreconstruction and having the same size as one OFDM symbol is proposed. Using the Frequency Spread implementation for the FBMC receiver, analytical studies and simulation results show that the proposed filter exhibits better robustness to several types of channel impairments when compared to state-of-the-art short prototype filters and OFDM modulation. (2) A novel FBMC receiver technique suitable for short filters is proposed. This receiver enables to greatly improve the robustness against double dispersive channels for short filters, and enables the support of asynchronous communications, (3) A novel low complexityUF-OFDM transmitter without any signal quality loss isproposed. For small subband sizes, the complexity becomescomparable to OFDM regardless of the number of allocated subbands.In the hardware design domain, this thesis work leads to the following contributions: (4) An efficient pipelined hardware architecture of the FBMC/OQAM transmitter capable of supporting several filter lengths and targeting low complexity is proposed and compared to typical FBMC/OQAM and OFDM implementations, (5) An optimized frequency spread based hardware architecture of the filtering stage is proposed for the designed short prototype filter, showing lower complexity than the classical Poly Phase-Network-based implementation, (6) One of the first flexible and efficient hardware platforms for 5G waveform design, allowing the support of several communication scenarios as foreseen in 5G.

Au cours des vingt dernières années, le débit croissant des communications radiofréquences a imposé la mise en œuvre de techniques d'égalisation de plus en plus complexes. Pour résoudre ce problème, les modulations multi-porteuses ont été massivement employées dans les standards de communications à très haut débit. Un exemple caractéristique de la démocratisation de ces formes d'ondes est l'utilisation de l'OFDM (Orthogonal Frequency Division Multiplexing) sur le lien descendant des réseaux 4G. Toutefois, pour les futurs réseaux 5G, l'émergence prévue des communications M2M (Machine-to-Machine) impose aux formes d'ondes une grande tolérance aux asynchronismes au sein de ces réseaux et ne permet pas l'emploi de l'OFDM qui nécessite une synchronisation stricte en temps et en fréquence. Egalement, l'utilisation efficace du spectre par les techniques de la radio cognitive est incompatible avec l'OFDM en raison de la mauvaise localisation en fréquence de cette forme d'onde.Dans ce contexte, la forme d'onde FBMC-OQAM (Filter Bank Multi-Carrier - Offset Quadrature Amplitude Modulation) est apparue comme une solution potentielle à ces problèmes. Toutefois, l'égalisation des signaux FBMC-OQAM en canal sélectif en fréquence et/ou canal MIMO (Multiple Input Multiple Output) est rendue difficile par la subsistance d'interférences entre les sous-porteuses du schéma FBMC-OQAM. Cette thèse étudie donc l'égalisation de ces liaisons. L'étude de récepteurs WL (Widely Linear) qui permettent la suppression d'interférences, sans diversité d'antenne en réception, au sein des réseaux utilisant des signaux noncirculaires au second ordre (e.g. signaux ASK, GMSK, OQAM) est privilégiée. Cette technique nommée SAIC (Single Antenna Interference Cancellation) et utilisée dans les réseaux GSM pour la suppression d'interférences co-canal est envisagée pour une extension à la suppression des interférences entre porteuses des formes d'ondes FBMC-OQAM. La technologie SAIC, qui a été étendue pour plusieurs antennes en réception (MAIC - Multiple Antenna Interference Cancellation) a l'avantage de sa faible complexité et ne génère pas de propagation d'erreur à faible SNR contrairement aux solutions de suppression successive d'interférences. Une approche progressive est adoptée, depuis l'élaboration du SAIC pour la suppression d'interférences co-canal où nous démontrons l'importance de considérer le caractère cyclostationnaire des signaux OQAM. Basée sur cette constatation, une nouvelle structure de réception utilisant un filtre WL-FRESH (FREquency-SHift) est proposée et ses meilleures performances comparé au récepteur WL standard sont présentées analytiquement et par simulations numériques. L'extension du SAIC pour la suppression d'une interférence décalée en fréquence est ensuite menée et différentes structures de réception sont proposées et analysées en détail. L'aptitude des traitements SAIC utilisant des filtres WL-FRESH à supprimer 2 interférences décalées en fréquence est présentée. Dans le contexte des signaux FBMC-OQAM qui utilisent généralement le filtre de mise en forme PHYDYAS, chaque sous-porteuse est polluée par ses deux sous-porteuses adjacentes. Cependant, pour évaluer les traitements SAIC sans devoir prendre en compte la contribution des sous-porteuses voisines à ces sous-porteuses adjacentes, un filtre doit précéder le traitement de réception. Pour cette raison, l'analyse de l'impact d'un filtre de réception sur les performances des traitements SAIC proposés est effectuée et les conditions sur la bande passante du filtre nécessaires pour justifier l'intérêt d'un traitement SAIC par filtrage WL sont présentées. Dans un dernier temps, une approche alternative d'égalisation des signaux FBMC-OQAM est présentée. Elle consiste à démoduler conjointement les sous-porteuses interférentes après filtrage. Cette technique est abordée dans le contexte de liaisons MIMO Alamouti FBMC-OQAM. / During the last two decades, the increase of wireless communications throughput has necessitated more and more complex equalization techniques. To solve this issue, multicarrier modulations have been massively adopted in high data rates wireless communications standards. A typical example of the wide use of these waveforms is the adoption of OFDM (Orthogonal Frequency Division Multiplexing) for the downlink of 4G mobile networks. However, for next-generation 5G networks, the expected increase of M2M (Machine-to-Machine) communications forbids the use of OFDM because of the tight time and frequency synchronization constraints imposed by this waveform. Additionally, efficient spectrum occupation through cognitive radio strategies are incompatible with the poor spectral localization of OFDM. In this context, FBMC-OQAM (Filter Bank Multi-Carrier - Offset Quadrature Amplitude Modulation) waveforms appeared as a potential solution to these issues. However, equalization of FBMC-OQAM in frequency selective channels and/or MIMO (Multiple Input Multiple Output) channels is not straightforward because of residual intrinsic interferences between FBMC-OQAM subcarriers. Thus, this thesis considers equalization techniques for these links. In particular, the study of WL (Widely Linear) receivers allowing the mitigation of interferences, with only a single antenna, among networks using second-order noncircular waveforms (e.g. ASK, GMSK, OQAM signals) is privileged. This work studied this technique, named SAIC (Single Antenna Interference Cancellation) and applied for the suppression of co-channel interferences in GSM networks in order to adapt it for the cancellation of FBMC-OQAM intercarrier interferences. SAIC, which was further extended to multiple receive antennas (MAIC - Multiple Antenna Interference Cancellation) benefits from its low complexity and does not generate error propagation at low SNR contrary to successive interference cancellation based solutions. A progressive approach is adopted, from SAIC/MAIC for the suppression of co-channel interferences where we emphasize the importance of considering the cyclostationary nature of OQAM communication signals. Based on this, the proposal of a new WL-FRESH (FREquency-SHift) filter based receiver for OQAM-like signals is made and its performance is characterized analytically and by numerical simulations asserting its superior performance with respect to the standard WL receiver. The extension of SAIC/MAIC for the mitigation of a frequency-shifted interference is then considered and reception structures are proposed and analyzed in detail. The ability of WL-FRESH filter based SAIC receivers to perform the suppression of multiple frequency-shifted interferences is assessed. In the context of FBMC-OQAM signals which frequently utilize the PHYDYAS pulse-shaping prototype filter, each subcarrier is polluted only by its adjacent subcarriers. However, to evaluate SAIC processing without having to consider neighboring subcarriers of the adjacent ones, a filtering operation prior to the SAIC processing is needed. For this reason, the impact of a reception filter on the performance gain provided by the SAIC processing was conducted and conditions on the filter bandwidth have been established which governs the potential performance gain of a WL filter based processing for SAIC of frequency-shifted interferences.In a last step, an alternative equalization approach for FBMC-OQAM is investigated. This proposed technique consists in the per-subcarrier joint demodulation of the subcarrier of interest and its interfering adjacent ones after a filtering step. This proposal is considered in the context of MIMO Alamouti FBMC-OQAM links.