La thèse aborde le problème de la détection d’un signal dans une bande de fréquences donnée sans aucune connaissance à priori sur la source (détection aveugle) dans le contexte de la radio intelligente. Le détecteur proposé dans la thèse est basé sur l’estimation des valeurs propres de la matrice de corrélation du signal reçu. A partir de ces valeurs propres, plusieurs critères ont été développés théoriquement (Standard Condition Number, Scaled Largest Eigenvalue, Largest Eigenvalue) en prenant pour hypothèse majeure un nombre fini d’éléments, contrairement aux hypothèses courantes de la théorie des matrices aléatoires qui considère un comportement asymptotique de ces critères. Les paramètres clés des détecteurs ont été formulés mathématiquement (probabilité de fausse alarme, densité de probabilité) et une correspondance avec la densité GEV a été explicitée. Enfin, ce travail a été étendu au cas multi-antennes (MIMO) pour les détecteurs SLE et SCN. / In Cognitive Radio, Spectrum Sensing (SS) is the task of obtaining awareness about the spectrum usage. Mainly it concerns two scenarios of detection: (i) detecting the absence of the Primary User (PU) in a licensed spectrum in order to use it and (ii) detecting the presence of the PU to avoid interference. Several SS techniques were proposed in the literature. Among these, Eigenvalue Based Detector (EBD) has been proposed as a precious totally-blind detector that exploits the spacial diversity, overcome noise uncertainty challenges and performs adequately even in low SNR conditions. The first part of this study concerns the Standard Condition Number (SCN) detector and the Scaled Largest Eigenvalue (SLE) detector. We derived exact expressions for the Probability Density Function (PDF) and the Cumulative Distribution Function (CDF) of the SCN using results from finite Random Matrix Theory; In addition, we derived exact expressions for the moments of the SCN and we proposed a new approximation based on the Generalized Extreme Value (GEV) distribution. Moreover, using results from the asymptotic RMT we further provided a simple forms for the central moments of the SCN and we end up with a simple and accurate expression for the CDF, PDF, Probability of False-Alarm, Probability of Detection, of Miss-Detection and the decision threshold that could be computed and hence provide a dynamic SCN detector that could dynamically change the threshold value depending on target performance and environmental conditions. The second part of this study concerns the massive MIMO technology and how to exploit the large number of antennas for SS and CRs. Two antenna exploitation scenarios are studied: (i) Full antenna exploitation and (ii) Partial antenna exploitation in which we have two options: (i) Fixed use or (ii) Dynamic use of the antennas. We considered the Largest Eigenvalue (LE) detector if noise power is perfectly known and the SCN and SLE detectors when noise uncertainty exists.

La thèse aborde le problème de la détection d’un signal dans une bande de fréquences donnée sans aucune connaissance à priori sur la source (détection aveugle) dans le contexte de la radio intelligente. Le détecteur proposé dans la thèse est basé sur l’estimation des valeurs propres de la matrice de corrélation du signal reçu. A partir de ces valeurs propres, plusieurs critères ont été développés théoriquement (Standard Condition Number, Scaled Largest Eigenvalue, Largest Eigenvalue) en prenant pour hypothèse majeure un nombre fini d’éléments, contrairement aux hypothèses courantes de la théorie des matrices aléatoires qui considère un comportement asymptotique de ces critères. Les paramètres clés des détecteurs ont été formulés mathématiquement (probabilité de fausse alarme, densité de probabilité) et une correspondance avec la densité GEV a été explicitée. Enfin, ce travail a été étendu au cas multi-antennes (MIMO) pour les détecteurs SLE et SCN. / In Cognitive Radio, Spectrum Sensing (SS) is the task of obtaining awareness about the spectrum usage. Mainly it concerns two scenarios of detection: (i) detecting the absence of the Primary User (PU) in a licensed spectrum in order to use it and (ii) detecting the presence of the PU to avoid interference. Several SS techniques were proposed in the literature. Among these, Eigenvalue Based Detector (EBD) has been proposed as a precious totally-blind detector that exploits the spacial diversity, overcome noise uncertainty challenges and performs adequately even in low SNR conditions. The first part of this study concerns the Standard Condition Number (SCN) detector and the Scaled Largest Eigenvalue (SLE) detector. We derived exact expressions for the Probability Density Function (PDF) and the Cumulative Distribution Function (CDF) of the SCN using results from finite Random Matrix Theory; In addition, we derived exact expressions for the moments of the SCN and we proposed a new approximation based on the Generalized Extreme Value (GEV) distribution. Moreover, using results from the asymptotic RMT we further provided a simple forms for the central moments of the SCN and we end up with a simple and accurate expression for the CDF, PDF, Probability of False-Alarm, Probability of Detection, of Miss-Detection and the decision threshold that could be computed and hence provide a dynamic SCN detector that could dynamically change the threshold value depending on target performance and environmental conditions. The second part of this study concerns the massive MIMO technology and how to exploit the large number of antennas for SS and CRs. Two antenna exploitation scenarios are studied: (i) Full antenna exploitation and (ii) Partial antenna exploitation in which we have two options: (i) Fixed use or (ii) Dynamic use of the antennas. We considered the Largest Eigenvalue (LE) detector if noise power is perfectly known and the SCN and SLE detectors when noise uncertainty exists.

La radio cognitive (CR) est une radio entièrement reconfigurable qui permet de changer intelligemment ses paramètres de communication en réponse à l'activité des autres réseaux radios et demandes d'utilisateur. L'objectif ultime de la CR est de permettre à l'utilisateur secondaire (SU) d'utiliser la ressource de spectre disponible sans interférer sur l'utilisateur primaire (PU) en utilisant des trous de spectre. Par conséquent, la détection du PU est l'un des défis principaux dans le développement de la CR. Par rapport aux systèmes conventionnels de communication sans fil, le système CR introduit de nouveaux problèmes d'allocation de ressource (RA) en raison de l'interférence des canaux adjacents utilisés par le SU et le PU. Dans le contexte de la CR, la plupart des efforts ont été menés sur les systèmes de CR basés sur le multiplexage par division de fréquences orthogonales (OFDM). Toutefois, la technique de l'OFDM montre quelques points faibles dans l'application à cause des remontées significatives du spectre. Les modulations multiporteuses à base de bancs de filtre (FBMC) ont été récemment proposées pour des applications de CR. Dans cette thèse, trois points importants pour le développement d'un système de CR basé sur le FBMC sont discutés.Les trois points principaux peuvent être résumés ainsi: nous examinons premièrement les problèmes de détection de spectre des signaux OFDM et FBMC en employant le détecteur de signature de cyclostationnarité (CS). En outre, nous proposons une architecture de détection multi-bande basée sur le banc de filtre polyphasé (PFB), et montrons son avantage; deuxièmement, la comparaison entre l'OFDM et le FBMC du point de vue de l'efficacité spectrale est discutée; et enfin, nous proposons un algorithme stratégique d'allocation de ressource pour les systèmes cognitifs multi-cellulaires et multi-utilisateurs.Les algorithmes proposés dans cette thèse ont été testés par simulation. Les résultats numériques prouvent que le FBMC, par opposition à l'OFDM, pourrait réaliser une efficacité spectrale plus élevée et offre un avantage attrayant dans la détection de spectre. Les contributions de cette thèse ont accru l'intérêt d'appliquer FBMC dans les systèmes de CR à l'avenir.

La radio cognitive (CR) est une radio entièrement reconfigurable qui permet de changer intelligemment ses paramètres de communication en réponse à l’activité des autres réseaux radios et demandes d’utilisateur. L’objectif ultime de la CR est de permettre à l’utilisateur secondaire (SU) d’utiliser la ressource de spectre disponible sans interférer sur l’utilisateur primaire (PU) en utilisant des trous de spectre. Par conséquent, la détection du PU est l’un des défis principaux dans le développement de la CR. Par rapport aux systèmes conventionnels de communication sans fil, le système CR introduit de nouveaux problèmes d’allocation de ressource (RA) en raison de l’interférence des canaux adjacents utilisés par le SU et le PU. Dans le contexte de la CR, la plupart des efforts ont été menés sur les systèmes de CR basés sur le multiplexage par division de fréquences orthogonales (OFDM). Toutefois, la technique de l’OFDM montre quelques points faibles dans l’application à cause des remontées significatives du spectre. Les modulations multiporteuses à base de bancs de filtre (FBMC) ont été récemment proposées pour des applications de CR. Dans cette thèse, trois points importants pour le développement d’un système de CR basé sur le FBMC sont discutés.Les trois points principaux peuvent être résumés ainsi: nous examinons premièrement les problèmes de détection de spectre des signaux OFDM et FBMC en employant le détecteur de signature de cyclostationnarité (CS). En outre, nous proposons une architecture de détection multi-bande basée sur le banc de filtre polyphasé (PFB), et montrons son avantage; deuxièmement, la comparaison entre l’OFDM et le FBMC du point de vue de l’efficacité spectrale est discutée; et enfin, nous proposons un algorithme stratégique d’allocation de ressource pour les systèmes cognitifs multi-cellulaires et multi-utilisateurs.Les algorithmes proposés dans cette thèse ont été testés par simulation. Les résultats numériques prouvent que le FBMC, par opposition à l’OFDM, pourrait réaliser une efficacité spectrale plus élevée et offre un avantage attrayant dans la détection de spectre. Les contributions de cette thèse ont accru l’intérêt d’appliquer FBMC dans les systèmes de CR à l’avenir. / Cognitive Radio (CR) is a fully reconfigurable radio that can intelligently change its communicationvariables in response to network and user demands. The ultimate goal of CR is to allowthe Secondary User (SU) to utilize the available spectrum resource on a non-interfering basis to thePrimary User (PU) by sensing the existence of spectrum holes. Therefore, the detection of PU isone of the main challenges in the development of the CR technology. Moreover, compared to conventionalwireless communication systems, CR system poses new challenges to Resource Allocation(RA) problems because of the Cross-Channel Interference (CCI) from the adjacent channels used bySU to PU. In the CR context, most past efforts have been spent on Orthogonal Frequency DivisionMultiplexing (OFDM) based CR systems. However, OFDM technique exhibits some shortcomingsin application due to its significant spectrum leakage. Filter Bank based Multi-Carrier (FBMC), asanother promising Multi-Carrier Modulation (MCM) candidate, has been recently proposed for CRapplications. In this dissertation, three important issues in developing a FBMC based CR system arediscussed.The three prime issues can be summarized: we firstly survey the spectrum sensing problemsof OFDM and FBMC signals by using Cyclostationary Signature (CS) detector. Furthermore, wepropose a Polyphase Filter Bank (PFB) based multi-band sensing architecture, and argue for its advantage;secondly, the comparison of OFDM and FBMC from the spectral efficiency point of viewis discussed; and lastly, our emphasis is placed on the strategic resource allocation algorithms fornon-cooperative multi-cell CR systems.The overall proposed algorithms have been verified by simulation. Numerical results show thatFBMC, as opposed to OFDM, could achieve higher spectrum efficiency and attractive benefit inspectrum sensing. The contributions of this dissertation have heighten the interest in applying FBMCin the future CR systems.

En raison de la demande croissante de services de communication sans fil et de la limitation des ressources de spectre, la radio cognitive (CR) a été initialement proposée pour résoudre la pénurie de spectre. CR divise les systèmes transmetteurs-récepteurs de communication en deux catégories : les Utilisateurs Principaux (PU) et les Utilisateurs Secondaires (SU). PU a le droit légal d'utiliser la bande spectrale, tandis que SU est un utilisateur opportuniste qui peut transmettre sur cette bande chaque fois qu'elle est vacante afin d'éviter toute interférence avec le signal de PU. De ce fait, la détection des activités de PU devient une priorité principale pour toute CR.Le Spectrum Sensing devient ainsi une partie importante d’un système CR, qui surveille les transmissions de PU. En effet, le Spectrum Sensing joue un rôle essentiel dans le mécanisme du fonctionnement du CR en localisant les canaux disponibles et, d'autre part, en protégeant les canaux occupés des interférences de la transmission SU. En fait, Spectrum Sensing a gagné beaucoup d'attention au cours de la dernière décennie, et de nombreux algorithmes sont proposés. Concernant la fiabilité de la performance, plusieurs défis comme le faible rapport signal sur bruit, l'incertitude de bruit (NU), la durée de détection du spectre, etc. Cette thèse aborde les défis de la détection du spectre et apporte quelques solutions. De nouveaux détecteurs basés sur la détection des caractéristiques cyclo-stationnaires et la densité spectrale de puissance (PSD) du signal de PU sont présentés. Un algorithme de test de signification de corrélation canonique (CCST) est proposé pour effectuer une détection cyclo-stationnaire. CCST peut détecter la présence des caractéristiques cycliques communes parmi les versions retardées du signal reçu. Ce test peut révéler la présence d'un signal cyclo-stationnaire dans le signal de mélange reçu. Une autre méthode de détection basée sur la PSD cumulative est proposée. En supposant que le bruit est blanc (sa PSD est plate), la PSD cumulative s'approche d'une droite. Cette forme devient non linéaire pour les signaux de télécommunication. Distinguer la forme cumulative PSD peut donc conduire à diagnostiquer l'état du canal.La radio cognitive Full-Duplex (FD-CR) a également été étudiée dans ce manuscrit, où plusieurs défis sont analysés en proposant de nouvelles contributions. Le fonctionnement FD permet au CR d'éviter la période de silence pendant la détection du spectre. Dans le système CR classique, le SU cesse de transmettre pendant la détection du spectre afin de ne pas affecter la fiabilité de détection. Dans FD-CR, SU peut éliminer la réflexion de son signal transmis et en même temps réaliser le Spectrum Sensing. En raison de certaines limitations, le résidu de l'auto-interférence ne peut pas être complètement annulé, alors la crédibilité de la détection du spectre est fortement affectée. Afin de réduire la puissance résiduelle, une nouvelle architecture de récepteur SU est élaborée pour atténuer les imperfections du circuit (comme le bruit de phase et la distorsion non linéaire de l'amplificateur à faible bruit du récepteur). La nouvelle architecture montre sa robustesse en assurant une détection fiable et en améliorant le débit de SU. / Due to the increasing demand of wireless communication services and the limitation in the spectrum resources, Cognitive Radio (CR) has been initially proposed in order to solve the spectrum scarcity. CR divides the communication transceiver into two categories: the Primary (PU) or the Secondary (SU) Users. PU has the legal right to use the spectrum bandwidth, while SU is an opportunistic user that can transmit on that bandwidth whenever it is vacant in order to avoid any interference to the signal of PU. Hence the detection of PU becomes a main priority for CR systems. The Spectrum Sensing is the part of the CR system, which monitors the PU activities. Spectrum Sensing plays an essential role in the mechanism of the CR functioning. It provides CR with the available channel in order to access them, and on the other hand, it protects occupied channels from the interference of the SU transmission. In fact, Spectrum Sensing has gained a lot of attention in the last decade, and numerous algorithms are proposed to perform it. Concerning the reliability of the performance, several challenges have been addressed, such as the low Signal to Noise Ratio (SNR), the Noise Uncertainty (NU), the Spectrum Sensing duration, etc. This dissertation addresses the Spectrum Sensing challenges and some solutions are proposed. New detectors based on Cyclo-Stationary Features detection and the Power Spectral Density (PSD) of the PU are presented. CanonicalCorrelation Significance Test (CCST) algorithm is proposed to perform cyclo-stationary detection. CCST can detect the presence of the common cyclic features among the delayed versions of the received signal. This test can reveal the presence of a cyclo-stationary signal in the received mixture signal. Another detection method based on the cumulative PSD is proposed. By assuming the whiteness of the noise (its PSD is at), the cumulative PSD approaches a straight line. This shape becomes non-linear when a telecommunication signal is present in the received mixture. Distinguishing the Cumulative PSD shape may lead to diagnose the channel status.Full-Duplex Cognitive Radio (FD-CR) has been also studied in this manuscript, where several challenges are analyzed by proposing a new contribution. FD functioning permits CR to avoid the silence period during the Spectrum Sensing. In classical CR system, SU stops transmitting during the Spectrum Sensing in order to do not affect the detection reliability. In FD-CR, SU can eliminate the reflection of its transmitted signal and at the same time achieving the Spectrum Sensing. Due to some limitations, the residual of the Self Interference cannot be completely cancelled, then the Spectrum Sensing credibility is highly affected. In order to reduce the residual power, a new SU receiver architecture is worked out to mitigate the hardware imperfections (such as the Phase Noise and the Non-Linear Distortion of the receiver Low-Noise Amplifier). The new architecture shows its robustness by ensuring a reliable detection and enhancing the throughput of SU.