La radio cognitive (CR) est une radio entièrement reconfigurable qui permet de changer intelligemment ses paramètres de communication en réponse à l’activité des autres réseaux radios et demandes d’utilisateur. L’objectif ultime de la CR est de permettre à l’utilisateur secondaire (SU) d’utiliser la ressource de spectre disponible sans interférer sur l’utilisateur primaire (PU) en utilisant des trous de spectre. Par conséquent, la détection du PU est l’un des défis principaux dans le développement de la CR. Par rapport aux systèmes conventionnels de communication sans fil, le système CR introduit de nouveaux problèmes d’allocation de ressource (RA) en raison de l’interférence des canaux adjacents utilisés par le SU et le PU. Dans le contexte de la CR, la plupart des efforts ont été menés sur les systèmes de CR basés sur le multiplexage par division de fréquences orthogonales (OFDM). Toutefois, la technique de l’OFDM montre quelques points faibles dans l’application à cause des remontées significatives du spectre. Les modulations multiporteuses à base de bancs de filtre (FBMC) ont été récemment proposées pour des applications de CR. Dans cette thèse, trois points importants pour le développement d’un système de CR basé sur le FBMC sont discutés.Les trois points principaux peuvent être résumés ainsi: nous examinons premièrement les problèmes de détection de spectre des signaux OFDM et FBMC en employant le détecteur de signature de cyclostationnarité (CS). En outre, nous proposons une architecture de détection multi-bande basée sur le banc de filtre polyphasé (PFB), et montrons son avantage; deuxièmement, la comparaison entre l’OFDM et le FBMC du point de vue de l’efficacité spectrale est discutée; et enfin, nous proposons un algorithme stratégique d’allocation de ressource pour les systèmes cognitifs multi-cellulaires et multi-utilisateurs.Les algorithmes proposés dans cette thèse ont été testés par simulation. Les résultats numériques prouvent que le FBMC, par opposition à l’OFDM, pourrait réaliser une efficacité spectrale plus élevée et offre un avantage attrayant dans la détection de spectre. Les contributions de cette thèse ont accru l’intérêt d’appliquer FBMC dans les systèmes de CR à l’avenir. / Cognitive Radio (CR) is a fully reconfigurable radio that can intelligently change its communicationvariables in response to network and user demands. The ultimate goal of CR is to allowthe Secondary User (SU) to utilize the available spectrum resource on a non-interfering basis to thePrimary User (PU) by sensing the existence of spectrum holes. Therefore, the detection of PU isone of the main challenges in the development of the CR technology. Moreover, compared to conventionalwireless communication systems, CR system poses new challenges to Resource Allocation(RA) problems because of the Cross-Channel Interference (CCI) from the adjacent channels used bySU to PU. In the CR context, most past efforts have been spent on Orthogonal Frequency DivisionMultiplexing (OFDM) based CR systems. However, OFDM technique exhibits some shortcomingsin application due to its significant spectrum leakage. Filter Bank based Multi-Carrier (FBMC), asanother promising Multi-Carrier Modulation (MCM) candidate, has been recently proposed for CRapplications. In this dissertation, three important issues in developing a FBMC based CR system arediscussed.The three prime issues can be summarized: we firstly survey the spectrum sensing problemsof OFDM and FBMC signals by using Cyclostationary Signature (CS) detector. Furthermore, wepropose a Polyphase Filter Bank (PFB) based multi-band sensing architecture, and argue for its advantage;secondly, the comparison of OFDM and FBMC from the spectral efficiency point of viewis discussed; and lastly, our emphasis is placed on the strategic resource allocation algorithms fornon-cooperative multi-cell CR systems.The overall proposed algorithms have been verified by simulation. Numerical results show thatFBMC, as opposed to OFDM, could achieve higher spectrum efficiency and attractive benefit inspectrum sensing. The contributions of this dissertation have heighten the interest in applying FBMCin the future CR systems.