La radio cognitive (CR) est une radio entièrement reconfigurable qui permet de changer intelligemment ses paramètres de communication en réponse à l'activité des autres réseaux radios et demandes d'utilisateur. L'objectif ultime de la CR est de permettre à l'utilisateur secondaire (SU) d'utiliser la ressource de spectre disponible sans interférer sur l'utilisateur primaire (PU) en utilisant des trous de spectre. Par conséquent, la détection du PU est l'un des défis principaux dans le développement de la CR. Par rapport aux systèmes conventionnels de communication sans fil, le système CR introduit de nouveaux problèmes d'allocation de ressource (RA) en raison de l'interférence des canaux adjacents utilisés par le SU et le PU. Dans le contexte de la CR, la plupart des efforts ont été menés sur les systèmes de CR basés sur le multiplexage par division de fréquences orthogonales (OFDM). Toutefois, la technique de l'OFDM montre quelques points faibles dans l'application à cause des remontées significatives du spectre. Les modulations multiporteuses à base de bancs de filtre (FBMC) ont été récemment proposées pour des applications de CR. Dans cette thèse, trois points importants pour le développement d'un système de CR basé sur le FBMC sont discutés.Les trois points principaux peuvent être résumés ainsi: nous examinons premièrement les problèmes de détection de spectre des signaux OFDM et FBMC en employant le détecteur de signature de cyclostationnarité (CS). En outre, nous proposons une architecture de détection multi-bande basée sur le banc de filtre polyphasé (PFB), et montrons son avantage; deuxièmement, la comparaison entre l'OFDM et le FBMC du point de vue de l'efficacité spectrale est discutée; et enfin, nous proposons un algorithme stratégique d'allocation de ressource pour les systèmes cognitifs multi-cellulaires et multi-utilisateurs.Les algorithmes proposés dans cette thèse ont été testés par simulation. Les résultats numériques prouvent que le FBMC, par opposition à l'OFDM, pourrait réaliser une efficacité spectrale plus élevée et offre un avantage attrayant dans la détection de spectre. Les contributions de cette thèse ont accru l'intérêt d'appliquer FBMC dans les systèmes de CR à l'avenir.