Les futurs réseaux sans fil devront être conçus pour répondre aux besoins hétérogènes de systèmes entièrement différents. De nouveaux services soumis à des contraintes variées coexisteront avec les utilisateurs actuels sur la même bande de fréquences. L'OFDM, la couche physique utilisée par les systèmes actuels, souffre d’un mauvais confinement spectral et ne permet pas cette coexistence. De nombreuses nouvelles formes d'onde avec une localisation spectrale améliorée ont donc été proposées. Nous étudions la coexistence de nouveaux systèmes basés sur ces formes d'onde avec des utilisateurs OFDM préexistant. Nous fournissons la première analyse théorique et expérimentale de l'interférence inter-système qui se produit dans ces scenarios. Nous appliquons ensuite cette analyse pour évaluer les performances de différentes formes d'ondes avancées et nous étudions finalement les performances d'un réseau où des utilisateurs cellulaires OFDM coexistent avec des paires D2D utilisant l'une des formes d'ondes améliorées étudiées. / Future wireless networks are envisioned to accommodate the heterogeneous needs of entirely different systems. New services obeying various constraints will coexist with legacy cellular users in the same frequency band. This coexistence is hardly achievable with OFDM, the physical layer used by current systems, because of its poor spectral containment. Thus, a myriad of multi-carrier waveforms with enhanced spectral localization have been proposed for future wireless devices. In this thesis, we investigate the coexistence of new systems based on these waveforms with legacy OFDM users. We provide the first theoretical and experimental analysis of the inter-system interference that arises in those scenarii. Then, we apply this analysis to evaluate the merits of different enhanced waveforms and we finally investigate the performance achievable by a network composed of legacy OFDM cellular users and D2D pairs using one of the studied enhanced waveforms.