Les communications mobiles sans fil ont connu un progrès très rapide pendant les dernières décennies. Ca a commencé avec les services vocaux offerts par les systèmes de la première génération en 1980, arrivant jusqu'aux systèmes de la quatrième génération avec des services internet haut débit et un nombre important d'utilisateurs, et dans quelques années les systèmes de la cinquième génération avec encore plus de débit et d'utilisateurs. En effet, les caractéristiques essentielles qui définissent les services et les qualités des services dans les systèmes de communication sans fil sont: le débit, la fiabilité de transmission et le nombre d'utilisateurs. Ces caractéristiques sont fortement dépendantes et liées entre elles, et sont soumises à la gestion des interférences entre les différents utilisateurs. Les interférences entre-utilisateurs arrivent quand plusieurs émetteurs, dans une même zone, envoient simultanément à leurs propres destinataires en partageant la même bande de fréquence. Dans cette thèse, nous nous intéressons à la gestion d'interférence entre utilisateurs, méthodes classiques et avancées, de deux côtés émission et réception. Ensuite, nous proposons des nouvelles contributions dans des différents contextes afin d'améliorer les performances. Cette thèse est divisée en plusieurs parties. Dans la première partie, une présentation concise de l'état de l'art sur des techniques de gestion et de réduction d'interférences entre utilisateurs. Ensuite, nous introduisons le concept d'une méthode dite d'Alignement d'Interférence, où nous proposons des améliorations algorithmiques dans les canaux mono-antenne afin d'augmenter le débit. Enfin, nous supposons les deux cas suivants: l'application et l'absence du schéma d'IA à l'émission, et nous proposons d'utiliser des méthodes existantes ou bien nouvelles pour la détection du côté récepteur.

Dans cette thèse, nous étudions les algorithmes d’alignement d’interférence dans les réseaux hétérogènes basés sur la sélection des flux. Tout d’abord, nous considérons différents scénarios de déploiement des pico-cellules dans un contexte de connaissance parfaite des canaux de transmission au niveau des émetteurs. Deux algorithmes sont proposés respectivement pour les réseaux totalement et partiellement connectés. Afin d’assurer une équité entre les liens, les algorithmes garantissent qu’au moins un flux de chaque lien émetteur/récepteur soit sélectionné. La séquence des flux est choisie parmi un ensemble qui contient les séquences les plus souvent sélectionnées en effectuant une recherche exhaustive. Ces algorithmes sont significativement moins complexes que la recherche exhaustive tout en ayant une performance proche de celle-ci. Après la sélection d’un flux, les interférences entre ce flux et les flux qui n’ont pas encore été sélectionnées sont alignées par projections orthogonales. Dans une deuxième partie de la thèse, l’impact de la connaissance partielle des canaux de transmission sur les algorithmes proposés est analysé. Il est montré que les interférences entre flux causent alors une forte dégradation des performances en raison des erreurs de quantification. Pour réduire cette dégradation, un nouvel algorithme est développé pour ce contexte. Finalement, des schémas d’allocation adaptative des bits pour les voies de retour sont proposés afin d’augmenter les performances des algorithmes précédents. Les performances de ces schémas et de ces algorithmes sont évaluées en considérant différents scénarios avec différentes topologies des pico-cellules. Nous avons montré que les algorithmes proposés pour le cas des transmissions avec voie de retour sont significativement plus robustes et plus performants que les algorithmes d’alignement d’interférence classiques. / In this thesis, we study the stream selection based interference alignment (IA) algorithms, which can provide large multiplexing gain, to deal with the interference in the heterogeneous networks. Firstly, different deployment scenarios for the pico cells are investigated assuming perfect channel state information (CSI) at the transmitters.Two different stream selection IA algorithms are proposed for fully and partially connected interference networks and selecting at least one stream is guaranteed for each user. A stream sequence is selected among a predetermined set of sequences that mostly contribute to the sum-rate while performing an exhaustive search. In the proposed algorithms, the complexity of the exhaustive search is significantly decreased while keeping the performance relatively close. After selecting a stream, the interference generated between the selected and the unselected streams is aligned by orthogonal projections. Then, the influence of the imperfect CSI on the proposed algorithms is analyzed and it is observed that the intra-stream interference causes a significant degradation in the performance due to the quantization error. Therefore, we propose an algorithm for the limited feedback scheme. Finally, adaptive bit allocation schemes are presented to maximize the overall capacity for all the proposed algorithms. The performance evaluations are carried out considering different scenarios with different number and placements of pico cells. It is shown that the proposed algorithm for the limited feedback is more robust to channel imperfections compared to the existing IA algorithms.