We study the two-user multiple-input single-output (MISO) Gaussian interference channel where the transmitters have perfect channel state information and employ single-stream beamforming. The receivers are capable of performing successive interference cancellation, so when the interfering signal is strong enough, it can be decoded, treating the desired signal as noise, and subtracted from the received signal, before the desired signal is decoded. We propose efficient methods to compute the Pareto-optimal rate points and corresponding beamforming vector pairs, by maximizing the rate of one link given the rate of the other link. We do so by splitting the original problem into four subproblems corresponding to the combinations of the receivers' decoding strategies - either decode the interference or treat it as additive noise. We utilize recently proposed parameterizations of the optimal beamforming vectors to equivalently reformulate each subproblem as a quasi-concave problem, which we solve very efficiently either analytically or via scalar numerical optimization. The computational complexity of the proposed methods is several orders-of-magnitude less than the complexity of the state-of-the-art methods. We use the proposed methods to illustrate the effect of the strength and spatial correlation of the channels on the shape of the rate region.

Dans cette thèse, notre objectif est d'optimiser les stratégies de transmission et de réception dans un réseau où il y a peu ou pas de gestion centrale des ressources du tout, et o'u les nœuds ont une connaissance limitée du canal avec seulement un lien restreint entre eux. En particulier, les ́émetteurs ont la plupart du temps des informations locales seulement sur le canal, et nous considérons qu'il n'y a pas de partage des données 'a transmettre aux utilisateurs, ce qui empêche la transmission conjointe en système virtuel MIMO. L'utilisation commune des ressources du système (par exemple en transmettant en même temps et dans la même bande de fréquence) conduit 'a la génération d'interférence au niveau des différents récepteurs, ce qui rend la gestion des interférences essentielle. En considérant l'optimisation du précodeur dans le cadre de la théorie des jeux, des stratégies extrêmes, égoïste ou altruiste, peuvent être ́définies. Un émetteur égoïste agit en prenant compte de son propre intérêt et recherche la maximisation de son propre rapport signal sur bruit plus interférence (SINR) sans considération des interférences générées aux autres récepteurs. Un émetteur altruiste, par contre, utilise toutes ses ressources afin d'annuler les interférences qu'il crée aux autres récepteurs. Il est intuitif qu'aucune de ces deux stratégies extrêmes n'est optimale pour maximiser le débit total du réseau. Un travail récent sur le design du vecteur de précodage dans un canal d'interférence MISO (MISO-IC) sans décodage des interférences au récepteur (SUD) a mis en évidence qu'il est possible, en balançant les approches égoïste et altruiste, d'atteindre un point d'opération se situant sur la frontière Pareto optimale de la région de débit, qui est la frontière limitant la région des débits atteignables par l'utilisation de précodage linéaire. En gardant 'a l'esprit ce résultat, nous étudions l'optimisation distribuée des vecteurs de précodage pour le MISO-IC-SUD dans le chapitre 2. Nous développons un algorithme qui est initialisé 'a l'équilibre de Nash (point d'opération égoïste) et se déplace 'a chaque itération vers la solution du zéro-forcing (point d'opération altruiste) 'a pas fixe. L'algorithme s'arrête si un des émetteurs observe une baisse de son débit, imitant ainsi le procédé de négociation. L'algorithme propos ́e atteint un point d'opération proche de la frontière Pareto optimale, et chaque utilisateur obtient un débit supérieur 'a celui qu'il aurait eu 'a l'équilibre de Nash. Nous démontrons ainsi que les joueurs (les paires ́émetteur-récepteur) peuvent atteindre des débits supérieurs dans le MISO-IC-SUD en coopérant et en balançant égoïsme et altruisme. Le problème du design des vecteurs de précodage pour le MISO-IC-SUD est étendu au cas du MIMO-IC-SUD au chapitre 3. En supposant une connaissance locale, nous modélisons ce problème en un jeu bayésien prenant en compte le fait que le canal ne soit pas complètement connu, et o'u les joueurs maximisent l'espérance de leur fonction d'utilité 'a partir des statistiques du canal. Nous trouvons le point d'équilibre de ce jeu bayésien et étudions la maximisation de la somme des débits dans un MIMO-IC-SUD. Nous observons que la maximisation du débit total peut aussi être interprétée dans ce scénario comme un équilibre entre les approches égoïstes et altruistes. Avec cette analyse, un algorithme dans lequel les vecteurs de transmission et de réception sont obtenus par une optimisation alternée aux émetteurs et aux récepteurs est développé. L'algorithme converge vers une solution qui aligne les interférences lorsque le SNR devient large, ce qui implique que le débit total augmente indéfiniment avec le SNR (avec une pente égale aux nombre de degrés de liberté). Dans le régime 'a faible SNR, notre approche fonctionne mieux que les algorithmes conventionnels visant 'a aligner les interférences, ce qui est une conséquence de l'équilibre entre égoïsme et altruisme. En particulier, l'algorithme propos ́e atteint des performances presque optimales dans des réseaux asymétriques pour lesquels certains récepteurs sont soumis 'a du bruit de fond incontrôlé. Dans le chapitre 4, nous considérons enfin des récepteurs ayant la capacité de décoder les interférences (IDC) dans un MISO-IC. Ce degré de liberté additionnel permet aux récepteurs de décoder les interférences et de les soustraire au signal reçu, ce qui permet ainsi d'obtenir une communication sans interférence. En revanche, les choix des récepteurs dépendent des vecteurs de précodage aux émetteurs. Pour chaque choix de vecteur de précodage, nous obtenons un nouveau SISO-IC avec une nouvelle région de capacité correspondante. Ainsi, nous devons choisir pour chaque réalisation d'un canal MISO le vecteur de précodage et la puissance de transmission de manière 'a atteindre un débit maximal après avoir considéré toutes les possibilités pour les actions des récepteurs (décodage des interférences ou traitement des interférences comme du bruit). Il y a trois paramètres influant le design: la structure du récepteur, le vecteur de précodage, et la puissance de transmission. Ces trois paramètres sont interdépendants et l'obtention du triplet optimal est un problème qui a ́et ́e démontré comme étant NP-complet. Quoi qu'il en soit, nous avons simplifié cette analyse en reformulant la région des débits atteignables d'un MISO-IC-IDC comme l'union des régions pour les différentes structures. Ensuite nous avons caractérisé les limites de ces régions de débit atteignable et obtenu ainsi la frontière Pareto optimale du problème initial. Les vecteurs de précodage Pareto optimaux sont obtenus par une combinaison linéaire de deux vecteurs du canal avec des poids dépendant seulement de deux scalaires réels entre zéro et un. Nous utilisons ensuite cette caractérisation de la frontière Pareto optimale pour obtenir une caractérisation du point o'u le débit total maximum est atteint. Cet ensemble de solutions potentielles est un sous-ensemble strict de la frontière Pareto optimale, ce qui réduit ainsi considérablement l'espace de recherche du problème NP-complet initial.

To meet the exponentially increasing traffic data driven by the rapidly growing mobile subscriptions, both industry and academia are exploring the potential of a new genera- tion (5G) of wireless technologies. An important 5G goal is to achieve high data rate. Small cells with spectrum sharing and multiple-input multiple-output (MIMO) techniques are one of the most promising 5G technologies, since it enables to increase the aggregate data rate by improving the spectral efficiency, nodes density and transmission bandwidth, respectively. However, the increased interference in the densified networks will in return limit the achievable rate performance if not properly managed. The considered setup can be modeled as MIMO interference networks, which can be classified into the K-user MIMO interference channel (IC) and the K-cell MIMO interfering broadcast channel/multiple access channel (MIMO-IBC/IMAC) according to the number of mobile stations (MSs) simultaneously served by each base station (BS). The thesis considers two physical layer (PHY) resource allocation problems that deal with the interference for both models: 1) Pareto boundary computation for the achiev- able rate region in a K-user single-stream MIMO IC and 2) grouping-based interference alignment (GIA) with optimized IA-Cell assignment in a MIMO-IMAC under limited feedback. In each problem, the thesis seeks to provide a deeper understanding of the system and novel mathematical results, along with supporting numerical examples. Some of the main contributions can be summarized as follows. It is an open problem to compute the Pareto boundary of the achievable rate region for a K-user single-stream MIMO IC. The K-user single-stream MIMO IC models multiple transmitter-receiver pairs which operate over the same spectrum simultaneously. Each transmitter and each receiver is equipped with multiple antennas, and a single desired data stream is communicated in each transmitter-receiver link. The individual achievable rates of the K users form a K-dimensional achievable rate region. To find efficient operating points in the achievable rate region, the Pareto boundary computation problem, which can be formulated as a multi-objective optimization problem, needs to be solved. The thesis transforms the multi-objective optimization problem to two single-objective optimization problems–single constraint rate maximization problem and alternating rate profile optimization problem, based on the formulations of the ε-constraint optimization and the weighted Chebyshev optimization, respectively. The thesis proposes two alternating optimization algorithms to solve both single-objective optimization problems. The convergence of both algorithms is guaranteed. Also, a heuristic initialization scheme is provided for each algorithm to achieve a high-quality solution. By varying the weights in each single-objective optimization problem, numerical results show that both algorithms provide an inner bound very close to the Pareto boundary. Furthermore, the thesis also computes some key points exactly on the Pareto boundary in closed-form. A framework for interference alignment (IA) under limited feedback is proposed for a MIMO-IMAC. The MIMO-IMAC well matches the uplink scenario in cellular system, where multiple cells share their spectrum and operate simultaneously. In each cell, a BS receives the desired signals from multiple MSs within its own cell and each BS and each MS is equipped with multi-antenna. By allowing the inter-cell coordination, the thesis develops a distributed IA framework under limited feedback from three aspects: the GIA, the IA-Cell assignment and dynamic feedback bit allocation (DBA), respec- tively. Firstly, the thesis provides a complete study along with some new improvements of the GIA, which enables to compute the exact IA precoders in closed-form, based on local channel state information at the receiver (CSIR). Secondly, the concept of IA-Cell assignment is introduced and its effect on the achievable rate and degrees of freedom (DoF) performance is analyzed. Two distributed matching approaches and one centralized assignment approach are proposed to find a good IA-Cell assignment in three scenrios with different backhaul overhead. Thirdly, under limited feedback, the thesis derives an upper bound of the residual interference to noise ratio (RINR), formulates and solves a corresponding DBA problem. Finally, numerical results show that the proposed GIA with optimized IA-Cell assignment and the DBA greatly outperforms the traditional GIA algorithm.

To meet the exponentially increasing traffic data driven by the rapidly growing mobile subscriptions, both industry and academia are exploring the potential of a new genera- tion (5G) of wireless technologies. An important 5G goal is to achieve high data rate. Small cells with spectrum sharing and multiple-input multiple-output (MIMO) techniques are one of the most promising 5G technologies, since it enables to increase the aggregate data rate by improving the spectral efficiency, nodes density and transmission bandwidth, respectively. However, the increased interference in the densified networks will in return limit the achievable rate performance if not properly managed. The considered setup can be modeled as MIMO interference networks, which can be classified into the K-user MIMO interference channel (IC) and the K-cell MIMO interfering broadcast channel/multiple access channel (MIMO-IBC/IMAC) according to the number of mobile stations (MSs) simultaneously served by each base station (BS). The thesis considers two physical layer (PHY) resource allocation problems that deal with the interference for both models: 1) Pareto boundary computation for the achiev- able rate region in a K-user single-stream MIMO IC and 2) grouping-based interference alignment (GIA) with optimized IA-Cell assignment in a MIMO-IMAC under limited feedback. In each problem, the thesis seeks to provide a deeper understanding of the system and novel mathematical results, along with supporting numerical examples. Some of the main contributions can be summarized as follows. It is an open problem to compute the Pareto boundary of the achievable rate region for a K-user single-stream MIMO IC. The K-user single-stream MIMO IC models multiple transmitter-receiver pairs which operate over the same spectrum simultaneously. Each transmitter and each receiver is equipped with multiple antennas, and a single desired data stream is communicated in each transmitter-receiver link. The individual achievable rates of the K users form a K-dimensional achievable rate region. To find efficient operating points in the achievable rate region, the Pareto boundary computation problem, which can be formulated as a multi-objective optimization problem, needs to be solved. The thesis transforms the multi-objective optimization problem to two single-objective optimization problems–single constraint rate maximization problem and alternating rate profile optimization problem, based on the formulations of the ε-constraint optimization and the weighted Chebyshev optimization, respectively. The thesis proposes two alternating optimization algorithms to solve both single-objective optimization problems. The convergence of both algorithms is guaranteed. Also, a heuristic initialization scheme is provided for each algorithm to achieve a high-quality solution. By varying the weights in each single-objective optimization problem, numerical results show that both algorithms provide an inner bound very close to the Pareto boundary. Furthermore, the thesis also computes some key points exactly on the Pareto boundary in closed-form. A framework for interference alignment (IA) under limited feedback is proposed for a MIMO-IMAC. The MIMO-IMAC well matches the uplink scenario in cellular system, where multiple cells share their spectrum and operate simultaneously. In each cell, a BS receives the desired signals from multiple MSs within its own cell and each BS and each MS is equipped with multi-antenna. By allowing the inter-cell coordination, the thesis develops a distributed IA framework under limited feedback from three aspects: the GIA, the IA-Cell assignment and dynamic feedback bit allocation (DBA), respec- tively. Firstly, the thesis provides a complete study along with some new improvements of the GIA, which enables to compute the exact IA precoders in closed-form, based on local channel state information at the receiver (CSIR). Secondly, the concept of IA-Cell assignment is introduced and its effect on the achievable rate and degrees of freedom (DoF) performance is analyzed. Two distributed matching approaches and one centralized assignment approach are proposed to find a good IA-Cell assignment in three scenrios with different backhaul overhead. Thirdly, under limited feedback, the thesis derives an upper bound of the residual interference to noise ratio (RINR), formulates and solves a corresponding DBA problem. Finally, numerical results show that the proposed GIA with optimized IA-Cell assignment and the DBA greatly outperforms the traditional GIA algorithm.