Massive MIMO communication systems have been highlighted as the main technology for physical layer of next generation communication standards, like 5G. While conventional communication between BS and its covered users is performed in orthogonal time-frequency resources, the improved interuser interference mitigation capability provided by the large number of BS antennas enables the BS to communicate with several users in the same time-frequency resource. This better usage of available but scarce spectrum elevates the spectral efficiency to very appreciable levels, and has a similar effect on energy efficiency, since the transmit power is not increased. On the other hand, if the objective is to provide a target performance for the users, the required transmit power in both direct and reverse links can be made inversely proportional to the number of BS antennas employed. In this Doctoral Thesis, several important aspects of massive MIMO systems are systematically investigated aiming to improve their energy and spectral efficiencies. We can enumerate our main contributions as follows. Considering a cellular massive MIMO network, we proposed an optimized assignment policy of training sequences to the users, which is then combined with suitable power control algorithms. We have also investigated the adoption of alternative waveforms in this scenario, such as single-carrier transmission, in order to overcome the issues of conventional OFDM. Our contributions in this topic are to derive analytical performance expressions for a time-domain single-carrier equalizer taking advantage of the large number of BS antennas, and to evaluate and compare the total energy efficiency of OFDM versus single-carrier massive MIMO systems. Finally, considering crowded massive MIMO networks, composed by both human users as well as machine-type communication devices, we proposed an improved random access protocol aiming to decrease the average number of access attempts for the users and decreasing the probability of failed access attempts. / Sistemas de comunicação de múltiplas antenas (multiple-input multiple-output - MIMO) têm se destacado como a principal tecnologia para a camada física dos padrões de comunicação da próxima geração, como o 5G. Enquanto a comunicação convencional entre a estação base (base station - BS) e seus usuários atendidos é realizada em recursos ortogonais de tempo-frequência, a grande capacidade de redução da interferência interusuários possibilitada pelo grande número de antenas da BS habilita a BS a se comunicar com diversos usuários no mesmo recurso tempo-frequência. Este melhor uso do escasso espectro disponível eleva a eficiência espectral a níveis muito apreciáveis, e tem um efeito similar na eficiência energética, pois a potência de transmissão não é aumentada. Por outro lado, se o objetivo é fornecer um desempenho desejado para os usuários, a potência de transmissão necessária em ambos os enlaces direto e reverso pode ser feita inversamente proporcional ao número de antenas na BS. Nesta Tese de Doutorado, diversos aspectos importantes de sistemas MIMO massivo são sistematicamente investigados com o objetivo de melhorar suas eficiências energética e espectral. Pode-se enumerar as principais contribuições alcançadas como se segue. Considerando uma rede celular MIMO massivo, propõe-se uma política de atribuição de sequências de treinamento aos usuários otimizada, a qual é depois combinada com apropriados algoritmos de controle de potência. Também investiga-se a adoção neste cenário de formas de onda alternativas, tal como a transmissão de portadora única, visando superar as deficiências da convencional multiplexagem por divisão de portadoras ortogonais (orthogonal frequency-division multiplexing - OFDM). As principais contribuições obtidas neste tema são derivar expressões de desempenho analíticas para um equalizador de portadora única no domínio do tempo que aproveita o grande número de antenas na BS, e avaliar e comparar a eficiência energética total de sistemas MIMO massivo OFDM versus portadora única. Finalmente, considerando redes MIMO massivo sobrecarregadas, compostas por usuários humanos bem como dispositivos de comunicação do tipo máquina, propõe-se um protocolo de acesso aleatório melhorado visando diminuir o número médio de tentativas de acesso para os usuários e diminuir a probabilidade de falhas de tentativa de acesso.

Massive MIMO communication systems have been highlighted as the main technology for physical layer of next generation communication standards, like 5G. While conventional communication between BS and its covered users is performed in orthogonal time-frequency resources, the improved interuser interference mitigation capability provided by the large number of BS antennas enables the BS to communicate with several users in the same time-frequency resource. This better usage of available but scarce spectrum elevates the spectral efficiency to very appreciable levels, and has a similar effect on energy efficiency, since the transmit power is not increased. On the other hand, if the objective is to provide a target performance for the users, the required transmit power in both direct and reverse links can be made inversely proportional to the number of BS antennas employed. In this Doctoral Thesis, several important aspects of massive MIMO systems are systematically investigated aiming to improve their energy and spectral efficiencies. We can enumerate our main contributions as follows. Considering a cellular massive MIMO network, we proposed an optimized assignment policy of training sequences to the users, which is then combined with suitable power control algorithms. We have also investigated the adoption of alternative waveforms in this scenario, such as single-carrier transmission, in order to overcome the issues of conventional OFDM. Our contributions in this topic are to derive analytical performance expressions for a time-domain single-carrier equalizer taking advantage of the large number of BS antennas, and to evaluate and compare the total energy efficiency of OFDM versus single-carrier massive MIMO systems. Finally, considering crowded massive MIMO networks, composed by both human users as well as machine-type communication devices, we proposed an improved random access protocol aiming to decrease the average number of access attempts for the users and decreasing the probability of failed access attempts. / Sistemas de comunicação de múltiplas antenas (multiple-input multiple-output - MIMO) têm se destacado como a principal tecnologia para a camada física dos padrões de comunicação da próxima geração, como o 5G. Enquanto a comunicação convencional entre a estação base (base station - BS) e seus usuários atendidos é realizada em recursos ortogonais de tempo-frequência, a grande capacidade de redução da interferência interusuários possibilitada pelo grande número de antenas da BS habilita a BS a se comunicar com diversos usuários no mesmo recurso tempo-frequência. Este melhor uso do escasso espectro disponível eleva a eficiência espectral a níveis muito apreciáveis, e tem um efeito similar na eficiência energética, pois a potência de transmissão não é aumentada. Por outro lado, se o objetivo é fornecer um desempenho desejado para os usuários, a potência de transmissão necessária em ambos os enlaces direto e reverso pode ser feita inversamente proporcional ao número de antenas na BS. Nesta Tese de Doutorado, diversos aspectos importantes de sistemas MIMO massivo são sistematicamente investigados com o objetivo de melhorar suas eficiências energética e espectral. Pode-se enumerar as principais contribuições alcançadas como se segue. Considerando uma rede celular MIMO massivo, propõe-se uma política de atribuição de sequências de treinamento aos usuários otimizada, a qual é depois combinada com apropriados algoritmos de controle de potência. Também investiga-se a adoção neste cenário de formas de onda alternativas, tal como a transmissão de portadora única, visando superar as deficiências da convencional multiplexagem por divisão de portadoras ortogonais (orthogonal frequency-division multiplexing - OFDM). As principais contribuições obtidas neste tema são derivar expressões de desempenho analíticas para um equalizador de portadora única no domínio do tempo que aproveita o grande número de antenas na BS, e avaliar e comparar a eficiência energética total de sistemas MIMO massivo OFDM versus portadora única. Finalmente, considerando redes MIMO massivo sobrecarregadas, compostas por usuários humanos bem como dispositivos de comunicação do tipo máquina, propõe-se um protocolo de acesso aleatório melhorado visando diminuir o número médio de tentativas de acesso para os usuários e diminuir a probabilidade de falhas de tentativa de acesso.

The ever-growing demand of wireless traffic poses a challenge for current cellular networks. Each new generation must find new ways to boost the network capacity and spectral efficiency (SE) per device. A pillar of 5G is massive multiple-input-multiple-output (MIMO) technology. Through utilizing a large number of antennas at each transmitting node, massive MIMO has the ability to multiplex several user equipments (UEs) on the same time-frequency resources via spatial multiplexing. Looking beyond 5G, cell-free massive MIMO has attracted a lot of attention for its ability to utilize spatial macro diversity and higher resilience to interference. The cell-free architecture is based on a large number of distributed access points (APs) jointly serving the UEs within a coverage area without creating artificial cell boundaries. It provides a promising solution that is focused on delivering uniform service quality throughout the mobile network. The main challenges of the cell-free network architecture lie in the computational complexity for signal processing and the huge fronthaul requirements for information exchange among the APs. In this thesis, we tackle some of the inherent problems of the cell-free network architecture by providing distributed solutions to the power allocation and mobility management problems. We then introduce a new method for characterizing unknown interference in wireless networks. For the problem of power allocation, a distributed learning-based solution that provides a good trade-off between SE performance and applicability for implementation in large-scale networks is developed with reduced fronthaul requirements and computational complexity. The problem is divided in a way that enables each AP (or group of APs) to separately decide on the power coefficients to the UEs based on the locally available information at the AP without exchanging information with the other APs, however, still attempting to achieve a network wide optimization objective.  Regarding mobility management, a handover procedure is devised for updating the serving sets of APs and assigned pilot to each UE in a dynamic scenario considering UE mobility. The algorithm is tailored to reduce the required number of handovers per UE and changes in pilot assignment. Numerical results show that our proposed solution identifies the essential refinements since it can deliver comparable SE to the case when the AP-UE association is completely redone. Finally, we developed a new technique based on a Bayesian approach to model the distribution of the unknown interference arising from scheduling variations in neighbouring cells. The method is shown to provide accurate modelling for the unknown interference power and an effective tool for robust rate allocation in the uplink with a guaranteed target outage performance. / Den ständigt växande efterfrågan på trådlös datatrafik är en stor utmaning för dagens mobilnät. Varje ny nätgeneration måste hitta nya sätt att öka den totala kapaciteten och spektraleffektiviteten (SE) per uppkopplad enhet. En pelare i 5G är massiv-MIMO-teknik (multiple-input-multiple-output). Genom att använda ett stort antal antenner på varje mobilmast har massiv MIMO förmågan att kommunicera med flera användarutrustningar (eng. user equipment, UE) på samma tid/frekvensresurser via så kallad rumslig multiplexing. Om man ser bortom 5G-tekniken så har cellfri massiv-MIMO väckt stort intresse tack vare sin förmåga att utnyttja rumslig makrodiversitet för att förbättra täckningen och uppnå högre motståndskraft mot störningar. Den cellfria arkitekturen bygger på att ha ett stort antal distribuerade accesspunkter (AP) som gemensamt serverar UE:erna inom ett täckningsområde utan att dela upp området konstgjorda celler. Detta är en lovande lösning som är fokuserad på att leverera enhetliga datahastigheter i hela mobilnätet. De största forskningsutmaningarna med den cellfria nätverksarkitekturen ligger i beräkningskomplexiteten för signalbehandling och de enorma kraven på fronthaul-kablarna som möjliggör informationsutbyte mellan AP:erna. I den här avhandlingen löser vi några av de grundläggande utmaningarna med den cellfria nätverksarkitekturen genom att tillhandahålla distribuerade algoritmlösningar på problem relaterade till signaleffektreglering och mobilitetshantering. Vi introducerar sedan en ny metod för att karakterisera okända störningar i trådlösa nätverk. När det gäller signaleffektreglering så utvecklas en distribuerad inlärnings-baserad metod som ger en bra avvägning mellan SE-prestanda och tillämpbarhet för implementering i storskaliga cellfria nätverk med reducerade fronthaulkrav och lägre beräkningskomplexitet. Lösningen är uppdelat på ett sätt som gör det möjligt för varje AP (eller grupp av AP) att separat besluta om effektkoefficienterna relaterade till varje UE baserat på den lokalt tillgängliga informationen vid AP:n utan att utbyta information med de andra AP:erna, men ändå försöka uppnå ett nätverksomfattande optimeringsmål. När det gäller mobilitetshantering utformas en överlämningsprocedur som dynamiskt uppdaterar vilken uppsättning av AP:er som servar en viss UE och vilken pilotsekvens som används när den rör sig över täckningsområdet. Algoritmen är skräddarsydd för att minska antalet överlämningar per UE och förändringar i pilottilldelningen. Numeriska resultat visar att vår föreslagna lösning identifierar de väsentliga förfiningarna eftersom den kan leverera jämförbar SE som när AP-UE-associationen görs om helt och hållet. Slutligen utvecklade vi en ny Bayesiansk metod för att modellera den statistiska fördelningen av de okända störningarna som uppstår på grund av schemaläggningsvariationer i närliggande celler. Metoden har visat sig ge en korrekt modell av den okända störningseffekten och är ett effektivt verktyg för robust SE-allokering i upplänken med en garanterad maximal avbrottsnivå. / <p>QC 20230503</p>