[pt] Os sistemas de múltiplas antenas empregam diferentes técnicas de processamento de sinais em ambos extremos do sistema de comunicações para se beneficiar das múltiplas dimensões espaciais e transmitir para diversos usuarios usando os mesmos recursos de tempo e frequência. Desta forma, uma alta eficiência espectral pode ser atingida sem precisar de largura de banda extra. No entanto, o desempenho depende de uma estimativa do canal altamente precisa do lado do transmissor, a qual é denominada channel state information at the transmitter (CSIT). Se o valor estimado do canal for perfeito, o sistema consegue suprimir a interferência multiusuário (MUI), que é a principal responsável pela degradação do desempenho do sistema. Porém, supor uma estimativa perfeita é bastante otimista pois sistemas reais introduzem incerteza devido ao processo de estimação, a erros de quantização e a retardos próprios dos sistemas. Nesse contexto, a técnica conhecida como divisão de taxas ou rate splitting (RS) surge como uma ferramenta promissora para lidar com as imperfeições na estimativa do canal. RS divide os dados em um fluxo comum e vários fluxos privados e então sobrepõe o fluxo comum no topo dos fluxos privados. Esta tese propõe várias técnicas de processamento que aumentam ainda mais os benefícios dos sistemas RS. Neste trabalho, consideramos o downlink (DL) de um sistema de comunicações sem fio onde o transmissor envia mensagens independentes para cada usuário. A métrica usada para avaliar o desempenho do sistema é a soma das taxas ergódica (ESR). Diferente dos trabalhos convencionais em RS, consideramos que os terminais dos usuários estão equipados com múltiplas antenas. Isso nos permite implementar na recepção combinadores de fluxos que aumentem a taxa do fluxo comum. Aumentar esta taxa é um dos grandes problemas dos sistemas RS, uma vez que a taxa comum é limitada pelo pior usuário o que pode degradar fortemente o desempenho do sistema. Assim, três combinadores de fluxos diferentes são propostos e as expressões analíticas para calcular a soma das taxas são apresentadas. Os combinadores são derivados empregando-se os critérios Min-Max, MRC e MMSE. O critério Min-Max seleciona para cada usuário a melhor antena para decodificar o símbolo comum. O MRC visa maximizar o SNR ao decodificar o símbolo comum. Finalmente, o critério MMSE minimiza o quadrado da diferença entre o símbolo comum e o sinal recebido. Até o momento, RS foi considerado com precodificadores lineares. Devido a isto, neste trabalho investigamos o desempenho do RS com precodificadores não lineares. Para este fim, usamos diferentes tipos de precodificador Tomlinson-Harashima (THP) baseados nos precodificadores lineares ZF e MMSE. Em seguida, propomos um algoritmo multi-branch (MB) adequado para o RS-THP proposto. Este algoritmo cria vários padrões de transmissão e seleciona o melhor padrão para efetuar a transmissão. Esta técnica de préprocessamento aumentam ainda mais a soma das taxas obtida, uma vez que o desempenho do THP depende da ordem dos símbolos, porém também aumenta a complexidade computacional. Expressões analíticas para calcular a soma das taxas das técnicas propostas são derivadas por meio de análises estatísticas dos principais parâmetros. Finalmente, propomos quatro técnicas adaptativas diferentes de alocação de potência, as quais se caracterizam por sua baixa complexidade computacional. Duas destas técnicas são projetadas para sistemas SDMA convencionais, enquanto as outras duas são projetadas para sistemas RS. Um dos principais objetivos dos algoritmos propostos é realizar uma alocação de potência robusta capaz de lidar com os efeitos prejudicias das imperfeições no CSIT. É importante mencionar que a alocação de potência em sistemas RS é uma das tarefas mais importantes e deve ser realizada com extremo cuidado. Se a potência não for alocada corretamente, o desempenho do sistema RS será bastante degradado e as arquiteturas convencionais, como SDMA e NOMA, poderão ter um desempenho melhor. No entanto, a alocação de potência em sistemas RS precisa da solução de problemas complexos de otimização, o que aumenta o tempo gasto no processamento do sinal. Os algoritmos adaptativos propostos reduzem a complexidade computacional e são uma solução atrativa para aplicações práticas em sistemas de grande porte. / [en] Multiple-antenna systems employ different signal processing techniques at both ends of the communication to exploit the spatial dimensions and serve multiple users simultaneously in the same time-frequency domain. In this way, high spectral efficiency can be reached without the need of extra bandwidth. However, such gain depends on a highly accurate channel state information at the transmitter (CSIT). Perfect CSIT allows the system to suppress the multi user interference (MUI), which is the main responsible of the performance degradation. Nonetheless, assuming perfect CSIT is rather optimistic since the estimation procedure, quantization errors and delays of real system lead to CSIT uncertainties. In this context, rate splitting (RS) has arisen as a promising technique to deal with CSIT imperfections. Basically, RS splits the data into a common stream and private streams and then superimposes the common stream on top of the private streams. This thesis proposes several processing techniques which further enhance the benefits of RS systems. We consider the downlink (DL) of a wireless communications system, where the transmitter sends independent messages to each receiver. The ergodic sum rate (ESR) is adopted as the main metric to evaluate the performance of the system. Different from conventional RS works, we consider that the users are equipped with multiple antennas. This allows us to implement stream combiners for the common stream at the receivers. The implementations of the stream combiners improves the common rate performance, which is a major problem of RS systems since the common rate is limited by the performance of the worst user and can be heavily degraded. In this work, three different stream combiners are proposed along with analytical expressions to compute their sum rate performance. Specifically, the combiners are derived employing the min-max, maximum ratio combining (MRC), and minimum mean square error (MMSE) criteria. The min-max criterion selects at each user the best receive antenna to decode the common symbol. The MRC criterion aims at maximizing the SNR when decoding the common symbol. Finally, the MMSE criterion minimizes the squared difference between the common symbol and the received signal. So far, RS has been predominantly considered with channel inversiontype linear precoders. Therefore, this motivates us to investigate the performance of RS with non-linear precoders. For this purpose, we employ different architectures of the Tomlinson-Harashima precoder (THP) which are based on the zero-forcing (ZF) and MMSE precoders. We then propose a multi-branch (MB) algorithm for the proposed RS-THP, which creates several transmit patterns and selects the best for transmission. This pre-processing techniques further enhance the sum rate obtained since the performance of THP is dependent on the symbol ordering but also increases the computational complexity. Analytical expressions to calculate the sum rate of the proposed techniques are derived through statistical evaluation of key parameters. Finally, we propose four different adaptive power allocation techniques, which are characterized by their low computational complexity. Two of them are designed for conventional SDMA systems whereas the other two are intended for RS systems. One major objective of the proposed algorithms is to perform robust power allocation capable of dealing with the detrimental effects of imperfect CSIT. It is important to mention that power allocation in RS systems is one of the critical tasks that should be carefully performed. If the power is not properly allocated the performance of RS systems is heavily degraded and conventional architectures such as SDMA and NOMA could perform better. However, RS rely on solving complex optimization problems to perform power allocation, increasing the time and effort dedicated to signal processing. The proposed adaptive power allocation algorithms reduce the computational complexity and are an attractive solution for practical applications with large-scale systems.

[pt] Sistemas de múltiplas antenas livres de células surgiram recentemente como uma combinação de MIMO massivo, sistemas de antenas distribuídas (DAS) e network MIMO. Esta dissertação explora o downlink deste cenário com pontos de acesso (PAs) de uma ou múltiplas antenas e considerando conhecimento perfeito e imperfeito do canal. São desenvolvidos esquemas que combinam pré-codificação, alocação de potência e seleção de PAs (SPA). Para começar, duas estratégias de SPA foram investigadas, uma baseada em busca exaustiva (BE-SPA) e a outra em coeficientes de desvanecimento de larga escala (LE-SPA), com o intuito de reduzir a complexidade das redes livres de células. Subsequentemente, apresentamos duas técnicas iterativas de pré-codificação, todas seguindo o critério Minimum Mean-Square Error (MMSE), combinadas à restrição de potência total. A primeira nós chamamos de MMSE, com restrição de potência total. Nós também incorporamos robustez ao método desenvolvido chamado RMMSE, um pré-codificador robusto com restrição de potência total. Como terceiro elemento da configuração proposta, esquemas de alocação de potência foram desenvolvidos, com abordagens ótimas, adaptativas e uniformes. Um algoritmo de alocação de potência ótima (APO) é apresentado, baseado na maximização da mínima Signal-to-Interference-plus-Noise Ratio (SINR). A solução adaptativa (APA) é caracterizada pelo gradiente estocástico (GE) do mean-square error (MSE) e a alternativa uniforme (UPA) propõe a equalização de todos os coeficientes de potência. Todas as configurações devem respeitar a restrição de potência por antena, imposta pelo sistema. Uma análise de soma das taxas é feita, para todas as técnicas estudadas e o custo computacional de cada uma delas é calculado. Resultados numéricos provam que as técnicas propostas têm performance superior à pré-codificadores Conjugate Beamforming (CB) e Zero-Forcing (ZF), ambos com alocação de potência uniforme e ótima, na forma de taxa de erro de bit (BER), soma das taxas e mínima SINR. Além disso, os resultados atestam que o desempenho pode ser mantido e até melhorado com a aplicação de SPA. / [en] Cell-Free Massive multiple-input multiple-output (MIMO) systems have emerged in recent years as a combination of massive MIMO, distributed antenna systems (DAS) and network MIMO. This thesis explores the downlink channel of such scenario with single and multiple-antenna access points (APs) and takes into account both perfect and imperfect channel state information (CSI). We propose transmit processing schemes that combine precoding, power allocation and AP selection (APS). To begin with, two APS strategies have been investigated, one based on exhaustive search (ES-APS) and the other on the large-scale fading coefficients (LSAPS), in order to reduce the complexity of cell-free networks. Subsequently, we present two iterative precoding techniques following the minimum meansquare error (MMSE) criterion with total power constraint. The first we call MMSE, with total power constraint. We also incorporate robustness in the developed method, called RMMSE, a robust precoder with total power constraint. As the third element of the proposed schemes, power allocation techniques are developed, with optimal, adaptive and uniform approaches. An optimal power allocation (OPA) algorithm is presented based on the maximization of the minimum signal-to-interference-plus-noise ratio (SINR). The adaptive solution (APA) is characterized by the stochastic gradient of the mean-square error (MSE) and the uniform alternative (UPA) proposes to equalize all power coefficients. All configurations must fulfil an antenna power constraint, imposed by the system. A sum-rate analysis is carried out for all studied techniques and the computational cost of each one is calculated. Numerical results prove that the proposed techniques outperform existing conjugate beamforming (CB) and zero-forcing (ZF) precoders, both with uniform and optimal power allocation, in terms of bit error rate (BER), sum-rate and minimum SINR. Furthermore, we also attest that performance can be maintained or even improved in the presence of APS.

[pt] Sistemas de múltiplas antenas de larga escala são técnicas fundamentais para sistemas de comunicação sem fio do futuro, que deverão servir dezenas de usuários por estação rádio-base. Neste contexto, um problema chave é o aumento do consumo de energia à medida que o número de antenas cresce. Recentemente, CADs de baixa resolução têm atraído grande interesse de pesquisa. Em particular, CADs de 1 bit são adequados para sistemas de larga escala devido ao seu baixo custo e consumo de energia. Nesta tese, CADs de 1 bit são usados em três diferentes abordagens de projeto, que operam a taxa de Nyquist e a taxas superiores a taxa de Nyquist com estratégias de amostragem uniforme e dinâmica. Nos sistemas operando a taxa de Nyquist, algoritmos de estimação de canal que exploram o conhecimento da baixa resolução e um novo esquema de detecção e decodificação iterativas são propostos, em que códigos low-density paritycheck de bloco curto são considerados para evitar alta latência. Nos sistemas operando a taxas superiores a taxa de Nyquist com sobreamostragem uniforme, algoritmos eficientes de estimação de canal e de detecção com janela deslizante com exploração da baixa resolução são propostos. Além disso, são deduzidas expressões analíticas associadas aos limitantes de Cramér-Rao para os sistemas com sobreamostragem. Resultados numéricos ilustram o desempenho dos algoritmos de estimação de canal propostos e existentes e os limitantes teóricos deduzidos. Nos sistemas operando com sobreamostragem dinâmica, duas abordagens de projeto são desenvolvidas: uma técnica baseada na maximização da soma das taxas e uma técnica baseada na minimização do erro médio quadrático. Em seguida, três algoritmos de redução de dimensão são apresentados e investigados. Resultados de simulações mostram que os sistemas com sobreamostragem dinâmica têm melhor desempenho do que os sistemas com sobreamostragem uniforme em termos de soma das taxas alcançáveis e de taxa de erro de símbolos, enquanto o custo computacional das técnicas examinadas é comparável. / [en] Large-scale multiple-antenna systems are a key technique for future wireless communications, which will serve tens of users per base station (BS). In this scenario, one problem faced is the large energy consumption as the number of receive antennas scales up. Recently, low-resolution analogto-digital converters (ADCs) have attracted much attention. Specifically, 1-bit ADCs in the front-end are suitable for such systems due to their low cost and low energy consumption. In this thesis, 1-bit ADCs are applied in three different system designs, which operate at the Nyquist rate and faster than Nyquist rates along with uniform and dynamic strategies. In the Nyquist-sampling system, low-resolution-aware channel estimation algorithms and a novel iterative detection and decoding scheme are proposed, where short block length low-density parity-check codes are considered for avoiding high latency. In the faster than Nyquist rates with uniform oversampling system, lowresolution-aware channel estimation and sliding window based detection algorithms are proposed due to their low computational cost and high detection accuracy. Particularly, analytical expressions associated with the Bayesian Cramér-Rao bounds for the oversampled systems are presented. Numerical results are provided to illustrate the performance of the proposed channel estimation algorithms and the derived theoretical bounds. In the dynamic-oversampling system, two different system designs are devised, namely, sum rate and mean square error based. Three different dimension reduction algorithms are presented and thoroughly investigated. Simulation results show that the systems with the proposed dynamic oversampling outperform the uniformly oversampled system in terms of the computational cost, achievable sum rate and symbol error rate performance.