[pt] O emprego conjunto de Redes de Acesso por Rádio em Nuvem (CRANs) e sistemas de múltiplas entradas e múltiplas saídas (MIMO) de larga escala é uma solução chave para atender aos requisitos da quinta geração (5G) de redes sem fio. No entanto, alguns desafios ainda precisam ser superados como a redução do consumo de energia do sistema, a capacidade limitada dos links fronthaul e a redução dos custos de implantação e operação. Embora seja prejudicial para o desempenho do sistema, a quantização em baixa resolução é proposta como uma solução para estes desafios. Portanto, técnicas que melhoram o desempenho de sistemas quantizados grosseiramente são necessárias. Em sistemas móveis, os ADCs geralmente são precedidos por um controle de ganho automático (AGC). O AGC trabalha moldando a amplitude do sinal recebido dentro do intervalo do quantizador para usar eficientemente a resolução. A fim de solucionar esses problemas, esta dissertação apresenta uma otimização conjunta do AGC, que funciona nas cabeças de rádio remotas (RRHs), e um filtro de recepção linear de baixa resolução consciente (LRA) baseado no mínimo erro quadrático médio (MMSE), que funciona na unidade de nuvem (CU), para sistemas quantizados grosseiramente. Desenvolvemos receptores de cancelamento de interferência lineares e sucessivos (SIC) com base na proposta conjunta de AGC e LRA MMSE (AGC-LRA-MMSE). Uma análise da soma das taxas alcançáveis juntamente com um estudo de complexidade computacional também são realizadas. As simulações mostram que o projeto proposto fornece taxas de erro reduzidas e taxas alcançáveis mais altas do que as técnicas existentes. / [en] The joint employment of Cloud Radio Access Networks (C-RANs) and large-scale multiple-input multiple-output (MIMO) systems is a key solution to fulfill the requirements of the fifth generation (5G) of wireless networks. However, some challenges are still open to be overcome such as the high power consumption of large-scale MIMO systems, which employ a large number of analog-to-digital converters (ADCs), the capacity bottleneck of the fronthaul links and the system cost reduction. Although it often affects the system performance, the low-resolution quantization is a possible solution for these problems. Therefore, techniques that improve the performance of coarsely quantized systems are needed. In mobile applications, the ADCs are usually preceded by an automatic gain control (AGC). The AGC works shaping the received signal amplitude within the quantizer range to efficiently use the ADC resolution. Then, the optimization of an AGC is especially important. In order to present possible solutions for these issues, this thesis presents a joint optimization of the AGC, which works in the remote radio heads (RRHs), and a low-resolution aware (LRA) linear receive filter based on the minimum mean square error (MMSE), which works in the cloud unit (CU), for coarsely quantized large-scale MIMO with CRAN systems. We develop linear and successive interference cancellation (SIC) receivers based on the proposed joint AGC and LRA MMSE (AGCLRAMMSE) approach. An analysis of the achievable sum rates along with a computational complexity study is also carried out. Simulations show that the proposed design provides improved error rates and higher achievable rates than existing techniques.

[pt] Este trabalho tem como finalidade estudar o problema da detecção de usuários no canal reverso de sistemas MIMO de larga escala, que são caracterizados pelo elevado número de elementos de transmissão e recepção, com foco na complexidade computacional e no desempenho em termos de taxa de erro destes sistemas. Inicialmente, os algoritmos de detecção da família Likelihood Ascent Search (LAS) são investigados e é desenvolvido um novo algoritmo de detecção, denominado de Random-List Based LAS (RLBLAS), capaz de atingir melhores taxas de erros com menor complexidade computacional do que os demais detectores considerados. Posteriormente, técnicas de detecção e decodificação iterativas (Iterative Detection and Decoding - IDD) em sistemas MIMO foram analisadas de forma a propor uma estratégia IDD de complexidade computacional reduzida a fim de viabilizar a sua aplicação em cenários massivos. Finalmente, o problema da contaminação por pilotos em sistemas MIMO multicelulares de larga escala, um dos principais limitadores do desempenho desse tipo de sistema, é estudado e estratégias de detecção com cooperação parcial entre as estações base componentes do sistema que visam mitigar os efeitos da contaminação por pilotos são propostas. As análises e afirmações realizadas durante a presente tese são sustentadas por resultados de simulações de Monte Carlo dos sistemas de comunicações em diversos cenários distintos, incluindo os casos em que são considerados os efeitos de correlação entre as antenas de transmissão/recepção, os efeitos de sombreamento e os erros de estimação dos estados dos canais de comunicações envolvidos. / [en] This work focuses on the multi-user multi-cellular large-scale MIMO reverse channel detection problem, where the number of transmitting and receiving antenna elements grows to the order of hundreds. In these scenarios, one major issue is the computational complexity of such systems. Therefore, this thesis aims to propose low-complexity techniques with good BER performance for the reverse channel detection of MIMO systems. Initially, the detection algorithms of the Likelihood Ascent Search (LAS) family are investigated and a new LAS based detector is proposed. This new detector, named Random-List Based LAS (RLB-LAS), is capable of achieving better BER with lower complexity then the other considered detectors. Next, iterative detection and decoding (IDD) techniques are analyzed in order to propose an IDD strategy applied to the detection and decoding of the reverse MIMO channel with reduced complexity to make possible its application to massive scenarios. Finally, the pilot contamination problem in multi-cellular large-scale MIMO systems, one of the major bounds on BER performance of these systems, are studied and some cooperative strategies are proposed in order to reduce the effects of this type of impairments. The analysis and statements of this thesis are supported by Monte Carlo simulation results of the considered systems in different scenarios, including the cases where the effects of transmitting and receiving antenna correlation, log-normal shadowing, and the estimation errors on the channel state information acquisition are considered.