[pt] As comunicações de ondas milimétricas (mmWave) são consideradas uma tecnologia essencial para os sistemas celulares de próxima geração, dado que a enorme largura de banda disponível pode potencialmente fornecer as taxas de vários gigabits por segundo. As técnicas convencionais de pré-codificação e combinação são impraticáveis nos cenários da mmWave devido ao custo de fabricação e ao consumo de energia. As alternativas híbridas foram consideradas uma tecnologia promissora para fornecer um compromisso entre a complexidade do hardware e o desempenho do sistema. Um grande número de projetos de pré-codificadores híbridos têm sido proposto com diferentes abordagens. Uma abordagem possível é procurar minimizar a distância euclidiana entre o pré-decodificador híbrido e o pré-decodificador totalmente digital. No entanto, essa abordagem torna o projeto do pré-codificador híbrido um problema de fatoração da matrices difícil de lidar devido às restrições de hardware dos componentes analógicos. Esta tese de doutorado propõe alguns projetos de pré-codificadores e combinadores híbridos por meio de uma estratégia hierárquica. O problema híbrido de pré-codificação / combinação é dividido em partes analógicas e digitais. Primeiro, o pré-codificador / combinador analógico é projetado. Em seguida, com o pré-codificador / combinador analógico fixo, o précodificador / combinador digital é calculado para melhorar o desempenho do sistema. Além disso, métodos de otimização linear e não linear são empregados para projetar a parte analógica do pré-codificador / combinador. A viabilidade dessas propostas é avaliada usando diferentes técnicas de detecção de dados e analisando o desempenho do sistema em termos de taxa de erros de bits (BER), sum–rate e outras métricas, em cenários internos do mmWave, considerando enlace diretos massivo do MU–MIMO. Além disso, este trabalho propõe um método para encontrar aproximações analíticas bastante restritas ao desempenho obtido no BER. A metodologia proposta exigiria o conhecimento da função densidade de probabilidade (fdp) das variáveis relacionadas que são desconhecidas para os cenários mmWave. Para resolver este problema, são utilizadas as aproximações fdp Gamma. As aproximações analíticas do BER resultaram em diferenças não superiores a 0,5 dB em relação aos resultados da simulação em alto SNR. / [en] Millimeter–wave (mmWave) communications have been regarded as a key technology for the next–generation cellular systems since the huge available bandwidth can potentially provide the rates of multiple gigabits per second. Conventional precoding and combining techniques are impractical at mmWave scenarios due to manufacturing cost and power consumption. Hybrid alternatives have been considered as a promising technology to provide a compromise between hardware complexity and system performance. A large number of hybrid precoder designs have been proposed with different approaches. One possible approach is to search for minimizing the Euclidean distance between hybrid precoder and the full-digital precoder. However, this approach makes the hybrid precoder design becomes a matrix factorization problem difficult to deal due to the hardware constraints of analog components. This doctoral thesis proposes some hybrid precoder and combiners designs through a hierarchical strategy. The hybrid precoding/combining problem is divided into analog and digital parts. First, the analog precoder/combiner is designed. Then, with the analog precoder/combiner fixed, the digital precoder/ combiner is computed to improve the system performance. Furthermore, linear and no-linear optimization methods are employed to design the analog part of the precoder/combiner. The viability of these proposals is evaluated using different data detection techniques and analyzing the system performance in terms of bit error rate (BER), sum rate, and other metrics, in indoor mmWave scenarios considering massive MU-MIMO downlink. Also, this work proposes a method to find fairly tight analytic approximations to the obtained BER performance. The methodology proposed would require the knowledge of the probability density function (pdf) of the variables involved, which are unknown for mmWave scenarios. In order to solve this problem, Gamma pdf approximations are used. The analytic BER approximations resulted in differences no larger than 0.5 dB with respect to the simulation results in high SNR.

[pt] Este trabalho de dissertação de mestrado apresenta uma comparação de algumas das técnicas de detecção de sinais mais promissoras para a viabilização de sistemas MIMO de grande porte em termos de desempenho, taxa de erro de bit e complexidade, número médio de flops requeridos por vetor de símbolos recebido. Com este objetivo foram também consideradas as técnicas de detecção clássicas, visando assim ressaltar o desempenho das novas técnicas com relação as antigas. Além disso foram propostas e investigadas novas estruturas para detectores SIC baseados em lista (i.e., com múltiplos ramos) que resultaram em melhor desempenho com menor complexidade quando comparados aos detectores deste tipo já propostos. Na comparação dos algoritmos, foram considerados três cenários diferentes: (i ) monousuário, com ganhos de canal gaussianos complexos independentes e identicamente distribuídos, ou seja, uma propagação que só considera a presença de desvanecimento de Rayleigh; (ii ) múltiplos usuários com canais correlatados e que considera as perdas de propagação de pequena e larga escala num sistema com antena centralizada; e (iii ) múltiplos usuários com canais correlatados e que considera as perdas de propagação de pequena e larga escala num sistema com antena distribuída. / [en] This work dissertation presents a comparison of some of the signal detection techniques most promising for the viability of large MIMO systems in terms of performance, bit error rate, and complexity, average number of flops required by transmitted symbol vector. For this purpose it was also considered classical detection techniques, thus aiming to highlight the performance of new techniques with respect the old. Also it has been proposed and investigated new structures to SIC detectors based on list (i.e., with multiple branches) resulting in better performance with less complexity compared to detectors of this kind already proposed. In the comparison of algorithms, three different scenarios were used: (i ) single user, with channel gains independent and distributed identically complex Gaussian, that is, a spread that only considers the presence of Rayleigh fading; (ii ) multiple users, with correlated channels, and considers the short and large scale path loss in a system with centralized antenna; e (iii ) multiple users, with correlated channels, and considers the short and large scale path loss in a system with distributed antenna.