[pt] Este trabalho de dissertação de mestrado apresenta os resultados obtidos com a conjunção de duas técnicas propostas para utilização em modernos sistemas de comunicações: a Modulação Espacial (Spatial Modulation - SM) e a detecção desacoplada de sinais. Na primeira parte são abordados os fundamentos teóricos da detecção de sinais com modulação espacial, uma comparação entre os sistemas MIMO (Multiple Input Multiple Output) tradicionais e os sistemas SM-MIMO, uma revisão bibliográfica sobre trabalhos previamente feitos no tema e os diferentes tipos de detectores que podem ser empregados em sistemas com modulação espacial. A seguir são abordadas diferentes técnicas para desacoplamento de sinais, as quais permitem a separação na estação radio-base dos sinais oriundos de diferentes tipos de usuários, visando simplificar e adequar o procedimento de detecção às necessidades do usuário da rede. Finalmente uma análise de desempenho, em termos da taxa de erro de bit, e complexidade computacional, em termos do número médio de flops requerido por vetor de símbolos detectado, é realizada para as diferentes associações de técnicas de desacoplamento e detectores SM enfocados neste trabalho. / [en] This work dissertation presents the results obtained from the conjunction of two proposal techniques for the use in modern systems of communications: the Spatial Modulation and the Decoupling Signal Detection. In the first part are discussed the theorical bases of the signal detection with Spatial Modulation, a comparison between the traditional MIMO systems and the SM-MIMO systems, a bibliographical review about previousworks in the topic and the different kinds of detectors that can be used in systems with Spatial Modulation. Then the different techniques of signal decoupling are discussed, which allow the separation in the radio base station of the signals coming from the different classes of users, to simplify and adapt the process of detection and the requirements of the user in the network. Finally a performance analysis in terms of the bit error rate and computational complexity in terms of average number of flops required fot the vector of symbols detected, is done for the studied detectors in the dissertation, using the same different techniques of decoupling studied in this work.

[pt] Este trabalho tem como finalidade estudar o problema da detecção de usuários no canal reverso de sistemas MIMO de larga escala, que são caracterizados pelo elevado número de elementos de transmissão e recepção, com foco na complexidade computacional e no desempenho em termos de taxa de erro destes sistemas. Inicialmente, os algoritmos de detecção da família Likelihood Ascent Search (LAS) são investigados e é desenvolvido um novo algoritmo de detecção, denominado de Random-List Based LAS (RLBLAS), capaz de atingir melhores taxas de erros com menor complexidade computacional do que os demais detectores considerados. Posteriormente, técnicas de detecção e decodificação iterativas (Iterative Detection and Decoding - IDD) em sistemas MIMO foram analisadas de forma a propor uma estratégia IDD de complexidade computacional reduzida a fim de viabilizar a sua aplicação em cenários massivos. Finalmente, o problema da contaminação por pilotos em sistemas MIMO multicelulares de larga escala, um dos principais limitadores do desempenho desse tipo de sistema, é estudado e estratégias de detecção com cooperação parcial entre as estações base componentes do sistema que visam mitigar os efeitos da contaminação por pilotos são propostas. As análises e afirmações realizadas durante a presente tese são sustentadas por resultados de simulações de Monte Carlo dos sistemas de comunicações em diversos cenários distintos, incluindo os casos em que são considerados os efeitos de correlação entre as antenas de transmissão/recepção, os efeitos de sombreamento e os erros de estimação dos estados dos canais de comunicações envolvidos. / [en] This work focuses on the multi-user multi-cellular large-scale MIMO reverse channel detection problem, where the number of transmitting and receiving antenna elements grows to the order of hundreds. In these scenarios, one major issue is the computational complexity of such systems. Therefore, this thesis aims to propose low-complexity techniques with good BER performance for the reverse channel detection of MIMO systems. Initially, the detection algorithms of the Likelihood Ascent Search (LAS) family are investigated and a new LAS based detector is proposed. This new detector, named Random-List Based LAS (RLB-LAS), is capable of achieving better BER with lower complexity then the other considered detectors. Next, iterative detection and decoding (IDD) techniques are analyzed in order to propose an IDD strategy applied to the detection and decoding of the reverse MIMO channel with reduced complexity to make possible its application to massive scenarios. Finally, the pilot contamination problem in multi-cellular large-scale MIMO systems, one of the major bounds on BER performance of these systems, are studied and some cooperative strategies are proposed in order to reduce the effects of this type of impairments. The analysis and statements of this thesis are supported by Monte Carlo simulation results of the considered systems in different scenarios, including the cases where the effects of transmitting and receiving antenna correlation, log-normal shadowing, and the estimation errors on the channel state information acquisition are considered.