CoordenaÃÃo de AperfeiÃoamento de Pessoal de NÃvel Superior / Este trabalho se propÃe a investigar e propor diferentes tÃcnicas de estimaÃÃo de canal de mÃltiplas entradas e mÃltiplas saÃdas (MIMO) para sistemas de comunicaÃÃo multiusuÃrio operando em regime de interferÃncia em cenÃrio de mÃltiplas cÃlulas. AtenÃÃo particular à dada ao caso onde as estaÃÃes rÃdio-base sÃo equipadas com arranjos de antenas apresentando grande quantidade de antenas, configurando o que se tem referido na literatura como sistemas de comunicaÃÃo MIMO de grande dimensÃo (VL-MIMO, do inglÃs: very large MIMO). Algumas destas tÃcnicas exploram as propriedades das grandes matrizes aleatÃrias e sÃo menos afetadas pela contaminaÃÃo de pilotos. Nesta dissertaÃÃo, os parÃmetros do canal VL-MIMO sÃo estimados a partir de uma decomposiÃÃo em autovalores (EVD, do inglÃs: eigenvalue-decomposition) da matriz de covariÃncia na saÃda do arranjo de antenas receptoras. Esta tÃcnica se mostra menos sensÃvel à presenÃa de interferÃncia do que outras que nÃo exploram propriedades especÃficas da matriz de canal VL-MIMO, como à o caso da soluÃÃo clÃssica dos mÃnimos quadrados (LS, do inglÃs: least-squares). Nesse contexto, propÃe-se ainda uma soluÃÃo para o fator de ambiguidade multiplicativa do mÃtodo baseado em EVD, utilizando um simples produto de Khatri-Rao. Na segunda parte desta dissertaÃÃo, as propriedades dos sistemas VL-MIMO sÃo empregadas num problema de localizaÃÃo de fontes, a fim de determinar a direÃÃo de chegada (DOA) dos sinais incidentes sobre o arranjo, provenientes da cÃlula em questÃo. Explorando o subespaÃo de representaÃÃo dos sinais interferentes, propÃe-se o uso de um algoritmo de classificaÃÃo de tipo MUSIC para estimar a matriz de canal de forma cega. O mÃtodo proposto converte os altos ganhos de resoluÃÃo dos arranjos VL-MIMO em capacidade de reduÃÃo de interferÃncia, podendo fornecer estimativas do canal adequadas, mesmo sob nÃveis fortes de interferÃncia e tambÃm em casos onde os sinais do usuÃrio desejado e dos interferentes sÃo altamente correlacionados espacialmente. Extensas campanhas de simulaÃÃo computacional foram realizadas, dandoum carÃter exploratÃrio a esta dissertaÃÃo no sentido de abranger diferentes cenÃrios e avaliar as tÃcnicas investigadas em comparaÃÃo com soluÃÃes jà consolidadas, permitindo assim a elaboraÃÃo de um panorama mais completo de caracterizaÃÃo dos problemas de estimaÃÃo de parÃmetros no caso VL-MIMO. / The aim of this dissertation is mainly to investigate and propose different channel estimation techniques for a multicell multiuser multiple-input multiple-output (MIMO) communication system. Particular attention is payed to the case that is referred to as very large (VL) MIMO (VL-MIMO) arrays, where the base stations are equipped with a great (or even huge) number of antenna sensors. Some of these techniques exploit properties issued from the (large) Random Matrices Theory and are therefore less affected by the so-called pilot contamination effect. In this work, the parameters of the VL-MIMO channel are estimated from the eigenvalue decomposition (EVD) of the output covariance matrix of the receive antenna array. This technique is more robust to the interference of signals from other cells compared with methods that do not exploit the specific properties of the VL-MIMO channel matrix, which is the case of the classical least squares (LS) solution. In this context, this work also proposes a simpler way to resolve the scaling ambiguity remaining from the EVD-based method using the Khatri-Rao product. The second part of this dissertation exploits the VL-MIMO properties on a source localization problem, aiming to determine the direction of arrival (DoA) of the signals impinging on the antenna array from a given desired cell. Based on the subspace representation of the outer cell interference signals, we propose a new blind MUSIC-like classification algorithm to estimate the channel matrix. The proposed technique convert the high resolution gains of the VL-MIMO arrays into ability to reduce power of undesired signals, yielding good channel estimates even under high interference power levels, and including cases where desired and undesired signals are strongly correlated. Computer simulations have been done in order to cope with different situations and propagation scenarios, thus yielding an exploratory character to our research and allowing us to evaluate and assess the investigated algorithms, comparing them to consolidated solutions in order to establish a complete overview of the parameter estimation problem in the VL-MIMO case.

Conselho Nacional de Desenvolvimento CientÃfico e TecnolÃgico / Este trabalho trata da proposiÃÃo de algoritmos para equalizaÃÃo cega de canais lineares e nÃao-lineares inspirados no Algoritmo do MÃdulo Constante (CMA). O CMA funciona de maneira bastante eficiente com constelaÃÃes nas quais todos os pontos possuem a mesma amplitude, como em modulaÃÃes do tipo Phase Shift Keying (PSK). Entretanto, quando os pontos da constelaÃÃo podem assumir diferentes valores de amplitudes, como em modulaÃÃes do tipo Quadrature Amplitude Modulation (QAM), o CMA e seus derivados muitas vezes nÃo funcionam de forma satisfatÃria. Desta forma, as tÃcnicas aqui propostas sÃo projetadas para melhorar a performance do CMA em termos de velocidade de convergÃncia e precisÃo, quando operando em sinais transmitidos com diversos mÃdulos, em particular para a modulaÃÃo QAM. Assim como o CMA, para possuir um bom apelo prÃtico, essas tÃcnicas devem apresentar bom compromisso entre complexidade, robustez e desempenho. Para tanto, as tÃcnicas propostas utilizam o Ãltimo sÃmbolo decidido para definir uma estimaÃÃo de raio de referÃncia para a saÃda do equalizador. De fato, esses algoritmos podem ser vistos como generalizaÃÃes do CMA e de alguns derivados do CMA para constelaÃÃes com mÃltiplos raios. A proposiÃÃo de algoritmos do tipo gradiente estocÃstico à concluÃda com o desenvolvimento de tÃcnicas originais, baseadas no CMA, para equalizaÃÃo de canais do tipo Wiener, que consiste em um filtro linear com memÃria, seguido por um filtro nÃo-linear sem memÃria. As expressÃes para a adaptaÃÃo do equalizador sÃo encontradas com o auxÃlio de uma notaÃÃo unificada para trÃs diferentes estruturas: i) um filtro de Hammerstein; ii) um filtro de Volterra diagonal; e iii) um filtro de Volterra completo. Um estudo teÃrico acerca do comportamento do principal algoritmo proposto, o Decision Directed Modulus Algorithm (DDMA) à realizado. SÃo analisadas a convergÃncia e a estabilidade do algoritmo atravÃs de uma anÃlise dos pontos de mÃnimo de sua funÃÃo custo. Outro objetivo à encontrar o valor teÃrico do Erro MÃdio QuadrÃtico MÃdio em Excesso - Excess Mean Square Error (EMSE) fornecido pelo DDMA considerando-se o caso sem ruÃdo. Ao final, à feito um estudo em que se constata que o algoritmo DDMA possui fortes ligaÃÃes com a soluÃÃo de Wiener e com o CMA. VersÃes normalizadas, bem como versÃes do tipo Recursive Least Squares (RLS), dos algoritmos do tipo gradiente estocÃstico estudados sÃo tambÃm desenvolvidas. Cada famÃlia de algoritmos estudada fie composta por quatro algoritmos com algumas propriedades interessantes e vantagens sobre as tÃcnicas clÃssicas, especialmente quando operando em sinais QAM de ordem elevada. TambÃm sÃo desenvolvidas versÃes normalizadas e do tipo RLS dos algoritmos do tipo CMA estudados para equalizaÃÃo de canais nÃo-lineares. O comportamento de todas as famÃlias de algoritmos desenvolvidos à testado atravÃs de simulaÃÃes computacionais, em que à verificado que as tÃcnicas propostas fornecem ganhos significativos em desempenho, em termos de velocidade de convergÃncia e erro residual, em relaÃÃo Ãs tÃcnicas clÃssicas. / This work studies and proposes algorithms to perform blind equalization of linear and nonlinear channels inspired on the Constant Modulus Algorithm (CMA). The CMA works very well for modulations in which all points of the signal constellation have the same radius, like in Phase Shift Keying (PSK) modulations. However, when the constellation points are characterized by multiple radii, like in Quadrature Amplitude Modulation (QAM) signals, the CMA does not work properly in many situations. Thus, the techniques proposed here are designed to improve the performance of the CMA, in terms of speed of convergence and residual error, when working with signals transmitted with multiple magnitude, in particular with QAM signals. As well as for the CMA, these techniques should have a good compromise among performance, complexity and robustness. To do so, the techniques use the last decided symbol to estimate reference radius to the output of the equalizer. In fact, they can be seen as modifications of the CMA and of some of its derivatives for constellations with multiple radii. The proposition of stochastic gradient algorithms is concluded with the development of new adaptive blind techniques to equalize channels with a Wiener structure. A Wiener filter consists of a linear block with memory followed by a memoryless nonlinearity, by using the CMA. We develop expressions for the adaptation of the equalizer using a unified notation for three different equalizer filter structures: i) a Hammerstein filter, ii) a diagonal Volterra filter and iii) a Volterra filter. A theoretical analysis of the main proposed technique, the Decision Directed Modulus Algorithm (DDMA), is also done. We study the convergence and the stability of the DDMA by means of an analysis of the minima of the DDM cost function. We also develop an analytic expression for the Excess Mean Square Error (EMSE) provided by the DDMA in the noiseless case. Then, we nd some interesting relationships among the DDM, the CM and the Wiener cost functions. We also develop a class of normalized algorithms and a class of Recursive Least Squares (RLS)-type algorithms for blind equalization inspired on the CMA-based techniques studied. Each family is composed of four algorithms with desirable properties and advantages over the original CM algorithms, specially when working with high-level QAM signals. Normalized and RLS techniques for equalization of Wiener channels are also developed. The behavior of the proposed classes of algorithms discussed is tested by computational simulations. We verify that the proposed techniques provide significative gains in performance, in terms of speed of convergence and residual error, when compared to the classical algorithms.