[pt] Em sistemas de comunicações móveis, a modulação digital em fase (PSK)é amplamente utilizada em esquemas de transmissão em rádio-propagação. Trabalhos anteriores consideraram alguns métodos baseados no critério de máxima verossimilhança (MV) para estimação de direção-de-chegada de sinais genéricos que atingem um conjunto (array) de sensores. Esta tese propõe um novo estimador MV para a direção-de-chegada, desenvolvido especificamente para sistemas de comunicação PSK. Dois modelos de transmissão são concebidos para estimação dos parâmetros: um mais idealizado, considerando todas as portadoras alinhadas no tempo com o receptor, e outro que considera este desalinhamento na forma de retardo. O número de parâmetros a serem conjuntamente estimados é significativamente reduzido ao se calcular o valor esperado dos sinais medidos no array de antenas com relação µas fases de modulação (dados de informação). O desempenho do estimador em vários cenários simulados é apresentado e comparado ao desempenho do estimador MV clássico desenvolvido sem considerar uma estrutura específica para o sinal. Limitantes de Cramér-Rao para os cenários de portadora única também são calculados. O método proposto se mostra mais robusto por apresentar melhor desempenho que o estimador MV clássico em todas as simulações. / [en] In mobile communication systems, phase shift keying (PSK) modulation is widely used in digital transmission schemes. Previous works have considered several maximum likelihood (ML) methods for the direction-of-arrival (DOA) estimation of generic signals reaching a phased-array of sensors. This thesis proposes a new ML DOA estimator designed to be used in PSK communication systems. Two transmission models are considered for parameter estimation: a simpler one, considering all carrier clocks time-aligned with the receiver clock, and another that considers this misalignment as a delay for each carrier. The number of parameters to be jointly estimated is significantly reduced when the expected value of the antenna array measured signals with respect to the modulation phases is evaluated. The estimator performance in several simulation scenarios is presented and compared to the performance of a classic ML estimator designed for all sorts of signal models. Cramér-Rao bounds for single carrier scenarios are also evaluated. The proposed method robustly outperforms the classic ML estimator in all simulations.

[pt] A maioria dos métodos e algoritmos para estimação de direção é pouco precisa em cenários formados por fontes próximas, pequenos lotes de amostras e sinais correlatados. Nos últimos anos, alguns métodos para superar tais óbices utilizaram conhecimento prévio de direções de sinais oriundos de usuários estáticos. Porém, este conceito está limitado a direções de chegada conhecidas. Esta tese apresenta várias contribuições para superar os problemas mencionados anteriormente. Introduz-se um novo conceito de conhecimento a priori aplicado à estimação de direção, substituindo-se as tradicionais direções de chegada disponíveis por estimativas preliminares obtidas on-line. Tal ideia é incorporada aos algoritmos propostos e suas extensões. Também é introduzido um conceito para a estimação da matriz de covariância de dados reduzindo-se iterativamente os seus subprodutos que ocorrem na região finita de amostras. Esta abordagem é complementada por uma análise da matriz de covariância modificada, que mostra que, após a primeira iteração, o Mean Squared Error (MSE) da matriz de covariância de dados livre desses subprodutos é menor ou igual ao MSE da matriz de covariância de dados original. Combinando-se os dois conceitos anteriormente descritos, obtém-se um novo método denominado Multi-Step Knowledge-Aided Iterative (MS-KAI) que eleva a precisão de algoritmos existentes. Inicialmente, o método MS-KAI é usado com Uniform linear Arrays (ULAs) e é combinado com o algoritmo Estimation of Signal Parameters via Rotational Invariance Techniques, resultando no algoritmo proposto MS-KAI-ESPRIT. O método é então ampliado para uso com um número arbitrário de iterações e combinado com o algoritmo Gradiente Conjugado, resultando no algoritmo MS-KAI-CG. Finalmente, ele é usado com arranjos aninhados e combinado com o algoritmo Multiple Signal Classification, resultando no algoritmo proposto MS-KAI-MUSIC. Simulações mostram que o método MS-KAI eleva a precisão de algoritmos baseados em subespaços, empregando modelos de sinais baseados em ULAs e non-ULAs. / [en] Most conventional methods and algorithms for direction finding suffer from poor accuracy when subjected to scenarios characterized by closely spaced sources, short data records and correlated source signals. In the last few years, some approaches to overcoming these problems have exploited prior knowledge of signal directions coming from static users. However, this concept is restricted to known directions of arrival. This thesis presents several contributions to dealing with the aforementioned problems. A novel concept of a priori knowledge applied to direction finding is first presented, which replaces the traditional available known DOAs so far employed with previous estimates obtained on line. This idea is then incorporated into the proposed algorithms and their extensions. Another approach is also introduced to estimating the data covariance matrix by iteratively reducing its by-products, which occurs in the finite sample region. This concept is complemented by a reshaped covariance matrix analysis, which shows that after the first iteration the Mean Squared Error of the data covariance matrix free of these side effects is less than or equal to the MSE of the original one. A novel method, termed Multi-Step Knowledge-Aided Iterative (MS-KAI), for increasing the accuracy of existing algorithms based on the combination of the previous concepts is then developed. The MS-KAI method is initially employed with Uniform Linear Arrays (ULAs) and is combined with the Estimation of Signal Parameters via Rotational Invariance Techniques algorithm, resulting in the proposed MS-KAI-ESPRIT algorithm. Then, MS-KAI is extended for use with an arbitrary number of iterations and combined with the Conjugate Gradient algorithm, resulting in the MSKAI- CG algorithm. Finally, the MS-KAI method is considered with nested arrays and combined with the Multiple Signal Classification algorithm, resulting in the proposed MS-KAI-MUSIC algorithm. Simulation results show that MS-KAI method enhances the accuracy of subspace based algorithms employing ULA and non-ULA based system models.

[pt] O problema de estimação de direção (DoA) de chegada é um importante tópico de pesquisa em áreas como radar, sonar, sismologia, vigilância eletrônica e comunicações sem fio. Este trabalho teve como principal resultado o desenvolvimento de um novo algoritmo que combina o método da máxima verossimilhança (ML) estocástica com o algoritmo ganancioso de busca ortogonal (OMP), comumente empregado em recuperação esparsa com Sensoriamento Compressivo (CS). Muito embora técnicas ML sejam consideradas ótimas em termos de erro médio quadrático, atingindo o limitante inferior de Cramér-Rao (CRLB), o menor limitante inferior para a variância do estimador, estas técnicas demandam de modo significante, às vezes inexequível, os recursos computacionais. Por outro lado, a partir de uma variante esparsa da equação de aquisição de dados, o problema de encontrar a solução mais esparsa possível de sistemas de equações subdeterminados com o algoritmo OMP tem sido empregado de modo satisfatório para encontrar as estimativas de direção, porém com muitas oportunidades de melhoria em casos com cenários sujeitos a condições severas. Por exemplo, cenários com acoplamento eletromagnético (EM), baixa razão sinal-ruído (SNR) e um número limitado de amostras temporais disponíveis. O estimador de direção proposto, baseado em coarranjo diferença, denominado OMP com Máxima Verossimilhança Baseado em Lista (LBML-OMP), apresentou uma melhora significativa no processo de estimação em comparação com técnicas tradicionais e modernas, tais como: OMP, Técnica de Limiar Iterativa (IHT) e Classificação de Múltiplos Sinais Espacialmente Suavizados (SS-MUSIC). A técnica proposta utiliza uma lista de candidatos gerada a partir da solução do algoritmo OMP original e decide pelo melhor a partir de uma busca limitada utilizando o estimador ML estocástico, o que justifica seu uso em cenários práticos. Para a amostragem dos sinais no ambiente, arranjos lineares não-uniformes clássicos e modernos foram empregados, tais como Arranjos Aninhados de Segunda Ordem (NAQ2), Arranjos Aninhados de Segunda Ordem Aperfeiçoados (SNAQ2), Arranjos de Redundância Mínima (MRA) e Arranjos Coprimos (CPA). Além disso, a estimação foi realizada considerando-se o efeito do acoplamento EM e ruído. Ainda, um novo modelo para estimação de direção em coarranjo diferença foi desenvolvido. Este modelo considera o número de amostras temporais finitas (não-assintótico) e mostrou melhora significativa quando do seu emprego no processo de estimação de direção de todos os algoritmos considerados, não apenas o LBML-OMP, evidenciando fontes secundárias de erro no modelo original estabelecido. De forma a complementar o trabalho, um algoritmo de atenuação de ruído chamado OMP aleatorizado (RandOMP) foi utilizado para aumentar a precisão da estimação em cenários com condições de ruído severas. Neste sentido, as contribuições deste trabalho estão relacionadas principalmente ao desenvolvimento de um novo algoritmo e um novo modelo de transformação em coarranjo diferença de modo a melhorar as estimativas de direção das fontes com arranjos lineares não-uniformes. Além disso, enfatiza-se o emprego de diferentes geometrias para as simulações, tornando-se evidente o impacto da posição dos sensores nas curvas de raiz quadrada do erro médio quadrático (RMSE). / [en] The Direction of Arrival (DoA) estimation or Direction Finding (DF) is a relevant topic for research in areas such as radar, sonar, seismology, electronic surveillance, and wireless communications. This thesis devises a new algorithm that combines a stochastic Maximum Likelihood (ML) method with the widely-known Orthogonal Matching Pursuit (OMP) greedy algorithm, commonly used in sparse recovery with Compressive Sensing (CS). Even though ML techniques are known to be optimal in the mean-squared error sense, achieving the Cramér-Rao Lower Bound (CRLB), the tighter lower bound on estimator variance, they demand a significant, sometimes infeasible, amount of computational resources. On the other hand, departing from a sparsified variant of the data acquisition equation, the problem of finding the sparsest solution of underdetermined systems of equations with OMP has been employed successfully to find the DoA estimates, but with many opportunities for improvement in cases of challenging scenarios. For instance, scenarios with electromagnetic (EM) coupling, low signal-to-noise ratio (SNR), and a limited number of available snapshots (time samples). The proposed difference coarray DoA estimator termed List-Based Maximum Likelihood OMP (LBML-OMP) has shown substantial improvements over traditional and modern techniques, such as OMP, Iterative Hard Thresholding (IHT), and Spatial Smoothing Multiple Signal Classification (SS-MUSIC). It uses a list of candidates generated from the OMP solution and decides for the best based on a limited search using the stochastic ML rule. Thus, it does not perform a grid search with the ML estimator, and this justifies its use in practical scenarios. For the sensing of space-time field, classic and modern non-uniform linear arrays are employed, such as 2-nd Order Nested Array (NAQ2), 2-nd Order Super Nested Array (SNAQ2), Minimum Redundancy Array (MRA), Minimum Hole Array (MHA), and Coprime Array (CPA). Additionally, the estimation is performed under the assumption of EM coupling and noise as disturbing side effects. Furthermore, a new model for difference coarray DoA estimation is developed. It accounts for the finite number of snapshots and has shown to increase the estimation accuracy for all the algorithms, not only LBML-OMP, evidencing secondary sources of error for the difference coarray transformation. To complement the work, a denoising algorithm called Randomized OMP (RandOMP) was applied to successfully increase the estimation accuracy for difference coarray estimators in scenarios with severe noisy conditions. The contributions of this work relate mainly to the development of a new algorithm and a new difference coarray transformation to improve the DoA estimation accuracy with non-uniform linear arrays. Also, it should be noticed the employment of different geometries for the numerical experiments, making evident the impact of the array sensors positions in the root mean square error (RMSE) curves.

[pt] A estimação de direção de chegada (DoA) é uma importante área de processamento de arranjos de sensores que é encontrada em uma ampla gama de aplicações de engenharia. Este fato, juntamente com o desenvolvimento da área de Compressed Sensing (CS) nos últimos anos, são a principal motivação desta dissertação. Nesta dissertação, é apresentada uma formulação do problema de estimação de direção de chegada como um problema de representação esparsa da sinal e vários algoritmos de recuperação esparsa são derivados e investigados para resolver o problema atual. Os algoritmos propostos são baseados na incorporação da informação prévia sobre o sinal esparso no processo de estimativa. Na primeira parte, nos concentramos no desenvolvimento de dois algoritmos Bayesianos , que se baseiam principalmente no algoritmo iterative hard thresholding (IHT). Devido ao desempenho inferior dos algoritmos convencionais de estimação de chegada em cenários com fontes correlacionadas, nós prestamos atenção especial ao desempenho dos algoritmos propostos nesta condição. Na segunda parte, o problema de otimização baseados na minimização da norma l1 é apresentado e um algoritmo bayesiano é proposto para resolver o problema chamado basis pursuit denoising (BPDN). Os resultados da simulação mostram que os estimadores Bayesianos superam os estimadores não Bayesianos e que a incorporação do conhecimento prévio da distribuição do sinal melhorou substancialmente o desempenho dos algoritmos. / [en] Direction of arrival (DoA) estimation is a key area of sensor array processing which is encountered in a broad range of important engineering applications. This fact together with the development of the Compressed Sensing (CS) area in the last years are the principal motivation of this thesis. In this dissertation, a formulation of the source localization problem as a sparse signal representation problem is presented and several sparse recovery algorithms are derived and investigated for solving the current problem. The proposed algorithms are based on the incorporation of the prior information about the sparse signal in the estimation process. In the first part, we focus on the development of two Bayesian greedy algorithms which are principally based on the iterative hard thresholding (IHT) algorithm. Due to the inferior performance of the conventional DoA estimation algorithm in scenarios with correlated sources, we pay special attention to the performance of the proposed algorithms under this condition. In the second part, the optimization problem using a l1 penalty is introduced and a Bayesian algorithm for solving the basis pursuit denoising problem is presented. Simulation results shows that Bayesian estimators which take into account the prior knowledge of the signal distribution outperform and improve substantially the performance of the non-Bayesian estimators.