[pt] É desenvolvido, inicialmente, um modelo geral para os sistemas de Transmissão Digital Coerentes em presença de ruído térmico e interferência entre símbolos obtendo-se expressões formais da Probabilidade de Erro para diversos sistemas de modulação. A seguir são apresentados e analisados métodos para o cálculo aproximado destas Probabilidades de Erro em função dos momentos da amostra interferente colhida no receptor. São comparados métodos para o cálculo dos momentos de uma soma de variáveis aleatórias e os métodos da Série de Gram-Charlier e da Regra de Quadratura de Gauss para aproximação da Probabilidade de Erro. E constatada a maior eficiência da Regra da Quadratura de Gauss e a possibilidade de se reduzir os cálculos a um problema unidimensional, mesmo em sistemas de modulação bidimensional. Finalmente a aplicação do método é ilustrada em casos de interesse. / [en] This work develops first a general model for Coherent Digital Transmission Systems in presence of thermal noise and intersymbol interference arriving at error probabilities expressions for several modulation systems. Methods of approximate calculations of error probabilities based on moments of received interference samples are presented and analyzed. Comparisons are made between methods for calculating moments of sums of random variables. Comparisons between methods for approximating error probabilities are also made. It was found Gauss Quadrature Rule method for approximating these error probabilities was more efficient then Gram-Charlier Series method. It was also found possible to reduce calculations into a unidimensional problem, even in bidimensional modulation systems. At the end several applications of methods are shown.

[pt] O trabalho examina o comportamento de Codificadores de forma de onda operando a 32,56 e 64kbit/s para transmissão digital de sinais de voz e de sinais de dados PSK-8 a 4800 bit/s e QAM-16 a 9600 bit/s. A partir de uma análise detalhada dos diversos sistemas, tanto em canal ideal como um canal ruidoso, é verificada a necessidade de se fazer uma identificação do tipo de sinal. De modo a permitir sua codificação de forma mais eficiente. É, então, proposta e avaliada a utilização de uma técnica de identificação estatística de sinais de voz e dados, em codificadores de forma de onda. A incorporação desta técnica ao sistema ADPCM a 32 kbit/s recomendado pelo CCITT permite uma melhoria do desempenho para sinais de dados, sem com isso alterar sua eficiência para sinais de voz. / [en] This thesis evaluates the performance of waveform coders at 32,56 and 64kbit/s for digital transmission of speech signal and 4800 bit/s PSK-8 and 9600 bit/s QAM-16 voiceband data signas. A detailed analysis of the systems is carried out both under ideal and noisy channel conditions. From this analysis it was found that a scheme which accurately distinguishes the two classes of signals, would allow a more efficient encoding procedure. A method of statistical identification of speech and data signals is proposed and its use in wakeform coders is, then, analysed. The incorporation of this method into the 32 kbit/s ADPCM system recommended by CCITT provides an improvement in performance for data signals, without sacrificing its efficiency for speech signal.

[pt] O trabalho analisa o desempenho de sistemas de transmissão digital com modulação de amplitude em quadratura (QAM), considerando o efeito de distorções na função de transferência do canal de transmissão. Assumindo formas polinomiais, senoidais e exponenciais para a função de transferência do canal, são calculados analiticamente o valor médio quadrático e o valor de pico da interferência entre símbolos (IES) em um sistema QAM com filtros de transmissão e recepção com espectros em raiz quadrada de cosseno levantado. As expressões obtidas são então utilizadas para calcular, aproximadamente, a probabilidade de erro e avaliar o efeito das distorções no desempenho dos sistemas, com aplicações ilustrativas a sistemas QAM- 16 e QAM-64. É dada uma atenção especial à função de transferência associada ao modelo de 2 raios, geralmente utilizada para representar o efeito de desvanecimento seletivo em sistemas radio digitais. Com os resultados obtidos neste caso e a suposição de que a IES se comporta como uma variável Gaussiana, propõe-se um método baseado em expressões analíticas relativamente simples para determinar, com precisão razoável, a assinatura de sistemas radio digitais. / [en] The performance of digital transmission systems with quadrature amplitude modulation (QAM) is analised considering the effect of linear distortions in the channel transfer function. Assuming polinomial, sinusoidal and exponential forms for the channel transfer function, the mean square value and the peak value of the intersymbol interference (ISI) are analitically determined in a QAM system with square-root raised cosine transmit and receive filters. The obtained analytic expressions are then used to approximate the error probability and to evaluate the distortion effect in the system performance with particular application to some 16-QAM and 64-QAM systems. Special attention is given to the 2-Ray Model transfer function, generally used to represent selective fading in digital radio systems. Assuming that the ISI behaves as a Gaussian variable and using relatively simple analytic expressions, a method is proposed to determine the Signature of a digital radio system.

[pt] Neste trabalho são estudados sistemas de codificação digital de sinais de voz em sub-bandas, operando na taxa de 16 kbit/s. Os sistemas são analisados em função do número de sub-bandas, dos esquemas de codificação utilizados nas diversas sub-bandas, dos parâmetros e das técnicas empregados na adaptação dos quantizadores e do tipo de alocação dos recursos binários. A decomposição espectral do sinal é realizada a partir de bancos de filtros espelhados em quadratura (QMF), que tem a vantagem de evitar a sobreposição dos espectros nas diversas sub- bandas. Os sistemas são avaliados, através de simulação em computador, tanto em canal ideal como em um canal ruidoso, utilizando como figura de mérito a razão sinal-ruído frequencial. O desempenho obtido em termos das razões sinal-ruído global e segmentada também é apresentado em todos os casos analisados. A partir de um exame detalhado dos diversos sistemas e proposta uma estrutura de codificação em que a configuração do quantizador e sua técnica de adaptação dependem da sub-banda a ser codificada. Além disso, o sistema proposto utiliza um algoritmo para alocação dos recursos binários baseado em comparações de energias de blocos de amostras das diversas sub-bandas. / [en] In this thesis a study of 16 kbit/s sub-band coding of speech signals is presented. The encoding systems are examined in terms of the number of sub-bands, the schemes used to encode the sub-band signals, the parameters and techniques employed in the quantizers adaptation and the type of bit allocation. Spectral decomposition of the input signal is carried out by means of quadrature mirror filter (QMF) banks. The systems are evaluated through computer simulation, both in ideal and noisy channels, using the frequency - weighted signal-to-noise ratio as the performance criterion. The global and segmental signal- to-noise ratio performances are also given in all cases. After a detailed examination of the various systems, a coding structure is proposed , in which the configuration of the quantizer and its adaptation techniques depend on the sub-band to be coded. Furthermore, the proposed system uses an algorithm for bit allocation based on comparison of the energies fo blocks of samples in the several sub-bands.

[pt] Neste trabalho será inicialmente discutida a recepção e o desempenho de sinais espalhados espectralmente em canais corrompidos por ruído aditivo gaussiano branco e por desvanecimento plano ou seletivo. A seguir será feita a análise de sistemas CDMA, abordando-se a estrutura de recepção, os códigos de espalhamento, a caracterização estatística da interferência multiusuário e a influência das fases das portadoras, dos filtros de transmissão, dos atrasos entre os sinais e da sincronização na potência interferente. Será também abordado o controle de potência em sistemas CDMA, avaliando-se a redução da capacidade causada por erros neste controle, obtendo-se sua implementação e propondo-se um algoritmo de minimização do erro médio quadrático caso a solução analítica não possa ser aplicada. Por fim, será feita a descrição da transmissão do sinal de tráfego da padronização do sistema CDMA IS-95 e avaliado o desempenho do esquema de recepção proposto. / [en] This work will initially discuss reception and performance issues of spread sprectrum signals considering additive white gaussian noise and flat or selective fading channels. Then it will analyze the CDMA system, considering the reception structure, spreading codes, multiuse interference statistical characteristics, and the influence of carrier phases, transmission filters, delays between signals abd synchronization on the interference power. It will also adress the power control in CDMA systems, evaluating the capacity reduction caused by power control errors, achieving an analytical soluction to the power allocation in the forward link, discussing its implementation and suggesting a least square error algorithm when the analytical soluction can not be used. Finally, it will describe the traffic channel transmission in the IS-95 CDMA standard, evaluating the performance of the reception model.

[pt] Como alternativa ao cálculo do desempenho através de métodos analíticos, é desenvolvido um programa de simulação de sistemas de transmissão digital com modulação de fase (PSK, Off-set PSK e MSK) e recepção coerente através de canais não lineares. Representando os sinais através de suas envoltórias complexas o programa permite simular qualquer modelo de canal envolvendo filtros e não linearidades, estas representadas através de suas curvas de conversão AM / AM e AM / PM. O programa fornece 3 resultados: Estimativas da probabilidade de erro, do espectro de potência e o diagrama de olho. O ruído térmico é considerado apenas na entrada do receptor. Para o cálculo da probabilidade de erro entretanto este ruído não é simulado sendo seu efeito calculado analiticamente através de um procedimento denominado simulação híbrida. Os resultados obtidos pelo programa são bastante próximos de resultados teóricos e de medidas em diversas aplicações. / [en] As an alternative approach to evaluate the performance by analytical methods, a simulation program for Digital Transmission Systems with phase modulation (PSK, Off Set and MSK) and coherent reception, through non-linear channels is developed. Representing the signals by their complex envelopes, the program is able to simulate any channel model including filters and non-linearities wich are represented by their AM / AM and AM / PM curves. The program furnishes 3 results: Error probability estimation, power spectrum estimation and eye diagram. The thermal noise is considered only at the receiver input. The effect of the thermal noise is evaluated analytically (hybrid simulation), instead of generating the noise within the program. The results given by the program are very close to theoretical results and measurements obtained in several applications

[pt] A necessidade pela transmissão em altas taxas, por exemplo nos novos sistemas de TV Digital de alta definição, telefonia celular de terceira e quarta geração, DSL e etc, trazem consigo um problema: o aumento dos múltiplos percursos no canal de comunicações (principalmente nas interfaces áereas), dando origem ao fenômeno de interferência intersimbólica (IES). Este trabalho investiga o desempenho de sistemas de transmissão com uma única portadora (SC ou single-carrier) com equalização linear no domínio da freqüência. Diferentes algoritmos recursivos são apresentados para implementar estes filtros FIR. Além dos equalizadores lineares, uma estrutura não-linear é introduzida, onde decisões passadas do decisor de mínima distância são utilizadas para mitigar os efeitos da IES na detecção dos símbolos subseqüentes. Este arranjo é conhecido como equalização/filtragem com decisões realimentadas (DFE ou Decision Feedback Equalizers). Por último, os resultados obtidos com o sistema SC nas diferentes configurações de filtragem na recepção são comparados com os resultados do já estabelecido sistema OFDM. A transmissão OFDM se dá com múltiplas portadoras, onde as freqüências das sub-portadoras são ortogonais entre si, permitindo que a informação seja enviada de forma paralela. Resultados mostram que os sistemas SC-FDE tem desempenho superior aos sistemas OFDM. / [en] The demand for high rate transmission systems, for example in HDTV, third and fourth generation cellular telephony, DSL and so on, causes the rise of a problem: The multipath communications channel (specially in wireless communications), which leads to intersymbol interference phenomenon (ISI). The present work investigates the performance of single-carrier (SC) transmission systems with frequency-domain linear equalization. Different recursive algorithms are presented in order to implement these FIR filters. Besides the linear equalizers, a non- linear structure is introduced, where the past decisions made by the detectors are used to mitigate the effect of ISI on the detection of the forthcoming symbols. This set is known as Decision Feedback Equalizers (DFE). Finally, the results of the aforementioned systems are compared to the well-known OFDM. OFDM transmission relies on sub-carriers, frequency orthogonal to each other, in which the data is sent in a parallel basis. The results obtained show that SC- FDE systems outperform OFDM systems.

[pt] Em sistemas de comunicações móveis, a modulação digital em fase (PSK)é amplamente utilizada em esquemas de transmissão em rádio-propagação. Trabalhos anteriores consideraram alguns métodos baseados no critério de máxima verossimilhança (MV) para estimação de direção-de-chegada de sinais genéricos que atingem um conjunto (array) de sensores. Esta tese propõe um novo estimador MV para a direção-de-chegada, desenvolvido especificamente para sistemas de comunicação PSK. Dois modelos de transmissão são concebidos para estimação dos parâmetros: um mais idealizado, considerando todas as portadoras alinhadas no tempo com o receptor, e outro que considera este desalinhamento na forma de retardo. O número de parâmetros a serem conjuntamente estimados é significativamente reduzido ao se calcular o valor esperado dos sinais medidos no array de antenas com relação µas fases de modulação (dados de informação). O desempenho do estimador em vários cenários simulados é apresentado e comparado ao desempenho do estimador MV clássico desenvolvido sem considerar uma estrutura específica para o sinal. Limitantes de Cramér-Rao para os cenários de portadora única também são calculados. O método proposto se mostra mais robusto por apresentar melhor desempenho que o estimador MV clássico em todas as simulações. / [en] In mobile communication systems, phase shift keying (PSK) modulation is widely used in digital transmission schemes. Previous works have considered several maximum likelihood (ML) methods for the direction-of-arrival (DOA) estimation of generic signals reaching a phased-array of sensors. This thesis proposes a new ML DOA estimator designed to be used in PSK communication systems. Two transmission models are considered for parameter estimation: a simpler one, considering all carrier clocks time-aligned with the receiver clock, and another that considers this misalignment as a delay for each carrier. The number of parameters to be jointly estimated is significantly reduced when the expected value of the antenna array measured signals with respect to the modulation phases is evaluated. The estimator performance in several simulation scenarios is presented and compared to the performance of a classic ML estimator designed for all sorts of signal models. Cramér-Rao bounds for single carrier scenarios are also evaluated. The proposed method robustly outperforms the classic ML estimator in all simulations.

[pt] crescimento dos sistemas de comunicações móveis celulares e dos sistemas de rádio difusão de sinais de áudio e vídeo tem despertado grande interesse na pesquisa de novos métodos para a transmissão de sinais nestas redes. A necessidade de se transmitir dados em altas taxas, com significante eficiência no uso da largura de faixa de freqüências disponível, e por meio de um canal de propagação ruidoso e variante no tempo, constitui o principal problema para o desenvolvimento de novas técnicas de trasmissão de sinais. Dentro deste contexto, esta dissertação trata do uso dos conceitos de transmissão digital e filtragem adaptativa para a demodulação de sinais OFDM (Orthogonal Frequency Division Multiplexing). A equalização de sinais antes e após o estágio de DFT (Discrete Fourier Transform) no receptor e as técnicas de estimação de canal são o objeto principal de estudo deste trabalho. Os resultados dos experimentos são analisados em termos da taxa de erro de bit média obtida e da convergência dos algoritmos empregados nas etapas de equalização e estimação de canal no receptor. / [en] The growth of cellular mobile communication systems and audio and video broadcasting systems has stimulated great interest in the research of new methods for the signal transmission in these networks. The high rate data transmission, with significant efficiency in the use of the available bandwidth, in a noisy and time variant channel, constitutes the main problem for the development of new techniques for signal transmission. In this context, this dissertation deals with the use of the concepts of digital transmission and adaptive filtering for the demodulation of OFDM (Orthogonal Frequency Division Multiplexing) signals. The equalization pre and post DFT (Discrete Fourier Transform) in the receiver and the channel estimation techniques are the main object of study in this work. The results of the experiments are analyzed in terms of the mean bit error rate achieved and the convergence for the algorithms used in the stages of equalization and channel estimation in the receiver.

[pt] Neste trabalho, quatro métodos projetados especificamente para a estimação de sistemas esparsos são originalmente elaborados e apresentados. São eles: Encolhimentos Sucessivos, Expansões Sucessivas, Minimização da Norma l1 e Ajuste Automático do fator de regularização do Custo LS. Os quatro métodos propostos baseiam-se na técnica de estimação de sistemas lineares e invariantes no tempo pelo critério dos mínimos quadrados, universalmente conhecida por sua denominação em inglês - Least Squares (LS) Estimation, e incorporam técnicas relacionadas a otimização convexa e à teoria de compressive sensing. Os resultados obtidos em simulações mostram que os métodos em questão têm desempenho superior que a estimação LS convencional e que o algoritmo Recursive Least Squares (RLS) com regularização convexa denominado l1-RLS, em muitos casos alcançando o desempenho ótimo apresentado pelo método de estimação LS Oráculo, no qual o suporte da resposta ao impulso em tempo discreto do sistema estimado é conhecido a priori. Além disso, os métodos propostos apresentam custo computacional menor que do algoritmo l1-RLS. / [en] In this thesis, four methods specifically designed for sparse systems estimation are originally developed and presented, which were called here: Relaxations method, Successive Expansions method, l1-norm Minimization method and Automatic Adjustment of the Regularization Factor method. The four proposed methods are based on the Least Squares (LS) Estimation method and incorporate techniques related to convex optimization and to the theory of compressive sensing. The simulation results show that the proposed methods herein present superior performance than the ordinary LS estimation method and the Recursive Least Squares (RLS) with convex regularization method (l1-RLS), in many cases achieving the same optimal performance presented by the LS Oracle method. Furthermore, the proposed methods demand lower computational cost than the l1-RLS method.