It has been well reported that the use of multidimensional constellation signals can help to reduce the bit error rate in Additive Gaussian channels by using the hyperspace geometry more efficiently. Similarly, in fading channels, dimensionality provides an inherent signal space diversity (distinct components between two constellations points), so the amplitude degradation of the signal are combated significantly better. Moreover, the set of n-dimensional signals also provides great compatibility with various Trellis Coded modulation schemes: N-dimensional signaling joined with a convolutional encoder uses fewer redundant bits for each 2D signaling interval, and increases intra-subset minimum squared Euclidean distance (MSED) to approach the ultimate capacity limit predicted by Shannon's theory. The multidimensional signals perform better for the same complexity than two-dimensional schemes. The inherent constellation expansion penalty factor paid for using classical mapping structures can be decreased by enlarging the constellation's dimension. In this thesis, a multidimensional signal set construction paradigm that completely avoids the constellation expansion penalty is used in Band-limited channels and in fading channels. As such, theoretical work on performance analysis and computer simulations for Quadrature-Quadrature Phase Shift Keying (Q2PSK), Constant Envelope (CE) Q2PSK, and trellis-coded 16D CEQ2PSK in ideal band-limited channels of various bandwidths is presented along with a novel discussion on visualization techniques for 4D Quadrature-Quadrature Phase Shift Keying (Q2PSK), Saha's Constant Envelope (CE) Q2PSK, and Cartwright's CEQ2PSK in ideal band-limited channels. Furthermore, a metric designed to be used in fading channels, with Hamming Distance (HD) as a primary concern and Euclidean distance (ED) as secondary is also introduced. Simulation results show that the 16D TCM CEQ2PSK system performs well in channels with AWGN and fading, even with the simplest convolutional encoder tested; achievable coding gains using 16-D CEQ2PSK Expanded TCM schemes under various conditions are finally reported.

Nas últimas décadas, diversos sistemas de comunicação baseados em caos foram propostos. Dentre eles, vários utilizam uma função para codificar uma mensagem em um sinal caótico, que é caracterizado como um sinal de banda larga. Dado que o canal de transmissão é limitado em banda por natureza, é necessário determinar e controlar o espectro do sinal caótico transmitido por esse sistema. Nesse sentido, um sistema de comunicação em banda limitada, baseado em sincronismo caótico, foi proposto recentemente utilizando-se filtros digitais para controlar a largura de banda dos sinais transmitidos. Esses filtros, inseridos no sistema de comunicação, modificam o sistema original gerador do sinal caótico, tornando-se necessário analisar como essa inserção afeta o sincronismo caótico. Nessa tese, apresenta-se uma análise desse sistema de comunicação digital de tempo discreto, baseado em sincronismo caótico, considerando-se um canal com ruído aditivo branco gaussiano. As condições necessárias para a sincronização desse sistema são obtidas analiticamente, por meio de um teorema, para um mapa gerador de caos qualquer. O desempenho desse sistema é avaliado em termos da taxa de erro de bit, e, para melhorar seu desempenho, propõe-se filtrar o ruído fora da banda do sinal na entrada do receptor. Apesar das condições de sincronismo terem sido determinadas, a inserção dos filtros também pode modificar a natureza caótica dos sinais, e não há garantia que os sinais transmitidos sejam caóticos. Para analisar a natureza caótica dos sinais transmitidos pelo sistema de comunicação, o maior expoente de Lyapunov é obtido numericamente em função dos coeficientes dos filtros, dos parâmetros do mapa e da função de codificação da mensagem. / In recent decades, several chaos-based communication systems have been proposed. Many of them use a function to encode a message into a chaotic signal, which is characterized as wideband. Since every transmission channel is bandlimited in nature, it is necessary to determine and to control the spectrum of the chaotic signal transmitted by this system. This way, a bandlimited chaos-based communication system was recently proposed using digital filters and chaotic synchronization. These filters, inserted in the communication system, modify the original chaotic generator system, becoming necessary to study how their insertion affect chaotic synchronization. In this work, we present an analysis of this discrete-time chaos-based digital communication system considering an additive white Gaussian noise channel. The synchronization conditions of this system is analytically obtained, through a theorem, for a generic chaos generator map. The system performance is evaluated in terms of bit error rate, and, to obtain a performance improvement, it is also proposed to filter the out-of-band noise in the receiver. Although the conditions for chaotic synchronization have been determined, the filters insertion can also modify the chaotic nature of the signals, and there is no guarantee that the transmitted signals remain chaotic. To analyze the chaotic nature of the communication system transmitted signals, the largest Lyapunov exponent is numerically accessed as a function of the filters coefficients, the parameters of the map and the message coding function.

Nas últimas décadas, diversos sistemas de comunicação baseados em caos foram propostos. Dentre eles, vários utilizam uma função para codificar uma mensagem em um sinal caótico, que é caracterizado como um sinal de banda larga. Dado que o canal de transmissão é limitado em banda por natureza, é necessário determinar e controlar o espectro do sinal caótico transmitido por esse sistema. Nesse sentido, um sistema de comunicação em banda limitada, baseado em sincronismo caótico, foi proposto recentemente utilizando-se filtros digitais para controlar a largura de banda dos sinais transmitidos. Esses filtros, inseridos no sistema de comunicação, modificam o sistema original gerador do sinal caótico, tornando-se necessário analisar como essa inserção afeta o sincronismo caótico. Nessa tese, apresenta-se uma análise desse sistema de comunicação digital de tempo discreto, baseado em sincronismo caótico, considerando-se um canal com ruído aditivo branco gaussiano. As condições necessárias para a sincronização desse sistema são obtidas analiticamente, por meio de um teorema, para um mapa gerador de caos qualquer. O desempenho desse sistema é avaliado em termos da taxa de erro de bit, e, para melhorar seu desempenho, propõe-se filtrar o ruído fora da banda do sinal na entrada do receptor. Apesar das condições de sincronismo terem sido determinadas, a inserção dos filtros também pode modificar a natureza caótica dos sinais, e não há garantia que os sinais transmitidos sejam caóticos. Para analisar a natureza caótica dos sinais transmitidos pelo sistema de comunicação, o maior expoente de Lyapunov é obtido numericamente em função dos coeficientes dos filtros, dos parâmetros do mapa e da função de codificação da mensagem. / In recent decades, several chaos-based communication systems have been proposed. Many of them use a function to encode a message into a chaotic signal, which is characterized as wideband. Since every transmission channel is bandlimited in nature, it is necessary to determine and to control the spectrum of the chaotic signal transmitted by this system. This way, a bandlimited chaos-based communication system was recently proposed using digital filters and chaotic synchronization. These filters, inserted in the communication system, modify the original chaotic generator system, becoming necessary to study how their insertion affect chaotic synchronization. In this work, we present an analysis of this discrete-time chaos-based digital communication system considering an additive white Gaussian noise channel. The synchronization conditions of this system is analytically obtained, through a theorem, for a generic chaos generator map. The system performance is evaluated in terms of bit error rate, and, to obtain a performance improvement, it is also proposed to filter the out-of-band noise in the receiver. Although the conditions for chaotic synchronization have been determined, the filters insertion can also modify the chaotic nature of the signals, and there is no guarantee that the transmitted signals remain chaotic. To analyze the chaotic nature of the communication system transmitted signals, the largest Lyapunov exponent is numerically accessed as a function of the filters coefficients, the parameters of the map and the message coding function.