CoordenaÃÃo de AperfeiÃoamento de Pessoal de NÃvel Superior / Este trabalho apresenta estudos sobre sistemas de comunicaÃÃo cujos sinais utilizados para a transmissÃo das informaÃÃes sÃo nÃo-ortogonais, superpostos em frequÃncia, e com espaÃamento entre portadoras menor do que a taxa de sÃmbolo. As pesquisas estÃo direcionadas na obtenÃÃo de estruturas de transmissor e receptor Ãtimos e sub-Ãtimos, na modelagem e anÃlise matemÃtica dos sistemas incluindo o canal, em propostas de estratÃgias para detecÃÃo de sÃmbolo, e na avaliaÃÃo de desempenho. SÃo propostas sete estratÃgias de recepÃÃo de N sinais m-QAM nÃo-ortogonais atravÃs do canal AWGN. Dentre as estratÃgias de detecÃÃo duas sÃo Ãtimas e as outras cinco sÃo subÃtimas. As duas estruturas de receptores Ãtimos apresentados neste trabalho sÃo: o receptor de mÃxima verossimilhanÃa (ML) clÃssico e o receptor de mÃxima verossimilhanÃa com base na decomposiÃÃo de Gram-Schmidt. Os receptores sub-Ãtimos desenvolvidos neste trabalho sÃo de dois tipos: receptores com equalizaÃÃo linear e receptores com equalizaÃÃo nÃo-linear. O primeiro tipo de receptor à desenvolvido com base nos critÃrios de erro quadrÃtico mÃdio mÃnimo (MMSE) e o de forÃagem a zero (ZF). à apresentado o desenvolvimento analÃtico do projeto de cada uma das arquiteturas de receptores lineares, assim como à determinado o erro dos estimadores. Os receptores com equalizaÃÃo nÃo-linear sÃo baseados no cancelamento de interferÃncia sucessiva (SIC). Neste trabalho, à proposta uma modificaÃÃo no algoritmo do SIC original, resultando em uma nova arquitetura de equalizaÃÃo. O desempenho dos receptores propostos à avaliado em diferentes condiÃÃes de nÃmero de portadoras e de grau de superposiÃÃo espectral atravÃs de simulaÃÃo computacional. Por fim, sÃo apresentados as conlusÃes e as perspectivas futuras de pesquisa. / This work presents studies on communication systems, whose signals used for transmission of information are non-orthogonal, overlapping in frequency and carrier spacing less than the rate of symbols. The research is aimed to obtain structures of transmitter, optimal and sub-optimal receivers using modeling and mathematical analysis of systems including the channel. Furthermore, propose strategies for symbol detection and performance evaluation. Seven strategies of reception to N signals m-QAM non-orthogonal through the AWGN channel. Among the strategies of detection two are optimal and the others five are suboptimal. The two optimal receivers structures presented in this paper are: the classical receiver maximum likelihood (ML) receiver and maximum likelihood based on the Gram-Schmidt decomposition. The suboptimal receivers in this work are of two types: receivers with linear and nonlinear equalization. The first type of receiver is developed based on the criteria of minimum mean square error (MMSE) and the zero forcing (ZF). It is presented the development of analytical design of each linear receiver architectures, as well as determined the error of the estimators. The receivers with nonlinear equalization are based on successive interference cancellation (SIC). In this paper, we propose a modification to the original algorithm of SIC, resulting in a new architecture of equalization. The performance of the proposed receivers is evaluated under different number of carriers and the degree of spectral overlap using computer simulation. Finally, we present the conclusions of this work and future prospects of the research.