[pt] Nesta dissertação é investigada, por meio de simulações computacionais, a utilização do conceito de rádio cognitivo considerando a técnica de sensoriamento espectral aplicada às femtocélulas do sistema móvel LTE Release 10 para reduzir os problemas de interferência entre camadas (cross-tier) existentes em um cenário de coexistências das redes heterogêneas (femtocélulas e macrocélulas). Além disso, é investigada a interferência gerada por parte das femtocélulas LTE Release 10 em receptores de TV Digital operando em bandas de frequência adjacentes. Neste caso, além da simulação computacional foram realizadas medições em cenários de coexistência da femtocélula LTE e do Sistema Brasileiro de TV Digital na banda de frequência de 700 MHz. / [en] This dissertation investigates, using computer simulation, the use of spectrum sensing Cognitive Radio concept applied in femtocells of the LTE Release 10 mobile system in order to reduce the interference cross-tier problems that exists in the coexistence scenario of a heterogeneous network (femto-macrocells). Furthermore, the interference produced by LTE Release 10 femtocells in TV Digital receivers operating in adjacent frequency bands was investigated. In this case, besides the computer simulations measurements were performed in an experimental setup implementing coexistence scenarios of the LTE femtocell and the Brazilian Digital TV System at the 700 MHz frequency band.

[pt] O presente trabalho apresenta os resultados obtidos com simulações computacionais de interferência entre sistemas LTE e TV Digital na faixa de 700 MHz e de medições de campo. Os resultados da campanha de medições foram usados para validar uma ferramenta de simulação que permite a avaliação de interferência entre os sistemas SBTVD e LTE em diferentes cenários. A ferramenta foi, então, utilizada para analisar a probabilidade de interferência que depende da distância entre os sistemas, da potência de transmissão, do número de interferentes e outros parâmetros que permitem definir as condições para a coexistência harmoniosa dos sistemas. A partir da validação da ferramenta, cenários de interferência com múltiplos receptores LTE e DTV foram simulados, com o propósito de reproduzir problemas mais realistas. Na última etapa do trabalho, como estudo de caso, foi realizada uma avaliação de interferência do sistema LTE nos receptores de TV Digital em cenário representativo da região da zona sul do município do Rio de Janeiro. / [en] This work presents the results of computer simulations of the interference between LTE system and ISDB-TB Digital TV system in the 700 MHz band and field measurements. The results of the measurement campaign were used to validate a simulation tool that runs different scenarios between the SBTVD systems and LTE. The software tool was used to analyze the probability of interference and its dependence on the distance between systems, transmission power, number of interferers and other parameters, aiming to estimate the conditions for the coexistence of the systems. Once the software tool was validated, different interference scenarios with multiple LTE and DTV receivers were analyzed, in order to reproduce more realistic problems. In the last part of this study, an interference evaluation from LTE system on Digital TV receivers was performed in the scenario which represents a region within the South Zone of the city of Rio de Janeiro.