[pt] Os efeitos da difração na propagação de ondas de rádio sobre terreno irregular em VHF e outras bandas a ser usado por futuras aplicações da TV digital são normalmente estimados usando um dos muitos modelos clássicos. Nesta dissertação é feita uma comparação dos erros cometidos na previsão do sinal recebido por três modelos de propagação computacionalmente intensivos. Os resultados da presente comparação indicarão se os esforços computacionais envolvidos na aplicação destes métodos são capazes de diminuir o valor médio e desvio padrão das diferenças entre as medidas e predições determinadas pelos métodos clássicos. / [en] Diffraction effects on the propagation of radio wave over irregular terrain in the VHF and other bands to be used by future digital TV applications are normally estimated using one of many classical models. In this dissertation is made a comparison of the errors committed prediction of signal received by three propagation models computationally-intensive. The results of the present comparison will indicate whether the computational efforts involved on the application of these methods are capable of decreasing the mean value and the standard deviation of the difference between measurements and predictions determined by the classical methods.

[pt] Os efeitos das variações laterais de um terreno irregular na propagação de ondas eletromagnéticas são considerados pela representação dos campos vetoriais em termo de dois potenciais escalares Hertzianos em coordenadas esféricas. A combinação da equação parabólica para esses potenciais com uma condição de contorno de impedância para o solo, seguida por uma transformação de variáveis, define um problema de condição de contorno caracterizado por equações exibindo coeficientes que dependem da função altura do terreno e de suas derivadas parciais. A solução do problema através do esquema de Crank-Nicolson leva a um sistema esparso de equações lineares que é resolvido por um método direto. O modelo numérico resultante é aplicado a terrenos irregulares, representando configurações tridimensionais hipotéticas. / [en] The effects from lateral variations of irregular terrain on the propagation of radio waves are considered by the representation of the vector fields in terms of two scalar Hertz potentials in spherical coordinates. The combination of three-dimensional parabolic equations for these potentials with an impedance boundary condition for the ground, followed by a transformation of variables, will define a boundary-condition problem characterized by equations displaying coefficients that depend on the terrain height function and its partial derivatives. The problem solution through the Crank-Nicolson scheme will lead to a sparse system of linear equations, which will be solved by a direct method. The resulting numerical model will be applied to irregular terrain, representing hypothetical three-dimensional configurations.

[pt] O crescimento da demanda por serviços de telecomunicações em terra firme também pode ser encontrado em ambientes marítimos por usuários a bordo de embarcações, sejam elas civis ou militares. Nestes ambientes, um fenômeno conhecido como duto de evaporação influencia a propagação eletromagnética na troposfera, proporcionando a comunicação ponto-a-ponto em distâncias além do horizonte rádio. Este trabalho utiliza a técnica de traçado de raios para analisar o comportamento da onda eletromagnética nestes meios. Foi elaborado um algoritmo capaz de traçar raios e determinar amplitudes e fases do campo elétrico em meios inomogêneos bidimensionais dado um mapa de refratividade modificada M. A partir destes mapas, o algoritmo calcula os gradientes verticais de M, que podem variar ao longo do percurso, e traça os raios, a partir da antena transmissora. Como aplicação, além de cenários com dutos de evaporação, foram utilizados mapas de M estimados com base em dados meteorológicos fornecidos por radiossondas lançadas no litoral brasileiro. Os resultados obtidos foram comparados aos fornecidos pelo software Advanced Refractive Effects Prediction System (AREPS), baseado na solução numérica de equação parabólica. Este trabalho também apresenta resultados estatísticos de dutos de evaporação no litoral brasileiro, a partir de dados meteorológicos fornecidos por boias oceanográficas do Programa Nacional de Boias (PNBOIA). Para tal, é utilizado, com pequenas alterações, o algoritmo de Paulus-Jeske, que estima a altura de dutos de evaporação. / [en] The demand growth for land-based telecommunications services can also be found in maritime environments by users on board ships, whether civilian or military. In these environments, a phenomenon known as the evaporation duct influences electromagnetic propagation in the troposphere, providing point-to-point communication at distances beyond the radio horizon. This work uses the raytracing technique to analyze the behavior of electromagnetic waves in these media. An algorithm capable of tracing rays and determining electric field amplitudes and phases in two-dimensional inhomogeneous media was developed, given a map of modified refractivity M. From these maps, the algorithm calculates the vertical gradients of M, which can vary along the path, and traces rays from the transmitting antenna. As an application, in addition to scenarios with evaporation ducts, M maps were estimated based on meteorological data provided by radiosondes launched in the Brazilian coast. The results obtained were compared with those provided by the Advanced Refractive Effects Prediction System (AREPS) software, based on the numerical solution of parabolic equation. This work also presents statistical results of evaporation ducts in the Brazilian coast, based on meteorological data provided by oceanographic buoys of Programa Nacional de Boias (PNBOIA). For this, the Paulus-Jeske algorithm, which estimates the height of the evaporation ducts, is used with small changes.