This work is aimed at investigating diurnal cycle variability of the planetary boundary layer characteristics over the Arabian Peninsula and the Red Sea region. To fulfill this goal the downscaling simulations are performed using Weather Research and Forecasting (WRF) model. We analyze planetary boundary layer height, latent and sensible heat fluxes, and surface air temperature. The model results are compared with observations in different areas, for different seasons, and for different model resolutions. The model results are analyzed in order to better quantify the diurnal cycle variability over the Arabian Peninsula and the Red Sea. The specific features of this region are investigated and discussed.

The subject of this thesis is the application of optical backscatter measurements to locate a special property of the lowest part of the atmosphere -- the mixing height. Mixing height is the altitude of the top of the layer where all the fluxes emitted at the ground become well mixed. Since Holzworth in 1967, the knowledge of this altitude is considered relevant when modeling transport of pollutants or general fluxes originating at the ground. Indirect estimations of the mixing height are possible using atmospheric models, but its accuracy is quite low. Since several institutions are attempting to estimate precise ground fluxes, networks of measurement stations are being created. The correct use of the measured fluxes, in order to estimate the evolution of the air masses, is limited by the accuracy of the localization of this layer. It can be detected in several different ways. Most are related to a direct sounding, performed with meteorological balloons. Remote sensing techniques are also attempted with acoustical or optical instruments. Both optical and acoustical methods have advantages and disadvantages. This work is focused on optical instruments like lidar and ceilometers, which are basically small cost-effective lidar systems.

Este estudo explora a obtenção da altura da camada limite planetária a partir de diferentes métodos e equipamentos, com foco na análise espectral do campo de vento do lidar Doppler. Realizou-se uma campanha de medição por 80 dias com dois lidars Dopplers comerciais com diferentes alcances verticais. Para o lidar com maior alcance vertical e consequetemente uma medida direta da altura da camada limite planetária, foi aplicado o método da variância da razão sinal-ruído e os resultados foram comparados aos valores de altura estimados a partir de dados de radiossondagem através de dois métodos distintos, o método da parcela e o método do número de Richardson bulk, o qual apresentou melhores resultados. Para o lidar com menor alcance vertical, aplicou-se a análise espectral que forneceu valores de comprimento de onda dos picos espectrais, proporcionais à altura da camada limite planetária. A constante de proporcionalidade para obtenção dos valores da altura da camada foi calculada comparando-se os resultados aos valores de altura estimados pela radiossondagem através do método do número de Richardson bulk, obtendo-se um valor de constante de proporcionalidade próximo ao sugerido na literatura. Entretanto, o conjunto de dados que mostrou boas estimativas dos picos espectrais foi bastante restrito, limitando a comparação ao longo do período entre os lidars. / This study explores the obtaining of the planetary boundary layer height through different methods and equipment, focusing on the spectral analysis of the wind field from Doppler lidar. An 80-day measurement campaign was conducted with two commercial Doppler lidars with different vertical ranges. For the lidar with greater vertical range and consequently a direct measurement of the planetary boundary layer heigth, the method of signal-to-noise ratio variance was applied and the results were compared to the height values estimated from radiosonding data using two different methods, the parcel method and the bulk Richardson number method, which presented better results. For the lidar with a lower vertical range, spectral analysis was applied, which provided wavelength values of the spectral peak, proportional to the planetary boundary layer height. The proportionality constant, in order to obtain the boundary height values, were calculated by comparing the height values estimated from the radiosonding data, using the bulk Richardson number method. Proportionality constant value close to the one found in the literature were obtained. However, the set of data that showed good estimates of the spectral peaks was very restricted, limiting the comparison over the period between the lidars.

Este estudo explora a obtenção da altura da camada limite planetária a partir de diferentes métodos e equipamentos, com foco na análise espectral do campo de vento do lidar Doppler. Realizou-se uma campanha de medição por 80 dias com dois lidars Dopplers comerciais com diferentes alcances verticais. Para o lidar com maior alcance vertical e consequetemente uma medida direta da altura da camada limite planetária, foi aplicado o método da variância da razão sinal-ruído e os resultados foram comparados aos valores de altura estimados a partir de dados de radiossondagem através de dois métodos distintos, o método da parcela e o método do número de Richardson bulk, o qual apresentou melhores resultados. Para o lidar com menor alcance vertical, aplicou-se a análise espectral que forneceu valores de comprimento de onda dos picos espectrais, proporcionais à altura da camada limite planetária. A constante de proporcionalidade para obtenção dos valores da altura da camada foi calculada comparando-se os resultados aos valores de altura estimados pela radiossondagem através do método do número de Richardson bulk, obtendo-se um valor de constante de proporcionalidade próximo ao sugerido na literatura. Entretanto, o conjunto de dados que mostrou boas estimativas dos picos espectrais foi bastante restrito, limitando a comparação ao longo do período entre os lidars. / This study explores the obtaining of the planetary boundary layer height through different methods and equipment, focusing on the spectral analysis of the wind field from Doppler lidar. An 80-day measurement campaign was conducted with two commercial Doppler lidars with different vertical ranges. For the lidar with greater vertical range and consequently a direct measurement of the planetary boundary layer heigth, the method of signal-to-noise ratio variance was applied and the results were compared to the height values estimated from radiosonding data using two different methods, the parcel method and the bulk Richardson number method, which presented better results. For the lidar with a lower vertical range, spectral analysis was applied, which provided wavelength values of the spectral peak, proportional to the planetary boundary layer height. The proportionality constant, in order to obtain the boundary height values, were calculated by comparing the height values estimated from the radiosonding data, using the bulk Richardson number method. Proportionality constant value close to the one found in the literature were obtained. However, the set of data that showed good estimates of the spectral peaks was very restricted, limiting the comparison over the period between the lidars.

The Weather Research and Forecasting Model was used to study its accuracy and representation in modelling a study area within a complex wind system as well as the effects on the model when using different input data and physics schemes. The complex wind system consists of diurnal mesoscale effects from the nearby Pyrenees mountain range and diurnal effects from the planetary boundary layer. A total of six different simulations were performed. The model was able to represent the study area but the results could be improved as there were inaccuracies in wind speed and wind direction associated with the planetary boundary layer. The model was especially challenged at predicting the wind speed and wind direction in the layer from the top of the planetary boundary layer to few hundred meters above it. The comparisons based on planetary boundary layer height is however complicated by the fact that there are different definitions in effect. The choice of model physics schemes and input data led to some differences in the results and warrants consideration when conducting similar simulations. / Prognosmodellen WRF (Weather Research and Forecasting Model) användes för att undersöka hur väl den kunde representera ett område inom ett komplext vindsystem och även hur modellen påverkas av olika val vad gäller drivningsdata och fysikscheman. Det som utgör det komplexa vindsystemet är dygnsvarierande effekter från det atmosfäriska gränsskiktet och dygnsvarierande mesoskaliga effekter från den närliggande bergskedjan Pyrenéerna. Totalt genomfördes sex olika simuleringar. Prognosmodellen kunde representera området men med förbättringsbara resultat eftersom det fanns fel i vindhastighet och vindriktning relaterande till det atmosfäriska gränsskiktet. Modellen var speciellt utmanad i förutsägandet av vindhastighet och vindriktning i ett lager några hundra meter ovanför det atmosfäriska gränsskiktet. En tolkning baserad på atmosfärisk gränsskiktshöjd är dock svår eftersom det fanns flera definitioner var toppen på det atmosfäriska gränsskiktet låg. Val om prognosmodellens fysikscheman och drivningsdata orsakade en skillnad i resultat sinsemellan. Dessa val bör därför noggrannt uppmärksammas för simuleringar under liknande förutsättningar.

published_or_final_version / Mechanical Engineering / Doctoral / Doctor of Philosophy

The Planetary Boundary Layer (PBL) is a relevant part of the atmosphere with a variable extension that clearly plays an important role in fields like air quality or weather forecasting. Passive and active remote sensing systems have been widely applied to analyze PBL characteristics. The combination of different remote sensing techniques allows obtaining a complete picture on the PBL dynamic. In this study, we analyze the PBL behavior using four types of remote sensing systems: Microwave Radiometer (MWR), Elastic Lidar (EL), Doppler Lidar (DL) and Ceilometer data. The measurements were performed in two cities Granada (Spain) and São Paulo (Brazil). Firstly, at Granada, the PBL height (PBLH) obtained from MWR data is validated against PBLH provided by analyzing co-located radiosondes, showing a good agreement. In a second stage, active remote sensing systems were used for deriving the PBLH. Thus, Extended Kalman filter is applied to EL data while the vertical wind speed variance method was applied to the DL. The derived PBLH\'s by these approaches are compared to PBLH retrieved by the MWR. The results show a good agreement among the retrievals based on active remote sensing in most of the cases, although some discrepancies appear in instances of intense PBL changes (either growth and/or decrease). Then it is performed the analysis of four and five-year dataset of measurements gathered with a ceilometer and a microwave radiometer, respectively, at Granada. The methodologies applied for the PBLH detection (gradient method for ceilometer and the combination of parcel method and temperature gradient method for microwave radiometer) provided a satisfactory description of the PBL structure in simple cases. In addition, the PBL behavior is characterized by a statistical study of the convective and stable PBLH obtained from microwave radiometer measurements. The analysis of the PBLH statistical study shows some coincidence with other PBLH studies such as daily pattern, and year cycles but also some differences caused by distinct latitudes, topography and climate were found. It was performed as well a combined long-term analysis of Ceilometer retrieved Residual Layer and the Stable and Convective Layer heights determined by microwave radiometer, thus offering a complete picture of the PBL evolution by synergetic combination of remote sensing techniques. This is the reason why systems with high temporal and spatial resolution, like lidars, have been increasingly applied in studies about this atmospheric region. In this work, also was performed, at São Paulo, an analysis on lidar backscattered signal at three wavelengths (355, 532 and 1064 nm) retrieving the turbulence by the analyses of the high-order moments (variance, skewness and kurtosis) in the backscattered signal. The wavelength of 355 nm has low applicability in the proposed methodology, due to its low intensity (due to predominance of molecular backscattering) and large presence of noise, while the 532 nm wavelength showed results similar to those provided by the wavelength of 1064 nm, which was used as reference. Then, it was analyzed two case studies using the wavelengths of 532 and 1064 nm (in separately). This approach provided information about PBL height, (derived by the variance method (Menut et al., 1999), displacement of aerosol layers (skewness) and level of mixing at several heights (kurtosis). These results show the viability of the proposed methodology when the wavelengths of 532 and 1064 nm are used for the PBL description by high-order moments of the backscattered distribution. Furthermore, it is demonstrated how some variables (air temperature, aerosol concentration, vertical wind, relative humidity and net radiation) can influence the PBL dynamic with data from DL, EL and MWR at Granada. The high-order moments of the vertical velocity high frequency distributions derived from DL, and EL range corrected signal, were corrected by two methodologies (first lag and -2/3 correction). The corrected profiles present small differences when compare against the uncorrected profiles, showing low influence of noise and the viability of the proposed methodology. A detailed 2-case studies analysis was carried on, the first case corresponding to a well-defined PBL while the second one corresponds to a situation with presence of an aloft Saharan dust layer and clouds. In both cases the results provided by the different instruments ended up complementing one another, so that the synergistic use of the different systems allowed us a detailed monitoring of the PBL. / A Camada Limite Planetária (PBL - Planetary Boundary Layer) é uma parte relevante da atmosfera com uma extensão variável e que claramente desempenha um papel importante em áreas de estudo, como: a qualidade do ar ou a previsão do tempo. Sistemas de sensoriamento remoto passivo e ativo têm sido amplamente utilizado para analisar as características da PBL. A combinação de diferentes técnicas de sensoriamento remoto permite obter uma imagem completa da dinâmica desta camada. Neste estudo, analisamos o comportamento da PBL utilizando quatro tipos de sistemas de sensoriamento remoto: Radiômetro de Micro-ondas (MWR), Lidar Elástico (EL), Lidar Doppler (DL) e Ceilômetro. As medições foram realizadas em duas cidades, Granada (Espanha) e São Paulo (Brasil). Primeiramente, em Granada, a altura da PBL (PBLH) obtida a partir dos dados do MWR foi validada pela PBLH gerada pela análise dos dados de radiossondas, mostrando uma boa concordância. Em um segundo estágio, sistemas ativos de sensoriamento remoto foram usados para a obtenção da PBLH. Assim, o método do filtro de Kalman foi aplicado aos dados do EL enquanto o método da variância da velocidade vertical do vento foi aplicado aos dados do DL. As PBLH derivadas dessas abordagens foram comparadas com o PBLH fornecida pelo MWR, sendo que os resultados mostram uma boa concordância na maioria dos casos, embora algumas discrepâncias apareçam nas situações de mudanças intensas da PBL (crescimento e/ou diminuição). Em seguida, é realizada a análise dos dados das medidas coletadas com um ceilômetro e um radiômetro de micro-ondas durante quatro e cinco anos, respectivamente, em Granada. As metodologias aplicadas para a detecção da PBLH (método de gradiente para o ceilômetro e a combinação do método de parcela e do método de gradiente de temperatura para o radiômetro de micro-ondas) forneceram uma descrição satisfatória da estrutura da PBL em casos simples. Além disso, o comportamento da PBL foi caracterizado por um estudo estatístico das PBLH convectiva e estável, as quais foram obtidas a partir das medidas do radiômetro de micro-ondas. A análise do estudo estatístico realizado para a PBLH mostra algumas coincidências com outros estudos já realizados para a mesma variável, como o padrão diário e os ciclos anuais. Mas também há algumas diferenças, as quais são causadas por latitudes, topografia e clima distintos. Foi realizada também uma análise combinada de longo prazo da Camada Residual (gerada pelos dados do Ceilômetro) e da Camada Estável e Convectiva (obtida pelos dados do radiômetro de micro-ondas), oferecendo assim um quadro completo da evolução da PBL por combinação sinérgica de técnicas de sensoriamento remoto. Essa é a razão pela qual sistemas com alta resolução temporal e espacial, como os lidars, têm sido cada vez mais aplicados em estudos sobre essa região atmosférica. Neste trabalho, também foi realizada, em São Paulo, uma análise do sinal retroespalhado em três comprimentos de onda (355, 532 e 1064 nm), o qual provê informações da turbulência através da análise dos momentos de alta ordem (variância, assimetria e curtose). O comprimento de onda de 355 nm apresenta pouca aplicabilidade na metodologia proposta, devido à sua baixa intensidade (por conta da predominância do retroespalhamento molecular) e grande presença de ruído, enquanto o comprimento de onda de 532 nm apresentou resultados semelhantes aos fornecidos pelo comprimento de onda de 1064 nm, o qual foi usado como referência. Em seguida, foram analisados dois estudos de caso utilizando os comprimentos de onda de 532 e 1064 nm (em separado). Essa abordagem forneceu informações sobre a altura da PBL (derivada pelo método de variância (Menut et al., 1999), deslocamento de camadas de aerossol (assimetria) e nível de mistura em várias alturas (curtose), mostrando a viabilidade da metodologia proposta, quando os comprimentos de onda de 532 e 1064 nm são usados para a descrição da PBL a partir dos momentos de alta ordem. Além disso, demonstrou-se, com dados de DL, EL e MWR obtidos em Granada, como algumas variáveis (temperatura do ar, concentração de aerossóis, vento vertical, umidade relativa e radiação líquida) podem influenciar a dinâmica da PBL. Os momentos de alta ordem das distribuições de velocidade vertical derivadas dos dados do DL e o sinal retroespalhado obtido a partir do EL foram corrigidos por duas metodologias (first lag e correção de -2/3). Os perfis corrigidos apresentam pequenas diferenças quando comparados com os perfis não corrigidos, mostrando baixa influência do ruído e a viabilidade da metodologia proposta. Foi realizada uma análise detalhada de dois estudos de casos, o primeiro correspondendo a uma PBL bem definida, enquanto o segundo corresponde a uma situação com a presença de uma camada de nuvens e poeira saariana. Em ambos os casos, os resultados fornecidos pelos diferentes instrumentos acabaram se complementando, de modo que o uso sinérgico dos diferentes sistemas nos permitiu um monitoramento detalhado da PBL.

Neste trabalho foi avaliado o impacto na simulação dos poluentes fotoquímicos do uso de diferentes parametrizações da Camada Limite Planetária (CLP) para a Região Metropolitana de São Paulo, utilizando o modelo de mesoescala não-hidrostático Weather Research and Forecasting (WRF) com o acoplamento dos módulos químicos (WRF/Chem). Para análise da acurácia dos resultados obtidos com o modelo, foram utilizadas as medições realizadas pelas estações automáticas da CETESB em superfície, e a validação do perfil vertical da concentração de O3 com base nos dados do experimento de lançamento de ozoniosondas realizado dentro do contexto de um projeto de políticas públicas (recursos FAPESP) realizado durante o período de estudo. A motivação para a realização do presente trabalho foi a grande dificuldade de representação da estrutura da CLP em especial durante o período noturno sobre áreas urbanas. O estudo contou com a utilização inédita do modelo on-line para simulação da composição química da atmosfera da RMSP, e por fim analisou o impacto do acoplamento com o modelo urbano Urban Canopy Model (UCM), com o modelo WRF-Chem. A área de estudo é a Região Metropolitana de São Paulo e adjacências, e o período estudado foi de 28/10 a 01/11/2006. As variações anuais da temperatura do ar, velocidade do vento e radiação solar para o ano de 2006, mostraram que o mês de outubro foi marcado por grande disponibilidade de radiação solar, altos valores de temperatura do ar e ventos intensos. As simulações com casos idealizados mostraram que o esquema numérico de CLP, YSU (Yonsei University) representou melhor a variação da Camada Limite na área urbana, o que influenciou diretamente na dispersão dos poluentes. Já para as simulações de casos reais os resultados mostraram uma boa correlação entre simulado e observado para as concentrações superficiais de O3 e CO e uma grande dificuldade do modelo em representar o perfil vertical da concentração de O3, quando utilizada a versão 2.1 do modelo WRF/Chem. Problema este parcialmente resolvido (podendo melhorar ainda mais) quando é utilizada uma versão mais recente do modelo WRF-Chem, como o caso da versão 3, acoplada com o modelo urbano UCM. Os experimentos realizados para estimar o impacto do tipo do uso do solo sobre a variação da altura da CLP e conseqüente relação com a composição química da atmosfera, mostraram que a altura da CLP é mais alta sobre áreas urbanas em comparação com áreas rurais, portanto influenciando de forma efetiva na dispersão dos poluentes. No presente trabalho foi mostrado o transporte de poluentes existente entre as regiões metropolitanas de São Paulo, Campinas e Sorocaba, devido principalmente a topografia que atua canalizando o vento na direção de Campinas e Sorocaba. A proximidade com as fontes de emissão mostrou ser um fator importante para o nível de concentração de O3, pois à medida que se afasta das fontes de emissão tanto vertical quanto horizontalmente a concentração de O3 aumenta. E devido a sua relativa proximidade com o Oceano Atlântico, a RMSP é beneficiada com a formação da Brisa Marítima que auxilia na dispersão dos poluentes emitidos e formados na RMSP. / This work evaluated the parameterizations´ sensibility of the Planetary Boundary Layer (PBL) in the simulation of photochemical pollutants above the Metropolitan Region of São Paulo, by using the Weather Research and Forecasting (WRF) non-hydrostatic mesoscale model, with the coupling of chemical modules (WRF/Chem). In order to analyze the accuracy of the results obtained with the model, there will be used the measurements made by the automatic air quality stations from CETESB on surface, and the validation of the O3 vertical profile, will be based on ozonesoundings experiments conducted during the period of the study. The motivation for this study was the great difficulty in representing the PBLs structure specially during the night, witch is an new utilization of an on-line model to simulate the chemical composition of the atmosphere of the MASP, and finally, to analyze the impact of the coupling with the Urban Canopy Model (UCM). The study area is the Metropolitan Region of São Paulo and surroundings, and the period was between 10/28 11/01/2006. The annual variations of the air temperature, wind speed and solar radiation for 2006, showed that the month of October was marked by wide availability of solar radiation, high values of air temperature and intense winds. The simulations with idealized cases showed that the PBLs order of height based on the numerical scheme is YSU, MYJ, BOULAC and UCM, which influences directly the dispersion of pollutants with lower concentrations of the CO for YSU and higher for UCM respectively, and for the concentrations of the O3, the scheme YSU shows lower concentrations but unlike the CO, the other schemes are equal. However, for the simulations of real cases, the results showed a good correlation between simulated and observed for the surface concentrations of the O3 and CO, and a great difficulty of the model on the vertical profiles representation of the concentration of O3, when the 2.1 version of the WRF/Chem model is used. This problem was partially solved (can be better improved) when used with the latest version, as version 3, and coupled with the Urban Canopy Model. The experiments performed to estimate the impact of the land use type on the variation of the PBL height and consequent relationship with the chemical composition of the atmosphere, showed that the PBL height is higher on the urban areas compared to rural areas, thus influencing effectively in the dispersal of pollutants, and a lower PBL height was associated with higher concentrations due to lower dispersion of pollutants. This work has demonstrated the transport of pollutants between the metropolitan regions of São Paulo - Campinas and São Paulo - Sorocaba, due to topography that acts targeting the wind in the direction of Campinas. The proximity of emission sources has been important for the level of concentration of O3, as it moves away from sources of emissions both vertically and horizontally increases its concentration. Due the proximity with the Atlantic Ocean, the formation of Sea Breeze helps dispersion of pollutants emitted and formed in the MASP.

Esta dissertação aborda um estudo sobre algoritmos matemáticos (Método da Variância, Método das Imagens, Método do Gradiente (MG), WCT - Wavelet Covariance Transform), os quais possibilitam a obtenção da altura máxima da Camada Limite Planetária (CLP) a partir de dados fornecidos por um sistema lidar. Em um primeiro momento será descrita a CLP e as suas principais variáveis, assim como também os métodos juntamente com os seus pontos positivos e negativos. Em seguida serão abordadas duas situações de medida: a primeira consiste em um estudo de casos realizado na cidade de Vitória-ES, para o qual foram escolhidas três situações típicas (calmaria, presença de subcamadas de aerossóis e/ou camadas de nuvens e turbulência) em que os métodos foram: testados, comparados entre si, com a análise visual do perfil e o BRN (Bulk Richardsons Number); a segunda situação aborda uma medida feita na cidade de São Paulo-SP durante um período de 12 horas contínuas, sendo o grande diferencial deste experimento, o lançamento de radiossondas dentro de intervalos de 3 horas, isso aliado a utilização de modelagem WRF (Weather Research Forecasting) permitiu uma maior comparação e validação dos dados. A partir dos estudos de casos foi possível observar que com o aumento da complexidade do perfil apresentado pela atmosfera, há um decréscimo na qualidade dos resultados apresentados pelos métodos e um aumento no tempo de processamento, já que há necessidade de um maior refinamento nos parâmetros que serão utilizados. Nas situações de \"calmaria\"o perfil da atmosfera se mostra mais simplificado, o que facilita a escolha de qual método utilizar, sendo que com exceção da Variância, todos os outros métodos forneceram resultados satisfatórios. Para o caso de \"presença de subcamadas de aerossóis e/ou nuvens\"a qualidade dos resultados apresentados pelos métodos decai sendo exceção da Variânci, uma vez que esta passa a apresentar resultados mais próximos do esperado devido ao aumento na complexidade do sinal lidar. Na situação caracterizada como \"turbulência\", todos os métodos passam a apresentar maiores dificuldades para detectar corretamente a CLP, sendo que o WCT se mostra o mais robusto, porém exige uma complexa escolha de parâmetros, demandando um alto tempo de processamento. Na medida de 12 horas contínuas todos os métodos conseguem representar satisfatoriamente a ascensão e o decaimento da CLP, ficando as maiores divergências para o meio do dia, principalmente quando há dispersão dos aerossóis gerando atenuação no sinal, com isso os métodos mais sensíveis (MG e Método das Imagens) passam a apresentar várias oscilações, dificultando a detecção do topo da CLP. As análises realizadas permitiram observar as vantagens e desvantagens de cada método, assim como descobrir qual possui o uso mais indicado para cada cenário meteorológico, sendo o algoritmo WCT o mais robusto em todas as situações apresentadas. / This dissertation discusses a study about mathematical algorithms (Variance Method, Method of Images, Gradient Method, WCT - Wavelet Covariance Transform) that allow obtaining the maximum height of the Planetary Boundary Layer (PBL) from data provided by the lidar system. Initially it will be described the PBL and their main variables, as well as methods along with their strengths and weaknesses. After, two situations of measurements will be discussed: the first one consists of a case study conducted in the city of Vitória-ES, where were chosen three typical situations (\"calm\", \"sublayers of aerosols and/or layers of cloud cover\"and \"turbulence\") and the methods were compared among themselves and here after validated qualitatively by a visual verify and quantitatively by obtain of the Bulk Richardson Number (BRN) extracted from radiosounding data; the second situation deals with a measurement made in the city of São Paulo - SP for a period of 12 continuous hours, and the great advantage of this experimen, launching radiosondes within 3 hour intervals, the use of this combined with WRF ( Weather Research Forecasting) model allowed a most accurate comparison and validation. Based on case studies it was observed with the increased of complexity of the profile presented by the atmosphere, there is a decrease in the quality of the results provided by the methods and an increase in processing time being necessary greater refinement of the parameters that are used. In situations of \"calm\"the profile of the atmosphere appears more simplified, which facilitates the choice of which method to use, and with exception of Variance, all other methods provided satisfactory results. For the situation of \"presence of sublayers of aerosols and/or clouds\"the quality of the results presented by the methods decays, with the exception of Variance, once this begins to show results closer than expected due to the increase in the complexity of the signal handling. In situations characterized as \"turbulence\", all methods have more difficulties to correctly detect the PBL, and the WCT shown the most robust than others, but requires a complex choice of parameters and a high processing time. The measurement of 12 hours continuous all methods can satisfactorily represent the rise and decay of PBL, the largest differences being for the middle of the day, especially when there is dispersion of aerosol generating attenuation in the signal, thus the most sensitive methods (Gradient Method and Method of Images) present several variations, making it difficult to detect the top of the PBL. The analyzes allowed to observe the advantages and disadvantages of each method, as well as find out which has the most appropriate use for each meteorological scenario, being the WCT the most robust algorithm in all situations presented.

Esta dissertação aborda um estudo sobre algoritmos matemáticos (Método da Variância, Método das Imagens, Método do Gradiente (MG), WCT - Wavelet Covariance Transform), os quais possibilitam a obtenção da altura máxima da Camada Limite Planetária (CLP) a partir de dados fornecidos por um sistema lidar. Em um primeiro momento será descrita a CLP e as suas principais variáveis, assim como também os métodos juntamente com os seus pontos positivos e negativos. Em seguida serão abordadas duas situações de medida: a primeira consiste em um estudo de casos realizado na cidade de Vitória-ES, para o qual foram escolhidas três situações típicas (calmaria, presença de subcamadas de aerossóis e/ou camadas de nuvens e turbulência) em que os métodos foram: testados, comparados entre si, com a análise visual do perfil e o BRN (Bulk Richardsons Number); a segunda situação aborda uma medida feita na cidade de São Paulo-SP durante um período de 12 horas contínuas, sendo o grande diferencial deste experimento, o lançamento de radiossondas dentro de intervalos de 3 horas, isso aliado a utilização de modelagem WRF (Weather Research Forecasting) permitiu uma maior comparação e validação dos dados. A partir dos estudos de casos foi possível observar que com o aumento da complexidade do perfil apresentado pela atmosfera, há um decréscimo na qualidade dos resultados apresentados pelos métodos e um aumento no tempo de processamento, já que há necessidade de um maior refinamento nos parâmetros que serão utilizados. Nas situações de \"calmaria\"o perfil da atmosfera se mostra mais simplificado, o que facilita a escolha de qual método utilizar, sendo que com exceção da Variância, todos os outros métodos forneceram resultados satisfatórios. Para o caso de \"presença de subcamadas de aerossóis e/ou nuvens\"a qualidade dos resultados apresentados pelos métodos decai sendo exceção da Variânci, uma vez que esta passa a apresentar resultados mais próximos do esperado devido ao aumento na complexidade do sinal lidar. Na situação caracterizada como \"turbulência\", todos os métodos passam a apresentar maiores dificuldades para detectar corretamente a CLP, sendo que o WCT se mostra o mais robusto, porém exige uma complexa escolha de parâmetros, demandando um alto tempo de processamento. Na medida de 12 horas contínuas todos os métodos conseguem representar satisfatoriamente a ascensão e o decaimento da CLP, ficando as maiores divergências para o meio do dia, principalmente quando há dispersão dos aerossóis gerando atenuação no sinal, com isso os métodos mais sensíveis (MG e Método das Imagens) passam a apresentar várias oscilações, dificultando a detecção do topo da CLP. As análises realizadas permitiram observar as vantagens e desvantagens de cada método, assim como descobrir qual possui o uso mais indicado para cada cenário meteorológico, sendo o algoritmo WCT o mais robusto em todas as situações apresentadas. / This dissertation discusses a study about mathematical algorithms (Variance Method, Method of Images, Gradient Method, WCT - Wavelet Covariance Transform) that allow obtaining the maximum height of the Planetary Boundary Layer (PBL) from data provided by the lidar system. Initially it will be described the PBL and their main variables, as well as methods along with their strengths and weaknesses. After, two situations of measurements will be discussed: the first one consists of a case study conducted in the city of Vitória-ES, where were chosen three typical situations (\"calm\", \"sublayers of aerosols and/or layers of cloud cover\"and \"turbulence\") and the methods were compared among themselves and here after validated qualitatively by a visual verify and quantitatively by obtain of the Bulk Richardson Number (BRN) extracted from radiosounding data; the second situation deals with a measurement made in the city of São Paulo - SP for a period of 12 continuous hours, and the great advantage of this experimen, launching radiosondes within 3 hour intervals, the use of this combined with WRF ( Weather Research Forecasting) model allowed a most accurate comparison and validation. Based on case studies it was observed with the increased of complexity of the profile presented by the atmosphere, there is a decrease in the quality of the results provided by the methods and an increase in processing time being necessary greater refinement of the parameters that are used. In situations of \"calm\"the profile of the atmosphere appears more simplified, which facilitates the choice of which method to use, and with exception of Variance, all other methods provided satisfactory results. For the situation of \"presence of sublayers of aerosols and/or clouds\"the quality of the results presented by the methods decays, with the exception of Variance, once this begins to show results closer than expected due to the increase in the complexity of the signal handling. In situations characterized as \"turbulence\", all methods have more difficulties to correctly detect the PBL, and the WCT shown the most robust than others, but requires a complex choice of parameters and a high processing time. The measurement of 12 hours continuous all methods can satisfactorily represent the rise and decay of PBL, the largest differences being for the middle of the day, especially when there is dispersion of aerosol generating attenuation in the signal, thus the most sensitive methods (Gradient Method and Method of Images) present several variations, making it difficult to detect the top of the PBL. The analyzes allowed to observe the advantages and disadvantages of each method, as well as find out which has the most appropriate use for each meteorological scenario, being the WCT the most robust algorithm in all situations presented.