A compreensão da dependência espacial das propriedades do solo vem sendo cada vez mais requerida por pesquisadores que objetivam melhorar a interpretação dos resultados de experimentos de campo fornecendo, assim, subsídios para novas pesquisas a custos reduzidos. Em geral, variáveis como, por exemplo, o teor de cálcio no solo, estudado neste trabalho, apresentam grande variabilidade impossibilitando, na maioria das vezes, a detecção de reais diferenças estatísticas entre os efeitos de tratamentos. A consideração de amostras georreferenciadas é uma abordagem importante na análise de dados desta natureza, uma vez que amostras mais próximas são mais similares do que as mais distantes e, assim, cada realização desta variável contém informação de sua vizinhança. Neste trabalho, métodos geoestatísticos que baseiam-se na modelagem da dependência espacial, nas pressuposições Gaussianas e nos estimadores de máxima verossimilhança são utilizados para analisar e interpretar a variabilidade do teor de cálcio no solo, resultado de um experimento realizado na Fazenda Angra localizada no Estado do Rio de Janeiro. A área experimental foi dividida em três regiões em função dos diferentes períodos de adubação realizadas. Neste estudo foram utilizados dados do teor de cálcio obtidos das camadas 0-20cm e 20-40cm do solo, de acordo com as coordenadas norte e leste. Modelos lineares mistos, apropriados para estudar dados com esta característica, e que permitem a utilização de diferentes estruturas de covariâncias e a incorporação da região e tendência linear das coordenadas foram usados. As estruturas de covariâncias utilizadas foram: a exponencial e a Matérn. Para estimar e avaliar a variabilidade dos parâmetros utilizaram-se os métodos de máxima verossimilhança, máxima verossimilhança restrita e o perfil de verossimilhança. A identificação da dependência e a predição foram realizadas por meio de variogramas e mapas de krigagem. Além disso, a seleção do modelo adequado foi feita pelo critério de informação de Akaike e o teste da razão de verossimilhanças. Observou-se, quando utilizado o método de máxima verossimilhança, o melhor modelo foi aquele com a covariável região e, com o método de máxima verossimilhança restrita, o modelo com a covariável região e tendência linear nas coordenadas (modelo 2). Com o teor de cálcio, na camada 0-20cm e considerando-se a estrutura de covariância exponencial foram obtidas as menores variâncias nugget e a maior variância espacial (sill – nugget). Com o método de máxima verossimilhança e com o modelo 2 foram observadas variâncias de predição mais precisas. Por meio do perfil de verossimilhança pode-se observar menor variabilidade dos parâmetros dos variogramas ajustados com o modelo 2. Utilizando-se vários modelos e estruturas de covariâncias, deve-se ser criterioso, pois a precisão das estimativas, depende do tamanho da amostra e da especificação do modelo para a média. Os resultados obtidos foram analisados, com a subrotina geoR desenvolvida por Ribeiro Junior & Diggle (2000), e por meio dela pode-se obter estimativas confiáveis para os parâmetros dos diferentes modelos estimados. / The understanding of the spatial dependence of the properties of the soil becomes more and more required by researchers that attempt to improve the interpretation of the results of field experiments supplying subsidies for new researches at reduced costs. In general, variables as, for example, the calcium content in the soil, studied in this work, present great variability disabling, most of the time, the detection of real statistical differences among the treatment effects. The consideration of georeferenced samples is an important approach in the analysis of data of this nature, because closer samples are more similar than the most distant ones and, thus, each realization of this variable contains information of its neighborhood. In this work, geostatistics methods that are based on the modeling of the spatial dependence, under the Gaussian assumptions and the maximum likelihood estimators, are used to analyze and to interpret the variability of calcium content in the soil, obtained from an experiment carried on at Fazenda Angra, located in Rio de Janeiro, Brazil. The experimental area was divided in three areas depending on the different periods of fertilization. In this study, data of the calcium soil content from the layers 0-20cm and 20-40cm, were used, according to the north and east coordinates. Mixed linear models, ideal to study data with this characteristic, and that allow the use of different covariance structures, and the incorporation of the region and linear tendency of the coordinates, were used. The covariance structures were: the exponential and the Matérn. Maximum likelihood, maximum restricted likelihood and the profile of likelihood methods were used to estimate and to evaluate the variability of the parameters. The identification of the dependence and the prediction were realized using variograms and krigging maps. Besides, the selection of the appropriate model was made through the Akaike information criterion and the likelihood ratio test. It was observed that when maximum likelihood method was used the most appropriate model was that with the region covariate and, with the maximum restricted likelihood method, the best model was the one with the region covariate and linear tendency in the coordinates (model 2). With the calcium content, in the layer 0-20cm and considering the exponential covariance structure, the smallest nugget variances and the largest spatial variance (sill - nugget) were obtained. With the maximum likelihood method and with the model 2 more precise prediction variances were observed. Through the profile of likelihood method, smaller variability of the adjusted variogram parameters can be observed with the model 2. With several models and covariance structures being used, one should be very critical, because the precision of the estimates depends on the size of the sample and on the specification of the model for the average. The obtained results were analyzed, with the subroutine geoR developed by Ribeiro Junior & Diggle (2000), and through this subroutine, reliable estimates for the parameters of the different estimated models can be obtained.

Made available in DSpace on 2014-08-20T14:33:01Z (GMT). No. of bitstreams: 1 tese_viviane_santos_silva_terra.pdf: 3226542 bytes, checksum: 468c5162baa20a455b268e2abda6ef7e (MD5) Previous issue date: 2012-12-27 / The fruitculture is an important component of Brazilian agribusiness assuming prominence in the economy of the state of Rio Grande do Sul (RS). The municipality of Pelotas, located in the south part of RS state, is responsible for 90% of peach production having adequate conditions of climate and soil for its production. One of the main problems faced by fruit farmers is the management of the peach orchard, which has been homogeneously managed, without considering the spatial and temporal variability of soil, plant and climate attributes in the peach orchard. Therefore, some aspects deserve attention from researchers, among them we can highlight the knowledge of the physical environment in which the peach tree grows. This work had as objectives: i. to evaluate the relationship between soil hydric-physical and crop attributes through the canonical correlation analysis, ii. to determine the spatial and temporal structures of soil hydric-physical, crop and climate attributes, applying geostatistics analysis. The work was conducted in an experimental area, located in the city of Morro Redondo-RS, cultivated with 18 line peach crops, cv. Esmeralda, totaling 1,450 plants. In this area was established a experimental grid consisted of 101 experimental peach trees. At a distance of 0.50m to the right side of each crop tree, trenches were opened to collect disturbed and undisturbed soil samples to determine the following soil hydric-physical attributes, in the 0.00-0.10m and 0.10-0.20m soil layers: sand, silt and clay contents, soil bulk density, soil total porosity, soil macro- and micro-porosities, and volumetric soil water content. We also evaluated the following peach crop attributes in the years of 2010 and 2011: trunk diameter, size of the fruit/plant, total number of fruits/plant, fresh mass of fruits, fruit firmness, brix content and crop productivity. The attributes of climate air temperature and relative humidity were also evaluated in the peach orchard. All data sets were submitted to descriptive statistical analysis. The correlation between soil and crop attributes was evaluated by canonical correlation analysis. The spatial and temporal variability structures of all data sets were evaluated by geostatistics as well as the relationship between them. Results show that the canonical correlation analysis identified the highest correlation coefficients of soil micro-porosity and clay content variables and peach productivity, and that the geostatistical analysis allowed establishing homogeneous management zones of soil, crop and climate attributes as well as to infer, visually, spatial inter-relationships between variables. The association of soil, crop and climate maps indicates that future differentiated managements of agricultural practices on the peach orchard should be based on the spatial distribution of these variables aiming rational water and fertilizer applications to preserve natural resources in the agricultural farmers. / A fruticultura é um importante componente do agronegócio brasileiro assumindo destaque na economia do estado do Rio Grande do Sul (RS). O município de Pelotas, localizado no sul do RS, é responsável por 90% da produção de pêssego, possuindo condições adequadas de clima e solo para a sua produção. Um dos principais problemas enfrentados pelos produtores de frutas é o manejo do pomar, que tem sido realizado de forma homogênea, sem considerar a variabilidade espacial e temporal dos atributos do solo, da planta e do clima dentro do pomar. Desta forma, alguns aspectos merecem atenção dos pesquisadores, dentre os quais, pode-se destacar o conhecimento do ambiente físico no qual o pessegueiro se desenvolve. Este trabalho teve como objetivos avaliar a relação entre os atributos físico-hídricos do solo e da planta por meio da análise de correlação canônica, determinar a estrutura de correlação espacial e temporal dos atributos físico-hídricos do solo, da planta de pessegueiro e do clima, por meio da técnica de geoestatística. O trabalho foi conduzido em uma área experimental, localizada no município do Morro Redondo-RS, cultivada com a cultivar de pêssego Esmeralda com 18 linhas, totalizando 1.450 plantas, onde foi estabelecida uma malha experimental composta por 101 plantas. A 0,50m do lado direito da cada planta, foram abertas trincheiras para a coleta de amostras deformas e indeformadas de solo para determinação dos atributos físico-hídricos, nas profundidades de 0,00-0,10m e de 0,10-0,20m: teores de areia, silte e argila, densidade do solo, porosidade total, macro e microporosidade do solo e umidade volumétrica. Também foram avaliados os seguintes atributos da planta nos anos de 2010 e 2011: diâmetro do tronco, tamanho do fruto/planta, número total de frutos/planta, massa fresca dos frutos, firmeza de polpa, teor de brix e produtividade. Os atributos do clima temperatura do ar e umidade relativa do ar também foram avaliados dentro do pomar. Todos os conjuntos de dados foram submetidos a análise exploratória por meio da estatística descritiva. A análise de correlação canônica foi aplicada para analisar as inter-relações entre as variáveis do solo e da planta, enquanto que, a geoestatística foi aplicada para avaliar a estrutura de correlação espacial e temporal de todos os dados bem como relação entre eles. Resultados mostram que a análise de correlação canônica permitiu identificar as variáveis do solo argila e microporosidade como as mais fortemente correlacionadas com a produtividade do pessegueiro e que a análise geoestatística permitiu delimitar as zonas homogêneas dos atributos do solo, da planta e do clima bem como inferir visualmente sobre as inter-relações espaciais entre as variáveis. A associação dos mapas das variáveis do solo, da planta e do clima indica que os futuros manejos diferenciados de práticas agrícolas deverão se basear na distribuição espacial das variáveis no pomar de pessegueiro visto que isto possibilitará a racionalização da aplicação de insumos e de água e a preservação dos recursos naturais na propriedade.

Made available in DSpace on 2014-08-20T14:36:56Z (GMT). No. of bitstreams: 1 Tese_ Alvaro_ Luiz_ Carvalho_ Nebel.pdf: 1615608 bytes, checksum: cf5d12660d9ae82ddc2e973b92c9812e (MD5) Previous issue date: 2009-04-24 / The understanding of the dynamics of the water in the soil-plant-atmosphere system, including the water availability to the crops, soil water infiltration, drainage and soil solute movement, depends on the knowledge of the relation between the soil water content and the matric potential, represented by the soil water retention curve (SWRC). However, the establishment of SWRCs is laborious and time consuming, besides being costly. A alternative is its estimate through statistical equations called Pedotransfer Functions (PTFs). The aim of this study was to evaluate the ability of some existing PTFs, in predicting the soil water retention and to capture its spatial variability structure, using geostatistical tools, when applied in a lowland soil of the south region of Brazil. For this, an experimental 10 x 10 m grid was established and soil disturbed and undisturbed samples were collected in the 0-0.20 m soil depth, totaling 100 experimental points. The following soil attributes were determined in each point: soil texture, soil organic carbon, pH, cation exchange capacity, soil bulk density, and the soil water retention curve. Eight developed PTFs for estimating gravimetric soil water content, eight for estimating volumetric water content and five for estimating the van Genuchten model parameters were evaluated using the statistical measures mean error (ME), and the root mean square error (RMSE). Results indicated that the Oliveira et al. (2002) PTF presented the best performance for estimating the gravimetric soil water content at the tension of 33kPa, with mean error (ME) value of 0.0136g.g-1, while for the gravimetric water content at tension of 1500kPa the Pidgeon (1972) FPT was the best, with ME value of -0,0054g.g-1. Concerning to the potential of describing the spatial variability structure the Bell & van Keulen (1995 and 1996) and of Urach (2007) PTFs presented the best performance based on the results from the cross validation technique. For estimating the soil water volumetric content at the tension of 10kPa the Tomasela et al. (2002) was the best (ME of 0.019cm3.cm-3), while Rawls et al. (1982) and van den Berg et al. (1997) PTFs were the best for estimating soil water content at the tension of 33kPa (ME of 0.001cm3.cm-3) and 1500kPa (ME of -0.008cm3.cm-3), respectively. The range and sill geostatistical parameters for the tension of 33kPa were reasonable estimated, while for the tension of 1500kPa they were underestimated by the evaluated PTFs. The Parametric Pedotransfer Function constructed by Vereecken et al.(1989) presented the lowest value of ME (0.0247cm3.cm-3), while the Hodnett and Tomasella (2002) PTF presented the lowest value of RMSE (0.0367 cm3.cm-3). Both PTFs well described the experimental semivariograms of the soil water content at the tensions of 10kPa and 33kPa, however their performance was not good for the tension of 1500kPa. / Estudos que envolvem a dinâmica da água no sistema solo-planta-atmosfera tais como disponibilidade de água no solo para as culturas, infiltração, drenagem e movimento de solutos no solo necessitam do conhecimento da relação entre o conteúdo de água no solo e o potencial matricial, representada pela curva de retenção de água no solo. No entanto, sua execução é laboriosa, demanda considerável tempo e custos. Uma alternativa é sua estimativa através de equações estatísticas denominadas Funções de Pedotransferência (FPTs). O objetivo deste estudo foi avaliar o desempenho de funções de pedotransferência em estimar a retenção de água no solo e capturar a sua estrutura de variabilidade espacial, usando ferramentas geoestatísticas, quando aplicadas em um solo de várzea da região sul do Brasil. Para isto, uma malha experimental de 10m x 10m foi estabelecido e amostras deformadas e indeformadas do solo foram coletadas representativas da camada de 0 0,20m, totalizando 100 pontos amostrais. Os seguintes atributos do solo foram determinados em cada ponto: textura, carbono orgânico, pH, capacidade de troca de cátions, densidade do solo e a curva de retenção de água no solo. Oito FPTs desenvolvidas para estimar o conteúdo gravimétrico de água no solo, oito para estimar o conteúdo volumétrico e cinco para estimar os parâmetros do modelo de van Genuchten foram avaliadas, usando as medidas estatísticas erro médio (ME) e raiz quadrada do erro médio ao quadrado (RMSE). Os resultados obtidos para a estimativa do conteúdo de água gravimétrico mostram que a FPT de Oliveira et al. (2002) apresentou o melhor desempenho para a tensão de 33kPa, com erro médio (ME) de 0,0136g.g-1, enquanto para a tensão de 1500kPa a FPT de Pidgeon (1972) foi melhor, com ME de -0,0054g.g-1. Com relação ao potencial de descrever a estrutura de variabilidade espacial do conjunto de dados medidos, as FPTs desenvolvidas por Bell & van Keulen (1995 e 1996) e Urach (2007) foram as que apresentaram melhor desempenho baseado nos resultados da validação cruzada. Para o conteúdo volumétrico de água retida no solo, os melhores desempenhos foram obtidos pela FPT de Tomasela et al.(2003) para a tensão de 10kPa, Rawls et al. (1982) para 33kPa e van den Berg et al.(1997) para 1500kPa, com ME iguais a 0,019cm3.cm-3, 0,001cm3.cm-3 e -0,008cm3.cm-3, respectivamente. Os parâmetros da estrutura de dependência espacial, alcance e patamar, para a tensão de 33kPa foram razoavelmente estimados, enquanto para a tensão de 1500kPa foram subestimados pelas FPTs avaliadas. A FPT paramétrica desenvolvida por Vereecken et al. (1989) apresentou o menor valor de ME (0,0247cm3.cm-3), enquanto a FPT de Hodnett e Tomasella (2002) apresentou o menor valor de RMSE (0,0367 cm3.cm-3). Ambas FPTs descreveram bem os semivariogramas experimentais do conteúdo de água retido no solo a 10kPa e 33kPa, entretanto para a tensão de 1500kPa nenhuma das FPTs testadas apresentou bom desempenho.

This work was based in methods of classic descriptive statistics, methods of geostatistics and geoprocessing, in the identification of the size and the structure of the spatial variability of the physical and chemical attributes of the soil in area of Paraguay Tea forestry. The area of study, localized in the Tupian Farm, in the municipality of New Silver, RS, where were raised samples from January to March, 2005, embracing the Latosoil humic dystrophic soil. It was accomplished systematic sample with grid of regular spacing among the one hundred meter points, totalizing thirty-six sample points and the six hundred and thirty pairs of data, in an area of thirty-six hectares. Were collected samples of soil in situ for analysis in laboratory of the physic attributes of the bulky sand (BS), thin sand (TS) , silt (SIL), argil (ARG), soil density (SD), particle density (PD) and whole porosity (WP) and chemical attributes of argil, texture, pH (H2O), phosphorus (P), potassium(P), organic material (OM), aluminum (AL), calcium (Ca), magnesium (Mg), exchangeable aluminum (H + Al), cations real exchange capacity (CTCe), cations exchange capacity to pH7 (CTCpH7) and saturation of basis (V%). The magnitudes of spatial variabilities were obtained by the variation of coefficient (CV%), with confidence level of 95%, through Microsoft Office Excel 2003 program, while the structure was identified by semivariogrames, in applications geostatistics establishing the necessary parameters to the krigagem . All models of semivariogrames presented zones of anisotropic influence, having its spatial variability the greatest in the perpendicular sense to these areas the declivity. The chemical attribute that presented greatest variability was phosphorus (P), with CV%=127,73, followed by the aluminum attribute (Al), com CV%= 99,23 and the attribute of least variability was the pH (H2O), com CV%=0,0013. To the physical attributes in the distribution of particles size (%), the attribute of greatest variability was bulky sand, with CV%=36,39, while the statistics made to the density attributes of soil, what present the greatest variability was the attribute of whole porosity, with CV%=95,49 and they least variability was verified was the argil, with CV%=12,32. IN the analysis of the structure of the spatial variability through geostatistics, the chemical attribute Ca presented IDE (%)=64,42 and the physical attribute ARG with IDE (%)=62,50, getting the greatest rates. To the accomplishment of agreement in the program VARIOWIN® 2.21- Software for Spatial Data Analysis , the method used was the visual, named the feeling , where the Spherical model was what better was adapted to the studied attributes, indicated in 55% of the variogrames. The Gaussian s model to the attribute of texture got the most overtaking with a (m)=421. A crusade validation with the usage of the program GSLIB90 Geostatistical Software Library pointed out accuracy in the agreement of the variographic models, having the attributes Ca, Al and ARG with R² (%) of 0,841; 0,705 and 0,760, respectively. The usual krigagem of the studied attributes permitted the detailed of the distribution of these through the maps of isolineas. / Este trabalho utilizou-se de métodos de estatística descritiva clássica, métodos de geoestatística e de geoprocessamento, na identificação do tamanho e da estrutura da variabilidade espacial de atributos físico-químicos do solo em área de florestamento de erva-mate. A área de estudo, localizada na Fazenda Tupi, no município de Nova Prata, RS, foi levantada amostras nos meses de janeiro a março de 2005, compreendendo a classe de solo Latossolo Húmico Distrófico Álico. Realizou-se amostragem sistemática com grid de espaçamento regular entre os pontos de 100 metros, totalizando 36 pontos amostrais e 630 pares de dados, em uma área de 36 hectares. Foram coletadas amostras de solo in situ para análise em laboratório dos atributos físicos areia grossa (AG), areia fina (AF), silte (SIL), argila (ARG), densidade de solo (DS), densidade de partícula (DP) e porosidade total (PoT) e atributos químicos argila, textura, pH (H2O), fósforo (P), potássio (K), matéria orgânica (M.O.), alumínio (Al), cálcio (Ca), magnésio (Mg), alumínio trocável (H+Al), capacidade de troca de cátions efetiva (CTCe), capacidade de troca de cátions à pH7 (CTCpH7) e saturação de bases (V%). As magnitudes das variabilidades espaciais foram obtidas pelo coeficiente de variação (CV%), com nível de confiança de 95,0%, através do programa Microsoft Office Excel 2003, enquanto que a estrutura foi identificada por meio de semivariogramas, em aplicativos geoestatísticos, definindose os parâmetros necessários para a krigagem. Todos os modelos de semivariogramas apresentaram zonas de influência anisotrópicas, tendo sua variabilidade espacial maior no sentido perpendicular a declividade destas áreas. O atributo químico que apresentou maior variabilidade foi o fósforo (P), com CV%=127,73, seguido do atributo alumínio (Al), com CV%=99,23 e o atributo de menor variabilidade, foi o pH(H2O), com CV%=13,79. Para os atributos físicos, na distribuição do tamanho de partículas (%), o atributo de maior variabilidade foi areia grossa, com CV%=36,39, enquanto a estatística realizada para os atributos densidade do solo, o que apresentou maior variabilidade foi o atributo porosidade total, com CV%=95,49 e a menor variabilidade foi constatada a argila, com CV%=12,32. Na análise de estrutura da variabilidade espacial através da geoestatística, o atributo químico Ca apresentou IDE(%)=64,42 e o atributo físico ARG com IDE(%)=62,50, obtendo os maiores índices. Para realização do ajuste no programa VARIOWIN® 2.21 Software for Spatial Data Analysis , o método utilizado foi o visual, denominado a sentimento , onde o modelo Esférico foi o que melhor se ajustou aos atributos estudados, indicado em 55% dos semivariogramas. O modelo Gaussiano para o atributo textura obteve o maior alcance com a(m)=421. A validação cruzada, com o uso do programa GSLIB 90 Geostatistical Software Library mostrou acuracidade no ajuste dos modelos variográficos, tendo os atributos Ca, Al e ARG com R²(%) de 0,841; 0,705 e 0,760, respectivamente. A krigagem ordinária dos atributos estudados permitiu o detalhamento da distribuição destas a partir dos mapas de isolinhas.

Esta dissertação de mestrado apresenta os resultados de uma investigação sobre os métodos de co-estimativa comumente utilizados em geoestatística. Estes métodos são: cokrigagem ordinária; cokrigagem colocalizada e krigagem com deriva externa. Além disso, a krigagem ordinária foi considerada apenas a título de ilustração como esse método trabalha quando a variável primária estiver pobremente amostrada. Como sabemos, os métodos de co-estimativa dependem de uma variável secundária amostrada sobre o domínio a ser estimado. Adicionalmente, esta variável deveria apresentar correlação linear com a variável principal ou variável primária. Geralmente, a variável primária é pobremente amostrada enquanto a variável secundária é conhecida sobre todo o domínio a ser estimado. Por exemplo, em exploração petrolífera, a variável primária é a porosidade medida em amostras de rocha retiradas de testemunhos e a variável secundária é a amplitude sísmica derivada de processamento de dados de reflexão sísmica. É importante mencionar que a variável primária e a variável secundária devem apresentar algum grau de correlação. Contudo, nós não sabemos como eles funcionam dependendo do grau de correlação. Esta é a questão. Assim, testamos os métodos de co-estimativa para vários conjuntos de dados apresentando diferentes graus de correlação. Na verdade, esses conjuntos de dados foram gerados em computador baseado em algoritmos de transformação de dados. Cinco valores de correlação foram considerados neste estudo: 0,993, 0,870, 0,752, 0,588 e 0,461. A cokrigagem colocalizada foi o melhor método entre todos testados. Este método tem um filtro interno que é aplicado no cálculo do peso da variável secundária, que por sua vez depende do coeficiente de correlação. De fato, quanto maior o coeficiente de correlação, maior é o peso da variável secundária. Então isso significa que este método funciona mesmo quando o coeficiente de correlação entre a variável primária e a variável secundária é baixo. Este é o resultado mais impressionante desta pesquisa. / This master dissertation presents the results of a survey into co-estimation methods commonly used in geostatistics. These methods are ordinary cokriging, collocated cokriging and kriging with an external drift. Besides that ordinary kriging was considered just to illustrate how it does work when the primary variable is poorly sampled. As we know co-estimation methods depend on a secondary variable sampled over the estimation domain. Moreover, this secondary variable should present linear correlation with the main variable or primary variable. Usually the primary variable is poorly sampled whereas the secondary variable is known over the estimation domain. For instance in oil exploration the primary variable is porosity as measured on rock samples gathered from drill holes and the secondary variable is seismic amplitude derived from processing seismic reflection data. It is important to mention that primary and secondary variables must present some degree of correlation. However, we do not know how they work depending on the correlation coefficient. That is the question. Thus, we have tested co-estimation methods for several data sets presenting different degrees of correlation. Actually, these data sets were generated in computer based on some data transform algorithms. Five correlation values have been considered in this study: 0.993; 0.870; 0.752; 0.588 and 0.461. Collocated simple cokriging was the best method among all tested. This method has an internal filter applied to compute the weight for the secondary variable, which in its turn depends on the correlation coefficient. In fact, the greater the correlation coefficient the greater the weight of secondary variable is. Then it means this method works even when the correlation coefficient between primary and secondary variables is low. This is the most impressive result that came out from this research.

Esta dissertação de mestrado apresenta os resultados de uma investigação sobre os métodos de co-estimativa comumente utilizados em geoestatística. Estes métodos são: cokrigagem ordinária; cokrigagem colocalizada e krigagem com deriva externa. Além disso, a krigagem ordinária foi considerada apenas a título de ilustração como esse método trabalha quando a variável primária estiver pobremente amostrada. Como sabemos, os métodos de co-estimativa dependem de uma variável secundária amostrada sobre o domínio a ser estimado. Adicionalmente, esta variável deveria apresentar correlação linear com a variável principal ou variável primária. Geralmente, a variável primária é pobremente amostrada enquanto a variável secundária é conhecida sobre todo o domínio a ser estimado. Por exemplo, em exploração petrolífera, a variável primária é a porosidade medida em amostras de rocha retiradas de testemunhos e a variável secundária é a amplitude sísmica derivada de processamento de dados de reflexão sísmica. É importante mencionar que a variável primária e a variável secundária devem apresentar algum grau de correlação. Contudo, nós não sabemos como eles funcionam dependendo do grau de correlação. Esta é a questão. Assim, testamos os métodos de co-estimativa para vários conjuntos de dados apresentando diferentes graus de correlação. Na verdade, esses conjuntos de dados foram gerados em computador baseado em algoritmos de transformação de dados. Cinco valores de correlação foram considerados neste estudo: 0,993, 0,870, 0,752, 0,588 e 0,461. A cokrigagem colocalizada foi o melhor método entre todos testados. Este método tem um filtro interno que é aplicado no cálculo do peso da variável secundária, que por sua vez depende do coeficiente de correlação. De fato, quanto maior o coeficiente de correlação, maior é o peso da variável secundária. Então isso significa que este método funciona mesmo quando o coeficiente de correlação entre a variável primária e a variável secundária é baixo. Este é o resultado mais impressionante desta pesquisa. / This master dissertation presents the results of a survey into co-estimation methods commonly used in geostatistics. These methods are ordinary cokriging, collocated cokriging and kriging with an external drift. Besides that ordinary kriging was considered just to illustrate how it does work when the primary variable is poorly sampled. As we know co-estimation methods depend on a secondary variable sampled over the estimation domain. Moreover, this secondary variable should present linear correlation with the main variable or primary variable. Usually the primary variable is poorly sampled whereas the secondary variable is known over the estimation domain. For instance in oil exploration the primary variable is porosity as measured on rock samples gathered from drill holes and the secondary variable is seismic amplitude derived from processing seismic reflection data. It is important to mention that primary and secondary variables must present some degree of correlation. However, we do not know how they work depending on the correlation coefficient. That is the question. Thus, we have tested co-estimation methods for several data sets presenting different degrees of correlation. Actually, these data sets were generated in computer based on some data transform algorithms. Five correlation values have been considered in this study: 0.993; 0.870; 0.752; 0.588 and 0.461. Collocated simple cokriging was the best method among all tested. This method has an internal filter applied to compute the weight for the secondary variable, which in its turn depends on the correlation coefficient. In fact, the greater the correlation coefficient the greater the weight of secondary variable is. Then it means this method works even when the correlation coefficient between primary and secondary variables is low. This is the most impressive result that came out from this research.

Submitted by Biblioteca de Pós-Graduação em Geoquímica BGQ (bgq@ndc.uff.br) on 2018-03-09T16:23:29Z No. of bitstreams: 1 TESE DOUTORADO JEFERSON AZE: 5526411 bytes, checksum: f96f27e2cf68f512149ab6842518d6ff (MD5) / Made available in DSpace on 2018-03-09T16:23:31Z (GMT). No. of bitstreams: 1 TESE DOUTORADO JEFERSON AZE: 5526411 bytes, checksum: f96f27e2cf68f512149ab6842518d6ff (MD5) / Universidade Federal Fluminense. Instituto de Química. Programa de Pós-Graduação em Geoquímica, Niterói, RJ / Os objetivos gerais desta tese foram: (a) Selecionar indicadores socioeconômicos e ambientais e integrá-los através da estrutura metodológica FPCIR (Força-Motriz/ Pressão/ Condicionamento/ Impacto/ Resposta). (b) Desenvolver uma metodologia para reconstrução espacial e temporal dos setores censitários em uma nova unidade de planejamento urbano, denominada de Aglomerados dos Setores Censitários (ASC´s). Nesse sentido, foram reconstruídos os Setores Censitários das pesquisas populacionais de 1980 a 2000 (AZEVEDO et al., 2004). Ainda, com relação a essa unidade, cabe destacar que é capaz de resolver os problemas de comparação dos dados georeferenciados das pesquisas populacionais do IBGE e de outras Instituições. Na etapa seguinte, escolheu-se a Bacia Hidrográfica do Rio Imboassú, localizada no Município de São Gonçalo no Estado do Rio de Janeiro para testar essa metodologia. No processo de identificação dos setores censitários que compunham a bacia, deparou-se com o problema de que algumas dessas unidades espaciais tinham parte do seu território contido em outra bacia hidrográfica. Para equacionar essa situação, utilizou-se o conceito de Bacia Ambiental apresentado por Rutkowski (2004). Dentre os vários resultados obtidos na tese, cabe mencionar: O modelo FPCIR permitiu uma análise detalhada da interação entre as atividades humanas e o ambiente; A elaboração do histórico evolutivo do processo de ocupação para 1980 a 2000 e cálculo dos IQV’s-UFF para o mesmo período; Os valores médios para os ICH’s da área de estudo em 2000 eram muito próximos ao do município; O ISA/BA de 2000 mostrou que o valor do indicador diminuía, à medida que os ASCs estavam mais distantes da área central da Bacia; A respeito do melhor índice a ser utilizado, pouco se pode concluir. No máximo, a análise indica que tanto faz escolher IQV-UFF ou ICH; Estimou-se o custo de implantação ou realização dos serviços: (a) abastecimento por rede geral em 2005 (US$ 1.705.000) e em 2010 (US$ 1.927.000); (b) Sistema de Esgotamento Sanitário (Tratamento Secundário/terciário) em 2005 estaria na faixa de (US$ 15.251.200) e em 2010 (US$ 16.559.300); e, (c) Coleta de Lixo Domiciliar Diária em 2005 (US$ 2.596) e em 2010 (US$ 2.820); e, Os Poderes Públicos vêm desenvolvendo muito lentamente e de maneira desorganizada, poucas respostas políticas, socioeconômicas e ambientais aos problemas que ocorrem na área de estudo. / The general objectives of this theory were: (a) Select socioeconomic and environmental indicators and integrate them through the methodological structure DPSIR (Driving Forces- Pressure-State-Impact-Response). (b) Develop a methodology for spatial and temporal reconstruction of the census sectors in a new urban planning unity, named Census Sector Clusters (CSCs). In that sense, the Census Sectors were reconstructed from the population research from 1980 to 2000 (AZEVEDO et al., 2004). Still, regarding this unity, we must emphasize that it is capable to solve the problems of comparison of the geo-reference data from the population research from IBGE and from other institutions. In the following phase, the Environmental Bay of the Imboassú River was chosen to test this methodology. The Imboassú River is located in the Town of São Gonçalo in the State of Rio de Janeiro. In the process to identify the census sectors that composed the bay, we encountered a problem in that some of those spatial units had part of its contained territory in another hydrographic bay. To resolve this situation, we utilized the concept of Environmental Bay presented by Rutkowski (2004). Among the several results obtained in the theory, it is important to mention that the model DPSIR permitted a detailed analysis of the interaction between the human activities and the environment; the elaboration of the historical evolution of the occupational process for 1980 to 2000 and the calculation of the Quality of Life Index (IQVUFF) for the same period; the medium values for the ICH's from the studied area in 2000 were very near to those of the town’s; the ISA/BA of 2000, showed that the value of the indicator diminished as the ASC’s were more distant from that of the Bay’s central area. As to the best index to be utilized, little can be concluded. At most, the analysis indicates that the choice between IQV-UFF and ICH doesn’t matter. It estimated the cost of introduction or realization of the service: (a) supplying it through the general network in 2005 (US$ 1,705,000) and in 2010 (US$ 1,927,000); (b) Sanitation Treatment Systems (Secondary/Tertiary) in 2005 would be in the range of (US$ 15,251,200) and in 2010 (US$ 16,559,300); and, (c) Daily Trash Collection in 2005 (US$ 2,596) and in 2010 (US$ 2,820); and, Public Policies have been developing very slowly and disorganized, few political answers to the socioeconomic and environmental problems are given within the area of study.

Made available in DSpace on 2017-07-10T18:33:09Z (GMT). No. of bitstreams: 1 Alberto A da Rocha.pdf: 4524064 bytes, checksum: 4ca2c5b68ef95250eee21ea868001227 (MD5) Previous issue date: 2013-08-16 / The aim of this study was to analyze the evolution of the development of the 139 municipalities that are in the strip of border of Paraná, through analysis of Index FIRJAN Municipal Development Index (IFDM) and the three categories that compose it: IFDM Education, IFDM Employment and Income IFDM health, in the period 2000-2010. For this research, the literature review included the study of the main theories of regional economics for studies of regional development that explains the spatial distribution of development detected in the studies in question. Survey data were obtained from the IBGE, the Federation of Industries of Rio de Janeiro - FIRJAN, Ipardes and Ministry of National Integration. The data were processed and analyzed from the viewpoint of statistical and GIS in the spatial distribution of the results. The results allowed us to analyze and understand the formations of type (clusters) space, positive and negative, in the grouping of the values assigned by IFDM to municipalities under study. Also, you can see the formation of anomalies (outliers) where some municipalities have different values than their neighbors. Results are shown in graphs and maps thematic, produced using software for statistical analyzes that allow the spatial distribution of data to a visual analysis of the final results. / O objetivo deste estudo foi analisar a evolução do desenvolvimento dos 139 municípios que estão na faixa de fronteira paranaense, através de análise do Índice FIRJAN de Desenvolvimento Municipal (IFDM) e das três categorias que o compõe, IFDM Educação, IFDM Emprego e Renda e IFDM Saúde, no período de 2000 a 2010. Para a realização desta pesquisa a revisão bibliográfica compreendeu o estudo das principais teorias de economia regional para estudos do desenvolvimento regional que explica a distribuição espacial do desenvolvimento detectado nos estudos em questão. Os dados da pesquisa foram obtidos no IBGE, Federação das Indústrias do Rio de Janeiro Firjan, Ipardes e Ministério da Integração Nacional. Os dados foram trabalhados e analisados sob a ótica estatística e de geoprocessamento na distribuição espacial dos resultados. Cujos resultados permitiram analisar e entender as formações de padrões (clusters) espaciais, positivos e negativos, no agrupamento dos valores atribuídos pelo IFDM para os municípios em estudo. E também, pode perceber a formação de anomalias (outliers) onde alguns municípios apresentam valores diferentes que sua vizinhança. São resultados mostrados em gráficos e cartogramas temáticos, produzidos através de softwares para análises estatísticas que permitem a distribuição espacial dos dados para uma análise visual dos resultados finais.