Made available in DSpace on 2017-05-12T14:47:07Z (GMT). No. of bitstreams: 1 protegidoJacqueline_dissertacao.pdf: 3012964 bytes, checksum: 337f371fa8c665bb4fdfdc22709938da (MD5) Previous issue date: 2015-02-02 / The soil spatial variability s studies are based in geostatistics which appears as a method whose data comes from natural phenomena and consider the geographical location of the phenomenon. If in an area under study the researcher has interest in searching the variability of variables and has evidence that the steps which describe the spatial structure of this variables aren t independent a geostatistical bivariate model study can be proposed. This work concentrates on evaluating the variation s influence of the bivariate Gaussian common component model (BGCCM) parameters in calculating the Pearson correlation coefficient and analyzing the influence that sizes and sampling settings may present at the BGCCM s estimation and at spatial prediction variables in non-sampled locations. Moreover, for co-placed samples, crossed semivariograms were built and compared with univariate model and BGCCM, in relation to estimates of the model and the sizes associated with the spatial prediction. In order to do it, these methodologies were applied in simulated data sets and experimental data, from an agricultural property. The simulation study of the parameters variation influence s analysis of the bivariate model BGCCM in calculating the Pearson correlation coefficient between described variables of bivariate model BGCCM revealed that the Pearson s linear correlation coefficient can t be considered in decision-making about the presence of joint spatial dependence between pairs of variables. In the study with simulations, it was observed that the biggest differences of accuracy measures and the square sum of the spatial prediction s difference occurred when the univariate models and crossed semivariogram were compared to the BGCCM. Moreover, the simulation s study observed that for balanced data the regular and irregular meshes showed better efficiency as the spatial prediction. The study with real data showed that under the BGCCM approach, spatial dependence was observed, mainly between pH and Mn for co-placed and balanced data of the agriculture year 2010/2011; and between the variable inside of the next pairs: (Prod, RSP0-10), (Prod, RSP11-20), (Prod, RSP21-30) and (Prod, Mn) for co-placed and balanced data of the agriculture year 2013/2014; and (Prod, RSP11-20) and (Prod, RSP21-30) for co-placed and unbalanced data of the agriculture year 2013/2014. Still considering the real data study comparing the univariated models, crossed semivariogram and BGCCM, differences could be observed in the square sum of prediction s difference and in the accuracy measures, both for balanced and unbalanced data. However, considering the real data and the control sample, the spatial prediction s quality using the BGCCM model was inefficient when compared to the quality resulted from the spatial prediction using the univariate model. Nevertheless, this result may have been influenced by the choice of sample configuration. / Estudos da variabilidade espacial do solo estão baseados na geoestatística, que se apresenta como um método cujos dados provêm de fenômenos naturais e que consideram a localização geográfica do fenômeno. Se numa área em estudo o pesquisador tem interesse em pesquisar a variabilidade das variáveis e se há evidências que os passos que descrevem a estrutura espacial dessas variáveis não são independentes pode-se propor o estudo de um modelo geoestatístico bivariado. Este trabalho concentrou-se em avaliar a influência da variação dos parâmetros do modelo bivariado com componente de correlação parcialmente comum (bivariate Gaussian common component model BGCCM) no cálculo do coeficiente de correlação linear de Pearson e analisar a influência que tamanhos e configurações amostrais podem apresentar na estimação do modelo BGCCM e na predição espacial de variáveis em localizações não amostradas. Além disso, para amostras co-locadas, construíram-se os semivariogramas cruzados e comparou-se com o modelo univariado e BGCCM, em relação às estimativas do modelo e as medidas associadas à predição espacial. Para isso, essas metodologias foram aplicadas em conjuntos de dados simulados e dados experimentais, provenientes de uma propriedade agrícola. O estudo de simulação da análise da influência da variação dos parâmetros do modelo bivariado BGCCM no cálculo do coeficiente de correlação linear de Pearson entre as variáveis descritas do modelo bivariado BGCCM revelou que o coeficiente de correlação linear de Pearson não pode ser considerado na tomada de decisão quanto à presença de dependência espacial conjunta entre pares de variáveis. No estudo com simulações observou-se que as maiores diferenças das medidas de acurácia e da soma quadrada da diferença entre as predições espaciais ocorreram quando se comparou os modelos univariado e semivariograma cruzado com o BGCCM. Ainda no estudo de simulação observou-se que para os dados balanceados as malhas regular e irregular apresentaram melhor eficiência quanto à predição espacial. O estudo com dados reais mostrou que, sob a abordagem do modelo BGCCM, observou-se a presença de dependência espacial principalmente entre pH e Mn para dados co-locados e balanceados do ano agrícola 2010/2011; e entre as variáveis dentro dos seguintes pares: (Prod, RSP0-10), (Prod, RSP11-20), (Prod, RSP21-30) e (Prod, Mn) para dados co-locados e balanceados do ano agrícola 2013/2014; e (Prod, RSP11-20) e (Prod, RSP21-30) para dados co-locados e desbalanceados do ano agrícola 2013/2014. Ainda considerando o estudo com dados reais comparando os modelos univariado, semivariograma cruzado e BGCCM, mostraram diferenças na soma quadrada da diferença da predição e nas medidas acurácia, tanto para dados balanceados como para os desbalanceados. No entanto, considerando os dados reais e a amostra controle, a qualidade da predição espacial usando o modelo BGCCM se mostrou ineficiente quando comparada com a qualidade obtida na predição espacial usando o modelo univariado. Porém, esse resultado pode ter sido influenciado pela escolha da configuração amostral utilizada.

Made available in DSpace on 2017-07-10T19:23:53Z (GMT). No. of bitstreams: 1 protegidoJacqueline_dissertacao.pdf: 3012964 bytes, checksum: 337f371fa8c665bb4fdfdc22709938da (MD5) Previous issue date: 2015-02-02 / The soil spatial variability s studies are based in geostatistics which appears as a method whose data comes from natural phenomena and consider the geographical location of the phenomenon. If in an area under study the researcher has interest in searching the variability of variables and has evidence that the steps which describe the spatial structure of this variables aren t independent a geostatistical bivariate model study can be proposed. This work concentrates on evaluating the variation s influence of the bivariate Gaussian common component model (BGCCM) parameters in calculating the Pearson correlation coefficient and analyzing the influence that sizes and sampling settings may present at the BGCCM s estimation and at spatial prediction variables in non-sampled locations. Moreover, for co-placed samples, crossed semivariograms were built and compared with univariate model and BGCCM, in relation to estimates of the model and the sizes associated with the spatial prediction. In order to do it, these methodologies were applied in simulated data sets and experimental data, from an agricultural property. The simulation study of the parameters variation influence s analysis of the bivariate model BGCCM in calculating the Pearson correlation coefficient between described variables of bivariate model BGCCM revealed that the Pearson s linear correlation coefficient can t be considered in decision-making about the presence of joint spatial dependence between pairs of variables. In the study with simulations, it was observed that the biggest differences of accuracy measures and the square sum of the spatial prediction s difference occurred when the univariate models and crossed semivariogram were compared to the BGCCM. Moreover, the simulation s study observed that for balanced data the regular and irregular meshes showed better efficiency as the spatial prediction. The study with real data showed that under the BGCCM approach, spatial dependence was observed, mainly between pH and Mn for co-placed and balanced data of the agriculture year 2010/2011; and between the variable inside of the next pairs: (Prod, RSP0-10), (Prod, RSP11-20), (Prod, RSP21-30) and (Prod, Mn) for co-placed and balanced data of the agriculture year 2013/2014; and (Prod, RSP11-20) and (Prod, RSP21-30) for co-placed and unbalanced data of the agriculture year 2013/2014. Still considering the real data study comparing the univariated models, crossed semivariogram and BGCCM, differences could be observed in the square sum of prediction s difference and in the accuracy measures, both for balanced and unbalanced data. However, considering the real data and the control sample, the spatial prediction s quality using the BGCCM model was inefficient when compared to the quality resulted from the spatial prediction using the univariate model. Nevertheless, this result may have been influenced by the choice of sample configuration. / Estudos da variabilidade espacial do solo estão baseados na geoestatística, que se apresenta como um método cujos dados provêm de fenômenos naturais e que consideram a localização geográfica do fenômeno. Se numa área em estudo o pesquisador tem interesse em pesquisar a variabilidade das variáveis e se há evidências que os passos que descrevem a estrutura espacial dessas variáveis não são independentes pode-se propor o estudo de um modelo geoestatístico bivariado. Este trabalho concentrou-se em avaliar a influência da variação dos parâmetros do modelo bivariado com componente de correlação parcialmente comum (bivariate Gaussian common component model BGCCM) no cálculo do coeficiente de correlação linear de Pearson e analisar a influência que tamanhos e configurações amostrais podem apresentar na estimação do modelo BGCCM e na predição espacial de variáveis em localizações não amostradas. Além disso, para amostras co-locadas, construíram-se os semivariogramas cruzados e comparou-se com o modelo univariado e BGCCM, em relação às estimativas do modelo e as medidas associadas à predição espacial. Para isso, essas metodologias foram aplicadas em conjuntos de dados simulados e dados experimentais, provenientes de uma propriedade agrícola. O estudo de simulação da análise da influência da variação dos parâmetros do modelo bivariado BGCCM no cálculo do coeficiente de correlação linear de Pearson entre as variáveis descritas do modelo bivariado BGCCM revelou que o coeficiente de correlação linear de Pearson não pode ser considerado na tomada de decisão quanto à presença de dependência espacial conjunta entre pares de variáveis. No estudo com simulações observou-se que as maiores diferenças das medidas de acurácia e da soma quadrada da diferença entre as predições espaciais ocorreram quando se comparou os modelos univariado e semivariograma cruzado com o BGCCM. Ainda no estudo de simulação observou-se que para os dados balanceados as malhas regular e irregular apresentaram melhor eficiência quanto à predição espacial. O estudo com dados reais mostrou que, sob a abordagem do modelo BGCCM, observou-se a presença de dependência espacial principalmente entre pH e Mn para dados co-locados e balanceados do ano agrícola 2010/2011; e entre as variáveis dentro dos seguintes pares: (Prod, RSP0-10), (Prod, RSP11-20), (Prod, RSP21-30) e (Prod, Mn) para dados co-locados e balanceados do ano agrícola 2013/2014; e (Prod, RSP11-20) e (Prod, RSP21-30) para dados co-locados e desbalanceados do ano agrícola 2013/2014. Ainda considerando o estudo com dados reais comparando os modelos univariado, semivariograma cruzado e BGCCM, mostraram diferenças na soma quadrada da diferença da predição e nas medidas acurácia, tanto para dados balanceados como para os desbalanceados. No entanto, considerando os dados reais e a amostra controle, a qualidade da predição espacial usando o modelo BGCCM se mostrou ineficiente quando comparada com a qualidade obtida na predição espacial usando o modelo univariado. Porém, esse resultado pode ter sido influenciado pela escolha da configuração amostral utilizada.