Diferentes métodos geoestatísticos são apresentados como a melhor solução para diferentes contextos de acordo com a natureza dos dados a serem analisados. Alguns dos métodos de estimativa mais populares incluem a krigagem ordinária e a krigagem ordinária lognormal, esta ultima requerendo a transformação dos dados originais para uma distribuição gaussiana. No entanto, esses métodos apresentam limitações, sendo uma das mais discutidas o efeito de suavização apresentado pelas estimativas obtidas. Alguns algoritmos recentes foram propostos como meios de se corrigir este efeito, e são avaliados neste trabalho para a sua eficiência, assim como alguns algoritmos para a transformada reversa dos valores convertidos na krigagem ordinária lognormal. Outra abordagem para o problema é por meio do grupo de métodos denominado de simulação estocástica, alguns dos mais populares sendo a simulação gaussiana seqüencial e a simulação por bandas rotativas, que apesar de não apresentar o efeito de suavização da krigagem, não possuem a precisão local característica dos métodos de estimativa. Este trabalho busca avaliar a eficiência dos diferentes métodos de estimativa (krigagem ordinária, krigagem ordinária lognormal, assim como suas estimativas corrigidas) e simulação (simulação seqüencial gaussiana e simulação por bandas rotativas) para diferentes cenários de dados. Vinte e sete conjuntos de dados exaustivos (em grid 50x50) foram amostrados em 90 pontos por meio da amostragem aleatória simples. Estes conjuntos de dados partiam de uma distribuição gaussiana (Log1) e tinham seus coeficientes de variação progressivamente aumentados até se chegar a uma distribuição altamente assimétrica (Log27). Semivariogramas amostrais foram computados e modelados para os processos geoestatísticos de estimativa e simulação. As estimativas ou realizações resultantes foram então comparadas com os dados exaustivos originais de maneira a se avaliar quão bem esses dados originais eram reproduzidos. Isto foi feito pela comparação de parâmetros estatísticos dos dados originais com os dos dados reconstruídos, assim como por meio de análise gráfica. Resultados demonstraram que o método que apresentou melhores resultados foi a krigagem ordinária lognormal, estes ainda melhores quando aplicada a transformação reversa de Yamamoto, com grande melhora principalmente nos resultados para os dados altamente assimétricos. A krigagem ordinária apresentou sérias limitações na reprodução da cauda inferior dos conjuntos de dados mais assimétricos, apresentando para estes resultados piores que as estimativas não corrigidas. Ambos os métodos de simulação utilizados apresentaram uma baixa correlação como os dados exaustivos, seus resultados também cada vez menos representativos de acordo com o aumento do coeficiente de variação, apesar de apresentar a vantagem de fornecer diferentes cenários para tomada de decisões. / Different geostatistical methods present themselves as the optimal solution to different realities according to the characteristics displayed by the data in analysis. Some of the most popular estimation methods include ordinary kriging and lognormal ordinary kriging, this last one involving the transformation of data from their original space to a Gaussian distribution. However, these methods present some limitations, one of the most prominent ones being the smoothing effect observed in the resulting estimates. Some recent algorithms have been proposed as a way to correct this effect, and are tested in this work for their effectiveness, as well as some methods for the backtransformation of the lognormal converted values. Another approach to the problem is by means of the group of methods known as stochastic simulation, some of the most popular ones being the sequential Gaussian simulation and turning bands simulation, which although do not present the smoothing effect, lack the local accuracy characteristic of the estimation methods. This work seeks to assess the effectiveness of the different estimation (ordinary kriging, lognormal ordinary kriging, and their corrected estimates) and simulation (sequential Gaussian simulation and turning bands simulation) methods for different scenarios. Twenty seven exhaustive data sets (in a 50x50 grid) have been sampled at 90 points based on simple random sampling. These data sets started from a Gaussian distribution (Log1) and had their variation coefficients increased progressively, up to a highly asymmetrical distribution (Log27). Experimental semivariograms have been computed and modeled for geostatistical estimation and simulation processes. The resulting estimates or realizations were then compared to the original exhaustive data in order to assess how well these reproduced the original data. This was done by comparing statistical parameters of the original data and the ones of the reconstructed data, as well as graphically. Results showed that the method that presented the best correlation with the exhaustive data was lognormal ordinary kriging, even better when the backtransformation technique by Yamamoto is applied, which much improved the results for the more asymmetrical data sets. Ordinary kriging and its correction had some severe limitations in reproducing the lower tail of the more asymmetrical data sets, with worst results than those for the uncorrected estimates. Both simulation methods used presented a very small degree of correlation to the exhaustive data, their results also progressively less representative as the variation coefficient grew, even though it has the advantage of presenting several scenarios for decision making.

Diferentes métodos geoestatísticos são apresentados como a melhor solução para diferentes contextos de acordo com a natureza dos dados a serem analisados. Alguns dos métodos de estimativa mais populares incluem a krigagem ordinária e a krigagem ordinária lognormal, esta ultima requerendo a transformação dos dados originais para uma distribuição gaussiana. No entanto, esses métodos apresentam limitações, sendo uma das mais discutidas o efeito de suavização apresentado pelas estimativas obtidas. Alguns algoritmos recentes foram propostos como meios de se corrigir este efeito, e são avaliados neste trabalho para a sua eficiência, assim como alguns algoritmos para a transformada reversa dos valores convertidos na krigagem ordinária lognormal. Outra abordagem para o problema é por meio do grupo de métodos denominado de simulação estocástica, alguns dos mais populares sendo a simulação gaussiana seqüencial e a simulação por bandas rotativas, que apesar de não apresentar o efeito de suavização da krigagem, não possuem a precisão local característica dos métodos de estimativa. Este trabalho busca avaliar a eficiência dos diferentes métodos de estimativa (krigagem ordinária, krigagem ordinária lognormal, assim como suas estimativas corrigidas) e simulação (simulação seqüencial gaussiana e simulação por bandas rotativas) para diferentes cenários de dados. Vinte e sete conjuntos de dados exaustivos (em grid 50x50) foram amostrados em 90 pontos por meio da amostragem aleatória simples. Estes conjuntos de dados partiam de uma distribuição gaussiana (Log1) e tinham seus coeficientes de variação progressivamente aumentados até se chegar a uma distribuição altamente assimétrica (Log27). Semivariogramas amostrais foram computados e modelados para os processos geoestatísticos de estimativa e simulação. As estimativas ou realizações resultantes foram então comparadas com os dados exaustivos originais de maneira a se avaliar quão bem esses dados originais eram reproduzidos. Isto foi feito pela comparação de parâmetros estatísticos dos dados originais com os dos dados reconstruídos, assim como por meio de análise gráfica. Resultados demonstraram que o método que apresentou melhores resultados foi a krigagem ordinária lognormal, estes ainda melhores quando aplicada a transformação reversa de Yamamoto, com grande melhora principalmente nos resultados para os dados altamente assimétricos. A krigagem ordinária apresentou sérias limitações na reprodução da cauda inferior dos conjuntos de dados mais assimétricos, apresentando para estes resultados piores que as estimativas não corrigidas. Ambos os métodos de simulação utilizados apresentaram uma baixa correlação como os dados exaustivos, seus resultados também cada vez menos representativos de acordo com o aumento do coeficiente de variação, apesar de apresentar a vantagem de fornecer diferentes cenários para tomada de decisões. / Different geostatistical methods present themselves as the optimal solution to different realities according to the characteristics displayed by the data in analysis. Some of the most popular estimation methods include ordinary kriging and lognormal ordinary kriging, this last one involving the transformation of data from their original space to a Gaussian distribution. However, these methods present some limitations, one of the most prominent ones being the smoothing effect observed in the resulting estimates. Some recent algorithms have been proposed as a way to correct this effect, and are tested in this work for their effectiveness, as well as some methods for the backtransformation of the lognormal converted values. Another approach to the problem is by means of the group of methods known as stochastic simulation, some of the most popular ones being the sequential Gaussian simulation and turning bands simulation, which although do not present the smoothing effect, lack the local accuracy characteristic of the estimation methods. This work seeks to assess the effectiveness of the different estimation (ordinary kriging, lognormal ordinary kriging, and their corrected estimates) and simulation (sequential Gaussian simulation and turning bands simulation) methods for different scenarios. Twenty seven exhaustive data sets (in a 50x50 grid) have been sampled at 90 points based on simple random sampling. These data sets started from a Gaussian distribution (Log1) and had their variation coefficients increased progressively, up to a highly asymmetrical distribution (Log27). Experimental semivariograms have been computed and modeled for geostatistical estimation and simulation processes. The resulting estimates or realizations were then compared to the original exhaustive data in order to assess how well these reproduced the original data. This was done by comparing statistical parameters of the original data and the ones of the reconstructed data, as well as graphically. Results showed that the method that presented the best correlation with the exhaustive data was lognormal ordinary kriging, even better when the backtransformation technique by Yamamoto is applied, which much improved the results for the more asymmetrical data sets. Ordinary kriging and its correction had some severe limitations in reproducing the lower tail of the more asymmetrical data sets, with worst results than those for the uncorrected estimates. Both simulation methods used presented a very small degree of correlation to the exhaustive data, their results also progressively less representative as the variation coefficient grew, even though it has the advantage of presenting several scenarios for decision making.

Neste trabalho apresentamos os modelos lineares parciais generalizados com uma variável explicativa contínua tratada de forma não paramétrica e os modelos lineares parciais aditivos generalizados com no mínimo duas variáveis explicativas contínuas tratadas de tal forma. São utilizados os P-splines para descrever a relação da variável resposta com as variáveis explicativas contínuas. Sendo assim, as funções de verossimilhança penalizadas, as funções escore penalizadas e as matrizes de informação de Fisher penalizadas são desenvolvidas para a obtenção das estimativas de máxima verossimilhança penalizadas por meio da combinação do algoritmo backfitting (Gauss-Seidel) e do processo iterativo escore de Fisher para os dois tipos de modelo. Em seguida, são apresentados procedimentos para a estimação do parâmetro de suavização, bem como dos graus de liberdade efetivos. Por fim, com o objetivo de ilustração, os modelos propostos são ajustados à conjuntos de dados reais. / In this work we present the generalized partial linear models with one continuous explanatory variable treated nonparametrically and the generalized additive partial linear models with at least two continuous explanatory variables treated in such a way. The P-splines are used to describe the relationship among the response and the continuous explanatory variables. Then, the penalized likelihood functions, penalized score functions and penalized Fisher information matrices are derived to obtain the penalized maximum likelihood estimators by the combination of the backfitting (Gauss-Seidel) algorithm and the Fisher escoring iterative method for the two types of model. In addition, we present ways to estimate the smoothing parameter as well as the effective degrees of freedom. Finally, for the purpose of illustration, the proposed models are fitted to real data sets.

Made available in DSpace on 2016-06-02T20:06:09Z (GMT). No. of bitstreams: 1 6004.pdf: 835734 bytes, checksum: b9cae4e00b44525ff06f6dfea7cfe687 (MD5) Previous issue date: 2014-03-28 / Universidade Federal de Sao Carlos / Correlated data sets with nonlinear structure are common in many areas such as biostatistics, pharmacokinetics and longitudinal studies. Nonlinear mixed-effects models are useful tools to analyse those type of problems. In this dissertation, a generalization to this models is proposed, namely by semiparametric partially nonlinear mixed-effects model (MMSPNL), with a nonparametric function to model the mean of the response variable. It assumes that the mean of the interest variable is explained by a nonlinear function, which depends on fixed effects parameters and explanatory variables, and by a nonparametric function. Such nonparametic function is quite flexible, allowing a better adequacy to the functional form that underlies the data. The random effects are included linearly to the model, which simplify the expression of the response variable distribution and enables the model to take into account the within-group correlation structure. It is assumed that the random errors and the random effects jointly follow a multivariate normal distribution. Relate to the nonparametric function, it is deal with the P-splines smoothing technique. The methodology to obtain the parameters estimates is penalized maximum likelihood method. The random effects may be obtained by using the Empirical Bayes method. The goodness of the model and identification of potencial influent observation is verified with the local influence method and a residual analysis. The pharmacokinetic data set, in which the anti-asthmatic drug theophylline was administered to 12 subjects and serum concentrations were taken at 11 time points over the 25 hours (after being administered), was re-analysed with the proposed model, exemplifying its uses and properties. / Dados correlacionados com estrutura não linear são comuns em bioestatística, estudos farmacocinéticos e longitudinais. Modelos mistos não lineares são ferramentas úteis para se analisar esses tipos de problemas. Nesta dissertação, propõe-se uma generalização desses modelos, chamada de modelo misto semiparamétrico parcialmente não linear (MMSPNL), com uma função não paramétrica para se modelar a média da variável resposta. Assume-se que a média da variável de interesse é explicada por uma função não linear, que depende de parâmetros de efeitos fixos e variáveis explicativas, e por uma função não paramétrica. Tal função não paramétrica possui grande flexibilidade, permitindo uma melhor adequação à forma funcional que subjaz aos dados. Os efeitos aleatórios são incluídos linearmente ao modelo, o que simplifica a expressão da distribuição da variável resposta e permite considerar a estrutura de correlação intra grupo. É assumido que os erros aleatórios e efeitos aleatórios conjuntamente seguem uma distribuição normal multivariada. Em relação a função não paramétrica, utiliza-se a técnica de suavização com P-splines. A metodologia para se obterem as estimativas dos parâmetros é o método de máxima verossimilhança penalizada. Os efeitos aleatórios podem ser obtidos usando-se o método de Bayes empírico. A qualidade do modelo e a identificação de observações aberrantes é verificada pelo método de influência local e por análise de resíduos. O conjunto de dados farmacocinéticos, em que o antiasmático theophylline foi administrado a 12 sujeitos e concentrações séricas foram tomadas em 11 instantes de tempo durante as 25 horas (após ser administrado), foi reanalisado com o modelo proposto, exemplificando seu uso e propriedades.

Neste trabalho apresentamos os modelos lineares parciais generalizados com uma variável explicativa contínua tratada de forma não paramétrica e os modelos lineares parciais aditivos generalizados com no mínimo duas variáveis explicativas contínuas tratadas de tal forma. São utilizados os P-splines para descrever a relação da variável resposta com as variáveis explicativas contínuas. Sendo assim, as funções de verossimilhança penalizadas, as funções escore penalizadas e as matrizes de informação de Fisher penalizadas são desenvolvidas para a obtenção das estimativas de máxima verossimilhança penalizadas por meio da combinação do algoritmo backfitting (Gauss-Seidel) e do processo iterativo escore de Fisher para os dois tipos de modelo. Em seguida, são apresentados procedimentos para a estimação do parâmetro de suavização, bem como dos graus de liberdade efetivos. Por fim, com o objetivo de ilustração, os modelos propostos são ajustados à conjuntos de dados reais. / In this work we present the generalized partial linear models with one continuous explanatory variable treated nonparametrically and the generalized additive partial linear models with at least two continuous explanatory variables treated in such a way. The P-splines are used to describe the relationship among the response and the continuous explanatory variables. Then, the penalized likelihood functions, penalized score functions and penalized Fisher information matrices are derived to obtain the penalized maximum likelihood estimators by the combination of the backfitting (Gauss-Seidel) algorithm and the Fisher escoring iterative method for the two types of model. In addition, we present ways to estimate the smoothing parameter as well as the effective degrees of freedom. Finally, for the purpose of illustration, the proposed models are fitted to real data sets.

Esta dissertação de mestrado apresenta os resultados de uma investigação sobre os métodos de co-estimativa comumente utilizados em geoestatística. Estes métodos são: cokrigagem ordinária; cokrigagem colocalizada e krigagem com deriva externa. Além disso, a krigagem ordinária foi considerada apenas a título de ilustração como esse método trabalha quando a variável primária estiver pobremente amostrada. Como sabemos, os métodos de co-estimativa dependem de uma variável secundária amostrada sobre o domínio a ser estimado. Adicionalmente, esta variável deveria apresentar correlação linear com a variável principal ou variável primária. Geralmente, a variável primária é pobremente amostrada enquanto a variável secundária é conhecida sobre todo o domínio a ser estimado. Por exemplo, em exploração petrolífera, a variável primária é a porosidade medida em amostras de rocha retiradas de testemunhos e a variável secundária é a amplitude sísmica derivada de processamento de dados de reflexão sísmica. É importante mencionar que a variável primária e a variável secundária devem apresentar algum grau de correlação. Contudo, nós não sabemos como eles funcionam dependendo do grau de correlação. Esta é a questão. Assim, testamos os métodos de co-estimativa para vários conjuntos de dados apresentando diferentes graus de correlação. Na verdade, esses conjuntos de dados foram gerados em computador baseado em algoritmos de transformação de dados. Cinco valores de correlação foram considerados neste estudo: 0,993, 0,870, 0,752, 0,588 e 0,461. A cokrigagem colocalizada foi o melhor método entre todos testados. Este método tem um filtro interno que é aplicado no cálculo do peso da variável secundária, que por sua vez depende do coeficiente de correlação. De fato, quanto maior o coeficiente de correlação, maior é o peso da variável secundária. Então isso significa que este método funciona mesmo quando o coeficiente de correlação entre a variável primária e a variável secundária é baixo. Este é o resultado mais impressionante desta pesquisa. / This master dissertation presents the results of a survey into co-estimation methods commonly used in geostatistics. These methods are ordinary cokriging, collocated cokriging and kriging with an external drift. Besides that ordinary kriging was considered just to illustrate how it does work when the primary variable is poorly sampled. As we know co-estimation methods depend on a secondary variable sampled over the estimation domain. Moreover, this secondary variable should present linear correlation with the main variable or primary variable. Usually the primary variable is poorly sampled whereas the secondary variable is known over the estimation domain. For instance in oil exploration the primary variable is porosity as measured on rock samples gathered from drill holes and the secondary variable is seismic amplitude derived from processing seismic reflection data. It is important to mention that primary and secondary variables must present some degree of correlation. However, we do not know how they work depending on the correlation coefficient. That is the question. Thus, we have tested co-estimation methods for several data sets presenting different degrees of correlation. Actually, these data sets were generated in computer based on some data transform algorithms. Five correlation values have been considered in this study: 0.993; 0.870; 0.752; 0.588 and 0.461. Collocated simple cokriging was the best method among all tested. This method has an internal filter applied to compute the weight for the secondary variable, which in its turn depends on the correlation coefficient. In fact, the greater the correlation coefficient the greater the weight of secondary variable is. Then it means this method works even when the correlation coefficient between primary and secondary variables is low. This is the most impressive result that came out from this research.

Esta dissertação de mestrado apresenta os resultados de uma investigação sobre os métodos de co-estimativa comumente utilizados em geoestatística. Estes métodos são: cokrigagem ordinária; cokrigagem colocalizada e krigagem com deriva externa. Além disso, a krigagem ordinária foi considerada apenas a título de ilustração como esse método trabalha quando a variável primária estiver pobremente amostrada. Como sabemos, os métodos de co-estimativa dependem de uma variável secundária amostrada sobre o domínio a ser estimado. Adicionalmente, esta variável deveria apresentar correlação linear com a variável principal ou variável primária. Geralmente, a variável primária é pobremente amostrada enquanto a variável secundária é conhecida sobre todo o domínio a ser estimado. Por exemplo, em exploração petrolífera, a variável primária é a porosidade medida em amostras de rocha retiradas de testemunhos e a variável secundária é a amplitude sísmica derivada de processamento de dados de reflexão sísmica. É importante mencionar que a variável primária e a variável secundária devem apresentar algum grau de correlação. Contudo, nós não sabemos como eles funcionam dependendo do grau de correlação. Esta é a questão. Assim, testamos os métodos de co-estimativa para vários conjuntos de dados apresentando diferentes graus de correlação. Na verdade, esses conjuntos de dados foram gerados em computador baseado em algoritmos de transformação de dados. Cinco valores de correlação foram considerados neste estudo: 0,993, 0,870, 0,752, 0,588 e 0,461. A cokrigagem colocalizada foi o melhor método entre todos testados. Este método tem um filtro interno que é aplicado no cálculo do peso da variável secundária, que por sua vez depende do coeficiente de correlação. De fato, quanto maior o coeficiente de correlação, maior é o peso da variável secundária. Então isso significa que este método funciona mesmo quando o coeficiente de correlação entre a variável primária e a variável secundária é baixo. Este é o resultado mais impressionante desta pesquisa. / This master dissertation presents the results of a survey into co-estimation methods commonly used in geostatistics. These methods are ordinary cokriging, collocated cokriging and kriging with an external drift. Besides that ordinary kriging was considered just to illustrate how it does work when the primary variable is poorly sampled. As we know co-estimation methods depend on a secondary variable sampled over the estimation domain. Moreover, this secondary variable should present linear correlation with the main variable or primary variable. Usually the primary variable is poorly sampled whereas the secondary variable is known over the estimation domain. For instance in oil exploration the primary variable is porosity as measured on rock samples gathered from drill holes and the secondary variable is seismic amplitude derived from processing seismic reflection data. It is important to mention that primary and secondary variables must present some degree of correlation. However, we do not know how they work depending on the correlation coefficient. That is the question. Thus, we have tested co-estimation methods for several data sets presenting different degrees of correlation. Actually, these data sets were generated in computer based on some data transform algorithms. Five correlation values have been considered in this study: 0.993; 0.870; 0.752; 0.588 and 0.461. Collocated simple cokriging was the best method among all tested. This method has an internal filter applied to compute the weight for the secondary variable, which in its turn depends on the correlation coefficient. In fact, the greater the correlation coefficient the greater the weight of secondary variable is. Then it means this method works even when the correlation coefficient between primary and secondary variables is low. This is the most impressive result that came out from this research.