O objetivo principal deste trabalho é discutir estimação e diagnóstico em modelos semiparamétricos com resposta binomial negativa, mais especificamente, modelos de regressão com resposta binomial negativa em que uma das variáveis explicativas contínuas é modelada de forma não paramétrica. Iniciamos o trabalho com um exemplo ilustrativo e fazemos uma breve revisão dos modelos paramétricos com resposta binomial negativa. Em seguida, introduzimos os modelos semiparamétricos com resposta binomial negativa e discutimos alguns aspectos de estimação, inferência e seleção de modelos. Dedicamos um capítulo a procedimentos de diagnóstico, tais como desenvolvimento de medidas de alavanca e de influência sob os aspectos de deleção de pontos e influência local, além de abordar a análise de resíduos. Reanalizamos o exemplo ilustrativo sob o enfoque semiparamétrico e apresentamos algumas conclusões. / The aim of this work is to discuss some aspects on estimation and diagnostics in negative binomial regression models which an explanatory continuous variable is modeled nonparametrically. First, an illustrative example is presented and analyzed under parametric negative binomial regression models. The proposed models are then introduced and some aspects on estimations, inference and model selection are presented. Particular emphasis is given on the development of diagnostic procedures, such as leverage measures, Cook distances, local influence approach and residuals. The motivated example is reanalyzed under the semiparametric viewpoint and some conclusions are given.

Os modelos logísticos trinomiais podem ser interpretados como uma extensão natural do modelo logístico binomial para situações em que a resposta admite apenas três resultados. Introduzimos inicialmente os modelos logísticos trinomiais e discutiremos em seguida alguns aspectos inferenciais, tais como estimação e testes. Medidas de qualidade do ajuste são também apresentadas. Contudo, o principal foco deste trabalho é a apresentação de métodos de diagnóstico. Mostramos que as técnicas usuais de diagnóstico desenvolvidas para o modelo logístico binomial podem ser adaptadas para o caso trinomial. O desenvolvimento de métodos diretos para o modelo logístico trinomial é mais complexo do ponto de vista computacional, embora seja sempre possível. Discutimos alguns desses métodos, dentre os quais, o desenvolvimento de resíduos, de métodos para detectar pontos de alavanca, métodos de deleção de pontos e influência local. Comparamos os métodos adaptados com alguns métodos diretos através de exemplos. / The trinomial logistic models can be interpreted as a natural extension of the traditional binomial logistic model to situations in which the response allows only three possible results. We firts introduce the trinomial logistic modles and then some inferential aspects, such as estimation and hypothesis testing are discussed. Good-of-fit measures are also given. However, the aim of this work is the presentation of some diagnostic procedures for trinomial logistic models. We show that methods developed for binomial logistic models can adapted straightforward for trinomial models. The developement of direct methods, even though possible, in general requires more complex calculation. Some of these direct methods, suchs as evaluation of residuals, measures of high leverage points, deletion methods and local influence are apresented. Coparisons between adapted and direct methods are made via examples with real data.

Neste trabalho estendemos os modelos mistos semiparamétricos propostos por Zhang et al. (1998) para uma classe mais geral de modelos, a qual denominamos modelos mistos aditivos semiparamétricos com erros de contornos elípticos. Com essa nova abordagem, flexibilizamos a curtose da distribuição dos erros possibilitando a escolha de distribuições com caudas mais leves ou mais pesadas do que as caudas da distribuição normal padrão. Funções de verossimilhança penalizadas são aplicadas para a obtenção das estimativas de máxima verossimilhança com os respectivos erros padrão aproximados. Essas estimativas, sob erros de caudas pesadas, são robustas no sentido da distância de Mahalanobis contra observações aberrantes. Curvaturas de influência local são obtidas segundo alguns esquemas de perturbação e gráficos de diagnóstico são propostos. Exemplos ilustrativos são apresentados em que ajustes sob erros normais são comparados, através das metodologias de sensibilidade desenvolvidas no trabalho, com ajustes sob erros de contornos elípticos. / In this work we extend the models proposed by Zhang et al. (1998) to a more general class of models, know as semiparametric additive mixed models with elliptical errors in order to allow distributions with heavier or lighter tails than the normal ones. Penalized likelihood equations are applied to derive the maximum likelihood estimates which appear to be robust against outlying observations in the sense of the Mahalanobis distance. In order to study the sensitivity of the penalized estimates under some usual perturbation schemes in the model or data, the local influence curvatures are derived and some diagnostic graphics are proposed. Motivating examples preliminary analyzed under normal errors are reanalyzed under some appropriate elliptical errors. The local influence approach is used to compare the sensitivity of the model estimates.

Utilizando a teoria de função de estimação linear ótima (Crowder, 1987), propomos equações de estimação generalizadas para modelos de regressão beta (Ferrari e Cribari-Neto, 2004) com medidas repetidas. Além disso, apresentamos equações de estimação generalizadas para modelos de regressão simplex baseadas nas propostas de Song e Tan (2000) e Song et al. (2004) e equações de estimação generalizadas para modelos lineares generalizados com medidas repetidas baseadas nas propostas de Artes e Jorgensen (2000) e Liang e Zeger (1986). Todas essas equações de estimação são desenvolvidas sob os enfoques da modelagem da média com homogeneidade da dispersão e da modelagem conjunta da média e da dispersão com intuito de incorporar ao modelo uma possível heterogeneidade da dispersão. Como técnicas de diagnóstico, desenvolvemos uma generalização de algumas medidas de diagnóstico quando abordamos quaisquer equações de estimação definidas tanto para modelagem do parâmetro de posição considerando a homogeneidade do parâmetro de dispersão como para modelagem conjunta dos parâmetros de posição e dispersão. Entre essas medidas, destacamos a proposta da influência local (Cook, 1986) desenvolvida para equações de estimação. Essa medida teve um bom desempenho, em simulações, para destacar corretamente pontos influentes. Por fim, realizamos aplicações a conjuntos de dados reais. / Based on the concept of optimum linear estimating equation (Crowder, 1987), we develop generalized estimating equation (GEE) to analyze longitudinal data considering marginal beta regression models (Ferrari and Cribari-Neto, 2004). The GEEs are also presented to marginal simplex models for longitudinal continuous proportional data proposed by Song and Tan (2000) and Song et al. (2004) and to generalized linear models for longitudinal data based on the proposes of Artes and J$\\phi$rgensen (2000) and Liang and Zeger (1986). All of them are developed focusing the assumption of homogeneous dispersion and with varying dispersion. For the diagnostic techniques, we generalize some diagnostic measures for estimating equations to model the position parameter considering an homogeneous dispersion parameter and for joint modelling of position and dispersion parameters to take in account a possible heterogeneous dispersion. Among these measures, we point out the local influence (Cook, 1986) developed to estimating equations. This measure can correctly show influential observations in simulation study. Finally, the theory is applied to real data sets.

Este trabalho tem como proposta apresentar a metodologia de diagnóstico de influência local de Cook (1986) conjuntamente com a metodologia de seleção da perturbação adequada proposta por Zhu et al. (2007) no modelo de calibração ultraestrutural com réplicas. A metodologia de Cook (1986) ser´a utilizada para investigar a robustez e a sensibilidade do modelo, onde os esquemas de perturbação adotados foram ponderação de casos e na variável resposta. Perturbar o modelo e/ou os dados de forma arbitrária pode conduzir a interpretações sobre a análise de diagnóstico e a conclusões equivocadas. Portanto, este trabalho irá avaliar as perturbações propostas segundo a metodologia de Zhu et al. (2007) e caso as perturbações não sejam adequadas, iremos propor uma nova forma de fazer as perturbações. Foi utilizado como aplicação a análise de um conjunto de dados com réplicas balanceadas e foram avaliadas quais patamares e laboratórios exercem um efeito desproporcional nas inferências feitas sob o modelo. / This paper aims to present the local influence diagnostic methodology of Cook (1986) along with the selection of the appropriate perturbation schemes proposed by Zhu et al. (2007) in ultrastructural calibration model with replicas. The methodology of Cook (1986) will be used to investigate the robustness and sensitivity of model, where the adopted perturbation schemes were weighting cases and response variables. Perturbing the model and/or data in an arbitrary way can lead to miss interpretations of diagnostic analysis and wrong conclusions. Therefore, this study will evaluate the induced perturbations according to the methodology of Zhu et al. (2007) and if the perturbations are not suitable, we will propose a new way of perturbing the model or the data. As an application it was considered a data set with balanced repeated replication to evaluate which levels and laboratories exercise a disproportional effect on inferences made in the model.

O objetivo principal deste trabalho é introduzir os modelos log-Birnbaum-Saunders mistos (log-BS mistos) e estender os resultados para os modelos log-Birnbaum-Saunders t-Student mistos (log-BS-t mistos). Os modelos log-BS são bastante conhecidos desde o trabalho de Rieck e Nedelman (1991) e particularmente receberam uma grande atenção nos últimos 10 anos com vários trabalhos publicados em periódicos internacionais. Contudo, o enfoque desses trabalhos tem sido em modelos log-BS ou log-BS generalizados com efeitos fixos, não havendo muita atenção para modelos com efeitos aleatórios. Inicialmente, apresentamos no trabalho uma revisão das distribuições Birnbaum-Saunders e Birnbaum-Saunders generalizada (BSG) e em seguida discutimos os modelos log-BS e log-BS-t com efeitos fixos, para os quais revisamos alguns resultados de estimação e diagnóstico. Os modelos log-BS mistos são então apresentados precedidos de uma revisão dos métodos de quadratura de Gauss Hermite (QGH). Embora a estimação dos parâmetros nos modelos log-BS mistos seja efetuada através do procedimento Proc NLMIXED do SAS (Littell et al, 1996), aplicamos o método de quadratura não adaptativa a fim de obtermos aproximações para o logaritmo da função de verossimilhança do modelo log-BS de intercepto aleatório. Com essas aproximações derivamos as funções escore e a matriz hessiana, além das curvaturas normais de influência local (Cook, 1986) para alguns esquemas de perturbação usuais. Os mesmos procedimentos são aplicados para os modelos log-BS-t de intercepto aleatório. Discussões sobre a predição dos efeitos aleatórios, teste para o componente de variância dos modelos com intercepto aleatório e análises de resíduos são também apresentados. Finalmente, comparamos os ajustes de modelos log-BS e log-BS mistos a um conjunto de dados reais. Métodos de diagnóstico são utilizados na comparação dos modelos ajustados. / The aim of this work is to introduce the log-Birnbaum-Saunders mixed models (log-BS mixed models) and to extend the results to log-Birnbaum-Saunders Student-t mixed models (log-BS-t mixed models). The log-BS models are well-known since the work by Rieck and Nedelman (1991) and particularly have received great attention in the last 10 years with various published papers in international journals. However, the emphasis given in such works has been in fixed-effects models with few attention given to random-effects models. Firstly, we present in this work a review on Birnbaum-Saunders and generalized Birnbaum-Saunders distributions and so we discuss log-BS and log-BS-t fixed-effects models for which some results on estimation and diagnostic are presented. Then, we introduce the log-BS mixed models preceded by a review on Gauss-Hermite quadrature. Although the parameter estimation of the marginal log-BS and log-BS-t mixed models are performed in the procedure NLMIXED of SAS (Littell et al., 1996), we apply the quadrature methods in order to obtain approximations for the likelihood function of the log-BS and log-BS-t random intercept models. These approximations are used to derive the respective score functions, observed information matrices as well as the normal curvature of local influence (Cook, 1986) under some usual perturbation schemes. Discussions on the prediction of the random effects, variance component tests and residual analysis are also given. Finally, we compare the fits of log-BS and log-BS-t mixed models to a real data set. Diagnostic methods are used in the comparisons.

Utilizando a teoria de função de estimação linear ótima (Crowder, 1987), propomos equações de estimação generalizadas para modelos de regressão beta (Ferrari e Cribari-Neto, 2004) com medidas repetidas. Além disso, apresentamos equações de estimação generalizadas para modelos de regressão simplex baseadas nas propostas de Song e Tan (2000) e Song et al. (2004) e equações de estimação generalizadas para modelos lineares generalizados com medidas repetidas baseadas nas propostas de Artes e Jorgensen (2000) e Liang e Zeger (1986). Todas essas equações de estimação são desenvolvidas sob os enfoques da modelagem da média com homogeneidade da dispersão e da modelagem conjunta da média e da dispersão com intuito de incorporar ao modelo uma possível heterogeneidade da dispersão. Como técnicas de diagnóstico, desenvolvemos uma generalização de algumas medidas de diagnóstico quando abordamos quaisquer equações de estimação definidas tanto para modelagem do parâmetro de posição considerando a homogeneidade do parâmetro de dispersão como para modelagem conjunta dos parâmetros de posição e dispersão. Entre essas medidas, destacamos a proposta da influência local (Cook, 1986) desenvolvida para equações de estimação. Essa medida teve um bom desempenho, em simulações, para destacar corretamente pontos influentes. Por fim, realizamos aplicações a conjuntos de dados reais. / Based on the concept of optimum linear estimating equation (Crowder, 1987), we develop generalized estimating equation (GEE) to analyze longitudinal data considering marginal beta regression models (Ferrari and Cribari-Neto, 2004). The GEEs are also presented to marginal simplex models for longitudinal continuous proportional data proposed by Song and Tan (2000) and Song et al. (2004) and to generalized linear models for longitudinal data based on the proposes of Artes and J$\\phi$rgensen (2000) and Liang and Zeger (1986). All of them are developed focusing the assumption of homogeneous dispersion and with varying dispersion. For the diagnostic techniques, we generalize some diagnostic measures for estimating equations to model the position parameter considering an homogeneous dispersion parameter and for joint modelling of position and dispersion parameters to take in account a possible heterogeneous dispersion. Among these measures, we point out the local influence (Cook, 1986) developed to estimating equations. This measure can correctly show influential observations in simulation study. Finally, the theory is applied to real data sets.

Neste trabalho estendemos os modelos mistos semiparamétricos propostos por Zhang et al. (1998) para uma classe mais geral de modelos, a qual denominamos modelos mistos aditivos semiparamétricos com erros de contornos elípticos. Com essa nova abordagem, flexibilizamos a curtose da distribuição dos erros possibilitando a escolha de distribuições com caudas mais leves ou mais pesadas do que as caudas da distribuição normal padrão. Funções de verossimilhança penalizadas são aplicadas para a obtenção das estimativas de máxima verossimilhança com os respectivos erros padrão aproximados. Essas estimativas, sob erros de caudas pesadas, são robustas no sentido da distância de Mahalanobis contra observações aberrantes. Curvaturas de influência local são obtidas segundo alguns esquemas de perturbação e gráficos de diagnóstico são propostos. Exemplos ilustrativos são apresentados em que ajustes sob erros normais são comparados, através das metodologias de sensibilidade desenvolvidas no trabalho, com ajustes sob erros de contornos elípticos. / In this work we extend the models proposed by Zhang et al. (1998) to a more general class of models, know as semiparametric additive mixed models with elliptical errors in order to allow distributions with heavier or lighter tails than the normal ones. Penalized likelihood equations are applied to derive the maximum likelihood estimates which appear to be robust against outlying observations in the sense of the Mahalanobis distance. In order to study the sensitivity of the penalized estimates under some usual perturbation schemes in the model or data, the local influence curvatures are derived and some diagnostic graphics are proposed. Motivating examples preliminary analyzed under normal errors are reanalyzed under some appropriate elliptical errors. The local influence approach is used to compare the sensitivity of the model estimates.

O objetivo principal deste trabalho é discutir estimação e diagnóstico em modelos semiparamétricos com resposta binomial negativa, mais especificamente, modelos de regressão com resposta binomial negativa em que uma das variáveis explicativas contínuas é modelada de forma não paramétrica. Iniciamos o trabalho com um exemplo ilustrativo e fazemos uma breve revisão dos modelos paramétricos com resposta binomial negativa. Em seguida, introduzimos os modelos semiparamétricos com resposta binomial negativa e discutimos alguns aspectos de estimação, inferência e seleção de modelos. Dedicamos um capítulo a procedimentos de diagnóstico, tais como desenvolvimento de medidas de alavanca e de influência sob os aspectos de deleção de pontos e influência local, além de abordar a análise de resíduos. Reanalizamos o exemplo ilustrativo sob o enfoque semiparamétrico e apresentamos algumas conclusões. / The aim of this work is to discuss some aspects on estimation and diagnostics in negative binomial regression models which an explanatory continuous variable is modeled nonparametrically. First, an illustrative example is presented and analyzed under parametric negative binomial regression models. The proposed models are then introduced and some aspects on estimations, inference and model selection are presented. Particular emphasis is given on the development of diagnostic procedures, such as leverage measures, Cook distances, local influence approach and residuals. The motivated example is reanalyzed under the semiparametric viewpoint and some conclusions are given.

Made available in DSpace on 2017-07-10T19:24:25Z (GMT). No. of bitstreams: 1 JOELMIR ANDRE BORSSOI.pdf: 1897222 bytes, checksum: 4bfaafc0659eed32ceef8dc0fe90a8fe (MD5) Previous issue date: 2007-12-04 / Conselho Nacional de Desenvolvimento Científico e Tecnológico / Tracking and management concepts of the process of agricultural production are being used as a great option of strategy management in agriculture. Such concepts consider the spatial variability of the variables at study. The modeling of the spatial dependence structure of the geoestatistic approach is fundamental importance for the definition parameters that define this structure and are used in the interpolation of values in places not sampled, by kriging techniques. However, the estimation of parameters can be greatly affected by the presence atypical observations in the data sampled. The development of this work was aimed at using diagnostics techniques in spatial linear gaussians models, used in geoestatistics, to evaluate the sensitivity of the maximum likelihood estimators and restrict maximum likelihood to small perturbations in the data. Studies were performed with simulated data, with literature data and with experimental data, collected in a commercial agricultural area in the region West of Paraná. The study with simulated data showed that the techniques used in diagnostics were efficient in identifying the perturbation data. The restrict maximum likelihood estimator produced more robust estimates for the parameters spatial dependence. Those results obtained from the study of real data, it was concluded that the presence atypical values between the sampled data can exert strong influence on thematic maps, changing, therefore, the spatial dependence. The application the diagnostic techniques should be part of any geoestatistic analysis, ensuring that the information contained in thematic maps have better quality and can be used with greater security by the farmer. / Conceitos de monitoramento e gerenciamento do processo de produção agrícola vêm sendo utilizados como ótima opção de estratégia gerencial na agricultura. Tais conceitos consideram a variabilidade espacial das variáveis em estudo. A modelagem da estrutura de dependência espacial pela abordagem da geoestatística é de fundamental importância para a definição de parâmetros que definem esta estrutura e que são utilizados na interpolação de valores em locais não amostrados, pela técnica de krigagem. Entretanto, a estimação de parâmetros pode ser muito afetada pela presença de observações atípicas nos dados amostrados. O desenvolvimento deste trabalho teve por objetivo utilizar técnicas de diagnóstico em modelos espaciais lineares gaussianos, utilizados em geoestatística, para avaliar a sensibilidade dos estimadores máxima verossimilhança e máxima verossimilhança restrita a pequenas perturbações nos dados. Realizaram-se estudos com dados simulados, com dados da bibliografia e também com dados experimentais, coletados em uma área agrícola comercial da região Oeste do Paraná. O estudo com dados simulados mostrou que as técnicas de diagnóstico utilizadas foram eficientes na identificação da perturbação nos dados. O estimador de máxima verossimilhança restrita produziu estimativas mais robustas para os parâmetros de dependência espacial. Pelos resultados obtidos com o estudo de dados reais, concluiu-se que a presença de valores atípicos entre os dados amostrados pode exercer forte influência nos mapas temáticos, alterando, assim, a dependência espacial. A aplicação de técnicas de diagnóstico deve fazer parte de toda análise geoestatística, garantindo que as informações contidas nos mapas temáticos tenham maior qualidade e possam ser utilizadas com maior segurança pelo agricultor.