Made available in DSpace on 2016-06-02T20:06:09Z (GMT). No. of bitstreams: 1 6004.pdf: 835734 bytes, checksum: b9cae4e00b44525ff06f6dfea7cfe687 (MD5) Previous issue date: 2014-03-28 / Universidade Federal de Sao Carlos / Correlated data sets with nonlinear structure are common in many areas such as biostatistics, pharmacokinetics and longitudinal studies. Nonlinear mixed-effects models are useful tools to analyse those type of problems. In this dissertation, a generalization to this models is proposed, namely by semiparametric partially nonlinear mixed-effects model (MMSPNL), with a nonparametric function to model the mean of the response variable. It assumes that the mean of the interest variable is explained by a nonlinear function, which depends on fixed effects parameters and explanatory variables, and by a nonparametric function. Such nonparametic function is quite flexible, allowing a better adequacy to the functional form that underlies the data. The random effects are included linearly to the model, which simplify the expression of the response variable distribution and enables the model to take into account the within-group correlation structure. It is assumed that the random errors and the random effects jointly follow a multivariate normal distribution. Relate to the nonparametric function, it is deal with the P-splines smoothing technique. The methodology to obtain the parameters estimates is penalized maximum likelihood method. The random effects may be obtained by using the Empirical Bayes method. The goodness of the model and identification of potencial influent observation is verified with the local influence method and a residual analysis. The pharmacokinetic data set, in which the anti-asthmatic drug theophylline was administered to 12 subjects and serum concentrations were taken at 11 time points over the 25 hours (after being administered), was re-analysed with the proposed model, exemplifying its uses and properties. / Dados correlacionados com estrutura não linear são comuns em bioestatística, estudos farmacocinéticos e longitudinais. Modelos mistos não lineares são ferramentas úteis para se analisar esses tipos de problemas. Nesta dissertação, propõe-se uma generalização desses modelos, chamada de modelo misto semiparamétrico parcialmente não linear (MMSPNL), com uma função não paramétrica para se modelar a média da variável resposta. Assume-se que a média da variável de interesse é explicada por uma função não linear, que depende de parâmetros de efeitos fixos e variáveis explicativas, e por uma função não paramétrica. Tal função não paramétrica possui grande flexibilidade, permitindo uma melhor adequação à forma funcional que subjaz aos dados. Os efeitos aleatórios são incluídos linearmente ao modelo, o que simplifica a expressão da distribuição da variável resposta e permite considerar a estrutura de correlação intra grupo. É assumido que os erros aleatórios e efeitos aleatórios conjuntamente seguem uma distribuição normal multivariada. Em relação a função não paramétrica, utiliza-se a técnica de suavização com P-splines. A metodologia para se obterem as estimativas dos parâmetros é o método de máxima verossimilhança penalizada. Os efeitos aleatórios podem ser obtidos usando-se o método de Bayes empírico. A qualidade do modelo e a identificação de observações aberrantes é verificada pelo método de influência local e por análise de resíduos. O conjunto de dados farmacocinéticos, em que o antiasmático theophylline foi administrado a 12 sujeitos e concentrações séricas foram tomadas em 11 instantes de tempo durante as 25 horas (após ser administrado), foi reanalisado com o modelo proposto, exemplificando seu uso e propriedades.

O objetivo principal deste trabalho é discutir estimação e diagnóstico em modelos semiparamétricos com resposta binomial negativa, mais especificamente, modelos de regressão com resposta binomial negativa em que uma das variáveis explicativas contínuas é modelada de forma não paramétrica. Iniciamos o trabalho com um exemplo ilustrativo e fazemos uma breve revisão dos modelos paramétricos com resposta binomial negativa. Em seguida, introduzimos os modelos semiparamétricos com resposta binomial negativa e discutimos alguns aspectos de estimação, inferência e seleção de modelos. Dedicamos um capítulo a procedimentos de diagnóstico, tais como desenvolvimento de medidas de alavanca e de influência sob os aspectos de deleção de pontos e influência local, além de abordar a análise de resíduos. Reanalizamos o exemplo ilustrativo sob o enfoque semiparamétrico e apresentamos algumas conclusões. / The aim of this work is to discuss some aspects on estimation and diagnostics in negative binomial regression models which an explanatory continuous variable is modeled nonparametrically. First, an illustrative example is presented and analyzed under parametric negative binomial regression models. The proposed models are then introduced and some aspects on estimations, inference and model selection are presented. Particular emphasis is given on the development of diagnostic procedures, such as leverage measures, Cook distances, local influence approach and residuals. The motivated example is reanalyzed under the semiparametric viewpoint and some conclusions are given.

Os modelos logísticos trinomiais podem ser interpretados como uma extensão natural do modelo logístico binomial para situações em que a resposta admite apenas três resultados. Introduzimos inicialmente os modelos logísticos trinomiais e discutiremos em seguida alguns aspectos inferenciais, tais como estimação e testes. Medidas de qualidade do ajuste são também apresentadas. Contudo, o principal foco deste trabalho é a apresentação de métodos de diagnóstico. Mostramos que as técnicas usuais de diagnóstico desenvolvidas para o modelo logístico binomial podem ser adaptadas para o caso trinomial. O desenvolvimento de métodos diretos para o modelo logístico trinomial é mais complexo do ponto de vista computacional, embora seja sempre possível. Discutimos alguns desses métodos, dentre os quais, o desenvolvimento de resíduos, de métodos para detectar pontos de alavanca, métodos de deleção de pontos e influência local. Comparamos os métodos adaptados com alguns métodos diretos através de exemplos. / The trinomial logistic models can be interpreted as a natural extension of the traditional binomial logistic model to situations in which the response allows only three possible results. We firts introduce the trinomial logistic modles and then some inferential aspects, such as estimation and hypothesis testing are discussed. Good-of-fit measures are also given. However, the aim of this work is the presentation of some diagnostic procedures for trinomial logistic models. We show that methods developed for binomial logistic models can adapted straightforward for trinomial models. The developement of direct methods, even though possible, in general requires more complex calculation. Some of these direct methods, suchs as evaluation of residuals, measures of high leverage points, deletion methods and local influence are apresented. Coparisons between adapted and direct methods are made via examples with real data.

Neste trabalho estendemos os modelos mistos semiparamétricos propostos por Zhang et al. (1998) para uma classe mais geral de modelos, a qual denominamos modelos mistos aditivos semiparamétricos com erros de contornos elípticos. Com essa nova abordagem, flexibilizamos a curtose da distribuição dos erros possibilitando a escolha de distribuições com caudas mais leves ou mais pesadas do que as caudas da distribuição normal padrão. Funções de verossimilhança penalizadas são aplicadas para a obtenção das estimativas de máxima verossimilhança com os respectivos erros padrão aproximados. Essas estimativas, sob erros de caudas pesadas, são robustas no sentido da distância de Mahalanobis contra observações aberrantes. Curvaturas de influência local são obtidas segundo alguns esquemas de perturbação e gráficos de diagnóstico são propostos. Exemplos ilustrativos são apresentados em que ajustes sob erros normais são comparados, através das metodologias de sensibilidade desenvolvidas no trabalho, com ajustes sob erros de contornos elípticos. / In this work we extend the models proposed by Zhang et al. (1998) to a more general class of models, know as semiparametric additive mixed models with elliptical errors in order to allow distributions with heavier or lighter tails than the normal ones. Penalized likelihood equations are applied to derive the maximum likelihood estimates which appear to be robust against outlying observations in the sense of the Mahalanobis distance. In order to study the sensitivity of the penalized estimates under some usual perturbation schemes in the model or data, the local influence curvatures are derived and some diagnostic graphics are proposed. Motivating examples preliminary analyzed under normal errors are reanalyzed under some appropriate elliptical errors. The local influence approach is used to compare the sensitivity of the model estimates.

Utilizando a teoria de função de estimação linear ótima (Crowder, 1987), propomos equações de estimação generalizadas para modelos de regressão beta (Ferrari e Cribari-Neto, 2004) com medidas repetidas. Além disso, apresentamos equações de estimação generalizadas para modelos de regressão simplex baseadas nas propostas de Song e Tan (2000) e Song et al. (2004) e equações de estimação generalizadas para modelos lineares generalizados com medidas repetidas baseadas nas propostas de Artes e Jorgensen (2000) e Liang e Zeger (1986). Todas essas equações de estimação são desenvolvidas sob os enfoques da modelagem da média com homogeneidade da dispersão e da modelagem conjunta da média e da dispersão com intuito de incorporar ao modelo uma possível heterogeneidade da dispersão. Como técnicas de diagnóstico, desenvolvemos uma generalização de algumas medidas de diagnóstico quando abordamos quaisquer equações de estimação definidas tanto para modelagem do parâmetro de posição considerando a homogeneidade do parâmetro de dispersão como para modelagem conjunta dos parâmetros de posição e dispersão. Entre essas medidas, destacamos a proposta da influência local (Cook, 1986) desenvolvida para equações de estimação. Essa medida teve um bom desempenho, em simulações, para destacar corretamente pontos influentes. Por fim, realizamos aplicações a conjuntos de dados reais. / Based on the concept of optimum linear estimating equation (Crowder, 1987), we develop generalized estimating equation (GEE) to analyze longitudinal data considering marginal beta regression models (Ferrari and Cribari-Neto, 2004). The GEEs are also presented to marginal simplex models for longitudinal continuous proportional data proposed by Song and Tan (2000) and Song et al. (2004) and to generalized linear models for longitudinal data based on the proposes of Artes and J$\\phi$rgensen (2000) and Liang and Zeger (1986). All of them are developed focusing the assumption of homogeneous dispersion and with varying dispersion. For the diagnostic techniques, we generalize some diagnostic measures for estimating equations to model the position parameter considering an homogeneous dispersion parameter and for joint modelling of position and dispersion parameters to take in account a possible heterogeneous dispersion. Among these measures, we point out the local influence (Cook, 1986) developed to estimating equations. This measure can correctly show influential observations in simulation study. Finally, the theory is applied to real data sets.

Este trabalho tem como proposta apresentar a metodologia de diagnóstico de influência local de Cook (1986) conjuntamente com a metodologia de seleção da perturbação adequada proposta por Zhu et al. (2007) no modelo de calibração ultraestrutural com réplicas. A metodologia de Cook (1986) ser´a utilizada para investigar a robustez e a sensibilidade do modelo, onde os esquemas de perturbação adotados foram ponderação de casos e na variável resposta. Perturbar o modelo e/ou os dados de forma arbitrária pode conduzir a interpretações sobre a análise de diagnóstico e a conclusões equivocadas. Portanto, este trabalho irá avaliar as perturbações propostas segundo a metodologia de Zhu et al. (2007) e caso as perturbações não sejam adequadas, iremos propor uma nova forma de fazer as perturbações. Foi utilizado como aplicação a análise de um conjunto de dados com réplicas balanceadas e foram avaliadas quais patamares e laboratórios exercem um efeito desproporcional nas inferências feitas sob o modelo. / This paper aims to present the local influence diagnostic methodology of Cook (1986) along with the selection of the appropriate perturbation schemes proposed by Zhu et al. (2007) in ultrastructural calibration model with replicas. The methodology of Cook (1986) will be used to investigate the robustness and sensitivity of model, where the adopted perturbation schemes were weighting cases and response variables. Perturbing the model and/or data in an arbitrary way can lead to miss interpretations of diagnostic analysis and wrong conclusions. Therefore, this study will evaluate the induced perturbations according to the methodology of Zhu et al. (2007) and if the perturbations are not suitable, we will propose a new way of perturbing the model or the data. As an application it was considered a data set with balanced repeated replication to evaluate which levels and laboratories exercise a disproportional effect on inferences made in the model.

O objetivo principal deste trabalho é introduzir os modelos log-Birnbaum-Saunders mistos (log-BS mistos) e estender os resultados para os modelos log-Birnbaum-Saunders t-Student mistos (log-BS-t mistos). Os modelos log-BS são bastante conhecidos desde o trabalho de Rieck e Nedelman (1991) e particularmente receberam uma grande atenção nos últimos 10 anos com vários trabalhos publicados em periódicos internacionais. Contudo, o enfoque desses trabalhos tem sido em modelos log-BS ou log-BS generalizados com efeitos fixos, não havendo muita atenção para modelos com efeitos aleatórios. Inicialmente, apresentamos no trabalho uma revisão das distribuições Birnbaum-Saunders e Birnbaum-Saunders generalizada (BSG) e em seguida discutimos os modelos log-BS e log-BS-t com efeitos fixos, para os quais revisamos alguns resultados de estimação e diagnóstico. Os modelos log-BS mistos são então apresentados precedidos de uma revisão dos métodos de quadratura de Gauss Hermite (QGH). Embora a estimação dos parâmetros nos modelos log-BS mistos seja efetuada através do procedimento Proc NLMIXED do SAS (Littell et al, 1996), aplicamos o método de quadratura não adaptativa a fim de obtermos aproximações para o logaritmo da função de verossimilhança do modelo log-BS de intercepto aleatório. Com essas aproximações derivamos as funções escore e a matriz hessiana, além das curvaturas normais de influência local (Cook, 1986) para alguns esquemas de perturbação usuais. Os mesmos procedimentos são aplicados para os modelos log-BS-t de intercepto aleatório. Discussões sobre a predição dos efeitos aleatórios, teste para o componente de variância dos modelos com intercepto aleatório e análises de resíduos são também apresentados. Finalmente, comparamos os ajustes de modelos log-BS e log-BS mistos a um conjunto de dados reais. Métodos de diagnóstico são utilizados na comparação dos modelos ajustados. / The aim of this work is to introduce the log-Birnbaum-Saunders mixed models (log-BS mixed models) and to extend the results to log-Birnbaum-Saunders Student-t mixed models (log-BS-t mixed models). The log-BS models are well-known since the work by Rieck and Nedelman (1991) and particularly have received great attention in the last 10 years with various published papers in international journals. However, the emphasis given in such works has been in fixed-effects models with few attention given to random-effects models. Firstly, we present in this work a review on Birnbaum-Saunders and generalized Birnbaum-Saunders distributions and so we discuss log-BS and log-BS-t fixed-effects models for which some results on estimation and diagnostic are presented. Then, we introduce the log-BS mixed models preceded by a review on Gauss-Hermite quadrature. Although the parameter estimation of the marginal log-BS and log-BS-t mixed models are performed in the procedure NLMIXED of SAS (Littell et al., 1996), we apply the quadrature methods in order to obtain approximations for the likelihood function of the log-BS and log-BS-t random intercept models. These approximations are used to derive the respective score functions, observed information matrices as well as the normal curvature of local influence (Cook, 1986) under some usual perturbation schemes. Discussions on the prediction of the random effects, variance component tests and residual analysis are also given. Finally, we compare the fits of log-BS and log-BS-t mixed models to a real data set. Diagnostic methods are used in the comparisons.

Utilizando a teoria de função de estimação linear ótima (Crowder, 1987), propomos equações de estimação generalizadas para modelos de regressão beta (Ferrari e Cribari-Neto, 2004) com medidas repetidas. Além disso, apresentamos equações de estimação generalizadas para modelos de regressão simplex baseadas nas propostas de Song e Tan (2000) e Song et al. (2004) e equações de estimação generalizadas para modelos lineares generalizados com medidas repetidas baseadas nas propostas de Artes e Jorgensen (2000) e Liang e Zeger (1986). Todas essas equações de estimação são desenvolvidas sob os enfoques da modelagem da média com homogeneidade da dispersão e da modelagem conjunta da média e da dispersão com intuito de incorporar ao modelo uma possível heterogeneidade da dispersão. Como técnicas de diagnóstico, desenvolvemos uma generalização de algumas medidas de diagnóstico quando abordamos quaisquer equações de estimação definidas tanto para modelagem do parâmetro de posição considerando a homogeneidade do parâmetro de dispersão como para modelagem conjunta dos parâmetros de posição e dispersão. Entre essas medidas, destacamos a proposta da influência local (Cook, 1986) desenvolvida para equações de estimação. Essa medida teve um bom desempenho, em simulações, para destacar corretamente pontos influentes. Por fim, realizamos aplicações a conjuntos de dados reais. / Based on the concept of optimum linear estimating equation (Crowder, 1987), we develop generalized estimating equation (GEE) to analyze longitudinal data considering marginal beta regression models (Ferrari and Cribari-Neto, 2004). The GEEs are also presented to marginal simplex models for longitudinal continuous proportional data proposed by Song and Tan (2000) and Song et al. (2004) and to generalized linear models for longitudinal data based on the proposes of Artes and J$\\phi$rgensen (2000) and Liang and Zeger (1986). All of them are developed focusing the assumption of homogeneous dispersion and with varying dispersion. For the diagnostic techniques, we generalize some diagnostic measures for estimating equations to model the position parameter considering an homogeneous dispersion parameter and for joint modelling of position and dispersion parameters to take in account a possible heterogeneous dispersion. Among these measures, we point out the local influence (Cook, 1986) developed to estimating equations. This measure can correctly show influential observations in simulation study. Finally, the theory is applied to real data sets.

Neste trabalho estendemos os modelos mistos semiparamétricos propostos por Zhang et al. (1998) para uma classe mais geral de modelos, a qual denominamos modelos mistos aditivos semiparamétricos com erros de contornos elípticos. Com essa nova abordagem, flexibilizamos a curtose da distribuição dos erros possibilitando a escolha de distribuições com caudas mais leves ou mais pesadas do que as caudas da distribuição normal padrão. Funções de verossimilhança penalizadas são aplicadas para a obtenção das estimativas de máxima verossimilhança com os respectivos erros padrão aproximados. Essas estimativas, sob erros de caudas pesadas, são robustas no sentido da distância de Mahalanobis contra observações aberrantes. Curvaturas de influência local são obtidas segundo alguns esquemas de perturbação e gráficos de diagnóstico são propostos. Exemplos ilustrativos são apresentados em que ajustes sob erros normais são comparados, através das metodologias de sensibilidade desenvolvidas no trabalho, com ajustes sob erros de contornos elípticos. / In this work we extend the models proposed by Zhang et al. (1998) to a more general class of models, know as semiparametric additive mixed models with elliptical errors in order to allow distributions with heavier or lighter tails than the normal ones. Penalized likelihood equations are applied to derive the maximum likelihood estimates which appear to be robust against outlying observations in the sense of the Mahalanobis distance. In order to study the sensitivity of the penalized estimates under some usual perturbation schemes in the model or data, the local influence curvatures are derived and some diagnostic graphics are proposed. Motivating examples preliminary analyzed under normal errors are reanalyzed under some appropriate elliptical errors. The local influence approach is used to compare the sensitivity of the model estimates.

O objetivo principal deste trabalho é discutir estimação e diagnóstico em modelos semiparamétricos com resposta binomial negativa, mais especificamente, modelos de regressão com resposta binomial negativa em que uma das variáveis explicativas contínuas é modelada de forma não paramétrica. Iniciamos o trabalho com um exemplo ilustrativo e fazemos uma breve revisão dos modelos paramétricos com resposta binomial negativa. Em seguida, introduzimos os modelos semiparamétricos com resposta binomial negativa e discutimos alguns aspectos de estimação, inferência e seleção de modelos. Dedicamos um capítulo a procedimentos de diagnóstico, tais como desenvolvimento de medidas de alavanca e de influência sob os aspectos de deleção de pontos e influência local, além de abordar a análise de resíduos. Reanalizamos o exemplo ilustrativo sob o enfoque semiparamétrico e apresentamos algumas conclusões. / The aim of this work is to discuss some aspects on estimation and diagnostics in negative binomial regression models which an explanatory continuous variable is modeled nonparametrically. First, an illustrative example is presented and analyzed under parametric negative binomial regression models. The proposed models are then introduced and some aspects on estimations, inference and model selection are presented. Particular emphasis is given on the development of diagnostic procedures, such as leverage measures, Cook distances, local influence approach and residuals. The motivated example is reanalyzed under the semiparametric viewpoint and some conclusions are given.