Os modelos multiníveis são uma classe de modelos úteis na análise de bases de dados com estrutura hierárquica. No presente trabalho propõem-se os modelos multiníveis com resposta Weibull, nos quais são considerados interceptos aleatórios na modelagem dos dois parâmetros da distribuição da variável resposta. Os modelos aqui propostos são flexíveis devido a que a distribuição dos interceptos aleatórios pode der escolhida entre uma das seguintes quatro distribuições: normal, log--gama, logística e Cauchy. Uma extensão dos modelos é apresentada na qual é possível incluir na parte sistemática dos dois parâmetros da distribuição da variável resposta interceptos e inclinações aleatórias com distribuição normal bivariada. A estimação dos parâmetros é realizada pelo método de máxima verossimilhança usando a quadratura de Gauss--Hermite para aproximar a função de verossimilhança. Um pacote em linguagem R foi desenvolvido especialmente para a estimação dos parâmetros, predição dos efeitos aleatórios e para a obtenção dos resíduos nos modelos propostos. Adicionalmente, por meio de um estudo de simulação foi avaliado o impacto nas estimativas dos parâmetros do modelo ao assumir incorretamente a distribuição dos interceptos aleatórios. / Multilevel models are a class of models useful in the analysis of datasets with hierarchical structure. In the present work we propose multilevel Weibull models in which random intercepts are considered to model the two parameters of the Weibull distribution. The proposed models are flexible due to random intercepts distribution can be chosen from one of the four following distributions: normal, log-gamma, logistics and Cauchy. An extension of the models is presented in which we can include, in the systematic part of the two parameters of the distribution, random intercepts and slopes with a bivariate normal distribution. The parameter estimation is performed by maximum likelihood method using the Gauss Hermite quadrature to approximate the likelihood function. A package in R language was especially developed to obtain parameter estimation, random effects predictions and residuals for the proposed models. Additionally, through a simulation study we investigated the misspecification random effect distribution on estimated parameter for the proposed model

Os modelos multiníveis são uma classe de modelos úteis na análise de bases de dados com estrutura hierárquica. No presente trabalho propõem-se os modelos multiníveis com resposta Weibull, nos quais são considerados interceptos aleatórios na modelagem dos dois parâmetros da distribuição da variável resposta. Os modelos aqui propostos são flexíveis devido a que a distribuição dos interceptos aleatórios pode der escolhida entre uma das seguintes quatro distribuições: normal, log--gama, logística e Cauchy. Uma extensão dos modelos é apresentada na qual é possível incluir na parte sistemática dos dois parâmetros da distribuição da variável resposta interceptos e inclinações aleatórias com distribuição normal bivariada. A estimação dos parâmetros é realizada pelo método de máxima verossimilhança usando a quadratura de Gauss--Hermite para aproximar a função de verossimilhança. Um pacote em linguagem R foi desenvolvido especialmente para a estimação dos parâmetros, predição dos efeitos aleatórios e para a obtenção dos resíduos nos modelos propostos. Adicionalmente, por meio de um estudo de simulação foi avaliado o impacto nas estimativas dos parâmetros do modelo ao assumir incorretamente a distribuição dos interceptos aleatórios. / Multilevel models are a class of models useful in the analysis of datasets with hierarchical structure. In the present work we propose multilevel Weibull models in which random intercepts are considered to model the two parameters of the Weibull distribution. The proposed models are flexible due to random intercepts distribution can be chosen from one of the four following distributions: normal, log-gamma, logistics and Cauchy. An extension of the models is presented in which we can include, in the systematic part of the two parameters of the distribution, random intercepts and slopes with a bivariate normal distribution. The parameter estimation is performed by maximum likelihood method using the Gauss Hermite quadrature to approximate the likelihood function. A package in R language was especially developed to obtain parameter estimation, random effects predictions and residuals for the proposed models. Additionally, through a simulation study we investigated the misspecification random effect distribution on estimated parameter for the proposed model

In clustered survival data, unobservable cluster effects may exert powerful influences on the outcomes and thus induce correlation among subjects within the same cluster. The ordinary partial likelihood approach does not account for this dependence. Frailty models, as an extension to Cox regression, incorporate multiplicative random effects, called frailties, into the hazard model and have become a very popular way to account for the dependence within clusters. We particularly study the two-level nested lognormal frailty model and propose an estimation approach based on the complete data likelihood with frailty terms integrated out. We adopt B-splines to model the baseline hazards and adaptive Gauss-Hermite quadrature to approximate the integrals efficiently. Furthermore, in finding the maximum likelihood estimators, instead of the Newton-Raphson iterative algorithm, Gauss-Seidel and BFGS methods are used to improve the stability and efficiency of the estimation procedure. We also study competing risks models with missing cause of failure in the context of Cox proportional hazards models. For competing risks data, there exists more than one cause of failure and each observed failure is exclusively linked to one cause. Conceptually, the causes are interpreted as competing risks before the failure is observed. Competing risks models are constructed based on the proportional hazards model specified for each cause of failure respectively, which can be estimated using partial likelihood approach. However, the ordinary partial likelihood is not applicable when the cause of failure could be missing for some reason. We propose a weighted partial likelihood approach based on complete-case data, where weights are computed as the inverse of selection probability and the selection probability is estimated by a logistic regression model. The asymptotic properties of the regression coefficient estimators are investigated by applying counting process and martingale theory. We further develop a double robust approach based on the full data to improve the efficiency as well as the robustness.

A distribuição de massa molar (DMM) e seus parâmetros são de fundamental importância na caracterização dos polímeros. Por este motivo, o desenvolvimento de técnicas que permitam a determinação da DMM de forma mais rápida e a menor custo é de grande importância prática. Os principais objetivos deste trabalho foram a implementação de alguns dos modelos baseados da teoria da reptação dupla propostos na literatura para descrever o mecanismo de relaxação das cadeias poliméricas, a avaliação dessas implementações e a análise de dois passos fundamentais na obtenção da DMM a partir de dados reológicos que são a metodologia de cálculo do espectro de relaxação baseado no modelo de Maxwell e a estratégia para a avaliação numérica das integrais que aparecem nos modelos de relaxação. Foi resolvido o problema denominado problema inverso, ou seja, a determinação da DMM a partir de dados reológicos usando um modelo de relaxação especificado e uma função de distribuição imposta. Foi usada a função Exponencial Generalizada (GEX) para representar a probabilidade de distribuição, sendo consideradas duas abordagens: i) cálculo explícito do espectro de relaxação e ii) aproximações paramétricas de Schwarzl, que evitam a necessidade do cálculo explícito do espectro de relaxação. A metodologia de determinação da DMM foi aplicada para amostras de polietileno e foram estimadas distribuições com boa representação dos dados experimentais do GPC, ao considerarem-se amostras com polidispersões inferiores a 10. Com relação a metodologia de cálculo do espectro de relaxação, foi realizado um estudo comparativo da aplicação de espectros de relaxação discreto e contínuo, com o objetivo de estabelecer critérios para especificação do número ótimo de modos de Maxwell a serem considerados. Ao efetuar-se a comparação entre as técnicas, verificou-se o espectro discreto apresenta como um sistema melhor condicionado, permitindo assim obter maior confiabilidade dos parâmetros estimados. Também é proposta uma modificação da metodologia de determinação da DMM, em que é aplicada a quadratura de Gauss-Hermite para a resolução numérica da integral dos modelos de relaxação. / The molecular weight distribution (MWD) and its parameters are of the fundamental importance in the characterization of polymers. Therefore, the development of techniques for faster and less time consuming determination of the MWD is of great practical relevance. The goals of this work were the implementation of some of the relaxation models from double reptation theory proposed in the literature, the evaluation of these implementations and the analysis of two key points in the recovery of the MWD from rheological data which are the methodology for calculation of the relaxation spectrum based on the Maxwell model and the numeric strategy for the evaluation of the integrals appearing in the relaxation models. The inverse problem, i.e., the determination of the MWD from rheological data using a specified relaxation model and an imposed distribution function, was solved. In the analysis of the inverse problem, the Generalized Exponential (GEX) was used as distribution function and two approaches were considered: i) explicit calculation of the relaxation spectrum and ii) use of the parametric method proposed by Schwarzl to avoid the explicit calculation of the relaxation spectrum. In the test of commercial samples of polyethylene with polidispersity less than 10, the application of this methodology led to MWD curves which provided good fit of the experimental SEC data. Regarding the methodology for calculation of the relaxation spectrum, a comparison between the performance of discrete and continuous relaxation spectrum was performed and some possible a criteria to determine the appropriate number of relaxation modes of Maxwell to be used were evaluated. It was found that the technique of discrete spectrum leads to better conditioned systems and, consequently, greater reliability of the estimated parameters. With relation to the numeric strategy for the evaluation of the integrals appearing in the relaxation models, the use of Gauss-Hermite quadrature using a new change of variables was proposed.

A distribuição de massa molar (DMM) e seus parâmetros são de fundamental importância na caracterização dos polímeros. Por este motivo, o desenvolvimento de técnicas que permitam a determinação da DMM de forma mais rápida e a menor custo é de grande importância prática. Os principais objetivos deste trabalho foram a implementação de alguns dos modelos baseados da teoria da reptação dupla propostos na literatura para descrever o mecanismo de relaxação das cadeias poliméricas, a avaliação dessas implementações e a análise de dois passos fundamentais na obtenção da DMM a partir de dados reológicos que são a metodologia de cálculo do espectro de relaxação baseado no modelo de Maxwell e a estratégia para a avaliação numérica das integrais que aparecem nos modelos de relaxação. Foi resolvido o problema denominado problema inverso, ou seja, a determinação da DMM a partir de dados reológicos usando um modelo de relaxação especificado e uma função de distribuição imposta. Foi usada a função Exponencial Generalizada (GEX) para representar a probabilidade de distribuição, sendo consideradas duas abordagens: i) cálculo explícito do espectro de relaxação e ii) aproximações paramétricas de Schwarzl, que evitam a necessidade do cálculo explícito do espectro de relaxação. A metodologia de determinação da DMM foi aplicada para amostras de polietileno e foram estimadas distribuições com boa representação dos dados experimentais do GPC, ao considerarem-se amostras com polidispersões inferiores a 10. Com relação a metodologia de cálculo do espectro de relaxação, foi realizado um estudo comparativo da aplicação de espectros de relaxação discreto e contínuo, com o objetivo de estabelecer critérios para especificação do número ótimo de modos de Maxwell a serem considerados. Ao efetuar-se a comparação entre as técnicas, verificou-se o espectro discreto apresenta como um sistema melhor condicionado, permitindo assim obter maior confiabilidade dos parâmetros estimados. Também é proposta uma modificação da metodologia de determinação da DMM, em que é aplicada a quadratura de Gauss-Hermite para a resolução numérica da integral dos modelos de relaxação. / The molecular weight distribution (MWD) and its parameters are of the fundamental importance in the characterization of polymers. Therefore, the development of techniques for faster and less time consuming determination of the MWD is of great practical relevance. The goals of this work were the implementation of some of the relaxation models from double reptation theory proposed in the literature, the evaluation of these implementations and the analysis of two key points in the recovery of the MWD from rheological data which are the methodology for calculation of the relaxation spectrum based on the Maxwell model and the numeric strategy for the evaluation of the integrals appearing in the relaxation models. The inverse problem, i.e., the determination of the MWD from rheological data using a specified relaxation model and an imposed distribution function, was solved. In the analysis of the inverse problem, the Generalized Exponential (GEX) was used as distribution function and two approaches were considered: i) explicit calculation of the relaxation spectrum and ii) use of the parametric method proposed by Schwarzl to avoid the explicit calculation of the relaxation spectrum. In the test of commercial samples of polyethylene with polidispersity less than 10, the application of this methodology led to MWD curves which provided good fit of the experimental SEC data. Regarding the methodology for calculation of the relaxation spectrum, a comparison between the performance of discrete and continuous relaxation spectrum was performed and some possible a criteria to determine the appropriate number of relaxation modes of Maxwell to be used were evaluated. It was found that the technique of discrete spectrum leads to better conditioned systems and, consequently, greater reliability of the estimated parameters. With relation to the numeric strategy for the evaluation of the integrals appearing in the relaxation models, the use of Gauss-Hermite quadrature using a new change of variables was proposed.

A distribuição de massa molar (DMM) e seus parâmetros são de fundamental importância na caracterização dos polímeros. Por este motivo, o desenvolvimento de técnicas que permitam a determinação da DMM de forma mais rápida e a menor custo é de grande importância prática. Os principais objetivos deste trabalho foram a implementação de alguns dos modelos baseados da teoria da reptação dupla propostos na literatura para descrever o mecanismo de relaxação das cadeias poliméricas, a avaliação dessas implementações e a análise de dois passos fundamentais na obtenção da DMM a partir de dados reológicos que são a metodologia de cálculo do espectro de relaxação baseado no modelo de Maxwell e a estratégia para a avaliação numérica das integrais que aparecem nos modelos de relaxação. Foi resolvido o problema denominado problema inverso, ou seja, a determinação da DMM a partir de dados reológicos usando um modelo de relaxação especificado e uma função de distribuição imposta. Foi usada a função Exponencial Generalizada (GEX) para representar a probabilidade de distribuição, sendo consideradas duas abordagens: i) cálculo explícito do espectro de relaxação e ii) aproximações paramétricas de Schwarzl, que evitam a necessidade do cálculo explícito do espectro de relaxação. A metodologia de determinação da DMM foi aplicada para amostras de polietileno e foram estimadas distribuições com boa representação dos dados experimentais do GPC, ao considerarem-se amostras com polidispersões inferiores a 10. Com relação a metodologia de cálculo do espectro de relaxação, foi realizado um estudo comparativo da aplicação de espectros de relaxação discreto e contínuo, com o objetivo de estabelecer critérios para especificação do número ótimo de modos de Maxwell a serem considerados. Ao efetuar-se a comparação entre as técnicas, verificou-se o espectro discreto apresenta como um sistema melhor condicionado, permitindo assim obter maior confiabilidade dos parâmetros estimados. Também é proposta uma modificação da metodologia de determinação da DMM, em que é aplicada a quadratura de Gauss-Hermite para a resolução numérica da integral dos modelos de relaxação. / The molecular weight distribution (MWD) and its parameters are of the fundamental importance in the characterization of polymers. Therefore, the development of techniques for faster and less time consuming determination of the MWD is of great practical relevance. The goals of this work were the implementation of some of the relaxation models from double reptation theory proposed in the literature, the evaluation of these implementations and the analysis of two key points in the recovery of the MWD from rheological data which are the methodology for calculation of the relaxation spectrum based on the Maxwell model and the numeric strategy for the evaluation of the integrals appearing in the relaxation models. The inverse problem, i.e., the determination of the MWD from rheological data using a specified relaxation model and an imposed distribution function, was solved. In the analysis of the inverse problem, the Generalized Exponential (GEX) was used as distribution function and two approaches were considered: i) explicit calculation of the relaxation spectrum and ii) use of the parametric method proposed by Schwarzl to avoid the explicit calculation of the relaxation spectrum. In the test of commercial samples of polyethylene with polidispersity less than 10, the application of this methodology led to MWD curves which provided good fit of the experimental SEC data. Regarding the methodology for calculation of the relaxation spectrum, a comparison between the performance of discrete and continuous relaxation spectrum was performed and some possible a criteria to determine the appropriate number of relaxation modes of Maxwell to be used were evaluated. It was found that the technique of discrete spectrum leads to better conditioned systems and, consequently, greater reliability of the estimated parameters. With relation to the numeric strategy for the evaluation of the integrals appearing in the relaxation models, the use of Gauss-Hermite quadrature using a new change of variables was proposed.

Generalized linear mixed models (GLMMs) have become extremely popular in recent years. The main computational problem in parameter estimation for GLMMs is that, in contrast to linear mixed models, closed analytical expressions for the likelihood are not available. To overcome this problem, several approaches have been proposed in the literature. For this study we have used one quasi-likelihood approach, penalized quasi-likelihood (PQL), and two integral approaches: Laplace and adaptive Gauss-Hermite quadrature (AGHQ) approximation. Our primary objective was to measure the performances of each estimation method. AGHQ approximation is more accurate than Laplace approximation, but slower. So the question is when Laplace approximation is adequate, versus when AGHQ approximation provides a significantly more accurate result. We have run two simulations using PQL, Laplace and AGHQ approximations with different quadrature points for varying random effect standard deviation (Ɵ) and number of replications per cluster. The performances of these three methods were measured base on the root mean square error (RMSE) and bias. Based on the simulated data, we have found that for both smaller values of Ɵ and small number of replications and for larger values of and for larger values of Ɵ and lager number of replications, the RMSE of PQL method is much higher than Laplace and AGHQ approximations. However, for intermediate values of Ɵ (random effect standard deviation) ranging from 0.63 to 3.98, regardless of number of replications per cluster, both Laplace and AGHQ approximations gave similar estimates. But when both number of replications and Ɵ became small, increasing quadrature points increases RMSE values indicating that Laplace approximation perform better than the AGHQ method. When random effect standard deviation is large, e.g. Ɵ=10, and number of replications is small the Laplace RMSE value is larger than that of AGHQ approximation. Increasing quadrature points decreases the RMSE values. This indicates that AGHQ performs better in this situation. The difference in RMSE between PQL vs Laplace and AGHQ vs Laplace is approximately 12% and 10% respectively. In addition, we have tested the relative performance and the accuracy between two different packages of R (lme4, glmmML) and SAS (PROC GLIMMIX) based on real data. Our results suggested that all of them perform well in terms of accuracy, precision and convergence rates. In most cases, glmmML was found to be much faster than lme4 package and SAS. The only difference was found in the Contraception data where the required computational time for both R packages was exactly the same. The difference in required computational times for these two platforms decreases as the number of quadrature points increases. / Thesis / Master of Science (MSc)

The first part of my thesis is concerned with estimation for longitudinal data using generalized semi-parametric mixed models and multilevel generalized linear mixed models for a binary response. Likelihood based inferences are hindered by the lack of a closed form representation. Consequently, various integration approaches have been proposed. We propose a spherical radial integration based approach that takes advantage of the hierarchical structure of the data, which we call the 2 SR method. Compared to Pinheiro and Chao's multilevel Adaptive Gaussian quadrature, our proposed method has an improved time complexity with the number of functional evaluations scaling linearly in the number of subjects and in the dimension of random effects per level. Simulation studies show that our approach has similar to better accuracy compared to Gauss Hermite Quadrature (GHQ) and has better accuracy compared to PQL especially in the variance components. The second part of my thesis is concerned with identifying differentially expressed gene pathways/gene sets. We propose a logistic kernel machine to model the gene pathway effect with a binary response. Kernel machines were chosen since they account for gene interactions and clinical covariates. Furthermore, we established a connection between our logistic kernel machine with GLMMs allowing us to use ideas from the GLMM literature. For estimation and testing, we adopted Clarkson's spherical radial approach to perform the high dimensional integrations. For estimation, our performance in simulation studies is comparable to better than Bayesian approaches at a much lower computational cost. As for testing of the genetic pathway effect, our REML likelihood ratio test has increased power compared to a score test for simulated non-linear pathways. Additionally, our approach has three main advantages over previous methodologies: 1) our testing approach is self-contained rather than competitive, 2) our kernel machine approach can model complex pathway effects and gene-gene interactions, and 3) we test for the pathway effect adjusting for clinical covariates. Motivation for our work is the analysis of an Acute Lymphocytic Leukemia data set where we test for the genetic pathway effect and provide confidence intervals for the fixed effects.

of the diploma thesis Title: Computational Methods for Maximum Likelihood Estimation in Generalized Linear Mixed Models Author: Bc. Martin Otava Department: Department of Probability and Mathematical Statistics Supervisor: RNDr. Arnošt Komárek, Ph.D., Department of Probability and Mathematical Statistics Abstract: Using maximum likelihood method for generalized linear mixed models, the analytically unsolvable problem of maximization can occur. As solution, iterative and ap- proximate methods are used. The latter ones are core of the thesis. Detailed and general introducing of the widely used methods is emphasized with algorithms useful in practical cases. Also the case of non-gaussian random effects is discussed. The approximate methods are demonstrated using the real data sets. Conclusions about bias and consistency are supported by the simulation study. Keywords: generalized linear mixed model, penalized quasi-likelihood, adaptive Gauss- Hermite quadrature 1

A classe de modelos de regressão beta tem sido estudada amplamente. Porém, para esta classe de modelos existem poucos trabalhos sobre a inclusão de efeitos aleatórios e a flexibilização da distribuição dos efeitos aleatórios, além de métodos de predição e de diagnóstico no ponto de vista dos efeitos aleatórios. Neste trabalho são propostos modelos de regressão beta com efeitos aleatórios normais e não normais para dados longitudinais. Os métodos de estimação de parâmetros e de predição dos efeitos aleatórios usados no trabalho são o método de máxima verossimilhança e o método do melhor preditor de Bayes empírico. Para aproximar a função de verossimilhança foi utilizada a quadratura de Gauss-Hermite. Métodos de seleção de modelos e análise de resíduos também foram propostos. Foi implementado o pacote BLMM no R para a realização de todos os procedimentos. O processo de estimação os parâmetros dos modelos e a distribuição empírica dos resíduos propostos foram analisados por meio de estudos de simulação. Foram consideradas várias distribuições para os efeitos aleatórios, valores para o número de indivíduos, número de observações por indivíduo e estruturas de variância-covariância para os efeitos aleatórios. Os resultados dos estudos de simulação mostraram que o processo de estimação obtém melhores resultados quando o número de indivíduos e o número de observações por indivíduo aumenta. Estes estudos também mostraram que o resíduo quantil aleatorizado segue uma distribuição aproximadamente normal. A metodologia apresentada é uma ferramenta completa para analisar dados longitudinais contínuos que estão restritos ao intervalo limitado (0; 1). / The class of beta regression models has been studied extensively. However, there are few studies on the inclusion of random effects and models with flexible random effects distributions besides prediction and diagnostic methods. In this work we proposed a beta regression models with normal and not normal random effects for longitudinal data. The maximum likelihood method and the empirical Bayes approach are used to obtain the estimates and the best prediction. Also, the Gauss-Hermite quadrature is used to approximate the likelihood function. Model selection methods and residual analysis were also proposed.We implemented a BLMM package in R to perform all procedures. The estimation procedure and the empirical distribution of residuals were analyzed through simulation studies considering differents random effects distributions, values for the number of individuals, number of observations per individual and covariance structures for the random effects. The results of simulation studies showed that the estimation procedure obtain better results when the number of individuals and the number of observations per individual increase. These studies also showed that the empirical distribution of the quantile randomized residual follows a normal distribution. The methodolgy presented is a tool for analyzing longitudinal data restricted to a interval (0; 1).