O objetivo deste trabalho foi avaliar a incorporação de funções geoestatísticas na matriz de variâncias e covariâncias residual no estudo de modelos lineares mistos a partir de um grupo de quatro experimentos de cana-de-açúcar, conduzidos na Guatemala nos seguintes locais: fazenda Limones - usina açucareira Pantaleón (LP), fazenda Bálsamo - usina açucareira Pantaleón (BP), área 1 da fazenda Limones - usina Madre Tierra (MT1) e área 2 da fazenda Limones - usina Madre Tierra (MT2). A variável resposta de interesse foi a produção de cana-de-açúcar por hectare, o delineamento utilizado nos quatro locais foi o casualizado em blocos, com cinco repetições e os mesmos seis tratamentos referentes a diferentes dosagens de um biorregulador (estimulante de crescimento). Em princípio, foram ajustados e comparados diversos modelos alternando-se o efeito de blocos, ora considerado fixo, ora aleatório, e a estrutura da matriz de variâncias e covariâncias (R), segundo os modelos exponencial, gaussiano e esférico. Estes modelos foram comparados, e os que admitem estruturas de dependência espacial se destacaram estatisticamente como os melhores, a partir do critério de Akaike (AIC), sendo então selecionados os modelos BFExp (blocos de efeito fixo e função exponencial na matriz R) e BAExpH (blocos de efeito aleatório, função exponencial para R e variâncias diferentes entre os locais). A seguir, foi realizada a estimação dos efeitos fixos e a predição dos efeitos aleatórios por meio do método da máxima verossimilhança restrita (REML) pois esta metodologia proporciona um menor viés para suas estimativas. As análises conjuntas nos dois modelos selecionados não apresentaram interação tratamentos versus locais, nem mesmo efeito de tratamentos significativos, não sendo aconselhado o desdobramento desta interação. O efeito de locais por sua vez, foi significativo apenas no modelo BAExpH, e detectou-se neste caso a superioridade do local BP em relação aos demais. Adicionalmente, os locais foram analisados individualmente, focando a comparação dos modelos e as análises de variâncias, contudo, assim como na análise conjunta, nos modelos escolhidos para cada local, os efeitos de tratamentos também não foram significativos. Gráficos de resíduos foram construídos e representaram bons ajustes para os modelos BFExp e BAExpH para descrever os dados deste grupo de experimentos. Por fim, foi realizado um estudo de simulação cujos resultados deram mais credibilidade e suporte para a importância e relevância de se verificar, por meio de comparações, a necessidade de uso de um modelo mais elaborado, que considere a possível existência de dependência espacial entre as observações. / The aim of this research was to evaluate the incorporation of geostatistical functions in the residual variances and covariances matrix in linear mixed models in a group of four experiments cane sugar conducted in four sites of Guatemala: farm Limones - Pantaleon sugar mill (LP), farm Bálsamo - Pantaleon sugar mill (BP), area 1 of the farm Limones - sugar mill Madre Tierra (MT1) and area 2 of the farm Limones - sugar mill Madre Tierra (MT2). Production of sugar cane was the interest variable analyzed at all locations, using the randomized block design with five replications and the same six treatments related to different doses of a plant growth regulator. Initially the models were adjusted and compared with alternating the blocks effect, sometimes considered fixed, sometimes random, and the structure of the variance and covariance matrix (R) according to the exponential, gaussian and spherical models. The models were compared, and, among them, those with spatial dependence structures stood out as the best statistically from the Akaike information criterion (AIC), and the selected modelos were the BFExp model (block as fixed effect and exponential function to R) and the BAExpH model (block as random effect, exponential function to R and different variances among the sites). After that, the estimation of fixed effects and prediction of random effects using the restricted maximum likelihood method (REML) were done, since this methodology provides a lower bias to their estimates. The joint analysis of both selected models showed no interaction between treatments and locals, even significant effect of treatments, not being advised the unfolding of this interaction. The effect of local was significant only in the BAExpH model, and detected in this case the superiority of the local BP in relation to the others. Additionally, individual sites were examined similarly to the previous case, through comparison of models and analysis of variance, however, treatment effects weren\'t significant too. Residual plots were constructed and represented satisfactory fit of the models to describe the data in all cases studied. Finally, a simulation study showed results with more credibility and support for the importance and relevance of verifying, through comparisons, the need to use a more structured model that considers the possible existence of spatial dependence among observations.

O objetivo deste trabalho foi avaliar a incorporação de funções geoestatísticas na matriz de variâncias e covariâncias residual no estudo de modelos lineares mistos a partir de um grupo de quatro experimentos de cana-de-açúcar, conduzidos na Guatemala nos seguintes locais: fazenda Limones - usina açucareira Pantaleón (LP), fazenda Bálsamo - usina açucareira Pantaleón (BP), área 1 da fazenda Limones - usina Madre Tierra (MT1) e área 2 da fazenda Limones - usina Madre Tierra (MT2). A variável resposta de interesse foi a produção de cana-de-açúcar por hectare, o delineamento utilizado nos quatro locais foi o casualizado em blocos, com cinco repetições e os mesmos seis tratamentos referentes a diferentes dosagens de um biorregulador (estimulante de crescimento). Em princípio, foram ajustados e comparados diversos modelos alternando-se o efeito de blocos, ora considerado fixo, ora aleatório, e a estrutura da matriz de variâncias e covariâncias (R), segundo os modelos exponencial, gaussiano e esférico. Estes modelos foram comparados, e os que admitem estruturas de dependência espacial se destacaram estatisticamente como os melhores, a partir do critério de Akaike (AIC), sendo então selecionados os modelos BFExp (blocos de efeito fixo e função exponencial na matriz R) e BAExpH (blocos de efeito aleatório, função exponencial para R e variâncias diferentes entre os locais). A seguir, foi realizada a estimação dos efeitos fixos e a predição dos efeitos aleatórios por meio do método da máxima verossimilhança restrita (REML) pois esta metodologia proporciona um menor viés para suas estimativas. As análises conjuntas nos dois modelos selecionados não apresentaram interação tratamentos versus locais, nem mesmo efeito de tratamentos significativos, não sendo aconselhado o desdobramento desta interação. O efeito de locais por sua vez, foi significativo apenas no modelo BAExpH, e detectou-se neste caso a superioridade do local BP em relação aos demais. Adicionalmente, os locais foram analisados individualmente, focando a comparação dos modelos e as análises de variâncias, contudo, assim como na análise conjunta, nos modelos escolhidos para cada local, os efeitos de tratamentos também não foram significativos. Gráficos de resíduos foram construídos e representaram bons ajustes para os modelos BFExp e BAExpH para descrever os dados deste grupo de experimentos. Por fim, foi realizado um estudo de simulação cujos resultados deram mais credibilidade e suporte para a importância e relevância de se verificar, por meio de comparações, a necessidade de uso de um modelo mais elaborado, que considere a possível existência de dependência espacial entre as observações. / The aim of this research was to evaluate the incorporation of geostatistical functions in the residual variances and covariances matrix in linear mixed models in a group of four experiments cane sugar conducted in four sites of Guatemala: farm Limones - Pantaleon sugar mill (LP), farm Bálsamo - Pantaleon sugar mill (BP), area 1 of the farm Limones - sugar mill Madre Tierra (MT1) and area 2 of the farm Limones - sugar mill Madre Tierra (MT2). Production of sugar cane was the interest variable analyzed at all locations, using the randomized block design with five replications and the same six treatments related to different doses of a plant growth regulator. Initially the models were adjusted and compared with alternating the blocks effect, sometimes considered fixed, sometimes random, and the structure of the variance and covariance matrix (R) according to the exponential, gaussian and spherical models. The models were compared, and, among them, those with spatial dependence structures stood out as the best statistically from the Akaike information criterion (AIC), and the selected modelos were the BFExp model (block as fixed effect and exponential function to R) and the BAExpH model (block as random effect, exponential function to R and different variances among the sites). After that, the estimation of fixed effects and prediction of random effects using the restricted maximum likelihood method (REML) were done, since this methodology provides a lower bias to their estimates. The joint analysis of both selected models showed no interaction between treatments and locals, even significant effect of treatments, not being advised the unfolding of this interaction. The effect of local was significant only in the BAExpH model, and detected in this case the superiority of the local BP in relation to the others. Additionally, individual sites were examined similarly to the previous case, through comparison of models and analysis of variance, however, treatment effects weren\'t significant too. Residual plots were constructed and represented satisfactory fit of the models to describe the data in all cases studied. Finally, a simulation study showed results with more credibility and support for the importance and relevance of verifying, through comparisons, the need to use a more structured model that considers the possible existence of spatial dependence among observations.

Este trabalho objetivou a avaliação da presença de plasticidade fenotípica e de adaptação local de três procedências de palmiteiro: Ombrófila Densa, Estacional Semidecidual e Restinga, em três locais no Estado de São Paulo: Parque Estadual da Ilha do Cardoso, Parque Estadual de Carlos Botelho e Estação Ecológica dos Caetetus, em ensaios de adaptação no estabelecimento (ou de semeadura) e de adaptação em juvenis (ou de crescimento). Os conjuntos de dados foram analisados utilizando estruturas de grupos de experimentos, com efeitos cruzados e aninhados. As variáveis relacionadas com a massa de matéria seca das plantas, nos dois ensaios, foram analisadas usando a abordagem de modelos lineares de efeitos mistos, por meio da incorporação de fatores de efeito aleatório, e fazendo uso do método da máxima verossimilhança restrita (REML) para estimação dos componentes de variância associados a tais fatores com um menor viés. Por outro lado, para a proporção de sementes germinadas, no ensaio de adaptação no estabelecimento, a análise estatística foi realizada a partir da abordagem dos modelos lineares generalizados mistos, sob a pressuposição de que a variável segue uma distribuição binomial, com função de ligação logito. O método da pseudo-verossimilhança foi empregado para obtenção da solução das equações de verossimilhança. Os resultados mostraram que as plantas originadas de sementes dos três biomas avaliados apresentaram um comportamento plástico, para todos os caracteres avaliados no ensaio de adaptação no estabelecimento. Com relação ao ensaio de adaptação em juvenis, a característica de plasticidade foi verificada somente para a massa de matéria seca da folha em plantas provenientes do bioma Estacional Semidecidual. A característica de adaptação local, apresentou-se de forma evidente no ensaio de adaptação no estabelecimento. Estes resultados evidenciaram que em cada local avaliado, as plantas originadas das sementes de diferentes procedências apresentaram um comportamento diferenciado nos caracteres relacionados à massa de matéria seca, podendo em alguns casos, tratar-se de adaptação local. Concluiu-se que os locais Carlos Botelho e Ilha do Cardoso são os mais favoráveis para a germinação das sementes de sua mesma procedência. / The aim of this work was to evaluate the presence of phenotypic plasticity and local adaptation of three provenances of the palm specie Euterpe edulis: Atlantic Rainforest, Seasonally Dry Forest and Restinga Forest, in permanent parcels inserted in three forest types of the São Paulo State (Brazil): Parque Estadual da Ilha do Cardoso, Parque Estadual de Carlos Botelho e Estação Ecológica dos Caetetus, in experiments of seedling establishment and juveniles plants growth. The data sets were analyzed using structures of groups of experiments, with crossed and nested effects. The variables related to dry matter content of plants in both assays were analyzed using linear mixed models (LMM) approach, through the incorporation of random effect factors, and using the restricted maximum likelihood method (REML) for estimation of variance components associated with these factors with a minor bias. On the other hand, germination proportion of the seeds at seedling establishment assay was analyzed using the generalized linear mixed models (GLMM) approach, under the assumption that the variable follows a binomial distribution, with logit link function. The pseudo-likelihood (PL) method was used to obtain the numerical solution of the likelihood equations. The results showed that, plants from seeds of the three biomes evaluated presented a plastic behavior for all characters assessed in the seedling establishment assay. In respect to juveniles adaptation assay, the phenotypic plasticity characteristic was observed only to the leaf dry matter content of plants from Seasonally Dry Forest biome. The local adaptation characteristic was clearly observed in the seedling establishment assay. These results showed that at each site evaluated, plants originating from seeds of different provenances exhibited different behavior on characters related to the dry matter content and may in some cases be local adaptation. It was concluded that locations Carlos Botelho and Ilha do Cardoso are the most favorable for seed germination of its same provenance.

Este trabalho objetivou a avaliação da presença de plasticidade fenotípica e de adaptação local de três procedências de palmiteiro: Ombrófila Densa, Estacional Semidecidual e Restinga, em três locais no Estado de São Paulo: Parque Estadual da Ilha do Cardoso, Parque Estadual de Carlos Botelho e Estação Ecológica dos Caetetus, em ensaios de adaptação no estabelecimento (ou de semeadura) e de adaptação em juvenis (ou de crescimento). Os conjuntos de dados foram analisados utilizando estruturas de grupos de experimentos, com efeitos cruzados e aninhados. As variáveis relacionadas com a massa de matéria seca das plantas, nos dois ensaios, foram analisadas usando a abordagem de modelos lineares de efeitos mistos, por meio da incorporação de fatores de efeito aleatório, e fazendo uso do método da máxima verossimilhança restrita (REML) para estimação dos componentes de variância associados a tais fatores com um menor viés. Por outro lado, para a proporção de sementes germinadas, no ensaio de adaptação no estabelecimento, a análise estatística foi realizada a partir da abordagem dos modelos lineares generalizados mistos, sob a pressuposição de que a variável segue uma distribuição binomial, com função de ligação logito. O método da pseudo-verossimilhança foi empregado para obtenção da solução das equações de verossimilhança. Os resultados mostraram que as plantas originadas de sementes dos três biomas avaliados apresentaram um comportamento plástico, para todos os caracteres avaliados no ensaio de adaptação no estabelecimento. Com relação ao ensaio de adaptação em juvenis, a característica de plasticidade foi verificada somente para a massa de matéria seca da folha em plantas provenientes do bioma Estacional Semidecidual. A característica de adaptação local, apresentou-se de forma evidente no ensaio de adaptação no estabelecimento. Estes resultados evidenciaram que em cada local avaliado, as plantas originadas das sementes de diferentes procedências apresentaram um comportamento diferenciado nos caracteres relacionados à massa de matéria seca, podendo em alguns casos, tratar-se de adaptação local. Concluiu-se que os locais Carlos Botelho e Ilha do Cardoso são os mais favoráveis para a germinação das sementes de sua mesma procedência. / The aim of this work was to evaluate the presence of phenotypic plasticity and local adaptation of three provenances of the palm specie Euterpe edulis: Atlantic Rainforest, Seasonally Dry Forest and Restinga Forest, in permanent parcels inserted in three forest types of the São Paulo State (Brazil): Parque Estadual da Ilha do Cardoso, Parque Estadual de Carlos Botelho e Estação Ecológica dos Caetetus, in experiments of seedling establishment and juveniles plants growth. The data sets were analyzed using structures of groups of experiments, with crossed and nested effects. The variables related to dry matter content of plants in both assays were analyzed using linear mixed models (LMM) approach, through the incorporation of random effect factors, and using the restricted maximum likelihood method (REML) for estimation of variance components associated with these factors with a minor bias. On the other hand, germination proportion of the seeds at seedling establishment assay was analyzed using the generalized linear mixed models (GLMM) approach, under the assumption that the variable follows a binomial distribution, with logit link function. The pseudo-likelihood (PL) method was used to obtain the numerical solution of the likelihood equations. The results showed that, plants from seeds of the three biomes evaluated presented a plastic behavior for all characters assessed in the seedling establishment assay. In respect to juveniles adaptation assay, the phenotypic plasticity characteristic was observed only to the leaf dry matter content of plants from Seasonally Dry Forest biome. The local adaptation characteristic was clearly observed in the seedling establishment assay. These results showed that at each site evaluated, plants originating from seeds of different provenances exhibited different behavior on characters related to the dry matter content and may in some cases be local adaptation. It was concluded that locations Carlos Botelho and Ilha do Cardoso are the most favorable for seed germination of its same provenance.