Spelling suggestions: "subject:"tamanho daa amostra"" "subject:"tamanho daa mostra""
1 |
Abordagem bayesiana da isoterma de langmuirCARVALHO, Diailison Teixeira de 12 February 2016 (has links)
Os metais-traço são contaminantes altamente tóxicos presentes sobretudo no meio aquático.
Uma técnica eficiente para remoção desses metais-traço é o processo de adsorção. Em estudos
laboratoriais relacionados à adsorção há a geração de materiais contaminados, o que
implica em riscos socioambientais, além de custos adicionais associados ao tratamento e descarte
apropriado dos resíduos tóxicos gerados. Diante disso, há uma limitação prática na
quantidade de amostra disponível. O processo de adsorção pode ser descrito por isotermas
de adsorção, das quais a mais conhecida é a isoterma de Langmuir. Esta isoterma apresenta
o parâmetro k, relacionado à energia de adsorção, e o parâmetro M, que indica a capacidade
máxima de adsorção do metal em uma matriz adsorvente. A estimação destes parâmetros
geralmente baseia-se em métodos assintóticos, portanto para tamanhos de amostras pequenas
as estimativas tendem a apresentar baixa precisão e acurácia. Desse modo, há um impasse em
como obterem-se estimativas precisas e acuradas e ao mesmo tempo utilizar-se de amostras de
tamanho reduzido. Objetivando superar este problema, foi estudado neste trabalho, a aplicação
da inferência bayesiana no ajuste da isoterma de Langmuir considerando prioris informativas e
não informativas. Realizou-se então um estudo de simulação de dados com tamanhos amostrais
de 5, 6, 7, 9, 12, 15, 20, 25 e 30, analisados em dois cenários com diferentes valores de M e k.
Para avaliar a precisão foram utilizados o erro quadrático médio e a amplitude do intervalo HPD
ao nível de 95% de credibilidade, para a acurácia o viés médio relativo absoluto. Amostras das
distribuições marginais a posteriori dos parâmetros foram obtidas pelo amostrador de Gibbs. As
inferências foram realizadas e os resultados indicaram que as estimativas obtidas com uso das
prioris informativas apresentaram maiores precisão e acurácia mesmo em tamanhos amostrais
inferiores. Posteriormente ajustou-se a isoterma sobre dados experimentais de adsorção de
chumbo Pb2+ em cascas de laranja, considerando as prioris propostas e os resultados obtidos
corroboraram com o estudo de simulação. Assim, a metodologia bayesiana mostrou-se eficiente
para a estimação dos parâmetros da isoterma de Langmuir e o uso de prioris informativas permitiu
a obtenção de estimativas com precisão e acurácia satisfatórias para tamanhos amostrais
relativamente inferiores, o que permite contornar a limitação prática da quantidade de amostra
disponível em estudos reais de adsorção. / The trace metals are highly toxic contaminants particularly in the aquatic environment.
The adsorption process is an efficient technique for removing these trace metals. There is a
generation of contaminated materials in studies laboratory related to adsorption, it this implies
social and environmental risks and additional costs associated with treatment and proper disposal
of toxic waste. This fact brings a practical limitation on the amount of sample to be
used. The adsorption process can be described by functions called adsorption isotherms. The
Langmuir isotherm is one of the most used. This isotherm shows the parameter k related to
the energy of adsorption, and the M parameter which indicates the maximum capacity metal
adsorption. The parameter estimation is generally based on asymptotic methods therefore for
small sample sizes estimates tend to have low precision and accuracy. Thus, there is a difficulty
in obtaining precise and accurate estimates at the same time be used for small sample size.
Aiming to overcome this problem has been studied in this work, the application of Bayesian
inference in fitting isotherm Langmuir considering informative and uninformative priors. Then
carried out a study of data simulation with sample sizes of 5, 6, 7, 9, 12, 15, 20, 25 and 30, they
were discussed in two scenarios considering different values of M and k. For the evaluation of
the precision was used the mean square error and the length of a 95% HPD credible intervals, for
to evaluate the accuracy was used the mean bias relative absolute. The samples of the marginal
posterior distributions the parameters were obtained by the Gibbs sampler. The inferences were
made. The results indicated that the estimates obtained with use of informative priors presented
greater precision and accuracy even at lower sample sizes. Subsequently the isotherm was
adjusted on experimental data of adsorption lead (Pb2+) in orange peel considering the priors
proposals and the results corroborate whith the results obtained in the simulation study. Thus,
the methodology bayesian was efficient for the estimation of isotherm parameters of Langmuir
and the use of informative priors, it allowed bypass practical limitation on the amount of sample
available in real adsorption studies. / Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPES
|
2 |
Testes de hipóteses frequentistas e bayesianos para razão áurea via simulação Monte CarloSANTOS, Mariana Moreira Gonçalves 30 March 2015 (has links)
A razão áurea é uma constante irracional que tem sido investigada por pesquisadores de diversas
áreas do conhecimento. Presente na natureza e bastante utilizada em pinturas, esculturas e construções,
a razão áurea está relacionada com a beleza perfeita e a proporção ideal. Atualmente
pesquisas têm associado propriedades como bom funcionamento, eficiência e estabilidade a
estruturas biológicas que possuem essa razão. Para inferir sobre a razão áurea, pesquisadores
têm utilizado diversas metodologias, dentre elas, o teste t de Student, testes não paramétricos
e, em muitos casos, critérios subjetivos. Para se inferir sobre a média das razões de duas
populações não há na literatura um teste específico. Muitos pesquisadores, para inferir se a
razão de determinados segmentos são iguais ao número de ouro zero , utilizam a média das razões
amostrais, para estimar a média das razões populacionais e utilizam o teste t de Student. A
razão de duas variáveis aleatórias quando são independentes, normais padrão é uma variável
aleatória que segue uma distribuição de Cauchy. No entanto, quando as variáveis aleatórias
são dependentes, como é o caso em que se quer inferir sobre a razão áurea, a distribuição
de probabilidade da razão não é conhecida e a inferência baseada em pressuposições que não
são satisfeitas pode levar a resultados não confiáveis. Um dos objetivos desse trabalho foi
avaliar a viabilidade do teste t de Student com diferentes estatísticas, algumas já utilizadas por
pesquisadores e uma proposta, para se inferir sobre a razão áurea. Também foram avaliadas
outras metodologias propostas: o teste não paramétrico Wilcoxon e o teste bayesiano com
priori não-informativa. A avaliação das metodologias dos testes paramétricos e não-paramétrico
se deu através da quantificação e comparação das taxas de erro tipo I e poder dos testes em
diferentes situações de variabilidade e tamanhos de amostra, via simulação Monte Carlo. Para
avaliação do teste bayesiano, quantificou-se as taxas de rejeição de H0 nas simulações quando
as amostras foram geradas sob H0 e sob H1. Como aplicação, foram obtidos dados referentes à
medida dos braços de nove pares de cromossomos de células do genótipo Cerbiatta da Lactuca
sativa L., a alface e os testes foram comparados quando aplicados nessa amostra. Todas as
simulações e as comparações dos testes foram realizadas no programa R. O t de Student com
as estatísticas utilizadas em literatura foi liberal ou apresentou taxas de poder inferiores a
95% na maioria dos cenários e, por isso, não é recomendado. O teste bayesiano com priori
de Jeffreys foi equivalente ao teste t de Student com a estatística proposta, que por sua vez,
apresentou melhor desempenho no controle das taxas de erro tipo I, mas apresentou taxas de
poder inferiores a 95% para amostras pequenas, principalmente quando a variabilidade dos dois
segmentos é maior. Foi verificado que havia a presença de razão áurea nas medidas dos braços
longo e curto do quinto par de cromossomo. / The golden ratio is an irrational constant that has been investigated by researchers from various
fields of knowledge. Present in nature and widely used in paintings, sculptures and buildings,
the golden ratio is related to the perfect beauty and the ideal proportion. Currently research has
associated properties such as proper functioning, efficiency and stability at biological structures
that have golden ratio. In order to study the golden ratio, researchers have used different
methodologies, such as, the Student’s test, non-parametric tests and, in many cases, subjective
criteria. There is no, in the literature, a specific test to infer about the mean ratio of two
populations. Many researchers, to infer if the rate of certain segments are, on average, equal to
the number of gold , use the of sample rates average to estimate the mean of population rates
and use the Student’s test. The ratio of two independent random variables standard normal is a
random variable that follows a Cauchy distribution. However, when the random variables are
dependent, as is the case where it is desired infer about the golden ratio, the ratio probability
distribution is not known. The infer process based on assumptions that are not satisfied can lead
to unreliable results. One goal of this study was to evaluate the viability of the Student’s test
with different statistics, some of them, already used by researchers, and a proposal one to infer
the golden ratio. We evaluated other methodologies proposed: the nonparametric Wilcoxon
test and the Bayesian test with non-informative priori. The evaluation of the methodologies
of parametric tests and nonparametric occurred by quantifying and comparing of the tests
type I errors rate and power in different situations variability and sample sizes, via Monte
Carlo simulation. To evaluate the Bayesian test, it was quantified rejection rates of H0 in the
simulations when the samples were generated under H0 and under H1. As an application, it
was obtained data refers the measuring of the arms of nine pairs of the chromosomes of the cell
Cerbiatta genotype of Lactuca sativa L., the lettuce and the tests were compared when applied
in this sample. All simulations and comparisons of tests were performed using the statistical
software R. The Student’s test with the statistics used in literature was liberal or had power rates
less than 95% in most scenarios and therefore is not recommended. The Bayesian test with
Jeffreys’s priori was equivalent to the Student’s test with the statistical proposal, which in turn
performed better on the control of Type I error rates, but showed lower power rates less than
95 % for small samples, especially when the variability of the two segments is large. It was
verified that there is the presence of golden ratio in the rate between long and short arms in the
fifth pair of chromosome. / Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPES
|
3 |
Precisão e acurácia dos estimadores de máxima verossimilhança dos parâmetros da distribuição Gumbel não estacionáriaNOGUEIRA, Roger dos Santos 20 December 2017 (has links)
A distribuição Gumbel é frequentemente utilizada na modelagem de eventos extremos. O
estimador de verossimilhança é o estimador mais usado para obter as estimativas dos parâmetros
do modelo Gumbel por apresentar boas propriedades assintóticas. Caso a série de dados
possua tendência linear, os estimadores de máxima verossimilhança podem produzir estimativas
viesadas para os parâmetros da distribuição Gumbel. Para contornar essa situação, o modelo
Gumbel não estacionário pode ser utilizado. Esse modelo é, basicamente, o modelo Gumbel
(estacionário) para dados sem tendência, com a inserção da tendência em seu parâmetro posição.
Essa inserção é feita substituindo-se o parâmetro posição em dois termos, em que um é o
coeficiente linear µ0 e o outro é a inclinação da reta µ1. Assim como no modelo Gumbel
estacionário, os parâmetros do modelo Gumbel não estacionário com tendência linear no parâmetro
posição podem ser estimados por meio dos estimadores de máxima verossimilhança.
Dependendo do tamanho da amostra e do quão grande seja a tendência apresentada pelos dados,
pode ser que o modelo Gumbel estacionário seja mais adequado do que o modelo Gumbel
não estacionário com tendência linear no parâmetro posição, ou vice-versa. Nesse sentido, é
importante saber qual modelo deve ser utilizado. O objetivo desse trabalho é avaliar a acurácia e
a precisão dos estimadores de máxima verossimilhança dos parâmetros da distribuição Gumbel
não estacionária com tendência linear no parâmetro posição. Foram simuladas 1000 amostras
de dados em 240 cenários diferentes e foram calculados os erros quadráticos médios e os vieses
médios relativos de cada cenário simulado. Pode-se observar que: se a inclinação da reta for
maior que 0,1% do valor do parâmetro posição do modelo Gumbel, deve-se ajustar o modelo
Gumbel não estacionário aos dados. Em amostras de tamanho igual ou maior do que 50, se
houver suspeita de tendência linear no parâmetro posição, deve-se optar pelo ajuste de um
modelo Gumbel não estacionário com tendência linear no parâmetro posição. / The Gumbel distribution is often used in the extreme events modelling. For this purpose it is
necessary that its parameters are estimated. The estimator most used for this is the maximum
likelihood estimator. The maximum likelihood estimators have good asymptotic properties. In
case of linear trend in the data series, the maximum likelihood estimators may produce biased
estimates for the parameters of the Gumbel distribution. To overcome this situation, Gumbel
model with trend can be used. This model is, basically, the (stationary) Gumbel model to
no trend data, with the insertion of the trend in its position parameter. As in the stationary
Gumbel model, the parameters of the trend Gumbel model can be estimate by means maximum
likelihood estimators. Depending on sample size and on how big is the trend presented by the
data, the stationary Gumbel model can be more appropriate than the trend Gumbel model, or
vice versa. In this respect, it is important to know how model must be used. The objective of
this study is, therefore, to evaluate the accuracy and the precision of the maximum likelihood
estimators of the Gumbel model with linear trend’s parameters. To do this, have been simulated
1,000 data samples on 240 different scenarios and have been calculated the mean squared errors
and the relative mean biases of each simulated scenario. The results lead to the following
conclusions: if the trend was bigger than 0.1% of the Gumbel model’s position parameter value,
the trend Gumbel model must be fitted. In the case of the sample size be equal or bigger than
50 and there is suspect of trend, the trend Gumbel model must be fitted.
|
4 |
Influência do tamanho da amostra na determinação da curva de retenção da água no solo / Sample size effect on the determination of the soil water retention curveSilva, Maria Laiane do Nascimento 25 May 2016 (has links)
A curva de retenção da água no solo é um dos principais instrumentos para avaliar a qualidade física dos solos e possibilitar seu manejo adequado. Por meio da Teoria da Capilaridade vários equipamentos foram desenvolvidos para determinar a intensidade com que a água está retida ao solo, porém, pouco se tem dado atenção para verificar se os pressupostos para o real funcionamento da teoria estão sendo atendidos. Um aspecto refere-se ao tamanho da amostra utilizada para determinar a curva de retenção, de modo que haja continuidade dos feixes capilares na amostra e placa porosa. Desta forma, este trabalho propõe avaliar diferentes tamanhos de amostra indeformada para a determinação da curva de retenção. Para isso, coletaram-se amostras em anéis volumétricos cilíndricos de três tamanhos (altura) diferentes (T1 - 0,075 m; T2 - 0,05 m; T3 - 0,025 m;) e mesmo diâmetro interno (0,07 m), dos horizontes diagnósticos de um Latossolo e um Nitossolo em áreas experimentais da Escola Superior de Agricultura Luiz de Queiroz (Esalq/USP), Piracicaba - SP. Realizou-se a caracterização física destes solos, por meio da análise granulométrica, densidade do solo, densidade de partículas, porosidade total e teor de carbono orgânico. As curvas foram determinadas para cada tamanho de amostra, utilizando-se o Funil de Haines, para as tensões 0,5, 1, 4, 6 e 10 kPa, e a Câmara de Pressão de Richards para 33, 100 e 500 kPa. As curvas de retenção foram ajustadas pelo modelo utilizado por van Genuchten. Estimadas as curvas, avaliou-se a distribuição de poros do solo das amostras, determinando-se a curva de frequência acumulada de poros em função do logaritmo do raio e, depois pela diferenciação das equações de ajuste das curvas de retenção, a curva diferencial de frequência acumulada de poros. Os resultados mostram que o Latossolo, por ter textura arenosa no horizonte estudado, não apresentou diferença significativa nas curvas de retenção para os tamanhos das amostras estudadas. Verificou-se pouca modificação na distribuição dos poros deste solo, que possui teor elevado das frações areia fina e muito fina, e desenvolveram papel importante para a retenção de água. O Nitossolo, por sua vez, apresentou diferença significativa da curva obtida pela amostra de menor tamanho (T3), havendo maior retenção de água com a diminuição do tamanho da amostra. Devido a sua textura muito argilosa, o arranjo estrutural deste solo foi diferenciado ao se utilizar as amostras maiores, com provável interrupção e descontinuidade dos feixes capilares. Consequentemente, houve também alteração na distribuição dos poros, com redução dos mesoporos e aumento dos microporos. Desta forma, pode-se concluir que o tamanho da amostra influenciou a curva de retenção da água devido à complexidade estrutural do solo, que provavelmente é diferente nas amostras maiores por causa da continuidade dos feixes capilares, principalmente no Nitossolo. Em outras palavras, quanto menor o tamanho da amostra há menor diferenciação no arranjo de poros, ou seja, maior proximidade da real condição do solo e, assim, uma interpretação da retenção de água \"mais correta\" por meio da Teoria da Capilaridade. / The soil water retention curve is one of main tools to assess the physical quality of the soil and to make possible its adequate management. By means of the Capillary Theory, many instruments have been developed to determine the water retention forces in soil, but, little attention has been given to check whether the assumptions for the application of the theory are being attended. One aspect relates to the sample size used to determine the retention curve, so that there is capillary continuity of the sample and porous plate. Thus, this study aimed to evaluate different sizes of undisturbed cylindrical samples for determination of the retention curve. The samples were collected from diagnostic horizons of Latosol and a Nitosol, in experimental areas of the Escola Superior de Agricultura Luiz de Queiroz (Esalq/USP), Piracicaba - SP. Three volumetric rings with three different heights (T1 - 0,075 m; T2 - 0,05 m; T3 - 0,025 m;), were used the diameter of the rings were the same for the three sizes (0,07 m). The physical characterization soils were made by the granulometric analysis, bulk density, particle density, porosity and organic carbon. The curves were determined for each sample size, using the Haine\'s funnel, for tensions 0.5, 1, 4, 6 and 10 kPa, and Richard\'s pressure chamber for 33, 100 and 500 kPa. The pore size distribution of the soil was evoluated first by determining the cumulative frequency curve of pore radius, and then, by differentiating fitling equation of fluis curve to obtain a differential curve of pore cumulative frequency. The retention curves were fitted by the model used by Van Genuchtem. The results showed that in the Latosol there was no significant difference in retention curves for the sizes of the samples studied. There was little change in pore distribution of the fluis soil with high content of fractions fine and very fine sand, that developes significant role in soil water retention. The Nitosol exhibited significant difference of the curve obtained by the smallest size sample (T3), with greater water retention with the decreasing of the sample size. Because of its very clayey texture, the structural arrangement of this soil was different when larger samples were used, with probable interruption and discontinuity of capillaries. Consequently there was also a change in the pore distribution, with reduction of mesopores and an increase of micropores. Thus, itean be conclude that the sample size influenced the soil water retention curve due to the structural complexity of the soil that probably is different in the bigger sample because of the continuity of the capillary budles fluit was more affected in the Nitosol. In other words, the smaller the sample size, the smaller the difference in the arrangement of pores, that is, more closeness of the actual condition of the soil and so a \"more correct\" interpretation of soil water retention by capillary theory.
|
5 |
Influência do tamanho da amostra na determinação da curva de retenção da água no solo / Sample size effect on the determination of the soil water retention curveMaria Laiane do Nascimento Silva 25 May 2016 (has links)
A curva de retenção da água no solo é um dos principais instrumentos para avaliar a qualidade física dos solos e possibilitar seu manejo adequado. Por meio da Teoria da Capilaridade vários equipamentos foram desenvolvidos para determinar a intensidade com que a água está retida ao solo, porém, pouco se tem dado atenção para verificar se os pressupostos para o real funcionamento da teoria estão sendo atendidos. Um aspecto refere-se ao tamanho da amostra utilizada para determinar a curva de retenção, de modo que haja continuidade dos feixes capilares na amostra e placa porosa. Desta forma, este trabalho propõe avaliar diferentes tamanhos de amostra indeformada para a determinação da curva de retenção. Para isso, coletaram-se amostras em anéis volumétricos cilíndricos de três tamanhos (altura) diferentes (T1 - 0,075 m; T2 - 0,05 m; T3 - 0,025 m;) e mesmo diâmetro interno (0,07 m), dos horizontes diagnósticos de um Latossolo e um Nitossolo em áreas experimentais da Escola Superior de Agricultura Luiz de Queiroz (Esalq/USP), Piracicaba - SP. Realizou-se a caracterização física destes solos, por meio da análise granulométrica, densidade do solo, densidade de partículas, porosidade total e teor de carbono orgânico. As curvas foram determinadas para cada tamanho de amostra, utilizando-se o Funil de Haines, para as tensões 0,5, 1, 4, 6 e 10 kPa, e a Câmara de Pressão de Richards para 33, 100 e 500 kPa. As curvas de retenção foram ajustadas pelo modelo utilizado por van Genuchten. Estimadas as curvas, avaliou-se a distribuição de poros do solo das amostras, determinando-se a curva de frequência acumulada de poros em função do logaritmo do raio e, depois pela diferenciação das equações de ajuste das curvas de retenção, a curva diferencial de frequência acumulada de poros. Os resultados mostram que o Latossolo, por ter textura arenosa no horizonte estudado, não apresentou diferença significativa nas curvas de retenção para os tamanhos das amostras estudadas. Verificou-se pouca modificação na distribuição dos poros deste solo, que possui teor elevado das frações areia fina e muito fina, e desenvolveram papel importante para a retenção de água. O Nitossolo, por sua vez, apresentou diferença significativa da curva obtida pela amostra de menor tamanho (T3), havendo maior retenção de água com a diminuição do tamanho da amostra. Devido a sua textura muito argilosa, o arranjo estrutural deste solo foi diferenciado ao se utilizar as amostras maiores, com provável interrupção e descontinuidade dos feixes capilares. Consequentemente, houve também alteração na distribuição dos poros, com redução dos mesoporos e aumento dos microporos. Desta forma, pode-se concluir que o tamanho da amostra influenciou a curva de retenção da água devido à complexidade estrutural do solo, que provavelmente é diferente nas amostras maiores por causa da continuidade dos feixes capilares, principalmente no Nitossolo. Em outras palavras, quanto menor o tamanho da amostra há menor diferenciação no arranjo de poros, ou seja, maior proximidade da real condição do solo e, assim, uma interpretação da retenção de água \"mais correta\" por meio da Teoria da Capilaridade. / The soil water retention curve is one of main tools to assess the physical quality of the soil and to make possible its adequate management. By means of the Capillary Theory, many instruments have been developed to determine the water retention forces in soil, but, little attention has been given to check whether the assumptions for the application of the theory are being attended. One aspect relates to the sample size used to determine the retention curve, so that there is capillary continuity of the sample and porous plate. Thus, this study aimed to evaluate different sizes of undisturbed cylindrical samples for determination of the retention curve. The samples were collected from diagnostic horizons of Latosol and a Nitosol, in experimental areas of the Escola Superior de Agricultura Luiz de Queiroz (Esalq/USP), Piracicaba - SP. Three volumetric rings with three different heights (T1 - 0,075 m; T2 - 0,05 m; T3 - 0,025 m;), were used the diameter of the rings were the same for the three sizes (0,07 m). The physical characterization soils were made by the granulometric analysis, bulk density, particle density, porosity and organic carbon. The curves were determined for each sample size, using the Haine\'s funnel, for tensions 0.5, 1, 4, 6 and 10 kPa, and Richard\'s pressure chamber for 33, 100 and 500 kPa. The pore size distribution of the soil was evoluated first by determining the cumulative frequency curve of pore radius, and then, by differentiating fitling equation of fluis curve to obtain a differential curve of pore cumulative frequency. The retention curves were fitted by the model used by Van Genuchtem. The results showed that in the Latosol there was no significant difference in retention curves for the sizes of the samples studied. There was little change in pore distribution of the fluis soil with high content of fractions fine and very fine sand, that developes significant role in soil water retention. The Nitosol exhibited significant difference of the curve obtained by the smallest size sample (T3), with greater water retention with the decreasing of the sample size. Because of its very clayey texture, the structural arrangement of this soil was different when larger samples were used, with probable interruption and discontinuity of capillaries. Consequently there was also a change in the pore distribution, with reduction of mesopores and an increase of micropores. Thus, itean be conclude that the sample size influenced the soil water retention curve due to the structural complexity of the soil that probably is different in the bigger sample because of the continuity of the capillary budles fluit was more affected in the Nitosol. In other words, the smaller the sample size, the smaller the difference in the arrangement of pores, that is, more closeness of the actual condition of the soil and so a \"more correct\" interpretation of soil water retention by capillary theory.
|
6 |
Tamanho de amostra para caracteres morfológicos e produtivos de feijão guandu / Sample size for morphological characters and production of pigeonpeaFacco, Giovani 20 February 2014 (has links)
Coordenação de Aperfeiçoamento de Pessoal de Nível Superior / The sample size represents the number of plants to be evaluated for an appropriate experimental design. It is assumed that there is variability in the sample size between characters, between evaluation periods and between growing seasons. The objective of this study was: to determine the sample size for morphological and productive characters of pigeonpea (Cajanus cajan) and check for variability in sample size (number of plants) between the evaluation periods and between crop years. Two tests of uniformity (experiments without treatments) were conducted during two growing seasons. In the first growing season, 2011/ 12 crop, the sowing was broadcasted with the second growing season, 2012/13 crop, sowing was done in rows spaced 0.50 m. The floor area in each of the experiments was 1.848 m2 and 360 plants were marked in the central area on a gride 2 m × 2 m. 11 characters (plant height, number of nodes and stem diameter) were evaluated in 13 seasons in the first growing season and 22 times in the second growing season, green the other characters (green mass of root, stem, leaf mass shoot and total dry root, stem, leaf, dry weight of shoot and total dry mass) mass green mass were evaluated in a time each crop year. For each character, descriptive statistics were calculated and verified normality by using the Kolmogorov - Smirnov test, and the randomness Run Test. For each character, we calculated the sample size (η), for semiamplitudes confidence interval (estimation errors) equal to 2, 4, 6, ...,20 % of the estimated mean (m), with a coefficient confidence (1 - α) of 95 %. Η was set at 360 plants, and the estimation error was calculated as a percentage of the estimated mean (m) for each of the characters. There is variability in the sample size between morphological and productive characters of pigeonpea for morphological and productive characters between crop years and morphological characters between the evaluation periods. / O tamanho de amostra representa o número de plantas a serem avaliadas para um adequado planejamento experimental. Supõe-se que há variabilidade do tamanho de amostra entre caracteres, entre épocas de avaliação e entre anos agrícolas. Assim, o objetivo deste estudo foi: determinar o tamanho de amostra, para caracteres morfológicos e produtivos de feijão guandu (Cajanus cajan) e verificar se há variabilidade no tamanho de amostra (número de plantas) entre as épocas de avaliação e entre os anos agrícolas. Foram conduzidos dois ensaios de uniformidade (experimentos sem tratamentos), durante dois anos agrícolas. No primeiro ano agrícola, safra 2011/12, a semeadura foi realizada a lanço e no segundo ano agrícola, safra 2012/13, a semeadura foi realizada em linhas espaçadas 0,50 m. A área útil, em cada um dos experimentos foi de 1.848 m2, e foram demarcadas 360 plantas, na área central, em um gride de 2 m × 2 m. Foram avaliados 11 caracteres, (altura de planta, número de nós e diâmetro do caule) em 13 épocas no primeiro ano agrícola e em 22 épocas no segundo ano agrícola, os demais caracteres (massa verde de raiz, caule, folha, massa verde de parte aérea e massa verde total e massa seca de raiz, caule, folha, massa seca de parte aérea e massa seca total) foram avaliados em uma época cada ano agrícola. Para cada caractere, foram calculadas estatísticas descritivas e verificadas a normalidade, por meio do teste de Kolmogorov-Smirnov, e a aleatoriedade pelo Run Test. Para cada caractere, foi calculado o tamanho de amostra (η), para as semiamplitudes do intervalo de confiança (erros de estimação) iguais a 2, 4, 6, ..., 20% da estimativa da média (m), com coeficiente de confiança (1-α) de 95%. Fixou-se η em 360 plantas, e foi calculado o erro de estimação em percentagem da estimativa da média (m) para cada um dos caracteres. Há variabilidade do tamanho de amostra entre caracteres morfológicos e produtivos de feijão guandu, para caracteres morfológicos e produtivos entre os anos agrícolas e para caracteres morfológicos entre as épocas de avaliação.
|
7 |
Estudo da reprodutibilidade do exame de microscopia especular de córnea em amostras com diferentes números de células / Reproducibility study of the corneal specular microscope in samples with different number of cellsHolzchuh, Ricardo 19 August 2011 (has links)
INTRODUÇÃO: O endotélio corneal exerce papel primordial para a fisiologia da córnea. Seus dados morfológicos gerados pelo microscópio especular (MEC) como densidade endotelial (DE), área celular média (ACM), coeficiente de variação (CV) e porcentagem de células hexagonais (HEX) são importantes para avaliar sua vitalidade. Para interpretar estes dados de forma padronizada e reprodutível, foi utilizado um programa estatístico de análise amostral, Cells Analyzer PAT. REQ.(CA). OBJETIVO: Demonstrar valores de referência para DE, ACM, CV e HEX. Demonstrar o percentual de células endoteliais marcadas e desconsideradas no exame ao marcar-se 40, 100 e 150 células em uma única imagem do mosaico endotelial e o perfil do intervalo de confiança (IC) das variáveis estudadas ao se considerar 40, 100, 150 e tantas células quantas indicadas pelo CA. Demonstrar o erro amostral de cada grupo estudado. MÉTODOS: Estudo transversal. Os exames de MEC foram realizados com o aparelho Konan NONCON ROBO® SP-8000, nos 122 olhos de 61 portadores de catarata (63,97 ± 8,15 anos de idade). As imagens endoteliais caracterizaram se pelo número de células marcadas e consideradas para cálculo dos seguintes dados: DE, ACM, CV e HEX. Os grupos foram formados de 40, 100, 150 células marcadas numa única imagem endotelial e Grupo CA em que foram marcadas tantas células quanto necessárias em diferentes imagens, para obter o erro relativo calculado inferior ao planejado (0,05), conforme orientação do programa CA. Estudou-se o efeito do número de células sobre IC para as variáveis endoteliais utilizadas. RESULTADOS: A média dos valores de referência encontrados para DE foi 2395,37 ± 294,34 cel/mm2; ACM 423,64 ± 51,09 m2; CV 0,40 ± 0,04 e HEX 54,77 ± 4,19%. O percentual de células endoteliais desconsideradas no Grupo 40 foi 51,20%; no Grupo 100, 35,07% e no Grupo 150, 29,83%. O número médio de células calculado inicialmente pelo CA foi 247,48 ± 51,61 e o número médio de células efetivamente incluídas no final do processo amostral foi 425,25 ± 102,24. O erro amostral dos exames no Grupo 40 foi 0,157 ± 0,031; Grupo 100, 0,093 ± 0,024; Grupo 150, 0,075 ± 0,010 e Grupo CA, 0,037 ± 0,005. O aumento do número de células diminuiu a amplitude do IC nos olhos direito e esquerdo para a DE em 75,79% e 77,39%; ACM em 75,95% e 77,37%; CV em 72,72% e 76,92%; HEX em 75,93% e 76,71%. CONCLUSÃO: Os valores de referência da DE foi 2395,37 ± 294,34 cel/mm2; ACM foi 423,64 ± 51,09 m2; CV foi 0,40 ± 0,04 e HEX foi 54,77 ± 4,19%. O percentual de células endoteliais desconsideradas no Grupo 40 foi 51,20%; no Grupo 100 foi 35,07% e no Grupo 150 foi 29,83%. O programa CA considerou correto os exames nos quais 425,25 ± 102,24 células foram marcadas entre duas e cinco imagens (erro relativo calculado de 0,037 ± 0,005). O aumento do número de células diminuiu a amplitude do IC para todas as variáveis endoteliais avaliadas pela MEC / INTRODUCTION: Corneal endothelium plays an important role in physiology of the cornea. Morphological data generated from specular microscope such as endothelial cell density (CD), average cell area (ACA), coefficient of variance (CV) and percentage of hexagonal cells (HEX) are important to analyze corneal status. For a standard and reproducible analysis of the morphological data, a sampling statistical software called Cells Analyzer PAT. REC (CA) was used. PURPOSE: To determine normal reference values of CD, ACA, CV and HEX. To analyze the percentage of marked and excluded cells when the examiner counted 40, 100, 150 cells in one endothelial image. To analyze the percentage of marked and excluded cells according to the statistical software. To determine the confidence interval of these morphological data. METHODS: Transversal study of 122 endothelial specular microscope image (Konan, non-contact NONCON ROBO® SP- 8000 Specular Microscope) of 61 human individuals with cataract (63.97 ± 8.15 years old) was analyzed statistically using CA. Each image was submitted to standard cell counting. 40 cells were counted in study Group 40; 100 cells were counted in study Group 100; and 150 cells were counted in study Group 150. In study group CA, the number of counted cells was determined by the statistical analysis software in order to achieve the most reliable clinical information (relative error < 0,05). Relative error of the morphological data generated by the specular microscope were then analyzed by statistical analysis using CA software. For Group CA, relative planned error was set as 0.05. RESULTS: The average normal reference value of CD was 2395.37 ± 294.34 cells/mm2, ACA was 423.64 ± 51.09 m2, CV was 0.40 ± 0.04 and HEX was 54.77 ± 4.19%. The percentage of cells excluded for analysis was 51.20% in Group 40; 35.07% in Group 100; and 29.83% in Group 150. The average number of cells calculated initially by the statistical software was 247.48 ± 51.61 cells and the average number of cells included in the final sampling process was 425.25 ± 102.24 cells. The average relative error was 0.157 ± 0.031 for Group 40; 0.093 ± 0.024 for Group 100; 0.075 ± 0.010 for Group 150 and 0.037 ± 0.005 for Group CA. The increase of the marked cells decreases the amplitude of confidence interval (right and left eyes respectively) in 75.79% and 77.39% for CD; 75.95% and 77.37% for ACA; 72.72% and 76.92% for CV; 75.93% and 76.71% for HEX. CONCLUSION: The average normal reference value of CD was 2395.37 ± 294.34 cells/mm2, ACA was 423.64 ± 51.09 m2, CV was 0.40 ± 0.04 and HEX was 54.77 ± 4.19%. The percentage of excluded cells for analysis was 51.20% in Group 40; 35.07% in Group 100 and 29.83% in Group 150. CA software has considered reliable data when 425.25 ± 102.24 cells were marked by the examiner in two to five specular images (calculated relative error of 0.037 ± 0.005). The increase of the marked cells decreases the amplitude of confidence interval for all morphological data generated by the specular microscope
|
8 |
Amostragem do ácaro-do-bronzeado dichopelmus notus keifer (acari, eriophydae) na cultura da erva-mate em Chapecó, Santa Catarina / Sampling of the ácaro-de - bronzed dichopelmus notus keifer (acari, eriophydae) in the culture of the erva-mate in Chapecó, Santa CatarinaVieira Neto, João 10 April 2006 (has links)
The mate-tea tree it is a forest species that occurs naturally in the tempering regions and
subtropical of America of the South. In Brazil it occurs mainly in the states of the Rio Grande
do Sul, Paraná and Santa Catarina. Its leaves and branches are used, mainly, as raw material
in the preparation of teas. During many years, the exploration of mate-tea if restricted the
natives plants, but recently it passed also to be cultivated in monoculture, system that favors
the development of pragues. The tan-mite, Dichopelmus notus (Keifer, 1959) (Acari,
Eriophydae), specific plague of this culture, that before met in low population levels,
currently due to the high infestations, cause the premature leaf fall and death of the tips, with
elevated damages to the producers. This mite comes being considered as one of the main
pragues of the culture of mate-tea in the Argentine and Brazil. In result of the importance of
mate-tea and of the increase of the infestation of this mite, it is necessary to search
alternatives and technologies that maximize the profitability of the culture. This work aimed
to select a sampling methodology to monitor the levels of infestation of the tan-mite in matetea
orchards, destined to explain its habits. The study were carried out in orchard of ten years,
in the arrangement of 2,5 X 4,0 m with height of 1,5 m, located in the Chapecó county, Santa
Catarina state, Brazil. In three areas of approximately 2,500 m2, distant between itself about
100 m, had been selected 30 plants randomly. Fortnightly, in the period of 27/01/2004 the
10/01/2005, were evaluated infestation of D. notus in 18 mature leaves of ten plants in each
area, being six in the upper one-third, six in the medium one-third and six in lower one-third,
three in each localization of the crown, external and internal. The evaluations were executed
directly in the orchard, using lenses with increase of ten times and 1 cm2 of fixed field. The
results had evidenced that: the infestation of the mite occurs of aggregate form; the estimate
of the average number of mites for cm2 of leaf, with level of 15% precision, can be carried
through in three leaves of 30 plants in sections of hectare, from february to april; the mites
concentrate themselves in the external part of the plant in the upper one-third part of canopy
as well as at part medium one-third; positive correlation was observed among the population
of D. notus and minimum and maximum temperatures, however negative correlations was
observed among tan-mite e population and rain precipitation, relative humidity and speed of
the wind; the Model of Normal Approach with Correction of Continuity must preferential be
used in the elaboration of binomial sequential sampling plans for D. notus. / A erva-mate é uma espécie florestal que ocorre naturalmente nas regiões temperadas e
subtropicais da América do Sul. No Brasil ocorre principalmente nos estados do Rio Grande
do Sul, Paraná e Santa Catarina. Suas folhas e outras partes do ramo são utilizadas,
principalmente, como matéria-prima no preparo de chás. Durante muitos anos, a exploração
da erva-mate se restringiu a ervais nativos, mas recentemente passou a ser cultivada também
em monocultura, sistema que favorece o desenvolvimento de pragas. O ácaro-do-bronzeado,
Dichopelmus notus (Keifer, 1959) (Acari, Eriophydae), praga específica dessa cultura, que
antes encontrava-se em baixos níveis populacionais, atualmente devido às altas infestações,
provoca a queda prematura de folhas e morte dos ponteiros, com elevados prejuízos aos
produtores. Esse ácaro vem sendo considerado como uma das principais pragas da cultura da
erva-mate tanto na Argentina como no Brasil. Em decorrência da importância da erva-mate e
do aumento da infestação desse acarino, é necessário buscar alternativas e tecnologias que
maximizem a rentabilidade da cultura. Este trabalho teve como objetivo selecionar uma
metodologia de amostragem para monitorar os níveis de infestação do ácaro-do-bronzeado em
lavouras de erva-mate, destinada a esclarecer aspectos de sua bioecologia. O estudo foi
conduzido em erval de dez anos, no espaçamento de 2,5 X 4,0 m com altura de 1,5 m,
localizado no município de Chapecó, SC. Em três áreas de aproximadamente 2.500 m2
,
distantes entre si cerca de 100 m, foram selecionadas 30 plantas ao acaso. Quinzenalmente, no
período de 27/01/2004 a 10/01/2005, avaliou-se a infestação de D. notus em 18 folhas
maduras de dez plantas em cada área, sendo seis no terço superior, seis no terço médio e seis
no terço inferior, em cada terço, três na parte externa da copa e três na interna. As avaliações
foram executadas diretamente nos ervais, utilizando lentes com aumento de dez vezes e 1 cm2
de campo fixo. Os resultados evidenciaram que: a infestação do ácaro ocorre de forma
agregada; a estimativa do número médio de ácaros por cm2 de folha, com nível de precisão de
15%, pode ser realizada em três folhas de 30 plantas em talhões de um hectare, nos meses de
fevereiro a abril; os ácaros concentram-se na parte externa da copa da planta nos terços
superior e médio; há correlação positiva entre a população de D. notus e temperaturas
mínimas e máximas e correlações negativas com a precipitação pluviométrica, umidade
relativa e velocidade do vento; o Modelo de Aproximação Normal com Correção de
Continuidade deve ser preferencialmente utilizado na elaboração de planos de amostragem
seqüencial binomial para D. notus.
|
9 |
Técnicas para execução de experimentos sob ambiente protegido para a cultura da abobrinha italiana / Tecnicals to execution trials in protected environments for italian pumpkinFeijó, Sandra 01 July 2005 (has links)
Conselho Nacional de Desenvolvimento Científico e Tecnológico / In order to determinate technicals to execution trials in protected environments for italian pumpkin was accomplished an experiment, from 18/08/2003 to 07/12/2003, in the area of the Department of Fitotecnia UFSM, in plastic greenhouse, with four rows and each row consisted of twenty-four plants. A total of twenty-seven harvests
were made, evaluating fruit weight with length ≥15cm.
The sample soil was sampled before accomplishment the experiment; one sample point is equal to four sub sample. The Smith heterogeneity index was estimated using SMITH s method (1938) and optimum plot size using method modified maximum curvature (MEIER & LESSMAN, 1971). Estimate, for how long productive period of italian pumpkin, in plastic greenhouse, must be evaluated aiming to estimate the experimental error and the difference among four intervals of harvest, was the aim in order to first paper. The harvest and evaluation of the initial half of the productive period of Italian pumpkin in plastic greenhouse was sufficient to estimate the experimental error, using six plants by plot, to evaluate different intervals of harvest. Because of high experimental error, the evaluation of the Italian pumpkin production during all the productive period is not sufficient to differentiate four treatments of intervals of harvest. The aim the second paper, was evaluate the chemicals characteristics of the soil heterogeneity index under environmental protect and determinate sample size. The values the Smith heterogeneity index were considerate small. The optimum plot size was equal to one basic unit, in other words, one sample point. The sample size estimated was ten sample points for the half width of the confidence interval of 20%, to 5% of error probability. The third paper, aimed evaluate the Smith heterogeneity index in order to different intervals of the harvest of fruits in different levels of the accumulate harvests of italian pumpkin in greenhouse, estimate the optimum plot size and determinate the least significant differences within treatments with variation in the size plot and number of replications. The Smith heterogeneity index is smaller and the use of smaller plots with larger number of replications benefit the experimental precision.
The optimum plot size in order to yield italian pumpkin varying between one and seven plants, promoted appropriate evaluation of the yield italian pumpkin in the different studied treatments. Plots with three plants and six replications is better in order conduction the experiments, with least significant differences within treatments (average percentage) in 75,94%. / Para se determinar técnicas para execução de experimentos, sob ambiente protegido, para a cultura da abobrinha italiana, foi realizado um experimento em estufa plástica no período de 18/08/2003 a 07/12/2003, em área pertencente ao
Departamento de Fitotecnia, na UFSM, Santa Maria, RS. As mudas foram transplantadas para a estufa plástica com espaçamento de 0,80 m entre plantas e 1,0 m entre filas, totalizando 24 plantas por fila. Foram realizadas 27 colheitas de frutos,com comprimento ≥ 15 cm. As amostras de solo foram coletadas antes da implantação do experimento, cada ponto amostral era composto por quatro subamostras. O índice de heterogeneidade de Smith (b) foi estimado pelo método de SMITH (1938) e o tamanho ótimo de parcela através do método da máxima curvatura modificado (MEIER & LESSMAN, 1971). A estimativa do erro experimental e a diferença entre quatro intervalos de colheita foram avaliados no primeiro trabalho. A colheita e avaliação da metade inicial do período produtivo da abobrinha italiana em estufa de plástica foi suficiente para estimar o erro experimental, usando
seis plantas por parcela, para avaliar diferentes intervalos de colheita. O objetivo do segundo trabalho, foi avaliar o índice de heterogeneidade de Smith das principais características químicas do solo, em estufa plástica, e determinar o tamanho de amostra. Para todas variáveis analisadas, o índice de heterogeneidade de Smith, foi próximo a zero e o tamanho ótimo de parcela, foi igual à uma unidade básica, ou seja, um ponto amostral. O tamanho de amostra estimado, foi de dez pontos amostrais, como representativo para todas as variáveis analisadas, com semiamplitude do intervalo de confiança da média em porcentagem, de 20% em nível 5% de probabilidade de erro. O terceiro trabalho teve por objetivos avaliar o índice de heterogeneidade de Smith da produção de abobrinha italiana, para os diferentes intervalos de colheita dos frutos, em diferentes níveis de colheitas acumuladas, em ambiente protegido; estimar o tamanho ótimo de parcela e determinar a diferença mínima significativa entre tratamentos, variando o tamanho da parcela e o número de repetições. Como conclusão, o índice de heterogeneidade de Smith, foi baixo e o tamanho ótimo de parcela para a produção total de abobrinha italiana varia entre uma e sete plantas, conforme a freqüência de colheitas. O uso de parcelas com três plantas, seis repetições é mais adequado e apresenta uma diferença mínima significativa entre tratamentos, em porcentagem da média, de 75,94%.
|
10 |
Estudo da reprodutibilidade do exame de microscopia especular de córnea em amostras com diferentes números de células / Reproducibility study of the corneal specular microscope in samples with different number of cellsRicardo Holzchuh 19 August 2011 (has links)
INTRODUÇÃO: O endotélio corneal exerce papel primordial para a fisiologia da córnea. Seus dados morfológicos gerados pelo microscópio especular (MEC) como densidade endotelial (DE), área celular média (ACM), coeficiente de variação (CV) e porcentagem de células hexagonais (HEX) são importantes para avaliar sua vitalidade. Para interpretar estes dados de forma padronizada e reprodutível, foi utilizado um programa estatístico de análise amostral, Cells Analyzer PAT. REQ.(CA). OBJETIVO: Demonstrar valores de referência para DE, ACM, CV e HEX. Demonstrar o percentual de células endoteliais marcadas e desconsideradas no exame ao marcar-se 40, 100 e 150 células em uma única imagem do mosaico endotelial e o perfil do intervalo de confiança (IC) das variáveis estudadas ao se considerar 40, 100, 150 e tantas células quantas indicadas pelo CA. Demonstrar o erro amostral de cada grupo estudado. MÉTODOS: Estudo transversal. Os exames de MEC foram realizados com o aparelho Konan NONCON ROBO® SP-8000, nos 122 olhos de 61 portadores de catarata (63,97 ± 8,15 anos de idade). As imagens endoteliais caracterizaram se pelo número de células marcadas e consideradas para cálculo dos seguintes dados: DE, ACM, CV e HEX. Os grupos foram formados de 40, 100, 150 células marcadas numa única imagem endotelial e Grupo CA em que foram marcadas tantas células quanto necessárias em diferentes imagens, para obter o erro relativo calculado inferior ao planejado (0,05), conforme orientação do programa CA. Estudou-se o efeito do número de células sobre IC para as variáveis endoteliais utilizadas. RESULTADOS: A média dos valores de referência encontrados para DE foi 2395,37 ± 294,34 cel/mm2; ACM 423,64 ± 51,09 m2; CV 0,40 ± 0,04 e HEX 54,77 ± 4,19%. O percentual de células endoteliais desconsideradas no Grupo 40 foi 51,20%; no Grupo 100, 35,07% e no Grupo 150, 29,83%. O número médio de células calculado inicialmente pelo CA foi 247,48 ± 51,61 e o número médio de células efetivamente incluídas no final do processo amostral foi 425,25 ± 102,24. O erro amostral dos exames no Grupo 40 foi 0,157 ± 0,031; Grupo 100, 0,093 ± 0,024; Grupo 150, 0,075 ± 0,010 e Grupo CA, 0,037 ± 0,005. O aumento do número de células diminuiu a amplitude do IC nos olhos direito e esquerdo para a DE em 75,79% e 77,39%; ACM em 75,95% e 77,37%; CV em 72,72% e 76,92%; HEX em 75,93% e 76,71%. CONCLUSÃO: Os valores de referência da DE foi 2395,37 ± 294,34 cel/mm2; ACM foi 423,64 ± 51,09 m2; CV foi 0,40 ± 0,04 e HEX foi 54,77 ± 4,19%. O percentual de células endoteliais desconsideradas no Grupo 40 foi 51,20%; no Grupo 100 foi 35,07% e no Grupo 150 foi 29,83%. O programa CA considerou correto os exames nos quais 425,25 ± 102,24 células foram marcadas entre duas e cinco imagens (erro relativo calculado de 0,037 ± 0,005). O aumento do número de células diminuiu a amplitude do IC para todas as variáveis endoteliais avaliadas pela MEC / INTRODUCTION: Corneal endothelium plays an important role in physiology of the cornea. Morphological data generated from specular microscope such as endothelial cell density (CD), average cell area (ACA), coefficient of variance (CV) and percentage of hexagonal cells (HEX) are important to analyze corneal status. For a standard and reproducible analysis of the morphological data, a sampling statistical software called Cells Analyzer PAT. REC (CA) was used. PURPOSE: To determine normal reference values of CD, ACA, CV and HEX. To analyze the percentage of marked and excluded cells when the examiner counted 40, 100, 150 cells in one endothelial image. To analyze the percentage of marked and excluded cells according to the statistical software. To determine the confidence interval of these morphological data. METHODS: Transversal study of 122 endothelial specular microscope image (Konan, non-contact NONCON ROBO® SP- 8000 Specular Microscope) of 61 human individuals with cataract (63.97 ± 8.15 years old) was analyzed statistically using CA. Each image was submitted to standard cell counting. 40 cells were counted in study Group 40; 100 cells were counted in study Group 100; and 150 cells were counted in study Group 150. In study group CA, the number of counted cells was determined by the statistical analysis software in order to achieve the most reliable clinical information (relative error < 0,05). Relative error of the morphological data generated by the specular microscope were then analyzed by statistical analysis using CA software. For Group CA, relative planned error was set as 0.05. RESULTS: The average normal reference value of CD was 2395.37 ± 294.34 cells/mm2, ACA was 423.64 ± 51.09 m2, CV was 0.40 ± 0.04 and HEX was 54.77 ± 4.19%. The percentage of cells excluded for analysis was 51.20% in Group 40; 35.07% in Group 100; and 29.83% in Group 150. The average number of cells calculated initially by the statistical software was 247.48 ± 51.61 cells and the average number of cells included in the final sampling process was 425.25 ± 102.24 cells. The average relative error was 0.157 ± 0.031 for Group 40; 0.093 ± 0.024 for Group 100; 0.075 ± 0.010 for Group 150 and 0.037 ± 0.005 for Group CA. The increase of the marked cells decreases the amplitude of confidence interval (right and left eyes respectively) in 75.79% and 77.39% for CD; 75.95% and 77.37% for ACA; 72.72% and 76.92% for CV; 75.93% and 76.71% for HEX. CONCLUSION: The average normal reference value of CD was 2395.37 ± 294.34 cells/mm2, ACA was 423.64 ± 51.09 m2, CV was 0.40 ± 0.04 and HEX was 54.77 ± 4.19%. The percentage of excluded cells for analysis was 51.20% in Group 40; 35.07% in Group 100 and 29.83% in Group 150. CA software has considered reliable data when 425.25 ± 102.24 cells were marked by the examiner in two to five specular images (calculated relative error of 0.037 ± 0.005). The increase of the marked cells decreases the amplitude of confidence interval for all morphological data generated by the specular microscope
|
Page generated in 0.0927 seconds