Submitted by Izabel Franco (izabel-franco@ufscar.br) on 2016-09-21T20:05:06Z
No. of bitstreams: 1
DissVRS.pdf: 1534933 bytes, checksum: 3be53a846076f3dcad8ef3bbed2d3e3c (MD5) / Approved for entry into archive by Ronildo Prado (ronisp@ufscar.br) on 2016-09-28T18:36:30Z (GMT) No. of bitstreams: 1
DissVRS.pdf: 1534933 bytes, checksum: 3be53a846076f3dcad8ef3bbed2d3e3c (MD5) / Approved for entry into archive by Ronildo Prado (ronisp@ufscar.br) on 2016-09-28T18:36:38Z (GMT) No. of bitstreams: 1
DissVRS.pdf: 1534933 bytes, checksum: 3be53a846076f3dcad8ef3bbed2d3e3c (MD5) / Made available in DSpace on 2016-09-28T18:43:48Z (GMT). No. of bitstreams: 1
DissVRS.pdf: 1534933 bytes, checksum: 3be53a846076f3dcad8ef3bbed2d3e3c (MD5)
Previous issue date: 2015-04-09 / Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES) / This work describes the steps for converting a linear paper-and-pencil English proficiency test
for academic purposes, composed with multiple choice items that are administered following the
admissible probability measurement procedure (Shuford Jr et al., 1966), adopted by the graduate
program of Institute of Mathematical Sciences and Computing of University of São Paulo (ICMCUSP),
Brazil, to a computerized adaptive test (CAT) based on an item response theory model
(IRT). Despite the Institute recognizes reliable international English-language exams for academic
purposes and non-native speakers, as TOEFL (Test of English as a Foreign Language), IELTS
(International English Language Testing System) and CPE (Cambridge English: Proficiency), for
instance, it is inconsistent that public universities in Brazil require them as certification because of
the cost of approximately US$ 200.00 to US$ 300.00 per exam. The software TAI-PI (computerized
adaptive test for English proficiency) was implemented in Java language, used SQLite as database
engine, and it shall be offered free of charge for English proficiency assessment of the graduate
students from October 2013. The statistical methodology employed for TAI-PI construction was
defined considering the history and the aims of the evaluation and adopted the Samejima's graded
response model (Samejima, 1969), the Kullback-Leibler information criterion for item selection, the
expected a posteriori Bayesian estimation for latent trait (Baker, 2001) and shadow test approach
(Van der Linden & Pashley, 2010) for test constraints (content and size of the test, for example). A
description of the test design, the employed statistical methods, study results of a real application
of TAI-PI to graduate students are presented in this work and the validation studies of the new
methodology for pass/fail classi cation, highlighting the good quality of the new evaluation system
and examination of improvement with the use of the methods of IRT and CAT. / Este trabalho descreve as etapas de transformação de um exame de proficiência em inglês acadêmico, aplicado via lápis-e-papel, com itens de múltipla escolha administrados segundo o método de Medida de Probabilidade
Admissível (Shuford Jr et al., 1966), utilizado no programa de pósgraduação do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), em um teste adaptativo informatizado (TAI-PI) baseado em um modelo da Teoria de Resposta ao Item (TRI). Apesar do programa aceitar diversos exames que atestam a proficiência em inglês para indivíduos não-nativos de abrangência e reconhecimento internacionais, como
o TOEFL (Test of English as a Foreign Language), IELTS (International English Language Testing
System) e CPE (Certificate of Proficiency in English), por exemplo, a sua obrigatoriedade é
incoerente em universidades públicas do Brasil devido ao custo que varia de 200 a 300 dólares por
exame. O software TAI-PI (Teste Adaptativo Informatizado para Proficiência em Inglês), que foi
desenvolvido em Java e SQLite, será utilizado para a avaliação da pro ciência em inglês dos alunos
do programa a partir do segundo semestre de 2013, de forma gratuita. A metodologia estatística
implementada foi definida considerando a história e objetivos do exame e adotou o modelo de resposta
gradual unidimensional de Samejima (Samejima, 1969), o critério de Kullback-Leibler para
seleção de itens, o método de estimação da esperança a posteriori para os traços latentes (Baker
, 2001) e a abordagem Shadow test (Van der Linden & Pashley, 2010) para imposição de restrições
(de conteúdo e tamanho da prova) na composição do teste de cada indivíduo. Uma descrição da
estrutura do exame, dos métodos empregados, dos resultados das aplicações do TAI-PI a alunos de
pós-graduação do ICMC e estudos de classificação dos alunos em aprovados e reprovados, são apresentados
neste trabalho, evidenciando a boa qualidade da nova proposta adotada e aprimoramento
do exame com a utilização dos métodos de TRI e TAI.
| Identifer | oai:union.ndltd.org:IBICT/oai:repositorio.ufscar.br:ufscar/7575 |
| Date | 09 April 2015 |
| Creators | Silva, Vanessa Rufino da |
| Contributors | Cúri, Mariana |
| Publisher | Universidade Federal de São Carlos, Câmpus São Carlos, Programa de Pós-graduação em Estatística, UFSCar |
| Source Sets | IBICT Brazilian ETDs |
| Language | Portuguese |
| Detected Language | English |
| Type | info:eu-repo/semantics/publishedVersion, info:eu-repo/semantics/masterThesis |
| Source | reponame:Repositório Institucional da UFSCAR, instname:Universidade Federal de São Carlos, instacron:UFSCAR |
| Rights | info:eu-repo/semantics/openAccess |
Page generated in 0.0114 seconds