Submitted by Maicon Juliano Schmidt (maicons) on 2015-06-09T17:46:58Z No. of bitstreams: 1 Henrique Manfron Seffrin_.pdf: 4996070 bytes, checksum: facf64690edf2c78dfd329c9ec67d18c (MD5) / Made available in DSpace on 2015-06-09T17:46:58Z (GMT). No. of bitstreams: 1 Henrique Manfron Seffrin_.pdf: 4996070 bytes, checksum: facf64690edf2c78dfd329c9ec67d18c (MD5) Previous issue date: 2015-02-20 / CAPES - Coordenação de Aperfeiçoamento de Pessoal de Nível Superior / CNPQ – Conselho Nacional de Desenvolvimento Científico e Tecnológico / Pesquisas têm mostrado que os alunos apresentam ganhos mais significativos de aprendizagem através do ensino individualizado, pois o professor pode se focar nas dificuldades de cada um. Por ser uma estratégia de custo elevado, os Sistemas Tutores Inteligentes (STI) oferecem uma alternativa mais viável. Esses sistemas, através de técnicas de Inteligência Artificial, são capazes de se adaptar às características de cada aluno, provendo assistência individualizada. Esta adaptação personalizada é fornecida pelo componente Modelo de Aluno, que é capaz de avaliar e mapear o conhecimento de cada estudante. Na literatura, são encontrados diversos trabalhos que lidam com a questão de avaliação de conhecimento do aluno, dentre os quais encontram-se alguns trabalhos relacionados ao domínio de álgebra. Estes trabalhos, geralmente, apresentam modelagens com redes Bayesianas, que são estruturas probabilísticas amplamente utilizadas por apresentarem resultados muito interessantes no que se refere à avaliação do conhecimento dos estudantes. No entanto, nestes trabalhos, estas estruturas relacionam apenas os conceitos algébricos, ou modelam relações entre operações algébricas, com suas principais propriedades e falsas concepções. Esses trabalhos não buscam definir as relações entre os conceitos algébricos e as respectivas operações, e como os primeiros podem estar interferindo, positivo ou negativamente, na aprendizagem dos segundos. Por exemplo, na álgebra, há conceitos chave, como incógnita e a igualdade entre os lados da equação, que interferem diretamente na compreensão de certas operações algébricas. Se um estudante não os compreende, dificilmente ele será capaz de aplicar corretamente as operações relacionadas em todas as situações. Desse modo, é desejável que os modelos de inferência sejam capazes de identificar se o estudante compreende tais conceitos. Além disso, outra limitação dos trabalhos relacionados de modelos de alunos voltados para a álgebra se refere a como eles tratam as evidências. Como estes trabalhos utilizam os itens de avaliação para isto, a cada novo exercício, é necessário inserir um novo nodo na rede, e estabelecer as relações com cada conceito abordado por este item. Isso torna o projeto da rede trabalhoso e dependente de cada exercício aplicado no STI. Nesse contexto, este trabalho propõe um modelo de aluno algébrico que além de inferir o conhecimento algébrico dos estudantes de conceitos (como incógnita, igualdades, operações inversas), habilidades (operações algébricas) e falsas concepções, busca definir as relações entre conceitos e habilidades. Como foco inicial deste trabalho serão utilizadas as equações de 1o grau. Para a inferência, será empregada a estrutura de Redes Bayesianas Dinâmicas (RBD), usando como evidência a operação aplicada pelo aluno em cada passo da resolução de uma equação. Nesta estrutura de RBD, cada time slice corresponde à resolução de um passo, o que torna o modelo proposto independente dos exercícios aplicados pelo STI. Dessa forma, o modelo de inferência proposto pode ser utilizado em qualquer equação algébrica, sem a necessidade de qualquer alteração na rede, como ocorre nos outros trabalhos relacionados. Visando verificar a capacidade de inferência desta rede, foram conduzidas avaliações. A partir dos históricos dos alunos, que utilizaram o PAT2Math, foram obtidas as evidências para a rede; e a partir dos dados dos pós-testes, realizados pelos mesmos alunos, formam obtidos os percentuais a serem comparados com a inferência da rede. Como os resultados não foram satisfatórios, empregou-se a regra do limiar, instanciando toda a variável que o ultrapassasse. Avaliada sob os limiares de 96% e 98%, a rede demostrou resultados mais precisos com o limiar de 96%, no qual as diferenças entre os resultados da rede e os percentuais dos pós-testes permaneceram, em sua maioria, em até 5%. / Students learn more through personalized instruction, because the teacher can focus on each learner. Being a impracticable strategy in terms of cost, Intelligent Tutoring Systems (ITS) offers a feasible alternative. By using Artificial Intelligence techniques, these systems are able to adapt themselves to the students, providing individualized instruction. Such adaptation is provided by the Student Model, which is able to assess and map the knowledge of each student. In the literature there are several studies that deal with knowledge evaluation in ITS, some of them are related to algebra. These studies present a Bayesian Network modeling, probabilistic structures that are widely used because of their interesting results concerning the evaluation of the student knowledge. However, in this studies, the network structure only models algebraic concepts, or only model a relationship between algebraic operations and its main properties and common misconceptions. These studies do not aim to represent the relationship between concepts and algebraic operations and how the former can be interfering, in a positive or negative way, on the learning of the second one. For example, in algebra, there are key concepts, such as the unknown and equality among sides of the equation, which directly interferes with the understanding of some algebraic operations. If a student does not understand these concepts, he would hardly be able to apply correctly the related operations in every situation. Thus, it is desirable that the inference model be able to identify if the student understands such concepts. In addition, another limitation of the related work of algebraic student models refers to how they deal with the evidence. As these studies use the assessment items for evidence, for each new exercise, it is necessary to insert a new node in the network, and establish relationships with each concept addressed by this item. This makes the network design laborious and dependent on each ITS exercise. In this context, this work proposes an algebraic student model that, in addition to infer the student knowledge of algebraic concepts (as unknown, equality, inverse operation), skills (algebraic operations) and common misconceptions, defines the relationship between concepts and skill. An initial focus of this study will be the 1st degree equations. For the inference model we use the Dynamic Bayesian Networks (DBN), in which the evidences are the operations applied by the student to solve each equation step. In this structure of DBN, each time slice corresponds to a resolution step, which makes the proposed model independent of the ITS exercises. Thus, the proposed inference model can be used in every algebraic equation, without need to make changes in the network, as occurs with other works.In order to verify the inference capacity of the network, evaluations were conducted. From the resolution history of the students, that interact with PAT2Math, the evidences for the network were obtained; and from the post-test data, solved by the same students, the percentages to compare with the results of the network were obtained. As the results aren’t very satisfactory, we applied the threshold rule, every variable that exceeded this value are instantiated. The network were evaluated under the threshold of 96% and 98%. The proposed DBN has shown more accurate inference with the 96% threshold, in which the differences between the results of the network and the percentages of the post-test remained mostly with ceiling of 5%.

Redes Bayesianas Dinâmicas (DBNs) são modelos capazes de representar um sistema dinâmico por meio de uma rede complexa que codifica as independências estatísticas condicionais entre os seus estados internos. Entre seus métodos de aprendizagem estrutural a partir de dados, o uso daqueles baseados em teoria de informação têm ganhado bastante espaço nos últimos anos, devido às suas vantages de serem livres de modelo e permitirem uma aprendizagem offline a partir de medidas em múltiplas repetições do experimento. No entanto, resta uma exploração dos paralelos entre a área de aprendizagem de DBNs e aquela interessada em realizar medidas de transferência de informação entre elementos de um sistema neural, principalmente por meio de transferência de entropia (TE). O presente trabalho busca, assim, aproximar estes dois focos de pesquisa, identificando suas equivalências e tratando de alguns dos desafios relacionados à sua implementação em identificação de sistemas neurais. Nota-se que uma das maiores dificuldades relacionadas ao uso de teoria de informação em sistemas multivariados concerne a alta dimensionalidade das funções de distribuição de probabilidade, exigindo grandes quantidades de dados observados simultaneamente. Não obstante, a aplicação de DBNs e transferência de entropia em sistemas de tempo contínuo também envolve considerações sobre a discretização dos sistemas no tempo, o que implica na necessidade de relaxamento da suposição da propriedade de Markov de primeira ordem (presente na definição de DBNs), e leva, assim, à proposta de redes Bayesianas dinâmicas de altas ordens (HO-DBNs). Além de realizar uma revisão das principais propostas para a solução destas dificuldades, o trabalho primeiramente propõe que, sob a suposição de um sistema com elementos se comportando de forma igual, os valores das medidas baseadas em teoria de informação com baixa dimensionalidade podem ser utilizados para a aprendizagem de estruturas de rede. Isso é mostrado a partir do uso de informação mútua par a par para a aprendizagem de redes Bayesianas simuladas com distribuições de probabilidade condicional fixas. No que concerne o uso de HO-DBNs, também se propõe um algoritmo baseado em otimização por enxame de partículas (PSO) para percorrer o espaço de busca de estruturas de HO-DBNs de forma mais eficiente. Em seguida, duas aplicações de modelagem de DBNs com uso de teoria de informação são exploradas na área de sistemas neurais, tendo em vista a obtenção de conhecimento acerca de conectividade funcional e até uma aplicação futura em engenharia bioinspirada. Os desafios apresentados anteriormente são, assim, exemplificados, junto com algumas propostas de solução. A primeira área diz respeito à elicitação de conectividade funcional entre as sub-áreas do hipocampo, no cérebro humano, a partir de dados de ressonância magnética funcional (fMRI) de alta resolução. A partir de uma análise seed-to-voxel em grupo, regiões de interesse (ROIs) são identificadas e um modelo inicial de DBN é proposto, que é coerente com alguns estudos já feitos na literatura. A segunda área de aplicação concerne a conectividade neural do sistema neuromotor do gafanhoto, a partir de gravações intracelulares de potencial sináptico em neurônios sensores, motores e interneurônios, sob estimulação com um fórceps no órgão femoral cordotonal (FeCO). Embora um modelo completo de DBN ainda não seja possível devido à ausência de gravações simultâneas suficientes, os atrasos de transferência de entropia entre o estímulo e a resposta nos neurônios motores são obtidos e integrados a partir de uma análise Bayesiana, dado também um pré-processamento com análise de espectro singular (SSA) que, ao remover a não-estacionariedade do sinal (que se deve a fatores extrínsecos ao sistema), aumentou consideravelmente a quantidade de amostras disponíveis. Tais resultados, ao ajudar a reduzir o espaço de busca de DBNs, também servem para direcionar futuros experimentos e pesquisas na área. / Dynamic Bayesian Networks (DBNs) are models capable of representing a dynamical system by means of a complex network which codifies statistical conditional independencies between their internal states. Among their strucutural learning methods based on data, the use of ones based on information theory are gaining ground in recent years, due to their advantages of being model-free and permitting offline learning from multiple repetitions of an experiment. However, there still remains an exploration of the parallels between the areas of DBN structure learning and those interested in obtaining measures of information transfer between elements of neural systems, mainly through transfer entropy (TE). Thus, the current work seeks to approximate these two foci of research by identifying some of their equivalences and challenges related to their usage in neural systems identification. It is noted that one of the main difficulties related to the use of information theory in multivariate neural systems concerns the high dimensionality of the probability distribution functions, requiring thus great quantities of data observed simultaneously. Furthermore, the application of DBNs and transfer entropy on continuous time systems also involves considerations about their discretization on time, which implies the necessity of relaxing the first order Markov property (instrinsinc to the definition of DBNs), and thus leads to the proposal of high-order dynamic Bayesian networks (HO-DBNs). Besides performing a review on the main proposals for solving these difficulties, this work first proposes that, under the supposition of a system with elements behaving in a similar way, the values of information theory based measures with low dimensions can be employed for learning network structures. This is shown with the use of pairwise mutual information for learning simulated Bayesian networks with fixed conditional probability distributions. And concerning the use of HO-DBNs, an algorithm based on PSO is proposed in order to pass through their search space more efficiently. Next, two applications of DBN modeling with information theory are explored in the field of neural systems, in view of obtaining knowledge about functional connectivity and even of a future application of bioinspired engineering. The challenged presented earlier are then exemplified along with some proposals of solutions. The first field regards the elicitation of functional connectivity between hippocampal subfields on the human brain based of high resolution fMRI data. Starting from a seed-to-voxel group analysis, regions of interest (ROIs) are identified and an initial DBN model is proposed, which is coherent with some studies already conducted in the literature. The second field of application concerns the neural connectivity between the neuromotor system of the locust, based on intracellular synaptic potential recordings on sensory neurons, interneurons and motor neurons under stimulation by a forceps in the femoral chordotonal organ (FeCO). Although a complete DBN model is still not possible due to the absence of sufficient and simultaneous recordings, the transfer entropy delays between stimulus and responses on the motor neuros are obtained and integrated by a Bayesian analysis, given also a pre-processing based on Singular Spectrum Analysis (SSA) which, by removing the nonstationarity characteristics of the signal (which are due to extrinsic factors on the system), considerably increased the number of available samples for learning. Such results, by helping to reduce the search space of DBNs, also direct further experiments and studies on this field.

Redes Bayesianas Dinâmicas (DBNs) são modelos capazes de representar um sistema dinâmico por meio de uma rede complexa que codifica as independências estatísticas condicionais entre os seus estados internos. Entre seus métodos de aprendizagem estrutural a partir de dados, o uso daqueles baseados em teoria de informação têm ganhado bastante espaço nos últimos anos, devido às suas vantages de serem livres de modelo e permitirem uma aprendizagem offline a partir de medidas em múltiplas repetições do experimento. No entanto, resta uma exploração dos paralelos entre a área de aprendizagem de DBNs e aquela interessada em realizar medidas de transferência de informação entre elementos de um sistema neural, principalmente por meio de transferência de entropia (TE). O presente trabalho busca, assim, aproximar estes dois focos de pesquisa, identificando suas equivalências e tratando de alguns dos desafios relacionados à sua implementação em identificação de sistemas neurais. Nota-se que uma das maiores dificuldades relacionadas ao uso de teoria de informação em sistemas multivariados concerne a alta dimensionalidade das funções de distribuição de probabilidade, exigindo grandes quantidades de dados observados simultaneamente. Não obstante, a aplicação de DBNs e transferência de entropia em sistemas de tempo contínuo também envolve considerações sobre a discretização dos sistemas no tempo, o que implica na necessidade de relaxamento da suposição da propriedade de Markov de primeira ordem (presente na definição de DBNs), e leva, assim, à proposta de redes Bayesianas dinâmicas de altas ordens (HO-DBNs). Além de realizar uma revisão das principais propostas para a solução destas dificuldades, o trabalho primeiramente propõe que, sob a suposição de um sistema com elementos se comportando de forma igual, os valores das medidas baseadas em teoria de informação com baixa dimensionalidade podem ser utilizados para a aprendizagem de estruturas de rede. Isso é mostrado a partir do uso de informação mútua par a par para a aprendizagem de redes Bayesianas simuladas com distribuições de probabilidade condicional fixas. No que concerne o uso de HO-DBNs, também se propõe um algoritmo baseado em otimização por enxame de partículas (PSO) para percorrer o espaço de busca de estruturas de HO-DBNs de forma mais eficiente. Em seguida, duas aplicações de modelagem de DBNs com uso de teoria de informação são exploradas na área de sistemas neurais, tendo em vista a obtenção de conhecimento acerca de conectividade funcional e até uma aplicação futura em engenharia bioinspirada. Os desafios apresentados anteriormente são, assim, exemplificados, junto com algumas propostas de solução. A primeira área diz respeito à elicitação de conectividade funcional entre as sub-áreas do hipocampo, no cérebro humano, a partir de dados de ressonância magnética funcional (fMRI) de alta resolução. A partir de uma análise seed-to-voxel em grupo, regiões de interesse (ROIs) são identificadas e um modelo inicial de DBN é proposto, que é coerente com alguns estudos já feitos na literatura. A segunda área de aplicação concerne a conectividade neural do sistema neuromotor do gafanhoto, a partir de gravações intracelulares de potencial sináptico em neurônios sensores, motores e interneurônios, sob estimulação com um fórceps no órgão femoral cordotonal (FeCO). Embora um modelo completo de DBN ainda não seja possível devido à ausência de gravações simultâneas suficientes, os atrasos de transferência de entropia entre o estímulo e a resposta nos neurônios motores são obtidos e integrados a partir de uma análise Bayesiana, dado também um pré-processamento com análise de espectro singular (SSA) que, ao remover a não-estacionariedade do sinal (que se deve a fatores extrínsecos ao sistema), aumentou consideravelmente a quantidade de amostras disponíveis. Tais resultados, ao ajudar a reduzir o espaço de busca de DBNs, também servem para direcionar futuros experimentos e pesquisas na área. / Dynamic Bayesian Networks (DBNs) are models capable of representing a dynamical system by means of a complex network which codifies statistical conditional independencies between their internal states. Among their strucutural learning methods based on data, the use of ones based on information theory are gaining ground in recent years, due to their advantages of being model-free and permitting offline learning from multiple repetitions of an experiment. However, there still remains an exploration of the parallels between the areas of DBN structure learning and those interested in obtaining measures of information transfer between elements of neural systems, mainly through transfer entropy (TE). Thus, the current work seeks to approximate these two foci of research by identifying some of their equivalences and challenges related to their usage in neural systems identification. It is noted that one of the main difficulties related to the use of information theory in multivariate neural systems concerns the high dimensionality of the probability distribution functions, requiring thus great quantities of data observed simultaneously. Furthermore, the application of DBNs and transfer entropy on continuous time systems also involves considerations about their discretization on time, which implies the necessity of relaxing the first order Markov property (instrinsinc to the definition of DBNs), and thus leads to the proposal of high-order dynamic Bayesian networks (HO-DBNs). Besides performing a review on the main proposals for solving these difficulties, this work first proposes that, under the supposition of a system with elements behaving in a similar way, the values of information theory based measures with low dimensions can be employed for learning network structures. This is shown with the use of pairwise mutual information for learning simulated Bayesian networks with fixed conditional probability distributions. And concerning the use of HO-DBNs, an algorithm based on PSO is proposed in order to pass through their search space more efficiently. Next, two applications of DBN modeling with information theory are explored in the field of neural systems, in view of obtaining knowledge about functional connectivity and even of a future application of bioinspired engineering. The challenged presented earlier are then exemplified along with some proposals of solutions. The first field regards the elicitation of functional connectivity between hippocampal subfields on the human brain based of high resolution fMRI data. Starting from a seed-to-voxel group analysis, regions of interest (ROIs) are identified and an initial DBN model is proposed, which is coherent with some studies already conducted in the literature. The second field of application concerns the neural connectivity between the neuromotor system of the locust, based on intracellular synaptic potential recordings on sensory neurons, interneurons and motor neurons under stimulation by a forceps in the femoral chordotonal organ (FeCO). Although a complete DBN model is still not possible due to the absence of sufficient and simultaneous recordings, the transfer entropy delays between stimulus and responses on the motor neuros are obtained and integrated by a Bayesian analysis, given also a pre-processing based on Singular Spectrum Analysis (SSA) which, by removing the nonstationarity characteristics of the signal (which are due to extrinsic factors on the system), considerably increased the number of available samples for learning. Such results, by helping to reduce the search space of DBNs, also direct further experiments and studies on this field.