A extração de Interações Proteína-Proteína (IPPs) a partir de texto é um problema relevante na área biomédica e um desafio na área de aprendizado de máquina. Na área biomédica, as IPPs são fundamentais para compreender o funcionamento dos seres vivos. No entanto, o número de artigos relacionados com IPPs está aumentando rapidamente, sendo impraticável identicá-las e catalogá-las manualmente. Por exemplo, no caso das IPPs humanas apenas 10% foram catalogadas. Por outro lado, em aprendizado de máquina, métodos baseados em kernels são frequentemente empregados para extrair automaticamente IPPs, atingindo resultados considerados estado da arte. Esses métodos usam informações léxicas, sintáticas ou semânticas como características. Entretanto, os resultados ainda são insuficientes, atingindo uma taxa relativamente baixa, em termos da medida F, devido à complexidade do problema. Apesar dos esforços em produzir kernels, cada vez mais sofisticados, usando árvores sintáticas como árvores constituintes ou de dependência, pouco é conhecido sobre o desempenho de outras abordagens de aprendizado de máquina como, por exemplo, as redes bayesianas. As àrvores constituintes são estruturas de grafos que contêm informação importante da gramática subjacente as sentenças de textos contendo IPPs. Por outro lado, a rede bayesiana permite modelar algumas regras da gramática e atribuir para elas uma distribuição de probabilidade de acordo com as sentenças de treinamento. Neste trabalho de mestrado propõe-se um método para construção automática de redes bayesianas a partir de árvores contituintes para extração de IPPs. O método foi testado em cinco corpora padrões da extração de IPPs, atingindo resultados competitivos, em alguns casos melhores, em comparação a métodos do estado da arte / Extracting Protein-Protein Interactions (PPIs) from text is a relevant problem in the biomedical field and a challenge in the area of machine learning. In the biomedical field, the PPIs are fundamental to understand the functioning of living organisms. However, the number of articles related to PPIs is increasing rapidly, hence it is impractical to identify and catalog them manually. For example, in the case of human PPIs only 10 % have been cataloged. On the other hand, machine learning methods based on kernels are often employed to automatically extract PPIs, achieving state of the art results. These methods use lexical, syntactic and semantic information as features. However, the results are still poor, reaching a relatively low rate of F-measure due to the complexity of the problem. Despite efforts to produce sophisticate kernels, using syntactic trees as constituent or dependency trees, little is known about the performance of other Machine Learning approaches, eg, Bayesian networks. Constituent tree structures are graphs which contain important information of the underlying grammar in sentences containing PPIs. On the other hand, the Bayesian network allows modeling some rules of grammar and assign to them a probability distribution according to the training sentences. In this master thesis we propose a method for automatic construction of Bayesian networks from constituent trees for extracting PPIs. The method was tested in five corpora, considered benchmark of extraction of PPI, achieving competitive results, and in some cases better results when compared to state of the art methods

Nesta tese são apresentados um novo modelo estatístico para cálculo de probabilidade de paternidade e sua implementação em software. O modelo proposto utiliza o genótipo como informação básica, em contraste com outros modelos que usam alelos. Por esta diferença, o modelo proposto resulta mais abrangente, mas que, sob certas restrições, reproduz os resultados dos modelos que usam alelos. Este modelo foi implementado em um software que recebe descrições da genealogia e dos marcadores em uma linguagem dedicada a isso e constrói uma rede bayesiana para cada marcador. O usuário pode definir livremente a genealogia e os marcadores. O cálculo da probabilidade de paternidade é feito, sobre as redes construídas, por um software para inferência em redes bayesianas e a probabilidade de paternidade combinada considerando todos os marcadores é calculada, resultando em um \"índice de paternidade. / This thesis presents a novel statistical model for calculation of the probability of paternity and its implementation as a software. The proposed model uses genotype as basic information. Other models use alleles as basic information. As a result the proposed model is broader, in the sense that, under certain constraints the results from the other models are reproduced. The software implementation receives pedigree and markers data, in a specifically designed language, as input and builds one bayesian network for each marker. The user can freely define any pedigree and any marker. Paternity probabilities for each locus are calculated, from the built networks, by a software for inference on Bayesian Networks and these probabilities are combined into a single \"paternity index\".

A motivação para este trabalho originou-se da atual tendência do Gás Natural Liquefeito (GNL) se tornar uma importante opção para a diversificação da matriz energética brasileira. Atualmente, os terminais de gás natural liquefeito (GNL) são na maioria estruturas onshore, a construção destes terminais é custosa e muitos investimentos são necessários para atender as legislações ambientais e de segurança. Além disso, um acidente em uma destas instalações poderá produzir um grande impacto em áreas adjacentes. Sob esta perspectiva, surge uma nova proposta: uma unidade flutuante de armazenagem e regaseificação de gás natural liquefeito (FSRU - Floating Storage and Regasification Unit), o qual é uma unidade offshore e que pode trabalhar a quilômetros de distância da costa. O objetivo desta pesquisa é desenvolver uma metodologia de análise de Confiabilidade com o uso de Redes Bayesianas (RB) e aplicá-la na análise do sistema de Regaseificação do FSRU. O uso de RB, entre outras vantagens, permite a representação de incertezas no modelo e de dependências condicionais o que não é possível com as técnicas tradicionais, como por exemplo, as árvores de falhas e de eventos. Como resultado do trabalho, além da apresentação da metodologia a ser desenvolvida, serão identificados os pontos críticos do sistema contribuindo para o desenvolvimento de um plano de manutenção que assegure uma boa operabilidade do sistema com níveis razoáveis de dependabilidade. / The motivation for this research is the propensity of the Liquefied Natural Gas (LNG) becomes an important source of energy. Nowadays, LNG Import Terminals are mostly onshore; the construction of these terminals is costly and many adaptations are necessary to abide by environmental and safety laws. Moreover, an accident in one of these plants might produce considerable impact in neighboring areas. Under this perspective, a new option arises: a vessel known as FSRU (Floating Storage and Regasification Unit), which is an offshore unit, that can work miles away from de coast. The goal is to develop a Bayesian Network Reliability Modeling, which will show a preview of FSRUs Regasification System behavior. Using BN is possible to represent uncertain knowledge and local conditional dependencies. The results intend to clarify the critical equipment of the system and might improve the development of an effective maintenance plan, which can provide good operability with reasonable dependability levels.

Redes Bayesianas Dinâmicas (DBNs) são modelos capazes de representar um sistema dinâmico por meio de uma rede complexa que codifica as independências estatísticas condicionais entre os seus estados internos. Entre seus métodos de aprendizagem estrutural a partir de dados, o uso daqueles baseados em teoria de informação têm ganhado bastante espaço nos últimos anos, devido às suas vantages de serem livres de modelo e permitirem uma aprendizagem offline a partir de medidas em múltiplas repetições do experimento. No entanto, resta uma exploração dos paralelos entre a área de aprendizagem de DBNs e aquela interessada em realizar medidas de transferência de informação entre elementos de um sistema neural, principalmente por meio de transferência de entropia (TE). O presente trabalho busca, assim, aproximar estes dois focos de pesquisa, identificando suas equivalências e tratando de alguns dos desafios relacionados à sua implementação em identificação de sistemas neurais. Nota-se que uma das maiores dificuldades relacionadas ao uso de teoria de informação em sistemas multivariados concerne a alta dimensionalidade das funções de distribuição de probabilidade, exigindo grandes quantidades de dados observados simultaneamente. Não obstante, a aplicação de DBNs e transferência de entropia em sistemas de tempo contínuo também envolve considerações sobre a discretização dos sistemas no tempo, o que implica na necessidade de relaxamento da suposição da propriedade de Markov de primeira ordem (presente na definição de DBNs), e leva, assim, à proposta de redes Bayesianas dinâmicas de altas ordens (HO-DBNs). Além de realizar uma revisão das principais propostas para a solução destas dificuldades, o trabalho primeiramente propõe que, sob a suposição de um sistema com elementos se comportando de forma igual, os valores das medidas baseadas em teoria de informação com baixa dimensionalidade podem ser utilizados para a aprendizagem de estruturas de rede. Isso é mostrado a partir do uso de informação mútua par a par para a aprendizagem de redes Bayesianas simuladas com distribuições de probabilidade condicional fixas. No que concerne o uso de HO-DBNs, também se propõe um algoritmo baseado em otimização por enxame de partículas (PSO) para percorrer o espaço de busca de estruturas de HO-DBNs de forma mais eficiente. Em seguida, duas aplicações de modelagem de DBNs com uso de teoria de informação são exploradas na área de sistemas neurais, tendo em vista a obtenção de conhecimento acerca de conectividade funcional e até uma aplicação futura em engenharia bioinspirada. Os desafios apresentados anteriormente são, assim, exemplificados, junto com algumas propostas de solução. A primeira área diz respeito à elicitação de conectividade funcional entre as sub-áreas do hipocampo, no cérebro humano, a partir de dados de ressonância magnética funcional (fMRI) de alta resolução. A partir de uma análise seed-to-voxel em grupo, regiões de interesse (ROIs) são identificadas e um modelo inicial de DBN é proposto, que é coerente com alguns estudos já feitos na literatura. A segunda área de aplicação concerne a conectividade neural do sistema neuromotor do gafanhoto, a partir de gravações intracelulares de potencial sináptico em neurônios sensores, motores e interneurônios, sob estimulação com um fórceps no órgão femoral cordotonal (FeCO). Embora um modelo completo de DBN ainda não seja possível devido à ausência de gravações simultâneas suficientes, os atrasos de transferência de entropia entre o estímulo e a resposta nos neurônios motores são obtidos e integrados a partir de uma análise Bayesiana, dado também um pré-processamento com análise de espectro singular (SSA) que, ao remover a não-estacionariedade do sinal (que se deve a fatores extrínsecos ao sistema), aumentou consideravelmente a quantidade de amostras disponíveis. Tais resultados, ao ajudar a reduzir o espaço de busca de DBNs, também servem para direcionar futuros experimentos e pesquisas na área. / Dynamic Bayesian Networks (DBNs) are models capable of representing a dynamical system by means of a complex network which codifies statistical conditional independencies between their internal states. Among their strucutural learning methods based on data, the use of ones based on information theory are gaining ground in recent years, due to their advantages of being model-free and permitting offline learning from multiple repetitions of an experiment. However, there still remains an exploration of the parallels between the areas of DBN structure learning and those interested in obtaining measures of information transfer between elements of neural systems, mainly through transfer entropy (TE). Thus, the current work seeks to approximate these two foci of research by identifying some of their equivalences and challenges related to their usage in neural systems identification. It is noted that one of the main difficulties related to the use of information theory in multivariate neural systems concerns the high dimensionality of the probability distribution functions, requiring thus great quantities of data observed simultaneously. Furthermore, the application of DBNs and transfer entropy on continuous time systems also involves considerations about their discretization on time, which implies the necessity of relaxing the first order Markov property (instrinsinc to the definition of DBNs), and thus leads to the proposal of high-order dynamic Bayesian networks (HO-DBNs). Besides performing a review on the main proposals for solving these difficulties, this work first proposes that, under the supposition of a system with elements behaving in a similar way, the values of information theory based measures with low dimensions can be employed for learning network structures. This is shown with the use of pairwise mutual information for learning simulated Bayesian networks with fixed conditional probability distributions. And concerning the use of HO-DBNs, an algorithm based on PSO is proposed in order to pass through their search space more efficiently. Next, two applications of DBN modeling with information theory are explored in the field of neural systems, in view of obtaining knowledge about functional connectivity and even of a future application of bioinspired engineering. The challenged presented earlier are then exemplified along with some proposals of solutions. The first field regards the elicitation of functional connectivity between hippocampal subfields on the human brain based of high resolution fMRI data. Starting from a seed-to-voxel group analysis, regions of interest (ROIs) are identified and an initial DBN model is proposed, which is coherent with some studies already conducted in the literature. The second field of application concerns the neural connectivity between the neuromotor system of the locust, based on intracellular synaptic potential recordings on sensory neurons, interneurons and motor neurons under stimulation by a forceps in the femoral chordotonal organ (FeCO). Although a complete DBN model is still not possible due to the absence of sufficient and simultaneous recordings, the transfer entropy delays between stimulus and responses on the motor neuros are obtained and integrated by a Bayesian analysis, given also a pre-processing based on Singular Spectrum Analysis (SSA) which, by removing the nonstationarity characteristics of the signal (which are due to extrinsic factors on the system), considerably increased the number of available samples for learning. Such results, by helping to reduce the search space of DBNs, also direct further experiments and studies on this field.

Este trabalho propõe uma nova abordagem conexionista, chamada de IGMN (do inglês Incremental Gaussian Mixture Network), para aproximação incremental de funções e tarefas de tempo real. Ela é inspirada em recentes teorias do cérebro, especialmente o MPF (do inglês Memory-Prediction Framework) e a Inteligência Artificial Construtivista, que fazem com que o modelo proposto possua características especiais que não estão presentes na maioria dos modelos de redes neurais existentes. Além disso, IGMN é baseado em sólidos princípios estatísticos (modelos de mistura gaussianos) e assintoticamente converge para a superfície de regressão ótima a medida que os dados de treinamento chegam. As principais vantagens do IGMN em relação a outros modelos de redes neurais são: (i) IGMN aprende instantaneamente analisando cada padrão de treinamento apenas uma vez (cada dado pode ser imediatamente utilizado e descartado); (ii) o modelo proposto produz estimativas razoáveis baseado em poucos dados de treinamento; (iii) IGMN aprende de forma contínua e perpétua a medida que novos dados de treinamento chegam (não existem fases separadas de treinamento e utilização); (iv) o modelo proposto resolve o dilema da estabilidade-plasticidade e não sofre de interferência catastrófica; (v) a topologia da rede neural é definida automaticamente e de forma incremental (novas unidades são adicionadas sempre que necessário); (vi) IGMN não é sensível às condições de inicialização (de fato IGMN não utiliza nenhuma decisão e/ou inicialização aleatória); (vii) a mesma rede neural IGMN pode ser utilizada em problemas diretos e inversos (o fluxo de informações é bidirecional) mesmo em regiões onde a função alvo tem múltiplas soluções; e (viii) IGMN fornece o nível de confiança de suas estimativas. Outra contribuição relevante desta tese é o uso do IGMN em importantes tarefas nas áreas de robótica e aprendizado de máquina, como por exemplo a identificação de modelos, a formação incremental de conceitos, o aprendizado por reforço, o mapeamento robótico e previsão de séries temporais. De fato, o poder de representação e a eficiência e do modelo proposto permitem expandir o conjunto de tarefas nas quais as redes neurais podem ser utilizadas, abrindo assim novas direções nos quais importantes contribuições do estado da arte podem ser feitas. Através de diversos experimentos, realizados utilizando o modelo proposto, é demonstrado que o IGMN é bastante robusto ao problema de overfitting, não requer um ajuste fino dos parâmetros de configuração e possui uma boa performance computacional que permite o seu uso em aplicações de controle em tempo real. Portanto pode-se afirmar que o IGMN é uma ferramenta de aprendizado de máquina bastante útil em tarefas de aprendizado incremental de funções e predição em tempo real. / This work proposes IGMN (standing for Incremental Gaussian Mixture Network), a new connectionist approach for incremental function approximation and real time tasks. It is inspired on recent theories about the brain, specially the Memory-Prediction Framework and the Constructivist Artificial Intelligence, which endows it with some unique features that are not present in most ANN models such as MLP, RBF and GRNN. Moreover, IGMN is based on strong statistical principles (Gaussian mixture models) and asymptotically converges to the optimal regression surface as more training data arrive. The main advantages of IGMN over other ANN models are: (i) IGMN learns incrementally using a single scan over the training data (each training pattern can be immediately used and discarded); (ii) it can produce reasonable estimates based on few training data; (iii) the learning process can proceed perpetually as new training data arrive (there is no separate phases for leaning and recalling); (iv) IGMN can handle the stability-plasticity dilemma and does not suffer from catastrophic interference; (v) the neural network topology is defined automatically and incrementally (new units added whenever is necessary); (vi) IGMN is not sensible to initialization conditions (in fact there is no random initialization/ decision in IGMN); (vii) the same neural network can be used to solve both forward and inverse problems (the information flow is bidirectional) even in regions where the target data are multi-valued; and (viii) IGMN can provide the confidence levels of its estimates. Another relevant contribution of this thesis is the use of IGMN in some important state-of-the-art machine learning and robotic tasks such as model identification, incremental concept formation, reinforcement learning, robotic mapping and time series prediction. In fact, the efficiency of IGMN and its representational power expand the set of potential tasks in which the neural networks can be applied, thus opening new research directions in which important contributions can be made. Through several experiments using the proposed model it is demonstrated that IGMN is also robust to overfitting, does not require fine-tunning of its configuration parameters and has a very good computational performance, thus allowing its use in real time control applications. Therefore, IGMN is a very useful machine learning tool for incremental function approximation and on-line prediction.

Esta tese apresenta mecanismos computacionais concebidos para reconhecer e inferir estados de ânimo de alunos em interação num ambiente virtual de aprendizagem (AVA). A pesquisa, tendo por base investigações interdisciplinar – Educação, Psicologia Cognitiva e Computação Afetiva (CA) –, apresenta, a título de problema central, o de como alcançar tais objetivos. A Psicogenética Construtivista, base teórica que fundamenta o exame dos aspectos afetivos envolvidos nos processos de aprendizagem, responde pela concepção epistemológica interacionista do AVA ROODA, ambiente de aplicação da pesquisa. A dimensão afetiva é examinada sob a perspectiva cognitivista associada à teoria de appraisal, em especial no que diz respeito ao modelo de Scherer, que tem por finalidade distinguir os diferentes fenômenos afetivos. No que tange à CA, área em torno da qual vêm sendo desenvolvidos estudos que buscam inferir, avaliar e tomar decisões sobre o estado cognitivo-afetivo do aluno, dois aspectos são considerados. De um lado, a análise de como se processa a interação do aluno com o sistema em função de sinais obtidos do comportamento observável no ambiente. De outro, como proceder ao reconhecimento da subjetividade a partir de materiais textuais. Projetos experimentais de CA vêm evidenciando o quanto, no âmbito cognitivo, o reconhecimento da afetividade assume novos contornos. A hipótese de estudo, a de que os estados de ânimo de um aluno podem ser reconhecidos em AVA através de um modelo computacional que inter-relacione fatores de personalidade e de comportamento, pôde ser confirmada, para isso concorrendo o emprego da técnica de redes bayesianas. A opção pelo fenômeno afetivo estado de ânimo, embasada na revisão da literatura, justifica-se por constituir um dos aspectos afetivos mais representativos no ambiente escolar, com respeito ao qual cumpre considerar duas classes de estados de ânimo: animação e satisfação. A Roda dos Estados Afetivos é o espaço de representação para o mapeamento de ambas as classes. Tendo em conta a interdisciplinaridade da pesquisa, e no intuito de identificar os estados de ânimo nas interações de alunos em AVA, construiu-se uma nova funcionalidade para o AVA ROODA, denominada ROODAafeto. Identificar os estados de ânimo em AVA significa ampliar o leque de comunicação professor-aluno, de modo a que não somente os aspectos cognitivos, mas também os afetivos sejam considerados. Em síntese, através dessa funcionalidade, pretende-se proporcionar meios, a partir dos quais seja possível obter informações associadas à vivência afetiva do aluno, notadamente em relação ao ensino não presencial. / This dissertation presents computing mechanisms conceived in order to get to know and infer students’ mood states when interacting in a virtual learning environment (VLE). The research, based on interdisciplinary studies – Education, Cognitive Psychology, and Affective Computing (AC) –, presents, as its main research problem, the aim of reaching such objectives. Constructivist psychogenetics, theoretical foundation for the examination of affective aspects involved in learning processes, is responsible for the interactionist epistemological conception of the ROODA VLE, the application environment for the research. The affective dimension is examined under the cognitive perspective associated to the appraisal theory, mainly regarding Scherer’s model, which aims to distinguish the different affective phenomena. Concerning AC, area that comprises studies developed in order to infer, assess, and take decisions about the student’s affective-cognitive status, two aspects are considered. On the one hand, the analysis of how the interaction of the student with the system is processed was carried out, based on signals obtained from the observable behavior in the environment. On the other hand, it was analyzed how to proceed when recognizing the subjectivity from textual materials. AC experimental projects have evidenced how much, in the cognitive sphere, the recognition of affectivity assumes new forms. The study hypothesis that a student’s mood state can be recognized in a VLE by means of a computing model that inter-relates personality and behavior factors could be confirmed, and for this purpose a Bayesian network technique was used. The option for the affective phenomena mood state, based on the literature review, is justified by the fact that it is one of the most representative affective aspects in the educational environment. With this regard, two types of mood states are considered: being interested and being satisfied. Wheel of Afffective States is the space of representation for the mapping of both types. Considering the interdisciplinarity of the research, and with the purpose of identifying the mood states in the students' interactions in a VLE, a new functionality for the ROODA VLE, called ROODAafeto was developed. Identifying mood states in VLE means to amplify the possibility of teacher-student communication so that affective aspects are also considered besides cognitive aspects. In short, the use of this functionality aims to provide means to obtain information associated with the student’s affective experience, mainly in relation to non-presential education. / Esta tesis presenta mecanismos computacionales diseñados para reconocer e inferir los estados de ánimo de los estudiantes en la interacción en un entorno virtual de aprendizaje (AVA). La investigación, basada en estudio interdisciplinar - Educación, Psicología Cognitiva y Computación Afectiva (CA) - presenta, como problema central, de qué modo alcanzar estos objetivos. La Psicogenética Constructivista, base teórica que se basa en el examen de los aspectos afectivos implicados en los procesos de aprendizaje, responde por la concepción epistemológica interaccionista de AVA ROODA, ambiente de ejecución de la investigación. La dimensión afectiva es examinada desde la perspectiva cognitivista asociada con la teoría de appraisal, en particular en lo que respecta al modelo de Scherer, que tiene por finalidad distinguir los diferentes fenómenos afectivos. Desde el punto de vista de la CA, la zona en torno a los cuales se han desarrollado estudios que buscan inferir, evaluar y tomar decisiones acerca del estado cognitivo-afectivo del alumno, se consideran dos aspectos. Por un lado, el análisis de cómo se procesa la interacción del alumno con el sistema en función de las señales obtenidas del comportamiento observado en el ambiente. Por otra parte, como proceder al reconocimiento de la subjetividad desde los materiales textuales. Proyectos experimentales en CA han confirmando cuanto, en la magnitud cognitiva, el reconocimiento de la afectividad asume nuevos contornos. La hipótesis del estudio, en la que los estados de ánimo de un alumno puede ser reconocida en AVA mediante un modelo computacional que interrelacione factores de la personalidad y del comportamiento, se pudo confirmar, para tanto concurriendo el empleo de la técnica de redes bayesianas. La elección por el fenómeno afectivo estado de ánimo, embasada en la revisión de la literatura, se justifica por constituir uno de los aspectos afectivos más representativos en el entorno escolar, por lo que respecta considerar dos clases de estados de ánimo: animación y satisfacción. El Círculo de los Estados Afectivos es el espacio de representación para el mapeo de ambas clases. Teniendo en cuenta la interdisciplinariedad de la investigación, y el objetivo de identificar los estados de ánimo en las interacciones de los alumnos en AVA, se construyo una nueva funcionalidad para AVA ROODA, llamada ROODAafeto. Identificar los estados de ánimo en AVA significa una ampliación del rango de comunicación profesor-alumno, de modo que no sólo los aspectos cognitivos, sino también los afectivos se tienen en cuenta. En resumen, por medio de esta funcionalidad, se intenta proporcionar los medios, a partir de los cuales sea posible obtener información relacionada con la experiencia afectiva de los alumnos, especialmente en relación con la enseñanza no presencial.

Made available in DSpace on 2010-04-20T20:56:57Z (GMT). No. of bitstreams: 4 Ernesto_Colla.pdf.jpg: 21014 bytes, checksum: 4f059b37f39662752479b4c41e7d0ccd (MD5) Ernesto_Colla.pdf.txt: 293178 bytes, checksum: bbca88752988b32a6da9e503e9fbe5cf (MD5) license.txt: 4810 bytes, checksum: 4ca799e651215ccf5ee1c07a835ee897 (MD5) Ernesto_Colla.pdf: 1784465 bytes, checksum: 7c45a00d36db536ce2c8e1eff4a23b6b (MD5) Previous issue date: 2009-06-29T00:00:00Z / We develop a probabilistic model using Machine Learning tools to classify the trend of the Brazilian country risk expressed EMBI+ (Emerging Markets Bond Index Plus). The main goal is verify if Machine Learning is useful to build economic models which could be used as reasoning tools under uncertainty. Specifically we use Bayesian Networks to perform pattern recognition in observed macroeconomics and financial data. The results are promising. We get the main expected theoretical relationship between country risk and economic variables, as well as international economic context and market expectations. / O objetivo deste trabalho é testar a aplicação de um modelo gráfico probabilístico, denominado genericamente de Redes Bayesianas, para desenvolver modelos computacionais que possam ser utilizados para auxiliar a compreensão de problemas e/ou na previsão de variáveis de natureza econômica. Com este propósito, escolheu-se um problema amplamente abordado na literatura e comparou-se os resultados teóricos e experimentais já consolidados com os obtidos utilizando a técnica proposta. Para tanto,foi construído um modelo para a classificação da tendência do 'risco país' para o Brasil a partir de uma base de dados composta por variáveis macroeconômicas e financeiras. Como medida do risco adotou-se o EMBI+ (Emerging Markets Bond Index Plus), por ser um indicador amplamente utilizado pelo mercado.

Submitted by Marcia Bacha (marcia.bacha@fgv.br) on 2011-05-06T18:11:59Z No. of bitstreams: 1 1417127.pdf: 5400521 bytes, checksum: b6ddcc4cf2fe2855e50cb7bc0be5c242 (MD5) / Approved for entry into archive by Marcia Bacha(marcia.bacha@fgv.br) on 2011-05-06T18:12:06Z (GMT) No. of bitstreams: 1 1417127.pdf: 5400521 bytes, checksum: b6ddcc4cf2fe2855e50cb7bc0be5c242 (MD5) / Approved for entry into archive by Marcia Bacha(marcia.bacha@fgv.br) on 2011-05-06T18:12:15Z (GMT) No. of bitstreams: 1 1417127.pdf: 5400521 bytes, checksum: b6ddcc4cf2fe2855e50cb7bc0be5c242 (MD5) / Made available in DSpace on 2011-05-06T18:12:24Z (GMT). No. of bitstreams: 1 1417127.pdf: 5400521 bytes, checksum: b6ddcc4cf2fe2855e50cb7bc0be5c242 (MD5) Previous issue date: 2010-03-26 / A incerteza é o principal elemento do futuro. Desde os primórdios, o homem busca métodos para estruturar essas incertezas futuras e assim poder guiar suas ações. Apenas a partir da segunda metade do século XX, porém, quando os métodos projetivos e preditivos já não eram mais capazes de explicar o futuro em um ambiente mundial cada vez mais interligado e turbulento, é que nasceram os primeiros métodos estruturados de construção de cenários. Esses métodos prospectivos visam lançar a luz sobre o futuro não para projetar um futuro único e certo, mas para visualizar uma gama de futuros possíveis e coerentes. Esse trabalho tem como objetivo propor uma nova abordagem à construção de cenários, integrando o Método de Impactos Cruzados à Análise Morfológica, utilizando o conceito de Rede Bayesianas, de fonna a reduzir a complexidade da análise sem perda de robustez. Este trabalho fará uma breve introdução histórica dos estudos do futuro, abordará os conceitos e definições de cenários e apresentará os métodos mais utilizados. Como a abordagem proposta pretende-se racionalista, será dado foco no Método de Cenários de Michel Godet e suas ferramentas mais utilizadas. Em seguida, serão apresentados os conceitos de Teoria dos Grafos, Causalidade e Redes Bayesianas. A proposta é apresentada em três etapas: 1) construção da estrutura do modelo através da Análise Estrutural, propondo a redução de um modelo inicialmente cíclico para um modelo acíclico direto; 2) utilização da Matriz de Impactos Cruzados como ferramenta de alimentação, preparação e organização dos dados de probabilidades; 3) utilização da Rede Bayesiana resultante da primeira etapa como subespaço de análise de uma Matriz Morfológica. Por último, um teste empírico é realizado para comprovar a proposta de redução do modelo cíclico em um modelo acíclico.

Made available in DSpace on 2016-06-02T20:06:06Z (GMT). No. of bitstreams: 1 4338.pdf: 1335557 bytes, checksum: 8e0bef5711ff8c398be194e335deecec (MD5) Previous issue date: 2012-02-28 / Universidade Federal de Sao Carlos / Classification consists in the discovery of rules of prediction to assist with planning and decision-making, being a continuously indispensable tool and a highly discussed subject in literature. As a special case in classification, we have the process of credit risk rating, within which there is interest in identifying good and bad paying customers through binary classification methods. Therefore, in many application backgrounds, as in financial, several techniques can be utilized, such as discriminating analysis, probit analysis, logistic regression and neural nets. However, the Probabilistic Nets technique, also known as Bayesian Networks, have showed itself as a practical convenient classification method with successful applications in several areas. In this paper, we aim to display the appliance of Probabilistic Nets in the classification scenario, specifically, the technique named K-dependence Bayesian Networks also known as KDB nets, as well as compared its performance with conventional techniques applied within context of the Credit Scoring and Medical diagnosis. Applications of the technique based in real and artificial datasets and its performance assisted by the bagging procedure will be displayed as results. / A classificação consiste na descoberta de regras de previsão para auxílio no planejamento e tomada de decisões, sendo uma ferramenta indispensável e um tema bastante discutido na literatura. Como caso especial de classificação, temos o processo de avaliação de risco de crédito, no qual temos o interesse de identificar clientes bons e maus pagadores através de métodos de classificação binária. Assim, em diversos enredos de aplicação, como nas financeiras, diversas técnicas podem ser utilizadas, tais como análise discriminante, análise probito, regressão logística e redes neurais. Porém, a técnica de Redes Probabilísticas, também conhecida como Redes Bayesianas, tem se mostrado um método prático de classificação e com aplicações bem sucedidas em diversos campos. Neste trabalho, visamos exibir a aplicação das Redes Probabilísticas no contexto de classificação, em específico, a técnica denominada Redes Probabilísticas com K-dependência, também conhecidas como redes KDB, bem como comparar seu desempenho com as técnicas convencionais aplicadas no contexto de Credit Scoring e Diagnose Médica. Exibiremos como resultado aplicações da técnica baseadas em conjuntos de dados reais e artificiais e seu desempenho auxiliado pelo procedimento de bagging.

Este trabalho propõe uma nova abordagem conexionista, chamada de IGMN (do inglês Incremental Gaussian Mixture Network), para aproximação incremental de funções e tarefas de tempo real. Ela é inspirada em recentes teorias do cérebro, especialmente o MPF (do inglês Memory-Prediction Framework) e a Inteligência Artificial Construtivista, que fazem com que o modelo proposto possua características especiais que não estão presentes na maioria dos modelos de redes neurais existentes. Além disso, IGMN é baseado em sólidos princípios estatísticos (modelos de mistura gaussianos) e assintoticamente converge para a superfície de regressão ótima a medida que os dados de treinamento chegam. As principais vantagens do IGMN em relação a outros modelos de redes neurais são: (i) IGMN aprende instantaneamente analisando cada padrão de treinamento apenas uma vez (cada dado pode ser imediatamente utilizado e descartado); (ii) o modelo proposto produz estimativas razoáveis baseado em poucos dados de treinamento; (iii) IGMN aprende de forma contínua e perpétua a medida que novos dados de treinamento chegam (não existem fases separadas de treinamento e utilização); (iv) o modelo proposto resolve o dilema da estabilidade-plasticidade e não sofre de interferência catastrófica; (v) a topologia da rede neural é definida automaticamente e de forma incremental (novas unidades são adicionadas sempre que necessário); (vi) IGMN não é sensível às condições de inicialização (de fato IGMN não utiliza nenhuma decisão e/ou inicialização aleatória); (vii) a mesma rede neural IGMN pode ser utilizada em problemas diretos e inversos (o fluxo de informações é bidirecional) mesmo em regiões onde a função alvo tem múltiplas soluções; e (viii) IGMN fornece o nível de confiança de suas estimativas. Outra contribuição relevante desta tese é o uso do IGMN em importantes tarefas nas áreas de robótica e aprendizado de máquina, como por exemplo a identificação de modelos, a formação incremental de conceitos, o aprendizado por reforço, o mapeamento robótico e previsão de séries temporais. De fato, o poder de representação e a eficiência e do modelo proposto permitem expandir o conjunto de tarefas nas quais as redes neurais podem ser utilizadas, abrindo assim novas direções nos quais importantes contribuições do estado da arte podem ser feitas. Através de diversos experimentos, realizados utilizando o modelo proposto, é demonstrado que o IGMN é bastante robusto ao problema de overfitting, não requer um ajuste fino dos parâmetros de configuração e possui uma boa performance computacional que permite o seu uso em aplicações de controle em tempo real. Portanto pode-se afirmar que o IGMN é uma ferramenta de aprendizado de máquina bastante útil em tarefas de aprendizado incremental de funções e predição em tempo real. / This work proposes IGMN (standing for Incremental Gaussian Mixture Network), a new connectionist approach for incremental function approximation and real time tasks. It is inspired on recent theories about the brain, specially the Memory-Prediction Framework and the Constructivist Artificial Intelligence, which endows it with some unique features that are not present in most ANN models such as MLP, RBF and GRNN. Moreover, IGMN is based on strong statistical principles (Gaussian mixture models) and asymptotically converges to the optimal regression surface as more training data arrive. The main advantages of IGMN over other ANN models are: (i) IGMN learns incrementally using a single scan over the training data (each training pattern can be immediately used and discarded); (ii) it can produce reasonable estimates based on few training data; (iii) the learning process can proceed perpetually as new training data arrive (there is no separate phases for leaning and recalling); (iv) IGMN can handle the stability-plasticity dilemma and does not suffer from catastrophic interference; (v) the neural network topology is defined automatically and incrementally (new units added whenever is necessary); (vi) IGMN is not sensible to initialization conditions (in fact there is no random initialization/ decision in IGMN); (vii) the same neural network can be used to solve both forward and inverse problems (the information flow is bidirectional) even in regions where the target data are multi-valued; and (viii) IGMN can provide the confidence levels of its estimates. Another relevant contribution of this thesis is the use of IGMN in some important state-of-the-art machine learning and robotic tasks such as model identification, incremental concept formation, reinforcement learning, robotic mapping and time series prediction. In fact, the efficiency of IGMN and its representational power expand the set of potential tasks in which the neural networks can be applied, thus opening new research directions in which important contributions can be made. Through several experiments using the proposed model it is demonstrated that IGMN is also robust to overfitting, does not require fine-tunning of its configuration parameters and has a very good computational performance, thus allowing its use in real time control applications. Therefore, IGMN is a very useful machine learning tool for incremental function approximation and on-line prediction.