O objectivo principal da presente dissertação é avaliar a aplicabilidade da Extracção de Conhecimento em Bases de Dados a uma base de dados académica tomando como estudo de caso a Faculdade de Engenharia da Universidade do Porto. A metodologia seguida consistiu na aplicação de algumas técnicas de prospecção de dados (classificação a análise de ligações) aos dados relativos aos últimos cinco anos lectivos. A análise incidiu sobre as interdependências entre disciplinas e o perfil dos alunos baseado no desempenho no primeiro ano. A partir de modelos gerados (Árvores e regras de decisão, e regras de associação) conseguem-se verificar interdependências entre disciplinas e a importância relativa que estas têm no sucesso escolar de um ou mais anos, fornecendo informação útil para apoio aos orgãos de gestão em medidas correlativas, como aconselhamento aos alunos, detecção precoce de problemas de insucesso e previsões para os anos lectivos seguintes.

Submitted by Rodrigo Vieira Guidelli null (rguidelli4@gmail.com) on 2016-03-26T16:03:57Z No. of bitstreams: 1 Rodrigo Vieira Guidelli - Dissertação de Mestrado.pdf: 2574087 bytes, checksum: c4570e90e2f553c165e4cbcb47a0f339 (MD5) / Approved for entry into archive by Ana Paula Grisoto (grisotoana@reitoria.unesp.br) on 2016-03-28T16:40:24Z (GMT) No. of bitstreams: 1 guidelli_rv_me_rcla.pdf: 2574087 bytes, checksum: c4570e90e2f553c165e4cbcb47a0f339 (MD5) / Made available in DSpace on 2016-03-28T16:40:24Z (GMT). No. of bitstreams: 1 guidelli_rv_me_rcla.pdf: 2574087 bytes, checksum: c4570e90e2f553c165e4cbcb47a0f339 (MD5) Previous issue date: 2016-02-28 / Pró-Reitoria de Extensão Universitária (PROEX UNESP) / Pró-Reitoria de Pós-Graduação (PROPG UNESP) / Em 2009 Uehara Prado et al., coletaram uma grande quantidade de dados para avaliar o papel das borboletas da família Nymphalidae como bioindicadoras, porém esses dados não foram utilizados em sua totalidade. O presente estudo está direcionado à experimentação e modelagem de interações ecológicas, a partir dos dados obtidos por Uehara-Prado et al. (2009), juntamente com aqueles não previamente utilizados que, no intuito de extrair o máximo de informação de relevância biológica e ecológica. Para tanto, foram utilizados três diferentes tipos de abordagens: (1) Biclusterização (Cheng & Church, 2000; Madeira & Oliveira, 2004); (2) Árvores de decisão (Quinlan, 1986; Bell, 1999; De’ath & Fabricius, 2000; Olden et al., 2008) e (3) Redes Bayesianas (Korb & Nicholson, 2003; McCann et al., 2006; Chen & Pollino, 2012; Pearl, 2014). Os resultados se mostraram bastante promissores, e as três ferramentas atingiram as expectativas; em biclusterização, conseguimos identificar todos os padrões de correlação dentro dos cenários apresentados, árvores de decisão se mostraram extremamente eficazes na classificação das variáveis apresentadas e as Redes Bayesianas conseguiram identificar quais variáveis influenciavam ou eram influenciadas pelas outras. Com este trabalho esperamos incentivar outros pesquisadores à revisitarem antigas bases de dados com ferramentas computacionais mais modernas, pois seu potencial é extraordinário. / Elucidating the complex interactions networks in ecological systems is not an easy task (Proulx et al., 2005) and, in order to extract information in an efficient way, powerful computational tools and the right approach, to the types of scenario to be studied, are required. In 2009 UeharaPrado et al., collected a great amount of data to assess the role of the Nymphalidae family of butterflies as bio-indicators, but these data were not used in its entirety. This study is aimed at experimentation and modeling of the ecological interactions from the data obtained by UeharaPrado et al. (2009), along with those not previously used, in order to extract the maximum information of biological and ecological significance. Therefore, three different approaches were used: (1) Biclusterization (Cheng & Church, 2000; Wood& Olive, 2004); (2) Decision Trees (Quinlan, 1986; Bell, 1999; De'ath & Fabricius., 2000; Olden et al, 2008) and (3) Bayesian Networks (Korb & Nicholson, 2003; McCann et al., 2006; Chen & Pollino, 2012; Pearl, 2014). The results were very promising, and the three tools reached our expectations; with Biclusterization we managed to identify all the correlation patterns inside the scenarios presented, Decision Trees proved to be extremely effective in the classification of the variables and the Bayesian Networks were able to identify what variables influenced or were influenced by the others. With this work, we hope to encourage other researchers to revisit old databases with more modern computational tools, because its potential is extraordinary.

Submitted by Lucelia Lucena (lucelia.lucena@ufpe.br) on 2015-03-09T19:29:39Z No. of bitstreams: 2 license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5) DISSERTAÇÃO Luíz Vieira e Silva Filho.pdf: 2176053 bytes, checksum: 4882a96e67804421bca22e07debc49da (MD5) / Made available in DSpace on 2015-03-09T19:29:39Z (GMT). No. of bitstreams: 2 license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5) DISSERTAÇÃO Luíz Vieira e Silva Filho.pdf: 2176053 bytes, checksum: 4882a96e67804421bca22e07debc49da (MD5) Previous issue date: 2014-02-17 / Sistemas de Múltiplos Classificadores (Multiple Classifiers Systems - MCS) se baseiam na ideia de que combinar a opinião de vários especialistas pode produzir melhores resultados do que quando se usa apenas um especialista. Diversas técnicas de MCS foram desenvolvidas, apresentando pontos fortes e fracos, a depender do contexto em que são aplicadas. Este trabalho propõe uma arquitetura para MCS que visa potencializar a complementaridade entre essas técnicas, possuindo dois objetivos principais: i) a combinação de métodos de amostragem tradicionais, visando a geração de classificadores de melhor desempenho que componham um pool de classificadores; ii) a aplicação de um algoritmo de poda para remover do pool aqueles classificadores incompetentes para lidar com o problema em questão, considerando os critérios de seleção adotados. A arquitetura proposta foi avaliada em uma aplicação de credit-scoring. Os métodos de amostragem usados foram o Bagging e o Random Subspace com classificadores-base sendo árvores-de-decisão, construídas com base no algoritmo CART. Para o processamento da poda foi usado o algoritmo Orientation Ordering, e para combinação das saídas dos classificadores do ensemble adotou-se o método Majority Vote. Os experimentos realizados mostraram que a arquitetura proposta alcançou taxas de acerto similares ou superiores às atingidas pelos métodos apresentados na literatura. Esses resultados ainda foram obtidos com ensembles cujos tamanhos eram da ordemde 20% dos pools originais gerados na fase de treinamento.

Orientadora: Profa. Dra. Patrícia Belfiore Fávero / Coorientador: Prof. Dr. Marcelo de Souza Lauretto / Dissertação (mestrado) - Universidade Federal do ABC, Programa de Pós-Graduação em Engenharia da Informação, Santo André, 2017. / Big data trouxe vários desafios para os conceitos dos algoritmos de mineração de dados, a iniciar pelas limitações de memória e tempo, bem como dados de natureza e distribuição com variação constante. Essa massa de dados interessa públicos diversos pelas informações intrínsecas em seu interior e a análise de dados é uma importante fonte estratégica aplicada com objetivos de conhecimento, desenvolvimento e planejamento. Nos últimos anos, diversos métodos baseados em ensembles de classificadores têm sido propostos. Nesses métodos, a idéia central é construir vários classificadores "fracos" para formar um classificador "robusto", que utiliza como convergência a soma (ponderada) dos votos dos subclassificadores nas possíveis classes. Os objetivos deste trabalho foram realizar análises comparativas de desempenho de classificadores de Big Data das famílias de árvores de classificação quando combinados na forma de ensembles (ou metaclassificadores) bagging e boosting. Foi implementado um ambiente de testes, utilizando algoritmos de árvores de classificação sobre datasets públicos a fim de verificar três itens fundamentais: a . Para um certo algoritmo de classificação, a configuração de ensemble (entre Bagging e Boosting) que resulta em maior acurácia. b . Para um certo tipo de ensemble, o melhor algoritmo de classificação. c . A possibilidade de identificar as famílias de Big Data (agrupado segundo um conjunto de características) em que cada tipo de classificador possui melhor desempenho. Os resultados indicaram que o ensemble Boosting apresenta acurácia superior para um número maior das amostras testadas em comparação com os demais algoritmos abordados. Entre os classificadores, sugere-se que representantes de árvores de decisão são suscetíveis à escolha do método de ensemble e, principalmente, da amostra. A análise da aplicação dos ensembles sobre as amostras e as características dos conjuntos exibiu resultados muito variáveis, entretanto notou-se uma melhoria de desempenho quando a classificação é binária. / Big data has brought several challenges to the concepts of data mining algorithms, starting with the limitations of memory and time, as well as data of nature and distribution with constant variation. This mass of data interests diverse publics by the intrinsic information inside and the data analysis is an important strategic source applied with objectives of knowledge, development and planning. In recent years, several methods based on ensembles of classifiers have been proposed. In those methods, the central idea is to construct several "weak" classifiers to form a "robust" classifier, which uses as a convergence the (weighted) sum of the subclassifier¿s votes in the possible classes. The objectives of this work were to perform comparative performance analysis of Big Data classifiers of the classification tree families when combined in the form of bagging and boosting ensembles (or metaclassifiers). A test environment was implemented using classification tree algorithms on public datasets in order to verify three fundamental items: a . For a certain classification algorithm, the ensemble configuration (between Bagging and Boosting) results in greater accuracy. b . For a certain type of ensemble, the best classification algorithm. c . The possibility of identifying Big Data families (grouped according to a set of characteristics) in which each type of classifier performs better. The results indicated that the Boosting ensemble presents superior accuracy for a larger number of samples tested in comparison to the other algorithms. Among the classifiers, it is suggested that representatives of decisions trees are susceptible to the choice of the ensemble method and, mainly, of the sample. The ensembles application analysis on the samples and the characteristics of the sets showed very variable results, however a performance improvement was noticed when the classification was binary.

Orientador: Hildete Prisco Pinheiro / Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Matemática, Estatística e Computação Científica / Made available in DSpace on 2018-08-24T02:10:38Z (GMT). No. of bitstreams: 1 Argenton_JulianaLuzPassos_M.pdf: 2087574 bytes, checksum: b6014c3478501f5128fd13ddf952e6dd (MD5) Previous issue date: 2013 / Resumo: O objetivo deste trabalho é apresentar uma metodologia de árvore de regressão para dados censurados e correlacionados. O conjunto de dados analisado foi obtido a partir de uma pesquisa realizada entre Dezembro de 2005 e Janeiro de 2006, que entrevistou 119 famílias (1712 indivíduos) que vivem no pequeno vilarejo de Baependi, no Estado de Minas Gerais. São apresentadas duas metodologias com base no modelo de riscos proporcionais, a primeira desconsidera a possível correlação existente entre os indivíduos de uma mesma família e usa a primeira iteração da estimativa da verossimilhança completa nas divisões dos nós. Na segunda metodologia apresentada, a correlação entre os indivíduos de uma mesma família é incorporada no modelo de riscos proporcionais através de uma variável de fragilidade com distribuição Gama, neste caso o valor da estatística Escore é usado para escolher a melhor divisão dos nós. O objetivo da análise é avaliar as variáveis que aumentam o risco de apresentar hipertensão, diabetes tipo II e colesterol alto, que são os três principais fatores que aumentam o risco de doenças no coração. As variáveis respostas são as idades de diagnóstico desses fatores de risco. A censura é definida de acordo com a observação da idade do indivíduo no momento do diagnóstico da doença e a idade do indivíduo no momento da pesquisa. Desta forma, uma idade de diagnóstico maior que a idade no momento da pesquisa caracteriza a censura. / Abstract: The objective of this work is to present methods of regression trees for censored and correlated data. The dataset analyzed was obtained from a survey, in which 119 families (1712 individuals) living in Baependi village, in the Brazilian state of Minas Gerais, were interviewed. Two methodologies based on the proportional hazard model are presented. The first disregards the possible correlation among the individuals of the same family, using the first step of a full likelihood estimation procedure for splitting nodes. In the second methodology, the correlation among the individuals of the same family is incorporated in the proportional hazard model through a frailty variable with Gamma distribution. In this case, the value of the Score statistic is used for choosing the best splitting node. The main purpose of the analysis is to evaluate the variables that increase the risk of hypertension, type II diabetes and high cholesterol, which are the top three main factors that increase the risk of heart conditions. The response variables are the age-of-onset of these risk factors. Censoring is defined by observing the individual's age-of-onset at the moment of diagnosis and also at the moment of the survey. This way, an age-of-onset higher than the age at the moment of the survey indicates censoring. / Mestrado / Estatistica / Mestra em Estatística

Estudos de expressão gênica têm sido de extrema importância, permitindo desenvolver terapias, exames diagnósticos, medicamentos e desvendar uma infinidade de processos biológicos. No entanto, estes estudos envolvem uma série de dificuldades: grande quantidade de genes, sendo que geralmente apenas um pequeno número deles está envolvido no problema estudado; presença de ruído nos dados analisados; entre muitas outras. O projeto de pesquisa deste mestrado consiste no estudo de algoritmos de indução de árvores de decisão; na definição de uma metodologia capaz de tratar dados de expressão gênica usando árvores de decisão; e na implementação da metodologia proposta como algoritmos capazes de extrair conhecimento a partir desse tipo de dados. A indução de árvores de decisão procura por características relevantes nos dados que permitam modelar precisamente um conceito, mas tem também a preocupação com a compreensibilidade do modelo gerado, auxiliando os especialistas na descoberta de conhecimento, algo importante nas áreas médica e biológica. Por outro lado, tais indutores apresentam relativa instabilidade, podendo gerar modelos bem diferentes com pequenas mudanças nos dados de treinamento. Este é um dos problemas tratados neste mestrado. Mas o principal problema tratado se refere ao comportamento destes indutores em dados de alta dimensionalidade, mais especificamente dados de expressão gênica: atributos irrelevantes prejudicam o aprendizado e vários modelos com desempenho similar podem ser gerados. Diversas técnicas foram exploradas para atacar os problemas mencionados, mas este estudo se concentrou em duas delas: windowing, que foi a técnica mais explorada e para a qual este mestrado propôs uma série de alterações com vistas à melhoria de seu desempenho; e lookahead, que procura construir a árvore levando em considerações passos subsequentes do processo de indução. Quanto ao windowing, foram explorados aspectos relacionados ao procedimento de poda das árvores geradas durante a execução do algoritmo; uso do erro estimado em substituição ao erro de treinamento; uso de ponderação do erro calculado durante a indução de acordo com o tamanho da janela; e uso da confiança na classificação para decidir quais exemplos utilizar na atualização da janela corrente. Com relação ao lookahead, foi implementada uma versão de um passo à frente, ou seja, para tomar a decisão na iteração corrente, o indutor leva em consideração a razão de ganho de informação do passo seguinte. Os resultados obtidos, principalmente com relação às medidas de desempenho baseadas na compreensibilidade dos modelos induzidos, mostram que os algoritmos aqui propostos superaram algoritmos clássicos de indução de árvores. / Gene expression studies have been of great importance, allowing the development of new therapies, diagnostic exams, drugs and the understanding of a variety of biological processes. Nevertheless, those studies involve some obstacles: a huge number of genes, while only a very few of them are really relevant to the problem at hand; data with the presence of noise; among others. This research project consists of: the study of decision tree induction algorithms; the definition of a methodology capable of handling gene expression data using decision trees; and the implementation of that methodology as algorithms that can extract knowledge from that kind of data. The decision tree induction searches for relevant characteristics in the data which would allow it to precisely model a certain concept, but it also worries about the comprehensibility of the generated model, helping specialists to discover new knowledge, something very important in the medical and biological areas. On the other hand, such inducers present some instability, because small changes in the training data might produce great changes in the generated model. This is one of the problems being handled in this Master\'s project. But the main problem this project handles refers to the behavior of those inducers when it comes to high-dimensional data, more specifically to gene expression data: irrelevant attributes may harm the learning process and many models with similar performance may be generated. A variety of techniques have been explored to treat those problems, but this study focused on two of them: windowing, which was the most explored technique and to which this project has proposed some variations in order to improve its performance; and lookahead, which builds each node of a tree taking into consideration subsequent steps of the induction process. As for windowing, the study explored aspects related to the pruning of the trees generated during intermediary steps of the algorithm; the use of the estimated error instead of the training error; the use of the error weighted according to the size of the current window; and the use of the classification confidence as the window update criterion. As for lookahead, a 1-step version was implemented, i.e., in order to make the decision in the current iteration, the inducer takes into consideration the information gain ratio of the next iteration. The results show that the proposed algorithms outperform the classical ones, especially considering measures of complexity and comprehensibility of the induced models.

Embora existam soluções para sistemas de cobrança e telecomunicações que apresentem relatórios para auxílio à cobrança de clientes, ambas carecem de informações que apoiem a tomada de decisões, nas análises estratégicas e na propensão de pagamento. Desse modo, o objetivo deste projeto é implementar ferramentas e soluções inteligentes a fim de reduzir o desperdício de tempo e aumentar a produtividade do gestor, decorrentes da necessidade da análise e cruzamento de todos os dados para tomar qualquer ação durante os processos de cobrança e gestão de custos. / Although there are solutions for billing and telecommunications systems to present reports to support debt collection, both lack information to support decision making in strategic analysis and propensity to pay. Thus, the goal of this project is to implement intelligent tools and solutions taht are able to increase their productivity and reduce waste of managers time, due to the need of analyzing and crossing all the data to take action during the collection processes and cost management.

Muitos problemas de classificação descritos na literatura de aprendizado de máquina e mineração de dados dizem respeito à classificação em que cada exemplo pertence a um único rótulo. Porém, vários problemas de classificação, principalmente no campo de Bioinformática são associados a mais de um rótulo; esses problemas são conhecidos como problemas de classificação multirrótulo. O princípio básico da classificação multirrótulo é similar ao da classificação tradicional (que possui um único rótulo), sendo diferenciada no número de rótulos a serem preditos, na qual há dois ou mais rótulos. Na área da Bioinformática muitos problemas são compostos por uma grande quantidade de rótulos em que cada exemplo pode estar associado. Porém, algoritmos de classificação tradicionais são incapazes de lidar com um conjunto de exemplos mutirrótulo, uma vez que esses algoritmos foram projetados para predizer um único rótulo. Uma solução mais simples é utilizar o método conhecido como método Binary Relevance. Porém, estudos mostraram que tal abordagem não constitui uma boa solução para o problema da classificação multirrótulo, pois cada classe é tratada individualmente, ignorando as possíveis relações entre elas. Dessa maneira, o objetivo dessa pesquisa foi propor uma nova adaptação do método Binary Relevance que leva em consideração relações entre os rótulos para tentar minimizar sua desvantagem, além de também considerar a capacidade de interpretabilidade do modelo gerado, não só o desempenho. Os resultados experimentais mostraram que esse novo método é capaz de gerar árvores que relacionam os rótulos correlacionados e também possui um desempenho comparável ao de outros métodos, obtendo bons resultados usando a medida-F. / Many classification problems described in the literature on Machine Learning and Data Mining relate to the classification in which each example belongs to a single class. However, many classification problems, especially in the field of Bioinformatics, are associated with more than one class; these problems are known as multi-label classification problems. The basic principle of multi-label classification is similar to the traditional classification (single label), and distinguished by the number of classes to be predicted, in this case, in which there are two or more labels. In Bioinformatics many problems are composed of a large number of labels that can be associated with each example. However, traditional classification algorithms are unable to cope with a set of multi-label examples, since these algorithms are designed to predict a single label. A simpler solution is to use the method known as Binary Relevance. However, studies have shown that this approach is not a good solution to the problem of multi-label classification because each class is treated individually, ignoring possible relations between them. Thus, the objective of this research was to propose a new adaptation of Binary Relevance method that took into account relations between labels trying to minimize its disadvantage, and also consider the ability of interpretability of the model generated, not just its performance. The experimental results show that this new method is capable of generating trees that relate labels and also has a performance comparable to other methods, obtaining good results using F-measure.

Embora existam soluções para sistemas de cobrança e telecomunicações que apresentem relatórios para auxílio à cobrança de clientes, ambas carecem de informações que apoiem a tomada de decisões, nas análises estratégicas e na propensão de pagamento. Desse modo, o objetivo deste projeto é implementar ferramentas e soluções inteligentes a fim de reduzir o desperdício de tempo e aumentar a produtividade do gestor, decorrentes da necessidade da análise e cruzamento de todos os dados para tomar qualquer ação durante os processos de cobrança e gestão de custos. / Although there are solutions for billing and telecommunications systems to present reports to support debt collection, both lack information to support decision making in strategic analysis and propensity to pay. Thus, the goal of this project is to implement intelligent tools and solutions taht are able to increase their productivity and reduce waste of managers time, due to the need of analyzing and crossing all the data to take action during the collection processes and cost management.

Este trabalho apresenta uma metodologia de detecção e classificação de distúrbios relacionados à qualidade da energia elétrica. A detecção é feita utilizando-se somente uma regra para inferir na presença ou não do distúrbio em uma janela analisada. Para a classificação é proposto um método baseado em árvore de decisão. A árvore recebe como entrada as características do sinal extraídas tanto no domínio do tempo como no domínio da frequência, sendo a última obtida pela Transformada de Fourier. Destaca-se que toda a metodologia de extração de características foi idealizada como tentativa de se reduzir ao máximo o esforço computacional das tarefas de detecção e classificação de distúrbios. Em suma, verifica-se que os resultados obtidos são satisfatórios para a proposta desta pesquisa. / This work presents a methodology for detection and classification of disturbance related to the electric power quality. The detection is performed using only one rule to infer in the presence or not of the disturbance in a window analyzed. For the classification is proposed a method based on decision tree. The tree receives as input features of the extracted signal both in time domain and in the frequency domain, being the last obtained by Fourier transform. It is emphasized that all the features extraction methodology was idealized as an attempt to reduce to the maximum the computational effort for the tasks of detection and classification of disturbances. In short, it is possible to verify that the results obtained are satisfactory for the purpose of this research.