Submitted by Automa??o e Estat?stica (sst@bczm.ufrn.br) on 2017-04-17T21:35:20Z No. of bitstreams: 1 AntoninoAlvesFeitosaNeto_TESE.pdf: 1592913 bytes, checksum: abef6d747d95842e55a8f4f5a5d73859 (MD5) / Approved for entry into archive by Arlan Eloi Leite Silva (eloihistoriador@yahoo.com.br) on 2017-04-18T22:17:06Z (GMT) No. of bitstreams: 1 AntoninoAlvesFeitosaNeto_TESE.pdf: 1592913 bytes, checksum: abef6d747d95842e55a8f4f5a5d73859 (MD5) / Made available in DSpace on 2017-04-18T22:17:06Z (GMT). No. of bitstreams: 1 AntoninoAlvesFeitosaNeto_TESE.pdf: 1592913 bytes, checksum: abef6d747d95842e55a8f4f5a5d73859 (MD5) Previous issue date: 2016-12-09 / Este trabalho aborda a constru??o de comit?s de classifica??o atrav?s t?cnicas metaheur?sticas de otimiza??o tradicionais de h?bridas. O problema de classifica??o de padr?es ? tratado como um problema de otimiza??o procurando encontrar o subconjunto de atributos e classificadores do problema que minimize o erro de classifica??o do comit?. Os comit?s s?o gerados a partir da combina??o das t?cnicas de k-NN, ?rvore de Decis?o e Naive Bayes utilizando o voto majorit?rio. Os atributos dos classificadores base s?o modificados pelas metaheur?sticas de algoritmos gen?ticos, algoritmos mem?ticos, PSO, ACO, M?ltiplos Rein?cios, GRASP, Simulated Annealing, Busca Tabu, ILS e VNS. Tamb?m s?o aplicados algoritmos provenientes da arquiteturas de metaheur?sticas h?bridas AMHM e MAGMA. S?o desenvolvidos algoritmos dessas metaheur?sticas nas vers?es mono e multi-objetivo. S?o realizados experimentos em diferentes cen?rios mono e multiobjetivo otimizando o erro de classifica??o e as medidas de boa e m? diversidade. O objetivo ? verificar se adicionar as medidas de diversidade como objetivos de otimiza??o resulta em comit?s mais acurados. Assim, a contribui??o desse trabalho ? determinar se as medidas de boa e m? diversidade podem ser utilizadas em t?cnicas de otimiza??o mono e multiobjetivo como objetivos de otimiza??o para constru??o de comit?s de classificadores mais acurados que aqueles constru?dos pelo mesmo processo, por?m utilizando somente a acur?cia de classifica??o como objetivo de otimiza??o. Verificamos que as metaheur?sticas desenvolvidas apresentam melhores resultados que as t?cnicas cl?ssicas de gera??o de comit?s, isto ?, Bagging, Boosting e Sele??o Rand?mica. Verificamos tamb?m que na maioria das metaheur?sticas o uso das medidas de diversidade como objetivos de otimiza??o n?o auxilia na gera??o de comit?s mais acurados que quando utilizado somente o erro de classifica??o como objetivo de otimiza??o obtendo nos melhores cen?rios resultados n?o estatisticamente diferentes. / This work deals with the construction of classification committees using traditional and hybrid meta-heuristics of optimization techniques. The problem of pattenr classification is treated as an optimization problem, trying to find the subset of attributes and classifiers of the problem that minimizes the classification error of the committee. Committees are generated by combining the techniques of k-NN, Decision Tree and Naive Bayes using the majority vote. The attributes of the base classifiers are modified by the metaheuristics of genetic algorithms, memetic algorithms, PSO, ACO, Multi Start, GRASP, Simulated Annealing, Tabu Search, ILS and VNS. We also apply algorithms from AMHM and MAGMA hybrid metaheuristics architectures. Algorithms of these metaheuristics are developed in mono and multi-objective versions. Experiments are performed in different mono and multiobjective scenarios optimizing classification error and measures of good and bad diversity. The goal is to verify that adding diversity measures as optimization goals results in more accurate committees. Thus, the contribution of this work is to determine if the measures of good and bad diversity can be used in mono and multiobjective optimization techniques as objectives of optimization for the construction of committees of classifiers more accurate than those constructed by the same process, but using only the accuracy classification as an optimization objective. We have verified that the developed metaheuristics present better results than the classic generation techniques of committees, ie, Bagging, Boosting and Random Selection. We also verified that in the majority of metaheuristics the use of diversity measures as optimization objectives does not help to generate more accurate committees than when only the classification error, obtaining in the best scenarios non statistically different results.

Made available in DSpace on 2014-12-17T15:48:03Z (GMT). No. of bitstreams: 1 AntonioAFN_DISSERT.pdf: 3187796 bytes, checksum: c8d44014d0b75e991f4f3b3473a8dcd5 (MD5) Previous issue date: 2012-08-24 / Coordena??o de Aperfei?oamento de Pessoal de N?vel Superior / Committees of classifiers may be used to improve the accuracy of classification systems, in other words, different classifiers used to solve the same problem can be combined for creating a system of greater accuracy, called committees of classifiers. To that this to succeed is necessary that the classifiers make mistakes on different objects of the problem so that the errors of a classifier are ignored by the others correct classifiers when applying the method of combination of the committee. The characteristic of classifiers of err on different objects is called diversity. However, most measures of diversity could not describe this importance. Recently, were proposed two measures of the diversity (good and bad diversity) with the aim of helping to generate more accurate committees. This paper performs an experimental analysis of these measures applied directly on the building of the committees of classifiers. The method of construction adopted is modeled as a search problem by the set of characteristics of the databases of the problem and the best set of committee members in order to find the committee of classifiers to produce the most accurate classification. This problem is solved by metaheuristic optimization techniques, in their mono and multi-objective versions. Analyzes are performed to verify if use or add the measures of good diversity and bad diversity in the optimization objectives creates more accurate committees. Thus, the contribution of this study is to determine whether the measures of good diversity and bad diversity can be used in mono-objective and multi-objective optimization techniques as optimization objectives for building committees of classifiers more accurate than those built by the same process, but using only the accuracy classification as objective of optimization / Comit?s de classificadores podem ser empregados para melhorar a acur?cia de sistemas de classifica??o, ou seja, diferentes classificadores aplicados ? solu??o de um mesmo problema podem ser combinados gerando um sistema de maior acur?cia, denominado de comit?s de classificadores. Para que se obtenha sucesso ? necess?rio que os classificadores apresentem erros em diferentes objetos do problema para que assim os erros de um classificador sejam suprimidos pelo acerto dos demais na aplica??o do m?todo de combina??o do comit?. A caracter?stica dos classificadores de errarem em objetos diferentes ? denominada de diversidade. No entanto, as maiorias das medidas de diversidade n?o conseguiam descrever essa import?ncia. Recentemente, foram propostas duas medidas de diversidade (boa e m? diversidade) as medidas de boa e m? diversidade com o objetivo de auxiliar a gera??o de comit?s mais acurados. Este trabalho efetua uma an?lise experimental dessas medidas aplicadas diretamente na constru??o de comit?s de classificadores. O m?todo de constru??o adotado ? modelado como um problema de busca pelo melhor conjunto de caracter?sticas das bases de dados do problema e pelo melhor conjunto de membros do comit? a fim de encontrar o comit? de classificadores que apresente ? maior acur?cia de classifica??o. Esse problema ? resolvido atrav?s de t?cnicas de otimiza??o metaheur?sticas, nas vers?es mono e multiobjetivo. S?o efetuadas an?lises estat?sticas para verificar se usar ou adicionar as medidas de boa e m? diversidade como objetivos de otimiza??o resulte comit?s mais acurados. Assim, a contribui??o desse trabalho ? determinar se as medidas de boa e m? diversidade podem ser utilizadas em t?cnicas de otimiza??o mono e multiobjetivo como objetivos de otimiza??o para constru??o de comit?s de classificadores mais acurados que aqueles constru?dos pelo mesmo processo, por?m utilizando somente a acur?cia de classifica??o como objetivo de otimiza??o