Made available in DSpace on 2014-12-17T15:48:00Z (GMT). No. of bitstreams: 1 ReginaRP_DISSERT.pdf: 1401966 bytes, checksum: 6823e0f79e0b8c97c1c944a55bbfe9c4 (MD5) Previous issue date: 2012-05-21 / In the world we are constantly performing everyday actions. Two of these actions are frequent and of great importance: classify (sort by classes) and take decision. When we encounter problems with a relatively high degree of complexity, we tend to seek other opinions, usually from people who have some knowledge or even to the extent possible, are experts in the problem domain in question in order to help us in the decision-making process. Both the classification process as the process of decision making, we are guided by consideration of the characteristics involved in the specific problem. The characterization of a set of objects is part of the decision making process in general. In Machine Learning this classification happens through a learning algorithm and the characterization is applied to databases. The classification algorithms can be employed individually or by machine committees. The choice of the best methods to be used in the construction of a committee is a very arduous task. In this work, it will be investigated meta-learning techniques in selecting the best configuration parameters of homogeneous committees for applications in various classification problems. These parameters are: the base classifier, the architecture and the size of this architecture. We investigated nine types of inductors candidates for based classifier, two methods of generation of architecture and nine medium-sized groups for architecture. Dimensionality reduction techniques have been applied to metabases looking for improvement. Five classifiers methods are investigated as meta-learners in the process of choosing the best parameters of a homogeneous committee. / No universo cotidiano estamos constantemente realizando a??es. Duas dessas a??es s?o frequentes e de grande import?ncia: classificar (distribuir por classes) e tomar decis?o. Quando nos deparamos com problemas com um grau de complexidade relativamente alto, tendemos a buscar outras opini?es, geralmente de pessoas que tenham certo conhecimento ou at? mesmo, na medida do poss?vel, sejam especialistas no dom?nio do problema em quest?o, de forma que nos ajudem no processo de tomada de decis?o. Tanto no processo de classifica??o quanto em um processo de tomada de decis?o, somos orientados pela considera??o das caracter?sticas envolvidas no problema espec?fico. A caracteriza??o de um conjunto de objetos faz parte do processo de tomada de decis?o em geral. Em Aprendizado de M?quina essa classifica??o acontece atrav?s de um algoritmo de aprendizado e a caracteriza??o ? aplicada ?s bases de dados. Os algoritmos de classifica??o podem ser empregados individualmente ou em forma de comit?s de m?quinas. A escolha dos melhores m?todos a serem utilizados na constru??o de um comit? ? uma tarefa bastante ?rdua. Neste trabalho, ser?o investigadas t?cnicas de meta-aprendizagem na sele??o dos melhores par?metros de configura??o de comit?s homog?neos para aplica??es em problemas diversos de classifica??o. Tais par?metros s?o: o classificador base, a arquitetura e o tamanho desta arquitetura. Foram investigados nove tipos de indutores candidatos a classificador base, dois m?todos de gera??o de arquitetura e tr?s grupos de tamanho m?dio para arquitetura, pequeno, m?dio e grande. Ante um desempenho fraco no processo de meta-aprendizagem foram aplicadas t?cnicas de redu??o de dimensionalidade ?s metabases e seis novos crit?rios de tamanho m?dio da arquitetura foram estabelecidos. Cinco m?todos classificadores s?o investigados como meta-aprendizes no processo de escolha dos melhores par?metros de um comit? homog?neo.

Submitted by Fabio Sobreira Campos da Costa (fabio.sobreira@ufpe.br) on 2017-04-05T15:39:48Z No. of bitstreams: 2 license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5) everson_verissimo_dissertacao.pdf: 2502424 bytes, checksum: 0f98e5de2dc7eab2b63e0c0ccd1a6703 (MD5) / Made available in DSpace on 2017-04-05T15:39:48Z (GMT). No. of bitstreams: 2 license_rdf: 1232 bytes, checksum: 66e71c371cc565284e70f40736c94386 (MD5) everson_verissimo_dissertacao.pdf: 2502424 bytes, checksum: 0f98e5de2dc7eab2b63e0c0ccd1a6703 (MD5) Previous issue date: 2013-08-14 / CAPES / Apesar dos avanços em técnicas da Aprendizagem de Máquina, muito esforço ainda é despendido na concepção de um classificador que consiga aprender bem uma dada tarefa. Váriasabordagenssurgiramparaatenuaresseesforçoatravésdacombinaçãodeclassificadores. A combinação de classificadores permite que o projetista do sistema não necessite escolher o classificador mais eficiente dentre vários, nem descartar classificadores que podem possuir informaçãoimportantesobreatarefa. Estratégiasdecombinaçãopermitemqueváriosalgoritmos trabalhem em conjunto a fim de melhorar a precisão de todo o sistema numa dada tarefa. O objetivodestetrabalhoéproporummétododecombinaçãodeclassificadoresqueagregueas vantagensdeduasabordagens: máquinasdecomitêemisturasdeespecialistas. Asmáquinasde comitêvisamcombinarclassificadoresqueresolvempadrõesdetodooespaçodecaracterísticas. Quandocombinados,lidammelhorcomsuperfíciesdedecisãocomplexasqueumclassificador individualmente e são capazes de incorporar novos classificadores mesmo após o uso. Nas MisturasdeEspecialistas,cadaumdosclassificadoreséumespecialistaemumadeterminada áreadoespaçodecaracterísticaseemboraresolvapadrõesdetodooespaçodecaracterísticas,se dedicaaresolverproblemasbemmaissimples,atingindoumdesempenhosuperioremrelaçãoa umclassificadorsópararesolveroproblematodo. OmétodopropostoéchamadodeComitê de Misturas de Especialistas e corresponde a uma máquina de comitês formada por misturas de especialistas. Assim, o método herda a escalabilidade e a tolerância a erros das máquinas decomitêeasimplicidadedetreinamentodasmisturasdeespecialistas. Experimentosforam realizadosparaverificarasuperioridadedocomitêdemisturasdeespecialistassobretrêsfatores de mudanças entre as misturas: técnicas de decomposição de tarefas, número de grupos e características. / Despite the advance of the techniques in Machine Learning, much effort is taken to conceiveaclassifierthatlearnswellaparticulartask. Severalapproacheshavebeenproposed to attenuate this effort through combination of classifiers. Combination of classifiers allows thatnotonlythemosteffectiveclassifiersbechosenamongseveral,nordiscardclassifiersthat mayhaveimportantinformationaboutthetask. Strategiesallowthatseveralalgorithmswork togetherinordertoimproveaccuracyofthewholesystemgivenatask. Thegoalofthiswork is to propose a method to combine classifiers that put together advantages of two approaches: committeemachinesandmixtureofexperts. CommitteeMachinesaimtocombineclassifiersthat solvepatternsfromalloverthespace. Whencombined,theydealbetterwithcomplexdecision boundaries than a single classifier and they are capable of incorporating new classifiers even aftertheuse. Inthemixtureofexperts,eachoneoftheclassifiersisanexpertinacertainregion ofthefeaturespaceand,althoughitsolvespatternsfromthewholefeaturespace,theclassifier is dedicated to solve well simpler problems, reaching a better performance in comparison to a unique classifier to solve the entire problem. Also, there is a hybrid approach, the mixture of experts, in which each classifier solves patterns from the entire space as a committe, but it is trained with patterns from a smaller region, similarly to modular neural networks. The proposedmethodisentitledCommitteeofMixtureofExpertsandcorrespondstoacommittee machineformedbymixtureofexperts. So,themethodinheritsscalabilityanderrortolerance from committee machines and training simplicity from the mixture of experts. Experiments weremadetoverifythesuperiorityofthecommitteeofmixturesofexpertsoverthreefactorsof changingamongthemixtures: taskdecompositionmethods,numberofgroupsandfeatures.

Nesta tese é proposta uma implementação para a solução do problema inverso com as estimativas das propriedades radiativas (o albedo de espalhamento simples, a espessura ótica do meio e as reflectividades difusas) a partir dos valores das intensidades de radiação que deixam o meio participante utilizando uma abordagem híbrida de sistemas neuro-fuzzy (SNF), o qual combina a utilização de sistemas de inferência fuzzy com as redes neurais artificiais. Busca-se com a utilização desse sistema híbrido integrar a habilidade dos sistemas fuzzy no tratamento de informações inexatas, imprecisas, e vagas, e a capacidade das redes neurais artificiais de tratar o aprendizado por experiência e a generalização do conhecimento. É proposta também uma metodologia de máquinas de comitês neuro-fuzzy na solução deste problema inverso em transferência radiativa. Foi observado paralelamente que a solução dos sistemas neuro-fuzzy e dos sistemas híbridos de máquinas de comitê neuro-fuzzy, apresentam baixa qualidade nos resultados quando são utilizados os dados experimentais com os menores coeficientes de sensibilidade para os parâmetros que serão estimados. Por outro lado, quando são utilizados dados com maior sensibilidade, são obtidos melhores resultados. Esta abordagem procura evitar a possibilidade da não convergência desses métodos. / In this thesis is proposed an implementation for solving the inverse problem with the estimates of radiative properties (the single scattering albedo, the optical thickness of the media and the diffuse reflectivities) by the values of the intensities of radiation that leaves the participant medium using a hybrid approach of neuro-fuzzy systems, which combines the use of fuzzy inference systems with artificial neural networks. The use of this hybrid system try to include the ability of fuzzy systems in the treatment of inaccurate, imprecise, and vague data, and the ability of artificial neural networks to deal with learning from experience and widespread knowledge. Also is proposed a methodology for machines committees in neuro-fuzzy solution of this inverse problem in radiative transfer. It was observed in parallel that the solution of neuro-fuzzy systems and hybrid systems neuro-fuzzy committee machines, have a poor quality results when using the experimental data with the lowest sensitivity coefficients for the parameters that will be estimated. Moreover, when data are used with greater sensitivity, better results are obtained. This approach seeks to avoid the possibility of non-convergence in such methods.

Made available in DSpace on 2014-12-17T14:56:07Z (GMT). No. of bitstreams: 1 NaiyanHCL_DISSERT.pdf: 1452285 bytes, checksum: 018fb1e8fa51e8f7094cce68a18c6c73 (MD5) Previous issue date: 2012-08-13 / Reinforcement learning is a machine learning technique that, although finding a large number of applications, maybe is yet to reach its full potential. One of the inadequately tested possibilities is the use of reinforcement learning in combination with other methods for the solution of pattern classification problems. It is well documented in the literature the problems that support vector machine ensembles face in terms of generalization capacity. Algorithms such as Adaboost do not deal appropriately with the imbalances that arise in those situations. Several alternatives have been proposed, with varying degrees of success. This dissertation presents a new approach to building committees of support vector machines. The presented algorithm combines Adaboost algorithm with a layer of reinforcement learning to adjust committee parameters in order to avoid that imbalances on the committee components affect the generalization performance of the final hypothesis. Comparisons were made with ensembles using and not using the reinforcement learning layer, testing benchmark data sets widely known in area of pattern classification / A aprendizagem por refor?o ? uma t?cnica de aprendizado de m?quina que, embora j? tenha encontrado uma grande quantidade de aplica??es, talvez ainda n?o tenha alcan?ado seu pleno potencial. Uma das possibilidades que n?o foi devidamente testada at? hoje foi a utiliza??o da aprendizagem por refor?o em conjunto com outros m?todos para a solu??o de problemas de classifica??o de padr?es. ? bem documentada na literatura a problem?tica que ensembles de m?quinas de vetor de suporte encontram em termos de capacidade de generaliza??o. Algoritmos como Adaboost n?o lidam apropriadamente com os desequil?brios que podem surgir nessas situa??es. V?rias alternativas j? foram propostas, com margens variadas de sucesso. Esta disserta??o apresenta uma nova abordagem para a constru??o de comit?s de m?quinas de vetor de suporte. O algoritmo apresentado combina o algoritmo Adaboost com uma camada de aprendizagem por refor?o, para ajustar par?metros do comit? evitando que desequil?brios nos classificadores componentes do comit? prejudiquem o desempenho de generaliza??o da hip?tese final. Foram efetuadas compara??es de comit?s com e sem essa camada adicional de aprendizagem por refor?o, testando conjuntos de dados benchmarks amplamente conhecidos na ?rea de classifica??o de padr?es

Nesta tese é proposta uma implementação para a solução do problema inverso com as estimativas das propriedades radiativas (o albedo de espalhamento simples, a espessura ótica do meio e as reflectividades difusas) a partir dos valores das intensidades de radiação que deixam o meio participante utilizando uma abordagem híbrida de sistemas neuro-fuzzy (SNF), o qual combina a utilização de sistemas de inferência fuzzy com as redes neurais artificiais. Busca-se com a utilização desse sistema híbrido integrar a habilidade dos sistemas fuzzy no tratamento de informações inexatas, imprecisas, e vagas, e a capacidade das redes neurais artificiais de tratar o aprendizado por experiência e a generalização do conhecimento. É proposta também uma metodologia de máquinas de comitês neuro-fuzzy na solução deste problema inverso em transferência radiativa. Foi observado paralelamente que a solução dos sistemas neuro-fuzzy e dos sistemas híbridos de máquinas de comitê neuro-fuzzy, apresentam baixa qualidade nos resultados quando são utilizados os dados experimentais com os menores coeficientes de sensibilidade para os parâmetros que serão estimados. Por outro lado, quando são utilizados dados com maior sensibilidade, são obtidos melhores resultados. Esta abordagem procura evitar a possibilidade da não convergência desses métodos. / In this thesis is proposed an implementation for solving the inverse problem with the estimates of radiative properties (the single scattering albedo, the optical thickness of the media and the diffuse reflectivities) by the values of the intensities of radiation that leaves the participant medium using a hybrid approach of neuro-fuzzy systems, which combines the use of fuzzy inference systems with artificial neural networks. The use of this hybrid system try to include the ability of fuzzy systems in the treatment of inaccurate, imprecise, and vague data, and the ability of artificial neural networks to deal with learning from experience and widespread knowledge. Also is proposed a methodology for machines committees in neuro-fuzzy solution of this inverse problem in radiative transfer. It was observed in parallel that the solution of neuro-fuzzy systems and hybrid systems neuro-fuzzy committee machines, have a poor quality results when using the experimental data with the lowest sensitivity coefficients for the parameters that will be estimated. Moreover, when data are used with greater sensitivity, better results are obtained. This approach seeks to avoid the possibility of non-convergence in such methods.