Made available in DSpace on 2014-12-17T15:47:47Z (GMT). No. of bitstreams: 1 ArakenMS_da_capa_ate_pag_66.pdf: 612002 bytes, checksum: 77ee53e5ec8496b7cf1c4503e222c41d (MD5) Previous issue date: 2008-02-01 / RePART (Reward/Punishment ART) is a neural model that constitutes a variation of the Fuzzy Artmap model. This network was proposed in order to minimize the inherent problems in the Artmap-based model, such as the proliferation of categories and misclassification. RePART makes use of additional mechanisms, such as an instance counting parameter, a reward/punishment process and a variable vigilance parameter. The instance counting parameter, for instance, aims to minimize the misclassification problem, which is a consequence of the sensitivity to the noises, frequently presents in Artmap-based models. On the other hand, the use of the variable vigilance parameter tries to smoouth out the category proliferation problem, which is inherent of Artmap-based models, decreasing the complexity of the net. RePART was originally proposed in order to minimize the aforementioned problems and it was shown to have better performance (higer accuracy and lower complexity) than Artmap-based models. This work proposes an investigation of the performance of the RePART model in classifier ensembles. Different sizes, learning strategies and structures will be used in this investigation. As a result of this investigation, it is aimed to define the main advantages and drawbacks of this model, when used as a component in classifier ensembles. This can provide a broader foundation for the use of RePART in other pattern recognition applications / O RePART (Reward/Punishiment ART), modelo neural que se constitui numa varia??o do modelo Fuzzy Artmap, foi proposto objetivando minimizar problemas inerentes aos modelos da classe Artmap, tais como: prolifera??o de categorias e m? classifica??o. Por essa raz?o, o RePART faz uso de mecanismos adicionais, como: um par?metro contador de inst?ncia, um processo de recompensa/puni??o e um par?metro de vigil?ncia vari?vel. O par?metro contador de inst?ncia busca minimizar o problema de m? classifica??o, resultante da sensibilidade ? ru?dos, freq?entemente presente nos modelos da classe Artmap. O uso da vigil?ncia vari?vel tem como objetivo minimizar o problema de prolifera??o de categorias, diminuindo a complexidade da rede, quando utilizado em aplica??es com um grande n?mero de padr?es de treinamento. A proposta do RePART visou a minimiza??o desses problemas e foi mostrado que o RePART obteve desempenho superior que alguns modelos da classe Artmap. Neste trabalho ? proposta a realiza??o de uma investiga??o do desempenho do modelo RePART em comit?s de classificadores. Nesta investiga??o ser? realizada uma an?lise com comit?s utilizando diferentes tamanhos, estrat?gias de aprendizados e estruturas. Os resultados obtidos com esta investiga??o servir?o como meio de descoberta das vantagens e desvantagens de cada um dos modelos abordados em comit?s. Com isso, poder? ser dado um embasamento ainda mais amplo ? utiliza??o do RePART em outras aplica??es de reconhecimento de padr?es

Made available in DSpace on 2014-12-17T14:55:06Z (GMT). No. of bitstreams: 1 RobinsonLSA_TESE.pdf: 3429587 bytes, checksum: 6e34f5d59ebeb449eb13310ec5ff1eae (MD5) Previous issue date: 2012-11-05 / ART networks present some advantages: online learning; convergence in a few epochs of training; incremental learning, etc. Even though, some problems exist, such as: categories proliferation, sensitivity to the presentation order of training patterns, the choice of a good vigilance parameter, etc. Among the problems, the most important is the category proliferation that is probably the most critical. This problem makes the network create too many categories, consuming resources to store unnecessarily a large number of categories, impacting negatively or even making the processing time unfeasible, without contributing to the quality of the representation problem, i. e., in many cases, the excessive amount of categories generated by ART networks makes the quality of generation inferior to the one it could reach. Another factor that leads to the category proliferation of ART networks is the difficulty of approximating regions that have non-rectangular geometry, causing a generalization inferior to the one obtained by other methods of classification. From the observation of these problems, three methodologies were proposed, being two of them focused on using a most flexible geometry than the one used by traditional ART networks, which minimize the problem of categories proliferation. The third methodology minimizes the problem of the presentation order of training patterns. To validate these new approaches, many tests were performed, where these results demonstrate that these new methodologies can improve the quality of generalization for ART networks / As redes do tipo ART apresentam algumas vantagens: aprendizado online; converg?ncia em poucas ?pocas de treinamento; aprendizado incremental, etc. Contudo, alguns problemas existem: prolifera??o de categorias, sensibilidade a ordem de apresenta??o dos padr?es, escolha de um bom valor para o par?metro de vigil?ncia. O mais importante deles ? o problema da prolifera??o de categorias e ? provavelmente o mais cr?tico. Esse problema faz com que a rede crie v?rias categorias consumindo recursos (recursos para armazenar uma grande quantidade de categorias desnecess?rias impactando negativamente ou at? mesmo inviabilizando o tempo de processamento da rede) sem contribuir para a qualidade da representa??o do problema, ou seja, em muitos casos a quantidade excessiva de categorias geradas pelas redes ART faz com que a qualidade da generaliza??o da rede seja inferior. Outro fator que leva a prolifera??o de categorias das redes do tipo ART ? a dificuldade de aproximar regi?es de classes que tem geometria n?o retangular, ocasionando uma generaliza??o inferior a outros m?todos de classifica??o. A partir da observa??o desses problemas, foi desenvolvido esse trabalho que prop?e tr?s metodologias. Duas dessas metodologias utilizam uma geometria mais flex?vel do que a geometria regular retangular presente nas redes ART tradicionais e minimizam o problema da prolifera??o de categorias. A terceira metodologia minimiza o problema da ordem de apresenta??o dos padr?es e a prolifera??o de categorias. Com o objetivo de validar as novas abordagens, v?rios testes foram realizados. Os resultados obtidos nesses testes demonstram a viabilidade das metodologias propostas em reduzir o n?mero de categorias e melhorar a qualidade da generaliza??o. Em muitos desses testes a quantidade m?nima de categorias necess?rias para classificar corretamente as classes foi atingida ap?s o treinamento, o que demonstra uma significativa melhora em rela??o aos m?todos j? existentes. Al?m disso, devido a nova geometria das categorias, utilizando politopos convexos, a qualidade da generaliza??o melhorou em rala??o ao estado da arte

In this thesis, a Content Based Image Retrieval (CBIR) system to query the objects in an image database is proposed. Images are represented as collections of regions after being segmented with Normalized Cuts algorithm. MPEG-7 content descriptors are used to encode regions in a 239-dimensional feature space. User of the proposed CBIR system decides which objects to query and labels exemplar regions to train the system using a graphical interface. Fuzzy ARTMAP algorithm is used to learn the mapping between feature vectors and binary coded class identification numbers. Preliminary recognition experiments prove the power of fuzzy ARTMAP as a region classifier. After training, features of all regions in the database are extracted and classified. Simple index files enabling fast access to all regions from a given class are prepared to be used in the querying phase. To retrieve images containing a particular object, user opens an image and selects a query region together with a label in the graphical interface of our system. Then the system ranks all regions in the indexed set of the query class with respect to their L2 (Euclidean) distance to the query region and displays resulting images. During retrieval experiments, comparable class precisions with respect to exhaustive searching of the database are maintained which demonstrates e ectiveness of the classifier in narrowing down the search space.

Orientador: Anna Diva Plasencia Lotufo / Resumo: A maior inserção de tecnologias da informação nas redes de distribuição de energia elétrica vem permitindo que maiores volumes de dados de consumo sejam capturados em níveis cada vez mais detalhados, menos agregados e com maiores resoluções. Com a evolução dos mercados de energia elétrica, esses tipos de dados alcançam maior importância, uma vez que a comercialização de energia também passa a considerar estes níveis de consumo. Diversas técnicas têm sido aplicadas para previsão de cargas elétricas, como modelos estatísticos, de inteligência computacional e híbridos. Na literatura especializada é possível encontrar trabalhos que aplicam a rede neural artificial ARTMAP Fuzzy para tarefas de previsão de cargas elétricas, no entanto, a técnica ainda é pouco explorada em cenários de consumo menos agregados, e com maiores níveis de detalhe. Neste trabalho a rede ARTMAP Fuzzy é aplicada em tarefas de previsão multi-step de cargas elétricas reais com distintos níveis de agregação. Considerando o impacto do ruído sobre os previsores, sobretudo na capacidade de generalização das redes neurais artificiais, a técnica singular spectrum analysis é aplicada na tarefa de remoção de ruído. Os resultados de previsão permitiram analisar desempenho da rede ARTMAP Fuzzy, que foi comparada com outros dois previsores utilizados como benchmark, a saber, seasonal autoregressive integrated moving average e a rede neural multiLayer perceptron. A remoção de ruído permitiu melhora nos níveis de generaliz... (Resumo completo, clicar acesso eletrônico abaixo) / Abstract: The increased insertion of information technologies in electricity distribution networks has allowed larger volumes of consumption data to be captured at increasingly detailed, less aggregated and higher resolution levels. With the evolution of electric energy markets, these types of data become more important, since the commercialization of energy also begins to consider these levels of consumption. Several techniques have been applied to predict electrical loads, such as statistical, computational intelligence and hybrids models. In the specialized literature it is possible to find works that apply the artificial neural network ARTMAP Fuzzy for tasks of prediction of electric charges, however, the technique is still little explored in less aggregated consumption scenarios, and with greater levels of detail. In this work the ARTMAP Fuzzy network is applied in multi-step forecasting tasks of real electric loads with different levels of aggregation. Considering the impact of noise on predictors, especially in the generalization capacity of artificial neural networks, the singular spectrum analysis technique is applied in the noise removal task. The prediction results allowed to analyze the performance of the ARTMAP Fuzzy network, which was compared with other two predictors used as benchmark, namely seasonal autoregressive integrated moving average and the multiLayer perceptron neural network. The noise removal allowed an improvement in the levels of network generalization, po... (Complete abstract click electronic access below) / Doutor

Orientador: Anna Diva Plasencia Lotufo / Resumo: A evolução dos recursos de internet levou ao crescente aumento do fluxo de dados, e por consequência, a necessidade de modelos de classificação ou previsão que suportem uma aprendizagem online. A Rede Neural ARTMAP Fuzzy tem sido utilizada nas mais diversas áreas do conhecimento, no entanto, ainda é pouco explorada em aplicações de tempo real que exigem uma aprendizagem contínua. Neste trabalho, é proposto uma Rede Neural ARTMAP Fuzzy com treinamento continuado, capaz de adquirir conhecimento ao longo da classificação ou previsão. Modificações na arquitetura e no algoritmo de aprendizagem possibilitam à rede neural ativar o treinamento sempre que necessário. Para validar o modelo proposto foram realizadas duas aplicações, uma para previsão e outra para classificação, utilizando bases de dados benchmarks e comparado com a ARTMAP Fuzzy original. Os resultados mostraram a capacidade do modelo proposto em adquirir conhecimento ao longo das amostras apresentadas de forma estável e eficiente. Assim, este estudo contribui para a evolução da rede neural ARTMAP Fuzzy e apresenta o treinamento continuado como uma alternativa eficaz para aplicações de tempo real. / Doutor

Submitted by CARLOS ROBERTO DOS SANTOS JÚNIOR null (carlos9_rsj@hotmail.com) on 2017-10-26T17:32:23Z No. of bitstreams: 1 Tese_CarlosRSantosJr_biblioteca_final.pdf: 3193090 bytes, checksum: ce950f71ef02dd650ba662b7b8eea784 (MD5) / Approved for entry into archive by Monique Sasaki (sayumi_sasaki@hotmail.com) on 2017-10-31T18:06:36Z (GMT) No. of bitstreams: 1 santosjunior_cr_dr_ilha.pdf: 3193090 bytes, checksum: ce950f71ef02dd650ba662b7b8eea784 (MD5) / Made available in DSpace on 2017-10-31T18:06:36Z (GMT). No. of bitstreams: 1 santosjunior_cr_dr_ilha.pdf: 3193090 bytes, checksum: ce950f71ef02dd650ba662b7b8eea784 (MD5) Previous issue date: 2017-09-04 / A evolução dos recursos de internet levou ao crescente aumento do fluxo de dados, e por consequência, a necessidade de modelos de classificação ou previsão que suportem uma aprendizagem online. A Rede Neural ARTMAP Fuzzy tem sido utilizada nas mais diversas áreas do conhecimento, no entanto, ainda é pouco explorada em aplicações de tempo real que exigem uma aprendizagem contínua. Neste trabalho, é proposto uma Rede Neural ARTMAP Fuzzy com treinamento continuado, capaz de adquirir conhecimento ao longo da classificação ou previsão. Modificações na arquitetura e no algoritmo de aprendizagem possibilitam à rede neural ativar o treinamento sempre que necessário. Para validar o modelo proposto foram realizadas duas aplicações, uma para previsão e outra para classificação, utilizando bases de dados benchmarks e comparado com a ARTMAP Fuzzy original. Os resultados mostraram a capacidade do modelo proposto em adquirir conhecimento ao longo das amostras apresentadas de forma estável e eficiente. Assim, este estudo contribui para a evolução da rede neural ARTMAP Fuzzy e apresenta o treinamento continuado como uma alternativa eficaz para aplicações de tempo real. / The evolution of internet resources has led to an increase in the flow of data, and consequently, the need for classification or forecasting models that support an online learning. The ARTMAP Fuzzy Neural Network has been used in several areas of knowledge, however, it is still little explored in real-time applications that require continuous learning. In this work, an ARTMAP Fuzzy Neural Network with continuous training is proposed, able to acquire knowledge along the classification or prediction. Modifications in the architecture and learning algorithm enable the neural network to activate training whenever necessary. To validate the proposed model two experiments were performed, one for forecasting and another for classification, using benchmark databases and compared with the original ARTMAP Fuzzy Neural Network. The results showed the ability of the proposed model to acquire knowledge along the presented samples in a stable and efficient way. Thus, this study contributes to the evolution of the ARTMAP Fuzzy neural network and presents the continuous training as an effective alternative to real-time applications.

Submitted by MARCOS RICARDO MÜLLER (marcos.ricardo.unesp@gmail.com) on 2018-04-23T16:13:18Z No. of bitstreams: 1 muller_mr_tese_lv.pdf: 4063915 bytes, checksum: 2bd34db37cecdea37a74a93bf0e348b5 (MD5) / Approved for entry into archive by Cristina Alexandra de Godoy null (cristina@adm.feis.unesp.br) on 2018-04-23T17:10:16Z (GMT) No. of bitstreams: 1 muller_mr_dr_ilha.pdf: 4063915 bytes, checksum: 2bd34db37cecdea37a74a93bf0e348b5 (MD5) / Made available in DSpace on 2018-04-23T17:10:16Z (GMT). No. of bitstreams: 1 muller_mr_dr_ilha.pdf: 4063915 bytes, checksum: 2bd34db37cecdea37a74a93bf0e348b5 (MD5) Previous issue date: 2018-02-26 / Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES) / A maior inserção de tecnologias da informação nas redes de distribuição de energia elétrica vem permitindo que maiores volumes de dados de consumo sejam capturados em níveis cada vez mais detalhados, menos agregados e com maiores resoluções. Com a evolução dos mercados de energia elétrica, esses tipos de dados alcançam maior importância, uma vez que a comercialização de energia também passa a considerar estes níveis de consumo. Diversas técnicas têm sido aplicadas para previsão de cargas elétricas, como modelos estatísticos, de inteligência computacional e híbridos. Na literatura especializada é possível encontrar trabalhos que aplicam a rede neural artificial ARTMAP Fuzzy para tarefas de previsão de cargas elétricas, no entanto, a técnica ainda é pouco explorada em cenários de consumo menos agregados, e com maiores níveis de detalhe. Neste trabalho a rede ARTMAP Fuzzy é aplicada em tarefas de previsão multi-step de cargas elétricas reais com distintos níveis de agregação. Considerando o impacto do ruído sobre os previsores, sobretudo na capacidade de generalização das redes neurais artificiais, a técnica singular spectrum analysis é aplicada na tarefa de remoção de ruído. Os resultados de previsão permitiram analisar desempenho da rede ARTMAP Fuzzy, que foi comparada com outros dois previsores utilizados como benchmark, a saber, seasonal autoregressive integrated moving average e a rede neural multiLayer perceptron. A remoção de ruído permitiu melhora nos níveis de generalização da rede, impactando positivamente sua capacidade preditiva. / The increased insertion of information technologies in electricity distribution networks has allowed larger volumes of consumption data to be captured at increasingly detailed, less aggregated and higher resolution levels. With the evolution of electric energy markets, these types of data become more important, since the commercialization of energy also begins to consider these levels of consumption. Several techniques have been applied to predict electrical loads, such as statistical, computational intelligence and hybrids models. In the specialized literature it is possible to find works that apply the artificial neural network ARTMAP Fuzzy for tasks of prediction of electric charges, however, the technique is still little explored in less aggregated consumption scenarios, and with greater levels of detail. In this work the ARTMAP Fuzzy network is applied in multi-step forecasting tasks of real electric loads with different levels of aggregation. Considering the impact of noise on predictors, especially in the generalization capacity of artificial neural networks, the singular spectrum analysis technique is applied in the noise removal task. The prediction results allowed to analyze the performance of the ARTMAP Fuzzy network, which was compared with other two predictors used as benchmark, namely seasonal autoregressive integrated moving average and the multiLayer perceptron neural network. The noise removal allowed an improvement in the levels of network generalization, positively impacting its predictive capacity. / 1560734

The rapid growth of computers transformed the way in which information and data was stored. With this new paradigm of data access, comes the threat of this information being exposed to unauthorized and unintended users. Many systems have been developed which scrutinize the data for a deviation from the normal behavior of a user or system, or search for a known signature within the data. These systems are termed as Intrusion Detection Systems (IDS). These systems employ different techniques varying from statistical methods to machine learning algorithms. Intrusion detection systems use audit data generated by operating systems, application softwares or network devices. These sources produce huge amount of datasets with tens of millions of records in them. To analyze this data, data mining is used which is a process to dig useful patterns from a large bulk of information. A major obstacle in the process is that the traditional data mining and learning algorithms are overwhelmed by the bulk volume and complexity of available data. This makes these algorithms impractical for time critical tasks like intrusion detection because of the large execution time. Our approach towards this issue makes use of high performance data mining techniques to expedite the process by exploiting the parallelism in the existing data mining algorithms and the underlying hardware. We will show that how high performance and parallel computing can be used to scale the data mining algorithms to handle large datasets, allowing the data mining component to search a much larger set of patterns and models than traditional computational platforms and algorithms would allow. We develop parallel data mining algorithms by parallelizing existing machine learning techniques using cluster computing. These algorithms include parallel backpropagation and parallel fuzzy ARTMAP neural networks. We evaluate the performances of the developed models in terms of speedup over traditional algorithms, prediction rate and false alarm rate. Our results showed that the traditional backpropagation and fuzzy ARTMAP algorithms can benefit from high performance computing techniques which make them well suited for time critical tasks like intrusion detection.

The significant amount of data contained in digital images present barriers to methods of learning from the information they hold. Noise and the subjectivity of image evaluation further complicate such automated processes. In this thesis, we examine a particular area in which these difficulties are experienced. We attempt to control the parameters of a multi-step algorithm that processes visual information. A framework for approaching the parameter selection problem using reinforcement learning agents is presented as the main contribution of this research. We focus on the generation of state and action space, as well as task-dependent reward. We first discuss the automatic determination of fuzzy membership functions as a specific case of the above problem. Entropy of a fuzzy event is used as a reinforcement signal. Membership functions representing brightness have been automatically generated for several images. The results show that the reinforcement learning approach is superior to an existing simulated annealing-based approach. The framework has also been evaluated by optimizing ten parameters of the text detection for semantic indexing algorithm proposed by Wolf et al. Image features are defined and extracted to construct the state space. Generalization to reduce the state space is performed with the fuzzy ARTMAP neural network, offering much faster learning than in the previous tabular implementation, despite a much larger state and action space. Difficulties in using a continuous action space are overcome by employing the DIRECT method for global optimization without derivatives. The chosen parameters are evaluated using metrics of recall and precision, and are shown to be superior to the parameters previously recommended. We further discuss the interplay between intermediate and terminal reinforcement.

Orientador: Carlos Roberto Minussi / Resumo: Esta pesquisa apresenta o desenvolvimento de uma ferramenta para a detecção e classificação de curtos-circuitos em sistemas de distribuição de energia elétrica, a qual é baseada no uso combinado da análise multirresolução e rede neural ARTMAP-fuzzy. A análise multirresolução permite a identificação de singularidades nas oscilografias e a rede da família ART garante ao sistema classificador a capacidade de aprendizado contínuo de novos padrões sem perder o conhecimento previamente adquirido. Todo o processo de diagnóstico é realizado em uma única etapa, reduzindo o custo computacional da metodologia. A eficiência do sistema é verificada por uma análise direta, na qual se contabiliza a quantidade total de acertos, e por uma avaliação comparativa, a qual envolve a substituição da rede ARTMAP-fuzzy pela rede ARTMAP-Euclideana. Resultados mostram que o sistema é eficiente, sendo capaz de detectar e classificar 100% das falhas elétricas. / Abstract: This research presents the development of a tool for the detection and classification of short circuits in electric power distribution systems, which is based on the combined use of multi-resolution analysis and fuzzy ARTMAP neural network. The multiresolution analysis allows the identification of singularities in the oscillographs and the ART family network guarantees to the classifier the ability to continuously learn new patterns without losing the previously acquired knowledge. The entire diagnostic process is performed in a single step, reducing the computational effort. The efficiency of the system is verified by a direct analysis, in which the total number of hits is counted, and by a comparative evaluation, which involves the replacement of the fuzzy ARTMAP network by the Euclidean ARTMAP network. Results show that the system is efficient, being able to detect and classify 100% of the electrical faults. / Mestre