Orientadores: Fernando Antonio Campos Gomide, Marcos Eduardo Ribeiro do Valle Mesquita / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação / Made available in DSpace on 2018-08-26T08:06:32Z (GMT). No. of bitstreams: 1 Rosa_RaulArthurFernandes_M.pdf: 8750754 bytes, checksum: 0535142e4de0e75e311aea59a977386e (MD5) Previous issue date: 2014 / Resumo: Esta dissertação estuda uma classe de redes neurais evolutivas para modelagem de sistemas a partir de um fluxo de dados. Esta classe é caracterizada por redes evolutivas com estruturas feedforward e uma camada intermediária cujo número de neurônios é variável e determinado durante a modelagem. A aprendizagem consiste em utilizar métodos de agrupamento para estimar o número de neurônios na camada intermediária e algoritmos de aprendizagem extrema para determinar os pesos da camada intermediária e de saída da rede. Neste caso, as redes neurais são chamadas de redes neurais evolutivas. Um caso particular de redes evolutivas é quando o número de neurônios da camada intermediária é determinado a priori, mantido fixo, e somente os pesos da camada intermediária e de saída da rede são atualizados de acordo com dados de entrada. Os algoritmos de agrupamento e de aprendizagem extrema que compõem os métodos evolutivos são recursivos, pois a aprendizagem ocorre de acordo com o processamento de um fluxo de dados. Em particular, duas redes neurais evolutivas são propostas neste trabalho. A primeira é uma rede neural nebulosa híbrida evolutiva. Os neurônios da camada intermediária desta rede são unineurônios, neurônios nebulosos com processamento sináptico realizado por uninormas. Os neurônios da camada de saída são sigmoidais. Um algoritmo recursivo de agrupamento baseado em densidade, chamado de nuvem, é utilizado para particionar o espaço de entrada-saída do sistema e estimar o número de neurônios da camada intermediária da rede; a cada nuvem corresponde um neurônio. Os pesos da rede neural nebulosa híbrida são determinados utilizando a máquina de aprendizado extremo com o algoritmo quadrados mínimos recursivo ponderado. O segundo tipo de rede proposto neste trabalho é uma rede neural multicamada evolutiva com neurônios sigmoidais na camada intermediária e de saída. Similarmente à rede híbrida, nuvens particionam o espaço de entrada-saída do sistema e são utilizadas para estimar o número de neurônios da camada intermediária. O algoritmo para determinar os pesos da rede é a mesma versão recursiva da máquina de aprendizado extremo. Além das redes neurais evolutivas, sugere-se também uma variação da rede adaptativa OS-ELM (online sequential extreme learning machine) mantendo o número de neurônios na camada intermediária fixo e introduzindo neurônios sigmoidais na camada de saída. Neste caso, a aprendizagem usa o algoritmo dos quadrados mínimos recursivo ponderado no aprendizado extremo. As redes foram analisadas utilizando dois benchmarks clássicos: identificação de forno a gás com o conjunto de dados de Box-Jenkins e previsão de série temporal caótica de Mackey-Glass. Dados sintéticos foram gerados para analisar as redes neurais na modelagem de sistemas com parâmetros e estrutura variantes no tempo (concept drif e concept shift). Os desempenhos foram quantificados usando a raiz quadrada do erro quadrado médio e avaliados com o teste estatístico de Deibold-Mariano. Os desempenhos das redes neurais evolutivas e da rede adaptativa foram comparados com os desempenhos da rede neural com aprendizagem extrema e dos métodos de modelagem evolutivos representativos do estado da arte. Os resultados mostram que as redes neurais evolutivas sugeridas neste trabalho são competitivas e têm desempenhos similares ou superiores às abordagens evolutivas propostas na literatura / Abstract: Abstract: This dissertation studies a class of evolving neural networks for system modeling from data streams. The class encompasses single hidden layer feedforward neural networks with variable and online de nition of the number of hidden neurons. Evolving neural network learning uses clustering methods to estimate the number of hidden neurons simultaneously with extreme learning algorithms to compute the weights of the hidden and output layers. A particular case is when the evolving network keeps the number of hidden neurons xed. In this case, the number of hidden neurons is found a priori, and the hidden and output layer weights updated as data are input. Clustering and extreme learning algorithms are recursive. Therefore, the learning process may occur online or real-time using data stream as input. Two evolving neural networks are suggested in this dissertation. The rst is na evolving hybrid fuzzy neural network with unineurons in the hidden layer. Unineurons are fuzzy neurons whose synaptic processing is performed using uninorms. The output neurons are sigmoidals. A recursive clustering algorithm based on density and data clouds is used to granulate the input-output space, and to estimate the number of hidden neurons of the network. Each cloud corresponds to a hidden neuron. The weights of the hybrid fuzzy neural network are found using the extreme learning machine and the weighted recursive least squares algorithm. The second network is an evolving multilayer neural network with sigmoidal hidden and output neurons. Like the hybrid neural fuzzy network, clouds granulate the input-output space and gives the number of hidden neurons. The algorithm to compute the network weights is the same recursive version of the extreme learning machine. A variation of the adaptive OS-ELM (online sequential extreme learning machine) network is also suggested. Similarly as the original, the new OS-ELM xes the number of hidden neurons, but uses sigmoidal instead of linear neurons in the output layer. The new OS-ELM also uses weighted recursive least square.The hybrid and neural networks were evaluated using two classic benchmarks: the gas furnace identi cation using the Box-Jenkins data, and forecasting of the chaotic Mackey-Glass time series. Synthetic data were produced to evaluate the neural networks when modeling systems with concept drift and concept shift. This a modeling circumstance in which system structure and parameters change simultaneously. Evaluation was done using the root mean square error and the Deibold-Mariano statistical test. The performance of the evolving and adaptive neural networks was compared against neural network with extreme learning, and evolving modeling methods representative of the current state of the art. The results show that the evolving neural networks and the adaptive network suggested in this dissertation are competitive and have similar or superior performance than the evolving approaches proposed in the literature / Mestrado / Engenharia de Computação / Mestre em Engenharia Elétrica

Orientador: Fernando José Von Zuben / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação / Made available in DSpace on 2018-08-26T07:59:40Z (GMT). No. of bitstreams: 1 Kulaif_AndreaCarolinaPeres_M.pdf: 1163458 bytes, checksum: ce006fc65c25e72acbf0a2efeb2a3450 (MD5) Previous issue date: 2014 / Resumo: Máquinas de Aprendizado Extremo (ELMs, do inglês Extreme Learning Machines) são redes neurais com uma camada de entrada, uma camada intermediária e uma camada de saída. Sua arquitetura é equivalente à do perceptron de múltiplas camadas (MLP, do inglês Multilayer Perceptron), mas os pesos e o número de neurônios da camada intermediária em ELMs são definidos arbitrariamente e a priori, enquanto os pesos da camada de saída são os únicos parâmetros ajustáveis durante o processo de treinamento supervisionado. O ajuste desses pesos da camada de saída leva a um problema de otimização linear, responsável pelo fato de o treinamento de uma ELM ser ao menos uma ordem de magnitude mais rápido do que o treinamento de uma MLP. No entanto, o desempenho das ELMs é bastante influenciado pelo grau de regularização adotado no ajuste dos pesos da camada de saída. Além disso, por serem definidos de forma arbitrária e não estarem susceptíveis a treinamento, geralmente opera-se com um número elevado de neurônios na camada intermediária, sendo muito comum a presença de neurônios redundantes e pouco funcionais, de modo que sua extração não compromete o desempenho da rede neural como um todo. Em vista desse cenário, esta dissertação apresenta contribuições, junto a ELMs voltadas para tarefas de regressão, em duas frentes principais: (1) Definição de um grau apropriado de regularização no cálculo dos pesos da camada de saída de ELMs; e (2) Ajuste do número de neurônios na camada intermediária, pela extração automática de neurônios redundantes ou pouco funcionais. Mostra-se neste trabalho que, diferentemente do que é praticado na literatura, o grau de regularização mais indicado para uma ELM não varia apenas entre problemas de regressão distintos, mas dentro do mesmo problema de regressão, ainda que se mantenha constante o número de neurônios na camada intermediária. Uma vez detectada a necessidade do ajuste do grau de regularização a cada configuração de ELM, propõe-se aqui uma busca unidimensional mais refinada do que aquela já existente na literatura. Quanto à proposta apresentada para definição do número de neurônios na camada intermediária, faz-se uma análise do espaço de características gerado pelos neurônios dessa camada e aplica-se poda de neurônios que pouco ou nada contribuem para gerar este espaço de características. Além disso, propõe-se o emprego de LASSO e Elastic Net como técnicas de regularização, as quais promovem poda adicional de neurônios que não contribuem para a tarefa de regressão. Para as duas contribuições do trabalho, são apresentados resultados experimentais e comparações com outras propostas da literatura. Há um aumento de custo computacional com as propostas deste trabalho, mas é expressivo o ganho em desempenho em alguns cenários / Abstract: Extreme learning machines are neural networks composed of one input layer, one hidden layer, and one output layer. Their architecture is equivalent to the one of the multilayer perceptron, but the weights and the number of hidden neurons in ELMs are defined a priori and in an arbitrary manner, while the weights at the output layer are the only adjustable parameters during supervised learning. The adjustment of the weights at the output layer leads to a linear optimization problem, responsible for the fact that the training of an ELM be at least one order of magnitude faster than training an MLP. However, the performance of ELMs is greatly influenced by the regularization degree adopted when setting the weights of the output layer. Moreover, by being arbitrarily defined and not susceptible to learning, it is usual to adopt a large number of neurons in the hidden layer, thus promoting the presence of redundant and poorly functional neurons, so that their extraction does not compromise the neural network performance as a whole. Under those circumstances, this dissertation presents contributions to ELMs devoted to regression problems on two main fronts: (1) Definition of a proper degree of regularization when computing the weights at the output layer of ELMs; and (2) Adjustment of the number of neurons at the hidden layer, by the automatic extraction of redundant or poorly functional neurons. It is shown in this work that, different from what is done in the literature, the most suitable degree of regularization for an ELM varies not only among different regression problems, but within the same regression problem and even if it is kept constant the number of neurons at the hidden layer. Once detected the need for adjustment of the degree of regularization for each ELM configuration, it is proposed here a one-dimensional search endowed with more refined steps than that available in the literature. Regarding the proposal to properly define the number of neurons in the hidden layer, an analysis of the feature space generated by neurons in the hidden layer is performed and neurons with no or even a shallow contribution to span the feature space are pruned. Furthermore, the use of LASSO and Elastic Net as regularization techniques are proposed here, which promotes additional pruning of neurons that do not contribute to the regression task. For both contributions of this work, experimental results and comparisons with other proposals in the literature are presented. There is an increase in the computational cost with the proposals of this work, but it is significant the gain in performance in some scenarios / Mestrado / Engenharia de Computação / Mestra em Engenharia Elétrica

Orientador: Roger Josef Zemp / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Química / Made available in DSpace on 2018-08-23T09:46:30Z (GMT). No. of bitstreams: 1 Santos_RaphaelRibeiroCruz_M.pdf: 3339099 bytes, checksum: 221059e3eab5645623f894afee5431de (MD5) Previous issue date: 2013 / Resumo: Neste trabalho é apresentada uma metodologia de desenvolvimento de um sistema supervisório utilizando Microsoft Excel®. O sistema foi desenvolvido para operar uma planta de polimerização em solução de estireno. A aplicação de códigos computacionais na em VBA (Visual Basic for Applications) na planilha torna possível a criação de um cliente OPC para comunicação entre o computador e hardware. A planilha possui, portanto condições de receber, enviar, armazenar e tratar informações vindas do processo. A polimerização de estireno é realizada utilizando tolueno como solvente e BPO (Peroxido de Benzoíla) como iniciador. Aquisição da temperatura do reator, temperatura de entrada e saída da camisa e massa especifica do meio reacional foram realizada. A partir dos dados experimentais extraídos da reação de polimerização, foi gerado um modelo empírico utilizando Redes Neurais Artificiais (RNA). As RNAs são implementadas no Excel de forma simples, usando a própria planilha, por operar matrizes, tornando-se oportunas para o desenvolvimento de controladores preditivos. O Microsoft Excel® mostrou-se uma interessante ferramenta para aplicação em automação de protótipos experimentais / Abstract: This research work presents a methodology for the development of a supervisory system using Microsoft Excel®. The system was designed to operate a styrene polymerization plant. The development of computational codes in VBA (Visual Basic for Applications) allows for the creation of an OPC client for communication between computer and hardware. The spreadsheet has porting is able to receive, send, store and process information from the process. The polymerization of styrene is carried out using toluene as solvent and BPO (benzoyl peroxide) as an initiator. Acquisition of reactor temperature, inlet temperature and outlet shirt and specific mass of the reaction medium were performed. From the experimental data extracted from the polymerization reaction, an empirical model was generated using Artificial Neural Networks (RNA). RNAs are easily implemented in Excel simply, using operations arrays, making it appropriate for the development of predictive controllers. The use of Microsoft Excel® proved to be an interesting tool for application in automation experimental prototypes / Mestrado / Engenharia Química / Mestre em Engenharia Química

Orientador: Alberto Luiz Serpa / Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Mecânica / Made available in DSpace on 2018-08-23T23:04:02Z (GMT). No. of bitstreams: 1 ArizaZambrano_WilliamCamilo_M.pdf: 5789145 bytes, checksum: 151f5e3ef1780d5448a7073b85b4715f (MD5) Previous issue date: 2013 / Resumo: Este trabalho tem como objetivo principal o estudo de um método de controle baseado no uso de redes neurais artificiais aplicado ao problema de controle de vibrações em estruturas flexíveis. Este trabalho centra-se no estudo do esquema de controle inverso-direto, que consiste em identificar a dinâmica inversa da planta através de uma rede neural artificial para ser usada como controlador. Três exemplos de aplicação foram resolvidos utilizando-se controladores projetados com o método inverso-direto. A primeira aplicação é o controle de vibrações em uma estrutura mecânica de parâmetros concentrados. O segundo exemplo de aplicação é o controle de vibrações de uma placa engastada em uma de suas extremidades. Neste caso, a placa engastada foi modelada utilizando-se o método de elementos finitos. No seguinte exemplo, o modelo da placa usado no exemplo anterior foi reduzido, deixando apenas os primeiros modos de vibração. No último exemplo tratou-se o problema de controle não colocado das vibrações em uma placa engastada. Os resultados foram analisados a partir da resposta temporal e da resposta em frequência do sistema em malha fechada. Para comparar os resultados obtidos utilizando-se o método de controle baseado em redes neurais artificiais, os exemplos citados anteriormente foram também resolvidos utilizando-se o método de controle ??. Os resultados obtidos demonstram que o método de controle baseado em modelo inverso usando redes neurais foi eficaz na resolução deste tipo de problema / Abstract: The goal of this work is to study a control method based on artificial neural networks applied to the vibration control of flexible structures problem. This work focuses in the direct-inverse control scheme which consists of identifing the inverse dynamics of the plant through an artificial neural network to be used as the controller. Three application examples using the direct-inverse method were solved. The first application is the vibration control in a mechanical structure of concentrated parameters. The second application example is the vibration control of a cantilever plate. The cantilever plate was modeled using the finite elements method. In the third example, a reduction of the cantilever plate model was made. In the last example a non-collocated control problem of vibration in a cantilever plate was treated. The results of the scheme were evaluated according to the temporal response and the frequency response of the closed-loop system. In order to compare the results obtained using the control method based on artificial neural networks, the previous examples were also solved using the ?? control method. The obtained results show that the control method based on inverse model using neural networks was effective in solving this kind of problem / Mestrado / Mecanica dos Sólidos e Projeto Mecanico / Mestre em Engenharia Mecânica

Orientadores: Ana Maria Frattini Fileti, Florival Rodrigues de Carvalho / Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Quimica / Made available in DSpace on 2018-08-03T02:39:01Z (GMT). No. of bitstreams: 1 Vieira_WilliamGoncalves_D.pdf: 7050309 bytes, checksum: c1e288d81c3eebed686e86e3bcc5edda (MD5) Previous issue date: 2002 / Resumo: A unidade de Craqueamento Catalítico em Leito Fluido - FCC, modelo Kellogg Orthoflow F., representa um processo de refino de petróleo apresentando característica altamente não linear, possuindo fortes interaçães entre as variáveis de produção, e condições de operação extremamente severas. Essas unidades são constituídas basicamente de duas seções: uma de reação catalítica na qual ocorrem as reações de quebra de cadeia hidrocarbônica e também há formação de coque, desativando o catalisador; e outra seção onde ocorre a regeneração do catalisador desativado. O objetivo dessa unidade é transformar produtos de elevado peso molecu1ar, que apresentam baixo valor agregado, em compostos de elevado valor comercial. As unidades FCC, devido às condições severas de operação, necessitam de um controle rigoroso de determinadas variáveis operacionais. Apesar de existirem instalados controladores avançados baseados em modelos de convolução, fteqüentemente essas unidades são reguladas por meio de controladores PID padrões e também através de controle manual baseado no conhecimento de operadores das refinarias. O presente estudo tem como objetivo desenvolver um controlador preditivo multivariável (Multivariable Predictive Control - MPC) para ser implementado na unidade FCC, utilizando Redes Neurais Artificiais (RNA) como modelo interno do controlador. Inicialmente é previsto realizar a identificação do processo da FCC em RNA, obedecendo a seguinte estratégia: usando um modelo fenomenológico que representa a unidade industrial, e partindo de um estado inicial são aplicados diversos degraus nas variáveis manipuladas analisando as respostas nas variáveis controladas do processo. A partir destas simulações são gerados diversos conjuntos de dados divididos em grupos de treinamento, validação e teste. Diversas redes neurais do tipo multicamada feedforward são então criadas para representar o modelo fenomenológico, sendo selecionada aquela que apresenta melhor desempenho, quando comparada com o modelo. A configuração da RNA escolhida como modelo interno foi 8x15x4 (camadas de entrada, escondida e de saída, respectivamente) apresentando um erro relativo máximo de 1% quando comparado com os resultados do modelo rigoroso. Posteriormente, foi previsto desenvolver um controlador preditivo multivariável usando como modelo interno esta rede selecionada. Este controlador foi implementado dentro da rotina do modelo fenomenológico, sendo então realizados testes para verificar seu desempenho, comparando o resultado com o sistema aberto e também com o controlador DMC (Dynamic Matrix Contro!) existente. Diversos horizontes de predição e controle foram analisados, sendo selecionados aqueles que apresentaram melhor desempenho. Foi introduzido um ruído nos sinais do modelo fenomenológico para testar a robustez do controlador proposto. O controlador apresentou bom desempenho mesmo na presença de ruídos de 1,5%, levando sempre as variáveis controladas para seus valores de referência, o que comprova sua robustez. Baseados nestes resultados, conclui-se que um controlador preditivo multivariável baseado em RNA é perfeitamente capaz de controlar um sistema não linear de porte do FCC, onde elevada interação entre suas variáveis operacionais e fortes restrições estão presentes. Isto nos permite extrapolar que são boas as expectativas para uma futura utilização na unidade industrial, principalmente devido à sua simplicidade, robustez e facilidade de implementação, a despeito da dificuldade de sintonia do controlador / Abstract: The Fluid Cracking Catalytic unit - FCC, Kellogg Orthotlow F. model, represents a very strong nonlinear process, with severe interactions among the process variables, and extremely severe operation conditions. The unit is composed of two sections: one is the catalytic reaction, where the hydrocarbon breaks chain reactions and coke deposition take place becoming the catalyst inactive, and the other where the catalyst regeneration happens. The objective is to transform products derived ITom petroleum, with high molecular weight and low added value, into products with higher profit. Due to the severe operation conditions, rigorous control of some variable is needed. In spite of the existence of advanced control based on a convolution model, in practice, FCC units are ftequently regulated by standard PID controllers, and also through manual control actions based on the knowledge of the refinery operators. The objective of this study is to develop a Multivariable Predictive Control (MPC) to be implemented in the FCC unit, using the Artificial Neural Networks (ANN) as internal model. Initially, the process identification in ANN of the FCC was done by the following strategy: an initial state was fust achieved using numerical simulations based on the phenomenological mo deI. Then, several steps changes were applied to the manipulated variables and the response in the controlled variables were monitored and recorded. From these simulations, several groups of data were generated for training, validation and testing. The Neural Network of multilayer feedforward type were created to represent the phenomenological model, being selected the one that better represents the phenomenological model. The ANN configuration chosen to be the internal model was 8x15x4 (Input x Hidden x Output) architecture, with a maximum relative error below 1 % when comparing the results with the phenomenological model results. Later on, it was developed a multivariable predictive control based on this internal model. This control was implemented inside the routine of the phenomenological model. The performance tests were evaluated comparing the results with the open system and with the Dynamics Matrix Control (DMC). Several prediction and control horizons were analyzed. The ANN control presented good performance even in the presence of noise of 1,5% of intensity, taking back the controlled variables to its setpoints, proving its robustness. Based on these results, a multivariable predictive control based on ANN showed be perfectly able to control a nonlinear system like a FCC unit, where high interactions among process variables, and strong restriction conditions exists. This allows us to have good expectations for a future use in the industrial unit, mainly due to its simplicity, robustness and facility ofuse, in spite ofthe difliculty oftune control / Doutorado / Sistemas de Processos Quimicos e Informatica / Doutor em Engenharia Química

Orientador: Douglas Eduardo Zampieri / Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Mecanica / Made available in DSpace on 2018-08-04T03:12:52Z (GMT). No. of bitstreams: 1 Goncalves_JoaoBosco_D.pdf: 9689870 bytes, checksum: db2fb279a1080765ab5bddf9068a356d (MD5) Previous issue date: 2004 / Resumo: Este trabalho concebeu um robô bípede composto por uma sucessão de elos rígidos interconectados por 12 articulações rotativas, permitindo movimentos tridimensionais. O robô bípede é constituído por dois subsistemas: tronco e membros inferiores. A modelagem matemática foi realizada em separado para cada um dos subsistemas, que são integrados pelas forças reativas de vínculo. Nossa proposta permite ao robô bípede executar a andadura dinâmica utilizando o tronco para fornecer o balanço dinâmico (estabilidade postural). De forma inédita, foi desenvolvido um gerador automático de trajetória para o tronco que processa as informações de posições e acelerações impostas aos membros inferiores, dotando o robô bípede de reflexos. Foi desenvolvido um gerador de marcha que utiliza a capacidade do robô bípede de executar movimentos tridimensionais, implicando andadura dinamicamente estável sem a efetiva utilização do tronco. O gerador automático de trajetória para o tronco entra em ação se a marcha gerada não mantiver o balanço dinâmico, restabelecendo uma marcha estável. Foi projetado um sistema de controle adaptativo por modelo de referência que utiliza redes neurais artificiais. A avaliação de estabilidade é feita segundo o critério de Lyapunov. O sistema de controle e o gerador automático de trajetórias para o tronco são integrados, compondo os mecanismos adaptativos desenvolvidos para solucionar o modo de andar dinâmico / Abstract: The main objective of this work is to project a biped robot machine with a trunk. The mathematical model was realized by considering two sub-systems: the legs and the trunk. The trajectories of the trunk are planned to compensate torques inherent to the dynamic gait, permitting to preserve the dynamic balance of the biped robot. An automatic generator of trajectory for the trunk was developed that processes the infonnation of positions and accelerations imposed to the legs. A gait generator was developed that uses the capacity of the biped robot to execute three-dimensional movements, causing a steady dynamic gait without the effective use of the trunk. The automatic generator of trajectory for the trunk actuates, if the generated do not keep the dynamic balance, reestablishing he steady dynamic gait. A neural network reference model for the adaptive control was projected, which utilizes an RBF neural network and a stability evaluation is based on the criterion of Lyapunov. The system of control and the automatic generator of trajectories for the trunk are integrated, composing the adaptive mechanisms developed to solve the way of dynamic walking / Doutorado / Mecanica dos Sólidos e Projeto Mecanico / Doutor em Engenharia Mecânica

Orientador: Saide Jorge Calil / Tese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Eletrica e de Computação / Made available in DSpace on 2018-08-04T18:29:09Z (GMT). No. of bitstreams: 1 FerreyraRamirez_ErnestoFernando_D.pdf: 2533123 bytes, checksum: 4ec959f90e4b7a78bc857107a1a5d844 (MD5) Previous issue date: 2005 / Resumo: No Brasil, existe uma parcela significativa de equipamentos médico-hospitalares inoperantes devido à condução inadequada, feita por pessoas despreparadas, do processo de aquisição desses equipamentos. Visando uma futura solução para esse problema, nesta tese foi desenvolvido um estudo para mostrar a possibilidade de representar (através da utilização de redes neurais artificiais) o processo cognitivo utilizado por engenheiros clínicos experientes durante a fase de ponderação dos critérios para julgamento de propostas de fornecimento de equipamentos médicos. Para isso, as respostas fornecidas, a uma pesquisa com engenheiros clínicos de várias regiões do país, foram usadas para construir exemplos para treinamento de diversas arquiteturas de redes neurais. Os melhores resultados (maior correlação com as respostas originais e menor erro quadrático de teste) foram obtidos para a composição (ensemble) de 100 redes neurais de duas camadas escondidas treinadas com o algoritmo back-propagation. Isso mostrou a viabilidade de representar o conhecimento dos especialistas na forma de um modelo conexionista não-linear, cujas saídas fornecem a importância de diversos fatores (clínico, financeiro, qualidade, segurança e técnico) envolvidos no processo de julgamento de propostas para aquisição de um equipamento médico / Abstract: Most recently, in Brazil, there are evidences of a great number of useless medical equipment, due to the absence of experienced professionals to conduct an effective purchasing plan by the healthcare institutions. In order to search a future solution to this problem it was developed a study to verify the liability of representing (trought artificial neural networks) the cognitive process used by clinical engineering experts, during the evaluation phase of purchasing proposals for medical equipment. An inquiry (using electronic mail) to clinical engineers from several brazilian regions was conducted, using an electronic chart that contained a list of parameters commonly used for this evaluation phase. Data from the filled charts were used to train, and to test, diverse types of artificial neural networks. The best results (major correlation and minor quadratic errors with respect to the original entries) were encountered for an ensemble of 100 two-hidden-layers perceptrons trained with the backpropagation algorithm. It was then showed that the knowlegde of clinical engineers (for the evaluation process of purchasing proposals) can be represented by a non-linear connectionist model, whose entries would be the phisical risk, cost and strategic importance of the medical equipment. The model's outputs are the importance given by clinical engineers for five factors (clinical, financial, quality, safety and technical) for the evaluation of a medical equipment / Doutorado / Engenharia Biomedica / Doutor em Engenharia Elétrica

In this thesis we present a theoretical investigation of the feasibility of using a problem specific inductive bias for back-propagated neural networks. We argue that if a learning algorithm is biased towards optimizing a certain performance measure, it is plausible to assume that it will generate a higher performance score when evaluated using that particular measure. We use the term measure function for a multi-criteria evaluation function that can also be used as an inherent function in learning algorithms, in order to customize the bias of a learning algorithm for a specific problem. Hence, the term measure-based learning algorithms. We discuss different characteristics of the most commonly used performance measures and establish similarities among them. The characteristics of individual measures and the established similarities are then correlated to the characteristics of the backpropagation algorithm, in order to explore the applicability of introducing a measure function to backpropagated neural networks. Our study shows that there are certain characteristics of the error back-propagation mechanism and the inherent gradient search method that limit the set of measures that can be used for the measure function. Also, we highlight the significance of taking the representational bias of the neural network into account when developing methods for measure-based learning. The overall analysis of the research shows that measure-based learning is a promising area of research with potential for further exploration. We suggest directions for future research that might help realize measure-based neural networks. / The study is an investigation on the feasibility of using a generic inductive bias for backpropagation artificial neural networks, which could incorporate any one or a combination of problem specific performance metrics to be optimized. We have identified several limitations of both the standard error backpropagation mechanism as well the inherent gradient search approach. These limitations suggest exploration of methods other than backpropagation, as well use of global search methods instead of gradient search. Also, we emphasize the importance of taking the representational bias of the neural network in consideration, since only a combination of both procedural and representational bias can provide highly optimal solutions.

Denna rapport jämför prestandan mellan state-of-the-art AI-botar i racing spelet TORCS och en AI-bot som kör med hjälp av ett artificiellt neuralt nätverk (ANN-bot). ANN-boten, som implementerades som en del av arbetet, använder en feedforward arkitektur och backpropagation för inlärning. Ett separat program som användes för att träna det neurala nätverket med träningdata som spelats in från TORCS implementerades också. Som state-of-the-art AI-botar användes AI-botar som har använts i en tävling. De fyra AI-botarna testades på åtta olika banor och data om hur lång tid varje varv tog och hur snabbt AI-botarna körde sparades och sammanställdes. Resultaten visar att på banorna som ANN-boten klarar av att köra runt så är ANN-boten snabbare än en den långsamaste state-of-the-art boten, men ANNboten klara inte av majoriteten av banorna som den testades på. Anledning till detta var antagligen brist på varierande träningsdata.

The aim of this thesis is to explore the viability of artificial neural networks using a purely contextual word representation as a solution for part-of-speech tagging. Furthermore, the effects of deep learning and increased contextual information of the network are explored. This was achieved by creating an artificial neural network written in Python. The input vectors employed were created by Word2Vec. This system was compared to a baseline using a tagger with handcrafted features in respect to accuracy and precision. The results show that the use of artificial neural networks using a purely contextual word representation shows promise, but ultimately falls roughly two percent short of the baseline. The suspected reason for this is the suboptimal representation for rare words. The use of deeper network architectures shows an insignificant improvement, indicating that the data sets used might be too small. The use of additional context information provided a higher accuracy, but started to decline after a context size of one.