Denna rapport jämför två nätverksarkitekturer för artificiella neurala nätverk vars uppgift är att realisera ett styrsystem för ett fordon som det även skall lära sig att styra. Jämförelsen bygger på utförda experiment där de båda nätverken fick lära sig att styra ett fordon längs en slumpgenererad väg. Båda nätverken bygger på belöningsbaserad inlärning för att lära sig lösa uppgiften. Resultatet av utvärderingen visar både att nätverken inte hade några problem med att lära sig att styra fordonet och att de inte krävde lång tid för att kunna lära sig hur fordonet skulle styras. Resultaten visar inte heller att någon skillnad fanns i vare sig tillförlitlighet eller generaliseringsförmåga hos de båda nätverksarkitekturerna.

Arbetet som presenteras i den här rapporten handlar om ansiktsigenkänning från webbkameror med hjälp av principal component analysis samt artificiella neurala nätverk av typen feedforward. Arbetet förbättrar tekniken med hjälp av filterbaserade metoder som bland annat används inom ansiktsdetektering. Dessa filter bygger på att skicka med redundant data av delregioner av ansiktet.

Detta arbete går ut på att testa hur två olika träningsmetoder påverkar hur ett artificiellt neuralt nätverk (ANN) presterar i en 2d spelmiljö. Ett belöningsbaserat nätverk som använder genetiska algoritmer har jämförts mot ett exempelbaserat nätverk som använder backpropagation. För att göra detta möjligt att testa så behövde fyra delsteg genomföras. Dessa är utveckling av belöningsbaserad ANN, utveckling av exempelbaserad ANN, utveckling av testmiljö och evaluering av resultat. Resultaten visar att agenten belöningsbaserat nätverk har presterat bättre i det flesta testen men även att den varit mer slumpmässig. Det finns dock undantag där den agenten med exempelbaserat nätverk har varit bättre. Slutsatsen är att efter detta experiment rekommenderas en agent med belöningsbaserat nätverk över en med exempelbaserat men att detta inte är någon garanti för att få optimala resultat. Ett framtida arbete som hade varit intressant är att fokusera på endast en algoritm och se hur träning och skillnader på olika nätverksarkitekturer hade påverkat den.

Detta arbete undersöker två olika tekniker för att evaluera speltillstånd i schack. Teknikerna är samevolution och historiebaserad evolution. De används i kombination med artificiella neurala nätverk och algoritmen minimax. Teknikerna används för att låta två agenter spela schack, genom att välja ut det bästa draget. Kan en agent som bygger på samevolution slå en agent som bygger på historiebaserad evolution? Teknikerna har testats genom att låta agenterna evolveras i 200 generationer var för att sedan låta dem spela mot varandra. Den samevolverade agenten vann tre av 24 matcher, den historiebaserade vann en, och resten slutade i remi. Det tyder på att en samevolverad agent kan slå en historiebaserad, men att de är väldigt lika. Undersökningen tyder på att samevolverade schackagenter har stor risk att hamna i ett lokalt maximum medan historiebaserade gör många bra drag, men saknar strategi för att vinna.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack. Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor. Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack.Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor.Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

The data used in this paper is an open source data, that was collected in Portugal over a three year period between 2004 and 2007. It consists of the physiochemical parameters, and the quality grade of the wines. This study focuses on assessing which variables that primarily affect the quality of a wine and how the effects of the variables interact with each other, and also compare which of the different classification methods work the best and have the highest degree of accuracy. The data is divided into red and white wine where the response variable is ordered and consists of the grades of quality for the different wines. Due to the distribution in the response variable having too few observations in some of the quality grades, a new response variable was created where several grades were pooled together so that each different grade category would have a good amount of observations. The statistical methods used are Bayesian ordered logistic regression as well as two data mining techniques which are neural networks and decision trees. The result obtained showed that for the two types of wine it is primarily the alcohol content and the amount of volatile acid that are recurring parameters which have a great influence on predicting the quality of the wines. The results also showed that among the three different methods, decision trees were the best at classifying the white wines and the neural network were the best for the red wines.

Machine learning and its wide range of applications is becoming increasingly prevalent in both academia and industry. This thesis will focus on the two machine learning methods convolutional neural networks and reinforcement learning. Convolutional neural networks has seen great success in various applications for both classification and regression problems in a diverse range of fields, e.g. vision for self-driving cars or facial recognition. These networks are built on a set of trainable weights optimized on data, and a set of hyperparameters set by the designer of the network which will remain constant. For the network to perform well, the hyperparameters have to be optimized separately. The goal of this thesis is to investigate the use of reinforcement learning as a method for optimizing hyperparameters in convolutional neural networks built for classification problems. The reinforcement learning methods used are a tabular Q-learning and a new Q-learning inspired algorithm denominated max-table. These algorithms have been tested with different exploration policies based on each hyperparameter value’s covariance, precision or relevance to the performance metric. The reinforcement learning algorithms were mostly tested on the datasets CIFAR10 and MNIST fashion against a baseline set by random search. While the Q-learning algorithm was not able to perform better than random search, max-table was able to perform better than random search in 50% of the time on both datasets. Hyperparameterbased exploration policy using covariance and relevance were shown to decrease the optimizers’ performance. No significant difference was found between a hyperparameter based exploration policy using performance and an equally distributed exploration policy. / Maskininlärning och dess många tillämpningsområden blir vanligare i både akademin och industrin. Den här uppsatsen fokuserar på två maskininlärningsmetoder, faltande neurala nätverk och förstärkningsinlärning. Faltande neurala nätverk har sett stora framgångar inom olika applikationsområden både för klassifieringsproblem och regressionsproblem inom diverse fält, t.ex. syn för självkörande bilar eller ansiktsigenkänning. Dessa nätverk är uppbyggda på en uppsättning av tränbara parameterar men optimeras på data, samt en uppsättning hyperparameterar bestämda av designern och som hålls konstanta vilka behöver optimeras separat för att nätverket ska prestera bra. Målet med denna uppsats är att utforska användandet av förstärkningsinlärning som en metod för att optimera hyperparameterar i faltande neurala nätverk gjorda för klassifieringsproblem. De förstärkningsinlärningsmetoder som använts är en tabellarisk "Q-learning" samt en ny "Q-learning" inspirerad metod benämnd "max-table". Dessa algoritmer har testats med olika handlingsmetoder för utforskning baserade på hyperparameterarnas värdens kovarians, precision eller relevans gentemot utvärderingsmetriken. Förstärkningsinlärningsalgoritmerna var i största del testade på dataseten CIFAR10 och MNIST fashion och jämförda mot en baslinje satt av en slumpmässig sökning. Medan "Q-learning"-algoritmen inte kunde visas prestera bättre än den slumpmässiga sökningen, kunde "max-table" prestera bättre på 50\% av tiden på både dataseten. De handlingsmetoder för utforskning som var baserade på kovarians eller relevans visades minska algoritmens prestanda. Ingen signifikant skillnad kunde påvisas mellan en handlingsmetod baserad på hyperparametrarnas precision och en jämnt fördelad handlingsmetod för utforsking.

Eftersom mental ohälsa stiger i samhället och forskningen inte har ett tydligt svar så har vi i detta projekt formulerat en egen hypotes om varför vi ser den här trenden. Eftersom nyhetstjänster tjänar på att publicera negativa artiklar så leder det till att fler konsumerar negativa nyheter. Målet med projektet är att ta fram en nyhetsaggregator som utför sentimentanalys påaktuella nyheter från Aftonbladet, Expressen, DN och SVT där nyheterna kategoriseras i positiva, neutrala och negativa nyheter. Nyheterna samlas in med en egenutvecklad webskrapare som hämtar nyheterna från respektive källa. Sedan laddas nyheterna upp på en databas och bearbetas sedan för maskininlärning. För klassificering av nyhetsartiklar har vi tränat ett neuralt nätverk som utför klassificering av nyheter i det allmänna nyhetsflödet. Vi har även utvecklat en egen lexikonbaserad modell som är unik för varje användare för att kunna predicera användarspecifika sentiment. Resultat är en egendesignad hemsida med ett allmänt nyhetsflöde, samt ett anpassat flöde för registrerade användare, där man med ett reglage kan reglera vilken typ av nyheter och från vilka nyhetssajter som man vill se nyheter. På hemsidan presenteras även statistik över bland annat hur fördelningen av positiva, neutrala och negativa nyheter är på de olika nyhetssajterna

This report studies how a non-linear autoregressive neural network algorithm for stock market value prognoses is affected by unforeseen events. The study attempts to find out the recovery period for said algorithms after an event, and whether the magnitude of the event affects the recovery period. Tests of 1-day prognoses' deviations from the observed value are carried out on five real stock events and four created simulation sets which exclude the noisy data of the stock market and isolates different kinds of events. The study concludes that the magnitude has no discernible impact on recovery, and that a sudden event will allow recovery within days regardless of magnitude or change in price development rate. However, less sudden events will cause the recovery period to extend. Noise such as surrounding micro-events, aftershocks, or lingering instability of stock prices will affect accuracy and recovery time significantly. / Denna studie undersöker hur ett icke-linjärt autoregressivt neuronnät för aktiemarknadsprognoser påverkas av oväntade händelser. Studien ämnar finna återhämtningsperioden för nätverket efter en händelse, och ta reda på om den initiala påverkan av händelsen påverkar återhämtningen. Tester av endagsprognosers avvikelse från det verkliga värdet genomförs på fem verkliga aktier och fyra skapade dataset som exkluderar den omgivande variationen från aktiemarknaden. Dessa simulerade set isolerar därmed specifika typer av händelser. Studien drar slutsatsen att storleken av händelsen har försumbar betydelse på återhämtningstiden och att plötsliga händelser tillåter återhämtning på några dagar oavsett händelsens ursprungliga storlek eller förändring av prisutvecklingshastighet. Däremot förlänger utdragna händelser återhämtningstiden. Likaså påverkar efterskalv eller kvarvarande instabilitet i prisutvecklingen tillförlitlighet och återhämtningstid avsevärt.