Detta arbete undersöker två olika tekniker för att evaluera speltillstånd i schack. Teknikerna är samevolution och historiebaserad evolution. De används i kombination med artificiella neurala nätverk och algoritmen minimax. Teknikerna används för att låta två agenter spela schack, genom att välja ut det bästa draget. Kan en agent som bygger på samevolution slå en agent som bygger på historiebaserad evolution? Teknikerna har testats genom att låta agenterna evolveras i 200 generationer var för att sedan låta dem spela mot varandra. Den samevolverade agenten vann tre av 24 matcher, den historiebaserade vann en, och resten slutade i remi. Det tyder på att en samevolverad agent kan slå en historiebaserad, men att de är väldigt lika. Undersökningen tyder på att samevolverade schackagenter har stor risk att hamna i ett lokalt maximum medan historiebaserade gör många bra drag, men saknar strategi för att vinna.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack. Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor. Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

Detta arbete undersöker två tekniker för att evaluera spelplanen i minimaxalgoritmen. Den tekniken som fokuseras mest på i arbetet är ett artificiellt neuralt nätverk som evolveras med hjälp av samevolution. Tekniken är utformad för att inte behöva någon tidigare mänsklig expertis. Den andra tekniken använder heuristiker och mänsklig expertis för att få fram evalueringsfunktionen. Spelet som används för att testa teknikerna är Kinaschack.Resultaten antyder att tekniken i fokus inte fungerar till spelet Kinaschack. En undersökning där tekniken modifierades så att samevolution byttes ut gav ett bättre resultat. Detta behöver inte betyda att problemet är samevolution Men det tyder på att det är en faktor.Tekniken som arbetet fokuserar på är baserad på ett tidigare arbete där spelet Dam användes. Eftersom tekniken har visats fungera tidigare skulle det vara intressant att testa den med fler spel. I slutet av arbetet diskuteras en variant av tekniken för spelet Schack.

The data used in this paper is an open source data, that was collected in Portugal over a three year period between 2004 and 2007. It consists of the physiochemical parameters, and the quality grade of the wines. This study focuses on assessing which variables that primarily affect the quality of a wine and how the effects of the variables interact with each other, and also compare which of the different classification methods work the best and have the highest degree of accuracy. The data is divided into red and white wine where the response variable is ordered and consists of the grades of quality for the different wines. Due to the distribution in the response variable having too few observations in some of the quality grades, a new response variable was created where several grades were pooled together so that each different grade category would have a good amount of observations. The statistical methods used are Bayesian ordered logistic regression as well as two data mining techniques which are neural networks and decision trees. The result obtained showed that for the two types of wine it is primarily the alcohol content and the amount of volatile acid that are recurring parameters which have a great influence on predicting the quality of the wines. The results also showed that among the three different methods, decision trees were the best at classifying the white wines and the neural network were the best for the red wines.

Machine learning and its wide range of applications is becoming increasingly prevalent in both academia and industry. This thesis will focus on the two machine learning methods convolutional neural networks and reinforcement learning. Convolutional neural networks has seen great success in various applications for both classification and regression problems in a diverse range of fields, e.g. vision for self-driving cars or facial recognition. These networks are built on a set of trainable weights optimized on data, and a set of hyperparameters set by the designer of the network which will remain constant. For the network to perform well, the hyperparameters have to be optimized separately. The goal of this thesis is to investigate the use of reinforcement learning as a method for optimizing hyperparameters in convolutional neural networks built for classification problems. The reinforcement learning methods used are a tabular Q-learning and a new Q-learning inspired algorithm denominated max-table. These algorithms have been tested with different exploration policies based on each hyperparameter value’s covariance, precision or relevance to the performance metric. The reinforcement learning algorithms were mostly tested on the datasets CIFAR10 and MNIST fashion against a baseline set by random search. While the Q-learning algorithm was not able to perform better than random search, max-table was able to perform better than random search in 50% of the time on both datasets. Hyperparameterbased exploration policy using covariance and relevance were shown to decrease the optimizers’ performance. No significant difference was found between a hyperparameter based exploration policy using performance and an equally distributed exploration policy. / Maskininlärning och dess många tillämpningsområden blir vanligare i både akademin och industrin. Den här uppsatsen fokuserar på två maskininlärningsmetoder, faltande neurala nätverk och förstärkningsinlärning. Faltande neurala nätverk har sett stora framgångar inom olika applikationsområden både för klassifieringsproblem och regressionsproblem inom diverse fält, t.ex. syn för självkörande bilar eller ansiktsigenkänning. Dessa nätverk är uppbyggda på en uppsättning av tränbara parameterar men optimeras på data, samt en uppsättning hyperparameterar bestämda av designern och som hålls konstanta vilka behöver optimeras separat för att nätverket ska prestera bra. Målet med denna uppsats är att utforska användandet av förstärkningsinlärning som en metod för att optimera hyperparameterar i faltande neurala nätverk gjorda för klassifieringsproblem. De förstärkningsinlärningsmetoder som använts är en tabellarisk "Q-learning" samt en ny "Q-learning" inspirerad metod benämnd "max-table". Dessa algoritmer har testats med olika handlingsmetoder för utforskning baserade på hyperparameterarnas värdens kovarians, precision eller relevans gentemot utvärderingsmetriken. Förstärkningsinlärningsalgoritmerna var i största del testade på dataseten CIFAR10 och MNIST fashion och jämförda mot en baslinje satt av en slumpmässig sökning. Medan "Q-learning"-algoritmen inte kunde visas prestera bättre än den slumpmässiga sökningen, kunde "max-table" prestera bättre på 50\% av tiden på både dataseten. De handlingsmetoder för utforskning som var baserade på kovarians eller relevans visades minska algoritmens prestanda. Ingen signifikant skillnad kunde påvisas mellan en handlingsmetod baserad på hyperparametrarnas precision och en jämnt fördelad handlingsmetod för utforsking.

Eftersom mental ohälsa stiger i samhället och forskningen inte har ett tydligt svar så har vi i detta projekt formulerat en egen hypotes om varför vi ser den här trenden. Eftersom nyhetstjänster tjänar på att publicera negativa artiklar så leder det till att fler konsumerar negativa nyheter. Målet med projektet är att ta fram en nyhetsaggregator som utför sentimentanalys påaktuella nyheter från Aftonbladet, Expressen, DN och SVT där nyheterna kategoriseras i positiva, neutrala och negativa nyheter. Nyheterna samlas in med en egenutvecklad webskrapare som hämtar nyheterna från respektive källa. Sedan laddas nyheterna upp på en databas och bearbetas sedan för maskininlärning. För klassificering av nyhetsartiklar har vi tränat ett neuralt nätverk som utför klassificering av nyheter i det allmänna nyhetsflödet. Vi har även utvecklat en egen lexikonbaserad modell som är unik för varje användare för att kunna predicera användarspecifika sentiment. Resultat är en egendesignad hemsida med ett allmänt nyhetsflöde, samt ett anpassat flöde för registrerade användare, där man med ett reglage kan reglera vilken typ av nyheter och från vilka nyhetssajter som man vill se nyheter. På hemsidan presenteras även statistik över bland annat hur fördelningen av positiva, neutrala och negativa nyheter är på de olika nyhetssajterna

This report studies how a non-linear autoregressive neural network algorithm for stock market value prognoses is affected by unforeseen events. The study attempts to find out the recovery period for said algorithms after an event, and whether the magnitude of the event affects the recovery period. Tests of 1-day prognoses' deviations from the observed value are carried out on five real stock events and four created simulation sets which exclude the noisy data of the stock market and isolates different kinds of events. The study concludes that the magnitude has no discernible impact on recovery, and that a sudden event will allow recovery within days regardless of magnitude or change in price development rate. However, less sudden events will cause the recovery period to extend. Noise such as surrounding micro-events, aftershocks, or lingering instability of stock prices will affect accuracy and recovery time significantly. / Denna studie undersöker hur ett icke-linjärt autoregressivt neuronnät för aktiemarknadsprognoser påverkas av oväntade händelser. Studien ämnar finna återhämtningsperioden för nätverket efter en händelse, och ta reda på om den initiala påverkan av händelsen påverkar återhämtningen. Tester av endagsprognosers avvikelse från det verkliga värdet genomförs på fem verkliga aktier och fyra skapade dataset som exkluderar den omgivande variationen från aktiemarknaden. Dessa simulerade set isolerar därmed specifika typer av händelser. Studien drar slutsatsen att storleken av händelsen har försumbar betydelse på återhämtningstiden och att plötsliga händelser tillåter återhämtning på några dagar oavsett händelsens ursprungliga storlek eller förändring av prisutvecklingshastighet. Däremot förlänger utdragna händelser återhämtningstiden. Likaså påverkar efterskalv eller kvarvarande instabilitet i prisutvecklingen tillförlitlighet och återhämtningstid avsevärt.

Ansiktsigenkänning med hjälp av maskininlärning är ett växande område och används i många sammanhang i dagens samhälle, till exempel som autentiseringsmetod i mobiltelefoner. De flesta system för ansiktsigenkänning har haft stor budget och starka utvecklare bakom sig, men går det att skapa ett fungerande system med begränsade resurser och datamängd? Det här projektet undersöker hur mycket data som krävs för att producera en fungerande ansiktsautentiseringssmodul för kontorsmiljö baserad på bildklassificering. I projektet används ett förtränat Convolutional Neural Network (ResNet34), data som är insamlad med hjälp av uppdragsgivaren samt en bilddatabas från NVIDIA. Resultaten visar att mängden data som krävs för att producera en tillförlitlig modell troligtvis överstiger den mängd som är rimlig att samla in från användaren. / Face recognition using machine learning is a changing field and is used in many contexts in today’s society, for example as an authentication method in mobile phones. Most face recognition systems have had large budgets and strong developers behind them, but is it possible to create a working system with a limited amount of resourses and data? This project investigates how much data is required to produce a working face recognition module for an office environment based on image classification. This project used a pretrained Convolutional Neural Network (ResNet34), data collected with the help of the client, and an image database from NVIDIA. The results show that the amount of data required to produce and reliable model probably exceeds the amount that is reasonable to collect from the user.

Det här arbetet har undersökt om det är möjligt att klassificera bilder tagna av åtelkameror med hjälp av olika bildklassificeringsmetoder inom deep learning. Anledningen till att bilder från åtelkameror undersöktes, var på grund projektet ”Åtelkameror som verktyg för viltuppskattningar” vilket samlar in data och för statistik över främst älgbeståndet inom Gävleborgsregionen med hjälp av åtelkameror. Det undersöktes därför hur bildklassificering med neurala nätverk kunde användas för att automatisk klassificera bilder utifrån följande klassificeringsdomäner: är det ett djur på bilden?, vilka djurarter är på bilden?, om djuret är en älg är den då vuxen eller juvenil?   De bildklassificeringsmetoder som undersöktes var binärklassificering och objektdetektering. Binärklassificering användes för klassificeringsdomäner är det ett djur på bilden, objektdetektering användes för klassificeringsdomäner vilka djurarter är i bilden. Både binärklassificering och objektdetektering användes för att skilja en vuxen älg från en juvenil älg.  Resultaten för binärklassificeringen visade att ResNet generellt klassificerade bilder bättre än VGG-16, när det skulle avgöras om bilden innehöll ett djur eller inte. För att klassificera älgar som var vuxna eller juvenila så presterade VGG-16 och ResNet-101 bäst. Resultaten för objektdetekteringen visade generellt att YOLOv3 presterade bättre än YOLOv3-tiny, det gick även att se att båda neurala nätverken presterade bättre när de tränades med färre klasser. När tränings- och testdataseten delades upp så att träningsbilderna och testbilder kom från olika kameror så noterades en minskning av resultateten för både objektdetektering och binärklassificering.

The ability to extract useful information from texts and present them in the form of structured attributes is an important step towards making product comparison algorithm in fashion smarter and better. Some previous work exploits statistical features like the word frequency and graph models to predict keyphrases. In recent years, deep neural networks have proved to be the state-of-the-art methods to handle language modeling. Successful examples include Long Short Term Memory (LSTM), Gated Recurrent Units (GRU), Bidirectional Encoder Representations from Transformers(BERT) and their variations. In addition, some word embedding techniques like word2vec[1] are also helpful to improve the performance. Besides these techniques, a high-quality dataset is also important to the effectiveness of models. In this project, we aim to develop reliable and efficient machine learning models for keyphrase extraction. At Norna AB, we have a collection of product descriptions from different vendors without keyphrase annotations, which motivates the use of unsupervised methods. They should be capable of extracting useful keyphrases that capture the features of a product. To further explore the power of deep neural networks, we also implement several deep learning models. The dataset has two parts, the first part is called the fashion dataset where keyphrases are extracted by our unsupervised method. The second part is a public dataset in the domain of news. We find that deep learning models are also capable of extracting meaningful keyphrases and outperform the unsupervised model. Precision, recall and F1 score are used as evaluation metrics. The result shows that the model that uses LSTM and CRF achieves the optimal performance. We also compare the performance of different models with respect to keyphrase lengths and keyphrase numbers. The result indicates that all models perform better on predicting short keyphrases. We also show that our refined model has the advantage of predicting long keyphrases, which is challenging in this field. / Förmågan att extrahera användbar information från texter och presentera den i form av strukturerade attribut är ett viktigt steg mot att göra produktjämförelsesalgoritmen på ett smartare och bättre sätt. Vissa tidigare arbeten utnyttjar statistiska funktioner som ordfrekvens och grafmodeller för att förutsäga nyckelfraser. Under de senaste åren har djupa neurala nätverk visat sig vara de senaste metoderna för att hantera språkmodellering. Framgångsrika exempel inkluderar Long Short Term Memory (LSTM), Gated Recurrent Units (GRU), Bidirectional Encoder Representations from Transformers (BERT) och deras variationer. Dessutom kan vissa ordinbäddningstekniker som word2vec[1] också vara till hjälp för att förbättra prestandan. Förutom dessa tekniker är en datauppsättning av hög kvalitet också viktig för modellernas effektivitet. I detta projekt strävar vi efter att utveckla pålitliga och effektiva maskininlärningsmodeller för utvinning av nyckelfraser. På Norna AB har vi en samling produktbeskrivningar från olika leverantörer utan nyckelfrasnoteringar, vilket motiverar användningen av metoder utan tillsyn. De bör kunna extrahera användbara nyckelfraser som fångar funktionerna i en produkt. För att ytterligare utforska kraften i djupa neurala nätverk implementerar vi också flera modeller för djupinlärning. Datasetet har två delar, den första delen kallas modedataset där nyckelfraser extraheras med vår metod utan tillsyn. Den andra delen är en offentlig dataset i nyhetsdomänen. Vi finner att deep learning-modeller också kan extrahera meningsfulla nyckelfraser och överträffa den oövervakade modellen. Precision, återkallning och F1-poäng används som utvärderingsmått. Resultatet visar att modellen som använder LSTM och CRF uppnår optimal prestanda. Vi jämför också prestanda för olika modeller med avseende på keyphrase längder och nyckelfras nummer. Resultatet indikerar att alla modeller presterar bättre på att förutsäga korta tangentfraser. Vi visar också att vår raffinerade modell har fördelen att förutsäga långa tangentfraser, vilket är utmanande inom detta område.