Paydrive is a pioneer in the Swedish auto insurance market. Being able to influence your insurancepremium through your driving is a concept that is still in its early stages. Throughout this thesis,an attempt to consolidate the vast amounts of data gathered while driving with neural networkshas been made, together with comparisons to the currently existing generalized linear models. Inthe end, a full analysis of the data yielded four distinct groupings of customer behavior but becauseof how the data is structured the results from the modeling became sub-optimal. Insurance datais typically very skewed and zero-heavy due to the absence of accidents. The original researchquestion is whether it is possible to use two neural networks, calculating the probability of anaccident, r, and the size of a potential claim, s respectively. These two factors could be multipliedto determine a final insurance premium as c = r · s. Using statistical standards and tools such as the Gini-coefficient, R2 values, MSE, and MAE themodels were evaluated both individually and pairwise. However, previous research in the fieldshows there haven’t been big enough advancements in this area yet. This thesis comes to the sameconclusion that due to the volatile nature of neural networks and the skewness of the data, it isincredibly difficult to get good results. Future work in the field could result in fairer prices forcustomers on their insurance premiums. / Paydrive är pionjärer i den Svenska fordonsförsäkringsmarknaden. Att kunna påverka hur mycketdu betalar genom din körstil är ett koncept som ännu är i sin barndom. Genom denna avhan-dling har ett försök att konsolidera de enorma mängderna insamlad data med neurala nätverkgjorts, tillsammans med en jämförelse mot de redan existerande generaliserade linjära modellerna.Fyra distinkta kundgrupperingar kunde hittas i datan efter en fullskalig analys men på grund avhur datan är strukturerad producerades endast icke-optimala modeller. Försäkringsdata är alltidväldigt noll-fylld och skev mot noll då kunder oftast inte råkar ut för olyckor. Den ursprungligaforskningsfrågan är huruvida det är möjligt att med hjälp av två, neurala nätverk, beräkna sanno-likheten för en olycka, r, och storleken av en skada, s. Dessa två faktorer kan sedan multiplicerasihop för att best ̈amma en slutgiltig försäkringspremie som c = r · s. Genom statistiska standarder och verktyg som Gini-koefficienten, R2 värden, MSE och MAEutvärderades modellerna individuellt och parvis. Dessvärre visar våra resultat vad föregåendeforskning redan visat på, det saknas resurser och verktyg för att effektivt kombinera neuralanätverk med telemetrisk data. Framtida arbete inom området kan komma att leda till rättvisarepriser för kunder vad gäller försäkringspremier.

This thesis investigates how neural networks can be used to produce investors' views for the Black-Litterman market model. The study uses two data sets, one with global stock market indexes and one with stock market data from the S&P 500. The task of the neural networks is to produce forecasts for the returns for the next quarter and the following year. The neural network will have to predict whether the market will move up or down and determine if the market movement is less than or equal to one standard deviation, creating four different scenarios. The forecasts are used as input to the Black-Litterman model to generate new portfolios, which are backtested from 2017 until 2022. The index data set was compared to a benchmark portfolio and a portfolio with naive risk diversification, while the S&P 500 data set was compared to market capitalization-weighted and naive portfolios. This resulted in eight different backtests where the neural networks obtained AUC values in the range of 0.56-0.73 and prediction accuracies in the range of 20.9% - 42.1%. The network used for yearly predictions on the index data set was the only network to outperform the benchmark portfolio. It obtained a Sharpe ratio of 1.782, a Sortino ratio of 2.165, and a maximum drawdown of -30.9% compared to the benchmark portfolio, where the corresponding metrics were 1.544, 1.879, and -32.8%. / Detta examensarbete undersöker hur neurala nätverk kan användas för att generera investerares åsikt till Black-Littermans marknadsmodell. Studien använder två dataset, en med globala börsindex och en med börsdata från S6P 500. De neurala nätverkens uppgift är att generera prognoser för avkastning för nästa kvartal samt nästkommande år. Det neurala nätverket måste förutsäga om marknaden kommer att röra sig uppåt eller nedåt, och avgöra om marknadsrörelsen är mindre än eller lika med en standaravvikelse, vilket skapar fyra olika scenarier. Prognoserna användas som input till Black-Litterman-modellen för att generera nya portföljer, som backtestas från 2017 till 2022. Portföljerna som skapades med globala börsindex jämfördes med en benchmarkportfölj och en portfölj med naiv riskspridning. Datasetet med data från S&P 500 jämfördes med marknadsvärdesviktade och naiva portföljer. Detta resulterade i åtta olika simuleringar där de neurala nätverken fick AUC-värden i intervallet 0,56-0,73 och prediktionsnoggrannheter i intervallte 20,9% - 42,1%. Nätverket som användes för årliga prognoser om globala börsindex var det enda nätverket som överträffade jämförelseportföljen. Den fick en Sharpekvot på 1, 782, Sortinokvot på 2,165 och en största kumulativa nedgång på -30,9% jämfört med jämförelseportföljen där motsvarande mätvärden var 1, 544, 1, 879 och -32,8%.

Breast cancer is the most common form of cancer for women around the world. In an attempt to decrease the mortality, women in Sweden between the ages of 40-74 years are called to regular mammography screenings to detect the disease as early as possible. Despite this, around 1400 die from the disease every year in Sweden. Every mammography image has to be analyzed by two radiologists. Despite this and regular screening, there are cases that go unnoticed. The factors that lessen the effectiveness of the system are that some cases go unnoticed and analyzing the mammography images is time consuming. This paper has investigated whether AI can be used to help solve these issues. Earlier research examines both of these aspects. Algorithms performing at approximately the same level of accuracy as radiologists and lessening the workload for examining radiologists has been developed [1]. This paper examined how to develop a similar simplified algorithm, how it can be implemented in healthcare and what the consequences of that would be. Hopefully, usage of similar technology will lead to a decrease in mortality and more accurate assessments. The study was conducted by interviewing two experts within the subject, and an attempt to develop an algorithm that through image analysis can classify tumours from mammography images.  The result shows that there is a big potential for using AI within healthcare, and by that enabling more accurate diagnosis and reducing mortality. During development of the algorithm a deeper understanding of the difficulties was given, such as the need for adequate processing power, processing and organization of image databases and the complexity in developing such a ML-algorithm for image analysis. The developed algorithm performed slightly better than random when detecting breast cancer on mammography images. / Bröstcancer är den vanligaste cancern bland kvinnor i världen. För att minska dödligheten kallas kvinnor i Sverige mellan 40-74 år regelbundet till mammografiscreening, i syfte att upptäcka tumörer i tid. Trots detta avlider ca. 1400 av sjukdomen varje år. Varje mammografibild granskas av två läkare. Trots detta och regelbunden screening finns det fall som missas. De faktorer som gör att systemet inte fungerar optimalt idag är att viss cancer inte upptäcks i tid samt att analysering av mammografibilderna är tidskrävande. Det här arbetet har undersökt huruvida användning av AI kan bidra till att lösa dessa problem. I tidigare forskning undersöks även båda dessa aspekter. Det har utvecklats AI-algoritmer som presterar ungefär i nivå med radiologer samt minskar arbetsbördan för undersökande radiologer [1]. I detta arbete undersöktes hur utvecklandet av en liknande algoritm går till, hur den faktiskt kan implementeras i sjukvården samt vilka konsekvenser detta kan ha. Förhoppningsvis kan tillämpning av liknande teknik leda till minskad dödlighet och säkrare bedömning. Studien genomfördes med intervjuer av två experter inom området, samt försök att utveckla en förenklad algoritm som genom bildanalys kan klassificera tumörer från mammografibilder. Resultatet visade att det finns stor potential för att använda AI inom sjukvården och med hjälp av detta uppnå säkrare bedömning och färre dödsfall. Under utvecklingen av algoritmen gavs en djupare förståelse för de svårigheter som uppkommer i utvecklandet av en sådan algoritm; såsom de krav på tillgänglig processorkraft, behandling och organisering av bilddatabaser och komplexiteten i att utveckla en maskininlärningsalgoritm för bildanalys. Algoritmen som utvecklades presterade något bättre än slumpen i detektion av tumörer på mammografier.

It is known that gradient flow in linear neural networks using Euclidean loss almost always avoids critical points that have at least one eigendirection with negative curvature. Using algebraic invariants of the gradient flow we try to prove that the set of all critical points with no second-order curvature (zero Hessian) for arbitrary networks is associated to a subset of the invariants of lower dimension. This would mean that these critical points are almost surely avoided. We show that this holds for networks with $3$ or less hidden layers and a few other special cases. We show by way of explicit counter-example that it is not true for general deep networks. / Det är känt att linjära neurala nätverk med Euklidisk loss-funktion under gradient flow alltid undviker kritiska punkter som har minst en egenriktning med negativ böjning. Med hjälp av algebraiska invarianter till gradient flow försöker vi bevisa att invarianter associerade med kritiska punkter med försvinnande Hessian-matris utgör en algebraisk mängd av lägre dimension. Det skulle innebära att dessa kritiska punkter nästan alltid undviks. Vi visar att för nätverk med $3$ eller färre gömda lager så gäller detta. Vi visar även med explicit motexempel att våran förmodan inte gäller för allmänna djupa nätverk.

The purpose of this article is to evaluate the impact a supervised machine learning classification model can have on the process of internal customer support within a large digitized company. Chatbots are becoming a frequently used utility among digital services, though the true general impact is not always clear. The research is separated into the following two questions: (1) Which supervised machine learning algorithm of naïve Bayes, logistic regression, and neural networks can best predict the correct support a user needs and with what accuracy? And (2) What is the effect on the productivity and customer satisfaction of using machine learning to sort customer needs? The data was collected from the internal server database of a large digital company and was then trained on and tested with the three classification algorithms. Furthermore, a survey was collected with questions focused on understanding how the current system affects the involved employees. A first finding indicates that neural networks is the best suited model for the classification task. Though, when the scope and complexity was limited, naïve Bayes and logistic regression performed sufficiently. A second finding of the study is that the classification model potentially improves productivity given that the baseline is met. However, a difficulty exists in drawing conclusions on the exact effects on customer satisfaction since there are many aspects to take into account. Nevertheless, there is a good potential to achieve a positive net effect. / Syftet med artikeln är att utvärdera den påverkan som en klassificeringsmodell kan ha på den interna processen av kundtjänst inom ett stort digitaliserat företag. Chatbotar används allt mer frekvent bland digitala tjänster, även om den generella effekten inte alltid är tydlig. Studien är uppdelad i följande två frågeställningar: (1) Vilken klassificeringsalgoritm bland naive Bayes, logistisk regression, och neurala nätverk kan bäst förutspå den korrekta hjälpen en användare är i behov av och med vilken noggrannhet? Och (2) Vad är effekten på produktivitet och kundnöjdhet för användandet av maskininlärning för sortering av kundbehov? Data samlades från ett stort, digitalt företags interna databas och används sedan i träning och testning med de tre klassificeringsalgoritmerna. Vidare, en enkät skickades ut med fokus på att förstå hur det nuvarande systemet påverkar de berörda arbetarna. Ett första fynd indikerar att neurala nätverk är den mest lämpade modellen för klassificeringen. Däremot, när omfånget och komplexiteten var begränsat presenterade även naive Bayes och logistisk regression tillräckligt. Ett andra fynd av studien är att klassificeringen potentiellt förbättrar produktiviteten givet att baslinjen är mött. Däremot existerar en svårighet i att dra slutsatser om den exakta effekten på kundnöjdhet eftersom det finns många olika aspekter att ta hänsyn till. Likväl finns en god potential i att uppnå en positiv nettoeffekt.

Ett användningsområde för maskininlärning och neurala nätverk är att förutspå data. Exempel på några fält som gynnas av denna teknologi är sjukvård, dataspel, och nätverksprogrammering. Detta arbete utforskar hur noggrant och tidseffektivt en specifik typ av neuralt nätverk kan förutspå en spelares framtida handlingar. Det neurala nätverket ska förutspå en framtida handling genom att ta en historik av data på spelarens inmatningar och spelets tillstånd vid olika tidpunkter. Det använda neurala nätverket kallas för ett Elmannätverk. Ett sekundärt neuralt nätverk vid namn Feed Forward Network används som jämförelsepunkt vid utvärderingen av Elmannätverket. Datainspelningen genomfördes på en avskalad förstapersonsskjutare där data användes för att både träna och utvärdera de neurala nätverken. Resultaten visar hur Elmannätverket presterade sämre än Feed Forward Nätverket. Rapporten tar upp olika möjliga orsaker till detta. Ett möjligt skäl kan vara att en historik av data inte är relevant för förutsägningen. Detta kan utvärderas vidare i framtida arbete.

This thesis analyzes data on E. coli cell growth in a bioreactor to investigate the possibility of finding predictable correlations between the environmental parameters (sensor data) and the growth using machine learning. Discovering these correlations could be a first step toward optimizing the growth of cells to be used for cell therapy: an effective but very expensive treatment method for cancer. This could ultimately lead to decreased manufacturing costs and larger treatment availability. The data first underwent a thorough preprocessing to obtain useful features that were divided into batches. In addition, a few separate further processing methods were applied to the data for further analysis. Thereafter several different machine learning methods were implemented and evaluated on the data. All possible sensor combinations were then fed into the best-performing network and the mean absolute error was calculated for each combination. The results showed that the implemented machine learning models did not find predictable patterns between sensor inputs and growth, as the predictions did not follow the growth variations and the models mainly predicted the average yield. However, the possibility that the used approach would benefit from additional data should not be discarded. / Detta examensarbete analyserar data som beskriver celltillväxt av E. coli i en bioreaktor för att undersöka möjligheten att hitta samband mellan inputparametrar och tillväxt med hjälp av maskininlärning. Att upptäcka dessa samband kan vara ett första steg mot att optimera tillväxten av celler som används för cellterapi: en effektiv men väldigt dyr behandlingsmetod för cancer. Detta kan i slutändan leda till minskade tillverkningskostnader och en större tillgänglighet av behandlingen. All data genomgick först en ingående förberedande bearbetning för att erhålla användbara features som var uppdelade i batcher. Ett antal separata vidarebearbetningsmetoder tillämpades också för vidare analys. Därefter implementerades och evaluerades ett flertal olika maskininlärningsmetoder. Den bäst presterande modellen blev tränad på alla möjliga sensorkombinationer och medelabsolutfelet beräknades. Resul- taten visade att de implementerade maskininlärningsmodellerna inte hittade förutsägbara mönster mellan sensorinput och celltillväxt, då förutsägelserna inte följde tillväxtvariationerna och modellerna främst förutspådde den genomsnittliga celltillväxten. Trots resultatet bör möjligheten att ytterligare data kan gynna det använda tillvägagångssättet inte förkastas.

Artificiell intelligens är ett snabbt utvecklande område som gör det möjligt att automatisera och effektivisera arbetsuppgifter, vilket kan behövas när vi genererar mer mängder data än någonsin. Syftet med denna uppsats var att undersöka potentialen i att integrera AI inom IT-forensiska brottsutredningar. Genom en litteraturöversikt visades det hur olika tekniker inom AI kunde appliceras för att underlätta för dagens IT-forensiska utredare. Genom ett experiment demonstrerades också hur AI-applikationen “objektdetektering” kunde underlätta IT-forensiskt arbete inom bildanalys.

This thesis examines the statistical and economic performance of modeling and predicting equity index returns by application of various statistical models on a set of macroeconomic and financial variables. By combining linear principal component regression, vector autoregressive models, and LSTM neural networks, the authors find that while a majority of the models display high statistical significance, virtually none of them successfully outperform classic portfolio theory on efficient markets in terms of risk-adjusted returns. Several implications are also discussed based on the results. / Detta examensarbete undersöker den statistiska och ekonomiska prestationen i att modellera och prognostisera aktieindexavkastning via applikation av flertalet statistiska modeller på en datamängd bestående av makroekonomiska och finansiella variabler. Genom att kombinera linjär huvudkomponentsregression (principal component analysis), vektorautoregression och den återkopplande neurala nätverksmodellen LSTM finner författarna att även om majoriteten av modellerna påvisar hög statistisk signifikans så överpresterar praktiskt taget ingen av dem mot klassisk portföljteori på effektiva marknader, sett till riskjusterad avkastning. Flera implikationer diskuteras också baserat på resultaten

Memory Augmented Neural Networks (MANN) is a hot research area within deep learning. One of the most promising MANN is the Differentiable Neural Network (DNC) which is able to learn, in a fully differentiable way, how to represent and store data into an external memory. Due to its memory, it performs exceptionally well on tasks where long-term memory is required. However, not a lot of research has been done on DNCs applied to time series and is also considered to be difficult to train. This work focuses on how to improve the training of a DNC on time series by taking advantage of the external memory and manipulating it in training. Three methods are presented. The first method reuses the memory between epochs which can help when there is a risk of overfitting. The second method is based on the first but has a bi-directional training scheme which drastically improves the stability of the convergence and can potentially produce better performing DNC. The last method presented is a transfer learning method where the memory is being transferred. This method is a versatile transfer learning method that can be applied when the source and target input feature spaces are different. It is also not dependent on the architecture of the DNC other than the size of the memory. These methods were applied and tested to time series in the telecom domain. Specifically, they were tested on four time series, two for predicting read and write latency, and two for predicting round trip time for signals. The results of the methods were fairly consistent on all the time series. / Minnesförstärkta neurala nätverk (MANNs) är en trendig forskningsområde inom djupinlärning. En av de mest lovande MANN är Differentierbara Neurala Datorer (DNCs) som kan lära sig representera och lagra data in till ett externt minne. På grund av sitt externa minne, så är den exceptionellt bra på att lösa problem som kräver långtids minne. Det finns däremot inte mycket forskning på DNCs applicerat på tidserier och att den är svår att träna. Arbetet i denna uppsatts har fokuserat på hur man kan förbättra träning av DNC på tidserier genom att utnyttja det externa minnet och manipulera det under träningen. Arbetet presenterar tre styckna metoder. Första metoden återanvänder minnet mellan epoker och kan hjälpa när det finns risk att överanpassar sig till träningsdatan. Den andra metoden är baserad på den första men har ett dubbelriktat tränings system som kan tydligt förbättra stabiliteten av konvergensen och kan ibland producera bättre presterande DNC. Den sista metoden är en metod som överför lärande genom att överföra minnet av en tränad DNC. Denna metod är mångsidig då den inte är beror på källans och målets ingångs datautrymme. Den beror inte heller på arkitekturen av DNC annat än storleken på minnet. Dessa metoder var applicerade och testade på tidsseries inom telekom domänen. Dom var testade på fyra tidsserier, två styckena för att förutspå läs- och skriv latens, och två för att förutspå tid för tur och retur för signaler. Resultaten för metoderna vara relativt konsekventa med alla tidsseries.