In terms of pricing financial derivatives, contractual length plays a important role in pricing risk. A contract with long duration will have more associated risk in comparison with a contract with low duration, everything else equal. In this thesis work we examine whether information about the derivative contract and involved parties (the counterparty) could be used in a model to accurately predict both probability and time if the contract would terminate earlier than the predetermined contractual length. By modelling the termination time with deep neural networks and assuming the probability distribution of termination time directly, we find that it is possible to predict when early termination of derivative contracts would occur significantly more accurate than assuming that contracts will always live to their original maturity date. / För prissättningen av finansiella derivat har kontraktets längd stor roll i värderingen av risken. Ett kontrakt som sträcker sig över lång tid har mer associerad risk i jämförelse med ett kontrakt som sträcker sig över kort tid, under förutsättningen av att kontraktet i övrigt är detsamma. I detta examensarbete undersöker vi om information om derivaten och kontraktets parter (motparten) kan användas för att med kunna förutspå sannolikheten för att ett kontrakt stängs ner tidigt samt vad den verkliga tidslängden är om så är fallet. Genom att modellera tidpunkten för avslut med hjälp av neurala nätverk och genom att anta sannolikhetsfördelningen för tidpunkten för avslut, fann vi att det är möjligt att förutspå tidpunkten för tidigt avslut signifikant bättre i jämförelse mot att anta att kontraktet alltid lever till dess ursprungliga livslängd.

As the internet user base increases over the years, so do the logistic difficulties of handling higher and higher volumes of data. This large amount of information is now being exploited by Artificial Intelligence algorithms to deliver value to our society on a global scale. Among all the algorithms employed, the widespread adoption of Neural Networks in industrial settings is promoting the automation of tasks previously unsolvable by computers. As of today, efficiency limits the applicability of such technology on Big Data and efforts are being put to develop new acceleration solutions.In this project, we analyzes the computational capabilities of a multicore Digital Signal Processor called the EMCA (Ericsson Many-Core Architecture) when it comes to executing Neural Networks. The EMCA is a proprietary chip used for real-time processing of data in the pipeline of a Radio Base Station.We developed an inference engine to run Neural Networks on the EMCA. The software of such engine has been produced using a proprietary operating system called Flake OS, which runs on the EMCA. On top of the inference engine, we wrote a neural network squeezing pipeline based on quantization. On MNIST, the quantization algorithm can reduce the size of the networks by 4x folds with sub 1% accuracy degradation. The inference engine has been optimized to exploit the quantization utility and can run quantized neural networks. Tests have been done to understand the direct implications of using such algorithm. We show that the quantization is indeed beneficial for inference on DSPs.Finally, the EMCA has demonstrated state of the art computational capabilities for neural network inferencing. / Liksom antalet internetanvändare årligen ökar, så gör också de logistiska svårigheterna att hantera större och större volymer av data. Denna stora mängd av information används nu av artificiell intelligens algoritmer för att leverera värde till vårt samhälle på en global skala. Av alla använda algoritmer, så möjliggör det utbredda införandet av neurala nätverk i industriella omgivningar, att uppgifter som tidigare inte kunde lösas av datorer nu kan automatiseras. Idag så finns det effektivitetsfaktorer som begränsar användbarheten av dessa tekniker för stora datamängder och insatser görs därför för att utveckla nya accelererade lösningar. I det här projektet så analyserar vi beräkningsförmågan av en multicore digital signalprocessor kallad EMCA (Ericsson Many-Core Architecture) för att exekvera neurala nätverk. EMCAn är ett proprietärt mikro-chip som används för real-tids beräkningar av data i pipelinen av en radiobasstation. Vi utvecklade en inferensmotor för att köra neurala nätverk på EM-CAn. Mjukvaran för motorn använde ett proprietärt operativsystem, kallat Flake OS, som körs på EMCAn. Ovanpå inferensmotorn skrev vi en pipeline för att reducera storleken av det neurala nätverket med hjälp av kvantisering. På MNIST så kan kvantiseringsalgorit-men minska storleken av näten upp till 4 gånger med under 1% precisionsdegradering. Inferensmotorn har optimerats för att utnyttja kvantiseringsfunktionen och kan exekvera kvantiserade neurala nätverk. Tester har gjorts för att förstå de direkta följderna av att använda sådana algoritmer. Vi visar att kvantisering verkligen är till nytta för att göra inferens på DSPer. Slutligen, EMCAn har demonstrerat toppmodern beräkningsförmåga för inferens av neurala nätverk.

This thesis is a comparative study where the question is whether a neural network approach can outperform the principal component analysis (PCA) approach for predicting changes of interest rate curves. Today PCA is the industry standard model for predicting interest rate curves. Specifically the goal is to better understand the correlation structure between Swedish and European swap rates. The disadvantage with the PCA approach is that only the information contained in the covariance matrix can be used and not for example whether or not the curve might behave different depending on the current state. In other words, some information that might be quite important to the curve dynamic is lost in the PCA approach. This raises the question whether the lost information is important for prediction accuracy or not. As previously been shown by Alexei Kondratyev in the paper "Learning Curve Dynamics with Artificial Neural Networks", the neural network approach is able to use more information in the data and therefore has potential to outperform the PCA approach. Our thesis shows that the neural network approach is able to achieve the same or higher accuracy than PCA when performing long term predictions. The results show that the neural network model has potential to replace the PCA model, however, it is a more time consuming model. Higher accuracy can probably be achieved if the network is more optimized. / Det här är en jämförande studie där syftet är att undersöka hurvida noggrannare prediktioner kan uppnås genom att använda sig av artificiella neurala nätverk (ANN) istället för principalkomponentanalys (PCA) för att förutspå swapräntekurvor. PCA är idag industristandard för att förutspå räntekurvor. Specifikt är målet att bättre kunna förstå korrelationsstrukturen mellan de Svenska swapräntorna och de Europiska swapräntorna. En nackdel med PCA är att den enda tillgängliga informationen sparas i kovariansmatrisen. Det kan till exempel vara fallet att kurvan beter sig väldigt annorlunda beroende på om de nuvarande räntenivåerna är höga eller låga. Eftersom att sådan information går förlorad i PCA-modellen ligger intresset i att undersöka hur mycket noggrannare prediktionerna kan bli om man tar tillvara på ännu mer av informationen i datan. Som Alexei Kondratyev visar i rapporten "Learning Curve Dynamics with Artificial Neural Networks", så har ANN-modellen potential att ersätta PCA-modellen för att förutspå räntekurvor. I denna studie framgår det att ANN-modellen uppnår samma eller bättre resultat jämfört med PCA-modellen vid längre prediktioner.

Denna avhandling presenterar ett tillvägagångssätt för att förutspå förflyttning inom folkmassor med hjälp av LSTM-neurala nätverk. Specifikt analyseras inflytandet som olika frekvenser av tidsserier har på både prognosen för folkmassorna och designen i arkitekturen inom transport och handel. Arkitekturen påverkas även då frekvensändringar provocerar fram en ökning eller minskning i datamängd och arkitekturen därför bör anpassas. Tidigare forskning inom prognoser relaterade till folkmassor har huvudsakligen fokuserat på att förutspå folkmassans nästa förflyttning snarare än att definiera mängden människor på en specifik plats under ett specifikt tidsspann. Dessa studier har använt olika tekniker som till exempel Random Forest eller Feed Forward neurala nätverk för att ta reda på inflytandet som de olika frekvenserna har över prognosens resultat. Denna avhandling tillämpar istället LSTM-neurala nätverk för analysering av detta inflytande och använder specifika fältrelaterade tekniker för att hitta de bästa parametrarna för att förutspå framtida välstånd i folkmassor. Resultatet visar att frekvensordningen i en tidsserie tydligt påverkar resultatet av prognoserna inom transport och handel, och att detta inflytande är positivt när frekvensordningen av tidsserierna kan fånga upp frekvensens form i prognosen. Därför, med frekvensordningen i åtanke, visar resultaten i prognoserna för de analyserade platserna en förbättring på 40% för SMAPE och 50% för RMSE jämfört med inhemska tillvägagångssätt och andra tekniker. Utöver detta visar de även att det finns ett samband mellan frekvensordningen och komponenterna i arkitekturerna. / This thesis presents an approach to predict crowd movement in defined placesusing LSTM neural networks. Specifically, it analyses the influence that different frequencies of time series have in both the crowd forecast and the design of the architecture in the domains of transportation and retail. The architecture is also affected because changes in the frequency provokes an increment or decrement in the quantity of data and, therefore, the architecture should be adapted. Previous research in the field of crowd prediction has been mainly focused on anticipating the next movement of the crowd rather than defining the amount of people during a specific range of time in a particular place. These studies have used different techniques such as Random Forest or Feed-Forward neural networks in order to find out the influence that the different frequencies have in the results of the forecast. However, this thesis applies LSTM neural networks for analysing this influence and uses specific field-related techniques in order to find the best parameters for forecasting future crowd movement. The results show that the order of the frequency of a time series clearly affects the outcomes of the predictions in the field of transportation and retail, being this influence positive when the order of the frequency of time series is able to catch the shape of the frequency of the forecast. Therefore, taking into account the order of the frequency, the results of the forecast for the analyzed places show an improvement of 40% for SMAPE and 50% for RMSE compared to the Naive approach and other techniques. Furthermore, they point out that there is a relation between the order of the frequency and the components of the architectures.

Paydrive is a pioneer in the Swedish auto insurance market. Being able to influence your insurancepremium through your driving is a concept that is still in its early stages. Throughout this thesis,an attempt to consolidate the vast amounts of data gathered while driving with neural networkshas been made, together with comparisons to the currently existing generalized linear models. Inthe end, a full analysis of the data yielded four distinct groupings of customer behavior but becauseof how the data is structured the results from the modeling became sub-optimal. Insurance datais typically very skewed and zero-heavy due to the absence of accidents. The original researchquestion is whether it is possible to use two neural networks, calculating the probability of anaccident, r, and the size of a potential claim, s respectively. These two factors could be multipliedto determine a final insurance premium as c = r · s. Using statistical standards and tools such as the Gini-coefficient, R2 values, MSE, and MAE themodels were evaluated both individually and pairwise. However, previous research in the fieldshows there haven’t been big enough advancements in this area yet. This thesis comes to the sameconclusion that due to the volatile nature of neural networks and the skewness of the data, it isincredibly difficult to get good results. Future work in the field could result in fairer prices forcustomers on their insurance premiums. / Paydrive är pionjärer i den Svenska fordonsförsäkringsmarknaden. Att kunna påverka hur mycketdu betalar genom din körstil är ett koncept som ännu är i sin barndom. Genom denna avhan-dling har ett försök att konsolidera de enorma mängderna insamlad data med neurala nätverkgjorts, tillsammans med en jämförelse mot de redan existerande generaliserade linjära modellerna.Fyra distinkta kundgrupperingar kunde hittas i datan efter en fullskalig analys men på grund avhur datan är strukturerad producerades endast icke-optimala modeller. Försäkringsdata är alltidväldigt noll-fylld och skev mot noll då kunder oftast inte råkar ut för olyckor. Den ursprungligaforskningsfrågan är huruvida det är möjligt att med hjälp av två, neurala nätverk, beräkna sanno-likheten för en olycka, r, och storleken av en skada, s. Dessa två faktorer kan sedan multiplicerasihop för att best ̈amma en slutgiltig försäkringspremie som c = r · s. Genom statistiska standarder och verktyg som Gini-koefficienten, R2 värden, MSE och MAEutvärderades modellerna individuellt och parvis. Dessvärre visar våra resultat vad föregåendeforskning redan visat på, det saknas resurser och verktyg för att effektivt kombinera neuralanätverk med telemetrisk data. Framtida arbete inom området kan komma att leda till rättvisarepriser för kunder vad gäller försäkringspremier.

This thesis investigates how neural networks can be used to produce investors' views for the Black-Litterman market model. The study uses two data sets, one with global stock market indexes and one with stock market data from the S&P 500. The task of the neural networks is to produce forecasts for the returns for the next quarter and the following year. The neural network will have to predict whether the market will move up or down and determine if the market movement is less than or equal to one standard deviation, creating four different scenarios. The forecasts are used as input to the Black-Litterman model to generate new portfolios, which are backtested from 2017 until 2022. The index data set was compared to a benchmark portfolio and a portfolio with naive risk diversification, while the S&P 500 data set was compared to market capitalization-weighted and naive portfolios. This resulted in eight different backtests where the neural networks obtained AUC values in the range of 0.56-0.73 and prediction accuracies in the range of 20.9% - 42.1%. The network used for yearly predictions on the index data set was the only network to outperform the benchmark portfolio. It obtained a Sharpe ratio of 1.782, a Sortino ratio of 2.165, and a maximum drawdown of -30.9% compared to the benchmark portfolio, where the corresponding metrics were 1.544, 1.879, and -32.8%. / Detta examensarbete undersöker hur neurala nätverk kan användas för att generera investerares åsikt till Black-Littermans marknadsmodell. Studien använder två dataset, en med globala börsindex och en med börsdata från S6P 500. De neurala nätverkens uppgift är att generera prognoser för avkastning för nästa kvartal samt nästkommande år. Det neurala nätverket måste förutsäga om marknaden kommer att röra sig uppåt eller nedåt, och avgöra om marknadsrörelsen är mindre än eller lika med en standaravvikelse, vilket skapar fyra olika scenarier. Prognoserna användas som input till Black-Litterman-modellen för att generera nya portföljer, som backtestas från 2017 till 2022. Portföljerna som skapades med globala börsindex jämfördes med en benchmarkportfölj och en portfölj med naiv riskspridning. Datasetet med data från S&P 500 jämfördes med marknadsvärdesviktade och naiva portföljer. Detta resulterade i åtta olika simuleringar där de neurala nätverken fick AUC-värden i intervallet 0,56-0,73 och prediktionsnoggrannheter i intervallte 20,9% - 42,1%. Nätverket som användes för årliga prognoser om globala börsindex var det enda nätverket som överträffade jämförelseportföljen. Den fick en Sharpekvot på 1, 782, Sortinokvot på 2,165 och en största kumulativa nedgång på -30,9% jämfört med jämförelseportföljen där motsvarande mätvärden var 1, 544, 1, 879 och -32,8%.

Breast cancer is the most common form of cancer for women around the world. In an attempt to decrease the mortality, women in Sweden between the ages of 40-74 years are called to regular mammography screenings to detect the disease as early as possible. Despite this, around 1400 die from the disease every year in Sweden. Every mammography image has to be analyzed by two radiologists. Despite this and regular screening, there are cases that go unnoticed. The factors that lessen the effectiveness of the system are that some cases go unnoticed and analyzing the mammography images is time consuming. This paper has investigated whether AI can be used to help solve these issues. Earlier research examines both of these aspects. Algorithms performing at approximately the same level of accuracy as radiologists and lessening the workload for examining radiologists has been developed [1]. This paper examined how to develop a similar simplified algorithm, how it can be implemented in healthcare and what the consequences of that would be. Hopefully, usage of similar technology will lead to a decrease in mortality and more accurate assessments. The study was conducted by interviewing two experts within the subject, and an attempt to develop an algorithm that through image analysis can classify tumours from mammography images.  The result shows that there is a big potential for using AI within healthcare, and by that enabling more accurate diagnosis and reducing mortality. During development of the algorithm a deeper understanding of the difficulties was given, such as the need for adequate processing power, processing and organization of image databases and the complexity in developing such a ML-algorithm for image analysis. The developed algorithm performed slightly better than random when detecting breast cancer on mammography images. / Bröstcancer är den vanligaste cancern bland kvinnor i världen. För att minska dödligheten kallas kvinnor i Sverige mellan 40-74 år regelbundet till mammografiscreening, i syfte att upptäcka tumörer i tid. Trots detta avlider ca. 1400 av sjukdomen varje år. Varje mammografibild granskas av två läkare. Trots detta och regelbunden screening finns det fall som missas. De faktorer som gör att systemet inte fungerar optimalt idag är att viss cancer inte upptäcks i tid samt att analysering av mammografibilderna är tidskrävande. Det här arbetet har undersökt huruvida användning av AI kan bidra till att lösa dessa problem. I tidigare forskning undersöks även båda dessa aspekter. Det har utvecklats AI-algoritmer som presterar ungefär i nivå med radiologer samt minskar arbetsbördan för undersökande radiologer [1]. I detta arbete undersöktes hur utvecklandet av en liknande algoritm går till, hur den faktiskt kan implementeras i sjukvården samt vilka konsekvenser detta kan ha. Förhoppningsvis kan tillämpning av liknande teknik leda till minskad dödlighet och säkrare bedömning. Studien genomfördes med intervjuer av två experter inom området, samt försök att utveckla en förenklad algoritm som genom bildanalys kan klassificera tumörer från mammografibilder. Resultatet visade att det finns stor potential för att använda AI inom sjukvården och med hjälp av detta uppnå säkrare bedömning och färre dödsfall. Under utvecklingen av algoritmen gavs en djupare förståelse för de svårigheter som uppkommer i utvecklandet av en sådan algoritm; såsom de krav på tillgänglig processorkraft, behandling och organisering av bilddatabaser och komplexiteten i att utveckla en maskininlärningsalgoritm för bildanalys. Algoritmen som utvecklades presterade något bättre än slumpen i detektion av tumörer på mammografier.

It is known that gradient flow in linear neural networks using Euclidean loss almost always avoids critical points that have at least one eigendirection with negative curvature. Using algebraic invariants of the gradient flow we try to prove that the set of all critical points with no second-order curvature (zero Hessian) for arbitrary networks is associated to a subset of the invariants of lower dimension. This would mean that these critical points are almost surely avoided. We show that this holds for networks with $3$ or less hidden layers and a few other special cases. We show by way of explicit counter-example that it is not true for general deep networks. / Det är känt att linjära neurala nätverk med Euklidisk loss-funktion under gradient flow alltid undviker kritiska punkter som har minst en egenriktning med negativ böjning. Med hjälp av algebraiska invarianter till gradient flow försöker vi bevisa att invarianter associerade med kritiska punkter med försvinnande Hessian-matris utgör en algebraisk mängd av lägre dimension. Det skulle innebära att dessa kritiska punkter nästan alltid undviks. Vi visar att för nätverk med $3$ eller färre gömda lager så gäller detta. Vi visar även med explicit motexempel att våran förmodan inte gäller för allmänna djupa nätverk.

The purpose of this article is to evaluate the impact a supervised machine learning classification model can have on the process of internal customer support within a large digitized company. Chatbots are becoming a frequently used utility among digital services, though the true general impact is not always clear. The research is separated into the following two questions: (1) Which supervised machine learning algorithm of naïve Bayes, logistic regression, and neural networks can best predict the correct support a user needs and with what accuracy? And (2) What is the effect on the productivity and customer satisfaction of using machine learning to sort customer needs? The data was collected from the internal server database of a large digital company and was then trained on and tested with the three classification algorithms. Furthermore, a survey was collected with questions focused on understanding how the current system affects the involved employees. A first finding indicates that neural networks is the best suited model for the classification task. Though, when the scope and complexity was limited, naïve Bayes and logistic regression performed sufficiently. A second finding of the study is that the classification model potentially improves productivity given that the baseline is met. However, a difficulty exists in drawing conclusions on the exact effects on customer satisfaction since there are many aspects to take into account. Nevertheless, there is a good potential to achieve a positive net effect. / Syftet med artikeln är att utvärdera den påverkan som en klassificeringsmodell kan ha på den interna processen av kundtjänst inom ett stort digitaliserat företag. Chatbotar används allt mer frekvent bland digitala tjänster, även om den generella effekten inte alltid är tydlig. Studien är uppdelad i följande två frågeställningar: (1) Vilken klassificeringsalgoritm bland naive Bayes, logistisk regression, och neurala nätverk kan bäst förutspå den korrekta hjälpen en användare är i behov av och med vilken noggrannhet? Och (2) Vad är effekten på produktivitet och kundnöjdhet för användandet av maskininlärning för sortering av kundbehov? Data samlades från ett stort, digitalt företags interna databas och används sedan i träning och testning med de tre klassificeringsalgoritmerna. Vidare, en enkät skickades ut med fokus på att förstå hur det nuvarande systemet påverkar de berörda arbetarna. Ett första fynd indikerar att neurala nätverk är den mest lämpade modellen för klassificeringen. Däremot, när omfånget och komplexiteten var begränsat presenterade även naive Bayes och logistisk regression tillräckligt. Ett andra fynd av studien är att klassificeringen potentiellt förbättrar produktiviteten givet att baslinjen är mött. Däremot existerar en svårighet i att dra slutsatser om den exakta effekten på kundnöjdhet eftersom det finns många olika aspekter att ta hänsyn till. Likväl finns en god potential i att uppnå en positiv nettoeffekt.

Ett användningsområde för maskininlärning och neurala nätverk är att förutspå data. Exempel på några fält som gynnas av denna teknologi är sjukvård, dataspel, och nätverksprogrammering. Detta arbete utforskar hur noggrant och tidseffektivt en specifik typ av neuralt nätverk kan förutspå en spelares framtida handlingar. Det neurala nätverket ska förutspå en framtida handling genom att ta en historik av data på spelarens inmatningar och spelets tillstånd vid olika tidpunkter. Det använda neurala nätverket kallas för ett Elmannätverk. Ett sekundärt neuralt nätverk vid namn Feed Forward Network används som jämförelsepunkt vid utvärderingen av Elmannätverket. Datainspelningen genomfördes på en avskalad förstapersonsskjutare där data användes för att både träna och utvärdera de neurala nätverken. Resultaten visar hur Elmannätverket presterade sämre än Feed Forward Nätverket. Rapporten tar upp olika möjliga orsaker till detta. Ett möjligt skäl kan vara att en historik av data inte är relevant för förutsägningen. Detta kan utvärderas vidare i framtida arbete.