<p>Erfarenheter från tidigare försök på Korsnäs AB visar att det är väldigt svårt att på matematisk väg förutsäga vad som händer under framställningen av pappersmassa i en kontinuerlig kokare.</p><p>Målet med detta examensarbete var att undersöka möjligheterna att med hjälp av neurala nätverk underlätta regleringen genom att prediktera ligninhalten hos pappersmassan tre och en halv timme innan den aktuella flisen är färdigkokt.</p><p>På grund av den, med produktionstakten, varierande tidsförskjutningen mellan olika givarsignaler löstes problemet med en enkel, lokal modell per produktionstakt. Alla ingående modeller minimeras med avseende på både antalet noder i det gömda lagret och antalet ingångar, vilket gav en slutlig lösning med fyra enkla modeller uppbyggda av framåtkopplade neurala nätverk, var och ett med ett gömt lager innehållandes tre noder.</p><p>Prediktionen av ligninhalten påvisade till slut goda egenskaper, med avseende på hur väl prediktionen följer den verkliga kappatalsanalysatorn.</p>

Erfarenheter från tidigare försök på Korsnäs AB visar att det är väldigt svårt att på matematisk väg förutsäga vad som händer under framställningen av pappersmassa i en kontinuerlig kokare. Målet med detta examensarbete var att undersöka möjligheterna att med hjälp av neurala nätverk underlätta regleringen genom att prediktera ligninhalten hos pappersmassan tre och en halv timme innan den aktuella flisen är färdigkokt. På grund av den, med produktionstakten, varierande tidsförskjutningen mellan olika givarsignaler löstes problemet med en enkel, lokal modell per produktionstakt. Alla ingående modeller minimeras med avseende på både antalet noder i det gömda lagret och antalet ingångar, vilket gav en slutlig lösning med fyra enkla modeller uppbyggda av framåtkopplade neurala nätverk, var och ett med ett gömt lager innehållandes tre noder. Prediktionen av ligninhalten påvisade till slut goda egenskaper, med avseende på hur väl prediktionen följer den verkliga kappatalsanalysatorn.

Detta arbete har utvärderat om maskininlärning kan tillföra nytta vid schemaplanering.Utvärderingen baserades på tester där prototyper använde arbetskalendrar föratt träna och mäta sin prediktiva förmåga. Kalendrarna tillhandahölls från två service-och installationsbolag i Stockholmsområdet. Genom att testa vilka utförandetiderprototyperna krävde utvärderades om tillämpningen skulle vara praktiskt användbarpå arbetsverktyg som exempelvis smartphones.Totalt utvecklades tre prototyper som gjordes prediktiva med hjälp av algoritmernaDensity-based Spatial Clustering of Applications with Noise (DBSCAN), LogisticRegression och Weighted K-Nearest Neighbors (wKNN). Resultatet visade attDBSCAN var den algoritm som sammantaget presterade bäst. Dock kunde inte enslutsats dras om maskininlärning skulle vara användbart. Andelen lyckade prediktioneröverskred inte andelen tillgängliga tider på de berörda dagarna som testernautfördes, vilket antogs vara ett otillfredsställande resultat. Datahanteringen krävdeen betydande mängd resurser, vilket skulle kunna vara ett problem vid praktisk tilllämpning. / This study has been analyzing if machine learning could be useful to work-relatedscheduling. The analysis was based on predictions generated by prototypes usingbusiness calendars. The business calendars were collected from two service and installationcompanies in the Stockholm region. An analysis was conducted regardingif the application could be practically applied to devices such as a smartphone. Theanalysis was based on tests regarding the prototypes required time to perform theirtasks.Three prototypes were developed with algorithms that made them predictive. Density-based Spatial Clustering of Applications with Noise (DBSCAN), Logistic Regressionand Weighted K-Nearest Neighbors (wKNN) were the implemented algorithms.DBSCAN was the best-performing algorithm according to the tests. However, a conclusioncould not be found concerning whether machine learning could be useful.The number of successful predictions did not exceed the number of available timeson concerned days, which was assumed as unsatisfying results. In addition, the prototypesneeded a significant amount of resources which could be a problem in practicaluse.

Sandvik Coromant och deras kunder har maskiner inom skärande bearbetning som genererar data vid produktion. Nyttolasten av det data som genereras innehåller olika mätvärden från sensorer inuti maskinen samt händelser som sker i maskinen under produktion. I det här arbetet har insamlad data från maskiner använts för att försöka öka maskinernas produktivitet genom att bistå tekniker och maskinoperatörer med relevant information. För att förmedla informationen utvecklades ett mjukvarusystem som analyserar och visualiserar maskindata. Dataanalysen gjordes med hjälp av artificiell intelligens som tränades på sekventiell data för att prediktera verktygsbrott. Vid identifikation av en datasekvens som potentiellt kan leda till ett verktygsbrott, meddelas maskinoperatören via en mobilapplikation installerad på en portabel enhet. Datavisualiseringarna består av interaktiva linjediagram och tidssorterade listor av maskinhändelser. De interaktiva linjediagrammen är tvådimensionella och visar mätvärden med sitt ursprung från någon maskins sensorer längs y-axeln och tiden längs x-axeln. Interaktiviteten som finns tillgänglig för användare i linjediagrammen är zoomning, panorering samt klickbara datapunkter. / Sandvik Coromant and their customers have cutting machines that generate data during production. The payload of the data generated contains various measurement values from sensors inside the machineas, well as events that occur in the machine during production. In this work, the data collected from the machines has been analyzed to try to increase the machines’ productivity by assisting technicians and machine operators with relevant information. To communicate the information, a software system was developed that analyzes and visualizes machine data. The data analysis was done using artificial intelligence trained on sequential data to predict tool failure. When identifying a data sequence that could potentially lead to a tool failure, the machine operator is notified via a mobile application installed on a portable device. The data visualizations consist of interactive line charts and time-sorted lists of machine events. The interactive line diagrams are two-dimensional and show measurement values originating from any machine's sensors along the y axis and time along the x axis. The interactivity available to users in the line graphs is zooming, panning, and clickable data points.

Detta arbete handlar om att prediktera energiproduktion för en solcellsanläggning som är installerat på ett flerbostadshus i Karlstad. Syftet är att skapa en modell som tar data från föregående dygn som input och baserad på det  predikterar solenergiproduktionen 1h framåt. För att uppnå arbetets syfte presenteras teorier om maskininlärning och statistiska utvärderingsmetoder. Modellen implementeras med hjälp av programkod i toolboxen deep learning i MATLAB. Där tränas det på tidigare data för att hitta någon form av mönster och baserad på det prediktera energiproduktionen för 1h framåt givet energiproduktionen från föregående 24h. Algoritmen som används i arbetet är LSTM. I arbetet undersöks också hur mycket data bakåt i tiden som modellen behöver tränas på för att predikteringen ska ge en god indikation på energiproducering. Resultatet visar att bästa modell erhålls genom att träna modellen med 1års data bakåt i tiden med specifika nätverksinställningar . Vidare, ger modellen en MAE på 0.998kWh och en RMSE på 1.765kWh. / This project is about predicting energy production for a photovoltaic system that is installed on a building in Karlstad. The aim is to create a model that takes data from the previous day as input and based on that predicts solar energy production 1h ahead. To achieve the purpose of the work, theories on machine learning as well as statistical evaluation methods are presented. The model is implemented using program code in deep learning toolbox in MATLAB. There, it is trained on previous data to find some pattern in the data and based on that predict energy production for 1h ahead given the energy production from the previous 24h. The algorithm used in the project is LSTM. The project also examines how much data back in time the model needs to be trained on to give a good indication of solar energy production. The results show that the best model derives from training models with 1 year of historic data and with specific network settings. Furthermore, models provide an MAE of 0.998kWh and an RMSE of 1.765kWh.

The resources of mobile networks are expensive and limited, and as demand for mobile data continues to grow, improved resource utilisation is a prioritised issue. Traffic demand at base stations (BSs) vary throughout the day and week, but the capacity remains constant and utilisation could be significantly improved based on precise, robust, and efficient forecasting. This degree project proposes a fully attention- based Transformer model for traffic prediction at mobile network BSs. Similar approaches have shown to be extremely successful in other domains but there seems to be no previous work where a model fully based on the Transformer is applied to predict mobile traffic. The proposed model is evaluated in terms of prediction performance and required time for training by comparison to a recurrent long short- term memory (LSTM) network. The implemented attention- based approach consists of stacked layers of multi- head attention combined with simple feedforward neural network layers. It thus lacks recurrence and was expected to train faster than the LSTM network. Results show that the Transformer model is outperformed by the LSTM in terms of prediction error in all performed experiments when compared after training for an equal number of epochs. The results also show that the Transformer trains roughly twice as fast as the LSTM, and when compared on equal premises in terms of training time, the Transformer predicts with a lower error rate than the LSTM in three out of four evaluated cases. / Efterfrågan av mobildata ökar ständigt och resurserna vid mobila nätverk är både dyra och begränsade. Samtidigt bestäms basstationers kapacitet utifrån hur hög efterfrågan av deras tjänster är när den är som högst, vilket leder till låg utnyttjandegrad av basstationernas resurser när efterfrågan är låg. Genom robust, träffsäker och effektiv prediktion av mobiltrafik kan en lösning där kapaciteten istället följer efterfrågan möjliggöras, vilket skulle minska överflödig resursförbrukning vid låg efterfrågan utan att kompromissa med behovet av hög kapacitet vid hög efterfrågan. Den här studien föreslår en transformermetod, helt baserad på attentionmekanismen, för att prediktera trafik vid basstationer i mobila nätverk. Liknande metoder har visat sig extremt framgångsrika inom andra områden men transformers utan stöd från andra komplexa strukturer tycks vara obeprövade för prediktion av mobiltrafik. För att utvärderas jämförs metoden med ett neuralt nätverk, innefattande noder av typen long short- term memory (LSTM). Jämförelsen genomförs med avseende på träningstid och felprocent vid prediktioner. Transformermodellen består av flera attentionlager staplade i kombination med vanliga feed- forward- lager och den förväntades träna snabbare än LSTM- modellen. Studiens resultat visar att transformermodellen förutspår mobiltrafiken med högre felprocent än LSTM- nätverket när de jämförs efter lika många epoker av träning. Transformermodellen tränas dock knappt dubbelt så snabbt och när modellerna jämförs på lika grunder vad gäller träningstid presterar transformermodellen bättre än LSTM- modellen i tre av fyra utvärderade fall.

Paradox Interactive is a Swedish video game developer and publisher which has players all around the world. Paradox’s largest platform in terms of amount of players and revenue is the PC. The goal of this thesis was to make a churn predic-tion model to predict the probability of players churning in order to know which players to focus on in retention campaigns. Since the purpose of churn prediction is to minimize loss due to customers churning the focus was on big-spenders (whales) in Paradox PC games. In order to define which players are big-spenders the spending for players over a 12 month rolling period (from 2016-01-01 until 2018-12-31) was investigated. The players spending more than the 95th-percentile of the total spending for each pe-riod were defined as whales. Defining when a whale has churned, i.e. stopped being a big-spender in Paradox PC games, was done by looking at how many days had passed since the players bought something. A whale has churned if he has not bought anything for the past 28 days. When data had been collected about the whales the data set was prepared for a number of di˙erent supervised machine learning methods. Logistic Regression, L1 Regularized Logistic Regression, Decision Tree and Random Forest were the meth-ods tested. Random Forest performed best in terms of AUC, with AUC = 0.7162. The conclusion is that it seems to be possible to predict the probability of churning for Paradox whales. It might be possible to improve the model further by investi-gating more data and fine tuning the definition of churn. / Paradox Interactive är en svensk videospelutvecklare och utgivare som har spelare över hela världen. Paradox största plattform när det gäller antal spelare och intäk-ter är PC:n. Målet med detta exjobb var att göra en churn-predikterings modell för att förutsäga sannolikheten för att spelare har "churnat" för att veta vilka spelare fokusen ska vara på i retentionskampanjer. Eftersom syftet med churn-prediktering är att minimera förlust på grund av kunderna som "churnar", var fokusen på spelare som spenderar mest pengar (valar) i Paradox PC-spel.För att definiera vilka spelare som är valar undersöktes hur mycket spelarna spenderar under en 12 månaders rullande period (från 2016-01-01 till 2018-12-31). Spelarna som spenderade mer än 95:e percentilen av den totala spenderingen för varje period definierades som valar. För att definiera när en val har "churnat", det vill säga slutat vara en kund som spenderar mycket pengar i Paradox PC-spel, tittade man på hur många dagar som gått sedan spelarna köpte någonting. En val har "churnat" om han inte har köpt något under de senaste 28 dagarna.När data hade varit samlad om valarna var datan förberedd för ett antal olika maskininlärningsmetoder. Logistic Regression, L1 Regularized Logistic Regression, Decision Tree och Random Forest var de metoder som testades. Random Forest var den metoden som gav bäst resultat med avseende på AUC, med AUC = 0, 7162. Slutsatsen är att det verkar vara möjligt att förutsäga sannolikheten att Paradox valar "churnar". Det kan vara möjligt att förbättra modellen ytterligare genom att undersöka mer data och finjustera definitionen av churn.

Companies in the spare part industry can implement a variety of different pricing techniques, which have traditionally been done through personnel know-how and industry conventions. One such technique is the use of price indices to track sales performance. This thesis investigates if machine learning or time series analysis can predict revenue using price and price indices in a data-driven manner which can potentially validate current pricing strategies or serve as a basis for sales teams pricing decisions. Price indices used were the Fisher Index and the Törnqvist Index. The data came from a spare parts supplier and consisted of daily transactions. Two target variables were tested: revenue as a continuous and categorical variable. The continuous target variable represented revenue the following day, while the categorical variable represented either an increase or decrease the following day. Models tested were OLS, XGBoost, ARIMAX and LSTM for the continuous case and Logistic Regression and XGBoost in the categorical case on several different feature sets. In the continuous case, ARIMAX outperformed the other models, but the best model was produced by the feature set not containing any indices. In the categorical case on a feature set containing price indices, XGBoost yielded an accuracy of 68% in classifying revenue increases or decreases. This study suggest that price indices contain some information about whether a revenue movement is going to happen, but not the magnitude of it. / Företag som säljer reservdelar kan implementera olika prissättningsstrategier. Dessa har traditionellt baserats på personalkunnande och branschkonventioner. En strategi som tillämpas är prisindex för att följa upp försäljning. Detta examensarbete undersöker om maskininlärning eller tidsserier kan prediktera omsättning med hjälp av pris- och prisindex på ett datadrivet sätt som kan potentiellt validera nuvarande strategier eller agera underlag för prissättningsbeslut. Prisindex som användes var Fisherindex och Törnqvistindex. Datan kom från en reservdelsleverantör och bestod av dagliga transaktioner. Två beroende variabler testades: omsättning som en kontinuerlig och omsättning som kategorisk variabel. Den kontinuerliga variabeln representerade omsättning nästa dag, medan den kategoriska variabeln representerade utfallet ökning eller minskning av omsättning nästa dag. Modellerna som tränades var OLS, XGBoost, ARIMAX och LSTM i det kontinuerliga fallet och Logistisk Regression och XGBoost i det kategoriska fallet. De tränades på flera uppsättningar av oberoende variabler. I det kontinuerliga fallet presterade ARIMAX bäst, men den bästa modellen tränades på en uppsättning oberoende variabler som inte innehöll några index. I det kategoriska fallet gav XGBoost en noggrannhet på 68% vid klassificering av omsättningsökningar eller minskningar. Detta på en uppsättning oberoende variabler som innehöll prisindex. Resultaten antyder att prisindex innehåller viss information om huruvida en omsättningsrörelse kommer att ske, men inte storleken på den.

End-to-end delay measurement is deemed crucial for network models at all times as it acts as a pivotal metric of the model’s effectiveness, assists in delineating its performance ceiling, and stimulates further refinement and enhancement. This premise holds true for 5G Core Network (5GC) models as well. Commercial 5G models, with their intricate topological structures and requirement for reduced latencies, necessitate an effective model to anticipate each server’s current latency and load levels. Consequently, the introduction of a model for estimating the present latency and load levels of each network element server would be advantageous. The central content of this article is to record and analyze the packet data and CPU load data of network functions running at different user counts as operational data, with the data from each successful operation of a service used as model data for analyzing the relationship between latency and CPU load. Particular emphasis is placed on the end-to-end latency of the PDU session establishment scenario on two core functions - the Access and Mobility Management Function (AMF) and the Session Management Function (SMF). Through this methodology, a more accurate model has been developed to review the latency of servers and nodes when used by up to 650, 000 end users. This approach has provided new insights for network level testing, paving the way for a comprehensive understanding of network performance under various conditions. These conditions include strategies such as "sluggish start" and "delayed TCP confirmation" for flow control, or overload situations where the load of network functions exceeds 80%. It also identifies the optimal performance range. / Latensmätningar för slutanvändare anses vara viktiga för nätverksmodeller eftersom de fungerar som en måttstock för modellens effektivitet, hjälper till att definiera dess prestandatak samt bidrar till vidare förfining och förbättring. Detta antagande gäller även för 5G kärnnätverk (5GC). Kommersiella 5G-nätverk med sin komplexa topologi och krav på låg latens, kräver en effektiv modell för att prediktera varje servers aktuella last och latensbidrag. Följdaktligen behövs en modell som beskriver den aktuella latensen och dess beroende till lastnivå hos respektive nätverkselement. Arbetet består i att samla in och analysera paketdata och CPU-last för nätverksfunktioner i drift med olika antal slutanvändare. Fokus ligger på tjänster som används som modelldata för att analysera förhållandet mellan latens och CPU-last. Särskilt fokus läggs på latensen för slutanvändarna vid PDU session-etablering för två kärnfunktioner – Åtkomst- och mobilitetshanteringsfunktionen (AMF) samt Sessionshanteringsfunktionen (SMF). Genom denna metodik har en mer exakt modell tagits fram för att granska latensen för servrar och noder vid användning av upp till 650 000 slutanvändare. Detta tillvägagångssätt har givit nya insikter för nätverksnivåtestningen, vilket banar väg för en omfattande förståelse för nätverprestanda under olika förhållanden. Dessa förhållanden inkluderar strategier som ”trög start” och ”fördröjd TCP bekräftelse” för flödeskontroll, eller överlastsituationer där lasten hos nätverksfunktionerna överstiger 80%. Det identifierar också det optimala prestandaområdet.