Textual data is one of the most widespread forms of data and the amount of such data available in the world increases at a rapid rate. Text can be understood as either a sequence of characters or words, where the latter approach is the most common. With the breakthroughs within the area of applied artificial intelligence in recent years, more and more tasks are aided by automatic processing of text in various applications. The models introduced in the following sections rely on deep-learning sequence-processing in order to process and text to produce a regression algorithm for classification of what the text input refers to. We investigate and compare the performance of several model architectures along with different hyperparameters. The data set was provided by e-Avrop, a Swedish company which hosts a web platform for posting and bidding of public procurements. It consists of titles and descriptions of Swedish public procurements posted on the website of e-Avrop, along with the respective category/categories of each text. When the texts are described by several categories (multi label case) we suggest a deep learning sequence-processing regression algorithm, where a set of deep learning classifiers are used. Each model uses one of the several labels in the multi label case, along with the text input to produce a set of text - label observation pairs. The goal becomes to investigate whether these classifiers can carry out different levels of intent, an intent which should theoretically be imposed by the different training data sets used by each of the individual deep learning classifiers. / Data i form av text är en av de mest utbredda formerna av data och mängden tillgänglig textdata runt om i världen ökar i snabb takt. Text kan tolkas som en följd av bokstäver eller ord, där tolkning av text i form av ordföljder är absolut vanligast. Genombrott inom artificiell intelligens under de senaste åren har medfört att fler och fler arbetsuppgifter med koppling till text assisteras av automatisk textbearbetning. Modellerna som introduceras i denna uppsats är baserade på djupa artificiella neuronnät med sekventiell bearbetning av textdata, som med hjälp av regression förutspår tillhörande ämnesområde för den inmatade texten. Flera modeller och tillhörande hyperparametrar utreds och jämförs enligt prestanda. Datamängden som använts är tillhandahållet av e-Avrop, ett svenskt företag som erbjuder en webbtjänst för offentliggörande och budgivning av offentliga upphandlingar. Datamängden består av titlar, beskrivningar samt tillhörande ämneskategorier för offentliga upphandlingar inom Sverige, tagna från e-Avrops webtjänst. När texterna är märkta med ett flertal kategorier, föreslås en algoritm baserad på ett djupt artificiellt neuronnät med sekventiell bearbetning, där en mängd klassificeringsmodeller används. Varje sådan modell använder en av de märkta kategorierna tillsammans med den tillhörande texten, som skapar en mängd av text - kategori par. Målet är att utreda huruvida dessa klassificerare kan uppvisa olika former av uppsåt som teoretiskt sett borde vara medfört från de olika datamängderna modellerna mottagit.

This report investigates what the main price drivers are for commercial real estate rentals in Stockholm and Gothenburg. The mathematical method applied in this thesis is multiple linear regression and statistical analysis. The models are built from data provided by Datscha, a commercial market information provider. The data sets contains 922 observations across 9 different metrics from 2019. The response variable used to explain the price drivers is taxated monthly rental. The most significant driving variables common to all three final models where market value, location, and taxated value. These results align with current macroeconomic theory; revenue streams stand in direct proportion to underlying asset, i.e market value. Furthermore, location stands out as significant due to its attractiveness to all interacting entities. The models constructed had satisfying predictabilty, with R2-values ranging from 0.725 − 0.896. / Denna rapport undersöker de signifikanta faktorer som driver prisnivå vid uthyrning av kommersiella fastigheter i Stockholm och Göteborg. De matematiska metoder som tillämpas är multipel regressionsanalys samt statistisk analys. Modeller bygger på data från Datscha, en kommersiell leverantör av fastighetsrelaterad marknadsinformation. Slutgiltigt dataset har 922 observationer över 9 variabler, alla från år 2019. Den responsvariabel som används för att förklara prisdrivarna är taxerad månatlig hyra. De mest signifikanta drivande variablerna som är gemensamma för samtliga tre slutmodeller är marknadsvärde, plats samt taxerat värde. Rapportens resultat ligger i linje med kontemporär makroekonomisk teori; intäktsflöden står i direkt proportion till den underliggande tillgången, dvs. här fastighetens marknadsvärde. Vidare är variabeln plats signifikant givet fördel med närhet för samtliga inblandade entiteter. De konstruerade modellerna innehar satisfierande prediktabilitet, med R2-värden mellan 0.725 − 0.896.

In quantified safety engineering, mathematical probability models are used to predict the risk of failure or hazardous events in systems. Markov processes have commonly been utilized to analyze the safety of systems modeled as discrete-state stochastic processes. In continuous time Markov models, transition time between states are exponentially distributed. Semi-Markov processes expand this modeling framework by allowing transition time between states to follow any distribution. This master thesis project seeks to extend the semi-Markov modeling framework even further by allowing hierarchical states, which further relaxes Markov-assumptions by allowing models to keep memory even in state transition. To achieve this, the master thesis proposes a method using the phase-type distribution to replace Markov-chains of states to a single state. For application purposes, it is shown how semi-Markov chains with phase-type distributed transitions can be evaluated by a method using the Laplace-Stieltjes transform. Furthermore, to replace semi-Markov chains, a method to approximate these by the phase-type distribution is presented. This is done by deriving the moments of the time to absorption in a semi-Markov process with a method using the Laplace-Stieltjes transform, and fitting a phase-type distribution with these moments. To evaluate the methods, some case studies are performed on appropriate models. Analytical results are compared with Monte-Carlo simulations and Laplace-transform inverse methods. The results are used to show how hierarchical semi-Markov models can be replaced in an exact manner, and how semi-Markov models can be replaced approximately with varying accuracy. An important conclusion is that by enabling hierarchical modeling, it is possible to predict the safety of systems which demand a more realistic model, as relaxing Markov assumptions allows for more complexity. / Matematiska sannolikhetsmodeller används inom kvantifierad säkerhetsteknik för att utvärdera risken för fel eller farliga olyckor i system. Ett vanligt sätt att analysera säkerheten i system som kan modelleras som stokastiska processer med diskreta tillstånd är att använda Markovprocesser. I tidskontinuerliga Markovprocesser är tidsövergången mellan tillstånd exponentialfördelade. Semi-Markov processer utökar denna modelleringsteknik ytterligare genom att tillåta tidsövergångar som är fördelade enligt alla möjliga fördelningar. Detta examensarbete har som mål att utöka modelleringsmöjligheterna med Semi-Markov processer genom att tillåta hierarkiska tillstånd, som därmed ytterligare utmanar antaganden inom Markov-modeller genom att bibehålla minne efter tillståndsövergång. För att uppnå detta föreslås i denna rapport en metod som använder phase-type-fördelningen för att byta ut Markovkedjor med ett enda tillstånd. För att tillämpa metoden visas hur semi-Markov kedjor kan utvärderas med hjälp av Laplace-Stieltjes-transformen. För att kunna ersätta semi-Markov kedjor med samma metod presenteras även en approximationsmetod för att åter igen använda phase-type-fördelningen. Detta görs genom att använda Laplace-Stieltjes-transformen för att generera momenten av tiden till absorption i semi-Markov processer, och anpassa dessa till momenten av en phase-type-fördelning. För att utvärdera metoderna presenteras en del exempel. Analytiska resultat jämförs med Monte-Carlo simulering och inverteringsmetoder för Laplace-transformen. Resultaten används för att visa hur hierarkiska Markov modeller kan ersättas exakt, och hur semi-Markov processer kan approximeras med varierande noggrannhet. En viktig slutsats är att genom att tillåta hierarkisk modellering är det möjligt att utvärdera säkerheten i system som kräver mer realistiska modeller, då detta öppnar upp för mer komplexitet.

In this thesis we start by reproducing previous experiments by Zanos et al., where they have shown that it is possible to associate neural signals with specific cytokines. One future aim of this project is to send synthetic neural signals through the efferent arc of the vagus nerve and observe reactions without the corresponding catalyst of the symptoms. We use a variational autoencoder (VAE) in our experiment to create a model able to generate new neural signals, and we introduce a novel clustering technique called VAE-clustering, which will be used to cluster neural signals with their associated cytokines. The focus of this paper is the implementation of this method and applying it on the neural signals. Running VAE-clustering on the MNIST dataset shows it to be viable for finding detailed properties of a dataset. We also find that using a VAE as a generative model for neural signals is a good way for recreating detailed waveforms. / I detta examensarbete börjar vi med att reproducera tidigare experiment av Zanos et al., där dom visat att det är möjligt att associera nervsignaler med specifika cytokiner. Ett framtida mål med detta projekt är att skicka syntetiska nervsignaler till kroppen för att observera reaktioner utan motsvarande katalysator av symptomen. Vi använder en variational autoencoder (VAE) i våra experiment för att skapa en modell kapabel till att generera nya nervsignaler, och vi introducerar en ny klusterings-teknik kallad VAE-klustring, vilken kommer att användas för att klustra nervsignaler med dess associerade cytokiner. Fokuset i detta arbete ligger i implementationen av denna metod och applicerandet på nervsignaler. Efter att ha kört VAE-klustring på MNIST dataset fann vi att det det är användbart för att hitta detaljerade egenskaper hos ett dataset. Vi har även funnit att användningen av en VAE som en generativ modell för nervsignaler är ett bra sätt att återskapa detaljerade vågformer.

Portfolio rebalancing has become a popular tool for institutional investors the last decade. Adaptive asset allocation, an approach suggest by William Sharpe is a new approach to portfolio rebalancing taking market capitalization of asset classes into consideration when setting the normal portfolio and adapting it to a risk profile. The purpose of this thesis is to evaluate the traditional approach of portfolio rebalancing with the adaptive one. The comparison will consist of backtesting and two simulation methods which will be compared computationally measuring time and memory usage (Monte Carlo and Latin Hypercube Sampling). The comparison was done in Excel and in R respectively. It was found that both of the asset allocation approaches gave similar result in terms of the relevant risk measurements mentioned but that the traditional was a cheaper and easier alternative to implement and therefore might be more preferable over the adaptive approach from a practical perspective. The sampling methods were found to have no difference in memory usage but Monte Carlo sampling had around 50% less average running time while at the same time being easier to implement. / Portfölj rebalansering har blivit ett populärt verktyg för institutionella investerare det senaste årtiondet . Adaptiv tillgångsallokering, en taktik föreslagen av William Sharpe är en typ av rebalansering där hänsyn tas till marknadsvärdet av tillgångsklasserna samtidigt som man anpassar det efter en riskprofil. Syftet med detta arbete är att evaluera den traditionella strategin kontra den adaptiva strategin där jämförelsen kommer bestå av backtesting (tillämpa strategin på historisk data) samt två simulationsmetoder(Monte Carlo och LHS). Simulationernas implementering kommer jämföras med avseende på tid och minnesanvändning. Jämförelserna gjordes i Excel och i R respektivt. Resultatet av studien visar att att båda strategierna gav liknande resultat med avseende på de riskmått som finns med men att den traditionella strategin var billigare och enklare att implementera och kan därför vara den strategi att föredra från ett praktiskt perspektiv. Simulationsmetoderna visade ingen skillnad i minnesanvänding men däremot att Monte Carlo var både lättare att implementera samt hade ca 50% mindre körtid i genomsnitt.

Big data has been used regularly in finance and business to build forecasting models. It is, however, a relatively new concept in the security industry. This study predicts technology related alarm codes that will sound in the coming 7 days at location $L$ by observing the past 7 days. Logistic regression and neural networks are applied to solve this problem. Due to the problem being of a multi-labeled nature logistic regression is applied in combination with binary relevance and classifier chains. The models are trained on data that has been labeled with two separate methods, the first method labels the data by only observing location $L$. The second considers $L$ and $L$'s surroundings. As the problem is multi-labeled the labels are likely to be unbalanced, thus a resampling technique, SMOTE, and random over-sampling is applied to increase the frequency of the minority labels. Recall, precision, and F1-score are calculated to evaluate the models. The results show that the second labeling method performs better for all models and that the classifier chains and binary relevance model performed similarly. Resampling the data with the SMOTE technique increases the macro average F1-scores for the binary relevance and classifier chains models, however, the neural networks performance decreases. The SMOTE resampling technique also performs better than random over-sampling. The neural networks model outperforms the other two models on all methods and achieves the highest F1-score. / Big data har använts regelbundet inom ekonomi för att bygga prognosmodeller, det är dock ett relativt nytt koncept inom säkerhetsbranschen. Denna studie förutsäger vilka larmkoder som kommer att låta under de kommande 7 dagarna på plats $L$ genom att observera de senaste 7 dagarna. Logistisk regression och neurala nätverk används för att lösa detta problem. Eftersom att problemet är av en multi-label natur tillämpas logistisk regression i kombination med binary relevance och classifier chains. Modellerna tränas på data som har annoterats med två separata metoder. Den första metoden annoterar datan genom att endast observera plats $L$ och den andra metoden betraktar $L$ och $L$:s omgivning. Eftersom problemet är multi-labeled kommer annoteringen sannolikt att vara obalanserad och därför används resamplings metoden, SMOTE, och random over-sampling för att öka frekvensen av minority labels. Recall, precision och F1-score mättes för att utvärdera modellerna. Resultaten visar att den andra annoterings metoden presterade bättre för alla modeller och att classifier chains och binary relevance presterade likartat. Binary relevance och classifier chains modellerna som tränades på datan som använts sig av resamplings metoden SMOTE gav ett högre macro average F1-score, dock sjönk prestationen för neurala nätverk. Resamplings metoden SMOTE presterade även bättre än random over-sampling. Neurala nätverksmodellen överträffade de andra två modellerna på alla metoder och uppnådde högsta F1-score.

In recent years, machine learning has become utilized in external radiation therapy treatment planning. This involves automatic generation of treatment plans based on CT-scans and other spatial information such as the location of tumors and organs. The utility lies in relieving clinical staff from the labor of manually or semi-manually creating such plans. Rather than predicting a deterministic plan, there is great value in modeling it stochastically, i.e. predicting a probability distribution of dose from CT-scans and delineated biological structures. The stochasticity inherent in the RT treatment problem stems from the fact that a range of different plans can be adequate for a patient. The particular distribution can be thought of as the prevalence in preferences among clinicians. Having more information about the range of possible plans represented in one model entails that there is more flexibility in forming a final plan. Additionally, the model will be able to reflect the potentially conflicting clinical trade-offs; these will occur as multimodal distributions of dose in areas where there is a high variance. At RaySearch, the current method for doing this uses probabilistic random forests, an augmentation of the classical random forest algorithm. A current direction of research is learning the probability distribution using deep learning. A novel parametric approach to this is letting a suitable deep neural network approximate the parameters of a Gaussian mixture model in each volume element. Such a neural network is known as a mixture density network. This thesis establishes theoretical results of artificial neural networks, mainly the universal approximation theorem, applied to the activation functions used in the thesis. It will then proceed to investigate the power of deep learning in predicting dose distributions, both deterministically and stochastically. The primary objective is to investigate the feasibility of mixture density networks for stochastic prediction. The research question is the following. U-nets and Mixture Density Networks will be combined to predict stochastic doses. Does there exist such a network, powerful enough to detect and model bimodality? The experiments and investigations performed in this thesis demonstrate that there is indeed such a network. / Under de senaste åren har maskininlärning börjat nyttjas i extern strålbehandlingsplanering. Detta involverar automatisk generering av behandlingsplaner baserade på datortomografibilder och annan rumslig information, såsom placering av tumörer och organ. Nyttan ligger i att avlasta klinisk personal från arbetet med manuellt eller halvmanuellt skapa sådana planer. I stället för att predicera en deterministisk plan finns det stort värde att modellera den stokastiskt, det vill säga predicera en sannolikhetsfördelning av dos utifrån datortomografibilder och konturerade biologiska strukturer. Stokasticiteten som förekommer i strålterapibehandlingsproblemet beror på att en rad olika planer kan vara adekvata för en patient. Den särskilda fördelningen kan betraktas som förekomsten av preferenser bland klinisk personal. Att ha mer information om utbudet av möjliga planer representerat i en modell innebär att det finns mer flexibilitet i utformningen av en slutlig plan. Dessutom kommer modellen att kunna återspegla de potentiellt motstridiga kliniska avvägningarna; dessa kommer påträffas som multimodala fördelningar av dosen i områden där det finns en hög varians. På RaySearch används en probabilistisk random forest för att skapa dessa fördelningar, denna metod är en utökning av den klassiska random forest-algoritmen. En aktuell forskningsriktning är att generera in sannolikhetsfördelningen med hjälp av djupinlärning. Ett oprövat parametriskt tillvägagångssätt för detta är att låta ett lämpligt djupt neuralt nätverk approximera parametrarna för en Gaussisk mixturmodell i varje volymelement. Ett sådant neuralt nätverk är känt som ett mixturdensitetsnätverk. Den här uppsatsen fastställer teoretiska resultat för artificiella neurala nätverk, främst det universella approximationsteoremet, tillämpat på de aktiveringsfunktioner som används i uppsatsen. Den fortsätter sedan att utforska styrkan av djupinlärning i att predicera dosfördelningar, både deterministiskt och stokastiskt. Det primära målet är att undersöka lämpligheten av mixturdensitetsnätverk för stokastisk prediktion. Forskningsfrågan är följande. U-nets och mixturdensitetsnätverk kommer att kombineras för att predicera stokastiska doser. Finns det ett sådant nätverk som är tillräckligt kraftfullt för att upptäcka och modellera bimodalitet? Experimenten och undersökningarna som utförts i denna uppsats visar att det faktiskt finns ett sådant nätverk.

This thesis was based on the subjects of mathematical statistics and industrial economics and management in order to analyze the grades of pupils in the final year of elementary school. The purpose was to find out what variables had a statistically significant impact on pupils’ final grades so that municipalities and schools could better understand what variables are important when trying to improve the average school results. A multiple regression model was used on data, obtained from the database of Skolverket, in order to examine what variables were statistically important. The final regression model acquired through a model reduction procedure showed that mostly structural covariates such as the academic background of pupils, percentage of female pupils and the percentage with Swedish background had a statistically significant impact on the academic performances of the students. R2 adjusted of the final model was 0.5289. The multiple regression model was discussed by referencing to previous research. In addition, the strategic management performance framework known as Balanced Scorecard which was introduced by Robert S. Kaplan and David P. Norton was used to discuss relevant key performance indicators to achieve the strategic objectives of schools. / Detta examensarbete, inom ämnet för matematisk statistik och industriell ekonomi, genomfördes med syftet att analysera avgångsbetygen för år 9 i den svenska skolan. Syftet var att förstå vilka variabler som hade en statistisk signifikant påverkan på elevers avgångsbetyg, så kommuner kan förstå vilka variabler som är viktiga för att förbättra de genomsnittliga skolresultaten. En regressionsanalys utfördes, på data från Skolverket, för att se vilka variabler som var statistiskt signifikanta. Den slutgiltiga regressionsmodellen, erhållen genom iterativ reducering av variabler, visade att främst strukturella kovariat, som akademisk bakgrund hos elever, andel kvinnliga studenter och andel studenter med svensk bakgrund hade en signifikant betydelse på studenters akademiska resultat. Justerad R2 var 0.5289 för den slutgiltiga modellen. I diskussionen utvärderades modellen utifrån tidigare forskning. Vidare användes teorin om balanserat styrkort, utvecklat av Robert S. Kaplan och David P. Norton, för att diskutera relevanta nyckeltal för att uppnå strategiska mål för skolan.

Valuing a company is an important task in finance, especially before a potential merger or acquisition of a company. It is then of great importance for both parties in a deal to make an accurate estimate of the value of the company. The goal of this paper is to investigate how well regression analysis can be applied in this matter and if it can perform at par or better than more frequently used methods in the industry today. The study was conducted within the utilities sector in the US and Europe, with data collected from historic public transactions dating back to 2009. The study concludes that a regression model as a valuation tool can generate several advantages as it identifies key value drivers and is based on core mathematical concepts. However, the model created in this thesis underperforms compared to the prominent methods in place today. For further research this thesis may provide useful insight into different areas to consider when creating a valuation model. / Att värdera ett företag är en viktig uppgift inom finanssektorn, särskilt innan en potentiell sammanslagning eller förvärv av ett företag. Det är då av stor vikt för båda parter i en affär att göra en exakt uppskattning av företagets värde. Målet med denna studie är att undersöka hur väl regressionsanalys kan tillämpas i denna fråga och om den kan generera samma eller bättre resultat än mer använda värderingsmetoder inom branschen idag. Studien genomfördes inom el-, gas- och vattensektorn i USA och Europa, med data som samlats in från historiska offentliga transaktioner som går tillbaka till 2009. Studien drar slutsatsen att en regressionsmodell som ett värderingsverktyg kan generera flera fördelar eftersom den identifierar viktiga faktorer som driver en värdering och baseras på grundläggande matematiska begrepp. Modellen som skapats i denna avhandling underpresterar dock jämfört med de framstående metoderna som finns idag. För ytterligare forskning kan denna studie ge användbar insikt i olika områden att beakta när man skapar en värderingsmodell.

The hefty price increases in heavily shorted stocks in the beginning of 2021 indicates that short interest might be an underrated yet important key figure for investors when deciding on whether to take on an investment strategy or not. Most stock exchanges release information regarding the short interest only once a month leaving investors having to make decisions on outdated information. No previous research was found on whether there exists a linear relationship between some variables to estimate the short interest. Through the collection of mostly financial data and some regression analysis, a large­sample linear regression model was constructed. Although the problem complexity may seem of higher degree than linear, this study suggest that there exists a linear relationship between the variables studied when estimating short interest. These results suggest that one can use the mathematical model presented in this study for estimation and also get a better understanding of which underlying variables that impact short interest the most. The final model consisted of 6 variables, number of outstanding shares, average trading volume, stock price, volatility, equity andaverage weighted cost of capital. / De kraftiga prisökningarna på kraftigt blankade aktier i början av 2021 indikerar att mängden blankade aktier kan vara ett underskattat men ändå viktigt nyckeltal för investerare när de beslutar om den investeringsstrategi som skall användas. De flesta börser släpper information om mängden blankningar en gång i månaden, vilket gör att investerare måste fatta beslut på föråldrad information. Ingen tidigare forskning hittades på om det finns ett linjärt samband mellan vissa variabler för att uppskatta antalet blankningar. Genom insamlingen av mestadels finansiell data och med hjälp av regressionsanalys konstruerades en regressionsmodell baserat på ett stort urval. Även om problemkomplexiteten kan verka av högre grad än linjär tyder denna studie på att det finns ett linjärt samband mellan de studerade variablerna. Dessa resultat tyder på att man kan använda den matematiska modellen som presenteras i denna studie för uppskattning och också få en bättre förståelse för vilka underliggande variabler som påverkar mest. Den slutliga modellen bestod av 6 variabler, antal utestående aktier, genomsnittlig handelsvolym, aktiekurs, volatilitet, eget kapital och genomsnittlig viktad kapitalkostnad.