There is ongoing research into building dense correspondence between digital images of objects in the world and estimating the 3D pose of these objects. This is a difficult area to conduct research due to the lack of availability of annotated data. Annotating each pixel is too time-consuming. At the time of this writing, current research has managed to use neural networks to establish a dense pose estimation of human body parts (feet, chest, legs etc.). The aim of this thesis is to investigate if a model can be developed using neural networks to perform dense pose estimation on human feet. The data used in evaluating the model is generated using proprietary tools. Since this thesis is using a custom model and custom dataset, one model will be developed and tested with various experiments to gain an understanding of the different parameters that influence the model’s performance. Experiments showed that a model based on DeepLabV3 is able to achieve a dense pose estimation of feet with a mean error of 1.0cm. The limiting factor for a model’s ability to estimate a dense pose is based on the model’s ability to classify the pixels in an image accurately. It was also shown that discontinuous UV unwrapping greatly reduced the model’s dense pose estimation ability. The results from this thesis should be considered preliminary and need to be repeated multiple times to account for the stochastic nature of training neural networks. / Pågående forskning undersöker hur man kan skapa tät korrespondens mellan digitala bilder av objekt i världen och uppskatta de objektens 3D-pose. Detta är ett svårt område att forska inom på grund av bristen på tillgänglig annoterad data. Att annotera varje pixel är tidskrävande. Vid tiden för detta skrivande har aktuell forskning lyckats använda neurala nätverk för att etablera en tät pose-estimering av mänskliga kroppsdelar (fötter, bröst, ben osv.). Syftet med denna arbete är att undersöka om en modell kan utvecklas med hjälp av neurala nätverk för att utföra dense pose-estimering av mänskliga fötter. Data som används för att utvärdera modellen genereras med hjälp av proprietära verktyg. Eftersom denna arbete använder en anpassad modell och anpassad dataset kommer en modell att utvecklas och testas med olika experiment för att förstå de olika parametrarna som påverkar modellens prestanda. Experiment visade att en modell baserad på DeepLabV3 kan uppnå en dense pose-estimering av fötter med en medelfel på 1,0 cm. Den begränsande faktorn för en modells förmåga att uppskatta en dense pose baseras på modellens förmåga att klassificera pixlarna i en bild korrekt. Det visades också att oregelbunden UV-uppackning avsevärt minskade modellens förmåga att estimera dense pose. Resultaten från denna avhandling bör betraktas som preliminära och behöver upprepas flera gånger för att ta hänsyn till den stokastiska naturen hos träning av neurala nätverk.

Data Science plays an essential role in many organizations and industries to become data-driven in their decision-making and workflow, as models can provide relevant input in areas such as social media, the stock market, and manufacturing industries. To train models of quality, data preparation methods such as feature extraction are used to extract relevant features. However, global features are often ignored when feature extraction is performed on time-series datasets. This thesis aims to investigate how state-of-the-art tools and methods in data preparation and analytics can be used to extract global features and evaluate if such data could improve the performance of ML models. Global features refer to information that summarizes a full dataset such as the mean and median values from a numeric dataset. They could be used as inputs to make models understand the dataset and generalize better towards new data. The thesis went through a literature study to analyze feature extraction methods, time-series data, the definition of global features, and their benefits in bioprocessing. An effort was conducted to analyze and extract global features using tools and methods for data manipulation and feature extraction. The data used in the study consists of bioprocessing measurements of E. Coli cell growth as time-series data. The global features were evaluated through a performance comparison between models trained on a combined set of the dataset and global features, and models trained only on the full dataset. The study presents a method to extract global features with open-source tools and libraries, namely the Python language and the Numpy, Pandas, Matplot, and Scikit libraries. The quality of the global features depends on the experience in data science, data structure complexity, and domain area knowledge. The results show that the best models, trained on the dataset and global features combined, perform on average 15-18% better than models trained only on the dataset. The performance depends on the type and the number of global features combined with the dataset. Global features could be useful in manufacturing industries such as pharmaceutical and chemical, by helping models predict the inputs that lead to the desired trends and output. This could help promote sustainable production in various industries. / Datavetenskap spelar en stor roll inom många organsationer och industrier för att bli data-drivna inom beslutsfattande och arbetsflöde, varav maskininlärningsmodeller kan ge relevanta förslag inom områden som social media, aktiemarknaden samt tillverkningsindustrin. För att träna kvalitativa modeller används dataförberedande verktyg som funktionsextraktion för att utvinna relevanta egenskaper från data. Dock tar man ej hänsyn till globala egenskaper när funktionsextraktion utförs på tidsserie data. Denna examensarbete undersöker hur nuvarande verktyg inom dataförberededning och analys can användas för att utvinna global funktioner och utvärderar om sådan data kan förbättra prestandan hos maskinlärningsmodeller. Globla funktioner beskriver information som sammanfattar hel data, till exempel medelvärdet och medianen. De kan användas som indata för att få modeller förstå data och generalizera bättre mot ny data. Först utfördes en litteraturstudie inom metoder för funktionsextraktion, tidsserie data, definition av globala egenskaper samt möjligheter inom bioutvinning. Därefter utfördes en analys och utvinning av globala egenskaper med verktyg och metoder för data manipulation och funktionsutvinning. Den data som användes i arbetet består av mätningar från bioutvinning av E. Coli bakterier i form av tidsserie data. De globala funktionerna utvärderades genom en jämnförelse mellan modeller tränade på kombination av hel data och globala funktioner, och modeller tränade enbart på hel data. Studien presenterar en metod för att extrahera globala funktioner med öppet tillgänglig verktyg och bibliotek, som Python språket och Numpy, Pandas, Matplot och Scikit bibloteken. Kvaliteten på de globala funktionerna baseras på erfarenheten inom datavetenskap, datas komplexitet samt förståelse för domänområdet. Resultat visar att de bästa modellerna, tränade på data och globala funktioner, presterar i genomsnitt 15-18% bättre än modeller som tränats enbart på hel data. Prestandan detta beror på typen och antalet globala funktioner som kobineras med ursprungliga datat. Globala funktioner kan vara till nytta inom tillverkningsindustrier som farmaceutisk eller kemiska, genom att hjälpa modeller att förutsäga ingångsparametrar som leder till önskad produktion. Detta kan bidra till en hållbar produktion imon flera industrier.

Robotic-powered exoskeletons are increasingly used to assist patients with movement disorders in daily life and rehabilitation. Accurately estimating joint torque, especially for dynamic movement conditions using EMG, is crucial for effective assistance. Machine learning and deep learning have been employed for EMG-based force/torque estimation, but their precision and robustness have been limited, particularly for dynamic movements. This thesis aims at comparing and analyze the results using MLP, CNN, and CNN-LSTM methods to estimate ankle joint torque in dynamic movements based on HD-EMG. Meanwhile, this thesis designed and tested different data augmentation to enhance the performance using HD-EMG data augmentation techniques. The CNN-LSTM model demonstrated superior performance among the machine learning models. Additionally, the combination of spatial and signal augmentation methods showed notable improvements in the inter-subject case performance of the prediction. No augmentation methods have shown notable improvements in the intra-subject case or inter-session case. / Robotdrivna exoskelett används i allt större utsträckning för att hjälpa patienter med rörelsestörningar i det dagliga livet och rehabiliteringen. Att noggrant uppskatta ledmomentet, särskilt för dynamiska rörelseförhållanden med EMG, är avgörande för effektiv assistans. Maskininlärning och djupinlärning har använts för EMG-baserad kraft/vridmomentuppskattning, men deras precision och robusthet har varit begränsad, särskilt för dynamiska rörelser. Denna avhandling syftar till att jämföra och analysera resultaten med MLP-, CNN- och CNN-LSTM-metoder för att uppskatta fotledsvridmoment i dynamiska rörelser med hjälp av HD-EMG datadrivna modeller. Samtidigt designade och testade denna avhandling olika dataförstärkningar för att förbättra prestandan med hjälp av HD-EMG dataförstärkningstekniker. CNN-LSTM-modellen visade överlägsen prestanda bland maskininlärningsmodellerna. Dessutom visade kombinationen av rumsliga och signalförstärkningsmetoder anmärkningsvärda förbättringar i prediktionens inter-subject case performance. Inga förstärkningsmetoder har visat märkbara förbättringar i fallet inom ämnet eller fallet mellan sessioner.

Autonomous drone navigation in classical approaches typically involves constructing a map representation and employing path planning and collision checking algorithms within that map. Recently, novel deep learning techniques combined with depth camera observations have emerged as alternative approaches capable of achieving comparable collision-free performance. While these methods have demonstrated effective collision-free performance in dense environments, they rely on low-noise range or visual data, which may not be feasible in extreme degraded environments characterized by factors such as dust, smoke, weak geometries, or low-texture areas. A possible alternative is to leverage recent progress in mmWave radar imaging, which previously has produced data of insufficient resolution for such purposes. Through the use of a Variational Autoencoder and existing collision prediction algorithms, the goal of this study is to prove the use of mmWave radar for navigating difficult environments. The results of the study exhibit successful navigation in simulated scenarios featuring sparse obstacles. Additionally, results of utilizing real-world mmWave radar data in example scenarios is provided to demonstrate the potential for further application of this technology. / Autonom navigation för drönare i klassiska tillvägagångssätt innebär vanligtvis att man konstruerar en kartrepresentation och använder vägplanerings- och kollisionskontrollalgoritmer inom den kartan. Nyligen har nya djupinlärningstekniker kombinerat med djupkameraobservationer framträtt som alternativa tillvägagångssätt som kan uppnå jämförbar prestanda utan kollisioner. Även om dessa metoder har visat effektiv prestanda utan kollisioner i täta miljöer, är de beroende av störningsfria avstånds- eller visuella data, vilket kanske inte är genomförbart i extrema försämrade miljöer som karakteriseras av faktorer som damm, rök, svaga geometrier eller områden med låg textur. Ett möjligt alternativ är att dra nytta av de senaste framstegen inom mmWave-radaravbildning, vilket tidigare har producerat data med otillräcklig upplösning för sådana ändamål. Genom användning av en varieabel autoencoder och befintliga kollisionsprognosalgoritmer syftar denna studie till att bevisa användningen av mmWave-radar för att navigera i svåra miljöer. Resultaten från studien visar framgångsrik navigering i simulerade scenarier med glesa hinder. Dessutom presenteras resultat från användning av verkliga mmWave-radardata i exempelscenarier för att visa potentialen för ytterligare tillämpningar av denna teknik.

Environment perception is crucial to autonomous driving. Panoptic segmentation and objects tracking are two challenging tasks, and the combination of both, namely 4D panoptic segmentation draws researchers’ attention recently. In this work, we implement 4D panoptic LiDAR segmentation (4D-PLS) on Volvo datasets and provide a pipeline of data preparation, model building and model optimization. The main contributions of this work include: (1) building the Volvo datasets; (2) adopting an 4D-PLS model improved by Hyperparameter Optimization (HPO). We annotate point cloud data collected from Volvo CE, and take a supervised learning approach by employing a Deep Neural Network (DNN) to extract features from point cloud data. On the basis of the 4D-PLS model, we employ Bayesian Optimization to find the best hyperparameters for our data, and improve the model performance within a small training budget. / Miljöuppfattning är avgörande för autonom körning. Panoptisk segmentering och objektspårning är två utmanande uppgifter, och kombinationen av båda, nämligen 4D panoptisk segmentering, har nyligen uppmärksammat forskarna. I detta arbete implementerar vi 4D-PLS på Volvos datauppsättningar och tillhandahåller en pipeline av dataförberedelse, modellbyggande och modelloptimering. De huvudsakliga bidragen från detta arbete inkluderar: (1) bygga upp Volvos datauppsättningar; (2) anta en 4D-PLS-modell förbättrad av HPO. Vi kommenterar punktmolndata som samlats in från Volvo CE och använder ett övervakat lärande genom att använda en DNN för att extrahera funktioner från punktmolnsdata. På basis av 4D-PLS-modellen använder vi Bayesian Optimization för att hitta de bästa hyperparametrarna för vår data och förbättra modellens prestanda inom en liten utbildningsbudget.

Object detection has been a fundamental part of many emerging technologies, such as autonomous vehicles, robotics, and security. As deep learning is the main reason behind the leap of performance in object detection, it has mostly been associated with a post-processing step of non-maximum suppression (NMS) to reduce the number of resulting bounding boxes output from the network to, ideally, one box per object. As non-maximum suppression blindly suppress the overlap with a pre-defined threshold, it introduces the problem of suppressing false negatives in crowded scenes by choosing a high threshold, or vice versa. This problem is critical, especially in the autonomous vehicle industry, as this concerns the safety of passengers. The problem of the machine understanding whether these bounding boxes belong to the same object or two near-by objects is still not directly solvable. Although a lot of previous research tried to invent a new box-reduction method, every method has its own drawbacks while solving the problem. That is why, until now, many researchers are still using non‐maximum suppression. In this research, a literature review was carried out to determine the best NMS alternatives. Then, an approach for box reduction based on determinantal point process (DPP) was implemented. Furthermore, an evaluation pipeline was introduced for experimental analysis for the differences between NMS and DPP. Although NMS shows a better performance in terms of precision and recall, DPP chooses better fitting bounding boxes. / Objektdetektering har varit en grundläggande del av många nya tekniker, t.ex. autonoma fordon, robotik och säkerhet. Eftersom djupinlärning är den främsta orsaken till den stora prestandaskillnaden vid objektsdetektering har den oftast varit förknippad med ett efterbehandlingssteg med icke-maximal undertryckning (NMS) för att minska antalet resulterande avgränsande rutor som produceras av nätverket till, idealt sett, en ruta per objekt. Eftersom icke-maximal undertryckning blint undertrycker överlappningen med ett fördefinierat tröskelvärde, uppstår problemet med att undertrycka falskt negativa resultat i överfulla scener genom att välja ett högt tröskelvärde, eller tvärtom. Detta problem är kritiskt, särskilt inom industrin för autonoma fordon, eftersom det gäller passagerarnas säkerhet. Problemet med att maskinen ska förstå om dessa avgränsande rutor tillhör samma objekt eller två närliggande objekt är fortfarande inte direkt lösbart. Även om man i tidigare forskning har försökt hitta en ny metod för att reducera boxar, har varje metod sina egna nackdelar när den löser problemet. Det är därför som många forskare fram till nu fortfarande använder sig av icke-maximalt undertryckande. I denna forskning gjordes en litteraturstudie för att fastställa de bästa NMS-alternativen. Därefter implementerades en metod för boxförminskning baserad på determinant punktprocess (DPP). Dessutom infördes en utvärderingsledning för experimentell analys av skillnaderna mellan NMS och DPP. Även om NMS visar en bättre prestanda när det gäller precision och återkallande, väljer DPP bättre passande avgränsande lådor.

Retrieving specific information from newspapers can be a difficult task due to differences in their design, layout, imagery, and typography. Using newspapers from different publishers that are archived at the National Library of Sweden, this thesis aims to train a deep learning model that is able to detect and classify advertisements. Experiments are performed to see how well the models generalize to different publishers, and to a time period that is nearby, but outside the time period in which the models were trained. Results from experiments show that using a CNN, advertisements can be detected and classified to a high degree. Models were found to perform particularly well on data from the same publisher and time period as it was trained. Performance losses were generally observed when models were tested on other publishers or in another time domain than the training data. Further drops in performance were seen when models were tested on a combination of both a different publisher and a different time period. / Att återhämta specifik information från digitalt lagrade nyhetstidningar kan vara en svår utmaning. Detta beror delvis på nyhetstidningars varierande design, men även dess användande av bild- och skriftspråk. I detta arbete används nyhetstidningar från olika utgivare som är arkiverat på Kungliga Biblioteket för att träna maskininlärnings modeller med målet att kunna detektera annonser i nyhetstidningar. Experiment utförs även för att undersöka hur väl de tränade modellerna generaliserar till andra utgivare, samt hur de generaliserar till en annan tidsperiod än tidsperioden som modellen var tränad på. Resultaten från experimenten visar att ett CNN kan detektera och klassificera annonser till en hög grad. Modeller hade högst prestation på nyhetstidningar inom samma tidsperiod och från samma utgivare som den tränats på. Generaliserings test visade lägre prestation när modeller testades på andra tidsperioder och utgivare, i synnerhet när de testades på en kombination av både en annan utgivare i en annan tidsperiod.

Machine learning models has gained traction as an effective tool for short-term electricity price forecasting, namely day ahead and hourly price forecasting. Efficient and accurate forecasting is crucial for demand and capacity planning to ensure stability and optimal use of resources. This project applies two proven machine learning models, LSTM and TCN, to electricity futures contracts in the Swedish pricing areas SE1 and SE3. Future contracts are used to secure the price of electricity in the future. A multivariate time series of fundamental data that correlates with electricity prices is used as input for the forecasting. Fur- thermore, a portfolio approach for hedging is evaluated based on the predictive performance of the models. The forecasting accuracy of the multivariate TCN model outperform the LSTM model. The optimal hedging strategy based on the TCN model indicated potential cost savings of 1.43% compared to a benchmark method. / Maskininlärnings modeller har vunnit mark som effektiva verktyg för att prognosticera kortsiktiga elpriser, för dagen före och timpriser. Effektiv och korrekt prognosticering är viktigt för att skatta behovs- och kapacitetsplanering för optimal resursanvändning. Det här projektet applicerar två välbeprövade modeller, LSTM och TCN, för att prognosticera terminskontrakt i de två svenska pris- områdena SE1 och SE3. Terminskontrakt används för att säkra elpriser i framtiden. En tidsserie, med flera variabler av fundamental data som korrelerar med elpriser, används för att prognosticera elpriser. Vidare utvärderas en portfölj approach för prissäkring baserat på prognoserna från modellerna. TCN modellen gav högre noggrannhet än LSTM modellen. Optimal prissäkringsstrategi baserad på TCN modeller resulterade i 1.43% lägre elpriser jämfört med bench- marks.

Cloud detection on satellite imagery is an essential pre-processing step for several remote sensing applications. In general, machine learning based methods for cloud detection perform well, especially the ones based on deep learning as they consider both spatial and spectral features of the input image. However, false alarms become a major issue in winter images, wherein bright objects like snow/ice are also detected as cloud. This affects further image analysis like urban change detection, weather forecast, disaster risk management. In this thesis, we consider optical remote sensing images from small satellites constellation of PlanetScope. These have limited multispectral capacity of four bands: Red, Green, Blue (RGB) and Near-Infrared (NIR) bands. Detection algorithms tend to be more efficient when considering information from more than one spectral band to perform the detection. This study explores the data diversity provided by NIR band to RGB band images in terms of improvement in cloud detection accuracy. Two deep learning algorithms based on convolutional neural networks with different architectures are trained on RGB, NIR and RGB+NIR image data, resulting in six trained models. Each of these networks is tested with winter images of varying amounts of clouds and land covered with snow and ice. The evaluation is done based on performance metrics for accuracy and Intersection-over-Union (IoU) scores, as well as visual inspection. A total of eighteen experiments are performed, and it is observed that NIR band provides significant data diversity when combined with RGB bands, by reducing the false alarms and improving the accuracy. In terms of processing time, there is no significant increase for the algorithms evaluated, therefore better cloud detection can be achieved without significantly increasing the computational costs. Based on this analysis, Unibap iX10-100 embedded system is a possible choice for implementing these algorithms as it is suitable for AI applications. / Detektering av moln på satellitbilder är ett viktigt bearbetningssteg för flera fjärr analysapplikationer. I allmänhet fungerar maskininlärningsbaserade metoder för molndetektering bra, särskilt de som är baserade på djupinlärning eftersom de tar hänsyn till både spatiala och spektrala egenskaper i input bilder. Men falsklarm blir ett stort problem i vinterbilder, där medbringande föremål som snö/is också upptäcks som moln. Detta påverkar ytterligare bildanalyser som upptäckt av stadsförändringar, väderprognos, katastrofrisk-hantering. I denna avhandling tar vi hänsyn till optiska fjärranalysbilder från små satellitkonstellationer PlanetScope. Dessa har begränsad multispektral kapacitet på fyra band: röda, gröna, blå (RGB) och near-infrared (NIR) band. Detektionsalgoritmer tenderar att vara mer effektiva när man överväger information från mer än ett spektralband för att utföra detekteringen. Denna studie utforskar datadiversiteten som tillhandahålls av NIR-band till RGB-bandbilder när det gäller förbättring av molndetekteringsnoggrannheten. Två djupinlärningsalgoritmer baserade på konvolutionella neurala nätverk med olika arkitekturer tränas på RGB-, NIR- och RGB+NIR-bilddata, vilket resulterar i sex tränade modeller. Vart och ett av dessa nätverk testas med vinterbilder av varierande mängder moln och land täckt med snö och is. Utvärderingen görs baserat på prestandamått för noggrannhet och Intersection-over-Union (IoU) poäng, samt visuell inspektion. Totalt arton experiment utförs, och det observeras att NIR-bandet ger betydande datadiversitet när det kombineras med RGB-band, genom att minska de falska larmen och förbättra noggrannheten. När det gäller bearbetningstid finns det ingen signifikant ökning av den för de utvärderade algoritmerna, därför kan bättre molndetektering uppnås utan att nämnvärt öka beräkningskostnaderna. Baserat på denna analys är Unibap iX10-100 inbyggt system ett möjligt val för implementera dessa algoritmer eftersom det är lämpligt för AI-tillämpningar.

The numerous previous attempts to simulate financial markets tended to be based on strong assumptions about markets or their participants. This thesis describes a more general kind of model - one in which deep reinforcement learning is used to train agents to make a profit while trading with each other on a virtual exchange. Such a model carries less inductive bias than most others - in theory, a neural network is capable of learning arbitrary decision rules. The model itself led to very simple results, but the conclusions from its construction will hopefully be of guidance to anyone implementing such a model in the future. / De många tidigare försöken att simulera finansmarknader har ofta byggt på starka antaganden om marknaderna eller deras deltagare. I den här avhandlingen beskrivs en mer allmän typ av modell - en modell där djup förstärkningsinlärning används för att träna agenter att göra vinst när de handlar med varandra på en virtuell börs. En sådan modell har mindre induktiva fördomar än de flesta andra - i teorin kan ett neuralt nätverk lära sig godtyckliga beslutsregler. Själva modellen ledde till mycket enkla resultat, men slutsatserna från dess konstruktion kommer förhoppningsvis att vara vägledande för alla som tillämpar en sådan modell i framtiden.