In tropical and subtropical countries with bad infrastructure there exists diseases which are often neglected and untreated. Some of these diseases are caused by parasitic intestinal worms which most often affect children severely. The worms spread through parasite eggs in human stool that end up in arable soil and drinking water. Over one billion people are infected with these worms, but medication is available. The problem is the ineffective diagnostic method hindering the medication to be distributed effectively. In the process of designing an automated microscope for increased effectiveness the solution for marking out the stool sample on the microscope slide is important for decreasing the time of diagnosis. This study examined the active contour model and four different semantic segmentation networks for the purpose of delineating the stool sample from the other parts of the microscope slide. The Intersection-over-Union (IoU) measurement was used to measure the performance of the models. Both active contour and the networks increased the IoU compared to the current implementation. The best model was the FCN-32 network which is a fully convolutional network created for semantic segmentation tasks. This network had an IoU of 95.2%, a large increase compared to the current method which received an IoU of 77%. The FCN-32 network showed great potential of decreasing the scanning time while still keeping precision of the diagnosis.

Side-channel attacks avoid complex analysis of cryptographic algorithms, instead they use side-channel signals captured from a software or a hardware implementation of the algorithm to recover its secret key. Recently, deep learning models, especially Convolutional Neural Networks (CNN), have been shown successful in assisting side-channel analysis. The attacker first trains a CNN model on a large set of power traces captured from a device with a known key. The trained model is then used to recover the unknown key from a few power traces captured from a victim device. However, previous work had three important limitations: (1) little attention is paid to the effects of training and testing on traces captured from different devices; (2) the effect of different power models on the attack’s efficiency has not been thoroughly evaluated; (3) it is believed that, in order to recover all bytes of a key, the CNN model must be trained as many times as the number of bytes in the key.This thesis aims to address these limitations. First, we show that it is easy to overestimate the attack’s efficiency if the CNN model is trained and tested on the same device. Second, we evaluate the effect of two common power models, identity and Hamming weight, on CNN-based side-channel attack’s efficiency. The results show that the identity power model is more effective under the same training conditions. Finally, we show that it is possible to recover all key bytes using the CNN model trained only once. / Sidokanalattacker undviker komplex analys av kryptografiska algoritmer, utan använder sig av sidokanalssignaler som tagits från en mjukvara eller en hårdvaruimplementering av algoritmen för att återställa sin hemliga nyckel. Nyligen har djupa inlärningsmodeller, särskilt konvolutionella neurala nätverk (CNN), visats framgångsrika för att bistå sidokanalanalys. Anfallaren tränar först en CNN-modell på en stor uppsättning strömspår som tagits från en enhet med en känd nyckel. Den utbildade modellen används sedan för att återställa den okända nyckeln från några kraftspår som fångats från en offeranordning. Tidigare arbete hade dock tre viktiga begränsningar: (1) Liten uppmärksamhet ägnas åt effekterna av träning och testning på spår som fångats från olika enheter; (2) Effekten av olika kraftmodeller på attackerens effektivitet har inte utvärderats noggrant. (3) man tror att CNN-modellen måste utbildas så många gånger som antalet byte i nyckeln för att återställa alla bitgrupper av en nyckel.Denna avhandling syftar till att hantera dessa begränsningar. Först visar vi att det är lätt att överskatta attackens effektivitet om CNN-modellen är utbildad och testad på samma enhet. För det andra utvärderar vi effekten av två gemensamma kraftmodeller, identitet och Hamming-vikt, på CNN-baserad sidokanalangrepps effektivitet. Resultaten visar att identitetsmaktmodellen är effektivare under samma träningsförhållanden. Slutligen visar vi att det är möjligt att återställa alla nyckelbyte med hjälp av CNN-modellen som utbildats en gång.

Capsule network (CapsNet) is a new and promising approach to computer vision. In the small amount of research published so far, it has shown to be good at generalizing complex objects and perform well even when the images are skewed or the objects are seen from unfamiliar viewpoints. This thesis further tests this ability of CapsNetby comparing it to convolutional networks (ConvNets) on the task to understand images of clothing in different rotational views. Even though the ConvNets have a higher classification accuracy than CapsNets, the results indicate that CapsNets are better at understanding the clothes when viewed in different rotational views. / Capsule network (CapsNet) är en ny typ av neuralt nätverk för datorseende, som framförallt presterar bra även då bilderna är förvrängda eller sedda från obekanta vinklar. Den här uppsatsen testar CapsNets förmåga att förstå klädesobjekt sedda ur olika synviklar genom att göra en jämförelse med ConvNets. Resultaten visar att, trots att ConvNets har en högre exakthet i sin klassificering, är CapsNets bättre på att förstå kläderna sedda från olika synvinklar.

Printed circuit boards used in most ordinary electrical devices are usually equipped through an assembly line. Pick and place machines as part of those lines require accurate detection of incorrectly picked components, and this is commonly performed via image analysis. The goal of this project is to investigate if we can achieve state-of-the-art performance in an industrial quality assurance task through the application of artificial neural networks. Experiments regarding different network architectures and data modifications are conducted to achieve precise image classification. Although the classification rates do not surpass or equal the rates of the existing vision-based detection system, there remains great potential in the deployment of a machine-learning-based algorithm into pick and place machines. / Tryckta kretskort som används i de flesta vanliga elektroniska produkter är vanligtvis monterade i monteringslinjer. Ytmonteringsmaskinerna i dessa monteringslinjer kräver exakt detektering av felaktigt plockade komponenter, vilket ofta genomförs med hjälp av bildanalys. Målet med detta projekt är att undersöka om vi kan uppnå framstående resultat i en industriell kvalitetssäkringsuppgift genom användandet av artificiella neuronnätverk. Experiment utförs med olika nätverksarkitekturer och datamodifikationer för att uppnå exakt bildklassificering.  Även om klassificeringsgraderna inte uppnår klassificeringsgraderna hos existerande synbaserade detekteringssystem, finns en stor potential för användandet av maskininlärningsbaserade algoritmer i ytmonteringsmaskiner.

With the advancement in deep learning in the past few years, we are able to create complex machine learning models for detecting objects in images, regardless of the characteristics of the objects to be detected. This development has enabled engineers to replace existing heuristics-based systems in favour of machine learning models with superior performance. In this report, we evaluate the viability of using deep learning models for object detection in real-time video feeds on mobile devices in terms of object detection performance and inference delay as either an end-to-end system or feature extractor for existing algorithms. Our results show a significant increase in object detection performance in comparison to existing algorithms with the use of transfer learning on neural networks adapted for mobile use. / Utvecklingen inom djuplärning de senaste åren innebär att vi är kapabla att skapa mer komplexa maskininlärningsmodeller för att identifiera objekt i bilder, oavsett objektens attribut eller karaktär. Denna utveckling har möjliggjort forskare att ersätta existerande heuristikbaserade algoritmer med maskininlärningsmodeller med överlägsen prestanda. Den här rapporten syftar till att utvärdera användandet av djuplärningsmodeller för exekvering av objektigenkänning i video på mobila enheter med avseende på prestanda och exekveringstid. Våra resultat visar på en signifikant ökning i prestanda relativt befintliga heuristikbaserade algoritmer vid användning  av djuplärning och överförningsinlärning i artificiella neurala nätverk.

In this report we evaluated how the complexity of a Convolutional Neural Network (CNN), in terms of number of filters, size of filters and dropout, affects the performance on the rating prediction accuracy in a tightly coupled hybrid recommender system. We also evaluated the effect on the rating prediction accuracy for pretrained CNNs in comparison to non-pretrained CNNs. We found that a less complex model, i.e. smaller filters and less number of filters, showed trends of better performance. Less regularization, in terms of dropout, had trends of better performance for the less complex models. Regarding the comparison of the pretrained models and non-pretrained models the experimental results were almost identical for the two denser datasets while pretraining had slightly worse performance on the sparsest dataset. / I denna rapport utvärderade vi komplexiteten på ett neuralt faltningsnätverk (eng. Convolutional Neural Network) i form av antal filter, storleken på filtren och regularisering, i form av avhopp (eng. dropout), för att se hur dessa hyperparametrar påverkade träffsäkerheten för rekommendationer i ett hybridrekommendationssystem. Vi utvärderade även hur förträning av det neurala faltningsnätverket påverkade träffsäkerheten för rekommendationer i jämförelse med ett icke förtränat neuralt faltningsnätverk. Resultaten visade trender på att en mindre komplex modell, det vill säga mindre och färre filter, gav bättre resultat. Även mindre regularisering, i form av avhopp, gav bättre resultat för mindre komplexa modeller. Gällande jämförelsen med förtränade modeller och icke förtränade modeller visade de experimentella resultaten nästan ingen skillnad för de två kompaktare dataseten medan förträning gav lite sämre resultat på det glesaste datasetet.

In this thesis we present two approaches to improve automatic playtesting using player modeling. By modeling various cohorts of players we are able to train Convolutional Neural Network based agents that simulate human gameplay using different strategies directly learnt from real player data. The goal is to use the developed agents to predict useful metrics of newly created game content. We validated our approaches using the game Candy Crush Saga, a non-deterministic match-three puzzle game with a huge search space and more than three thousand levels available. To the best of our knowledge this is the first time that player modeling is applied in a match-three puzzle game. Nevertheless, the presented approaches are general and can be extended to other games as well. The proposed methods are compared to a baseline approach that simulates gameplay using a single strategy learnt from random gameplay data. Results show that by simulating different strategies, our approaches can more accurately predict the level difficulty, measured as the players’ success rate, on new levels. Both the approaches improved the mean absolute error by 13% and the mean squared error by approximately 23% when predicting with linear regression models. Furthermore, the proposed approaches can provide useful insights to better understand the players and the game. / I denna uppsats presenterar vi två tillvägagångssätt för att förbättra automatisk speltestning genom modellering av spelare. Genom att modellera olika grupper av spelare kunde vi träna Convolutional Neural Network-baserade agenter för att simulera mänskligt spelande med hjälp av olika strategier som är lärda direkt från mänsklig spelardata. Målet är att använda de utvecklade agenterna för att förutsäga användbar metrik av nyskapat spelinnehåll. Vi validerade vårt tillvägagångssätt genom Candy Crush Saga, ett icke-deterministiskt 3-matchnings pusselspel med mer än tre tusen nivåer. Detta är första gången som spelarmodellering appliceras på ett 3-matchnings pusselspel. De presenterade tillvägagångssätten är mer generella och kan utökas till andra spel. De föreslagna tillvägagångssätten är jämförda med ett tillvägagångssätt som simulerar spelande genom en strategi som är lärd direkt från slumpmässig mänsklig spelardata. Resultatet visar att vårt tillvägagångssätt, genom simulering av olika strategier är, mer exakt för att förutsäga spelarens svårighet, mätt genom spelarens framgång, på nya nivåer. Båda tillvägagångssätten förbättrade mean absolute error med 13% och mean squared error med ungefär 23%. Dessutom kan de föreslagna tillvägagångssätten ge en användbar insikt för att bättre förstå spelarna och spelet.

Commercialization potential is important to data science. Whether the problems encountered by data science in production can be solved determines the success or failure of the commercialization of data science. Recent research shows that DevOps theory is a great approach to solve the problems that software engineering encounters in production. And from the product perspective, data science and software engineering both need to provide digital services to customers. Therefore it is necessary to study the feasibility of applying DevOps in data science. This paper describes an approach of developing a delivery pipeline line for a data science system applying DevOps practices. I applied four practices in the pipeline: version control, model server, containerization, and continuous integration and delivery. However, DevOps is not a theory designed specifically for data science. This means the currently available DevOps practices cannot cover all the problems of data science in production. I expended the set of practices of DevOps to handle that kind of problem with a practice of data science. I studied and involved transfer learning in the thesis project. This paper describes an approach of parameterbased transfer where parameters learned from one dataset are transferred to another dataset. I studied the effect of transfer learning on model fitting to a new dataset. First I trained a convolutional neural network based on 10,000 images. Then I experimented with the trained model on another 10,000 images. I retrained the model in three ways: training from scratch, loading the trained weights and freezing the convolutional layers. The result shows that for the problem of image classification when the dataset changes but is similar to the old one, transfer learning a useful practice to adjust the model without retraining from scratch. Freezing the convolutional layer is a good choice if the new model just needs to achieve a similar level of performance as the old one. Loading weights is a better choice if the new model needs to achieve better performance than the original one. In conclusion, there is no need to be limited by the set of existing practices of DevOps when we apply DevOps to data science. / Kommersialiseringspotentialen är viktig för datavetenskapen. Huruvida de problem som datavetenskapen möter i produktionen kan lösas avgör framgången eller misslyckandet med kommersialiseringen av datavetenskap. Ny forskning visar att DevOps-teorin är ett bra tillvägagångssätt för att lösa de problem som programvaruteknik möter i produktionen. Och ur produktperspektivet behöver både datavetenskap och programvaruteknik tillhandahålla digitala tjänster till kunderna. Därför är det nödvändigt att studera genomförbarheten av att tillämpa DevOps inom datavetenskap. Denna artikel beskriver en metod för att utveckla en leverans pipeline för ett datavetenskapssystem som använder DevOps-metoder. Jag använde fyra metoder i pipeline: versionskontroll, modellserver, containerisering och kontinuerlig integration och leverans. DevOps är dock inte en teori som utformats specifikt för datavetenskap. Detta innebär att de för närvarande tillgängliga DevOps-metoderna inte kan täcka alla problem med datavetenskap i produktionen. Jag spenderade uppsättningen av DevOps för att hantera den typen av problem med en datavetenskap. Jag studerade och involverade överföringslärande i avhandlingsprojektet. I det här dokumentet beskrivs en metod för parameterbaserad överföring där parametrar lärda från en datasats överförs till en annan datasats. Jag studerade effekten av överföringsinlärning på modellanpassning till ett nytt datasystem. Först utbildade jag ett invecklat neuralt nätverk baserat på 10 000 bilder. Sedan experimenterade jag med den tränade modellen på ytterligare 10 000 bilder. Jag omskolade modellen på tre sätt: träna från grunden, ladda de tränade vikterna och frysa de invändiga lagren. Resultatet visar att för problemet med bildklassificering när datasättet ändras men liknar det gamla, överföra lärande en användbar praxis för att justera modellen utan omskolning från början. Att frysa det invändiga lagret är ett bra val om den nya modellen bara behöver uppnå en liknande prestanda som den gamla. Att ladda vikter är ett bättre val om den nya modellen behöver uppnå bättre prestanda än den ursprungliga. Sammanfattningsvis finns det inget behov att begränsas av uppsättningen av befintliga metoder för DevOps när vi tillämpar DevOps på datavetenskap.

State-of-the-art fluorescent imaging research is strictly limited to eight fluorophore labels duringthe study of intercellular interactions among organelles. The number of excited fluorophore colorsis restricted due to overlap in the narrow spectra of visual wavelength. However, this requires aconsiderable effort of analysis to be able to tell the overlapping signals apart. Significant overlapalready occurs with the use of more than four fluorophores and is leaving researchers limited to asmall number of labels and the hard decision to prioritize between cellular labels to use. Except for the physical limitations of fluorescent labeling, the labeling itself causes behavioralabnormalities due to sample perturbation. In addition to this, the labeling dye or dye-adjacentantibodies are potentially causing phototoxicity and photobleaching thus limiting the timescale oflive cell imaging. Nontoxic imaging modalities such as transmitted-light microscopes, such asbright-field and phase contrast methods, are available but not nearly achieving images of thespecificity as when using fluorophore labeling. An approach that could increase the number of organelles simultaneously studied withfluorophore labels, while being cost-effective and nontoxic as transmitted-light microscopes wouldbe an invaluable tool in the quest to enhance knowledge of cellular studies of organelles. Here wepresent a deep learning solution, using convolutional neural networks built to predict thefluorophore labeling effect on the nucleus, from a transmitted-light input. This solution renders afluorescent channel available for another marker and would eliminate the process of labeling thenucleus with dye or dye-conjugated antibodies by instead using deep convolutional neuralnetworks. / Allra senaste forskningen inom fluorescensmikroskopi är begränsat till upp till åtta fluoroforer förstudier av intracellulära kommunikationer mellan organeller. Antalet fluorescerande färger ärbegränsade till följd av spektralt överlapp i det synliga våglängdsområdet. Överlappande signalerbehöver matematiskt bearbetas vilket innebär ökad arbetsinsats och signifikant överlappning skerredan vid användning av fler än fyra fluoroforer. Denna begräsning innebär i slutändan att forskarehar ett litet antal fluoroforer att arbeta med och behöver därmed prioritera vilka cellulära strukturersom kan märkas samtidigt. Utöver de spektrala begräsningarna med fluorescensmikroskopi, så innebär även själva färgningenav cellulära komponenter en negativ cellulär påverkan i form av avvikande beteende.Fluorescerande färgämnen och märkta antikroppar orsakar potentiellt fototoxicitet ochljusblekning, vilket begränsar tidsrymden vid studier av levande celler. Ljusfältsmikroskop sombright-field and faskontrast har inte en toxisk påverkan men producerar inte i närheten likadetaljerade bilder som fluorescensmikroskop gör. Ett tillvägagångssätt som skulle kunna öka antalet organeller som simultant kan undersökas medfluoroforer, som samtidigt är kostnadseffektiv och inte har en toxisk påverkan somljusfältsmikroskop, skulle vara ett ovärderligt verktyg för utökad kunskap vid cellulära studier avorganeller. Här presenteras en maskininlärningsmetod byggd med artificiella neuronnät för attpredicera fluorescerande infärgningen av cellkärnan i fluorescensmikroskop, med bilder frånljusfältsmikroskop. Denna lösning frigör en fluorofor som kan användas till andra organellersamtidigt som arbetet med fluorescerande infärgning av cellkärnan inte längre är nödvändigt ochersätts med ett artificiellt neuronnät.

This thesis is focused on human detection in video streams using Convolutional Neural Networks (CNNs). In recent years, CNNs have become common methods in various computer vision problems, and image detection is one popular application. The performance of CNNs on the detection problem has undergone a rapid increase in both accuracy and speed. In this thesis, we focus on a specific sub-domain of detection: human detection. Furthermore, it makes the problem more challenging as the data extracted from video streams captured by a head-mounted camera and therefore include difficult view points and strong motion blur. Considering both accuracy and speed, we choose two models with typical structures--You Only Look Once (YOLO) and Single Shot MultiBox Detector (SSD)--to experiment how robust the models perform on human domain with motion blur, and how the differences between the structures may influence the results. Several experiments are carried out in this thesis. With a better design of structure, SSD outperforms YOLO in various aspects. It is further proved as we fine-tuned YOLO and SSD300 on human data in Pascal VOC 2012 trainval dataset, showing the efficiency of SSD with fewer classes trained. As for motion blur problem, it is shown in the experiments that SSD300 has good ability to learn blurred patterns. The structure of SSD300 is further tested with regard to the design of default boxes and its performance on different scales and locations. The results show that the SSD model has a superior performance on online detection in video streams, but with a more customized structure it has potential to achieve even better results. / Detta examensarbete undersöker problemet att detektera människor i videströmmar med hjälp av convolutional neural networks (CNNs). Under de senaste åren har CNNs ökat i användning, vilket medfört stora förbättringar i noggrannhet och beräkningshastighet. CNN är nu en populär metod i olika datorseende- och bildigenkänningsproblem. I detta projekt fokuserar vi på en specifik subdomän: detektion av människor. Problemet försvåras ytterligare av att vår videodata är inspelad från en huvudmonterad kamera. Detta medför att vårt system behöver hantera ovanliga betraktningsvinklar och rörelseoskärpa. Efter att ha tagit hänsyn till beräkningshastighet och detektionskvalitet har vi valt att undersöka två olika CNN-modeller: You Only Look Once (YOLO) och Single Shot MultiBox Detector (SSD). Experimenten har designats för att visa hur robusta metoderna är på att detektera människor i bilder med rörelseoskärpa. Vi har också undersökt hur modifikationer på nätverksstrukturer kan påverka slutresultaten. Flera experiment har gjorts i detta projekt. Vi visar att SSD ger bättre resultat än YOLO i många avseenden, vilket beror på att SSD har en bättre designad nätverksstruktur. Genom att utföra fin-anpassning av YOLO och SSD på bildkollektionen i Pascal VOC 2012 kan vi visa att SSD fungerar bra även när vi tränar på färre objektklasser. SSD300 har också god förmåga att lära mönster som påverkats av oskärpa. Vi analyserar även hur valet av position och skalor av de predefinierade sökområdenen påverkar resultaten från SSD300. Resultaten visar att SSD-modellen presterar överlägset i realtidsdetektion i videoströmmar. Genom att anpassa strukturerna ytterligare finns potential att uppnå ännu bättre resultat.