Att det idag finns flera metoder och modeller för att fatta beslut är inte konstigt då beslutsfattande sker varje dag och i vissa sammanhang kan ge ödesdigra konsekvenser om det blir fel. Denna kandidatuppsats kan ses som en förstudie för hur naturligt beslutsfattande skulle kunna stödjas genom en förbättrad utbildning till beslutsfattare. Uppsatsen ämnar behandla naturligt beslutsfattande och intuition hos experter inom räddningstjänsten, närmare bestämt om de använder intuition och i så fall vad som ligger till grund för denna intuition. Intervjuer utfördes på räddningstjänsten i Motala efter critical decision method som är framtagen för cognitive task analysis. Inom räddningstjänsten använder sig befälen av intuition när de tar det flesta av sina beslut i fält. Resultaten av intervjuerna pekar på att intuition verkar ske undermedvetet vilket ger stöd för recognition primed decision model, i kombination med negativa ledtrådar och hävstångspunkter.

Burkina Faso is one of the poorest countries in the world. This landlocked country in the west has an extremely warm climate. Temperatures over 45°C are not uncommon and there is an almost constant need to keep the buildings cool to maintain a temperate indoor climate. Air-conditioning is an option to maintain the temperature but it overloads the power grid and only a few people can afford it. This thesis examines, through laboratory experiments, the thermal and mechanical properties that can be obtained by vibrating clayey soil and mixing it with water, lime or cement and organic fiber (Bissap). The report also examines different building projects utilizing local materials, both of a traditional and more modern nature.Energy required to produce building elements of soil is negligible compared to that of concrete and steel. Soil can be used in constructing houses but it is sensitive to water.The insulation is inadequate for a passive house so an extra layer of insulating material is required.The experiments performed during this project were inconclusive so it is impossible, from the results in this paper, to say if vibration is a good method for forming a building material of soil. The high water content needed, is however a major problem, shrinkage was about 20% and cracks were hard to avoid. Further investigations into the subject is necessary. / Burkina Faso är ett av de fattigaste länderna i världen. Som ett kustlöst land beläget i Västafrika har det ett extremt varmt klimat. Temperaturer över 45°C är inte ovanligt och det är ett nästan konstant behov av att kyla byggnader för att behålla ett behagligt inneklimat.   Idag byggs det två typer av byggnader i Burkina Faso; de traditionella lerhusen och de mer moderna husen med väggar av cementstenar och plåttak. Cementväggarna har ett U-värde på 3W/m2K och tillsammans med plåttaket så bildar det ett undermåligt klimatskal utan möjligheter att skydda mot hettan. Det leder idag till endera ett obehagligt varmt inneklimat eller en hög och kostsam energianvändning av luftkonditionering. Överbelastningen på elnätet på grund av luftkonditionering är påtaglig under den varmaste säsongen med frekventa strömavbrott till följd.   Denna rapport undersöker via laboratorieexperiment vilka termiska och mekaniska egenskaper man kan erhålla genom att vibrera lerjord och blanda med vatten, organiska fibrer samt kalk och/eller cement. Litteraturstudier och fältbesök i Burkina Faso har gjorts för att undersöka och förstå vilka svårigheter som kan uppkomma genom att bygga med lera. Rapporten tar även upp konkreta exempel på byggnader i Burkina Faso gjorda av lokala material, historiska såväl som moderna projekt.   Lerjord behöver extremt lite energitillförsel för att bilda ett byggmaterial och den negativa miljöpåverkan är försumbar jämfört med betong och stål. Det kan användas för att bygga energisnåla hus men det är känsligt mot vatten, vilket måste beaktas noga under projekteringen. Värmeledningsförmågan är för hög för att vara tillräcklig som isolering för att erhålla ett inneklimat enligt dagens standard, utan tillförsel av energi, så någon form av extra isolering krävs.   Experimenten som gjordes gav inte tillräckligt exakta resultat för att visa om vibrering är en bra metod att göra byggmaterial eller inte. Den höga vattenhalten som krävs för vibrering är ett stort problem. Krympningen var ungefär 20 % och sprickor var svåra att undvika. Vidare studier på området rekommenderas.

Gymnasieelevers förståelse av naturligt urval och fylogenetiska träd har undersökts genom en enkätundersökning med 223 elever på fyra gymnasieskolor i Sverige. Resultatet från studien visar att elever oftare svarar rätt på flervalsfrågor med evolutionära träd än på frågor som behandlar naturligt urval. Det skulle kunna vara för att de frågor (och svar) som tar upp naturligt urval har mer text, där den relevanta informationen måste kunna tas ut först från frågan och sedan från svarsalternativen för att kunna välja det rätta alternativet. Resultatet visar även att det inte finns något samband mellan elevernas förståelse av evolutionära träd och naturligt urval. Eleverna kan alltså förstå det ena (evolutionära träd) men behöver inte nödvändigtvis förstå det andra (naturligt urval) och vice versa. / High school students understanding of natural selection and phylogenetic trees has been tested through a survey of 223 pupils in four upper secondary schools in Sweden. The results of the study show that students more often choose the correct answer on multiple choice questions with evolutionary trees than on questions that address natural selection. One reason for this could be that the questions (and answers) that address natural selection have more text, where the students must be able to take out the relevant information first from the question and then from the answers, in order to be able to choose the correct answer. The result also shows that there is no connection between the students understanding of evolutionary trees and natural selection. The pupils can thus understand one (evolutionary trees) but do not necessarily need to understand the other (natural selection) and vice versa.

Denna studie handlar om elevers kunskap om evolutionära mekanismer och hur biologilärare utformar sin pedagogik för att stärka elevers begreppsmässiga förståelse. Studien består av fem semistrukturerade intervjuer med gymnasielärare i biologi vid två svenska gymnasieskolor. Studien lägger särskilt fokus på active learning-pedagogik och undersöker huruvida active learning kan främja elevers förståelse för evolutionära kärnbegrepp (variation, selektion och ärftlighet). Studiens resultat indikerar att de vanligaste missförstånden är att individer kan anpassa sig för att överleva, att begreppet fitness biologiska innebörd misstolkas samt en bristande förståelse för begreppet selektionstryck. Studien sätter förståelsen för evolutionära kärnbegrepp i relation till så kallade tröskelbegrepp som är utgör viktig förförståelse samt kognitiva biaser vilka utgör vanliga hinder för att kunna ta till sig kunskap om evolutionära mekanismer. Studien kontextualiserar active learning med närliggande didaktiska teoribildningar såsom Piagets begrepp ackommodera och det övre stegen i Blooms taxonomi. Ett resultat är att de lärare som själva har ett intresse av evolutionsundervisning i större utsträckning utvärderar sin undervisning och aktivt söker nya, mer illustrativa laborationer och övningar. Eftersom undervisningens utformning skiljer sig betydligt lärare emellan föreslås skapande av ett forum där evidensbaserade active learning- övningar kan tillgängliggöras för alla biologilärare. En active learning-laboration som baserat på forskning visat goda resultat beskrivs i detalj och jämförs ingående med en laboration genomförd av tre av de 5 intervjuade lärarna. Båda dessa laborationer utgör exempel på active learning-pedagogik, vilket skulle kunna utgöra en källa till inspiration som biologilärare kan använda för vidareutveckling av sin egen undervisning.

The field of software security is constantly evolving, and security must be taken into consideration throughout the entire product life cycle. This is particularly important in today’s dynamic security landscape, where threats and vulnerabilities constantly change. One of the organizations’ biggest challenges is identifying and managing vulnerabilities in their software systems. This is where automating aspects of vulnerability management can play a crucial role. This thesis aims to investigate the feasibility of using natural language processing to automate vulnerability management. The main objective of the work is to develop a proof-of-concept system that simplifies the work of developers and testers by automatically filtering and categorizing vulnerabilities. The system will use natural language processing to distinguish and classify vulnerabilities based on the details of the vulnerability description. This helps organizations to identify and manage vulnerabilities conveniently, meanwhile saving time and resources. In addition, the system will be integrated with the defect-tracking tool, becoming part of the software development process. Therefore, the vulnerabilities can be identified and managed as early as possible in the development cycle, making resolving them easier and more cost-effective. Integrating the defect-tracking tool will also make it easier for organizations to track and resolve vulnerabilities promptly. In conclusion, this work aims to demonstrate that an automated vulnerability management system using natural language processing is feasible and effective. By simplifying the work of developers and testers, organizations can improve their overall software security posture and reduce their risk of security incidents. The expected outcome of this work is a proof-of-concept system that can be used as a model for organizations which aim to improve their vulnerability management processes. / Området mjukvarusäkerhet utvecklas ständigt och säkerhet måste beaktas under hela produktens livscykel. Detta är särskilt viktigt i dagens dynamiska säkerhetslandskap, där hot och sårbarheter ständigt förändras. En av organisationernas största utmaningar är att identifiera och hantera sårbarheter i sina mjukvarusystem. Det är här automatisering av sårbarhetshantering kan spela en avgörande roll. Denna avhandling syftar till att undersöka möjligheten att använda bearbetning av naturligt språk för att automatisera sårbarhetshantering. Huvudsyftet med forskningen är att utveckla prototyp som förenklar arbetet för utvecklare och testare genom att automatiskt filtrera och kategorisera sårbarheter. Systemet kommer att använda naturlig språkbehandling för att särskilja och klassificera sårbarheter baserat på detaljerna i sårbarhetsbeskrivningen. Detta hjälper organisationer att identifiera och hantera sårbarheter, samtidigt som det sparar tid och resurser. Dessutom kommer systemet att integreras i ett automatiserat flöde och blir då en del av mjukvaruutvecklingsprocessen. Detta säkerställer att sårbarheter identifieras och hanteras så tidigt som möjligt i utvecklingscykeln, vilket gör det enklare och mer kostnadseffektivt att lösa dem. Integrationen med defektspårningsverktyg kommer också att göra det lättare för organisationer att följa sårbarheter och lösa dem snabbt. Sammanfattningsvis syftar detta arbete till att visa att ett automatiserat sårbarhetshanteringssystem som använder naturligt språkbehandling är genomförbart och effektivt. Genom att förenkla arbetet för utvecklare och testare kan organisationer förbättra sin övergripande mjukvarusäkerhet och minska risken för säkerhetsincidenter. Det förväntade resultatet av detta arbete är ett proof-of-concept-system som kan användas som en modell för organisationer som strävar efter att förbättra sina processer för sårbarhetshantering.

Fängelsestraffet och dess konsekvenser är ett ämne som diskuteras inom både politik och forskning. Inom politiken hörs ofta argument om hårdare och längre straff som ska minska brottsligheten, men inom forskningsfältet råder större oenighet. Kriminologisk forskning har undersökt fängelsestraffets effekter på flera olika utfall med heterogena resultat som följd. Trots att fängelsets effekter har diskuterats länge finns därmed ännu ingen konsensus om hur strafflängd påverkar utfall såsom återfall och hälsa hos de som döms till påföljden. I denna studie undersöks hur strafflängd påverkar återfall och mortalitet hos de som döms för narkotikabrott av minst normalgraden i Sverige. För att undersöka detta används ett naturligt experiment och den kvasiexperimentella designen difference-in-difference. Resultaten visar inga signifikanta effekter av strafflängd på mortalitet. För strafflängdens effekter på återfall visar resultaten att längre straff signifikant kan minska risken för återfall, men minskningen är marginell. Analysen riskerar dock att påverkas av några felkällor som skapar viss osäkerhet i resultatens validitet och tillförlitlighet. Framförallt påverkas analysen av förändringar i de undersökta gruppernas demografiska sammansättning. Mer forskning krävs både för att öka tillförlitligheten till resultaten och för att få djupare förståelse för vilka mekanismer som har gett upphov till studiens resultat.

Syfte: Syftet med detta examensarbete är att kartlägga förkunskaperna i områdena fotosyntes, biologisk mångfald, växthusgaser, energi och hållbar utveckling, samt evolution och naturligt urval hos gymnasieelever som läser ämnet Biologi 1 på det naturvetenskapliga programmet på en gymnasieskola i västra Götaland. Syftet är också att utvärdera betydelsen av diagnostiska test för dessa elever och deras lärare. Avsikten är även att presentera möjliga förslag till att utnyttja resultaten av dessa test för att på bästa sätt kunna hjälpa de elever som har svårigheter i eller ligger i riskzonen för att ha svårigheter i dessa kunskapsområden i Biologi.Metod och genomförande: Undersökningen har dels genomförts med en diagnostisk test, dels genom intervjuer av tre lärare på gymnasieskolan. Eleverna har även fått två analysfrågor som berörde deras uppfattningar om användandet av denna test inom ämnet Biologi.Resultat: Resultatet visar att eleverna har bristande förkunskaper inom områdena fotosyntes och betydelse av växthusgaser. Både elever och intervjuade lärare är positivt inställda till diagnostisk test i Biologi. Eleverna anser att diagnostisk test med fördel kan införas så länge dessa används för kartläggning av elevernas förkunskaper, samt som ett verktyg för att ge dem individuellt stöd till vidare kunskapsutveckling. Trots att lärarna verkar ha skilda uppfattningar om inflytandet av den eventuella diagnostiska testen på undervisningens upplägg och arbetsformer, tycker samtliga att nivågrupperingar inte är någon givande arbetsform, en mer blandad kunskapsnivå i grupper är ett mer effektivt sätt att hjälpa de elever som har bristande förkunskaper. Dessutom räknas språk och läsförståelse som viktiga faktorer för lärandets framgång.

Intrinsic value prediction is a Natural Language Processing (NLP) problem consisting in determining a numerical value contained implicitly and non-trivially in a text. In this project, we introduce the SWORDSMAN model (Sentence and Word-level Oracle for Research Documents by Semantic Multi-scale ANalysis), a deep neural network architecture based on transformers whose goal is to predict the cost of research projects from the analysis of their abstract. SWORDSMAN is built on a hybrid structure based on two branches in order to conduct a multi-scale analysis by combining the strengths of global and local perspectives to extract more relevant information from these texts. The local branch uses Convolution Neural Networks (CNNs) to analyse abstracts at fine-grained word level and bring more nuance to the understanding of the context of occurrence of key terms, while the global branch combines Sentence Transformers and Radial Basis Functions (RBFs) to process these abstracts at a higher level to identify the overall context of the project, while being more focused on the content than the form of the data. The joint use of these models allows SWORDSMAN to have a better capacity to understand complex data by using this analysis at different levels of granularity to present a better estimation accuracy. / Förutsägelse av inneboende värde är ett problem inom Natural Language Processing (NLP) som består i att bestämma ett numeriskt värde som finns implicit och icke-trivialt i en text. I det här projektet introducerar vi SWORDSMAN-modellen (Sentence and Word-level Oracle for Research Documents by Semantic Multi-scale ANalysis), en djup neuronal nätverksarkitektur baserad på transformatorer vars mål är att förutsäga kostnaden för forskningsprojekt utifrån analysen av deras abstrakt. SWORDSMAN bygger på en hybridstruktur baserad på två grenar för att genomföra en analys i flera skalor genom att kombinera styrkorna hos globala och lokala perspektiv för att extrahera mer relevant information från dessa texter. I den lokala grenen används CNN-nätverk (Convolution Neural Networks) för att analysera sammanfattningar på finkornig ordnivå och ge mer nyans till förståelsen av sammanhanget för förekomsten av nyckeltermer, medan den globala grenen kombinerar meningstransformatorer och radiella basfunktioner (RBF) för att bearbeta dessa sammanfattningar på en högre nivå för att identifiera projektets övergripande sammanhang, samtidigt som den är mer inriktad på innehållet än på formen av uppgifterna. Den gemensamma användningen av dessa modeller gör det möjligt för SWORDSMAN att ha en bättre förmåga att förstå komplexa data genom att använda denna analys på olika granularitetsnivåer för att presentera en bättre skattningsnoggrannhet. / La prédiction de valeur intrinsèque est un problème de Traitement Automatique du Langage (TAL) consistant à déterminer une valeur numérique contenue de manière implicite et non triviale dans un texte. Dans ce projet, nous introduisons le modèle SWORDSMAN (Sentence and Word-level Oracle for Research Documents by Semantic Multi-scale ANalysis), une architecture de réseaux de neurones profonde basée sur les transformers dont le but est de prédire le coût de projets de recherche à partir de l’analyse de leur abstract. SWORDSMAN est bâti sur une structure hybride reposant sur deux branches afin de mener une analyse multi-échelles en combinant les forces de perspectives globale et locale pour extraire des informations plus pertinentes de ces textes. La branche locale utilise des réseaux de neurones de convolution (CNN) pour analyser les abstracts à l’échelle des mots et apporter plus de nuance à la compréhension du contexte d’apparition des termes clés, là où la branche globale combine Sentence Transformers et fonctions de base radiale (RBF) pour traiter ces abstracts à un plus haut niveau afin d’identifier le contexte général du projet, tout en étant plus focalisée sur le contenu que la forme des données. L’utilisation conjointe de ces modèles permet à SWORDSMAN de disposer d’une meilleure capacité de compréhension de données complexes en se servant de cette analyse à différents niveaux de granularité pour présenter une meilleure précision d’estimation.

Despite the outstanding performances of the large Transformer-based language models, it proposes a challenge to compress the models and put them into the industrial environment. This degree project explores model compression methods called knowledge distillation in the sentiment classification task on Transformer models. Transformers are neural models having stacks of identical layers. In knowledge distillation for Transformer, a student model with fewer layers will learn to mimic intermediate layer vectors from a teacher model with more layers by designing and minimizing loss. We implement a framework to compare three knowledge distillation methods: MiniLM, TinyBERT, and Patient-KD. Student models produced by the three methods are evaluated by accuracy score on the SST-2 and SemEval sentiment classification dataset. The student models’ attention matrices are also compared with the teacher model to find the best student model for capturing dependencies in the input sentences. The comparison results show that the distillation method focusing on the Attention mechanism can produce student models with better performances and less variance. We also discover the over-fitting issue in Knowledge Distillation and propose a Two-Step Knowledge Distillation with Transformer Layer and Prediction Layer distillation to alleviate the problem. The experiment results prove that our method can produce robust, effective, and compact student models without introducing extra data. In the future, we would like to extend our framework to support more distillation methods on Transformer models and compare performances in tasks other than sentiment classification. / Trots de stora transformatorbaserade språkmodellernas enastående prestanda är det en utmaning att komprimera modellerna och använda dem i en industriell miljö. I detta examensarbete undersöks metoder för modellkomprimering som kallas kunskapsdestillation i uppgiften att klassificera känslor på Transformer-modeller. Transformers är neurala modeller med staplar av identiska lager. I kunskapsdestillation för Transformer lär sig en elevmodell med färre lager att efterlikna mellanliggande lagervektorer från en lärarmodell med fler lager genom att utforma och minimera förluster. Vi genomför en ram för att jämföra tre metoder för kunskapsdestillation: MiniLM, TinyBERT och Patient-KD. Elevmodeller som produceras av de tre metoderna utvärderas med hjälp av noggrannhetspoäng på datasetet för klassificering av känslor SST-2 och SemEval. Elevmodellernas uppmärksamhetsmatriser jämförs också med den från lärarmodellen för att ta reda på vilken elevmodell som är bäst för att fånga upp beroenden i de inmatade meningarna. Jämförelseresultaten visar att destillationsmetoden som fokuserar på uppmärksamhetsmekanismen kan ge studentmodeller med bättre prestanda och mindre varians. Vi upptäcker också problemet med överanpassning i kunskapsdestillation och föreslår en tvåstegs kunskapsdestillation med transformatorskikt och prediktionsskikt för att lindra problemet. Experimentresultaten visar att vår metod kan producera robusta, effektiva och kompakta elevmodeller utan att införa extra data. I framtiden vill vi utöka vårt ramverk för att stödja fler destillationmetoder på Transformer-modeller och jämföra prestanda i andra uppgifter än sentimentklassificering.

Network log records are robust evidence for enterprises to make error diagnoses. The current method of Ericsson’s Networks team for troubleshooting is mainly by manual observation. However, as the system is getting vast and complex, the log messages show a growth trend. At this point, it is vital to accurately and quickly discern the root cause of error logs. This thesis proposes models that can address two main problems applying Natural Language Processing methods: manual log root cause classification is progressed to automated classification and Question Answering (QA) system to give root cause directly. Models are validated on Ericsson’s firewall traffic data. Different feature extraction methods and classification models are chosen, with the more effective Term Frequency-Inverse Document Frequency (TF-IDF) method combined with a Random Forest classifier obtaining the F1 score of 0.87 and Bidirectional Encoder Representations from Transformers (BERT) fine-tuned classification obtaining the F1 score of 0.90. The validated QA model also gets good performance in quality assessment. The final results demonstrate that the proposed models can optimize manual analysis. While choosing algorithms, deep learning models such as BERT can produce similar or even better results than Random Forest and Naive Bayes classifiers. However, it is complex to implement the BERT since it requires more resources compared to more straightforward solutions and more caution. / Nätverksloggposter är robusta bevis för företag att göra feldiagnoser. Ericssons nätverksteams nuvarande metod för felsökning är huvudsakligen manuell observation. Men eftersom systemet blir stort och komplext visar loggmeddelandena en tillväxttrend. Vid denna tidpunkt är det viktigt att noggrant och snabbt urskilja grundorsaken till felloggar. Den här avhandlingen föreslår modeller som kan lösa två huvudproblem vid tillämpning av Natural Language Processing-metoder: manuell logggrundorsaksklassificering går vidare till automatiserad klassificering och QA-system (Question Answering) för att ge grundorsaken direkt. Modellerna är validerade på Ericssons brandväggstrafikdata. Olika funktionsextraktionsmetoder och klassificeringsmodeller valdes, med den mer effektiva metoden Term Frequency-Inverse Document Frequency (TF-IDF) kombinerad med en Random Forest-klassificerare som fick ett F1-poäng på 0,87 och Bidirectional Encoder Representations from Transformers (BERT) finjusterade klassificering som erhåller en F1-poäng på 0,90. Den validerade QA-modellen får också bra prestanda vid kvalitetsbedömning. De slutliga resultaten visar att de föreslagna modellerna kan optimera manuell analys. När man väljer algoritmer kan djupinlärningsmodeller som BERT ge liknande eller till och med bättre resultat än Random Forest och Naive Bayes klassificerare. Det är dock komplicerat att implementera BERT eftersom det kräver mer resurser jämfört med enklare lösningar och mer försiktighet.