Diss. Stockholm : Stockholms universitet, 2009.

The development of autonomous driving in recent years has been in full swing and one of the aspects that Autonomous Vehicles (AVs) should always focus on is safety. Although the corresponding technology has gradually matured, and AVs have performed well in a large number of tests, people are still uncertain whether AVs can cope with all possible situations. This world is complex and ever-changing, experiencing countless disturbances every moment, and according to The Butterfly Effect, even the most insignificant small disturbance may set off a huge storm in the near future. If AVs really enter people’s daily lives, they will inevitably encounter many unexpected situations that have never been experienced before. Thus how to ensure that AVs can handle these well has become the most important issue at the moment. It is necessary to give the Automated Driving System (ADS) sufficient challenges during training and testing for acceptable safety and stability. However, dangerous and extreme driving scenarios in the real world are very rare, and it is also very expensive for such a test to be carried out in reality. Therefore, artificially creating a series of critical driving scenarios then training and testing the ADS in a simulation environment has become the current mainstream solution. This thesis project builds a complete framework for the automatic generation, simulation, and analysis of safety-critical driving scenarios. First, the specified scenarios and features are sequentially extracted from the naturalistic driving dataset through pre-defined rules; then a Density Estimation Model is adopted to learn the features, trying to find the distribution of the specified scenarios; after the distribution is obtained, synthetic driving scenarios can be obtained by sampling. Finally, visualize these synthetic scenarios via simulation for safety assessment and data analysis. / Utvecklingen av självkörande fordon har varit i full gång de senaste åre och en av aspekterna som självkörande alltid bör fokusera på är säkerheten. Även om motsvarande teknik gradvis har mognat, och självkörande har presterat bra i ett stort antal tester, är människor fortfarande osäkra på om självkörande klarar av alla möjliga situationer. Den här världen är komplex och ständigt föränderlig, upplever otaliga störningar varje ögonblick, och enligt The Butterfly Effect kan även den mest obetydliga lilla störningen sätta igång en enorm storm inom en snar framtid. Om självkörande verkligen kommer in i människors dagliga liv kommer de oundvikligen att möta många oväntade situationer som aldrig har upplevts tidigare. Så hur man säkerställer att självkörande kan hantera dessa väl har blivit den viktigaste frågan för tillfället. Det är nödvändigt att ge självkörande tillräckliga utmaningar underträning och testning för acceptabel säkerhet och stabilitet. Men farliga och extrema körscenarier i den verkliga världen är mycket sällsynta, och det är också mycket dyrt att genomföra ett sådant test i verkligheten. Att på konstgjord väg skapa en serie kritiska körscenarier och sedan träna och testa det automatiserade körsystemet i en simuleringsmiljö har därför blivit den nuvarande vanliga lösningen. Detta examensarbete bygger ett komplett ramverk för automatisk generering, simulering och analys av säkerhetskritiska körscenarier. Först extraheras de specificerade scenarierna och funktionerna sekventiellt från den naturalistiska kördatauppsättningen genom fördefinierade regler; sedan antas en densitetsuppskattningsmodell för att lära sig funktionerna och försöka hitta fördelningen av de specificerade scenarierna; efter att fördelningen erhållits kan syntetiska körscenarier erhållas genom provtagning. Slutligen, visualisera dessa syntetiska scenarier via simulering för säkerhetsbedömning och dataanalys.

Speech recognition is the task where a machine processes human speech into a written format. Groundbreaking scientific progress within speech recognition has been fueled by recent advancements in deep learning research, improving both key metrics of the task; accuracy and speed. Traditional speech recognition systems listen to, and analyse, the full speech utterance before making an output prediction. Streaming speech recognition on the other hand makes predictions in real- time, word by word, as speech is received. However, the improved speed of streaming speech recognition comes at a cost of reduced accuracy given the constraint of not having access to the full speech utterance at all time. In this thesis, we investigate the accuracy of streaming speech recognition systems by implementing models with state-of-the-art Transformer-based architectures. Our results show that for two similar models, one streaming, the other non-streaming, trained on a 100hr subset of Libirspeech, achieve a word error rate of 9.99%/10.76% on test- clean without using a language model. This puts the cost of streaming at a 7.2% accuracy degradation. Furthermore, the streaming models can be used “on-device” which has many benefits, including lower inference time, privacy preservation, and the ability to operate without an internet connection. / Taligenkänning är uppgiften där en dator bearbetar mänskligt tal till ett skrivet format. Forskning inom taligenkänning har drivits av de senaste framstegen inom forskning i djupinlärning, vilket har lett till att de två viktigaste mätvärdena, träffsäkerhet och hastighet, har förbättrats. Traditionella taligenkänningssystem lyssnar till och analyserar hela talsekvensen innan en prediktion görs. Strömmande taligenkänning å andra sidan gör realtids prediktioner, ord för ord, när tal tas emot. Den ökade hastigheten som strömmande taligenkänning medför kommer på bekostnad av träffsäkerhet då tillgången till hela talsekvensen inte alltid är tillgänglig. I den här avhandlingen undersöker vi träffsäkerhet av strömmande taligenkänningssystem genom att implementera ”Transformer”- baserade arkitekturer. Våra resultat visar att för två liknande modeller, en strömmande, och en icke- strömmande, tränade på 100 timmar av datasetet Librispeech, når en ordfelfrekvens på 9.99%/10.76% på ”test-clean”. Det gör att strömmande taligenkänning kommer på en bekostnad av 7.2% träffsäkerhet jämfört med icke- strömmande. De strömmande taligenkänningsmodellerna kan användas ”on-device” vilket främjar lägre slutledningstider, sekretessbevarande och förmågan att fungera utan internetanslutning.

The interest in using State-Of-The-Art (SOTA) Pre-Trained Language Model (PLM) in product development is growing. The fact that developers can use PLM has changed the way to build reliable models, and it is the go-to method for many companies and organizations. Selecting the Natural Language Processing (NLP) model with the highest accuracy is the usual way of deciding which PLM to use. However, with growing concerns about negative climate changes, we need new ways of making decisions that consider the impact on our future needs. The best solution with the highest accuracy might not be the best choice when other parameters matter, such as sustainable development. This thesis investigates how to calculate an approximate total cost considering Operating Expenditure (OPEX) and CO2~emissions for a deployed NLP solution over a given period, specifically the inference phase. We try to predict the total cost with Floating Point Operation (FLOP) and test NLP models on a classification task. We further present the tools to make energy measurements and examine the metric FLOP to predict costs. Using a bottom-up approach, we investigate the components that affect the cost and measure the energy consumption for different deployed models. By constructing this cost model and testing it against real-life examples, essential information about a given NLP implementation and the relationship between monetary and environmental costs will be derived. The literature studies reveal that the derival of a cost model is a complex area, and the results confirm that it is not a straightforward procedure to approximate energy costs. Even if a cost model was not feasible to derive with the resources given, this thesis covers the area and shows why it is complex by examine FLOP. / Intresset att använda State-Of-The-Art (SOTA) Pre-Trained Language Model (PLM) i produktutveckling växer. Det faktum att utvecklare kan använda PLM har förändrat sättet att träna tillförlitliga modeller på och det är den bästa metoden för många företag och organisationer att använda SOTA Naturlig Språkbehandling (NLP). Att välja NLP-modellen med högsta noggrannhet är det vanliga sättet att bestämma vilken PLM som ska användas. Men med växande oro för miljöförändringar behöver vi nya sätt att fatta beslut som kommer att påverka våra framtida behov. Denna avhandling undersöker hur man beräknar en ungefärlig totalkostnad med hänsyn till Operating Expenditure (OPEX) och CO2~utsläpp för en utplacerad NLP-lösning under en given period, dvs slutledningsfasen. Vi försöker förutspå den totala kostnaden med flyttalsoperationer och testar mot en klassificerings uppgift. Vi undersöker verktygen för att göra mätningar samt variabeln Flyttalsoperationer för att förutspå energiförbrukning.