Den här studien använder sig av TORCS (The Open Racing Car Simulator) som är ett intressant spel att skapa självkörande bilar i då det finns nitton olika typer av sensorer som beskriver omgivningen för agenten. Problemet för denna studie har varit att identifiera vilka av alla dessa sensorer som kan användas i en belöningsfunktion och hur denna sedan skall implementeras. Studien har anammat en kvantitativa experimentell studie där forskningsfrågan är: Hur kan en belöningsfunktion utformas så att agenten klarar av att manövrera i spelet TORCS utan att krocka och med ett konsekvent resultat Den kvantitativ experimentell studien valdes då författarna behövde designa, implementera, utföra experiment och utvärdera resultatet för respektive belöningsfunktion. Det har utförts totalt femton experiment över tolv olika belöningsfunktioner i spelet TORCS på två olika banor E-Track 5(E-5) och Aalborg. De tolv belöningsfunktionerna utförde varsitt experiment på E-5 där de tre som fick bäst resultat: Charlie, Foxtrot och Juliette utförde ett experiment på Aalborg, då denna är en svårare bana. Detta för att kunna styrka om den kan köra på mer än en bana och om belöningsfunktionen då är generell. Juliette är den belöningsfunktion som var ensam med att klara både E-5 och Aalborg utan att krocka. Genom de utförda experimenten drogs slutsatsen att Juliette uppfyller forskningsfrågan då den klarar bägge banorna utan att krocka och när den lyckas får den ett konsekvent resultat. Studien har därför lyckats designa och implementera en belöningsfunktion som uppfyller forskningsfrågan. / For this study TORCS (The Open Racing Car Simulator) have been used, since it is an interesting game to create self-driving cars in. This is due to the fact there is nineteen different sensors available that describes the environment for the agent. The problem for this study has been to identify what sensor can be used in a reward function and how should this reward function be implemented. The study have been utilizing a quantitative experimental method where the research questions have been: How can a reward function be designed so that an Agent can maneuver in TORCS without crashing and at the same time have a consistent result The quantitative experimental method was picked since the writer’s hade to design, implement, conduct experiment and evaluate the result for each reward function. Fifteen experiments have been conducted over twelve reward functions on two different maps: E-Track 5 (E-5) and Aalborg. Each of the twelve reward function conducted an experiment on E-5, where the three once with the best result: Charlie, Foxtrot and Juliette conducted an additional experiment on Aalborg. The test on Aalborg was conducted in order to prove if the reward function can maneuver on more than one map. Juliette was the only reward function that managed to complete a lap on both E-5 and Aalborg without crashing. Based on the conducted experiment the conclusion that Juliette fulfills the research question was made, due to it being capable of completing both maps without crashing and if it succeeded it gets a consistent result. Therefor this study has succeeded in answering the research question.

The main purpose of the study was to analyze whether age, gender and integrity affect the acceptance of self-driving cars. The theoretical framework TAM (Technology AcceptanceModel) is used as a starting point for acceptance where we set our variables against Perceived Usefulness and Perceived Ease of Use that are the main variables in the model. A quantitative method has been applied and a survey was used for data collection. The survey was sent to 140 students. The response rate was 82 % involving a total of 116 respondents, of which 60 were women and 53 were men, where age ranged between 18-60 years old. The results of a T-test showed that there was a correlation between gender and acceptance of self-driving cars. The remaining variables could not be linked to acceptance in our study. The conclusion that we could make from this study was that there was a correlation between gender and acceptance of self-driving cars based on the cognitive mindset that is separated between the sexes. / Det huvudsakliga syftet med studien var att analysera ifall ålder, kön och integritet påverkar acceptans av självkörande bilar. Det teoretiska ramverket TAM (Technology AcceptanceModel) används som utgångspunkt för acceptans där vi ställde våra variabler gentemot den Uppfattade Användbarheten och den Uppfattade Användarvänligheten som är huvudvariableri modellen. En kvantitativ metod har använts och där ett frågeformulär skickades till 140 studenter. Svarsfrekvensen låg på 82% där totalt 116 respondenter, varav 60 kvinnor och 53 män i åldrarna mellan 18–60. Resultatet från ett T-test visade att det fanns samband mellan kön och acceptans av självkörande bilar. Resterande variabler kunde inte kopplas till acceptans i studien. Slutsatsen vi kunde dra utifrån denna studie var att det fanns ett samband mellan kön och acceptans av självkörande bilar, baserat på det kognitiva tankesättet som skiljs åt mellan könen.

Artificiell intelligens är ett fenomen som bara blir större och större i världen och i Sverige. Teknologin börjar bli allt vanligare för att bilar ska kunna köra sig själva, med andra ord självkörande bilar. I dagsläget har Sverige ingen lagstiftning för helt självkörande bilar i Sverige. Genom en kvantitativ undersökning har allmänhetens inställning och godkännande av fenomenet i Sverige undersökts. Vidare har studien undersökt vem den svenska befolkningen anser borde stå till svars i bilolyckor med självkörande bilar. Författarna kunde konstatera att lagstiftningen ligger efter tekniken och för att de helt självstyrande bilarna ska kunna implementeras i Sverige borde det ske en förändring i lagstiftningen för att bemöta den allmänna uppfattningen kring självkörande bilar i Sverige. Studiens resultat kom fram till att en ändring av den gällande lagstiftningen borde bli aktuell där lagen gynnar människor samt företagen bakom tekniken, inte bara som det är nu att lagen enbart gynnar biltillverkarna då de inte har något ansvar vid bilolyckor med halvt självkörande bilar. För att människor ska känna tillit till tekniken behövs det en större kunskap kring fenomenet. Detta skulle biltillverkarna kunna fixa genom att låta användaren av bilen ha en större vetskap över till exempel den data som företagen samlar in samt vad den används till. / Artificial intelligence is a phenomenon that is only getting bigger and bigger in the world and in Sweden. The technology is becoming increasingly common for cars to be able to drive themselves, in other words self-driving cars. Sweden currently has no legislation for fully self-driving cars in Sweden. Through a quantitative survey, the public's attitude and acceptance of the phenomenon in Sweden has been examined. Furthermore, the study investigated who the Swedish population believes should be held accountable in car accidents with self-driving cars. The authors were able to state that the legislation lags behind the technology and in order for fully self-driving cars to be implemented in Sweden, there should be a change in the legislation to meet the general perception of self-driving cars in Sweden. The results of the study came to the conclusion that a change in the current legislation should be relevant where the law benefits people as well as the companies behind the technology, not just as it is now that the law only benefits the car manufacturers as they have no responsibility in car accidents with semi-autonomous cars. In order for people to trust the technology, a greater knowledge of the phenomenon is needed. The car manufacturers could fix this by letting the user of the car have greater knowledge of, for example, the data that the companies collect and what it is used for.

With the arrival of automated vehicles (AVs) on our streets virtually around the corner, this thesis explores advances in automated driving technology with a focus on ethical decision making in dilemmatic traf- fic situations. In a total of five publications, we take a multi-facetted approach to analyse and address the core challenges related to auto- mated ethical decision making in AVs. In publications one through three, we conduct a series of immersive virtual reality studies to analyze human behavior in traffic dilemmas, explore mathematical approaches to model the decision making process, investigate how the assessment methodology can affect moral judgment, and discuss the implications of these studies for algorithmic decision making in the real-world. In publication number four, we provide a comprehensive summary of the status quo of AV technology and legislation with regard to automated ethical decision making. Here, we discuss when and why ethical deci- sion making systems become necessary in AVs, review existing guide- lines for the behavior of AVs in dilemma situations, and compile a set of 10 demands and open questions that need to be addressed in the pursuit of a framework for ethical decision making in AVs. Finally, the basis for automated ethical decision making in AVs will be provided by accurate assessments of the immediate environment of the car. The pri- mary technology used to provide the required information processing of camera and LiDAR images in AVs is machine learning, and in particular deep learning. In publication five, we propose a form of adaptive acti- vation functions, addressing a central element of deep neural networks, which could, for instance, lead to increased detection rates of relevant objects, and thus help to provide a more accurate assessment of the AVs environment. Overall, this thesis provides a structured and compre- hensive overview of the state of the art in ethical decision making for AVs. It includes important implications for the design of decision mak- ing algorithms in practice, and concisely outlines the central remaining challenges on the road to a safe, fair and successful introduction of fully automated vehicles into the market.

Samhällsutvecklingen går i en riktning där människor arbetar i allt närmare samarbete med artificiella agenter. För att detta samarbete ska vara på användarens villkor är det viktigt att förstå hur människor uppfattar och förhåller sig till dessa system. Hur dessa agenter bedöms moraliskt är en komponent i denna förståelse. Malle m.fl. (2015) utförde en av de första studierna kring hur normer och skuld appliceras på människa respektive robot. I samma artikel efterfrågades mer forskning kring vilka faktorer hos agenter som påverkar de moraliska bedömningarna. Föreliggande studie tog avstamp i denna frågeställning och avsåg att undersöka hur moralisk godtagbarhet och skuldbeläggning skiljde sig beroende på om agenten var en person, en humanoid robot eller ett autonomt intelligent system utan kropp (AIS). Ett mellangrupps-experiment (N = 119) användes för att undersöka hur agenterna bedömdes för sina beslut i tre olika moraliska dilemman. Deltagares rättfärdigaden bakom bedömningar samt medveten hållning utforskades som förklaringsmodell av skillnader. Medveten hållning avser Dennetts (1971) teori kring huruvida en agent förstås utifrån mentala egenskaper. Resultaten visade att person och robot erhöll liknande godtagbarhet för sina beslut medan AIS fick signifikant lägre snitt. Graden skuld som tillskrevs skiljde sig inte signifikant mellan agenterna. Analysen av deltagares rättfärdiganden gav indikationer på att skuldbedömningarna av de artificiella agenterna inte grundade sig i sådan information som antagits ligga till grund för denna typ av bedömningar. Flera rättfärdiganden påpekade också att det var någon annan än de artificiella agenterna som bar skulden för besluten. Vidare analyser indikerade på att deltagare höll medveten hållning mot person i störst utsträckning följt av robot och sedan AIS. Studien väcker frågor kring huruvida skuld som fenomen går att applicera på artificiella agenter och i vilken utsträckning distribuerad skuld är en faktor när artificiella agenter bedöms.