Instruktioner har haft en positiv påverkan på rationellt tänkande, bland annat när de har innehållit exempel och kombinerats med träning. Viss forskning har visat att även mindre omfattande instruktioner har främjat rationellt tänkande. Syftet med studien var att undersöka om en kortfattad instruktion kunde leda till mer rationellt tänkande. Totalt slutförde 93 deltagarna studien vilka randomiserades till en av två betingelser, instruktion eller icke-instruktion. Instruktionsgruppen fick läsa en kortfattad instruktion som varnade för kognitiva genvägar och tankefel. Deltagarna besvarade en webbenkät med heuristik och snedvridningsuppgifter samt påstående som tillsammans mätte rationellt tänkande. En tvåvägsvariansanalys visade ingen signifikant huvudeffekt av grupp men en signifikant huvudeffekt av kön, männen fick i genomsnitt signifikant högre poäng på rationellt tänkande än kvinnorna. Ingen signifikant interaktionseffekt mellan grupp och kön uppvisades. Resultatet diskuterades i relation till relevanta teorier och modeller för rationellt tänkande, vilka implicerade att instruktionen endast berörde en del av rationellt tänkande.

Användningen av artificiell intelligens (AI) har tredubblats på ett år och och anses av vissa vara det viktigaste paradigmskiftet i teknikhistorien. Den rådande AI-kapplöpningen riskerar att underminera frågor om etik och hållbarhet, vilket kan ge förödande konsekvenser. Artificiell intelligens har i flera fall visat sig avbilda, och till och med förstärka, befintliga snedvridningar i samhället i form av fördomar och värderingar. Detta fenomen kallas algoritmisk snedvridning (algorithmic bias). Denna studie syftar till att formulera ett ramverk för att minimera risken att algoritmisk snedvridning uppstår i AI-projekt och att anpassa det efter ett medelstort konsultbolag. Studiens första del är en litteraturstudie på snedvridningar - både ur ett kognitivt och ur ett algoritmiskt perspektiv. Den andra delen är en undersökning av existerande rekommendationer från EU, AI Sustainability Center, Google och Facebook. Den tredje och sista delen består av ett empiriskt bidrag i form av en kvalitativ intervjustudie, som har använts för att justera ett initialt ramverk i en iterativ process. / In the use of the third generation Artificial Intelligence (AI) for the development of products and services, there are many hidden risks that may be difficult to detect at an early stage. One of the risks with the use of machine learning algorithms is algorithmic bias which, in simplified terms, means that implicit prejudices and values are comprised in the implementation of AI. A well-known case is Google’s image recognition algorithm, which identified black people as gorillas. The purpose of this master thesis is to create a framework with the aim to minimise the risk of algorithmic bias in AI development projects. To succeed with this task, the project has been divided into three parts. The first part is a literature study of the phenomenon bias, both from a human perspective as well as from an algorithmic bias perspective. The second part is an investigation of existing frameworks and recommendations published by Facebook, Google, AI Sustainability Center and the EU. The third part consists in an empirical contribution in the form of a qualitative interview study which has been used to create and adapt an initial general framework. The framework was created using an iterative methodology where two whole iterations were performed. The first version of the framework was created using insights from the literature studies as well as from existing recommendations. To validate the first version, the framework was presented for one of Cybercom’s customers in the private sector, who also got the possibility to ask questions and give feedback regarding the framework. The second version of the framework was created using results from the qualitative interview studies with machine learning experts at Cybercom. As a validation of the applicability of the framework on real projects and customers, a second qualitative interview study was performed together with Sida - one of Cybercom’s customers in the public sector. Since the framework was formed in a circular process, the second version of the framework should not be treated as constant or complete. The interview study at Sida is considered the beginning of a third iteration, which in future studies could be further developed.

AI spås få lika stor påverkan på samhället som elektricitet haft och avancemangen inom till exempel maskininlärning och neurala nätverk har tagit AI in i sektorer som rättsväsende, rekrytering och hälso- och sjukvård. Men AI-system är, precis som människor, känsliga för olika typer av snedvridningar, vilket kan leda till orättvisa beslut. En alarmerande mängd studier och rapporter visar att AI i flera fall speglar, sprider och förstärker befintliga snedvridningar i samhället i form av fördomar och värderingar vad gäller könsstereotyper och könsdiskriminering. Algoritmer som används i bildigenkänning baserar sina beslut på stereotyper om vad som är manligt och kvinnligt, röstigenkänning är mer trolig att korrekt känna igen manliga röster jämfört med kvinnliga röster och röstassistenter som Microsoft:s Cortona eller Apple:s Siri förstärker befintlig könsdiskriminering i samhällen. Syftet med denna studie är att undersöka hur könsdiskriminering kan uppstå i AI-system generellt, hur relationen mellan gender bias och AI-system ser ut samt hur ett företag som arbetar med utveckling av AI resonerar kring relationen mellan gender bias och AI-utveckling. Studiens syfte uppfylls genom en litteraturgenomgång samt djupintervjuer med nyckelpersoner som på olika sätt arbetar med AI-utveckling på KPMG. Resultaten visar att bias i allmänhet och gender bias i synnerhet finns närvarande i alla steg i utvecklingen av AI och kan uppstå på grund av en mängd olika faktorer, inklusive men inte begränsat till mångfald i utvecklingsteamen, utformningen av algoritmer och beslut relaterade till hur data samlas in, kodas, eller används för att träna algoritmer. De lösningar som föreslås handlar dels om att adressera respektive orsaksfaktor som identifierats, men även att se problemet med gender bias och könsdiskriminering i AI-system från ett helhetsperspektiv. Essensen av resultaten är att det inte räcker att ändra någon av parametrarna om inte systemets struktur samtidigt ändras. / Recent advances in, for example, machine learning and neural networks have taken artificial intelligence into disciplines such as justice, recruitment and health care. As in all fields subject to AI, correct decisions are crucial and there is no room for discriminatory conclusions. However, AI-systems are, just like humans, subject to various types of distortions, which can lead to unfair decisions. An alarming number of studies and reports show that AI in many cases reflects and reinforces existing gender bias in society. Algorithms used in image recognition base their decisions on character stereotypes of male and female. Voice recognition is more likely to correctly recognize male voices compared to female voices, and earlier 2019 the United Nations released a study showing that voice assistants, such as Microsoft's Cortona or Apple's Siri, reinforce existing gender bias. The purpose of this study is to investigate how gender discrimination can appear in AI-systems, and what constitutes the relationship between gender bias, gender discrimination and AI-systems. Furthermore it addresses how a company that works with the development of AI reason concerning the relationship between gender bias, gender discrimination and AI development. The study contains a thorough literature review, as well as in-depth interviews with key persons working with various aspects of AI development at KPMG.  The results show that bias in general, and gender bias in particular, are present at all stages of AI development. It can occur due to a variety of factors, including but not limited to the lack of diversity in the workforce, the design of algorithms and the decisions related to how data is collected, encoded and used to train algorithms. The solutions proposed are partly about addressing the identified factors, but also about looking at the problem from a holistic perspective. The significance of seeing and understanding the links between gender bias in society and gender bias in AI-systems, as well as reconsidering how each factor depends on and correlates with other ones, is emphasized. The essence of the results is that it is not enough to alter any of the parameters unless the structure of the system is changed as well.

Tidigare har kärnkraftspolitiken i Sverige legitimerats genom att kärnkraften framställts som det enda energislaget som både är koldioxidneutralt och effektivt nog att förse den svenska industrin med el till konkurrenskraftiga priser. Eftersom kärnkraften under de senaste åren utsatts för allt hårdare konkurrens från effektiv och koldioxidsnål förnybar energi finns det goda skäl att förvänta sig att den senaste förändringen av svensk kärnkraftspolitik - beslutet att avskaffa effektskatten - legitimerats genom nya sätt att skapa mening kring kärnkraften och kärnkraftspolitiken. I den här studien undersöks därför hur beslutet att avskaffa effektskatten legitimerades inom den energipolitiska policyeliten och hur det skiljer sig från tidigare sätt att legitimera kärnkraftspolitiska beslut. 12 semi-strukturerade intervjuer och ett textmaterial bestående av 13 remissvar, en statlig utredning och en politisk överenskommelse har analyserats med hjälp av Carol Bacchis ”Whats the problem represented to be?”-metod samt ett poststrukturalistiskt metodologiskt och teoretiskt ramverk. Studien visar i likhet med forskning från andra länder där kärnkraft utsatts för hård konkurrens från förnybar energi att ett nytt sätt att framställa kärnkraften, där den framställs som nödvändig för elsystemets tekniska funktionssätt på grund av dess förmåga att leverera effekt, blivit det mest centrala sättet att legitimera kärnkraftspolitiken inom policyeliten i anslutning till avskaffandet av effektskatten. Studien visar även att ett nytt sätt att legitimera kärnkraftspolitik med hänvisning till att undvika snedvridande ingrepp i elmarknaden återkommer inom policyeliten, men att det finns olika bilder av vad som utgör ett snedvridande ingrepp. Framställningen av kärnkraften som koldioxidneutral framstår som mindre central än tidigare.

With an increased availability of healthcare data and a rapid development of analysis techniques, artificial intelligence (AI) is currently contributing to a paradigm shift in healthcare. Areas that were previously considered only possible to be managed by human experts are now increasingly being managed with the help of AI. A large part of the research in this field points to the positive aspects that the introduction of AI in healthcare can bring. What is less often highlighted is the need for relevant data to ensure that the AI solutions generate results that promote equality. In order for this to happen, it is required, among other things, that the algorithms in the AI solutions are trained on neutral and objective data. The aim of this study is to use an exploratory design to investigate existing knowledge about bias in AI tools for decision support among clinical, Swedish healthcare personnel. This has been done via interviews with representatives from Swedish healthcare who work with AI. In the interviews, the status of knowledge about how data is created, implemented and used in AI for decision support was examined. The awareness of how this affects the results obtained in the form of bias and what is done to counteract this was investigated. The analysis of the respondents' answers showed that there is an indirect image of knowledge regarding bias and its consequences, but that this is not discussed in the terms that the research uses. Various different actions are performed that prevent the emergence of bias. Distinctive about the result, however, was that the respondents in many cases did not describe the motive for these actions. Actions seem to be carried out but this without fully knowing to what benefit. / Med en ökad tillgänglighet av sjukvårdsdata samt en snabb utveckling av analystekniker, bidrar just nu artificiell intelligens (AI) till ett paradigmskifte inom hälso- och sjukvården. Områden som tidigare ansågs att endast vara möjliga att skötas av mänskliga experter, börjar nu till en allt större del att skötas med hjälp av AI. En stor del av forskningen i detta fält pekar på de positiva aspekter som införande av AI inom vården kan bära med sig. Det som mer sällan lyfts fram är behovet av relevant data för att säkra att AI- lösningarna genererar resultat som främjar jämlikhet. För att detta ska kunna ske krävs bland annat att algoritmerna i AI-lösningarna tränas på neutral och objektiv data.  Syftet med denna studie är att genom en explorativ design undersöka existerande kunskap om bias i AI-verktyg för beslutsstöd bland klinisk, svensk hälso- och sjukvårdspersonal. Detta har gjorts via intervjuer med representanter från svensk hälso- och sjukvård som arbetar med AI. I intervjuerna undersöktes status för kunskap kring hur data skapas, implementeras och används i AI för beslutsstöd. Medvetenheten om hur detta påverkar det resultat som erhålls i form av bias och vad som görs för att motverka detta undersöktes. Analysen av respondenternas svar visade på att det finns en indirekt kunskap gällande bias och konsekvenserna av dessa men att det inte talas om detta i de termer som forskningen använder. Diverse olika handlingar utförs som förebygger uppkomst till bias. Utmärkande för resultatet var dock att respondenterna i många fall inte beskrev motivet med dessa handlingar. Handlingar verkar utföras men detta utan att helt veta till vilken nytta.

Den unionsrättsliga statsstödsrätten är ett omfattande rättsområde med huvudregel att statligt stöd är förbjudet enligt art. 107.1 FEUF, eftersom statliga stödåtgärder kan snedvrida konkurrensen på den inre marknaden. Det finns undantag från förbudet, exempelvis när ett statligt stöd kan underlätta utvecklingen av vissa näringsverksamheter. Kommissionen gör i de fallen en skönsmässig bedömning av stödåtgärden och dess förenlighet med den inre marknaden. Två sådana bedömningar har gjorts angående offentliga medfinansieringar av multiarenor i Uppsala respektive Köpenhamn. Utredningen i uppsatsen av kommissionens beslut i frågorna innebar att undersöka hur kommissionen bedömer rekvisiten i art. 107.1 och 107.3 c FEUF, och undersöka när undantaget bedöms som tillåtet respektive otillåtet. Utredningen visar att undersökningen huruvida statligt stöd förelåg enligt art. 107.1 FEUF utgjorde en relativt enkel bedömning, och tillämpningen av art. 107.3 c en djupare granskning av påverkan på konkurrensen och samhandeln. Trots multiarenornas olika karaktärer, lokal respektive kommersiell, där den ena var tänkt att drivas av världens största evenemangsbolag, utgjorde arenorna ett undantag från förbudet att statligt stöd inte är tillåtet. Kommissionen lade bland annat vikt vid att den offentliga medfinansieringen inte fick vara större än vad som var tillräckligt för marknadsmisslyckandet, men även att det saknades arenakapacitet i områdena.  I uppsatsen behandlas även förekomsten av olagligt stöd. Kommissionen har befogenhet att utöva kontroll över medlemsstaternas stödåtgärder, och nationella domstolar har en skyldighet att pröva en talan som väcks av en enskild som påstår att en åtgärd skett i strid mot genomförandeförbudet, med grund i förbudets direkta effekt i medlemsstaterna. Ett stöd som beviljats i strid mot genomförandeförbudet innebär flertalet legala risker för stödmottagare respektive stödgivare. I uppsatsen diskuteras riskerna, bland annat skyldigheten för stödgivaren att återkräva ett utbetalat stöd som bedöms olagligt med alla medel som krävs. Ett sådant förfarande kan innebära att stödmottagaren tvingas i konkurs, på grund av att staten som stödgivare inte anmält stödåtgärden till kommissionen. Även konkurrenters möjligheter till överklagande vid ett beslut som innefattar en eventuell olaglig stödåtgärd utreds. I den svenska statsstödslagen, vilken hanterar olagligt statsstöd, har endast stödgivaren rätt att väcka talan om olagligt stöd. Lagen har kritiserats och rättsläget betraktas om osäkert, inte minst eftersom svensk rätt innehåller ett huvudförbud mot tredje mans talan. I uppsatsen utreds en konkurrents överklagandemöjligheter enligt kommunallagen, förvaltningslagen samt i allmän domstol. Utredningen visar att den kontrollfunktion som konkurrenter ska utgöra på statsstödsrättens område inte är tillräcklig i svensk nationell rätt. De risker som diskuterades tidigare i uppsatsen kan således antas ha en relativt låg risk att realiseras när en konkurrent vill angripa ett olagligt statsstöd. Det är sannolikt att den svenska nationella statsstödsrätten inte uppfyller unionsrättens krav på effektivt rättsmedel för enskilda, och att regleringen för konkurrenter således är bristfällig i svensk rätt.