Artificial Intelligence (AI) is a popular topic in different areas of the current world. Thus, it is natural that its use is considered in the public sector. AI brings many opportunities for public institutions and citizens, like more attractive, accessible and flexible services. However, existing stories also show that the unethical or opaque use of AI can reduce significantly citizens’ trust in responsible public institutions. As it is important to maintain such trust, trustworthy AI services are gaining more and more interest. This work aims to answer the question of what needs to be taken into consideration while designing trustworthy public sector AI services. The study was done in Finland. The design process was used as a study method and it consisted of qualitative interviews, design workshop and validation with user testing. Altogether more than 30 Finnish residents participated in the study. Currently, there are more positive than negative voices about the usage of AI in the public sector, however, the number of the latter is significant. The most negative voices were coming from older people of low education and from younger AI specialists. Moreover, strong trust exists in the public sector. Nevertheless, citizens are voicing multiple concerns, such as security or privacy. It is important to keep the public sector services transparent, in order to keep trust in the public sector and build trust in AI. Citizens need to know when AI is used, how and for what purpose, as well as, what data is used and why they receive specific results. Citizens’ needs and concerns, as well as ethical requirements, ought to be addressed in the design and development of trustworthy public sector AI services. Those are, for example, mitigating discrimination risks, providing citizens with control over their data and having a person involved in AI processes. Designers and developers of trustworthy public sector AI services should aim to understand citizens and ensure them about their needs and concerns being met, through the transparent service and the positive experience of using the service. / Artificiell intelligens (AI) är ett populärt ämne inom olika områden i världen. Således är det naturligt att dess användning beaktas i den offentliga sektorn. AI ger många möjligheter för offentliga institutioner och medborgare, som till exempel, mer attraktiva, tillgängliga och flexibla tjänster. Men befintliga berättelser från användare visar också att oetisk eller ogenomskinlig användning av AI kan avsevärt minska medborgarnas förtroende för ansvariga offentliga institutioner. Eftersom det är viktigt att upprätthålla ett sådant förtroende, får pålitliga AI-tjänster mer och mer intresse. Detta arbete syftar till att svara på frågan om vad som måste beaktas vid utformningen pålitliga AI-tjänster inom offentlig sektor. Studien gjordes i Finland. Forskningsmetoden som användes var en designprocess och den bestod av kvalitativa intervjuer, en design workshop samt validering med användartestning. Sammanlagt deltog mer än 30 finländska invånare i studien. För närvarande finns det mer positiva än negativa röster om användningen av AI i den offentliga sektorn, dock är antalet i den senare kategorin betydande. De mest negativa rösterna kommer från äldre personer med låg utbildning och från yngre AI-specialister. Dessutom finns starkt förtroende för den offentliga sektorn. Ändå uttryckte medborgarna flera problem, såsom säkerhet eller integritet. Det är viktigt att offentliga tjänster är transparenta för att behålla förtroendet för den offentliga sektorn och bygga förtroende för AI. Medborgarna behöver veta när AI används, hur och i vilket syfte samt vilka uppgifter som används och varför de får specifika resultat. Medborgarnas behov och bekymmer, såväl som etiska krav, borde tas upp i utformningen och utvecklingen av en pålitlig AI-tjänster i offentlig sektor. Exempelvis genom att mildra diskrimineringsrisker, ge medborgare kontroll över sina uppgifter och att ha en person involverad i AI processer. Utformare och utvecklare av pålitliga AI-tjänster inom offentlig sektor bör syfta till att förstå medborgarna och säkerställa dem om deras behov och bekymmer genom den transparenta tjänsten och den positiva upplevelsen att använda tjänsten.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:kth-291108 |
| Date | January 2020 |
| Creators | Drobotowicz, Karolina |
| Publisher | KTH, Skolan för elektroteknik och datavetenskap (EECS) |
| Source Sets | DiVA Archive at Upsalla University |
| Language | English |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
| Relation | TRITA-EECS-EX ; 2021:22 |
Page generated in 0.0027 seconds