Artificial intelligence is used today in both everyday applications and specialised expert systems. In situations where relying on the output of the AI brings about the risk of negative consequences, it becomes important to understand why the AI system has produced its output. Previous research in human-computer trust has identified trust antecedents that contribute to formation of trust in an AI artifact, understanding of the system being one of them. In the context of Pipedrive, a sales management system, this thesis investigates how can AI predictions be designed as understandable and trustworthy, and by extension which explanatory aspects provide guidance towards actions to take, and which presentation formats support for- mation of trust. Using a research-through design approach, multiple designs for displaying AI predictions are explored for Pipedrive, leading to a proposal for a set of design guidelines that support understandability, trustworthiness and actionability of AI. Both the designs and the guidelines have been iteratively developed in collaboration with users and design practitioners. / Artificiell intelligens används idag både i vardagliga applikationer och expertsystem. I situationer då förtroendet för utdata från AI innebär en risk för negativa konsekvenser blir det viktigt att förstå varför AI-systemet har producerat dess utdata. Tidigare forskning inom människa-datorförtroende har identifierat förtroendeföregångare som bidrar till att skapa förtroende för en AI-artefakt, varav förståelse för systemet är en av dem. Inom ramen för Pipedrive, ett säljhanteringssystem, utreder denna avhandling hur AI-förut-sägelser kan designas på ett förståeligt och pålitligt sätt, och i förlängningen vilka förklarande aspekter som kan ge vägledning gällande de åtgärder som ska vidtas, samt vilka presentationsformat som stödjer skapande av förtroende. Med hjälp av en metod för forskning genom design undersöks flera utföranden för att visa AI-förutsägelser för Pipedrive, vilket leder till ett förslag till en uppsättning riktlinjer för design som stödjer förståelse, pålitlighet och funktionsduglighet. Både design och riktlinjer har utvecklats iterativt i samarbete med användare och designutövare.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:uu-385392 |
| Date | January 2019 |
| Creators | Uga, Brenda |
| Publisher | Uppsala universitet, Institutionen för informatik och media |
| Source Sets | DiVA Archive at Upsalla University |
| Language | English |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
Page generated in 0.0018 seconds