With an increased availability of healthcare data and a rapid development of analysis techniques, artificial intelligence (AI) is currently contributing to a paradigm shift in healthcare. Areas that were previously considered only possible to be managed by human experts are now increasingly being managed with the help of AI. A large part of the research in this field points to the positive aspects that the introduction of AI in healthcare can bring. What is less often highlighted is the need for relevant data to ensure that the AI solutions generate results that promote equality. In order for this to happen, it is required, among other things, that the algorithms in the AI solutions are trained on neutral and objective data. The aim of this study is to use an exploratory design to investigate existing knowledge about bias in AI tools for decision support among clinical, Swedish healthcare personnel. This has been done via interviews with representatives from Swedish healthcare who work with AI. In the interviews, the status of knowledge about how data is created, implemented and used in AI for decision support was examined. The awareness of how this affects the results obtained in the form of bias and what is done to counteract this was investigated. The analysis of the respondents' answers showed that there is an indirect image of knowledge regarding bias and its consequences, but that this is not discussed in the terms that the research uses. Various different actions are performed that prevent the emergence of bias. Distinctive about the result, however, was that the respondents in many cases did not describe the motive for these actions. Actions seem to be carried out but this without fully knowing to what benefit. / Med en ökad tillgänglighet av sjukvårdsdata samt en snabb utveckling av analystekniker, bidrar just nu artificiell intelligens (AI) till ett paradigmskifte inom hälso- och sjukvården. Områden som tidigare ansågs att endast vara möjliga att skötas av mänskliga experter, börjar nu till en allt större del att skötas med hjälp av AI. En stor del av forskningen i detta fält pekar på de positiva aspekter som införande av AI inom vården kan bära med sig. Det som mer sällan lyfts fram är behovet av relevant data för att säkra att AI- lösningarna genererar resultat som främjar jämlikhet. För att detta ska kunna ske krävs bland annat att algoritmerna i AI-lösningarna tränas på neutral och objektiv data. Syftet med denna studie är att genom en explorativ design undersöka existerande kunskap om bias i AI-verktyg för beslutsstöd bland klinisk, svensk hälso- och sjukvårdspersonal. Detta har gjorts via intervjuer med representanter från svensk hälso- och sjukvård som arbetar med AI. I intervjuerna undersöktes status för kunskap kring hur data skapas, implementeras och används i AI för beslutsstöd. Medvetenheten om hur detta påverkar det resultat som erhålls i form av bias och vad som görs för att motverka detta undersöktes. Analysen av respondenternas svar visade på att det finns en indirekt kunskap gällande bias och konsekvenserna av dessa men att det inte talas om detta i de termer som forskningen använder. Diverse olika handlingar utförs som förebygger uppkomst till bias. Utmärkande för resultatet var dock att respondenterna i många fall inte beskrev motivet med dessa handlingar. Handlingar verkar utföras men detta utan att helt veta till vilken nytta.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:miun-49281 |
| Date | January 2023 |
| Creators | Berglund, Lovisa |
| Publisher | Mittuniversitetet, Institutionen för kommunikation, kvalitetsteknik och informationssystem (2023-) |
| Source Sets | DiVA Archive at Upsalla University |
| Language | Swedish |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
Page generated in 0.003 seconds