AI in medical imaging is promising. Breast cancer screening has particularly seen advancements as researchers have demonstrated how commercially available AI algorithms could detect breast cancer at the same level as the best radiologists. The clinical uptake of AI implementations has however been slow and research studies on the real-life effects AI would have when it is implemented in healthcare settings, are lacking. As AI is integrated into the workflows of hospitals, new risks, are likely to be introduced. The breast radiology department at the hospital of Capio S:t Göran is among the first in the world to clinically let AI act as an independent reader, replacing one of the two radiologists reading the mammograms. This study thus aimed to investigate how a hospital like Capio S:t Göran may prepare for the clinical uptake of AI by exploring risks from an enterprise risk management perspective, i.e., looking beyond risks associated with patient safety, and proposing risk mitigation strategies. Data was qualitatively collected through different means. Brainstorming sessions were conducted with personnel at the hospital, either directly or indirectly involved with AI, with the purpose of identifying risks. Two external experts with competencies in cybersecurity, machine learning, and the ethical aspects of AI, were interviewed as a complement. Insights were also gained via observations at the hospital and internal documents/information. The risks identified were analyzed according to an enterprise risk management framework adopted for healthcare, that assumes risks to be emerging from eight different domains. Additionally, appropriate risk mitigation strategies were identified and discussed. The findings from the study demonstrates 23 risks associated with the clinical AI implementation in medical imaging and proposes risk mitigation strategies to each identifiedrisk. Not only does the study indicate the emergence of clinical/patient safety risks, but it also shows that there are operational, strategic, financial, human capital, legal, and technological risks. In addition, the study emphasizes the existence of possible synergies between the risks. The study concludes on the significance for hospitals to view risks holistically and to manage them proactively. / Användandet av AI inom bild- och funktionsmedicin är lovande. Det har framför allt skett framsteg inom bröstcancerscreening i takt med att forskare lyckats demonstrera hur kommersiellt tillgängliga AI algoritmer kan detektera bröstcancer på samma nivå som de bästa bröstradiologerna. AI införandet inom klinisk praxis har däremot varit långsam och det finns en avsaknad på forskningsstudier som studerat effekterna av ett AI-införande när det implementeras i den verkliga sjukvårdsmiljön. När ett AI system ska integreras i ett sjukhusarbetsflöde är det sannolikt att nya risker introduceras. Mammografiavdelningen på Capio S:t Görans sjukhus är det första sjukhuset i världen som ska börja använda AI kliniskt i syfte att ersätta en av två radiologer. Planen är att låta ett AI-system agera som en oberoende granskare och därmed ersätta en av de två radiologer som normalt sett granskar mammografibilderna. Syftet med denna studie har därav varit att undersöka hur sjukhus, såsom Capio S:t Göran bör förbereda sig för ett kliniskt införande av AI. Detta har gjorts genom att både identifiera risker från ett Enterprise Risk Managementperspektiv, vilket ur en sjukvårdskontext bland annat innebär att titta bortom patientsäkerhetsrisker, samt identifiera och föreslå riskhanteringsstrategier. För att identifiera risker hölls brainstorming sessioner med personal på Capio S:t Görans sjukhus med antingen direkta eller indirekta kopplingar till AI implementeringen. Detta kompletterades med två expertintervjuer där den ena hade kompetens inom cybersäkerhet och maskininlärning och den andra inom de etiska aspekterna av AI. Dessutom erhölls insikter via observationer gjorda på sjukhuset samt genom tillgång till intern information. Riskerna som identifierades analyserades därefter enligt ett Enterprise Risk Management ramverk som anpassats till sjukvården och som utgår från åtta olika risk domäner. Till sist diskuterades och identifierades lämpliga riskhanteringsstrategier. Resultatet från studien kunde indikera 23 risker relaterade till ett kliniskt användande av AI inom bild- och funktionsmedicin samt föreslå riskhanteringsstrategier till respektive risk som identifierades. Studien kunde identifiera operativa risker, patientsäkerhetsrisker, strategiska risker, finansiella risker, humankapitalrisker, juridiska risker och tekniska risker samt synliggöra eventuella synergier som existerar mellan riskerna. Slutsatsen av studien är att en holistisk syn på riskhantering och att en proaktiv hantering av risker är av avgörande betydelse för sjukhus som ska genomgå en implementering av AI.
| Identifer | oai:union.ndltd.org:UPSALLA1/oai:DiVA.org:kth-329559 |
| Date | January 2023 |
| Creators | Gerigoorian, Annika, Kloub, Maha |
| Publisher | KTH, Skolan för industriell teknik och management (ITM) |
| Source Sets | DiVA Archive at Upsalla University |
| Language | English |
| Detected Language | Swedish |
| Type | Student thesis, info:eu-repo/semantics/bachelorThesis, text |
| Format | application/pdf |
| Rights | info:eu-repo/semantics/openAccess |
| Relation | TRITA-ITM-EX ; 2023:259 |
Page generated in 0.0027 seconds