This research was conducted in the field of public key infrastructures (PKI). This sector is highly confidential and deals with managing security through encryption. The products in this area are technical: the user interface and user experience aspects are not prioritized and they are usually ignored or downplayed. Neglecting these aspects can lead to different ethical risks not only to the company but also to its customers. In the field of public key infrastructures, design is, therefore, a matter of ethical concern. The purpose of this research is to analyse what are the ethical risks and principles that should be taken into consideration when creating a design system for public key infrastructure products. To find an answer, the study was divided into 3 phases. A preliminary analysis was carried out to identify possible ethical principles, subsequently, two rounds of interviews were conducted with 8 employees of a leading PKI company. The scope of the interviews was to establish the relevance of these principles and identify the associated risks. The results suggest that the design system should take into account 6 ethical principles: transparency, inclusiveness and accessibility, autonomy, security and privacy, accountability and resilience. The principle of transparency can be applied to the design system through a clear user interface and simpler workflows while inclusiveness and accessibility can be tackled by considering even non-technical audits and people with disabilities during the design process. To make the user more autonomous, it is important to act on the workflow in order to reduce the use of external documentation and the possibility of managing automation in a simple way. Security and privacy are the foundations of PKI products and therefore user interface and experience should not in any way limit these principles, but rather facilitate the procedures necessary to make products safe. The tracking of the users’ actions is crucial in this field, however, the design should make the review of the activities easy and clearly convey the concept to tracked users. Finally, resilience can find application in the design, even if partially, and try to block malicious product uses. / Denna forskning utfördes inom området för public key infrastructures (PKI). Denna sektor är mycket konfidentiell och har att göra med hanteringen av säkerhet genom kryptering. Produkterna inom detta område är tekniska: användargränssnittet och användarupplevelseaspekterna prioriteras inte och de ignoreras eller förringas vanligtvis. Att se bort från dessa aspekter kan leda till olika etiska risker inte bara för företaget utan även för dess kunder. Inom området för public key infrastructure är design därför en fråga av etisk angelägenhet. Syftet med denna forskning är att analysera vilka etiska risker och principer som bör beaktas när man skapar ett designsystem för public key infrastructure. För att hitta ett svar delades studien upp i 3 faser. En preliminär analys genomfördes för att identifiera möjliga etiska principer, därefter genomfördes två omgångar av intervjuer med 8 anställda på ett ledande PKI-företag. Intervjuernas omfattning var att fastställa relevansen av dessa principer och identifiera de associerade riskerna. Resultaten tyder på att designsystemet bör ta hänsyn till 6 etiska principer: transparens, inkludering och tillgänglighet, autonomi, säkerhet och integritet, ansvarighet och motståndskraft. Principen om transparens kan appliceras på designsystemet genom ett tydligt användargränssnitt och enklare arbetsflöden samtidigt som inkludering och tillgänglighet kan hanteras genom att beakta även icke-tekniska revisioner och personer med funktionshinder under designprocessen. För att göra användaren mer självständig är det viktigt att vara verksam på arbetsflödet för att minska användningen av extern dokumentation och möjligheten att hantera automatisering på ett enkelt sätt. Säkerhet och integritet är grunden för PKI-produkter och därför bör användargränssnitt och erfarenhet inte på något sätt begränsa dessa principer, utan snarare underlätta de procedurer som krävs för att göra produkter säkra. Spårningen av användarnas handlingar är avgörande inom detta område, dock bör designen göra granskningen av aktiviteterna enkel och tydligt förmedla konceptet till spårade användare. Slutligen kan resistens hitta tillämpning i designen, även om den enbart är partiell, och försöka blockera skadlig produktanvändning.

The purpose of this research and its corresponding thesis is to give the reader a deeper understanding of what the ethical risks with using machine learning are for a decision-making purpose in clinical examination and diagnostics in the medical field. The motive to why identification of these said ethical risks are essential, is also for the purpose of giving the reader an understanding of how these risks can be reduced. The information is gathered through earlier work that shows relevance but also through qualitative interviews with people working in the fields of machine learning. Through comparison of the results from the interviews with earlier work and other valid and legitimate sources, the result has been derived. The results concluded of ethical risks as a result from insufficient data, workers putting all of their trust in the result from machine learning algorithms, bias caused by humans when constructing the algorithms. Although there are many risks, there are also possibilities which reduce ethical risks consisting of improvement of technology and better implementation of machine learning in a working environment.