With the growing use of AI within new fields, the ethical problems that arise with AI have become a more prominent topic. Multiple ethical guidelines and frameworks have been proposed to aid companies and researchers to develop ethical products, but it is still lacking in execution. This project is a study into the ethical risks that are prevalent when AI is used for music production tools. The study was done by interviewing five different start-up companies about aspects of their company policies and products from an ethics point of view. The interviews were analysed, and six areas of interest were found. A final risk analysis was then done based on an existing ethical guideline, the Ethics Guidelines for Trustworthy AI by AI HLEG. Multiple risk areas were discovered, the largest ones being in connection to Diversity, Bias, Explainability, and Privacy. Another discovery was that multiple companies do not currently have an ethical framework, but that it was something that they were positive about implementing in the future. / Med den växande användningen av AI inom nya områden har de etiska problem som uppstår med AI blivit ett stort diskussionsämne. Flera förslag på riktlinjer som företag och forskare kan använda för att utveckla etiska produkter har lagts fram, men de är sällan implementerade. Detta projekt är en studie av de etiska risker som förekommer vid användningen av AI för musikproduktionsverktyg. Studien gjordes genom att intervjua fem olika startups om deras företagspolicys och produkter utifrån en etisk synvinkel. Intervjuerna analyserades och sex intresseområden hittades. En slutgiltig riskanalys gjordes sedan utifrån en befintlig etisk riktlinje, Ethics Guidelines for Trustworthy AI av AI HLEG. Flera riskområden relaterade till Diversity, Bias, Explainability och Privacy upptäcktes. Ytterligare en upptäckt var att flera företag för närvarande inte använder ett etiskt ramverk, men att de var positiva till att implementera ett i framtiden.

Artificial intelligence (AI) has the potential to transform various industries, including the creative industry [1]. The potential disruption is facilitated by technology-driven products, with these products it is increasingly important to keep user goals, behaviour and needs at the centre during the development and designing phase. Through a situated user study using online content analysis, a survey, and semi-structured interviews I describe the current role of AI tools in the video production industry, and I identify potential future tools that could benefit professional content creators. According to these professional content creators AI tools currently primarily serve a supportive role, enhancing efficiency and video quality while still requiring human input for storytelling and quality assurance. The professionals are increasingly integrating AI into their workflows to be more increase their value as creators. Drawing from a User-Centered Design (UCD) approach I highlight a discrepancy between user needs and research focus, suggesting that future AI tools should prioritize improving client communication, automating non-creative tasks in post-production, and making animation more accessible. As generative video AI continues to develop, ethical concerns surrounding gender and ethnicity bias continue to be an important aspect for future research to ensure equal representation in generated video content. / Artificiell intelligens (AI) har potential att förändra olika branscher, inklusive den kreativa industrin [1]. Den potentiella omvälvningen underlättas av teknikdrivna produkter, och med dessa produkter blir det allt viktigare att hålla användarnas mål, beteende och behov i centrum under utvecklings- och designfasen. Genom en situerad användarstudie med hjälp av innehållsanalys online, en enkät och semistrukturerade intervjuer beskriver jag den nuvarande rollen för AI-verktyg i videoproduktionsbranschen, och jag identifierar potentiella framtida verktyg som kan gynna professionella innehållsskapare. Enligt dessa professionella innehållsskapare har AI-verktyg för närvarande främst en stödjande roll och förbättrar effektiviteten och videokvaliteten samtidigt som det fortfarande krävs mänsklig input för storytelling och kvalitetssäkring. De professionella innehållsskaparna integrerar i allt högre grad AI i sina arbetsflöden för att öka sitt värde som kreatörer. Med utgångspunkt i en användarcentrerad design (UCD) belyser jag en diskrepans mellan användarnas behov och forskningsfokus, och föreslår att framtida AI-verktyg bör prioritera att förbättra kundkommunikationen, automatisera icke-kreativa uppgifter i efterproduktionen och göra animering mer tillgänglig. Eftersom generativ video-AI fortsätter att utvecklas, fortsätter etiska problem kring kön och etnicitet att vara en viktig aspekt för framtida forskning för att säkerställa lika representation i genererat videoinnehåll.

The researcher takes a user-centric empirical approach to estimate different consumer group participant views on the personalization technology adoption within the skincare industry. In addition, the study aims to highlight the main identified opportunities and concerns that users associate with the personalized technology solutions within the industry, such as skincare and product quizzes, in-depth questionnaires, smart skin analysis tools, and others. The empirical study sample consists of 17 subjects who represent three different generation groups (Generations X, Y, and Z). For data analysis purposes, the author has performed content and discourse analysis, sentiment assessment, and word cloud visualizations using the Python word cloud library. The conducted sentiment analysis shows that the Gen X group’s users overall have a negative attitude towards personalization technology adoption for the skincare (average sentiment: 0.294) in comparison to Gen Y and Gen Z consumers whose sentiment analysis results showed neutral and positive tendencies. The content analysis showed that Gen Y and Gen Z consumers are more concerned about the data governance and its associated risks than Gen X consumers for whom the results and skin health-related improvements were indicated as having higher importance. According to the gathered data, the majority of Gen Y and Gen Z consumer group participants see personalization technology as the future of the skincare industry; nevertheless, Gen X consumers believe that personalization within the skincare will not be attached to one brand and will be more focussed on addressing specific skin conditions and concerns as well as will be more evidence-based. / Forskaren använder sig av en användarcentrerad empirisk metod för att uppskatta olika konsumentgruppers åsikter om hur tekniken för att ge personliga hudvårdsråd används inom hudvårdsbranschen. Dessutom syftar studien till att belysa de viktigaste identifierade möjligheterna och farhågorna som användarna förknippar med dessa tekniska lösningar inom branschen, såsom hudvårds- och produkttester, djupgående frågeformulär, smarta hudanalysverktyg och andra. Den empiriska studiens urval består av 17 personer som representerar tre olika generationsgrupper (generationerna X, Y och Z). Författaren har för analysen av datan genomfört en innehålls- och diskursanalys, en känsloutvärdering samt en ordmolnsanalys med hjälp av Pythons ordmolnsbibliotek. Den genomförda känslighetsanalysen visar att användare i gruppen Gen X överlag har en negativ inställning till att införa teknik för att erhålla personliga hudvårdsråd (genomsnittlig känsla: 0,294) i jämförelse med konsumenter i generationerna Y och Z, vars känslighetsanalysresultat visade neutrala och positiva tendenser. Innehållsanalysen visade att Gen Y- och Gen Z-konsumenterna är mer oroade över datastyrningen och de därmed förknippade riskerna än Gen X-konsumenterna, för vilka resultaten och förbättringarna av hudhälsan angavs ha större betydelse. Resultaten av studien visar att en majoritet av Gen Y- och Gen Z-konsumentgruppens deltagare ser att utvecklandet och användandet av teknik för att ge personliga hudvårdsråd är framtiden för hudvårdsbranschen. Gen Xkonsumenterna tror dock att tekniken för personliga hudvårdsråd inte kommer att vara knuten till ett märke och att den kommer att vara mer inriktad på att hantera specifika hudtillstånd och problem samt vara mer evidensbaserad.

AI has quickly grown from being a vast concept to an emerging technology that many companies are looking to integrate into their businesses, generally considered an ongoing “revolution” transforming science and society altogether. Researchers and organizations agree that AI and the recent rapid developments in machine learning carry huge potential benefits. At the same time, there is an increasing worry that ethical challenges are not being addressed in the design and implementation of AI systems. As a result, AI has sparked a debate about what principles and values should guide its development and use. However, there is a lack of consensus about what values and principles should guide the development, as well as what practical tools should be used to translate such principles into practice. Although researchers, organizations and authorities have proposed tools and strategies for working with ethical AI within organizations, there is a lack of a holistic perspective, tying together the tools and strategies proposed in ethical, technical and organizational discourses. The thesis aims to contribute with knowledge to bridge this gap by addressing the following purpose: to explore and present the different tools and methods companies and organizations should have in order to build machine learning applications in a fair and transparent manner. The study is of qualitative nature and data collection was conducted through a literature review and interviews with subject matter experts. In our findings, we present a number of tools and methods to increase fairness and transparency. Our findings also show that companies should work with a combination of tools and methods, both outside and inside the development process, as well as in different stages of the machine learning development process. Tools used outside the development process, such as ethical guidelines, appointed roles, workshops and trainings, have positive effects on alignment, engagement and knowledge while providing valuable opportunities for improvement. Furthermore, the findings suggest that it is crucial to translate high-level values into low-level requirements that are measurable and can be evaluated against. We propose a number of pre-model, in-model and post-model techniques that companies can and should implement in each other to increase fairness and transparency in their machine learning systems. / AI har snabbt vuxit från att vara ett vagt koncept till en ny teknik som många företag vill eller är i färd med att implementera. Forskare och organisationer är överens om att AI och utvecklingen inom maskininlärning har enorma potentiella fördelar. Samtidigt finns det en ökande oro för att utformningen och implementeringen av AI-system inte tar de etiska riskerna i beaktning. Detta har triggat en debatt kring vilka principer och värderingar som bör vägleda AI i dess utveckling och användning. Det saknas enighet kring vilka värderingar och principer som bör vägleda AI-utvecklingen, men också kring vilka praktiska verktyg som skall användas för att implementera dessa principer i praktiken. Trots att forskare, organisationer och myndigheter har föreslagit verktyg och strategier för att arbeta med etiskt AI inom organisationer, saknas ett helhetsperspektiv som binder samman de verktyg och strategier som föreslås i etiska, tekniska och organisatoriska diskurser. Rapporten syftar till överbrygga detta gap med följande syfte: att utforska och presentera olika verktyg och metoder som företag och organisationer bör ha för att bygga maskininlärningsapplikationer på ett rättvist och transparent sätt. Studien är av kvalitativ karaktär och datainsamlingen genomfördes genom en litteraturstudie och intervjuer med ämnesexperter från forskning och näringsliv. I våra resultat presenteras ett antal verktyg och metoder för att öka rättvisa och transparens i maskininlärningssystem. Våra resultat visar också att företag bör arbeta med en kombination av verktyg och metoder, både utanför och inuti utvecklingsprocessen men också i olika stadier i utvecklingsprocessen. Verktyg utanför utvecklingsprocessen så som etiska riktlinjer, utsedda roller, workshops och utbildningar har positiva effekter på engagemang och kunskap samtidigt som de ger värdefulla möjligheter till förbättringar. Dessutom indikerar resultaten att det är kritiskt att principer på hög nivå översätts till mätbara kravspecifikationer. Vi föreslår ett antal verktyg i pre-model, in-model och post-model som företag och organisationer kan implementera för att öka rättvisa och transparens i sina maskininlärningssystem.

Artificiell intelligens (AI) och Big data är innovativ teknik som har förändrat hur beslutsfattande kan grundas. Användningen av dessa verktyg har ökat och blivit mer populär inom olika branscher, men inom den politiska sektorn i Sverige har det inte använts. En pandemi har pågått under de två senaste åren vilket har medfört stora konsekvenser för samhället. Vilket har ställt krav på att politiker fattar snabba och effektiva beslut för att kunna hantera och bromsa smittspridningen. Syftet med studien var att undersöka och ta reda på ifall AI och Big data kan användas inom den politiska sektorn som beslutsstöd för att fatta snabbare, effektivare och etisk korrekta beslut samt hur politiker kan försäkra att AI och Big data används på ett etiskt sätt. Frågeställningen som har besvarats är: Hur kan Big data och AI effektivisera politikers beslutsfattande och samtidigt upprätthålla ett etiskt förhållningssätt?  Studien har tillämpat en kvalitativ ansats och med hjälp av relevant litteratur har olika användningsområden, problem, etiska utmaningar och risker identifierats. Semistrukturerade intervjuer har även genomförts med politiker och AI-specialister i syfte att ta reda på om det finns möjlighet att använda och implementera verktygen i den politiska sektorn. Efter att ha analyserat empiri och litteratur framkom det att AI kräver stora mängder data i realtid för att kunna vara ett verktyg för beslutsfattande. Mycket av den data som den politiska sektorn besitter har ännu inte digitaliserats vilket den måste göras innan AI kan användas som beslutsstöd. Som slutsats går det att använda AI och Big data för att effektivisera beslutsfattande i Sverige genom dokumentavläsning och analysering av handlingar. Problemet idag är att det inte går att säkerställa att beslut upprätthåller ett etiskt förhållningssätt, eftersom det inte finns något etiskt ramverk för hur AI och Big data ska användas. / Artificial intelligence (AI) and Big data are innovative technologies that have changed the ways of decision-making. The use of these tools has increased and become more popular in various industries, but not in the political sector of Sweden. The tools have hardly been put in any use. A pandemic has taken place in the last two years, which has had major consequences for society. It has led politicians to make quick and effective decisions to manage and slow down the spread of infection. The purpose of this study was to investigate and discover if AI and Big data can be used in the political sector as decision support to make faster and more effective decisions. The research question that has been answered is: How can Big data and AI streamline politicians decision-making and at the same time maintain an ethical approach?  The study has applied a qualitative approach, with the help of relevant literature various areas of use, problems, ethical challenges, and risks have been identified. Semi-structured interviews have also been conducted with politicians and AI specialists to see if it is possible to use and implement these tools in this field. After analysing empirical data and literature, it became clear that AI requires large amounts of data in real time to be able to contribute favourably. Much of the data that the political sector possesses has not yet been digitised, which is mandatory so that AI can be used as decision support. In conclusion, it is possible to use AI and Big data to streamline decision making in Sweden through document reading and analysis of documents. The problem is that it is not possible to ensure an ethical approach, as there is no ethical framework for the use of AI and Big data.