AI spås få lika stor påverkan på samhället som elektricitet haft och avancemangen inom till exempel maskininlärning och neurala nätverk har tagit AI in i sektorer som rättsväsende, rekrytering och hälso- och sjukvård. Men AI-system är, precis som människor, känsliga för olika typer av snedvridningar, vilket kan leda till orättvisa beslut. En alarmerande mängd studier och rapporter visar att AI i flera fall speglar, sprider och förstärker befintliga snedvridningar i samhället i form av fördomar och värderingar vad gäller könsstereotyper och könsdiskriminering. Algoritmer som används i bildigenkänning baserar sina beslut på stereotyper om vad som är manligt och kvinnligt, röstigenkänning är mer trolig att korrekt känna igen manliga röster jämfört med kvinnliga röster och röstassistenter som Microsoft:s Cortona eller Apple:s Siri förstärker befintlig könsdiskriminering i samhällen. Syftet med denna studie är att undersöka hur könsdiskriminering kan uppstå i AI-system generellt, hur relationen mellan gender bias och AI-system ser ut samt hur ett företag som arbetar med utveckling av AI resonerar kring relationen mellan gender bias och AI-utveckling. Studiens syfte uppfylls genom en litteraturgenomgång samt djupintervjuer med nyckelpersoner som på olika sätt arbetar med AI-utveckling på KPMG. Resultaten visar att bias i allmänhet och gender bias i synnerhet finns närvarande i alla steg i utvecklingen av AI och kan uppstå på grund av en mängd olika faktorer, inklusive men inte begränsat till mångfald i utvecklingsteamen, utformningen av algoritmer och beslut relaterade till hur data samlas in, kodas, eller används för att träna algoritmer. De lösningar som föreslås handlar dels om att adressera respektive orsaksfaktor som identifierats, men även att se problemet med gender bias och könsdiskriminering i AI-system från ett helhetsperspektiv. Essensen av resultaten är att det inte räcker att ändra någon av parametrarna om inte systemets struktur samtidigt ändras. / Recent advances in, for example, machine learning and neural networks have taken artificial intelligence into disciplines such as justice, recruitment and health care. As in all fields subject to AI, correct decisions are crucial and there is no room for discriminatory conclusions. However, AI-systems are, just like humans, subject to various types of distortions, which can lead to unfair decisions. An alarming number of studies and reports show that AI in many cases reflects and reinforces existing gender bias in society. Algorithms used in image recognition base their decisions on character stereotypes of male and female. Voice recognition is more likely to correctly recognize male voices compared to female voices, and earlier 2019 the United Nations released a study showing that voice assistants, such as Microsoft's Cortona or Apple's Siri, reinforce existing gender bias. The purpose of this study is to investigate how gender discrimination can appear in AI-systems, and what constitutes the relationship between gender bias, gender discrimination and AI-systems. Furthermore it addresses how a company that works with the development of AI reason concerning the relationship between gender bias, gender discrimination and AI development. The study contains a thorough literature review, as well as in-depth interviews with key persons working with various aspects of AI development at KPMG.  The results show that bias in general, and gender bias in particular, are present at all stages of AI development. It can occur due to a variety of factors, including but not limited to the lack of diversity in the workforce, the design of algorithms and the decisions related to how data is collected, encoded and used to train algorithms. The solutions proposed are partly about addressing the identified factors, but also about looking at the problem from a holistic perspective. The significance of seeing and understanding the links between gender bias in society and gender bias in AI-systems, as well as reconsidering how each factor depends on and correlates with other ones, is emphasized. The essence of the results is that it is not enough to alter any of the parameters unless the structure of the system is changed as well.

En fallstudie för Siemens i deras supportorganisation där deras arbeteundersöks och dess möjligheter att nyttja ett AI-system för förbättringar.Detta undersöks med hjälp av teorier inom distribuerad kognitionsamt vad som finns tillgängligt inom AI-system likt chatbotar.Genom kontextuella intervjuer inom ramarna för Kontextuell design skapasaffinitetsdiagram och DiCoT analys av datan för att ge en omfattandebild. Detta används för att diskutera de konsekvenser för design av ettAI-system som deras distribuerade kunskapsarbete behöver. Genom resultatetåskådliggörs de många system supportteknikerna använder ochhur de tar hjälp av varandra för att lösa det svårigheter de stöter på. Islutsatsen lyfts det fram förslag på införande av AI-system för supportteknikernamen även en alternativ lösning som är kundorienterad. / A case studie at Siemens supportorganisation is studied and the possibilities to use an AI-system for improvements. This is studied with theories in distributed cognition and what is available in AI-systems such as chatbots. Through contextual inquiry, which is a part of the method Contextual Design, affinity diagrams were made and a analysis through DiCoT to create a relevant image. This is used to discuss consequences for the design of an AI-system that the supporttechnicians need.  Through the result the many systems that the supporttechnicians use are illustrated and how they depend on eachother to solve difficulties. In the conclusion different suggestions are made about a AI-system for the support technicians but also an alternative that is customer related.

Requirements analysis is an essential part of the System Development Life Cycle (SDLC) in order to achieve success in a software development project. There are several methods, techniques and frameworks used when expressing, prioritizing and managing requirements in IT projects. It is widely established that it is difficult to determine requirements for traditional systems, so a question naturally arises on how the requirements analysis is executed as AI solutions (that even fewer individuals can grasp) are being developed. Little research has been made on how the vital requirements phase is executed during development of AI solutions. This research aims to investigate the requirements analysis phase during the development of AI solutions. To explore this topic, an extensive literature review was made, and in order to collect new information, a number of interviews were performed with five suitable organizations (i.e, organizations that develop AI solutions). The results from the research concludes that the requirements analysis does not differ between development of AI solutions in comparison to development of traditional systems. However, the research showed that there were some deviations that can be deemed to be particularly unique for the development of AI solutions that affects the requirements analysis. These are: (1) the need for an iterative and agile systems development process, with an associated iterative and agile requirements analysis, (2) the importance of having a large set of quality data, (3) the relative deprioritization of user involvement, and (4) the difficulty of establishing timeframe, results/feasibility and the behavior of the AI solution beforehand.

<p dir="ltr">In network security, the exponential growth of intrusions stimulates research toward developing advanced artificial intelligence (AI) techniques for intrusion detection systems (IDS). However, the reliance on AI for IDS presents challenges, including the performance variability of different AI models and the lack of explainability of their decisions, hindering the comprehension of outputs by human security analysts. Hence, this thesis proposes end-to-end explainable AI (XAI) frameworks tailored to enhance the understandability and performance of AI models in this context.</p><p><br></p><p dir="ltr">The first chapter benchmarks seven black-box AI models across one real-world and two benchmark network intrusion datasets, laying the foundation for subsequent analyses. Subsequent chapters delve into feature selection methods, recognizing their crucial role in enhancing IDS performance by extracting the most significant features for identifying anomalies in network security. Leveraging XAI techniques, novel feature selection methods are proposed, showcasing superior performance compared to traditional approaches.</p><p><br></p><p dir="ltr">Also, this thesis introduces an in-depth evaluation framework for black-box XAI-IDS, encompassing global and local scopes. Six evaluation metrics are analyzed, including descrip tive accuracy, sparsity, stability, efficiency, robustness, and completeness, providing insights into the limitations and strengths of current XAI methods.</p><p><br></p><p dir="ltr">Finally, the thesis addresses the potential of ensemble learning techniques in improving AI-based network intrusion detection by proposing a two-level ensemble learning framework comprising base learners and ensemble methods trained on input datasets to generate evalua tion metrics and new datasets for subsequent analysis. Feature selection is integrated into both levels, leveraging XAI-based and Information Gain-based techniques.</p><p><br></p><p dir="ltr">Holistically, this thesis offers a comprehensive approach to enhancing network intrusion detection through the synergy of AI, XAI, and ensemble learning techniques by providing open-source codes and insights into model performances. Therefore, it contributes to the security advancement of interpretable AI models for network security, empowering security analysts to make informed decisions in safeguarding networked systems.<br></p>

Detta examensarbete undersöker hur artificiell intelligens (AI) och maskininlärning (ML) har förbättrat innovationsprocesser inom bilindustrin, med särskilt fokus på ett företag som är aktiva inom detta område. Genom en kombination av teoretisk forskning och empiriska intervjuer med anställda på företaget har det identifierats att AI och ML är kraftfulla verktyg för att driva teknologisk innovation, optimera interna processer och främja en kultur av kontinuerligt lärande och samarbete. Företaget som undersöks i denna fallstudie använder AI för att utveckla avancerade förarassistanssystem och autonoma körteknologier, vilket resulterar i säkrare och mer effektiva självkörande bilar. Dessutom optimerar AI interna processer som prestandaövervakning och intern kommunikation, vilket förbättrar effektiviteten och responsiviteten inom organisationen. Företagskulturen på företaget har påverkats positivt av AI, med en betoning på ständigt lärande och kunskapsdelning. Medarbetarna uppmuntras att kontinuerligt uppdatera sina kunskaper och färdigheter för att hålla jämna steg med teknologiska framsteg, vilket skapar en dynamisk och adaptiv arbetsmiljö. Dock möter företaget även utmaningar, inklusive höga kostnader för hårdvara och beräkningskraft, behovet av att säkerställa hög datakvalitet och att hantera komplexa juridiska och etiska frågor.  AI och ML har avsevärt förbättrat innovationsprocesserna för företaget i denna fallstudie genom att driva teknologisk och processuell innovation samt genom att påverka företagskulturen positivt. Studien bidrar till ämnet innovationsteknik genom att belysa hur AI kan användas för att driva innovation och identifierar områden för framtida forskning, såsom kostnadshantering och långsiktiga effekter av AI på företagskulturen. / This exam essay examines how artificial intelligence (AI) and machine learning (ML) have improved innovation processes in the automotive industry, with a particular focus on a company active in this field. Through a combination of theoretical research and empirical interviews with employees of the company, it has been identified that AI and ML are powerful tools for driving technological innovation, optimizing internal processes and fostering a culture of continuous learning and collaboration. The company investigated in this case study uses AI to develop advanced driver assistance systems and autonomous driving technologies, resulting in safer and more efficient self-driving cars. In addition, AI optimizes internal processes such as performance monitoring and internal communication, improving efficiency and responsiveness within the organization. The company culture has been positively impacted by AI, with an emphasis on continuous learning and knowledge sharing. Employees are encouraged to continuously update their knowledge and skills to keep up with technological advances, creating a dynamic and adaptive work environment. However, the company also faces challenges, including the high cost of hardware and computing power, the need to ensure high data quality, and dealing with complex legal and ethical issues.  AI and ML have significantly improved the innovation processes of the company in this case study by driving technological and process innovation as well as by positively influencing corporate culture. The study contributes to the field of innovation technology by highlighting how AI can be used to drive innovation and identifies areas for future research, such as cost management and long-term effects of AI on corporate culture.