As our lives become more and more digital, our exposure to certain phenomena increases, one of which is hate speech. Thus, automatic hate speech identification is needed. This thesis explores three strategies for hate speech detection for cross­-domain scenarios: using a model trained on annotated data for a previous domain, a model trained on data from a novel methodology of automatic data derivation (with cross­-domain scenarios in mind), and using ChatGPT as a domain-­agnostic classifier. Results showed that cross-­domain scenarios remain a challenge for hate speech detection, results which are discussed out of both technical and ethical considera­tions. / I takt med att våra liv blir allt mer digitala ökar vår exponering för vissa fenomen, varav ett är näthat. Därför behövs automatisk identifikation av näthat. Denna uppsats utforskar tre strategier för att upptäcka hatretorik för korsdomänscenarion: att använda inferenserna av en modell trä­nad på annoterad data för en tidigare domän, att använda inferenserna av en modell tränad på data från en ny metodologi för automatisk dataderivatisering som föreslås (för denna avhandling), samt att använda ChatGPT som klassifierare. Resultaten visade att korsdomänscenarion fort­farande utgör en utmaning för upptäckt av näthat, resultat som diskuteras utifrån både tekniska och etiska överväganden.

SAMMANFATTNING   Datum:                                2023-05-31 Nivå:                                   Kandidatuppsats i Företagsekonomi, 15 hp Institution:                          Akademin för Ekonomi, Samhälle och Teknik, Mälardalens Universitet Författare:                          Johansson Alexander                               Zander Vilmer                                           940413                                                   000407 Titel:                                 Automatiserad generering av intervjufrågor med hjälp av ChatGPT: Ett steg mot effektivare ledarskapsforskning Handledare:                        Magnus Hoppe Nyckelord:                          ChatGPT, AI, Ledarskap, Metod Forskningsfråga/or:    Hur skiljer sig data som samlats in genom kvalitativa intervjuer med frågor kring ledarskap, formulerade av AI-verktyget ChatGPT, från teorier om fenomenet? Syfte:                           Syftet med undersökningen är att undersöka användningen av ChatGPT för att förstå om denna metod inte minst behåller validiteten av data, men också för att bespara tid i forskningsprocessen. Metod:                                Kvalitativ metod, elektroniska intervjuer Slutsats:                       Det observerades starka likheter mellan det analyserade intervjumaterialet och ledarskapsteorierna, vilket troligtvis innebär att intervjufrågorna är av tillräckligt hög kvalitet för att uppnå sitt syfte att samla in trovärdiga kvalitativa data i intervjuer. Användningen av ChatGPT innebär att det kan besparas mycket tid, och de observerade starka likheterna har visat att metoden inte heller offrar undersökningens validitet. Det situerade ledarskapet har varit den teori som visat sig vara vanligast hos respondenterna och deras ledarskap liknar teorin till sina största delar. / Abstract   Date:                                  2023-05-31 Level:                                 Bachelor thesis in Business Administration, 15 cr Institution:                          School of Business, Society and Engineering, Mälardalens University Authors:                              Alexander Johansson                                Vilmer Zander                                            940413                                                    000407 Title:                            Automated generation of interview questions using ChatGPT: A step toward more effective leadership research     Supervisor:                          Magnus Hoppe Keywords:                           ChatGPT, AI, Leadership, Method Research questions:              How does data collected through qualitative interviews about the subject of leadership, formulated by the AI-tool ChatGPT, differ from theories about the phenomenon?        Purpose:                              The purpose of the survey is to investigate the use of ChatGPT to understand if this method not only maintains the validity of the data, but also to save time in the research process. Method:                              Qualitative method, Electronic interviews Conclusion:                         Strong similarities were observed between the analyzed interview material and the leadership theories, which probably means that the interview questions are of high enough quality to achieve their purpose of collecting credible qualitative data in interviews. The use of ChatGPT means that a lot of time can be saved, and the strong similarities observed have shown that the method also does not compromise the validity of the survey. The situated leadership has been the theory that has been found to be most common among the respondents and their leadership resembles the theory to its greatest extent.

Background: The technological development has contributed to an increased implementation and use of AI in organizations. Since AI contributes to both opportunities and risks, leaders need knowledge of how intelligent systems can be used. AI and leadership is an unexplored phenomenon that needs to be investigated more closely, in order for leaders to be able to keep up with our rapidly digitized world. Purpose: The purpose of the thesis is to increase understanding of how implementation and use of AI in organizations affects leadership. Furthermore, the thesis aims to find out how leaders can benefit from AI in their role as well as navigate its challenges. Method: The data has been collected through qualitative interviews of semi-structured form. Using an inductive approach, the cross-sectional study treats AI and leadership as a phenomenon.  Conclusion: The role of a leader is changing with the implementation and use of AI in organizations. When AI takes over tasks or facilitates the work of a leader, the central part of leadership becomes the human, relational and social interactions. The positive effects identified are efficiency, improvement and that AI facilitates rather than replaces human resources. Risks with implementing AI in organizations have been identified as ethical dilemmas, ignorance and resistance. / Bakgrund: Den teknologiska utvecklingen har bidragit till en ökad implementering och användning av AI i organisationer. Eftersom AI bidrar med såväl möjligheter som risker behöver ledare kunskap om hur intelligenta system kan användas. AI och ledarskap är ett outforskat fenomen som behöver undersökas närmare för att ledare ska kunna följa med i vår snabbt digitaliserade värld.  Syfte: Uppsatsens syfte är att öka förståelsen för hur implementering och användning av AI i organisationer påverkar ledarskap. Vidare syftar uppsatsen till att ta reda på hur ledare kan dra nytta av AI i sin roll samt navigera dess utmaningar.  Metod: Datan har samlats in genom kvalitativa intervjuer av semistrukturerad form. Med ett induktivt tillvägagångssätt behandlar tvärsnittsstudien AI och ledarskap som ett fenomen.   Slutsats: Rollen som ledare förändras i och med implementering och användning av AI i organisationer. När AI tar över arbetsuppgifter eller underlättar ledarens arbete, blir den centrala delen av ledarskapet det mänskliga, relationella och sociala interaktioner. De positiva effekter som identifierats är effektivisering, förbättring och att AI underlättar snarare än ersätter mänsklig arbetskraft. Risker med implementering av AI i organisationer har identifierats vara etiska dilemman, okunskap och motstånd.

Det nya verktyget ChatGPT riskerar att kollidera med akademisk integritet och förändra traditionella utbildningsformer då chatboten klarar av att författa trovärdiga uppsatser på kommando. Det är därför av intresse att undersöka acceptans och användande av ChatGPT hos studenter och doktorander, för att förstå teknologins framtid inom akademisk utbildning. Huvudsyftet med denna studie var att, med utgång från UTAUT-modellen, undersöka studenters och doktoranders inställning, beteendeavsikt och användande relaterat till ChatGPT och chatbots inom akademisk utbildning. Enkäten besvarades av totalt 38 studenter (29 kvinnor, 9 män) och 29 doktorander (14 kvinnor, 14 män, 1 föredrog att ej uppge) i ålder mellan 18-45+. Resultatet visade låg användarfrekvens, liten vana och låg beteendeavsikt att använda ChatGPT eller chatbots. Påverkande faktorer för avsikt att använda var främst förväntad nytta av ChatGPT. Påverkande faktorer för amvändarbeteende var främst beteendeavsikt samt erfarenhet. Både farhågor (ex. plagiering, sämre kritisk och kreativ tänkande) och positiva aspekter (ex. inspiration, förbättrat skrivande) av potentiell användning lyftes. Många doktorander ansåg att ChatGPT idag inte uppfyller kraven för studier på högre nivå. Dock förutspådde flertalet att ChatGPT kommer finnas med som en oundviklig del i samhällets digitalisering samt att chatbotar kommer att utvecklas, bli mer användbara och därför ta större plats i akademisk utbildning i framtiden. Det är viktigt att universitetet följer utvecklingen av Chat GPT-användande för att kunna anpassa sätt att lära ut såväl som existerande regelverk gällande fusk. / The new tool ChatGPT risks colliding with academic integrity and changing traditional forms of education because the chatbot can write credible essays on command. Therefore, examining the acceptance and use of ChatGPT among undergraduates and graduate students is of great interest in order to understand the future of technology in academic education. The main purpose of this study was to investigate, based on the UTAUT model, students' and doctoral students' attitude, behavioral intention and use related to ChatGPT and chatbots in academic education.The questionnaire was answered by a total of 38 students (29 women, 9 men) and 29 PhD students (14 women, 14 men, 1 preferred not to state) aged between 18-45+. The results showed low frequency of use, little habit and low behavioral intention to use the technology. Factors influencing intention to use were mainly expected benefits of ChatGPT. Influencing factors for Use Behavior were mainly behavioral intention and experience. Both concerns (eg, plagiarism, poorer critical and creative thinking) and positive aspects (eg, inspiration, improved writing) of potential use were addressed. Many PhD students felt that ChatGPT today does not meet the requirements for higher studies. However, the majority predicted that ChatGPT will become an inevitable part of society's digitization and that chatbots will evolve, become more useful and therefore take a greater place in academic education in the future. It is important that universities are aware of ChatGPT usage in order to adapt ways of learning as well as existing regulations regarding cheating.

Bakgrund: AI, specifikt konversations-AI som OpenAI:s ChatGPT, växer snabbt i både privata och professionella sammanhang, vilket erbjuder möjligheter till kostnadsbesparingar och modernisering för företag. ChatGPT kan simulera mänskliga konversationer, vilket kan ge fördelar i flera olika industrier och kan genom samarbete mellan människa och AI potentiellt förbättra anställdas produktivitet. Det huvudsakliga forskningsproblemet är att identifiera faktorer som påverkar systemutvecklarens användning av ChatGPT och beakta dess design och implementation för att minska potentiella negativa effekter. Syfte:  Denna studie syftar till att undersöka de faktorer som påverkar användares adoption ChatGPT som ett verktyg för att stödja systemutvecklare. Dessutom syftar studien till att identifiera hur ChatGPT kan hjälpa systemutvecklare i deras dagliga arbete och vilka hinder som finns för att inkorporera ChatGPT i denna kontext. Metod: Genom en fallstudieansats med kvalitativa och kvantitativa datainsamlingsmetoder, använder studien positivistiska och interpretivistiska paradigm. Resultat: Resultatet visar att den uppfattade förmågan hos ChatGPT att förbättra effektiviteten och generera korrekta svar påverkar avsikten att använda tekniken. Faktorer som tidsbesparing, produktivitetsförbättring och användarvänlighet gav dock inte statistiskt signifikanta resultat. Utvecklare finner ChatGPT användbart för att förenkla uppgifter och hjälpa juniora utvecklare, men det finns oro för att hantera komplexa uppgifter och säkerhetsfrågor. Slutsatser: Användarnas acceptans av ChatGPT drivs främst av den uppfattade precisionen och effektiviteten. ChatGPT kan hjälpa till med uppgifter som felsökning, kodgenerering, kodrefaktorering, kodoptimering och teknisk dokumentation, men med vissa potentiella begränsningar när det gäller hantering av alltför komplex kod. Trots detta så finns hinder för införandet i form av oro för integritet, säkerhet och brist på medvetenhet samt funktionella begränsningar. Följder: De insikter som vunnits kan indirekt gynna företag, inklusive vår affärspartner CGI, genom att bidra till beslutsfattandeprocesser relaterade till adoption och användning av ChatGPT. / Background: AI, specifically conversational AI like OpenAI's ChatGPT, is rapidly expanding in personal and professional settings, offering cost-cutting and modernization opportunities for businesses. This technology, capable of simulating human-like conversations, holds promise across various industries, potentially enhancing productivity through human-AI collaboration. The main research problem is to identify factors influencing system developers' adoption of ChatGPT, considering its design and implementation to mitigate potential negative impacts. Aim: This study aims to investigate the factors that influence user adoption of ChatGPT as a tool to support system developers. Additionally, it aims to identify how ChatGPT can aid system developers in their daily work, and challenges associated with incorporating ChatGPT in this context. Method: Using a case study approach with qualitative and quantitative data collection methods, the study employs positivist and interpretivist philosophical paradigms. Results: Results showed that the perceived ability of ChatGPT to enhance efficiency and generate accurate responses significantly impacts adoption intentions. When examining aspects related to timesaving, productivity enhancement, and user-friendliness, no statistically significant results were found. Among developers, ChatGPT is considered valuable for simplifying tasks and assisting junior developers. There are concerns regarding its capability to handle complex tasks and potential security issues. Suggestions for improvement include better integration with integrated development environments (IDEs) and enhanced accuracy. Conclusions: The findings highlight perceived accuracy and efficiency as driving factors for user adoption regarding ChatGPT. ChatGPT can support tasks like debugging, code generation, code refactoring, code optimization, and technical documentation. However, there may be some potential limitations when dealing with overly complex code. Barriers to adoption include concerns about integrity and security, lack of awareness, and functional limitations. Implications: The insights gained can indirectly benefit companies, including our business partner CGI, by guiding decision-making processes related to the effective adoption and utilization of ChatGPT.

This bachelor thesis examines the potential advantages of implementing artificial intelligence (AI) services in the context of customer support. With the rise of chatbots utilizing Natural Language Processing (NLP), AI has recently become a widely debated topic. The authors aim to investigate the comparative costs of using AI-powered chatbots versus human-powered alternatives for customer support, focusing on analyzing the financial impacts of chatbot incorporation and the quality of the responses. This research seeks to offer insights to businesses considering using chatbots as a tool for customer support. The objective is to assist these businesses in making informed decisions concerning AI adoption and associated costs. The bachelor’s thesis is a case study that employs a qualitative research method using an analytical- and abductive approach. The thesis addresses the question: ’Can commercially available AI services reduce costs within the media analysis industry?’ The results demonstrate that cost savings can be achieved by reducing time-consuming tasks from manual labour. However, using AI services is not a simple solution and expected positive results are not always guaranteed. Numerous issues need be highlighted if the intend is to have customers using and having direct access to the AI chatbot. Incorrect responses from a chatbot can create problems for customers and companies. An important question is how to handle the incorrect responses sent to the customer. Who bears the ultimate responsibility when wrong actions are recommended by automation and carried out by a customer? On the other hand, these issues become less relevant if the chatbot is used by the Customer Support team as a complement to reduce time spent per task. The findings of the thesis indicate that while the prototype can complement the Customer Support team, it is insufficient to handle all customer support responsibilities due to its 59.85% accuracy score and limited capability to effectively address follow-up inquiries. In conclusion, while the findings support the potential cost savings achievable through automation with AI, it is crucial to further refine and enhance the capabilities of the prototype to better meet the requirements of comprehensive customer support. / Denna kandidatrapport undersöker de potentiella kostnadsfördelarna med att integrera Artificiell intelligens (AI) inom kundservice, med särskilt fokus på kommersiellt tillgängliga AI-tjänster. Användningen av chattbotar som använder naturlig språkbearbetning (NLP) har ökat markant under de senaste åren, och AI är ett väldebatterat ämne både inom politiken och i media. Författarna avser att jämföra manuella kostnader med automatiserade kostnader. Fokus ligger på att analysera de finansiella konsekvenserna av en automatisering samt mäta kvaliteten på de svar som kan produceras med hjälp av AI. Studien genomförs som en kvalitativ fallstudie. Författarna avser att tillhandahålla ett underlag till företag som överväger att använda chattbotar som ett verktyg för kundtjänst och avser att studien ska kunna ligga till grund för beslut om införande av AI i företagens verksamheter. Rapporten svarar på frågan: "Kan kommersiellt tillgängliga AI-tjänster minska kostnaderna inom medieanalysbranschen?" Resultaten visar att kostnadsbesparingar kan uppnås genom tidsbesparing av manuellt arbete. Det finns dock flera viktiga frågor som behöver betonas om avsikten är att kunderna ska använda och ha direkt tillgång till AI-chattboten. Felaktiga svar från en chattbot kan skapa problem för både kunder och företag. En viktig fråga är hur man ska hantera de felaktiga svaren som skickas till kunden. Vem bär det yttersta ansvaret när felaktiga åtgärder rekommenderas av chattbotten och genomförs av kunder? Å andra sidan blir dessa frågor mindre relevanta om chattboten används av kundservice teamet som ett komplement för att minska tidsåtgången per uppgift. Prototypen kan komplettera kundservice men är otillräcklig för att hantera alla kundservicefrågor. Validering gav en träffsäkerhet på 59.85%. Det innebär att prototypen ger rätt svar på 59.85% av frågorna. Slutsatsen är att medan resultaten stöder de potentiella kostnadsbesparingar som kan uppnås genom automatisering med AI, är det viktigt att ytterligare förbättra och förstärka prototypens förmågor för att bättre kunna möta kraven på omfattande kundsupport.

ChatGPT is a recently released chatbot that through the use of deep learning can generate human-like statements on a variety of topics. Deep learning models have a potential to affect politics. They can for instance be used as a source for political information or be used to create and spread political messages. ChatGPT is itself able to describe the stances of different political parties and can generate political messages based on these stances. In this thesis, a semantic similarity program, utilizing the models Stanza and Sentence-BERT, is implemented. This program is used to compare the semantic similarity of political statements and information generated by ChatGPT to authentic statements and information written by Swedish political representatives prior to the 2022 general election. The results of the thesis demonstrate that ChatGPT with relatively high accuracy (over 60 % when three options are available) is able to correctly reflect the standpoints of Swedish political parties in specific political questions. When compared to authentic political information using semantic similarity, there is no discernible difference between the scores achieved by ChatGPT’s statements and the scores achieved by authentic statements from political representatives. This might reflect that ChatGPT performs well in semantically mimicking the style used by political representatives. Alternatively, the result could indicate limited usefulness of semantic similarity as a comparative method for political statements. / ChatGPT är en nyligen släppt chattrobot som med hjälp av djupinlärning kan skapa människo-liknande uttalanden inom en rad olika ämnen. Det är möjligt för djupinlärningsmodeller att ha politisk påverkan. Djupinlärningsmodeller kan exempelvis användas som källor för politisk information eller användas för att skapa och sprida politiska meddelanden. ChatGPT har förmågan att beskriva ståndpunkterna hos olika politiska partier samt generera politiska meddelanden baserat på dessa ståndpunkter. I denna studie implementeras ett program för att avgöra semantisk likhet mellan texter. Programmet använder modellerna Stanza och Sentence-BERT. Med hjälp av programmet jämförs semantisk likhet mellan politiska uttalanden och information genererad av ChatGPT, och autentiska uttalanden och autentisk information skriven av svenska politiska representanter innan riksdagsvalet i Sverige 2022. Studiens resultat visar att ChatGPT med relativt hög korrekthet (över 60 % när tre alternativ är möjliga) lyckas framföra samma ståndpunkter som riktiga representanter från de olika partierna i specifika politiska frågor. Ingen märkbar skillnad i semantisk likhet hittas när ChatGPT:s och riktiga representanters uttalanden jämförs med riktig politisk information. Detta kan visa på att ChatGPT är bra på att semantiskt härma stilen som används av politiska representanter. Resultatet kan alternativt tolkas som tydande på att semantisk likhet har ett begränsat värde som jämförelsemetod för politiska texter.

I denna studie presenteras en prototyp för anonymisering av känslig information itextdokument, med syfte att möjliggöra säker interaktion med stora språkmodeller(LLM:er), såsom ChatGPT. Prototypen erbjuder en plattform där användare kanladda upp dokument för att anonymisera specifika känsliga ord. Efter anonymiseringkan användare ställa frågor till ChatGPT baserat på det anonymiserade innehållet.Prototypen återställer de anonymiserade delarna i svaren från ChatGPT innan de visas för användaren, vilket säkerställer att känslig information förblir skyddad underhela interaktionen.I studien används metoden Design Science Research in Information Systems (DSRIS). Prototypen utvecklas i Java och testas med påhittade dokument, medan enkätsvar samlasin för att utvärdera användarupplevelsen.Resultaten visar att prototypens funktioner fungerar väl och skyddar känslig information vid interaktionen med ChatGPT. Prototypen har utvärderats med hjälp av svarfrån enkäten som dessutom tar upp förbättringsmöjligheter.Avslutningsvis visar studien att det är möjligt att anonymisera textdokument effektivt och samtidigt få korrekt och användbar feedback från ChatGPT. Trots vissa begränsningar i användargränssnittet på grund av tidsramen visar studien på potentialför säker datahantering med ChatGPT. / This study presents a prototype for anonymizing sensitive information in text documents, with the aim of enabling secure interactions with large language models(LLMs) such as ChatGPT. The prototype offers a platform where users can uploaddocuments to anonymize specific sensitive words. After anonymization, users canpose questions to ChatGPT based on the anonymized content. The prototype restores the anonymized parts in the responses from ChatGPT before they are displayed to the user, ensuring that sensitive information remains protected throughoutthe entire interaction.The study uses the Design Science Research in Information Systems (DSRIS)method. The prototype is developed in Java and tested with fabricated documents,while survey responses were collected to evaluate the user experience.The results show that the prototype's functionalities work well and protect sensitiveinformation during interaction with ChatGPT. The prototype has been evaluated using survey responses that also highlight opportunities for improvement.In conclusion, the study demonstrates that it is possible to effectively anonymizetext documents while obtaining accurate and useful feedback from ChatGPT. Despite some limitations in the user interface due to the timeframe, the study showspotential for secure data handling with ChatGPT.

The popularity of Large Language Models (LLMs), such as ChatGPT-4 (GPT), is increasing rapidly. Simultaneously, anxiety is contributing to the global burden of disease. To date, little research is performed on how LLMs portray anxiety. This study aimed to investigate the quality of anxiety portrayals generated by LLMs by “How well do large language models produce realistic anxiety depictions?”, using a mixed-methods approach. Realism was defined as perceived realism and alignment with scientific literature. The quantitative analysis involved 42 participants (age M = 30) randomly assigned to a questionnaire representing one of four anxiety levels. Participants rated perceived level and perceived realism of anxiety descriptions in human-written and GPT-modified texts. Results revealed: GPT-generated anxiety descriptions were perceived significantly more realistic compared to human-written texts; regardless of anxiety level; participants were less accurate in rating anxiety levels of GPTgenerated stories when the levels differed largely from that of the human-written story. The qualitative narrative analysis provided deeper insights into how realistic GPT and a GPT based on the cognitive framework of anxiety (CGPT) depicted anxiety by assessing how well depictions aligned with scientific literature. GPT and CGPT effectively included general features of anxiety in depictions. CGPT focused more on cognitive thought patterns, but neither fully depicted distinctions between different levels of anxiety. Overall, findings suggest LLMs do well in producing realistic representations of anxiety, but fail to fully depict various levels of anxiety. The study contributes to understanding potential applications of LLMs in psychological contexts, including management training, therapeutic settings, and literature. Keywords: LLM, ChatGPT, anxiety, realism, cognitive framework / Språkmodeller (LLMs) som ChatGPT-4 (GPT) blir allt mer populära. Samtidigt påverkar ångest folkhälsan. Hittills har enbart ett fåtal studier utrett hur LLMs skildrar ångest. Syftet med denna studie var att undersöka kvaliteten på ångestskildringar genererade av LLMs med en blandad metodansats genom frågan “Hur väl producerar LLMs realistiska ångestskildringar?”. Realism definierades som upplevd realism och överensstämmelse med vetenskaplig litteratur. I den kvantitativa analysen tilldelades 42 deltagare (ålder M = 30) en enkät som representerade en av fyra ångestnivåer. Deltagarna bedömde upplevd ångestnivå och upplevd realism av ångestbeskrivningar i berättelser skrivna av människor och GPTgenererade berättelser. Resultaten visade att deltagarna uppfattade GPT-genererade ångestbeskrivningar som signifikant mer realistiska, oavsett ångestnivå, men var mindre korrekta i att bedöma ångestnivå i GPT-genererade berättelser när nivån skiljde sig mycket från den människoskrivna versionen. Den kvalitativa narrativa analysen gav djupare insikter i hur realistiskt GPT och en GPT baserad på det kognitiva perspektivet av ångest (CGPT) skildrade ångest genom att jämföra skildringarna med vetenskaplig litteratur. Skildringarna av GPT och CGPT överensstämde i stort sett med litteraturen. CGPT fokuserade mer på kognitiva tankemönster, men ingen modell lyckades fullt ut skildra skillnaderna mellan olika ångestnivåer. Sammantaget tyder resultaten på att LLMs är bra på att skapa realistiska representationer av ångest, men misslyckas med att fullt ut skildra olika ångestnivåer. Studien bidrar till kunskapen om potentiella tillämpningar av LLMs i psykologiska kontexter, såsom ledarskapsutbildning, terapi och inom litteratur. Nyckelord: LLM, ChatGPT, ångest, realism, kognitiv ångest

Syftet med studien är att bidra med ökad kunskap om gymnasieelevers erfarenheter och upplevelser av den digitala teknikutvecklingen, inklusive artificiell intelligens och algoritmiska tjänster, och hur elever formerar sina tankar om vilka konsekvenser det får för samhällskunskapsundervisningen och det framtida demokratiska deltagandet. För att uppfylla syftet har semistrukturerade samtalsintervjuer använts som datainsamlingsmetod där totalt elva elever intervjuats från två olika skolor. En öppen tematisk analys applicerades på datan som resulterade i åtta olika teman. Därefter analyserades resultatet utifrån Andrew Feenbergs teoretiska referensram som består av en kritisk förståelse för hur teknologi och dess utveckling formar och påverkar samhället och hur människor interagerar med den. Eleverna kom fram till att AI kan användas för att effektivisera industrin likväl som ett verktyg i skolan för att hjälpa elever med inlärningen. Däremot har AI negativa sidor också. Rädslan att AI tar över mänskligheten växer och det skapas innehåll som är deepfake där det är svårt att avgöra vad som stämmer. Algoritmer kan också bli ett problem då det många gånger baseras på vad du tittar på och att det blir som en konfirmeringsbias. Du får bara upp ett fåtal perspektiv. Elevernamenar att människor utnyttjas av producenterna av AI och algoritmer eftersom det styr oss i en viss riktning. Eleverna kommer fram till att det måste finnas någon kontroll för att inte kränka individer och skada demokratin och ger förslag på en statlig eller överstatlig kontroll. AI har även lett till att eleverna får en försvårad skolgång med fler prov. Tilliten mellan lärare ochelever minskar. AI måste integreras mer i skolan. Därtill menar eleverna att nya kunskaper kommer bli viktiga, däribland tekniska kunskaper, källkritik, öppenhet och förmågor så som att resonera och argumentera. Eleverna har en önskan om att de ska förberedas med de nya kunskaperna för att aktivt kunna ta del av det nya samhället som komma skall. / The purpose of the study is to contribute with knowledge about high school students’ experiences of the development of digital technology, including artificial intelligence and algorithms. The study aims to explain how the development of digital technologies might change the subject social studies in school and a future democratic citizenship. Semi-structuredconversational interviews have been used as a data collection method where a total of eleven students have been interviewed from two different schools. An open thematic analysis was used which resulted in eight themes. The results were analyzed based on Andrew Feenberg’s theory, which consist of a critical understanding of how technology and its development shape and influence society and how people interact with it. The students concluded that AI can be used as a tool to help students with learning. However, students felt a rising fear that AI might wipe out humanity and the fact that it can create deepfake content which makes it difficult to determine what is true. Algorithms, like your for-u-page can lead to a narrowed perspectivewhere you do not see the bigger picture. Furthermore, the students believe that humans are exploited by the producers of AI and platforms that uses algorithms since it steers us in a certain direction. The students concluded that AI needs to be controlled, for example by the state. They think that might avoid violations and a restriction of democracy. The development of AI hasled to an increase in tests for the students. The trust between teachers and students have decreased. The students wish to talk more about AI and the effects of it. They also believe that a new set of competences will become more important, for example technical knowledge, how to deal with a big amount of information as well as abilities such as reasoning and arguing, to be able to actively take part in the new society that is yet to come.