<p>Syftet med denna studie är att undersöka hur en social robot kan användas inom svensk demensvård och vilka effekter den har på patienterna. Roboten som används är Paro, en japansk sälrobot som har tagits fram för att kunna ge samma effekter som levande djur i djurterapi. Kontakt med djur medför ofta aktivitet och vardagsglädje vilket även är viktiga begrepp i vård av människor med demens.</p><p>Studien genomfördes som en fem veckors fallstudie på ett vårdhem. Det empiriska materialet utgjordes av direkta observationer av de boendes interaktion med Paro samt halvstrukturerade intervjuer med personalen. Observationerna nedtecknades som fältanteckningar.</p><p>Resultatet pekar på att sälen, i likhet med riktiga djur, kan tillföra aktivitet och välmående för vissa individer samt stimulera en grupp till samtal och ökad social kontakt. Dock har personalen jämfört sälen med en betydligt enklare leksak och funnit att de hade liknande effekter vilket tyder på att dess proaktiva beteende och funktioner för taligenkänning inte är sofistikerade nog, alternativt hade kunnat uteslutas helt. Slutsatsen blir därför att Paro i viss utsträckning motsvarar förväntningarna men att nyttan av en avancerad robot ändå kan ifrågasättas.</p>

Syftet med denna studie är att undersöka hur en social robot kan användas inom svensk demensvård och vilka effekter den har på patienterna. Roboten som används är Paro, en japansk sälrobot som har tagits fram för att kunna ge samma effekter som levande djur i djurterapi. Kontakt med djur medför ofta aktivitet och vardagsglädje vilket även är viktiga begrepp i vård av människor med demens. Studien genomfördes som en fem veckors fallstudie på ett vårdhem. Det empiriska materialet utgjordes av direkta observationer av de boendes interaktion med Paro samt halvstrukturerade intervjuer med personalen. Observationerna nedtecknades som fältanteckningar. Resultatet pekar på att sälen, i likhet med riktiga djur, kan tillföra aktivitet och välmående för vissa individer samt stimulera en grupp till samtal och ökad social kontakt. Dock har personalen jämfört sälen med en betydligt enklare leksak och funnit att de hade liknande effekter vilket tyder på att dess proaktiva beteende och funktioner för taligenkänning inte är sofistikerade nog, alternativt hade kunnat uteslutas helt. Slutsatsen blir därför att Paro i viss utsträckning motsvarar förväntningarna men att nyttan av en avancerad robot ändå kan ifrågasättas.

I detta arbete genomfördes en enkätundersökning för att se hur upplevelsen av en furhatrobot ändrades efter att ha implementerat felhantering och mer användarinitiativ. Genom enkätformatet Godspeed undersöktes kategorierna människolikhet och upplevd intelligens. Roboten står placerad på ett museum och har som syfte att problematisera kring dagens teknologiska utveckling. Arbetet utfördes genom att modifiera en existerande skill för att undersöka hur ovan nämnda aspekter påverkar besökares upplevelse av roboten. Enkätstudien visade ej på någon större skillnad i hur roboten uppfattades efter modifikation. Framtida arbete skulle kunna undersöka om mer användarinitiativ i form av möjlighet att avbryta roboten eller småprata med den leder till en ökad upplevd intelligens eller människolikhet.

Denna studie undersöker fördelarna, utmaningarna och etiska konsekvenserna av att använda sociala robotar i vården, som uppfattas av vårdpersonal och allmänheten. Syftet är att utvärdera acceptansen och integrationen av sociala robotar genom att ta itu med båda intressenternas problem och krav. Med fokus på robotar som Pepper och Paro, utforskar studien deras potentiella fördelar och utmaningar inom hälsovårdsmiljöer. Den undersöker också de etiska aspekter som bör vägleda deras utformning och implementering, såväl som de nödvändiga tekniska förutsättningarna för framgångsrik implementering. Resultaten pekar på fördelar såsom avlastning från administrativa uppgifter, ökad effektivitet, och förbättrad patientvård med stöd för emotionellt välbefinnande. Utmaningar inkluderar nödvändig utbildning för vårdpersonal, tekniska risker och svårigheten att helt ersätta mänsklig interaktion. Dessutom att bygga förtroende för dessa robotar genom transparent kommunikation om deras roller och begränsningar är avgörande för deras acceptans. Vi har identifierat viktiga riktlinjer för en ansvarsfull användning av sociala robotar inom vården: 1. Integritet och Dataskydd 2. Säkerhet 3. Autonomi och Delaktighet 4. Mänsklig Värdighet 5. Samtycke När det gäller funktionalitet är tillförlitlighet och användarvänlighet avgörande. Robotar bör fungera korrekt, minimera tekniska problem, för att leverera tillförlitliga resultat. Användarvänlighet, inklusive intuitiva gränssnitt, är avgörande för sömlösa interaktioner mellan vårdpersonal, patienter och robotar. Dessutom är säkerhetsaspekter avgörande för säker implementering. Att integrera robusta säkerhetsfunktioner och skydda mot cyberhot och obehörig åtkomst till patientinformation är nyckelprioriteringar. Integration med befintliga hälso- och sjukvårdsprocesser och system bör vara smidig för att minimera störningar och säkerställa kompatibilitet. Genom att ta itu med etiska, funktionella och säkerhetsaspekter kan sociala robotar effektivt sättas in i vården, förbättra patientvården och förbättra arbetsmiljön för vårdpersonal. Den här forskningen ger insikter i de potentiella fördelarna och utmaningarna med implementering av sociala robotar i vården, och informerar utvecklingen av en genomtänkt strategi för deras ansvarsfulla användning. / This study explores the benefits, challenges, and ethical consequences of using social robots in healthcare, as perceived by healthcare professionals and the general public. The aim is to assess the acceptance and integration of social robots by addressing the concerns and requirements of both stakeholders. Focusing on robots like Pepper and Paro, the study investigates their potential advantages and challenges in healthcare environments. It also examines the ethical aspects that should guide their design and implementation, as well as the necessary technical prerequisites for successful implementation. The results indicate advantages such as relief from administrative tasks, increased efficiency, and improved patient care with support for emotional well-being. Challenges include the need for training healthcare staff, technical risks, and the difficulty of fully replacing human interaction. Furthermore, building trust in these robots through transparent communication about their roles and limitations is crucial for their acceptance. We have identified key guidelines for responsible use of social robots in healthcare: 1. Privacy and Data Protection 2. Security 3. Autonomy and Participation 4. Human Dignity 5. Consent Regarding functionality, reliability and user-friendliness are critical. Robots should operate correctly, minimize technical issues, and deliver reliable results. User-friendliness, including intuitive interfaces, is essential for seamless interactions between healthcare professionals, patients, and robots. Additionally, security aspects are crucial for safe implementation. Integrating robust security features and protecting against cybersecurity threats and unauthorized access to patient information are top priorities. Integration with existing healthcare processes and systems should be smooth to minimize disruptions and ensure compatibility. By addressing ethical, functional, and security aspects, social robots can be effectively deployed in healthcare, improving patient care and enhancing the working environment for healthcare professionals. This research provides insights into the potential benefits and challenges of implementing social robots in healthcare and informs the development of a thoughtful strategy for their responsible use.

Detta arbete har utförts inom ramarna för SIDUS-projektet AIR och fokuserar på interaktion mellan människa och autonoma och sociala robotar. Inom fältet för människa- robotinteraktion (MRI) ökar medvetenheten kring hur viktigt en positiv användarupplevelse (eng. user experience, UX) av dessa interaktioner är. När intresset för UX blir större ökar också behovet av att kunna arbeta med det på ett korrekt och lämpligt sätt. Idag finns det ett stort behov av metoder och tekniker för UX-arbete som är anpassade efter detta komplexa gränssnitt. Det övergripande syftet med detta arbete är därför att minska detta behov genom både en teoretisk litteraturstudie samt ett empiriskt arbete. I litteraturstudien kunde endast två ramverk ämnade för UX-utvärdering av MRI identifieras, varav ett av dem, USUS-ramverket, anses erbjuda en god grund för arbete med UX-utvärdering inom MRI. Fokus för det empiriska arbetet har sedan varit att förbättra och modifiera detta ramverk genom att integrera UX-mål som en del av det. UX-mål pekas ut som en central del för all sorts UX-arbete och är något som också kan optimera de utvärderingar som sker. Därför bör det också vara en del av det UX-arbete som sker inom MRI-fältet. Detta presenteras sedan i en ny version av USUS-ramverket, kallat USUS Goals. Baserat på dessa teoretiska och empiriska studier presenteras sedan riktlinjer för hur det fortsatta arbetet med UX- utvärdering inom MRI bör ske. Slutresultatet visar bland annat att utmaningarna med att integrera UX som del av MRI-fältet är större än vad som först antagits. Utmaningen ligger inte endast i att skapa användbara och anpassade UX-metoder, det är snarare ett ömsesidigt ansvar för båda domänerna att mötas för att tillsammans adressera dessa utmaningar. / Action and Intention Recognition in human interaction with autonomous systems (AIR)

Over the last few years, there has been a growing interest for social robots withhuman-like behavior and their application in healthcare and education. However,there are still plenty of issues that needs to be resolved. One of these challenges isto enable the social robots to fill its role effectively, by creating engagement. In this report the study, that was conducted at IBM Sweden, aims to understandhow IBM Watson can be utilized in the Pepper robot; to engage and supportchildren from the Ronald McDonald House in Uppsala. This is a place for childrenwith health problems and their families to live temporarily. Furthermore, supportivebehaviors are investigated since such behaviors are suggested to be important toincrease the engagement. An initial prototype that used Watson's natural languageprocessing and Pepper, was developed based on user requirements gatheredthrough interviews using a User Centered Design methodology. The prototype wasiteratively developed, and a final evaluation was conducted that examined both theperception of the robot as well as the engagement it created. The evaluation showed that the children wanted to interact with the robot again andhighlighted that they were highly engaged. They perceived the robot as a friend andthe supportive behaviors such as giving praise, responding quickly and maintainingeye contact were most important. The main support the children wanted were tohelp them feel less lonely and the conclusion of this study is that this is a suitablegoal for a robot system.

In everyday communication, humans utilise eye gaze due to its importance as a communication tool. As technology evolves, social robots are expected to become more adopted in society and, since they interact with humans, they should similarly use eye gaze to elevate the level of the interaction and increase humans’ perception of them. Previous studies have shown that robots possessing human-like gaze behaviour increase the interactants’ task performance and their perception of the robot. However, social robots must also be able to behave and respond appropriately when humans act inappropriately, and failure in doing so may normalize bad behaviour even towards other humans. Additionally, with the recent progress of wearable eyetracking technology, there is interest to see how this technology can be used to help generate human gaze into a robot. This thesis work investigates how the eye gaze behaviour from a human being can be modeled into the robot Furhat to behave more human-like in a confrontational scenario. It further investigates how a robot possessing the developed human-like gaze model compares to a robot using a believable heuristic gaze model. We created a pipeline which concerned selecting scenarios, conducting roleplays between actors of these scenarios to collect gaze, extracting and processing that gaze data and extracting probability distributions that the human-like model would utilise. Our model used frequencies to determine where to gaze and head rotation, while gamma distributions were used to sample gaze length. We then executed an online video study with the two robot conditions where participants rated either robot by filling out a questionnaire. The results show that while no statistical difference could be found, the human-like condition scored higher on the measures anthropomorphism/human-likeness and composure, whereas the heuristic condition rated higher on expertise and extroversion. As such, the human-like model did not yield a significant benefit on robot perception to opt for it. Still, we suggest that the pipeline used in this thesis work may help HRI researchers to perform gaze studies and possibly build a foundation for further development. / I vardaglig kommunikation använder människor sig av blickar på grund av dess betydelse som kommunikationsverktyg. Då teknologi ständigt utvecklas förväntas det att sociala robotar kommer att bli mer involverade i samhället, och eftersom de integrerar med människor så bör de på samma sätt använda sig av blickar och ögonrörelser för att höja nivån på interaktionen och därmed förbättra människors uppfattning av dem. Tidigare studier har visat att robotar som använder sig av blickar likt människor kan förbättra deltagarnas utförande av uppgifter samt deras uppfattning av roboten. Sociala robotar måste dock även kunna agera och svara på ett lämpligt sätt när människor beter sig olämpligt, och gör dem inte det finns risken att det olämpliga beteendet normaliseras, även i interaktioner med andra människor. Med de senaste framstegen av portabla eye-tracking enheter finns det därför ett intresse att se hur denna teknologi kan användas för att generera människolikt blickbeteende som sedan används i en robot. Denna studie undersöker hur en människas sätt att blicka och titta kan modelleras i roboten Furhat för att bete sig mer människolikt i ett scenario där konfrontation behövs. Studien undersöker dessutom hur en robot som bär ett människolikt blickbeteende jämför sig med en robot som bär ett trovärdigt heuristiskt blickbeteende. Vi skapade en struktur som involverade att välja scenarion, utföra rollspel mellan skådespelare i dessa scenarier för att samla data om deras blickmönster, extrahera och bearbeta denna data, och extraherade sannolikhetsfördelningar som den människolika modellen skulle använda sig av. Vår modell använde sig av frekvenser för att besluta var roboten skulle blicka, medan gammafördelningar användes för att generera blickens längd. Vi utförde därefter en videostudie online med de två robotvarianterna, där deltagare bedömde någon av robotarna genom att svara på en enkät. Resultaten visar att ingen statistisk signifikant skillnad kunde påvisas. Trender visade dock att modellen med människolik blickbeteende bedömdes högre i mätningen av attributerna antropomorfism/mänsklighet och fattning, medan den heuristiska modellen bedömdes högre i expertis och utåtvändighet. Därav erhöll den människolika modellen ingen signifikant framgång för att föredra den. Vi föreslår ändå att strukturen som användes i studien kan hjälpa MRI forskare att utföra studier som involverar blickbeteende hos människor, och möjligtvis bygga en grund för vidareutveckling av strukturen.

Achieving appropriate and natural backchanneling behavior in social robots remains a challenge in Human-Robot Interaction (HRI). This thesis addresses this issue by utilizing methods from Safe Reinforcement Learning in particular shielding to improve social robot backchanneling behavior. The aim of the study is to develop and implement a safety shield that guarantees appropriate backchanneling. In order to achieve that, a Recurrent Neural Network (RNN) is trained on a human-human conversational dataset. Two agents are built; one uses a random algorithm to backchannel and another uses shields on top of its algorithm. The two agents are tested using a recorded human audio, and later evaluated in a between-subject user study with 41 participants. The results did not show any statistical significance between the two conditions, for the chosen significance level of α &lt; 0.05. However, we observe that the agent with shield had a better listening behavior, more appropriate backchanneling behavior and missed less backchanneling opportunities than the agent without shields. This could indicate that shields have a positive impact on the robot’s behavior. We discuss potential explanations for why we did not obtain statistical significance and shed light on the potential for further exploration. / Att uppnå lämpligt och naturligt upbbackningsbeteende i sociala robotar är fortfarande en utmaning i Människa-Robot Interaktion (MRI). Den här avhandlingen tar upp detta problem genom att använda metoder från säker förstärkningsinlärning i synnerhet avskärmning för att förbättra sociala robotars upbbackningsbeteende. Syftet med studien är att utveckla och implementera en säkerhetsavskärmning som garanterar lämplig upbbackning. För att uppnå det, tränas ett återkommande neuralt nätverk på en människa-människa konversationsdatamängd. Två agenter byggs; en använder en slumpmässig algoritm för att upbbacka och en annan använder avskärmninng ovanpå sin algoritm. De två agenterna testas med hjälp av ett inspelat mänskligt ljud och utvärderas senare i en användarstudie med 41 deltagare. Resultaten visade inte någon statistisk signifikans mellan de två skicken, för den valda signifikansnivån &lt; 0, 05. Vi observerar dock att agenten med avskärmning hade ett bättre lyssningsbeteende, mer lämplig upbbackningsbeteende och missade mindre upbbacknings-möjligheter än agenten utan avskärmning. Detta kan indikera att avskärmning har en positiv inverkan på robotarnas beteende. Vi diskuterar potentiella förklaringar till varför vi inte fick statistisk signifikans och belyser potentialen för ytterligare utforskning.

Robots and virtual agents grow rapidly in behavioural sophistication and complexity. They become better learners and teachers, cooperators and communicators, workers and companions. These artefacts – whose behaviours are not always readily understood by human intuition nor comprehensibly explained in terms of mechanism – will have to interact socially. Moving beyond artificial rational systems to artificial social systems means having to engage with fundamental questions about agenthood, sociality, intelligence, and the relationship between mind and body. It also means having to revise our theories about these things in the course of continuously assessing the social sufficiency of existing artificial social agents. The present thesis presents an empirical study investigating the social influence of physical versus virtual embodiment on people's decisions in the context of a bargaining task. The results indicate that agent embodiment did not affect the social influence of the agent or the extent to which it was perceived as a social actor. However, participants' perception of the agent as a social actor did influence their decisions. This suggests that experimental results from studies comparing different robot embodiments should not be over-generalised beyond the particular task domain in which the studied interactions took place.