No description available.

Past automation research has focused primarily on machine-related factors (e.g., automation reliability) and human-related factors (e.g., accountability). Other machine-related factors such as type of automation errors, misses or false alarms, have been noticeably overlooked. These two automation errors correspond to potential operator errors, omission (misses) and commission (false alarms), which have proven to directly affect operators trust in automation. This research examined how automation-error-type affects operator trust and reliance in and perceived reliability of automated decision aids. This present research confirmed that perceived reliability is often lower than actual system reliability and that false alarms significantly reduced operator trust in the automation more so than do misses. In addition, this study found that there does not appear to be an effect on the level of subjective trust within each experimental condition (i.e., type of automation error) based on age. There does, however, appear to be a significant difference in the reliance on automation between older and younger adult participants attributed to differences in perceived workload.

<p dir="ltr">As automated vehicle (AV) systems become increasingly more intelligent, understanding the complex interplay between drivers' trust in these systems and their resulting behavior is paramount for the successful integration of autonomous technologies into the transportation landscape. Currently, the effects of displaying AV system-certainty information, concerning its navigability around obstacles, on drivers' trust, decision-making, and behavior is underexplored. This thesis seeks to address this research gap and evaluate a set of dynamic and continuous human-machine interfaces (HMIs) that present self-assessed system-certainty information to drivers of AVs. A simulated driving study was conducted wherein participants were exposed to four different linear and curvilinear AV system-certainty patterns when their AV approached a construction zone. The certainty patterns represented the vehicle’s confidence in safely avoiding the construction. Using this information, drivers needed to decide whether or not to take over from the vehicle. The AV’s reliability and system-certainty were not directly proportional to one another. During the study, drivers' trust, workload, takeover decisions and performance, eye movement behavior, and heart?rate measures were captured to comprehensively understand of the factors influencing drivers' interactions with automated vehicles. Overall, participants took over in 41.3% of the drives. Results suggest that the communication of different system-certainty trends had a significant effect on drivers’ takeover response times and gaze behavior, but did not affect their trust in the system nor their workload. Ultimately, the results of this work can be used to inform the design of in vehicle interfaces in future autonomous vehicles, aiming to enhance safety and driver acceptance. By elucidating the intricate relationship between drivers' trust and behavior, this study provides valuable insights for both researchers and developers, contributing to the ongoing discourse on the human factors associated with the integration of autonomous technologies into the transportation ecosystem.</p>

Across a range of sectors, including transportation and healthcare, the use of automation to assist humans with increasingly complex tasks is also demanding that such systems are more interactive with human users. Given the role of cognitive factors in human decision-making during their interactions with automation, models enabling human cognitive state estimation and prediction could be used by autonomous systems to appropriately adapt their behavior. However, accomplishing this requires mathematical models of human cognitive state evolution that are suitable for algorithm design. In this thesis, a computational model of coupled human trust and self-confidence dynamics is proposed. The dynamics are modeled as a partially observable Markov decision process that leverages behavioral and self-report data as observations for estimation of the cognitive states. The use of an asymmetrical structure in the emission probability functions enables labeling and interpretation of the coupled cognitive states. The model is trained and validated using data collected from 340 participants. Analysis of the transition probabilities shows that the model captures nuanced effects, in terms of participants' decisions to rely on an autonomous system, that result as a function of the combination of their trust in the automation and self-confidence. Implications for the design of human-aware autonomous systems are discussed, particularly in the context of human trust and self-confidence calibration.

The differences between legacy and 5G networks in both capability, and their increasingly dynamic nature and complexity warrant searching for new kinds of ways to manage networks. This thesis work explored different options for interaction and interfaces for a declarative, intent-based control (IBC) based 5G network management system. IBC has not been previously applied on the transport layer and in addition to drafting interface concepts, this work also maps existing definitions and implementations of IBC and intents. The functioning of IBC on the transport layer was envisioned through these existing solutions. The work was done as an iterative codesign project following a user-centered design process. Concepts were both drafted and evaluated together with a group of domain experts. Special attention was paid to the forming of trust towards automation. A tentative task path for issuing an intent to the system was mapped and the drafted concepts approached the steps involved in the task path with varying levels of automation and different visual representations for the information the user needs and the functions of the system. No prior body research exists on IBC on the transport layer and trust towards automation in network management and the topics are novel. The envisioned application of IBC on the transport layer, and the drafted concepts on user interaction with the system are tentative in nature and more research is required to determine the feasibility of applying IBC on the transport layer, as well as the effectiveness of the presented concepts in promoting trust among users. / Skillnaderna mellan äldre och 5G-nätverk i båda funktionerna, och deras alltmer dynamiska karaktär och komplexitet motiverar sökning efter nya typer av sätt att hantera nätverk. Detta avhandlingsarbete undersöktes olika alternativ för interaktion och gränssnitt för en deklarativ, avsiktsbaserad kontroll (intent-based control, IBC) 5G-nätverkshanteringssystem. IBC har inte tidigare applicerats på transportskiktet och förutom utarbetande av gränssnittskoncept, kartlägger detta arbete också befintliga definitioner och implementeringar av IBC och avsikter. Funktion av IBC på transportskiktet förutsågs genom dessa befintliga lösningar. Arbetet gjordes som ett iterativt samdesignprojekt efter den användarcentrerad designprocess. Begrepp utarbetades och utvärderades tillsammans med en grupp domenexperter. Särskild uppmärksamhet ägnas åt bildandet av förtroende för automatisering. En preliminär arbetsväg för att utfärda en avsikt till systemet kartlades och de utarbetade koncepten närmade sig stegen i uppgiftsvägen med varierande nivåer av automatisering och olika visuella representationer för informationen användarens behov och systemets funktioner. Ingen tidigare undersökning finns på IBC på transportskit och förtroendet mot automatisering i nätverkshantering och ämnena är nya. De förutsåg tillämpning av IBC på transportlagret och utkastet begrepp om användarinteraktion med systemet är preliminära och mer forskning krävs för att bestämma genomförbarheten av att tillämpa IBC på transportskiktet, liksom effektiviteten på det presenterade begrepp för att främja förtroende bland användare. / 5G verkkojen eroavaisuudet aikaisempiin verkkoihin niin dynaamisuuden, kuin uusien kyvykkyyksien ja verkkojen monimutkaisuus vaativat uudenlaisia tapoja hallita verkkoja. Työssä konseptoitiin eri vuorovaikutus- ja käyttöliittymämalleja aiepohjaiselle- (intent-based control, IBC), deklaratiiviselle hallintamallille 5G-verkkojen hallintaan. IBC:ia ei ole aikaisemmin sovellettu kuljetusverkkotasolla ja käyttöliittymämallien lisäksi työssä kartoitettiin myös IBC:in ja aikeen (intent) olemassa olevia määritelmiä ja toteutustapoja sovellustasolla, joiden pohjalta hahmoteltiin, miten IBC toimisi kuljetusverkkotasolla. Työ toteutettiin osallistavana, iteratiivisena muotoiluprojektina seuraten käyttäjäkeskeistä suunnitteluprosessia. Konseptit luotiin, sekä arvioitiin pienessä ryhmässä alan asiantuntijoiden kanssa. Luottamuksen muodostamiseen automaatiota kohtaan kiinnitettiin erityistä huomiota. Työstetyissä konsepteissa käyttäjän toimintopolun eri askeleita aikeen antamiseksi järjestelmälle lähestyttiin eri kanteilta vaihdellen toimintopolun automatisaation tasoa, sekä verkon ja aikeen tilan ja toimintojen käyttäjälle näkyvää visuaalista esitystä. IBC:n soveltaminen kuljetusverkkotasolla ja luottamus automaatiota kohtaan verkonhallinnassa ovat aiheina uusia, eikä aiheista löydy aikaisempaa tutkimusmateriaalia. Työn hahmotelma IBC:ista kuljetusverkkotasolla, sekä työn aikana tuotetut konseptit käyttäjän vuorovaikutuksesta järjestelmän kanssa ovat luonteeltaan alustavia ja lisää tutkimustyötä vaaditaan mm. IBC:n käytön realistisuudesta kuljetusverkkotasolla, sekä hahmoteltujen konseptien toimivuudesta käyttäjän luottamuksen vahvistamisessa.

Systeme zum automatisierten Fahren erlauben es, die Fahrzeugführung in einem gewissen Maß vom Fahrer an das Fahrzeug zu übertragen. Da der Fahrer auf diese Weise unterstützt, entlastet oder sogar ersetzt werden kann, werden Systeme zum automatisierten Fahren mit einem großen Potential für Verbesserungen hinsichtlich Straßenverkehrssicherheit, Fahrkomfort und Effizienz verbunden - vorausgesetzt, dass diese Systeme angemessen benutzt werden. Systeme zum hochautomatisierten Fahren stellen in diesem Zusammenhang eine besondere Herausforderung für die Mensch-Maschine-Interaktion dar: So wird es dem Fahrer bei diesem Automatisierungsgrad zwar zum ersten mal ermöglicht, das System nicht mehr permanent überwachen zu müssen und somit die Fahrtzeit potentiell für fahrfremde Tätigkeiten zu nutzen. Es wird jedoch immer noch erwartet, dass der Fahrer nach einer vorherigen angemessenen Übernahmeaufforderung die Fahrzeugführung im Bedarfsfall gewährleisten kann. Angemessenes Automatisierungsvertrauen stellt daher eine zentrale Komponente für die erfolgreiche Kooperation zwischen Fahrern und Systemen zum hochautomatisierten Fahren dar und sollte bei der Gestaltung derartiger Systeme berücksichtigt werden. Frühere Befunde weisen beispielsweise bereits darauf hin, dass unterschiedliche Informationen über automatisierte Systeme ein möglicher Ansatz sein könnten um das Automatisierungsvertrauen des Fahrers aktiv zu gestalten. Automatisierungsvertrauen als Variable in der Gestaltung von Fahrzeugtechnologie zu berücksichtigen erfordert jedoch zunächst auch in der Lage zu sein, Automatisierungsvertrauen adäquat messen zu können. In diesem Sinne war die Zielsetzung dieser Arbeit einerseits die Untersuchung verschiedener Methoden zur Messung des Automatisierungsvertrauens des Fahrers sowie andererseits die Identifikation, prototypische Umsetzung und Bewertung potentieller Ansätze zur Gestaltung von Automatisierungsvertrauen im Kontext von Systemen zum hochautomatisierten Fahren. Zu diesem Zweck wurden drei Fahrsimulatorstudien mit insgesamt N = 280 Probanden durchgeführt. Die vorliegenden Ergebnisse weisen darauf hin, dass (i) sowohl Selbstberichtsverfahren als auch Verhaltensmaße prinzipiell dazu verwendet werden können um das Automatisierungsvertrauen des Fahrers in Systeme zum hochautomatisierten Fahren zu operationalisieren, (ii) eine vorherige Auseinandersetzung mit funktionalen Grenzen von Systemen zum hochautomatisierten Fahren einen nachhaltigen Effekt auf das Automatisierungsvertrauen des Fahrers in das System haben kann und (iii) insbesondere Informationen über die Funktionsweise von Systemen zum hochautomatisierten Fahren das Automatisierungsvertrauen des Fahrers in derartige Systeme verbessern können. Damit liefert die vorliegende Arbeit sowohl wertvolle Ansatze zur Messbarmachung als auch Hinweise für die Gestaltung von Automatisierungsvertrauen im Kontext des hochautomatisierten Fahrens. Darüber hinaus können die Befunde dieser Arbeit in gewissem Maße auch auf andere Arten von Fahrzeugautomatisierung sowie unterschiedliche Domänen und Anwendungen von Automatisierung übertragen werden. / Automated driving systems allow to transfer a certain degree of vehicle control from the driver to a vehicle. By assisting, augmenting or even supplementing the driver, automated driving systems have been associated with enormous potential for improving driving safety, comfort, and efficiency - provided that they are used appropriately. Among those systems, conditional automated driving systems are particularly challenging for human-automation interaction: While the driver is no longer required to permanently monitor conditional automated driving systems, he / she is still expected to provide fallback performance of the dynamic driving task after adequate prior notification. Therefore, facilitating appropriate automation trust is a key component for enabling successful cooperation between drivers and conditional automated driving systems. Earlier work indicates that providing drivers with proper information about conditional automated driving systems might be one promising approach to do this. Considering the role of automation trust as a variable in the design of vehicle technology, however, also requires that drivers` automation trust can be viably measured in the first place. Accordingly, the objectives of this thesis were to explore difffferent methods for measuring drivers` automation trust in the context of conditional automated driving as well as the identification, implementation and evaluation of possible approaches for designing drivers` automation trust in conditional automated driving systems. For these purposes, three driving simulator studies with N = 280 participants were conducted. The results indicate that (i) both self-report measures and behavioral measures can be used to assess drivers` automation trust in conditional automated driving systems, (ii) prior familiarization with system limitations can have a lasting effffect on drivers` automation trust in conditional automated driving systems and (iii) particularly information about the processes of conditional automated driving systems might promote drivers` automation trust in these systems. Thus, the present research contributes much needed approaches to both measuring and designing automation trust in the context of conditional automated driving. In addition, the current findings might also be transferred to higher levels of driving automation as well as other domains and applications of automation.

Systeme zum automatisierten Fahren erlauben es, die Fahrzeugführung in einem gewissen Maß vom Fahrer an das Fahrzeug zu übertragen. Da der Fahrer auf diese Weise unterstützt, entlastet oder sogar ersetzt werden kann, werden Systeme zum automatisierten Fahren mit einem großen Potential für Verbesserungen hinsichtlich Straßenverkehrssicherheit, Fahrkomfort und Effizienz verbunden - vorausgesetzt, dass diese Systeme angemessen benutzt werden. Systeme zum hochautomatisierten Fahren stellen in diesem Zusammenhang eine besondere Herausforderung für die Mensch-Maschine-Interaktion dar: So wird es dem Fahrer bei diesem Automatisierungsgrad zwar zum ersten mal ermöglicht, das System nicht mehr permanent überwachen zu müssen und somit die Fahrtzeit potentiell für fahrfremde Tätigkeiten zu nutzen. Es wird jedoch immer noch erwartet, dass der Fahrer nach einer vorherigen angemessenen Übernahmeaufforderung die Fahrzeugführung im Bedarfsfall gewährleisten kann. Angemessenes Automatisierungsvertrauen stellt daher eine zentrale Komponente für die erfolgreiche Kooperation zwischen Fahrern und Systemen zum hochautomatisierten Fahren dar und sollte bei der Gestaltung derartiger Systeme berücksichtigt werden. Frühere Befunde weisen beispielsweise bereits darauf hin, dass unterschiedliche Informationen über automatisierte Systeme ein möglicher Ansatz sein könnten um das Automatisierungsvertrauen des Fahrers aktiv zu gestalten. Automatisierungsvertrauen als Variable in der Gestaltung von Fahrzeugtechnologie zu berücksichtigen erfordert jedoch zunächst auch in der Lage zu sein, Automatisierungsvertrauen adäquat messen zu können. In diesem Sinne war die Zielsetzung dieser Arbeit einerseits die Untersuchung verschiedener Methoden zur Messung des Automatisierungsvertrauens des Fahrers sowie andererseits die Identifikation, prototypische Umsetzung und Bewertung potentieller Ansätze zur Gestaltung von Automatisierungsvertrauen im Kontext von Systemen zum hochautomatisierten Fahren. Zu diesem Zweck wurden drei Fahrsimulatorstudien mit insgesamt N = 280 Probanden durchgeführt. Die vorliegenden Ergebnisse weisen darauf hin, dass (i) sowohl Selbstberichtsverfahren als auch Verhaltensmaße prinzipiell dazu verwendet werden können um das Automatisierungsvertrauen des Fahrers in Systeme zum hochautomatisierten Fahren zu operationalisieren, (ii) eine vorherige Auseinandersetzung mit funktionalen Grenzen von Systemen zum hochautomatisierten Fahren einen nachhaltigen Effekt auf das Automatisierungsvertrauen des Fahrers in das System haben kann und (iii) insbesondere Informationen über die Funktionsweise von Systemen zum hochautomatisierten Fahren das Automatisierungsvertrauen des Fahrers in derartige Systeme verbessern können. Damit liefert die vorliegende Arbeit sowohl wertvolle Ansatze zur Messbarmachung als auch Hinweise für die Gestaltung von Automatisierungsvertrauen im Kontext des hochautomatisierten Fahrens. Darüber hinaus können die Befunde dieser Arbeit in gewissem Maße auch auf andere Arten von Fahrzeugautomatisierung sowie unterschiedliche Domänen und Anwendungen von Automatisierung übertragen werden. / Automated driving systems allow to transfer a certain degree of vehicle control from the driver to a vehicle. By assisting, augmenting or even supplementing the driver, automated driving systems have been associated with enormous potential for improving driving safety, comfort, and efficiency - provided that they are used appropriately. Among those systems, conditional automated driving systems are particularly challenging for human-automation interaction: While the driver is no longer required to permanently monitor conditional automated driving systems, he / she is still expected to provide fallback performance of the dynamic driving task after adequate prior notification. Therefore, facilitating appropriate automation trust is a key component for enabling successful cooperation between drivers and conditional automated driving systems. Earlier work indicates that providing drivers with proper information about conditional automated driving systems might be one promising approach to do this. Considering the role of automation trust as a variable in the design of vehicle technology, however, also requires that drivers` automation trust can be viably measured in the first place. Accordingly, the objectives of this thesis were to explore difffferent methods for measuring drivers` automation trust in the context of conditional automated driving as well as the identification, implementation and evaluation of possible approaches for designing drivers` automation trust in conditional automated driving systems. For these purposes, three driving simulator studies with N = 280 participants were conducted. The results indicate that (i) both self-report measures and behavioral measures can be used to assess drivers` automation trust in conditional automated driving systems, (ii) prior familiarization with system limitations can have a lasting effffect on drivers` automation trust in conditional automated driving systems and (iii) particularly information about the processes of conditional automated driving systems might promote drivers` automation trust in these systems. Thus, the present research contributes much needed approaches to both measuring and designing automation trust in the context of conditional automated driving. In addition, the current findings might also be transferred to higher levels of driving automation as well as other domains and applications of automation.

<div>Intelligent machines, and more broadly, intelligent systems, are becoming increasingly common in the everyday lives of humans. Nonetheless, despite significant advancements in automation, human supervision and intervention are still essential in almost all sectors, ranging from manufacturing and transportation to disaster-management and healthcare. These intelligent machines<i> interact and collaborate</i> with humans in a way that demands a greater level of trust between human and machine. While a lack of trust can lead to a human's disuse of automation, over-trust can result in a human trusting a faulty autonomous system which could have negative consequences for the human. Therefore, human trust should be <i>calibrated </i>to optimize these human-machine interactions. This calibration can be achieved by designing human-aware automation that can infer human behavior and respond accordingly in real-time.</div><div><br></div><div>In this dissertation, I present a probabilistic framework to model and calibrate a human's trust and workload dynamics during his/her interaction with an intelligent decision-aid system. More specifically, I develop multiple quantitative models of human trust, ranging from a classical state-space model to a classification model based on machine learning techniques. Both models are parameterized using data collected through human-subject experiments. Thereafter, I present a probabilistic dynamic model to capture the dynamics of human trust along with human workload. This model is used to synthesize optimal control policies aimed at improving context-specific performance objectives that vary automation transparency based on human state estimation. I also analyze the coupled interactions between human trust and workload to strengthen the model framework. Finally, I validate the optimal control policies using closed-loop human subject experiments. The proposed framework provides a foundation toward widespread design and implementation of real-time adaptive automation based on human states for use in human-machine interactions.</div>