Les études récentes sur les Interactions Homme-Machine ont intégré la dimension émotionnelle dans l'évaluation de l'expérience de l'utilisateur. En effet, un nouveau courant de recherche est apparu à savoir l'informatique affective, qui a donné lieu à une nouvelle génération de jeux vidéo capables d'interagir avec l'utilisateur en prenant en considération ses émotions, appelée jeux vidéo affectifs. L’objectif principal de ces jeux est de garder le joueur engagé durant la session du jeu. Pour y arriver, le jeu vidéo doit mesurer et réguler l‘état émotionnel du joueur en ajustant ses différents composants. Malgré le nombre important des recherches qui visent à améliorer le processus de détection émotionnelle, toutes les mesures utilisées jusqu'à présent ont montré certaines limites à cause de la complexité d'interprétation du concept émotionnel. Dans le présent travail, nous proposons de mesurer et soutenir l'engagement mental du joueur dans un environnent de jeu vidéo. Nous avons d’abord développé une première version de jeu vidéo et nous avons conduit une première étude expérimentale pour mesurer l'engagement mental du joueur à partir d'un index d’engagement mental extrait des données de l’activité cérébrale du joueur et plus précisément l’électroencéphalographie (EEG). Nous avons ensuite développé une deuxième version de jeu vidéo capable de capter l'état d'engagement mental (engagé, désengagé) du joueur et de déclencher un ensemble de stratégies d'engagement. Finalement, nous avons réalisé une deuxième étude expérimentale pour vérifier la capacité de ces stratégies à corriger l'état de manque d'engagement (désengagement) à augmenter et à maintenir le niveau d'engagement du joueur durant le jeu. Mots-clés : jeux vidéo, engagement mental, émotions, électroencéphalographie, stratégies d’engagement. / Recent studies in human-machine interactions have integrated the emotional dimension into the evaluation of the user’s experience. Indeed, a new current research has emerged, namely affective computing, which has given rise to a new generation of video games capable of interacting with the user taking into consideration his emotions, called affective video games. The main objective of the games is to keep the player engaged during the game session. To achieve this, the video game must measure and regulate the player’s emotional state by adjusting its different components accordingly. Although the large number of researches that aim to improve emotional detection processes, all the measures used up to now have shown some limitations, because of the complexity of the emotional concept interpretation. In this work, we add to these studies by formally proposing to measure and support the player’s mental engagement in a video game environment. First, we developed a first version of video game and we conducted a first experimental study to measure the player’s mental engagement from a mental engagement index extracted from the player’s brain activity data, and more precisely Electroencephalography (EEG). Second, we developed a second version of video game capable of capturing the player’s mental engagement state (engaged, disengaged) and triggering a set of engagement strategy. Finally, we carried out a second experimental study to verify the ability of these strategies to correct the engagement lack state (disengagement) and to increase and maintain the player engagement level during the game. Keywords: video games, mental engagement, emotions, electroencephalography, engagement strategy.

Les récents avancements en sciences cognitives, psychologie et neurosciences, ont démontré que les émotions et les processus cognitifs sont intimement reliés. Ce constat a donné lieu à une nouvelle génération de Systèmes Tutoriels Intelligents (STI) dont la logique d’adaptation repose sur une considération de la dimension émotionnelle et affective de l’apprenant. Ces systèmes, connus sous le nom de Systèmes Tutoriels Émotionnellement Intelligents (STEI), cherchent à se doter des facultés des tuteurs humains dans leurs capacités à détecter, comprendre et s’adapter intuitivement en fonction de l’état émotionnel des apprenants. Toutefois, en dépit du nombre important de travaux portant sur la modélisation émotionnelle, les différents résultats empiriques ont démontré que les STEI actuels n’arrivent pas à avoir un impact significatif sur les performances et les réactions émotionnelles des apprenants. Ces limites sont principalement dues à la complexité du concept émotionnel qui rend sa modélisation difficile et son interprétation ambiguë. Dans cette thèse, nous proposons d’augmenter les STEI des indicateurs d’états mentaux d’engagement et de charge mentale de travail. Ces états mentaux ont l’avantage d’englober à la fois une dimension affective et cognitive. Pour cela, nous allons, dans une première partie, présenter une approche de modélisation de ces indicateurs à partir des données de l’activité cérébrale des apprenants. Dans une seconde partie, nous allons intégrer ces modèles dans un STEI capable d’adapter en temps réel le processus d’apprentissage en fonction de ces indicateurs. / Recent advances in cognitive science, psychology and neuroscience have shown that emotions and cognitive processes are closely intertwined. This fact has given rise to a new generation of Intelligent Tutoring Systems (ITS) whose adaptive logic is based on the consideration of the learner’s emotional and affective dimension. These systems, known as Emotionally Intelligent Tutoring Systems (EITS), seek to acquire the human tutors’ ability in detecting, understanding and adapting to the learners’ emotional state. However, despite the large body of work on emotional modeling, several empirical results showed that current EITS fail to have a significant impact on the learners’ performance and emotional reactions. These limitations are mainly due to the complexity of the emotional concept which makes its modeling difficult and its interpretation ambiguous. In this thesis we propose to increase EITS with mental state indicators of engagement and mental workload. These mental states have the advantage to include both affective and cognitive dimensions. To this end, we first present an approach to modeling these indicators from the learners’ brain activity data. In the second part, we will integrate these models into an EITS able to adapt in real time the learning process according to these indicators.