Ce projet de recherche porte sur la justice, l’éthique et l’intelligence artificielle (IA), et plus précisément sur les enjeux éthiques soulevés par la délégation de la prise de décision judiciaire à une IA. Parmi ces enjeux, celui sur lequel nous avons choisi de nous concentrer est celui de l’égalité d’accès au juge, un droit fondamental à l’échelle européenne comme internationale. Le respect de cet enjeu lors de la mise en oeuvre d’algorithmes de règlement des litiges au sein des juridictions sera examiné ici au regard des textes qui sont actuellement les plus avancés pour encadrer éthiquement l’IA : il s’agit d’une part de la déclaration de Montréal, parue en décembre 2018, et d’autre part des lignes directrices de la Commission européenne, parues en avril 2019. / This research deals with justice, ethics and artificial intelligence (AI). More precisely, the aim is to discuss what ethical issues are raised when delegating judicial decision-making to an AI. The issue we are focusing on is equal access to the judge, a fundamental right in both European and international texts. In regard to the most advanced ones that set an ethical frame for the development of AI – which are the Declaration of Montreal, published in December 2018, and the Ethical Guidelines for Trustworthy AI published by the European Commission in April 2019 – we will investigate whether this right is enforced when dispute resolution algorithms are implemented in jurisdictions.

Ce mémoire présente une comparaison de deux algorithmes de reconnaissance de plan, soit YAPPR (Yet Another Probabilistic Plan Recognizer) et PR-Plan (Plan Recognizer as Planning). Afin de comparer les algorithmes, nous avons voulu utiliser un domaine plus complexe et réaliste que ceux utilisés jusqu’à présent. Pour ce faire, nous avons établi un protocole de comparaison en utilisant le concept d’observation in situ. Nous avons utilisé le jeu de stratégie en temps réel StarCraft comme environnement de simulation. Puis, nous avons créé un agent jouant à StarCraft qui utilise la reconnaissance de plan comme élément central pour le système de prise de décision. Pour valider que notre principe d’observation in situ fonctionne, nous avons créé des agents témoins et exécuté de nombreuses simulations.

La capacité à reconnaître les intentions d’un agent est un élément important de l’analyse de la situation. Connaître ces intentions est souvent un facteur clé de la prise de décision dans plusieurs domaines tels que la robotique, les jeux vidéo, la sécurité informatique et l’analyse du renseignement. Une des approches algorithmiques souvent utilisées pour reconnaître les intentions d’un agent suppose une connaissance préalable de tous les plans exécutables par l’agent observé. À partir de ces plans et des données d’observation, on peut alors prédire les comportements et les intentions de l’agent observé simplement en générant les modèles d’exécution de plans cohérents avec les données d’observation. Ces modèles d’exécution constituent en quelque sorte les hypothèses sur le plan et le but poursuivi par l’agent observé. Ainsi, la probabilité que l’agent observé poursuive un but particulier est établie comme étant la proportion des modèles cohérents avec ce but. Cette approche existe depuis une dizaine d’années et fait partie des approches les plus étudiées en ce moment. Cependant, elle comporte des lacunes fondamentales, notamment une explosion combinatoire de la taille de l’espace d’hypothèses. Ce mémoire de maîtrise propose un algorithme permettant d’aborder ce dernier problème en contrôlant l’exploration de l’espace d’hypothèse. Avec ce nouvel algorithme, on peut approximer la probabilité du but, de sorte que la précision de l’approximation s’améliore graduellement avec le temps de calcul. Cette approche a été publiée dans l’une des deux plus prestigieuses conférences scientifiques sur l’intelligence artificielle : International Joint Conference on Artificial Intelligence (IJCAI), en 2013.

Cette thèse propose un formalisme de représentation de connaissances adapté à l’enseignement explicite de connaissances stratégiques par système tutoriel intelligent (STI). Le formalisme est une proposition de solution au fait que dans le domaine des systèmes tutoriels intelligents multidisciplinaires, les efforts de modélisation croissent considérablement avec la complexité du domaine à enseigner. Le problème est particulièrement contraignant avec les domaines qui présentent des stratégies multiples de résolution de problèmes. Par ailleurs, le formalisme est aussi une réaction au constat que peu de systèmes tutoriels s’intéressent actuellement à l’enseignement explicite des stratégies, alors que plusieurs études en ont démontré les avantages. Le formalisme maintient le processus d’encodage du raisonnement stratégique à un niveau simple sans compromettre la fidélité de représentation, ce qui a été validé expérimentalement avec un groupe d’étudiants. Les mêmes expérimentations ont permis de confirmer l’efficacité du système tutoriel utilisant le formalisme dans plusieurs aspects : la résolution de problèmes avec explication et justification des étapes, l’interprétation des actions d’un apprenant d’un point de vue stratégique, et l’évaluation du degré de maîtrise d’une stratégie par un apprenant. L’architecture résultante, avec le module responsable du raisonnement stratégique activable à volonté, est particulièrement adaptée pour des études évaluant les impacts de l’enseignement explicite des stratégies et la réutilisation des connaissances stratégiques acquises d’un domaine à l’autre.

Les systèmes multi-agents mettent en jeu des entités artificielles, conçues par des utilisateurs potentiellement différents, devant se coordonner pour atteindre leur but. La problématique générale est donc l'atteinte d'états "satisfaisants" en dépit de contraintes liées à la distribution des entités qui prennent part à la décision collective, et du caractère non nécessairement coopératifs de ces agents. Je discute de problèmes de vote dans le cas où les profils représentant les préférences des agents prenant part à la décision ne sont pas complètement spécifiés (à cause, par exemple, de la perte de messages du fait de la distribution, ou encore de l'impossibilité de spécifier parfaitement un profil portant sur un nombre rédhibitoire d'alternatives, comme dans le cas de domaines combinatoires). Les questions que nous abordons sont par exemple celles de la taille minimale nécessaire à encoder le profil partiel tout en restant capable de déterminer de manière certaine l'alternative choisie après complétion des votes, ou encore de la difficulté (algorithmique) liée à la détermination des alternatives que l'on peut exclure sans craindre de regretter ce choix plus tard, même si d'autres alternatives peuvent apparaîtrent. J'aborde également des procédures complètement décentralisées d'allocation de ressources. Ici on suppose que les agents débutent avec une allocation initiale et modifient de manière itérative cette allocation par le biais de contrats, c'est-à-dire de réallocation locale de ressources entre eux. En posant la contrainte que chacun de ces contrats doit être individuellement rationnel on se penche sur les garanties de convergence de tels systèmes vers de états efficaces et/ou équitables (au sens par exemple de l'égalitarisme ou l'absence d'envie). J'envisage enfin un processus de prise de décision collective plus délibératif, au sens où les agents peuvent échanger des arguments et contre-arguments, pour (éventuellement) modifier le point de vue des autres. Dans un premier temps je discute d'un cadre où les agents coopèrent en vue d'établir un diagnostic commun d'une situation, alors que les agents ne percoivent que localement leur environnement et ne disposent que de possibilités restreintes de communication. Chaque agent construit (sur la base d'informations partielles) une hypothèse qui pourra être par la suite réfutée par d'autres agents, nous sommes en présence d'un raisonnement de type non-monotone. Je présente enfin brièvement le cadre non-coopératif d'une argumentation multi-partite, où les agents peuvent avoir des opinions réellement contradictoires. Un protocole simple est proposé, qui contraint minimalement la pertinence des arguments échangés, et quelques phénomènes liés au comportement statégique des agents sont illustrés.

La capacité de reconnaître les intentions des autres est une composante essentielle non seulement de l'intelligence humaine mais aussi de l'intelligence artificielle dans plusieurs domaines d'application. Pour les algorithmes d'intelligence artificielle, reconnaître l'intention d'un agent à partir d'une observation partielle de ses actions demeure un défi de taille. Par exemple dans les jeux de stratégie en temps réel, on aimerait reconnaître les intentions de son adversaire afin de mieux contrer ses actions futures. En domotique, on voudrait une maison capable de comprendre et d'anticiper les intentions de ses habitants pour maximiser leur confort et les assister dans leurs activités quotidiennes. Dans le domaine de la sécurité informatique, un outil de détection des intrus doit pouvoir observer les actions des usagers du réseau et déceler ceux qui ont des intentions malveillantes. Ce mémoire de maîtrise propose d'aborder ce problème sous observabilité partielle par adaptation des méthodes utilisées dans l'analyse grammaticale probabiliste. L'approche probabiliste considérée utilise une grammaire hors contexte de multi-ensemble partiellement ordonnée et considère la poursuite de plusieurs buts simultanément, ordonnés ou non. Cela revient donc à faire de l'analyse grammaticale probabiliste avec plusieurs symboles de départ.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

Mémoire numérisé par la Direction des bibliothèques de l'Université de Montréal.

L'objectif de cette thèse est de formaliser une méthodologie visant à valider l'architecture d'un système d'aide à l'installation d'outils d'assistance pour le pilotage d'un fauteuil électrique. Nous voulons redonner un début de mobilité suffisant à la personne embarquée, en utilisant des expériences de navigations dans des environnements virtuels. Pour cela il faut concevoir un système capable de trouver les améliorations pertinentes à apporter au fauteuil électrique. Nous avons élaboré une architecture basée sur des cycles "Expérience ? Analyse ? Modification du fauteuil roulant". Cette architecture se décompose en trois modules : un simulateur, un évaluateur, un configurateur. Ce travail s'inscrit dans le projet VAHM (développé au LASC) qui utilise des fauteuils électriques du commerce sur lesquels ont été ajoutés une série de capteurs et un calculateur. Notre simulateur remplace la partie physique du VHAM. A partir de l'analyse des données issues de l'étape d'expérience, nous avons calculé des critères représentatifs de comportements ou/et de situations particulières survenues lors de la navigation. Nous avons répertorié, en qualité de roboticiens, l'ensemble des situations problématiques selon différents aspects. Nous avons identifié et caractérisé chaque aspect par un ensemble de critères. Le vecteur contenant les valeurs des critères constitue l'entrée d'un système d'aide à la décision qui indiquera en sortie la ou les fonctionnalités à installer pour améliorer la mobilité du patient en fauteuil électrique. La base de connaissance du système d'aide à la décision s'appuie sur des réflexions, concernant les comportements et situations particulières qu'une personne handicapée va rencontrer pendant la navigation. L'originalité de notre travail provient de l'application orientée handicap permettant d'évaluer et de mettre en évidence les difficultés d'un groupe de personnes très physiquement handicapées, ne pouvant pas se déplacer en fauteuil électrique dans des mondes réels, en utilisant des mises en situation dans des environnements virtuels. L'architecture du système a permis de fournir des solutions d'assistance en passant par un système d'aide à la décision évolutif basé sur la logique floue. La dernière partie de ce mémoire présente les résultats expérimentaux permettant la validation de l'architecture de notre système de configuration / The objective of this thesis is to formalize a methodology aiming to validate the architecture of system of assistive tools installation making for piloting of electric wheelchair. We want to give again a sufficient beginning of mobility to the onboard person, by using experiments of navigations in virtual environments. So we have to conceive a system able to find the relevant improvements to bring to the electric wheelchair. We worked out an architecture based on cycles "Experiment ? Analyze and decision-making ? Modification of the wheelchair ". This architecture contains three modules: a simulator, an evaluator, a configurator. This work is a part of the VAHM (developed in LASC) project using commercial electric wheelchairs enhanced by several sensors and a calculator. Our simulator replaces the physical part of VAHM. From the analysis of the data resulting from the experiments, we have calculated criteria representative of behaviours or/and particular situations which have occurred during navigation. We indexed as robotics engineers, the whole of the problematic situations according to several aspects. We have identified and characterized each aspect by a whole of criteria. The vector of criteria constitutes the input of a decision-making system which will indicate at exit the functionalities to be installed to improve the mobility of the patient in powered wheelchair. The base of knowledge of the decision-making system is supported by reflections, concerning the behaviours and particular situations that a handicapped person will meet during navigation. The originality of our work comes from the handicap directed application allowing to evaluate and to highlight the difficulties of a group of people with severe motor disabilities, not able to move in real worlds, by using settings in virtual environments situations. The architecture of the system let to provide solutions of assistance using an evolutionary decision-making system based on fuzzy logic

L'objectif de cette thèse est l'étude de la synthèse de plans dans un contexte multi-agent. La problèmatique principale est de comprendre les mécanismes qui permettent à une société d'agents autonomes de construire collectivement un plan global. Contrairement aux approches classiques dans lesquelles la planification n'est qu'un outil parmi d'autres pour définir les activités des agents et la coordination une «surcouche» nécessaire à leur synchronisation, la contribution de nos travaux repose sur la conception d'un modèle de planification entièrement distribué dans lequel les agents raisonnent conjointement sur leurs activités respectives pour atteindre un but commun prédéfini en intégrant leurs compétences hétérogènes ainsi que leurs croyances partielles sur le monde. Dans cette perspective, nous proposons de considérer la synthèse de plans comme un raisonnement collectif et révisable fondé sur l'échange entre les agents de conjectures, i.e., des plans qui peuvent être exécutés si certaines conditions sont vérifiées et de réfutations, i.e., des objections quant à la réalisation du plan. Les intéractions entre agents peuvent se définir comme un processus dialectique d'investigation dans lequel les agents proposent leurs compétences pour démonter la validité de certaines hypothèses, réfuter les conjectures non réalisables, réparer lorsque cela est possible les conjectures précédemment réfutées et ainsi élaborer pas à pas un plan solution.