Quantifier le bien? Modèles d'agrégation pour l'éthique computationnelle

L'étude de la morale d'un point de vue computationnel a attiré l'intérêt croissant de chercheurs en IA : les agents artificiels sont dotés d'une autonomie croissante et vont être amenés à prendre des décisions sont les conséquences peuvent être immédiates ou lourdes. Des domaines aussi variés que la santé ou le transport posent des problèmes éthiques qui sont en ce sens particulièrement pressants et ont ouvert la voie à la problématique de recherche appelée \emph{éthique computationnelle}.
Réciproquement, celle-ci peut également amener à mieux comprendre la morale et raisonner plus clairement sur les concepts éthiques qui sont employés dans des domaines philosophiques, juridiques et technologiques.

Parmi les composantes des systèmes d'éthique computationnelle (voir par exemple \npcite{berreby2018phd}) et en particulier ceux qui modélisent des principes éthiques conséquentialistes, qui cherchent à maximiser le bien général, la question de la définition de ce Bien et de la façon de le quantifier devient cruciale.
Le modèle du Bien doit ainsi d'abord qualifier chaque conséquence bonne ou mauvaise en précisant la modalité selon laquelle elle peut être considérée comme telle (respect de la dignité humaine, respect de la vie, honnêteté...) et la personne ou le groupe affecté par cette conséquence. Ainsi mentir à X pour sauver Y serait à la fois mauvais du point de vue de l'honnêteté vis-à-vis de X et bon du point de vue du respect de la vie vis-à-vis de Y.
Il est alors nécessaire pour la plupart des principes utilitariste de quantifier ce Bien de façon globale. Cela peut se faire par l'agrégation de toutes les conséquences, bonnes ou mauvaises, d'une action. Le choix de l'opérateur d'agrégation est également essentiel dans le système d'éthique computationnel, pour éviter des effets inésirables (par exemple considérer comme \emph{juste} une solution consistant à concentrer tout le malheur sur un faible nombre de personnes).

Travail de stage

L'objet de ce stage est d'examiner différentes fonctions d'agrégation et de déterminer les implications de leur usage dans un tel contexte. Il existe en effet de nombreuses fonctions d'agrégation qui ont fait l'objet d'analyse aussi dans le domaine de la logique floue que dans celui du choix social computationnel pour une étude du lien entre choix social computationnel et questions éthiques).

L'objet du stage est donc en premier lieu de répertorier et analyser les fonctions d'agrégation pouvant s'appliquer en identifiant bien les différents paramètres de ces agrégations (par cible, par modalité, en prenant compte ou non du lien de causalité considéré...) et d'illustrer leur implications philosophiques par des expériences de pensée pertinentes.
Il s'agira alors dans un second temps d'implémenter les propositions en les intégrant dans le système d'appréciation éthique proposé par \emcite{berreby2017declarative}, afin de permettre une étude expérimentale.

Quelques références
*Anderson, M., & Anderson, S. (2011). Machine ethics. Cambridge University Press.
* Berreby, F. (2018). Models of ethical reasoning. Thse de doctorat, Sorbonne Universit, EDITE,
LIP6, Paris.
* Berreby, F., Bourgne, G., & Ganascia, J.-G. (2017). A declarative modular framework for repre-
senting and applying ethical principles. Proceedings of the 16th Conference on Autonomous Agents
and MultiAgent Systems (AAMAS) (pp. 96–104).
* Calvo, T., Kolesarova, A., Komornikova, M., & Mesiar, R. (2002). Aggregation operators: prop-
erties, classes and construction methods. In Aggregation operators: new trends and applications,
3–104. Physica-Verlag.
* Conitzer, V. (2018). Computational social choice and moral artificial intelligence. Tutorial at
IJCAI-2018.
* Detyniecki, M. (2000). Mathematical aggregation operators and their application to video querying.
Thse de doctorat, Universit Pierre and Marie Curie, Paris.

Lieu: 
Campus Jussieu
Encadrant: 
G. Bourgne
Co-Encadrant: 
M.-J. Lesot, N. Maudet
Référent Universitaire: 
n/a
Attribué: 
No
Année: 
2 021
Deprecated: 
No

User login