Menu

A vous de jouer ?


A vous de jouer ?
0 Comments

Data scientist, vous êtes chargé de programmer l’IA de la voiture autonome. Vous devez face à un cas extrême : l’accident avec un piéton. Qu’allez-vous programmer ?

Jean-François Bonnefon, directeur de recherches à la Toulouse School of Economics (TSE) a mis au point en 2016, avec Azim Shariff (UCLA) et Iyan Rahwan (MIT) un jeu « The Moral Machine » permettant aux internautes de décider du comportement optimal de la voiture autonome en présence de certains risques.

La voiture autonome doit être capable à chaque instant de prendre des microdécisions: redresser le volant, ralentir, respecter les distances de sécurité… mais quid du cas extrême ou l’accident est inévitable : un piéton va être renversé ? Que faire ? L’éviter et percuter le mur pour épargner le piéton ou renverser le piéton et sauver les passagers ?

C’est ce qu’on appelle un dilemme moral : il n’y a pas de bonnes décisions. Les valeurs et les principes entrent en opposition. La démarche dans ce genre de situation consiste à hiérarchiser nos valeurs et à répondre à la question : Quelles valeurs et quels  principes sont les plus importants pour moi? Et pourquoi le sont-ils?

Reprenons la définition de l’éthique, chère à IAPOURTOUS et de la morale. L’éthique du grec (èthos ou éthos) est une  réflexion argumentée en vue du bien-agir. La morale du latin (mos-moris), réfère à un ensemble de valeurs qui permettent de différencier le bien du mal, le juste de l’injuste. La morale évolue à travers le temps, les civilisations, les cultures, la religion et les individus.

Entre juin 2016 et décembre 2017, plus de deux millions d’internautes de 233 pays et territoires, ont fait le test de « Moral Machine ». Si la morale comme on vient de le voir évolue, qu’ont donc répondu les internautes à travers le monde ?

Lors de la conférence « IA et Cognition » au Collège de France J.F Bonnefond nous explique qu’à la question « est ce que je préfère que la voiture me sacrifie pour sauver 5 personnes ? » l’écrasante majorité des gens dépondent oui. Corrolaire, à la question suivante, « est ce que vous achèteriez une voiture qui fasse ca ? » la majorité répondent non. C’est ce qu’on appelle un dilemme social.

Et vous que feriez-vous ?

Retrouver le test et ses résultats ici :

http://moralmachine.mit.edu/

Matthieu Lentz

Étiquettes :

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.