Je m’appelle Manfred Broy. Je suis informaticien, expert dans le Software et Système Engineering.
Il y a quelques années, j’ai fini ma chaire de professeur. Je réalise encore quelques projets
mais pour l’instant je suis le président fondateur du «Centre Digitalisation de Bavière»
et c’est pourquoi je suis confronté avec toutes les questions qui concernent la digitalisation.
Il y a quelques années, je me suis décidé – à la demande du Ministre des Transports de l’époque –
de participer comme membre de la «commission d’éthique de la conduite autonome».
Ce qui est remarquable, c’est que c’était la première commission d’éthique qui s’est ainsi occupée des questions concernant l’IA
et avec des questions concernant l’interaction entre les systèmes d’IA et les hommes dans des situations qui posent de graves problèmes de sécurité.
Nous avons donc dialogué sur comment une voiture devait réagir dans une situation critique
– dans l’éthique on parle des soi-disant situations dilemmes.
Et cela soulève de nouvelles questions éthiques qui sont intéressantes parce que des personnes peuvent se trouver dans ces situations dilemmes
et réagissant normalement vite et instinctivement bien ou mal et après c’est le devoir des juristes de juger s’ils sont coupables ou pas.
Au cours des années, les éthiciens ont élaboré quelques scénarios très détaillés qui déterminent les positions éthiques.
Mais maintenant on constate qu’on va avoir toute une suite de dilemmes éthiques
parce que les éthiciens pensent qu’il est, par exemple, irrecevable de décider dans une situation dilemme
telle que le choix entre deux personnes concernées dans un accident mais dont une des deux devra mourir dans l’accident.
Si quelqu’un se retrouve dans une telle situation, il va toujours porter la responsabilité.
Quand nous sommes confrontés avec des véhicules autonomes, la situation est différente parce que ces choses sont programmées en avance.
Curieusement, même dans une situation où il n’est pas déterminé quelles personnes individuelles sont affectées
et c’est pourquoi la question éthique se pose un peu différemment.
Mais si on répond à cette question dans l’éthique classique et conventionnelle, de la façon qu’on ne peut pas prendre une telle décision,
on a tout de suite la réponse qu’on rejette la conduite autonome généralement.
Mais c’est encore un dilemme éthique parce que nous pensons que les véhicules autonomes
probablement évitent aujourd’hui beaucoup d’accidents.
Et avec cela l’éthicien soi-même tombe dans un dilemme.