Des machines pourront-elles apprendre le bien et le mal ?

Régulièrement, les journaux nous informent que l’intelligence artificielle « bat » l’intelligence humaine dans certains secteurs ou dans certaines activités, comme les jeux d’échec ou de go. En d’autres termes, le silicium écrase parfois le neurone. Nous sommes donc, nous autres les humains, des êtres imparfaits, limités, du moins en certains domaines, et nous ne pouvons pas prétendre que nous ne le savons pas. Dès lors, allons-nous abandonner notre idéal d’autonomie et préférer nous confier à la perfection de machines qui pourraient nous relayer ? Qui pourraient choisir et décider à notre place ? 

La question n’est évidemment pas simple du tout, notamment parce qu’il existe une grande diversité de machines numériques, aux statuts différents : ordinateurs, robots, applications, logiciels… Certaines de ces machines apprennent, d’autres se contentent d’exécuter un algorithme invariable, fixé à l’avance, d’autres encore interagissent constamment avec l’utilisateur, quelques-unes ne communiquent jamais avec l’homme, etc.. 

Ce qui est sûr, c’est que nous avons là affaire à une nouvelle donne. Nouvelle au point que certains en viennent à se poser des questions impressionnantes, telles que celles-ci : les machines pourraient-elles se voir dotées de la capacité d’avoir des jugements moraux.   Pourraient-elles se substituer à l’homme en tant qu’agent moral ? Pourraient-elles punir ou être punies ?

Mais de telle interrogations sont-elles fondées ? Si oui, comment les traiter. Au demeurant, sont-elles vraiment nouvelles ?

Invité : Alexei Grinbaum, physicien et philosophe. Chercheur au CEA de Saclay, il est spécialiste des fondements de la mécanique quantique. Conjointement à ces recherches mathématiques, il travaille sur les questions éthiques posées par les nouvelles technologies.