Pourquoi les robots devraient apprendre à dire non

The Conversation 11 avril 2016
Si certains affirment que les robots ont précisément été créés pour faire ce qu’on leur demande de faire, le revers de la médaille révèle un nombre de dérives potentielles saisissant. The Conversation explique pourquoi il vaudrait mieux éduquer les robots à savoir dire non.

Imaginez : un élève demandant à son robot-tuteur de faire ses devoirs à sa place, ou un robot-commis de cuisine sommé de couper des légumes, se dirigeant lame la première vers le chef posté devant lui… Les exemples, qui sont légion, tendent à prouver que les conséquences du strict suivi de la programmation peuvent s’avérer désastreuses. 

Mais comment apprendre à un robot à savoir dire non lorsque le résultat de ses actions peut se révéler dangereux ? Le laboratoire Human Robot Interaction a étudié le problème, et commence à développer des modules de contrôle capables de faire des inférences basées sur les comportements humains.

Plus facile à dire qu’à faire cependant : cela suppose non seulement que le robot soit capable d’analyser le contexte et toutes les conséquences potentielles de chaque action, mais aussi de prédire les intentions du donneur d’ordres…

Une innovation qui soulève en tout cas un point intéressant : pour bien obéir, les robots doivent apprendre à… désobéir.

L’article de The Conversation est à lire dans son intégralité ici.

Chaque semaine,
recevez les immanquables
par email