Peut-on concilier intelligence artificielle et valeurs humaines ? share
back to to

Peut-on concilier intelligence artificielle et valeurs humaines ?

25 mai 2015

Pour Stuart Russell, les recherches en intelligence artificielle – domaine dont il est l’un des plus éminents spécialistes – ne se dirigent pas dans la bonne direction. Explications dans un entretien accordé à Quanta Magazine et repris par Wired.

Et si les chercheurs en intelligence artificielle s’étaient tous trompés ? C’est en somme la conclusion un brin provocatrice que Stuart Russell et les membres du Future of life Institute livrent dans une lettre ouverte à leurs confrères. La raison ? Selon Stuart Russell, les scientifiques auraient confondu puissance et intelligence :

« Si vous voulez avoir un robot à la maison, il faut qu’il partage au moins quelques valeurs humaines. Sinon, il fera des actions stupides, telles que mettre le chat au four pour le dîner parce qu’il n’y a plus de nourriture dans le frigo et que les enfants ont faim. »

Les ordinateurs sont en effet incapables de hiérarchiser et d’ordonner logiquement différentes actions. D’autant plus lorsqu’ils ne sont pas familiers des étapes intermédiaires : par exemple, pour ouvrir une porte, il faut parfois chercher la clef dans un sac, s’en saisir, actionner telle ou telle poignée… En bref, aller au-delà de l’automatisme et trouver de nouvelles solutions à un problème.

Or, le caractère trop rationnel des systèmes informatiques les en empêche pour l’instant. Pour Stuart Russell, on aurait davantage réfléchi à accroître la puissance des machines au détriment de la compréhension du raisonnement humain. Une piste d’exploration selon le chercheur et ses confrères.

Pour en savoir plus, l’interview de Stuart Russell et la lettre des chercheurs.

Chaque semaine,
recevez les immanquables
par email