Ce robot décide tout seul s’il vous fera souffrir ou non share
back to to

Ce robot décide tout seul s’il vous fera souffrir ou non

Wired 22 juin 2016
Alexander Reben, scientifique et artiste, a créé First Law, qui choisit de lui-même d’infliger une douleur aux humains. Sauf s’il considère que cette action pourrait lui causer tort – comprendre que l’humain en question l’éteigne. Explications avec Wired.

« First Law ». C’est le nom du robot mis au point par Alexander Reben de l’Université de  Berkeley, en référence à la première loi de la robotique d’Isaac Asimov : « Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger. » Une loi que First Law ignore totalement.

En effet, celui-ci a été programmé pour déterminer, de manière autonome, s’il piquera légèrement les humains qui lui présenteront leurs doigts. Son créateur lui-même ne peut savoir quand ce dernier passera à l’action ou non. Car First Law peut décider de ne pas frapper… s’il estime être menacé d’être déconnecté.  Il choisit donc selon son propre intérêt, et non celui de ses concepteurs.

Le but de l’installation ? Faire réfléchir aux dangers de l’intelligence artificielle et des robots–tueurs. Alexander Reben souhaite également faire avancer la réflexion sur les moyens d’empêcher l’intelligence artificielle de désactiver d’elle-même les systèmes d’arrêt d’urgence mis au point par les humains (« kill switch »).

Pour en savoir plus sur ce robot inquiétant, c’est par ici.

Chaque semaine,
recevez les immanquables
par email