Intelligence artificielle : l’étonnant avertissement de Stephen Hawking, Stuart Russell, Max Tegmark et Frank Wilczek share
back to to

Intelligence artificielle : l'étonnant avertissement de Stephen Hawking, Stuart Russell, Max Tegmark et Frank Wilczek

5 mai 2014

Une brochette de cerveaux (physiciens, informaticiens, mathématiciens et/ou prix Nobel) réunis par une tribune sur les dangers de l’intelligence artificielle : c’est le savoureux cadeau du 5 mai que nous offrait The Independent. Car au-delà de la mise en garde des célèbres chercheurs, la tribune n’est pas dénuée d’humour et d’imagination.

« Si une civilisation d’aliens, supérieurs à nous, nous envoyait un message disant « Salut, on arrive dans quelques décennies », répondrions nous simplement « Ok, appelez quand vous arrivez – on laisse la lumière allumée » ? Probablement pas. Eh bien c’est pourtant plus ou moins ce qu’il se passe avec l’intelligence artificielle ».

La comparaison avec les aliens peut paraître audacieuse, et pourtant les chercheurs l’affirment avec le plus grand sérieux : l’intelligence artificielle pourrait être la plus grande opportunité comme la plus grande menace qu’ait jamais connue l’humanité. Car si son incroyable potentiel pourrait permettre, pour les plus optimistes, de « magnifier l’intelligence humaine », le manque d’encadrement de ses avancées laisserait redouter le pire…

Des inventions qui se retournent contre leurs créateurs ou des robots qui asservissent l’homme pour les hypothèses les plus fantaisistes, aussi bien que des machines chargées de délocaliser des entreprises ou de tuer sans nuances pour les hypothèses les plus…réalistes. Autant de menaces dont tiennent à nous avertir les scientifiques car l’ONU a déjà interdit l’usage de ces armes « intelligentes » et certains algorithmes se chargent aujourd’hui de décider de bien des choses… comme du sort des prisonniers aux Etats-Unis ou de votre employabilité chez certaines entreprises.

Pourtant, bien peu d’instituts de recherches se penchent sur le volet éthique de l’utilisation de ces intelligences artificielles, nous expliquent les chercheurs. Et si la question a été abordée sous un angle romantique dans Her, l’aspect plus sensible dont nous discutions dans un précédent article reste encore peu pensé : si demain les machines sont plus intelligentes que nous, devrons-nous les empêcher d’agir à notre place ? Par ici pour le débat ! 

Chaque semaine,
recevez les immanquables
par email