« Un futur sans humain » : Mais que raconte vraiment Bill Joy ? share
back to to

« Un futur sans humain » : Mais que raconte vraiment Bill Joy ?

1 février 2012

Pour accompagner notre réflexion autour de la question « Sommes-nous encore utiles ? » et pour préparer la plénière de la troisième journée des TechDays, nous poursuivons la publication d’une série d’articles. Nous revenons sur l’idée d’un futur sans humain, issue d’un article de Bill Joy qui nous a inspiré notre thématique « agents intelligents ».

Annoncer un futur sans humain ? C’est la prophétie de Bill Joy, l’inventeur du langage informatique Java et cofondateur de Sun Microsystems, dans l’article « Why the future doesn’t need us ? » paru en 2000 dans le magazine Wired.

Une chose est sûre : ce (très) long article a fait parler de lui ! Pas de statistiques disponibles à son sujet, mais à l’époque de sa publication l’article avait fait l’objet de reprises dans le New York Times et Le Monde, et avait suscité de nombreuses réponses. L’édition londonienne de Time Magazine comparait alors l’article à « la lettre où Albert Einstein mettait en garde le président Roosevelt contre les dangers de la bombe nucléaire ». Depuis lors, Bill Joy va de conférences en tables rondes pour exprimer son anxiété face à la disparition de l’espèce humaine à cause des nouvelles technologies.

Problème : on est un peu déçu. Facile, direz-vous, dix ans plus tard. Après avoir lu l’article de Bill Joy dans son intégralité, nous avons un peu l’impression qu’il passe à côté des enjeux réels soulevés par l’intelligence artificielle. Une lecture des technologies finalement très en phase avec l’ambiance de cette année 2012, annoncée par certains comme l’année de la fin du monde. Nous vous proposons donc un décryptage plus détaillé de la prose de Bill Joy.

1. D’abord quelques remarques formelles

Publier une mise en garde contre les méfaits des technologies dans un article de 70 000 signes, sans une seule sous-partie ou sans utilisation des intertitres n’est pas si courant. Problème : à l’époque, Jakob Nielsen avait déjà publié quelques études sur l’optimisation de l’écriture pour le Web et notamment son texte Designing Web Usability : The Practice of Simplicity, (en français : Le Design de l’interface web : la pratique de la simplicité). Le principe de la lecture scanner, où le lecteur lit les titres et les intertitres avant de rentrer dans le cœur de l’article, était donc déjà connu. Un effort de structuration du texte aurait sans doute rendu plus lisible la pensée de Bill Joy.

Rédiger une tribune sur le site de Wired pour mettre en garde contre le développement des nouvelles technologies était un pari osé. Etonnant paradoxe que de se servir d’une nouvelle technologie pour prévenir que ses sœurs pourraient nous anéantir… Si les nouvelles technologies sont si dangereuses, alors pourquoi les informer de nos craintes ? En fait, Bill Joy avait sans doute décidé de miser sur la portée du média Internet…

2. La thèse de Bill Joy

Dans cet article, Bill Joy explique qu’avec les avancées techniques en génétique, en robotique et dans le domaine des nanotechnologies, les robots intelligents remplaceront l’humanité, au moins sur les plans intellectuel et social, dans un futur relativement proche. Pour étayer sa thèse, Bill Joy se base sur plusieurs arguments : notre faible probabilité de survie, la thèse de Théodore Kaczynski, et la théorie d’Hans Moravec. Pour commencer, il reprend le propos du philosophe John Leslie dans son livre The End of the World : The Science and Ethics of Human Extinction. John Leslie s’est penché sur les possibilités de survie de l’espèce humaine et en a conclu que notre risque d’extinction est à terme d’au moins 30%. Pour Bill Joy, il est donc évident que nous avons 30% de risques de nous éteindre.

Il se base ensuite d’une façon surprenante sur le propos de Théodore Kaczynski, mathématicien et militant écologiste, plus connu sous le nom d’Unabomber. Pour mémoire, Kaczynski était un poseur de bombes responsable de la mort de trois personnes. La thèse de Kaczynski repose sur l’idée que nous sommes en train de construire des « systèmes fortement organisés de machines » et qu’aucune intervention humain ne sera bientôt plus nécessaire pour les contrôler. A l’avenir nous nous reposerons entièrement sur les machines pour prendre des décisions, et nous perdrons peu à peu tout contrôle sur ces décisions. Ce qui est intéressant à souligner ici, c’est que Bill Joy donne une grande importance à la thèse de Kaczynski, tout en dénigrant les actes terroristes de ce dernier.

Enfin, Bill Joy évoque le travail d’Hans Moravec, enseignant-chercheur au centre de robotique de l’université Carnegie Mellon, dans son livre Robot : Mere Machine to Transcendent Mind (en français : Robot : De la simple machine à l’esprit transcendantal). Moravec y montre comment, dès que les continents nord-américain et sud-américain ont été reliés par l’isthme du Panama, les espèces vivantes « supérieures » ont anéanti les autres espèces indigènes. Bill Joy défend ainsi l’idée que nous ne résisterions pas au développement des robots puisque ceux-ci représentent une espèce supérieure et qu’ils risqueraient de nous anéantir.

3. Pourquoi une tribune dans Wired ?

Bill Joy prophétise donc pour l’humanité une fin relativement proche, aux environs des années 2030. Dans l’article qui nous occupe, Why the future doesn’t need us, Bill Joy a donc plusieurs objectifs.

Le premier est d’alerter les consciences sur notre devoir de contrôle des nouvelles technologies : en particulier les nanotechnologies, la génétique et la robotique. En 2000, année de la publication de son article, il souligne :

« Beaucoup de personnes qui ont conscience des dangers restent toujours étrangement silencieuses. Et lorsque je les questionne, ils se servent de l’argument selon lequel ce n’est pas nouveau –comme si la conscience de ce qui pouvait se passer est une réponse suffisante. Ces personnes me répondent qu’il existe une myriade d’universités dans lesquelles les bioéthiciens se penchent sur ces questions toute la journée. Ils disent que tout a déjà été écrit, et par des experts. »

Le second objectif de Bill Joy est de remettre en cause notre système d’utopies ou en d’autres termes notre système de valeurs, ainsi que nos objectifs de société. Il évoque notamment notre recherche de l’immortalité grâce aux machines. Afin que nous puissions nous raccrocher à de nouveaux rêves, Bill Joy nous propose de revoir les bases de notre éthique :

« Une approche technologique de l’éternité – type « l’immortalité grâce aux robots »- n’est peut-être pas la plus désirable de nos utopies, et sa poursuite nous met en danger. Nous devrions peut-être repenser nos utopies. Où pouvons-nous trouver une nouvelle base éthique ? J’ai trouvé des idées très utiles dans le livre du Dalaï Lama, Ethique pour le Millénaire. »

Pour Bill Joy, nous devrions donc abandonner nos velléités d’immortalité et reconstruire un système de valeurs basé sur « l’amour et la compassion pour les autres ». Et en fait, pour lui, le danger ne vient pas des machines en elles-mêmes mais des objectifs de l’espèce humaine.

4. Ce qu’on en pense

Pour un article qui est devenu un texte de référence dans la sphère du Web, on s’attendait à une argumentation un peu plus fluide. Bill Joy utilise des notions complexes sans forcément prendre le temps de les développer. C’est sans doute pour cela qu’il passe peut-être à côté des principaux enjeux de l’intelligence artificielle, à savoir ce que signifient réellement les termes « penser » et « humanité ».

 

Visuel Flickr, licence CC, par Viktor Hertz

Le véritable enjeu de ce texte aurait dû être le terme même d’intelligence artificielle. Quand Bill Joy évoque la menace d’une perte de contrôle des humains face aux machines, cela implique en fait plusieurs aspects. D’abord le fait que les machines puissent être suffisamment intelligentes. Mais qu’est-ce que l’intelligence ? S’agit-il simplement de pouvoir reproduire des gestes ? De s’adapter à son environnement ? Alan Turing s’était d’ailleurs penché sur la question avec un test de vérification de l’intelligence des machines. Et pour l’instant, nous sommes encore loin d’être dépassés par les outils technologiques en ce qui concerne les caractéristiques de l’intelligence humaine. Ensuite, la menace d’une perte de contrôle est liée à une capacité d’autoréplication des technologies. Pour que les machines puissent nous anéantir, encore faudrait-il qu’elles soient capables d’être plus nombreuses. Et jusqu’à nouvel ordre, les nano-machines ne sont pas encore dotées de capacités de réplication…

On peut également regretter que Bill Joy passe si rapidement sur la notion d’humanité. Bill Joy craint que les nouvelles technologies n’anéantissent l’humanité, mais qu’entend-il par là ? L’espèce humaine au sens d’Homo Sapiens ? L’humanité par opposition à la bestialité ? Ou l’humanité par opposition à l’inhumain, ou à la cruauté? Même si l’on prend dans le texte le terme « humanité » au sens de « espèce humaine », on peut se demander si le propre de l’humain n’est pas justement d’évoluer. En témoignent les quelques centimètres acquis par les occidentaux en taille en une décennie ou tout simplement notre usage de l’eau courante ou de l’électricité…

Chaque semaine,
recevez les immanquables
par email