Quelle gouvernance pour les robots et algorithmes ?

16 juin 2015

Voitures sans chauffeur, drones-tueurs, automatisation du travail humain… Alors que l’émergence et le perfectionnement des intelligences artificielles inquiètent Bill Gates, Stephen Hawking ou encore Elon Musk, se posent des questions fondamentales non seulement éthiques, mais également politiques et économiques autour du rôle à accorder aux robots et aux algorithmes.. Autant de thèmes abordés à l’occasion de la 4e édition du Digitalk, initiée par Nicolas Petit, qui réunissait plusieurs spécialistes de la question.

La révolte des humains contre les machines, un sujet vieux comme la révolution industrielle ? Cela ne l’empêche pas de trouver une nouvelle actualité. Selon Bernard Ourghanlian, Directeur technique de Microsoft France, le progrès actuel se distingue par le caractère accélérant du numérique, qui fait craindre une perte de maîtrise sur le rôle de ces machines, au départ créées par l’homme pour l’assister. Comment encadrer ce progrès ? Et quelle responsabilité attribuer à ces robots conçus pour agir selon des modèles statistiques ? 

Bernard Ourghanlian et Nicolas Petit étaient entourés d’Olivier Tesquet (Télérama), Clément Courvoisier (Les Echos), Thierry Keller (Usbek & Rica), d’Elisabeth Lulin (Paradigmes et caetera) mais également d’Yves-Marie Cann (CSA), Vincent Dupourque (Robosoft), Christophe François (Orange) et Jérôme Cohen (Engage).

L’humain, une simple machine imparfaite destinée à être remplacée ?

3 millions d’emplois détruits par les robots en France d’ici 2025 : cette prévision du cabinet de conseil Roland Berger vient régulièrement alimenter les inquiétudes des Français face à la montée en puissance du chômage. Un large panel d’activités, du secrétariat au journalisme en passant par la justice, est concerné par cette automatisation du travail. Un test élaboré par NPR évalue par exemple la probabilité d’automatisation du métier de comptable à 97,6%. 

La France, malgré de notables efforts de robotisation des entreprises notamment financés par la BPI, reste encore sous robotisée par rapport à son voisin allemand (40 000 robots contre 170 000). Un taux de robotisation auquel Thierry Keller, d’Usbek & Rica, attribue une curieuse corrélation :

« Si on compare le taux de robotisation au taux de fécondité d’un pays, on se rend compte d’une chose : là où le taux de technologie et d’algorithmisation est le plus fort, le taux de fécondité baisse. » 

Le Japon, qui vise un marché à 100 milliards de dollars d’ici 20 ans pour la robotique, est ainsi connu pour son taux de fécondité extrêmement bas, à savoir 1,39 enfant par femme. De quoi ne pas assurer correctement le renouvellement de la population. 

Un niveau de tolérance 0 face aux défaillances des machines

Secteur particulièrement touché par l’automatisation, l’industrie automobile fait parler d’elle avec les premières expérimentations de voitures sans chauffeur. Vincent Dupourque, fondateur et Président du Directoire de Robosoft, vient de clore une expérimentation de 6 mois à la Rochelle, centrée sur l’étude de personnes transportées par des véhicules sans chauffeur et soutenue par la Commission européenne.

« Statistiquement, ce type de véhicules devrait permettre d’avoir 90% d’accidents en moins », déclare-t-il. 

Et Bernard Ourghanlian de compléter :

« On tolère aujourd’hui 3000 morts sur les routes en France, mais l’arrivée de la machine ne bénéficie d’aucune tolérance… Et chaque incident prend une dimension incroyable ». 

Tout cela sans compter les questions soulevées par de tels véhicules en termes d’assurance et de responsabilité individuelle. Si le véhicule sans chauffeur est conçu pour éviter à tout prix les accidents, notamment en adoptant une vitesse de prudence maximale, se pose un problème d’envergure face aux accidents dits inévitables :

« En cas d’accident inévitable, la voiture peut “choisir” de tuer son passager plutôt que ceux d’un bus scolaire », explique Vincent Dupourque. Un dilemme qui rappelle l’une des lois formulées par Isaac Asimov : la loi zéro. Cette dernière place la sécurité du groupe avant celle de l’individu, sous-entendant qu’un dommage collectif est plus grave qu’un dommage individuel. 

Un manque de débat à l’échelle européenne

Si la question du droit des données et des algorithmes est à l’ordre du jour, le Conseil d’Etat ayant publié 50 propositions pour mettre le numérique au service des droits individuels et de l’intérêt général, le débat à propos de la gouvernance des machines est quasiment inexistant selon les participants. 

« L’éthique du numérique au niveau européen est actuellement à l’état de fantasme », note Bernard Ourghanlian.

Il prend pourtant une importance cruciale face à l’émergence de robots-tueurs, premières formes d’un champ de bataille presque entièrement robotisé dans lequel la décision de tuer appartiendrait aux machines, ou à l’automatisation de la justice, qui trouve une ébauche de concrétisation à Baltimore : des algorithmes y sont d’ores et déjà amenés à évaluer la probabilité de récidive de délinquants et de donner l’ordre de leur réincarcération en fonction, note Nicolas Petit.

A l’image d’Eric Sadin et de sa volonté de prise de conscience par les pouvoirs publics de l’ampleur de ce tournant technologique, les participants ont invoqué la nécessité d’une éthique du numérique à l’échelle européenne. Une réflexion qui devra prendre en compte non seulement les modèles algorithmiques construits avec les données, mais aussi la source et la fiabilité de ces dernières… Pour faire en sorte que ces technologies restent un outil d’assistance, et non d’asservissement.

Chaque semaine,
recevez les immanquables
par email