Dominique Cardon : « Nous devons nous armer d’une culture critique des algorithmes » share
back to to

Dominique Cardon : « Nous devons nous armer d’une culture critique des algorithmes »

Rencontre 2 novembre 2015
« A quoi rêvent les algorithmes ? », se demande le sociologue Dominique Cardon. Nous l'avons rencontré pour tenter de mieux percer les mystères de ces rouages qui façonnent le web aujourd'hui.

Politique, environnement, médecine… Il ne se passe plus une journée sans que nous n’entrions en interaction avec un algorithme, bien souvent sans même nous en rendre compte. Méconnus, ces rouages façonnent pourtant le Web d’aujourd’hui. Entre code informatique et mathématiques, les algorithmes sont l’objet de nombreux fantasmes, du fait notamment du secret qui entoure leur conception.

Sociologue reconnu pour ses travaux sur les enjeux politiques d’Internet, Dominique Cardon interroge dans son nouvel essai ces algorithmes qui rythment notre quotidien. Entre politisation et big data, il milite pour « ouvrir la boîte noire » des algorithmes. RSLN l’a rencontré à l’occasion de la 4e édition d’Aux Sources du Numérique, co-organisée par Renaissance Numérique et Le Tank. Entretien.

Pourquoi ouvrir la « boîte noire » des algorithmes ?

Dominique Cardon : Il faut « ouvrir la boîte noire » des algorithmes et ne pas se laisser intimider par la complexité de ces technologies, non pas pour en décoder les raffinements statistiques, mais pour comprendre le genre de monde qu’elles fabriquent. Les algorithmes servent à calculer, ranger, organiser et architecturer le monde informationnel dans lequel nous vivons. Nous débattons du type de l’architecture et de l’urbanisme de nos villes. Il devrait en être de même de l’espace informationnel dans lequel nous naviguons.

Concrètement, comment l'ouvrir ?

« Rentrer » dans les algorithmes, c’est comprendre la manière dont cette architecture est façonnée : des gratte-ciels dominateurs et écrasants, un habitat clairsemé autour de petits centres, une ville ségrégée ou fluide, etc… Les algorithmes ne calculent pas au hasard, ils calculent avec des intentions et des principes que leurs ont donné leurs concepteurs. Et surtout, il existe des façon très différentes de calculer qui peuvent façonner des habitats très différents. Décoder ces intentions et principes, c’est une manière à la fois de les comprendre pour mieux les utiliser, mais en même temps, aussi, de leur opposer des critiques ou des contre-calculs.

Les algorithmes « calculent avec des intentions ». C’est-à-dire ?

Dans l’ouvrage, je distingue très sommairement quatre familles d’algorithmes, qui ne poursuivent pas les mêmes objectifs :

  • La mesure de la popularité (nombre de visiteurs sur un site internet par exemple)
  • La mesure de l’autorité (ce qui permet de déterminer quels résultats sont affichés sur la première page des moteurs de recherche en fonction du nombre de liens reçus par un site qui a lui même reçu beaucoup de liens)
  • La mesure de la réputation (typiquement, le nombre de partages sur les réseaux sociaux ou, de manière plus générale les sites sur lesquels vous pouvez noter tel produit culturel ou tel restaurant)
  • La mesure en vue d’une prédiction (« Vous avez acheté tel livre ? Vous pourriez être intéressé par celui-ci »)

Est-ce dire qu’ils proposent des visions différentes de notre société ?

Ces familles sont en effet autant de manières de voir le monde différemment. Est-ce que je le vois depuis mes propres intérêts ? Est-ce que je le vois depuis la constitution du réseau électif de mes amis ou des personnes que je suis sur un réseau social ? Est-ce que je le vois depuis la confiance que je fais à l’ensemble du Web comme étant une intelligence collective de jugements ? Ou bien depuis la confiance que je donne aux votes de la foule qui a cliqué ?

Diriez-vous que les algorithmes sont probabilistes ou déterministes ?

C’est une question importante dans le débat sur les algorithmes parce que nos représentations de ce qu’ils font est en complet décalage avec la réalité. Nous nous représentons les prédictions algorithmiques comme étant déterministes. Nos modes de raisonnement vont des causes vers une conséquence nécessaire et obligatoire. Donc nous avons toujours l’impression que si le calcul me recommande quelque chose, il le fait avec la force propre d’une cause nécessaire et obligatoire.

La réalité de ces calculs, c’est qu’ils sont complètement probabilistes. Ils ont évalué plein de propositions et ils vont nous donner celle qui, en fonction du comportement de l’individu, et comparée aux comportements des autres, apparaît comme étant la plus probable. Derrière la prédiction, il n’y a pas une détermination causale nécessaire, mais des dépendances suffisamment probables entre des facteurs pour que telle conséquence ait un peu plus de chances d’advenir qu’une autre. Et ces probabilités sont parfois extrêmement faibles.

Peut-on alors dire que nous sommes aliénés par les algorithmes ?

Je crois qu’il faut relativiser le discours un peu emphatique de l’aliénation et de l’hyper-contrôle. Il présuppose un utilisateur docile, passif et sans imagination face aux calculateurs. La réalité, c’est que, d’une part, les calculateurs produisent des résultats assez simplets et triviaux (et qu’ils sont très loin de faire ce qu’annoncent les marchands de promesses) et d’autre part, que les internautes sont beaucoup plus rusés, subtils et stratèges que ne le raconte la fable de la machine sur-puissante.

En revanche, les algorithmes structurent tellement notre environnement qu’ils imposent des espaces que nous ne choisissons pas et que nous ne discutons pas assez. Je dirai qu’il s’agit plutôt d’un cadrage que d’une aliénation : quand il n’est pas possible de ne pas suivre la recommandation, de « passer en manuel », alors oui, tout d’un coup, nous nous retrouvons prisonniers d’une boîte noire qui nous a capturé.

Face à ce risque d’enfermement, vous proposez de politiser les algorithmes. Pourquoi ?

Politiser les algorithmes, c’est les questionner et discuter de la désirabilité des univers qu’ils créent.

Il y a énormément de questions à se poser :

  • Est-ce que nous voulons un monde dans lequel nous ne pouvons voir que les personnes qui réussissent à se démarquer, les « excellents », tandis que tous les autres disparaissent du système ?
  • Les individus doivent-ils devenir les entrepreneurs calculateurs de leur réputation sur le Web ?
  • Est-ce que nous voulons être calculés dans tous nos comportements ou bien dans une partie qui nous est utile seulement ?
  • Etc.

Comment y parvenir ?

Avant toute chose, faire débat autour de toutes ces questions ! Aujourd’hui, ce débat n’a pas lieu… D’une part car c’est très nouveau, mais aussi parce que le sujet peut rebuter le grand public. Face au discours « presse bouton », le petit livre que j’ai essayé d’écrire dans un style très simple cherche à encourager une approche pédagogique. Il s’agit de dire : « nous vivons dans un monde de plus en plus calculé, nous avons intérêt à regarder ce que font ces gens qui créent des algorithmes et à discuter de la forme qu’ils donnent à ce monde ».

Dominique Cardon : A quoi rêvent les algorithmes?

Dominique Cardon : A quoi rêvent les algorithmes?

Au-delà du débat éducatif, je pense qu’il faut encourager toute une série d’initiatives pour calculer autrement, produire d’autres techniques de visualisation ou de représentation de l’information.

On peut par exemple imaginer que les services du Web que nous utilisons rendent plus diverses et polyphoniques les propositions de représentation qu’ils donnent à l’utilisateur. Lui offrir des alternatives en somme, lui dire : « j’ai classé cela comme ça, mais l’on pourrait aussi le classer de telle manière ».

Prenons un exemple : on pourrait montrer sur une carte du monde les articles de presse que j’ai lu sur un site d’information en ligne. Cela peut m’amener à me questionner : « pourquoi je ne lis que les articles qui portent sur l’Europe alors que je ne lis jamais les articles sur l’Afrique du Sud ou l’Amérique du sud ? » Il faut faire entrer dans l’ordre du champ perceptif des utilisateurs des techniques qui permettent de visualiser l’expérience des données afin qu’elles ne restent pas clandestines et cachées.

Vous proposez d’ailleurs que les entreprises dévoilent la finalité de leurs algorithmes, tout en concédant qu'elles ne peuvent tout montrer, de peur de nuire à l'écosystème. N'est-ce pas là l'horizon indépassable de votre réflexion ?

C’est un débat compliqué. Il faut auditer les algorithmes et pour cela c’est la société civile, les chercheurs, les instances de régulation qui doivent produire une rétro-ingénierie beaucoup mieux armée pour surveiller ce que font les grandes plateformes de calcul. Il est vrai que la complexité grandissante des calculs, notamment avec la généralisation des techniques d’apprentissage, rend de plus en plus incompréhensible (même pour ceux qui les fabriquent) les manières dont les algorithmes produisent leurs résultats. Pour autant cela n’empêche pas de regarder les données en entrée du calcul et les objectifs donnés aux calculateurs, de vérifier aussi si ces calculs sont loyaux et respectent bien le principe qui est annoncé à l’utilisateur.

Mais surtout les technologies ne s’imposent réellement que lorsqu’elles sont apprivoisées par la société ; et c’est pour cela que nous devons nous armer d’une culture critique des calculs numériques pour jouer avec eux, les détourner, profiter de leur pertinence, sans nous laisser impressionner par les mondes qu’ils cherchent à nous imposer.

Dominique Cardon, A quoi rêvent les algorithmes, Seuil, coll. La République des idées, 2015

Chaque semaine,
recevez les immanquables
par email