Big data : la Maison Blanche milite pour l’instauration d’une éthique des algorithmes share
back to to

Big data : la Maison Blanche milite pour l’instauration d’une éthique des algorithmes

FCW 18 mai 2016
Derrière l’effervescence du secteur du big data se cache la nécessité de poser les bases d’un cadre éthique fort. Aux Etats-Unis, la Maison Blanche s’est penchée sur la question. Explications avec FCW.

Si les data sont souvent caractérisées comme « neutres », les logiciels et les algorithmes utilisés sont eux, codés par des humains, et peuvent donc porter en eux certains biais. Dans un récent rapport, La Maison Blanche détaille les risques inconscients de discriminations engendrés par l’exploitation des big data et propose, en parallèle, un ensemble de recommandations pour armer les citoyens contre ce genre de dérives.

Que ce soit lors d’une demande d’allocation d’un prêt financier, d’un processus de recrutement ou d’admission à l’université, aucun domaine utilisant le traitement de données de masse n’échappe à ces potentielles dérives discriminatoires.

Un exemple très simple : si une personne recherche via son application GPS la route la plus rapide pour se rendre d’un point A à un point B, les résultats qui lui sont proposés peuvent par défaut encourager un itinéraire voiture, et donc décourager l’usage de transports publics.

Selon le rapport, les codeurs devraient ainsi rendre transparents le poids qu’ils accordent à chacune des données dans la création d’un algorithme pour que les internautes puissent signaler de potentiels biais. De même, le rapport promeut des audits et des tests d’algorithmes plus systématiques.

L’article complet est à retrouver ici, et le rapport ici.

Chaque semaine,
recevez les immanquables
par email