Ethique et algorithmes

Les algorithmes gouvernent de plus en plus nos vies. Ils influencent nos choix de consommation, de loisir, mais également la tarification de certains services, la sélection de candidats à l’embauche ou à l’entrée dans certaines écoles, les rémunérations de certaines personnes. Bref, ils sont partout ! Mais qu’est-ce qu’un algorithme ?

Qu'est-ce qu'un algorithme ?

Un algorithme est un ensemble d’instructions et d’opérations, une suite d’étapes visant à résoudre un problème. A ce titre, une recette de cuisine est une sorte d’algorithme qui à partir d’un ensemble d’ingrédients et d’une série d’étapes à suivre dans un certain ordre permet de confectionner un plat. Mais c’est un peu plus compliqué car les algorithmes utilisent de très grandes quantités de données à traiter (des chiffres, des textes ou des relations entre des variables) et les instructions qu’ils suivent sont conditionnelles et dépendent des données. Bref, la manière dont le résultat est obtenu est très opaque et peut poser des questions éthiques.

"Les algorithmes peuvent reproduire les biais sociaux"

L’équité d’un algorithme signifie que les résultats obtenus ne doivent pas opérer de distinction entre les personnes en fonction d’attributs qui sont protégés par la loi. En clair, l’usage de l’algorithme ne doit pas être vecteur de discriminations. Or, les algorithmes s’entraînent sur des données choisies par les hommes : ces données peuvent être biaisées et défavoriser des personnes en fonction de leur âge, de leur origine sociale ou ethnique, de leur sexe... Les algorithmes peuvent alors reproduire les biais sociaux.
Prenons un exemple : si un algorithme servant à déterminer le salaire de base d’un employé tire ses calculs d’un ensemble de données statistiques sur les salaires pour ce type d’emploi dans un pays ou une région donnée, il se peut que le résultat soit qu’à diplôme égale le salaire pour une femme soit inférieur à celui d’un homme, car statistiquement, les femmes sont moins bien payées à diplôme équivalent.
Outre ces biais issus des données, les algorithmes, eux-mêmes, sont construits par des personnes avec leurs propres biais cognitifs, inconscients ou non (...)

La chronique est à écouter dans son intégralité en cliquant sur le haut de la page. Histoire, économie, sciences, philosophie, histoire de l'art… Écoutez et abonnez-vous à la collection de podcasts "Le Pourquoi du comment" ; les meilleurs experts répondent à toutes les questions que vous n'osez poser.