Les algorithmes sont-ils incontrôlables ?

L’audition ce matin à l’Assemblée, puis cet après-midi au Sénat de l’ancienne employée de Facebook, la lanceuse d’alerte Frances Haugen, a attiré l’attention publique sur la question des algorithmes qui organisent, hiérarchisent et classent les publications sur ce réseau social. 

Des accusations qui, après celles portées sur le même thème au Congrès des États-Unis et au Parlement européen, nourrissent l’inquiétude des législateurs sur la possibilité de contrôler les excès et les discours de haine sur les réseaux sociaux. 

Mais les algorithmes sont-ils responsables ? Ou bien faut-il se tourner vers celles et ceux qui les conçoivent ? Et, comme le plaide la firme états-unienne, les gouvernements doivent-ils s’en mêler pour ne pas laisser les entreprises du numérique seules maîtresses de la régulation ? 

Pour ce débat, Emmanuel Laurentin reçoit Dominique Cardon, sociologue, directeur du Medialab à Sciences Po, il enseigne la culture numérique, Cyril de Sousa Cardoso, entrepreneur et président de l'association Innovation Commando, et enfin Marie Turcan, journaliste et rédactrice en chef de Numerama.

"Il y a quand même une nouveauté avec le témoignage de Frances Haugen, c'est que grâce aux documents qui ont fuités, on sait que Facebook savait les inquiétudes sur son réseau social. Nous, les journalistes, on avait déjà montré toutes les dérives du réseau social, les défauts d'algorithmes, les problèmes de modération, de diffusion des fake news, mais à aucun moment, Facebook n'avait reconnu cette faute" Marie Turcan

"Dans l'univers des algorithmes et des intelligences artificielles, on va avoir deux grands ensembles : le premier est composé de systèmes experts, soit l'IA symbolique, ce sont des règles de raisonnement qui vont tenter de mimer le raisonnement humain, et plus récemment, vers les années 2000, on a développé ce qu'on appelle des réseaux de neurones, on n'apprend plus des règles à la machine mais on lui fournit des données, et c'est au réseau de neurones d'y découvrir des motifs" Cyril de Sousa Cardoso

"Si aujourd'hui, on montre que l'algorithme de recommandation de Twitter penche plutôt vers l'extrême-droite dans certains pays, c'est tout simplement parce qu'il y plus de comptes d'extrême-droite qui sont plus actifs et qui bombardent et donnent du signal. Ça vient donc des utilisateurs, puisque ce sont les données qui font les modèles. L'algorithme vient donc amplifier un phénomène qui existe déjà chez les utilisateurs" Dominique Cardon