Dans la peau d'un modérateur : la haine à portée de clics

Ce soir on plonge dans l’univers des modérateurs, ces hommes et ces femmes chargés de sélectionner, nettoyer, censurer les messages ou contenus publiés dans les forums ou les grandes plateformes de réseaux sociaux.

Des humains confrontés quotidiennement aux discours haineux, à des images traumatisantes mais qui doivent tout de même faire leur possible pour rendre l’espace de discussion acceptable.

Quelles sont leurs conditions de travail ? Sont-ils remplaçables par des algorithmes et quelle est la responsabilité des réseaux sociaux dans la diffusion de contenus haineux ? 

Enfin que reste-t-il de la beauté de cette fonction initialement bénévole, quand il s’agissait d’être un simple gardien du net ? 

Avec : 

Nikos Smyrnaios, maître de conférences en sciences de l'information et de la communication à l’Université de Toulouse 3

Antoine Renand, écrivain et scénariste auteur de S'adapter ou mourir (Ed. Robert Laffont, 2021)

Robin, ancien modérateur du site jeuxvidéo.com

Lucie Ronfaut, journaliste indépendante et productrice du podcast La solitude du modo**

Les modérateurs de contenus : la violence dans l'ombre 

S’il est rare qu’en tant que simple utilisateur, nous soyons confrontés à des contenus extrêmement choquants sur les réseaux sociaux, c’est grâce aux dispositifs de modération mis en place par les plateformes. Une partie de cette modération est assurée par de l’intelligence artificielle - ce qui mène parfois à des cas de censure injustifiés - tandis qu'une autre partie de la modération est réalisée par des individus employés uniquement pour cette mission : les modérateurs. Leur mission consiste à trier les contenus signalés sur la plateforme, évaluer la conformité des contenus à la charte de la communauté et les supprimer si ceux-ci contreviennent aux normes érigées par la plateforme. 

C’est un métier qui est assez ancien dans le sens où les premiers modérateurs sont apparus dans les années 80, il y en a eu aussi dans les années 90 sur les forums internet mais c’est la massification des réseaux sociaux à partir des années 2010 qui a massifié aussi cette catégorie de travailleurs. On estime aujourd’hui à plus de 200 000 travailleurs de ce type dans le monde, dont à peu près 10% travaille pour Facebook. » Nikos Smyrnaios, maître de conférences en sciences de l'information et de la communication 

Or les plateformes ne communiquent que très peu sur cette modération humaine : Facebook et Twitter font appel à des entreprises externes pour assurer ce service, et les employés sont tenus de signer une clause de confidentialité lors de l’embauche. Robin ancien modérateur, a accepté de venir témoigner sur son expérience au sein du site jeuxvidéo.com. Ce site, qui héberge de nombreux forums initialement à destination des joueurs de jeux-vidéo, fut au centre de l’attention médiatique pour de nombreux scandales de cyber harcèlement et de diffusion de contenus racistes et xénophobes. 

Le forum a été bouffé de l’intérieur. Des gens se sont emparés de codes bon enfant qu’on avait entre nous pour les utiliser au service de causes qui étaient contraires aux valeurs du site. (…) On ne l’a pas vu venir et on a essayé après de le gérer, mais on n’avait pas de mode d’emploi. Robin, ancien modérateur 

L'avenir de la fonction : automatisation ou modérateur indépendant  ? 

Si les plateformes investissent beaucoup dans l’automatisation de la modération de leurs plateformes, l’apport d’un contrôle humain reste déterminant dans la précision et la cohérence de cette modération. Dans un podcast intitulé la Solitude du modo, la journaliste indépendante Lucie Ronfaut s’est intéressée à l’avenir de la modération à travers l’émergence d’un métier nouveau : modérateur indépendant. 

Il se peut qu’à l’avenir on est tous et toutes besoin de garde du corps pour naviguer sur ces réseaux. Parce que le constat que font ces gens, ces modérateurs et modératrices indépendantes, c’est que la modération des plateformes ne marche pas et ne marchera jamais. Lucie Ronfaut, journaliste indépendante 

Certaines entreprises spécialisées dans la modération de contenus en France proposent aujourd’hui des services de modération alliés à un service de community management. Cette vision élargie de la fonction de modérateur pourrait marquer un changement de paradigme, qui privilégierait la proximité des modérateurs avec la communauté au sein de plateformes plus restreintes.

Une émission en partenariat avec Numerama : Retrouvez chaque semaine les chroniques de Marie Turcan et Marcus Dupont-Besnard