L'impossible modération des contenus haineux sur les réseaux sociaux

Publicité

L'impossible modération des contenus haineux sur les réseaux sociaux

Par
YouTube revendique près de 2 milliards d'utilisateurs par mois
YouTube revendique près de 2 milliards d'utilisateurs par mois
© Radio France - Maxime Fayolle

Le journaliste de France Info Julien Pain a récemment vu sa chaîne YouTube prise pour cible par des centaines de commentaires haineux. Un déferlement d'avis négatifs orchestrés par certains forums qu'il est difficile d'endiguer.

"Je n'ai pas vraiment compris d'où ça venait", s'étonne Julien Pain. Sans crier gare, quelques jour après sa mise en ligne, sa vidéo sur la théorie du grand remplacement fait l'objet d'une campagne d'insultes et d'avis négatifs sur YouTube. Plus de 3 500 "dislikes", de "pouces rouges" contre 3 200 "likes" (au 29 avril), le ratio de sa vidéo est négatif, les commentaires haineux se multiplient, eux-mêmes "likés" par centaines.

Alerté par des internautes

Le journaliste de France Info met en ligne le contenu de ses modules TV depuis février 2017 sur une chaîne YouTube "L'instant détox" qui frôle les 60 000 abonnés. Une telle campagne de haine est inhabituelle pour lui : "Ce sont des internautes qui m'ont prévenu. Ils ont retrouvé l'origine de l'attaque sur des forums d'extrême droite où on appelait à ajouter des commentaires négatifs. C'est une stratégie extrêmement bien rodée. "

Publicité

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Pire, les attaques vont se multiplier et même venir de l'étranger précise Julien Pain : "Cette fachosphère est allée demander de l'aide à leurs équivalents anglophones du forum 4chan pour attaquer ma chaîne."

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Des conséquences sur la chaîne

Ces insultes et commentaires négatifs ne sont pas sans conséquence sur la chaîne précise Julien Pain : "La vidéo n'a plus été proposée aux internautes car l’algorithme a dû avoir peur de ces messages haineux".

Du côté de YouTube, on précise que la vidéo est toujours en ligne et bien visible lorsqu'on tape les mots-clés "théorie remplacement". "Le ratio like / dislike n'a pas d'effet sur la recherche et la visibilité des contenus sur YouTube. Idem pour les recommandation", précise un porte-parole de YouTube. L'algorithme de la plateforme, complexe et changeant, empêche une lecture claire du phénomène des recommandations auprès des utilisateurs du site.

Quelles solutions ?

Ce phénomène est connu aux Etats-Unis sous le nom de "dislike mob" que l'on pourrait traduire par "meute de pouces rouges". "Pour l'instant, YouTube ne trouve pas la solution ou ne veut pas la trouver. On pourrait penser à la suppression du pouce rouge, c'est-à-dire soit on aime la vidéo, soit on ne réagit pas. Il est également possible de limiter la possibilité de mettre un pouce rouge aux personnes qui ont effectivement vu la vidéo en entier, ce qui n'est pas le cas ici", estime Julien Pain. 

Le Numérique et nous
2 min

Si YouTube ne veut pas commenter les évolutions possibles sur son espace commentaires, la plateforme a montré qu'elle était capable d'évoluer. Récemment, des vidéos impliquant des mineurs ont reçu des commentaires pédophiles. YouTube a décidé de supprimer la possibilité de mettre des commentaires sous ce genre de vidéos.

Mais au-delà de ces vidéos, le problème est étudié de près par YouTube : entre juin et décembre 2018, les modérateurs du site ont supprimé 486 millions de commentaires pour violation des conditions d'utilisation. Par ailleurs, la plateforme cherche à aider ses créateurs via différentes options d'auto-modération. Parmi elles, la suppression ou le signalement des contenus, soumettre les commentaires à approbation avant publication, supprimer certains mots-clés... Des décisions chronophages pour les créateurs et qui sont souvent vues comme de la censure par les utilisateurs de YouTube.

Julien Pain insiste : si YouTube ne veut pas agir, c'est pour des raisons économiques. "Que ma chaîne ou d'autres s’effondrent, ce n'est pas problématique pour YouTube. Ce n'est pas là qu'ils gagnent de l'argent. Il faut que les citoyens appellent la plateforme à réagir et que les journalistes les alertent là-dessus."

Une haine en hausse sur les réseaux sociaux

Le leader de la modération sur Internet, Netino by Webhelp a récemment commandé une étude sur la nature des commentaires sur Facebook entre les mois de janvier et mars 2019. Le résultat est édifiant : plus d'un commentaire sur sept est de nature haineuse. L'étude est tirée de l'analyse de 15 000 commentaires à travers 25 pages Facebook de principaux médias français. L'an passé, cette proportion de commentaires haineux était de près de 11%.

"Tout n'est pas hors-la-loi, précise Jérémie Mani, le président de Netino by Webhelp, qui modère les pages de certains médias français. Il faut vérifier les chartes de chacun pour sélectionner les commentaires que l'on enlève. Un commentaire du type "sales journaleux de m.., votre article est bidon", ce n'est pas hors-la-loi, mais on nous demande de le retirer car ça n'apporte rien au débat."

Le travail de modération se fait aussi en partie grâce à l'intelligence artificielle, explique Jérémie Mani : "Des contenus vont être automatiquement rejetés, et d'autres autorisés pour permettre à un modérateur humain de se concentrer dessus. On va se concentrer sur les combinaisons de mots-clés à risque et des profils d'internautes qui ont connu des dérapages dans le passé." 

Le souci principal reste de déterminer ce qu'est un propos haineux : "Certains messages ne laissent aucun doute, mais la zone grise est plus large qu'on ne pense", détaille Jérémie Mani.

Vers des sanctions plus fortes ?

Le 20 mars dernier, la députée LREM Laëtitia Avia a déposé une proposition de loi visant à lutter contre les propos haineux sur les réseaux sociaux. Elle vise principalement les propos racistes, antisémites sur les réseaux et principalement les mastodontes Facebook, Twitter et YouTube. Elle propose notamment d'accélérer le processus de suppression de ces contenus et de laisser 24 heures aux plateformes pour faire le ménage. Si la plateforme n'agit pas dans les temps, elle pourra être sanctionné jusqu'à 4% de son chiffre d'affaires mondial.

Un délai que les plateformes s'étaient engagées à tenir dans un code de bonne conduite établi en 2016. Mais en décembre de la même année, la Commission européenne a étudié la vitesse avec laquelle un contenu sur internet était supprimé après son signalement. A peine 40% des notifications étaient vérifiées en 24 heures, et 28% étaient finalement supprimées. Twitter faisait office de mauvais élève avec seulement 19% des notifications supprimées, YouTube était le bon élève avec près de 50% de suppressions. Aujourd'hui, Facebook disposerait d'environ 30 000 modérateurs, ils seraient trois fois moins chez Google, propriétaire de YouTube.

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Les sanctions seront également fortes pour les auteurs de ces messages, qui pourraient se voir privés d'accès à certains sites. Les plateformes, elles aussi, pourront être lourdement sanctionnées en cas d'inaction. "Aujourd'hui, il est aberrant de voir des propos abjects en toute impunité, explique Jérémie Mani de Netino by Webhelp. On attend que le délai de la justice soit plus rapide et que les sanctions soient à la hauteur des enjeux sociétaux du moment. Ces barrières sont devenues dissuasives pour traîner en justice qui que ce soit."

L'Invité des Matins d'été (1ère partie)
18 min
Hashtag
5 min