Publicité

Comment détecte-t-on les infox ?

Par
Cour d'initiation à l'analyse des médias et aux fausses informations, obligatoire au Brésil
Cour d'initiation à l'analyse des médias et aux fausses informations, obligatoire au Brésil
© AFP - Miguel Schincariol

Repères. L'élection présidentielle brésilienne et les midterms américaines font office de test grandeur nature pour les méthodes de détection des infox sur Internet : les fausses nouvelles font florès et malgré les techniques existantes, il n'est pas évident de les empêcher de se diffuser.

C'était une crainte qui est devenue réalité : au Brésil, la campagne électorale pour l'élection présidentielle a été envahie par les infox (fausses nouvelles). Via les réseaux sociaux, les blogs ou à travers la messagerie WhatsApp (très utilisée dans le pays), les cas de manipulations de l'information sont légion et les méthodes pour les combattre sont difficiles à mettre en oeuvre. 

La campagne électorale brésilienne empoisonnée par les infox

Le candidat d'extrême droite Jair Bolsonaro, victime d'un coup de couteau en pleine rue le 6 septembre, a-t-il vraiment été poignardé ? Non, d'après les tenants de la théorie du "fake facada", le "faux coup de poignard", largement partagée sur les réseaux. Le candidat de gauche, Fernando Haddad, veut-il réellement que chaque enfant devienne la propriété de l'Etat, qui décidera s'ils seront fille ou garçon ? Oui, d'après une fausse déclaration qui lui a été attribuée et partagée plus de 150 000 fois sur Facebook, avant d'être supprimée par le réseau social. 

Publicité

En tout, le journal brésilien Globo a compté une cinquantaine de fausses informations qui ont circulé depuis le début de la campagne, venant de toutes parts. A la veille du premier tour (le 7 octobre), plus de vingt-trois plaintes avaient été déposées au Tribunal supérieur électoral (TSE, Tribunal superior eleitorale), dont celle du candidat travailliste, Fernando Haddad, finaliste du second tour face à Jair Bolsonaro : "Dans n'importe quel pays, cela serait un scandale énorme, qui pourrait mener à une invalidation de candidature", a déclaré Fernando Haddad à l'encontre de son rival, qu'il accuse de "crime électoral" après les révélations d'un autre journal, Folha de Sao Paulo. Selon ce quotidien, le candidat d'extrême-droite aurait orchestré une campagne de diffamation en envoyant des millions de messages aux électeurs via WhatsApp. La presse et l'opposition évoquent un WhatsAppgate car il s'agirait de dons non autorisés de la part des entreprises qui financent cette campagne (envoyer autant de messages coûte cher). 

Pour afficher ce contenu Twitter, vous devez accepter les cookies Réseaux Sociaux.

Ces cookies permettent de partager ou réagir directement sur les réseaux sociaux auxquels vous êtes connectés ou d'intégrer du contenu initialement posté sur ces réseaux sociaux. Ils permettent aussi aux réseaux sociaux d'utiliser vos visites sur nos sites et applications à des fins de personnalisation et de ciblage publicitaire.

Exemple d'une "fake news" partagée par le camp Bolsonaro et condamnée par le Tribunal supérieur électoral : "le TSE affirme que le Kit gay n'a jamais existé et interdit à Bolsonaro de diffuser cette fausse nouvelle", écrit l'agence de presse brésilienne Pulsar dans ce tweet. Le candidat d'extrême droite a évoqué l'existence d'un kit gay distribué par le gouvernement dans les écoles et destiné à faire la promotion de l'homosexualité auprès des enfants ; un kit qui comprendrait la bande dessinée "le guide du zizi sexuel" publié par l'auteur de BD français Zep. Ce kit sert en fait à lutter contre l'homophobie. 

Autre exemple d'information farfelue ? Les biberons aux tétines en forme de pénis qu'aurait soit disant fourni le Parti travailliste à des crèches... (tweet ci-dessous) : "Lorsque vous vous sentez comme un imbécile complet, rappelez-vous que certaines personnes croient que le PT (Parti travailliste) a distribué un biberon avec une tétine en forme de pénis dans des écoles maternelles."

Quoi qu'il en soit, les dégâts causés par les infox dans cette élection semblent difficiles à réparer : le mal est fait - beaucoup de fausses nouvelles ont été partagées - et la justice ne peut pas suivre le rythme des réseaux sociaux. Si le Tribunal électoral a bien interdit au camp de Bolsonaro de diffuser certaines fausses nouvelles, la décision portant sur l'invalidation de sa candidature ne pourra pas être rendue avant le second tour. La seule solution consiste donc à améliorer les techniques de détection des infox avant qu'elles ne soient diffusées à grande échelle. Mais la tâche est immense et ardue !

WhatsApp, arme parfaite de diffusion des fausses nouvelles ?

La principale difficulté de la lutte contre les fausses nouvelles au Brésil tient au fait qu'elles sont avant tout diffusées via WhatsApp. Facebook, Twitter, les blogs ou les sites Internet n'arrivent qu'après dans la chronologie de la diffusion, une fois que les fausses nouvelles ont été largement partagées au sein de l'électorat. "Au Brésil, on n'utilise pas WhatsApp comme une simple messagerie ou pour l'envoi de textos", explique Elodie Martinez, journaliste à l'AFP qui coordonne le projet de fact-checking de l'agence en Amérique Latine, "les Brésiliens créent des groupes comme on peut le faire sur Facebook, avec des centres d'intérêt partagés, autour d'une tendance politique ou de tous types d'événements sociaux." 

Mais là où cela devient dangereux, c'est que WhatsApp ne limite pas suffisamment la diffusion des contenus. A priori d'ailleurs, on ne voit pas pourquoi on le limiterait car c'est un outil qui devrait être libre... Mais si une fausse information est diffusée dans un groupe de 250 personnes (la limite fixée par WhatsApp est à 256) et qu'ensuite, chacune d'entre elles la retransmet à 250 autres personnes, on atteint rapidement des chiffres monstrueux !      
Elodie Martinez, journaliste à l'AFP et coordinatrice du projet de fact-checking en Amérique Latine

Un manifestant anti Bolsonaro brandit un panneau "TSE (Tribunal spécial électoral), fraude" avec le logo de WhatsApp lors d'une manifestation à Sao Paulo le 20 octobre 2018
Un manifestant anti Bolsonaro brandit un panneau "TSE (Tribunal spécial électoral), fraude" avec le logo de WhatsApp lors d'une manifestation à Sao Paulo le 20 octobre 2018
© Maxppp - Fernando Bizerra Jr

A la différence des autres réseaux sociaux ou des sites Internet publics, le contenu des informations partagé sur WhatsApp n'est pas accessible facilement. WhatsApp fait même un argument marketing du caractère secret des communications : "WhatsApp ne stocke pas vos messages dans nos serveurs une fois qu'ils sont transmis. Et le chiffrement de bout en bout signifie que WhatsApp et les tierces parties ne peuvent pas les voir quoiqu'il arrive", est-il écrit sur le site de l'application. Sauf que WhatsApp a été racheté par Facebook en 2014 et que la nouvelle maison-mère a à cœur de montrer sa bonne volonté en matière de lutte contre les fausses nouvelles depuis l'élection présidentielle américaine de 2016. La firme californienne avait été l'objet de toutes les critiques pour ne pas avoir anticipé la diffusion des "fake news".

Pour avoir une idée de la viralité d'un sujet sur la messagerie, les médias utilisent aussi un outil développé par une équipe de l'université de Minas Gerais au Brésil : "On peut savoir combien de fois une publication a été partagée par exemple", explique la journaliste Elodie Martinez, "que ce soit une photo ou une vidéo. On peut savoir si un contenu est viral ou pas mais en revanche, on ne peut pas savoir par qui il est partagé". Mais ce contrôle a minima n'est pas suffisant pour les médias qui essaient également d'intégrer les groupes où sont partagés les informations sur la campagne électorale, "le public peut aussi nous signaler des informations qu'il considère comme douteuse lorsqu'ils en voient passer. Plusieurs collectifs de vérification des faits ont été créés pour cette élection et l'AFP fait partie des médias qui y participent".

Mais pour réellement limiter la diffusion des fausses nouvelles, il faudrait des changements plus profonds. Ils sont justement réclamés dans une tribune publiée dans le New York Times par des chercheurs auteur d'un rapport sur la désinformation au Brésil : "Les fausses nouvelles empoisonnent la vie politique brésilienne, WhatsApp peut l'empêcher". Les signataires ne demandent pas le blocage de l'application (ce qui est arrivé plusieurs fois lors d'enquêtes judiciaires quand l'entreprise a refusé de donner l'accès à des conversations aux autorités) mais ils font plusieurs propositions : réduire le nombre de transferts possibles d'un message (aujourd'hui, WhatsApp n'autorise que 20 opérations de transfert mais a réduit ce nombre à 5 en Inde après des lynchages causés par des rumeurs partagées sur WhatsApp), limiter la taille des nouveaux groupes (aller encore en deçà de la limite actuelle à 256 personnes par groupe), ou réduire le nombre de destinataires... Mais WhatsApp a répondu qu'il n'aurait pas le temps de mettre en place ces changements avant le second tour (le 28 octobre).

Face aux infox : la riposte imparfaite

En dehors de WhatsApp, des mécanismes existent aussi pour empêcher la diffusion des "fake news" sur d'autres canaux : Facebook a ainsi fait grande publicité autour de l'ouverture de sa "war room" en septembre dernier ( voir ce reportage sur CNN). Une salle de crise installée à son siège californien et dont la mission consiste à surveiller le réseau social en amont des élections au Brésil et aux Etats-Unis. Décorée de drapeaux américains et brésiliens et d'horloges aux fuseaux horaires des deux pays, cette pièce comprend une vingtaine de salariés : "Notre job est de détecter quiconque essaie de manipuler le débat public", expliquait le directeur de la cybersécurité de Facebook, Nathaniel Gleicher, à l'AFP lors d'une visite le 18 octobre. Le service a fait son baptême du feu avec le premier tour de la présidentielle brésilienne le 7 octobre : "Le jour de l'élection, nous avons observé une hausse de messages (trompeurs) disant que l'élection était reportée à cause de manifestations", expliquait un autre employé de Facebook, Samidh Chakrabarti. "Nous avons été capables de les retirer avant que l'histoire ne devienne virale", assure-t-il. Cela s'est fait en "une heure ou deux" alors que "cela aurait pu prendre plusieurs jours" sans la "war room" et ses employés dédiés.

La clef de la lutte contre les fausses informations est la rapidité : "Au moment des élections, nous avons besoin que les gens détectent et suppriment (des contenus) le plus vite possible. Il faut que les décisions soient prises de façon rapide", poursuit-il, rappelant que 20 000 personnes sont désormais chargées de la sécurité des contenus chez Facebook. "Si une anomalie est détectée (par les systèmes informatiques), un analyste de données va investiguer, voir s'il semble y avoir un problème". Si les contenus enfreignent de façon claire les règles de Facebook (discours de haine, informations trompeuses sur le déroulement du vote...), il est ôté directement. Si ce contenu demande des vérifications factuelles, il peut être envoyé à des partenaires extérieurs : médias (dont l'AFP), universitaires...

Facebook a ouvert une salle de crise ("war room") dans son siège californien pour lutter contre les fausses nouvelles lors des campagnes électorales brésilienne et américaine
Facebook a ouvert une salle de crise ("war room") dans son siège californien pour lutter contre les fausses nouvelles lors des campagnes électorales brésilienne et américaine
© AFP - Noah Berger

Au Brésil, la croisade antidésinformation est menée par une dizaine de groupes de vérification, notamment le projet Comprova, qui réunit une trentaine de grands médias et dont l’AFP fait partie. "Nous vérifions les informations sur tous les sites et réseaux", explique Elodie Martinez. 

Mon collègue de l'AFP en poste à Rio me disait que le site de vérification Comprova recevait une moyenne de 1 000 signalements par jour... Récemment, nous avons eu plus de 200 signalements pour une vidéo à propos d'une prétendue orgie d'un candidat dans l'Etat de Sao Paulo. C'est la première fois que j'observe autant de fausses informations dans une campagne présidentielle brésilienne et c'est très impressionnant. On voit le temps qui est consacré à la fabrication de ces vidéos : on colle des éléments qui n'ont rien à voir les uns avec les autres, on utilise des images d'anciennes manifestation qui sont présentées comme des rassemblements de soutien à tel ou tel candidat... Des choses complètement farfelues qui font preuve de beaucoup d'imagination. On ne peut pas mesurer précisément l'influence de ces contenus mais il suffit de lire les commentaires qui viennent à côté de ces informations qui sont partagées... C'est une campagne électorale très viscérale où l'électorat est extrêmement polarisé et les gens partagent tout et n'importe quoi sans prendre le temps de vérifier si les images sont authentiques ou si les déclarations sont correctes...                        
Elodie Martinez, journaliste à l'AFP au Brésil

En plus du projet Comprova, l'AFP a également ouvert un blog de vérification de l'information en brésilien depuis juin dernier : "Checamos, Informaçao checada pela AFP", Vérification de l'information par l'AFP, sur le même modèle que le site francophone factuel.afp.com. Le service est aussi disponible en anglais et depuis peu en espagnol, en vue d'élections en Colombie et au Mexique. 

Des sociétés privées vendent des algorithmes qui traquent les infox

En plus de Facebook, des médias et des collectifs de journalistes, il existe aussi des entreprises spécialisées dans la détection des fake news : SAS Institute en est un exemple. Cette société américaine, qui emploie 15 000 salariés et qui est présente dans 146 pays, vend un logiciel qui surveille en temps réel les publications sur les réseaux sociaux et sur le reste du net. "Nous détectons les sujets émergents au moyen d'algorithmes extrêmement puissants et d'intelligence artificielle", explique Emmanuel Jacque, représentant de SAS et ancien du renseignement français, "Il faut savoir que la diffusion d'une 'fake news' n'est pas naturelle contrairement à une information classique ou à un scoop qui se diffuse de façon anarchique". 

Emmanuel Jacque, représentant de la société SAS, qui vend des logiciels de lutte contre les "fake news". Ici aux Assises de la Sécurité et des systèmes d'informations à Monaco en octobre 2018.
Emmanuel Jacque, représentant de la société SAS, qui vend des logiciels de lutte contre les "fake news". Ici aux Assises de la Sécurité et des systèmes d'informations à Monaco en octobre 2018.
© Radio France - Maxime Tellier

Pour répandre une fausse information, il faut des moyens artificiels, une organisation et à partir de là, cela devient détectable. Lorsqu'une photo ou une vidéo est reprise de façon très méthodique par un certain nombre de comptes, cela peut amener à suspecter le contenu... On trouve parfois des botnets [des robots, des faux comptes d'utilisateurs] qui diffusent massivement et dans des temps très courts des fausses informations".    
Emmanuel Jacque, représentant de SAS, société américaine de cybersécurité qui vend un logiciel qui détecte les infox.

SAS ne précise pas si elle travaille au Brésil mais l'entreprise vend sa solution en France, à des services gouvernementaux et des entreprises privées. Emmanuel Jacque cite aussi l'Indonésie où sa société a permis de couper court à des campagnes de diffamation à propos du salaire du Président : "On lance des alertes très en amont et à partir de là, les autorités peuvent réagir, ce qui peut permettre d'anticiper sa communication ou d'infirmer une déclaration diffamatrice avant qu'elle ne soit diffusée".

Au Brésil, les robots ou faux profils d'utilisateurs représenteraient 37,4 % des abonnés des comptes Twitter des présidentiables, d'après une étude de l'Institut Internet Lab. Mais un chercheur cité par le journal suisse Le Temps relativise : "Twitter n’a pas tant d’influence que ça sur les élections. WhatsApp est bien plus important. Le bouche-à-oreille, un message de ton ami sur WhatsApp a beaucoup plus d’influence que 80 000 robots sur Twitter", estime Pedro Burgos. Concernant WhatsApp, Emmanuel Jacque reconnaît un angle mort de la lutte contre les fausses informations... Terrible aveu de la part d'une entreprise leader de ce secteur.