L'arme politique du "deepfake" et de la désinformation en Nouvelle-Zélande, aux Etats-Unis et au Venezuela

Le Parti national, en Nouvelle-Zélande, a eu recours à l'intelligence artificielle pour créer du matériel politique, explique la RNZ, la radio publique néo-zélandaise, avant la tenue d'élections générales, en octobre prochain (l'équivalent de nos législatives). Le Parti national, - le grand parti de l'opposition depuis 2017, face aux travaillistes, dont la base électorale est essentiellement composée de ruraux et de classes moyennes -, a lancé sa campagne autour de plusieurs publicités. L'une, notamment, montre des voleurs, masqués, en train de saccager une bijouterie. L'autre est centrée sur une femme qui regarde avec inquiétude par sa fenêtre ; elle est présentée comme une victime de cambriolage. A chaque fois, un slogan : "La Nouvelle-Zélande n'est pas en sécurité avec les travaillistes au pouvoir".

Le quotidien New Zealand Herald et News Hub indiquent que, dans un premier temps, le chef du parti national Christopher Luxon a déclaré ne pas être au courant de telles pratiques recourant à l'intelligence artificielle (IA) : "je ne suis pas sûr que nous ayons recours à l'IA, je vais devoir en parler à mon équipe ", a-t-il déclaré, devant une forêt de micros et de caméras. Mais Christopher Luxon a finalement avoué et même défendu ce choix, sur la chaîne néo-zélandaise 1news, en balbutiant quelque peu, visiblement gêné. S'il ne voit aucune différence, entre du matériel politique qui met en scène un acteur et le recours à l'intelligence artificielle, la journaliste Anna Burn-Francis tente d'expliquer qu'un parti politique, qui veut se montrer digne de confiance, n'a pas besoin, normalement, d'utiliser de fausses images. "Ne pouviez-vous pas trouver des citoyens prêts à apparaître sur vos affiches politiques ?", demande-t-elle. Mais pour Christopher Luxon, la question n'est pas là et il se dit fier de faire entrer la Nouvelle-Zélande dans une nouvelle ère moderne, numérique. Il trace, en revanche, une une ligne rouge : ne pas utiliser de vidéos générées par l'IA, cela prêterait trop à confusion, selon lui. La chaîne télévision 1news, les quotidiens New Zealand Herald et le Guardian (au Royaume-Uni) estiment, eux, que le parti national emprunte une voie dangereuse.

Aux Etats-Unis, le parti républicain attaque déjà Joe Biden avec un clip généré par l'IA

Dès l'annonce de la candidature de Joe Biden à sa réélection, le parti républicain ("Grand Old Party") a imaginé les conséquences d'une nouvelle victoire du camp démocrate, l'an prochain. "Les marchés financiers sont en chute libre, après la faillite de 500 banques, les garde-frontières sont débordés par l'afflux de 80 000 clandestins, le crime explose à Los Angeles", peut-on entendre sur une musique angoissante, dans cette vidéo visible sur YouTube et notamment relayée par Mashable, le site d'information spécialisé dans l'analyse des actualités fournies par les médias sociaux.

Pour le site d'information Mashable,* cette vidéo porte plutôt sur des événements qui n'existent "que dans l'imagination" des membres du parti républicain. Si le Grand Old Party précise, dans le coin en haut à gauche de l'écran et en légende du contenu, que la vidéo a été entièrement assemblée à partir d'images créées par des plateformes d'Intelligence artificielle telles que Midjourney et DALL-E, note Mashable, jusqu'à quand la mention "IA" sera-t-elle présentée ? Et combien d'autres clips ne la mentionnent pas, trompant, ainsi, les électeurs ? C'est l'inquiétude n°1, à l'approche des élections, aux Etats-Unis et au Royaume-Uni, du directeur de la recherche sur l'IA à l'Institut Alan Turing, au Royaume-Uni. Michael Wooldridge a déclaré, dans les pages du * Guardian, à Londres, que "l'intelligence artificielle peut produire de la désinformation à l'échelle industrielle".

Venezuela : la présidence Maduro manie déjà la désinformation et le "deepfake"

La BBC nous fait découvrir ce vendredi, tout un éco-système médiatico-politique où de faux journalistes créés par l'intelligence artificielle -, présentent des reportages bidon, repris par de vrais médias vénézuéliens et des citoyens, payés pour saturer les réseaux sociaux de messages pro-Maduro et étouffer, ainsi, le flot des critiques contre le président de gauche, dont la réélection a été contestée en mai 2018, lors d'un scrutin boycotté par l'opposition. La BBC nous plonge dans son enquête aux côtés d'un homme de 59 ans, qui témoigne sous le nom de Rafael, un pseudo. Par session de 30 minutes par jour, il est payé pour publier du contenu pro-gouvernemental, pro-révolution. La BBC raconte comment le ministère vénézuélien des communications tweete un "hashtag du jour", qui est repris non seulement par les membres de l'exécutif, mais aussi par "des troupes numériques".

Ainsi, Rafael dit tweeter "100 fois le matin et 100 de plus l'après-midi". Il ne le fait pas par admiration pour le président Maduro mais parce qu'il touche l'équivalent de 8 euros par mois pour ce travail de désinformation, ce qui s'ajoute à son salaire d'environ 70 euros comme agent de sécurité dans une société privée. Il peut alors "acheter de petites quantités de farine, d'huile, de riz ou même de temps d'antenne pour son téléphone portable". C'est un paradoxe, souligne Adrián González, fondateur du site Cazadores de Fake News, "Chasseurs de fausses informations", interrogé par la BBC : si des Vénézuéliens amplifient, sur les réseaux sociaux, les messages pro-gouvernement, ces "petites mains de la désinformation" le font "parce qu'ils ont besoin de manger, qu'ils ont besoin d'argent pour Internet ou parce qu'ils n'ont pas un bon accès aux services publics", à cause de la présidence Maduro.

Pas de régulation sur l'IA et l'infox

"Les réductions de personnel sur Twitter laissent les trolls russes sans contrôle", écrit la BBC. Le média britannique a découvert que des centaines de comptes de propagande d'État russes et chinois prospèrent sur Twitter après qu'Elon Musk a anéanti l'équipe qui a combattu ces réseaux. Par ailleurs, dans une tribune parue jeudi dans le quotidien espagnol El Pais, Leonardo Cervera Navas, Contrôleur européen de la protection des données, propose d'aborder "la gouvernance de l'intelligence artificielle de la même manière que la réglementation de l'aviation commerciale a été abordée en son temps. En d'autres termes, avec des normes internationales rigoureuses en termes de sécurité, indépendamment des coûts et avec un processus constant d'amélioration et de mise à jour, dans lequel les professionnels apprennent non seulement des accidents (qui sont heureusement de plus en plus rares dans l'aviation commerciale), mais de tout petit incident ou erreur."

Le manque de contrôle sur l'IA et les fausses informations a des conséquences désastreuses : en Afrique de l'Ouest, par exemple, la propagande du groupe paramilitaire russe Wagner alimente le sentiment anti-français via de faux journaux d'information relayés sur les réseaux sociaux, comme l'indique Jeune Afrique. Par ailleurs cette semaine, l'hebdomadaire Barron's, très suivie par la communauté financière américaine, et l'agence Bloomberg nous ont raconté comment une photo truquée par l'intelligence artificielle, montrant une fausse explosion du Pentagone est devenue virale et a brièvement effrayé les marchés boursiers.

Vers un autre "6-Janvier", aux Etats-Unis ?

La conséquence la plus retentissante du "deepfake" et de la désinformation s'est déroulée le 6 janvier 2021, lorsque des partisans de Donald Trump ont envahi le Congrès, aux Etats-Unis, pour s'insurger sur une présidentielle qu'ils estimaient volée par le camp démocrate. Le chef de la milice d'extrême droite des "Oath Keepers" vient d'être condamné à 18 ans de prison. La peine de Stewart Rhodes est la plus longue, à ce jour, dans l'enquête fédérale sur l'attaque du Capitole, note le New York Times, il s'agit aussi de la première infligée pour sédition. Le juge Amit Mehta, cité notamment par le quotidien américain et la BBC, s'est demandé "Aurons-nous un autre 6-Janvier ? Cela reste à voir. Mais vous, monsieur, présentez une menace permanente et un péril pour ce pays, pour la République et le tissu même de notre démocratie".