Deepfake : le vrai du faux d'une technologie révolutionnaire

Une manipulation des images, une fabrique du mensonge qui laisse planer de multiples dérives lorsqu’elle est utilisée à des fins malveillantes, politiques ou de propagande. Dans cette émission, François Saltiel aborde une technologie révolutionnaire : le deepfake.

Si la campagne électorale de 2022 n’a pas spécialement été marquée par cette menace, le deepfake s’est installée dans l’univers du divertissement, de la nouvelle émission de Thierry Ardisson, Hôtel du temps – qui a ressuscité Dalida sur le service public – ou le clip du rappeur Kendrick Lamar sorti cette semaine – dont le visage se confond avec celui de Will Smith ou d’OJ Simpson.

Quel pourrait être l'impact du deepfake dans l’industrie créative ? Qu’est-ce que le mot deepfake recouvre concrètement ? Quel est son cadre légal, est-il éthique de faire parler les morts ? Comment la technologie deepfake va t’elle évoluer dans les prochaines années ?

Pour tirer le vrai du faux de cette technologie révolutionnaire, on retrouve Rodolphe Chabrier, co-fondateur et président du studio d'effets visuels numériques Mac Guff, Gerald Holubowicz, journaliste spécialisé sur les deepfakes, enseignant à Sciences Po Paris, Nicolas Obin, maître de conférences à Sorbonne Université et chercheur au laboratoire des Sciences et technologies de la musique et du son de l’Ircam et Audrey Side, avocate en droit de la propriété intellectuelle et des nouvelles technologies

Le deepfake : qu'est-ce que c'est ?

Aujourd’hui, il est possible de redonner vie aux morts, de les faire parler, rire, échanger. Par le biais de l’intelligence artificielle, une vidéo, un son "deepfake" peut être manipulé et peut faire parler n’importe qui, vivant ou mort.

Rodolphe Chabrier, cofondateur et président du studio d'effets visuels numériques Mac Guff, explique le processus : ”C’est une technologie qui utilise l’intelligence artificielle. On utilise le terme ‘deep’ car c’est de l’apprentissage profond. Plus précisément, l’intelligence artificielle, à base de réseaux de neurones, cherche à simuler ce qu’est le cerveau humain. Par l’ordinateur et par des calculs statistiques, on va pouvoir reprendre les visages existants et les manipuler comme on veut.”

L'usage de la technologie deepfake peut aussi comporter des dangers. Gerald Holubowicz, journaliste spécialisé sur les deepfakes explique pourquoi cet outil technologique est connoté négativement : “Le deepfake a été détecté sur le réseau social Reddit, par une journaliste, Samantha Cole, qui a écrit un papier fin 2017, sur ce nouveau phénomène de vidéos pornographiques manipulées par des intelligences artificielles. Cela commence avec un utilisateur, issu d’une culture web très marquée produisant un certain nombre de contenus pornographiques. Aujourd'hui, il y a plus de 200 ou 300 actrices dans le monde, y compris des françaises qui sont utilisées à travers ces fakes pornographiques dit porn. Aussi, Il y a eu des requêtes pour des particuliers, des hommes qui souhaitaient avoir des vidéos de leur ex-petit amie à titre de ce qu'on appelle le 'revenge porn' ou en bon français, la 'porno divulgation'. Dans le but, globalement, d’humilier leur ex-compagne.” On observe donc comment cet technologie peut poser problème.

Les enjeux juridiques soulevés par le deepfake

Le deepfake est aujourd’hui une technologie qui peut porter atteinte à nos droits. Existe-t-il déjà des outils juridiques permettant aux citoyens victimes d’un fake sur une scène pornographique par exemple, de se protéger ?

Audrey Side, avocate en droit de la propriété intellectuelle et des nouvelles technologies, explique en quoi la justice nous protège et quelles sont les lois qui peuvent nous être utiles : “À chaque nouvelle innovation, on se dit souvent qu’il n'y a pas forcément d'outils parce qu’il n y a pas de lois qui visent spécifiquement cette innovation. Mais ce n’est pas vrai, le droit est assez grand et vaste pour trouver des types de lois qui pourraient s’appliquer aux faits. [...] Si demain, quelqu’un voit sa photo ou son image utilisée, on pense à la protection de la vie privée et à la protection du droit à l’image. On a aussi le fondement pénal, qui va s'appliquer : usurpation d’identité, publication et montage d’images à des fins non autorisées et cela aussi est sanctionné. Enfin, on aborde la partie responsabilité de plateforme où on s'intéresse à comment le contenu a été mis sur internet et divulgué.” Audrey Side fait donc observer qu’il existe des lois permettant de bien encadrer ce phénomène.

Néanmoins, même si des outils juridiques nous protègent, on observe en quelque sorte une démocratisation du fake audio. Cela peut être fait à bon escient, comme on l’observe dans l’émission de Thierry Ardisson, intitulé Hôtel du temps, où Dalida reprend vie, par le biais de la technologie. Son image, ainsi que sa voix sont identiques à la réalité et cette exactitude rend difficile la distinction du vrai et du faux. Nicolas Obin, chercheur au laboratoire des Sciences et technologies de la musique et du son de l’Ircam, explique comment des personnes lambda peuvent s’emparer de cette technologie et réussir, par exemple, à arnaquer des sociétés. “Il y a eu des cas d’arnaques qui ont été répertoriés pour soutirer de l’argent à des entreprises. Ce sont des choses qui commencent à exister et qui vont se multiplier dans l’avenir.” Même si des lois nous protègent, les problématiques soulevées par l'usage des deepfakes constituent déjà un véritable enjeu, à la fois juridique et éthique.

Les invité(e)s :

• Rodolphe Chabrier, co-fondateur et président du studio d'effets visuels numériques Mac Guff.
• Gerald Holubowicz, journaliste spécialisé sur les deepfakes, enseignant à Sciences Po Paris.
• Nicolas Obin , maître de conférences à Sorbonne Université et chercheur au laboratoire des Sciences et technologies de la musique et du son de l’Ircam.
• Audrey Side, avocate en droit de la propriété intellectuelle et des nouvelles technologies.

Une émission en partenariat avec Numerama. Retrouvez chaque semaine les chroniques de Marie Turcan et Marcus Dupont-Besnard.