La violence d’être cloné : et si le deepfake n’était pas qu’un mensonge, mais aussi une atteinte à notre corps numérique ?

Source: The Conversation – France in French (2) – By Adela Barbulescu, Ingenieur de recherche (audio-visual speech synthesis, multimodal AI, affective computing), Inria; Université de Bordeaux

---

L’ESSENTIEL

• Les deepfakes sont des images et des vidéos truquées générées à l’aide d’intelligences artificielles génératives. Un grand nombre d’entre elles sont des contenus pornographiques non consentis.

• En se focalisant sur l’authentification de la véracité des contenus, on occulte une partie du problème : le tort fait aux victimes dont l’identité est volée pour être manipulée a des conséquences dans la vie physique.

• Aujourd’hui, les protections juridiques sont fragmentées. En agissant en amont de la génération de deepfakes malveillants, pourrait-on mieux se protéger de ces atteintes à nos corps numériques ?

---

En 2018, la journaliste Rana Ayyub a subi une campagne de cyberharcèlement avec des vidéos pornographiques truquées utilisant son image pour la faire taire à la suite de ses enquêtes en Inde.

La violence de ce harcèlement, dénoncé par le Haut-Commissariat des Nations unies aux droits de l’homme, ne vient pas seulement du mensonge : la vidéo produite utilise le visage d’une femme réelle pour lui imposer une scène qu’elle n’a jamais vécue ni acceptée. Son identité et son intimité sont devenues une arme contre elle.

Le terme « deepfake », qui désigne une image, un son ou une vidéo généré ou modifié par un réseau d’apprentissage profond (deep learning) afin de reproduire l’apparence ou la voix d’une personne réelle, est souvent associé à des fins malveillantes. Les exemples sont nombreux.

La désinformation : en Slovaquie, lors des législatives de 2023, un faux enregistrement audio attribué au chef du parti pro-européen a été diffusé en plein silence électoral. La fraude : à Hong Kong, un salarié a viré près de 24 millions d’euros après une visio où tous les autres participants étaient des deepfakes ; tandis qu’en France, les tentatives de fraude par deepfake ont bondi de 700 % en un an. Les images intimes non consenties : une étude de 2019 recensait 96 % de contenus pornographiques non consentis parmi les vidéos deepfake en circulation ; et en 2026, Grok a été utilisé pour générer des millions de deepfakes à caractère sexuel sur X.

Ces affaires sont graves. Pourtant, elles ne disent pas tout. Quand une personne est clonée sans son consentement, ce n’est pas seulement l’argent ou la vérité qu’on lui enlève. C’est une part de soi : une atteinte à son visage, à sa voix, à ses gestes et à la confiance que les autres lui accordent.

La violence d’être cloné : une atteinte au corps numérique

Imaginez une vidéo où l’on voit votre visage. Vous y parlez avec votre voix, vous souriez, vous bougez. Pourtant, vous n’avez jamais tourné cette vidéo. Vous n’avez jamais dit ces mots. Quelqu’un a utilisé votre image et votre voix pour fabriquer un double de vous.

On peut désigner le « corps numérique » comme l’ensemble des signaux par lesquels on nous reconnaît : visage, voix, gestes, expressions, façon de parler et de bouger. Ce concept est une représentation numérique de l’humain physique, une prolongation du corps biologique. Ces signaux ne sont pas seulement des données ou des fichiers, ils forment la couche corporelle de notre identité numérique.

Les travaux en apprentissage automatique traitent les deepfakes comme un simple problème de vérification, proposant d’authentifier et de détecter le faux, en ignorant la personne dont le corps numérique a été instrumentalisé. Or, plusieurs études montrent que le fait de savoir que la vidéo est fausse n’atténue pas la souffrance de la victime, et peut même l’aggraver.

La recherche parle d’atteintes incarnées (ou embodied harms) pour désigner cette violence qui fracture le rapport au corps et à l’identité bien au-delà de l’écran. Quand la journaliste Rana Ayyub a été ciblée par des vidéos pornographiques synthétiques, l’impact a été immédiat : isolement, anxiété aiguë et sentiment d’effraction intime.

De plus, des études qualitatives sur les clones IA identifient une « doppelganger-phobie » (un Doppelgänger est le sosie d’une personne), un rejet émotionnel face au potentiel de ces contenus à s’approprier et à déplacer l’identité d’une personne, même sans contenu explicite.

Une histoire de la synthèse humaine

En informatique graphique, la synthèse humaine est le fait de produire numériquement l’apparence d’une personne : son visage, sa voix, ses mouvements. C’est la famille de techniques dont les deepfakes sont l’expression la plus récente.

Pourtant, la synthèse humaine n’est pas née avec les modèles génératifs. En 1957, Kirsch, Cahn, Ray et Urban présentent la première numérisation d’image : un portrait de trois mois de Walden Kirsch, le fils du chercheur.

Depuis, cinéma, musique et jeu vidéo ont inventé avatars et voix de synthèse. L’intégration d’acteurs virtuels dans le cinéma s’installe après le film The Crow (1994) : à la mort de Brandon Lee en plein tournage, l’équipe termine les scènes manquantes en superposant numériquement son visage sur le corps d’une doublure, avec l’accord explicite de sa famille.

En 2007, la chanteuse virtuelle Hatsune Miku, dont la voix est synthétisée à partir d’échantillons enregistrés contractuellement par une comédienne, au moyen du logiciel Vocaloid de Yamaha, popularise un modèle de création où chacun peut commercialiser ses propres compositions avec sa voix.

Le mot « deepfake » lui-même naît d’une rupture nette du consentement : en 2017, un utilisateur de Reddit surnommé « Deepfakes » partage des vidéos pornographiques d’actrices célèbres, utilisant une technique de substitution de visage (face swap) reposant sur un auto-encodeur.

C’est à cette époque que les techniques pour générer des deepfakes se sont enchaînées : les réseaux antagonistes génératifs (GAN) en 2014, puis les transformers en 2017, jusqu’aux modèles de diffusion en 2020, qui dominent la génération d’images aujourd’hui.

Consentement et frontière juridique

La recherche en informatique réduit le deepfake à un problème de criminalistique (ensemble de techniques mises en œuvre pour établir la preuve d’un délit ou d’un crime et en identifier l’auteur) : traque des incohérences de pixels et de la provenance cryptographique pour distinguer le vrai du faux.

Cette approche est réductrice, car elle vérifie l’authenticité de l’image, et non la légitimité de son existence. Le système juridique mobilise des protections fragmentées sur la propriété, sur la réputation ou sur la vie privée plutôt qu’un droit unifié à l’intégrité de l’identité numérique.

La loi visant à sécuriser et à réguler l’espace numérique (loi SREN) de 2024 sanctionne la diffusion d’un deepfake, non l’atteinte à l’identité ; et l’article 50 de l’AI Act européen, appliqué depuis août 2026, impose de signaler les contenus générés par IA, protégeant le droit du public à être informé, mais pas l’intégrité de la personne représentée.

Ce vide oblige les parties à trouver des solutions au cas par cas. En France, 25 comédiens de doublage ont obtenu le retrait de 47 voix clonées en mettant en demeure les plateformes de clonage vocal Fish Audio et VoiceDub. Des artistes protègent leurs attributs, de Scarlett Johansson face aux abus d’OpenAI à Matthew McConaughey déposant sa voix et son image.

Mais renforcer cette protection soulève une difficulté : jusqu’où aller sans menacer la liberté d’expression ? C’est l’alerte des défenseurs des libertés numériques comme l’Electronic Frontier Foundation (EFF, Fondation des frontières numériques), une organisation de défense des droits sur Internet, pour qui une régulation doit cibler l’intention malveillante afin de ne pas étouffer la parodie et la satire.

C’est ce qui pousse des pionniers à réinventer le cadre. Par exemple, le Danemark a proposé d’accorder à chacun un droit direct sur son visage, sa voix et son corps, marquant la première tentative européenne de faire du consentement à l’identité numérique un droit à part entière : l’usage de l’image sans accord y deviendrait illicite en soi, sans que la victime ait à prouver un préjudice.

Protéger l’identité numérique : un nouveau standard

L’enjeu est de bâtir un véritable standard d’identité numérique : un cadre commun, partagé par tous, qui rende vérifiables l’origine d’un contenu et le consentement de la personne représentée. Des standards ouverts comme C2PA en posent une première pierre, en attachant aux médias des métadonnées infalsifiables sur leur provenance. Mais un tel standard n’a de valeur que s’il est adopté par tous et soutenu par un cadre juridique et technique capable de le faire respecter.

Aujourd’hui, la réponse technique dominante reste la détection a posteriori : repérer un contenu cloné une fois qu’il a déjà été produit et diffusé.

Une seconde approche, complémentaire, consiste à agir en amont : protéger le média à la source pour empêcher son détournement, à l’aide de techniques qui rendent images et voix plus difficiles à cloner par des modèles génératifs non autorisés.

C’est dans cette logique que s’inscrit BeepFake, projet en recherche et développement mené au sein de l’Institut national de recherche en sciences et technologies du numérique (Inria, France), qui vise à protéger images, voix et vidéos avant leur diffusion, grâce à plusieurs mécanismes qui perturbent le clonage des traits de l’identité audiovisuelle (visage, voix). L’ambition : rendre le détournement plus difficile, renforcer la traçabilité et redonner aux personnes une capacité d’action.

Protéger le corps numérique, c’est garantir qu’aucun visage ne soit cloné, aucune voix échantillonnée, sans le consentement de la personne à laquelle ils appartiennent. Faire du consentement le point de départ, c’est faire de nos images et de nos voix le prolongement de nous-mêmes plutôt que l’instrument de notre dépossession.

Adela Barbulescu a reçu des financements de France 2030.

– ref. La violence d’être cloné : et si le deepfake n’était pas qu’un mensonge, mais aussi une atteinte à notre corps numérique ? – https://theconversation.com/la-violence-detre-clone-et-si-le-deepfake-netait-pas-quun-mensonge-mais-aussi-une-atteinte-a-notre-corps-numerique-291708