OUEST-FRANCE 🔵 « Double numérique ». Leurs visages et leurs voix copiés à leur insu par IA pour de la publicité
Des images toujours plus manipulables. Plusieurs femmes ont vu leurs visages et leurs voix utilisées sans leur consentement dans des publicités générées par intelligence artificielle, rapporte une enquête du Washington Post , relayée par BFM avec Tech & Co . Ces contenus leur ont fait tenir des discours politisés ou faisant la promotion de produits médicaux. Une méthode de plus en plus aboutie et utilisée.
Un procédé simplifié
Récemment, l’influenceuse chrétienne Michel Janse a été victime de l’un de ces « deepfakes », ces vidéos volant le visage et parfois la voix d’une personnalité pour lui faire dire tout et n’importe quoi. Dans cette publicité diffusée sur YouTube, on peut voir son « double numérique » évoquer, dans un décor reprenant sa vraie chambre et ses vêtements, les troubles érectiles de son partenaire. Une étudiante de 20 ans de l’université de Pennsylvanie a quant à elle vu son image et sa voix utilisées dans des vidéos faisant l’éloge de la Russie et de Vladimir Poutine sur les réseaux sociaux chinois.
Dans ces deux cas, les auteurs ont eu recours à des vidéos diffusées publiquement, puis auraient utilisé plusieurs outils d’intelligence artificielle pour lui faire dire leur texte. Un procédé qui est devenu d’autant plus simple que certains logiciels permettent de générer du faux contenu avec seulement quelques secondes de vidéo. « Si de l’audio et des vidéos existent publiquement, ne serait-ce que quelques secondes, ils peuvent être facilement clonés, modifiés, ou même carrément fabriqués », a mis en avant Ben Colman, PDG et cofondateur de Reality Defender, spécialiste dans la détection des deepfakes.
Une opposition limitée
Cet accès de plus en plus facilité pourrait ainsi donner lieu à une explosion du nombre de publicités ayant recours au vol d’identité. Une aubaine pour les cybercriminels ou les organismes diffusant de la propagande étrangère. Des célébrités comme Taylor Swift, Tom Hanks, ou le vidéaste MrBeast ont déjà été victimes de ces fausses publicités. Leur image a été reprise pour faire la promotion de compléments alimentaires, d’offres sur les soins dentaires, ou encore de concours pour obtenir un iPhone.
De leur côté, les autorités semblent encore démunies pour faire face à ce type de vols. Aux États-Unis, de nombreux États souhaitent toutefois introduire un cadre légal autour de l’IA, dans la lignée de la législation sur l’intelligence artificielle entrée en vigueur dans l’Union européenne le 13 mars dernier. De leur côté, les plateformes en ligne tentent également d’introduire des interdictions et des outils pour limiter la diffusion de ces contenus.