Prendre l’identité de quelqu’un d’autre à l’aide de l’IA ? C’est devenu encore plus facile (et dangereux)… la preuve en images

Vous ne remarquez rien d’étrange ? Déjà il y a cet avertissement dans la voix… Ce que vous venez de voir, ce n’est peut-être pas Jessica Riga. Nous pouvons donc vous le révéler : cette vidéo a été réalisée à l’aide d’une intelligence artificielle. Et pas n’importe laquelle. Son nom : Higgsfield AI. Cette entreprise propose depuis quelques semaines un modèle baptisé Genjutsu. "Réécrivez n’importe quelle séquence en y intégrant vos personnages, vos lieux et vos produits, ou remplacez certains éléments tout en conservant le reste", promet cette entreprise basée à San Fransisco.

Pour produire cette séquence, il nous a fallu les ingrédients suivants :

Une vidéo avec un personnage source qui effectue les gestes et les dialogues ;

Un abonnement d’une vingtaine d’euros à Higgsfield AI ;

L’autorisation de Jessica Riga pour recopier son apparence et sa voix.

La voix, d’ailleurs, c’est le point faible d’Higgsfield. Ses différents outils ne permettent pas de cloner le timbre de quelqu’un. Nous avons donc utilisé une IA présente depuis plusieurs mois sur le marché et spécialisée dans le domaine : ElevenLabs. Nous avons fourni à cette dernière un extrait d’une trentaine de secondes de Jessica Riga présentant une chronique sur le plateau d’On n’est pas des Pigeons. ElevenLabs a copié la voix pour ensuite la coller sur la nôtre… Autant d’outils redoutables s’ils tombent dans les mains d’arnaqueurs ou d’usurpateurs en puissance.

En résumé, nous avons fait ce qu’on appelle un deepfake, un hypertrucage en français. Pour mieux comprendre la mécanique à l’œuvre, regardez la vidéo ci-dessous.

Higgsfield n’a pas bloqué la création de ces vidéos, même si nous avons utilisé l’IA pour usurper – avec son autorisation dans ce cas-ci – l’identité de quelqu’un d’autre. Tout juste l’entreprise précise-t-elle que son système peut bloquer certaines requêtes. "Le système de sécurité de Higgsfield vérifie les prompts et les données de référence afin de détecter toute propriété intellectuelle identifiable. Les générations faisant référence à des personnages protégés par le droit d’auteur, à des noms de franchises, à des propriétés intellectuelles de marque ou à des artistes vivants spécifiques cités nommément peuvent être bloquées afin de respecter la législation sur le droit d’auteur".

Bien sûr, tout n’est pas parfait (et tant mieux). Il reste quelques erreurs de proportion. Par exemple des mains exagérément grandes sur le personnage cible. Mais certains détails qui permettaient jusqu’ici de détecter qu’une vidéo avait été réalisée à l’aide de l’intelligence artificielle commencent à disparaître. La preuve dans la vidéo ci-dessous : nous passons une main devant notre visage ou dans nos cheveux… et les mouvements sont reproduits presque sans déformation.

Sur les réseaux sociaux, de nombreux influenceurs font la publicité d’Higgsfield AI. Ils montrent la facilité avec laquelle on peut s’intégrer dans n’importe quel décor ou se faire passer pour quelqu’un d’autre. Ce qu’ils ne disent pas c’est que les outils proposés par la plateforme coûtent cher et que le montant nécessaire pour réaliser chaque opération est très opaque. Higgsfield ne parle ainsi pas de secondes générées, mais de "tokens" ("crédits", en français). Une vidéo peut consommer plus ou moins de tokens en fonction de sa durée et de la définition de l’image.

Signalons aussi qu’en utilisant les outils d’Higgsfield, vous autorisez cette dernière à utiliser vos données personnelles pour entraîner ses modèles. "Votre contenu contribue à améliorer nos modèles, ce qui permet d’améliorer la qualité des résultats au fil du temps. Si vous supprimez votre compte, nous cesserons de l’utiliser à des fins d’entraînement à l’avenir", précisent les conditions générales. Et les données qui ont déjà été utilisées pour entraîner les modèles d’Higgsfield ? "Elles ne peuvent pas être retirées", répond l’entreprise.