← Retour au site

Cette visioconférence n'était pas lui : repérer un deepfake avant de payer ou de signer

Ricard dirige une entreprise de rénovation de trois salariés. Un mercredi matin, il reçoit un appel Teams du « directeur de chantier » d'un client important : un promoteur avec qui ils négocient depuis des mois la rénovation complète de trois appartements. À l'écran, le visage habituel, la voix habituelle, et jusqu'au décor habituel du bureau. On lui demande d'approuver par écrit une rallonge de budget et de verser un acompte de 30 % le jour même, car « si les matériaux ne sont pas bloqués, le prix est perdu ».

Ricard fait le virement. Deux jours plus tard, le vrai directeur de chantier l'appelle pour lui parler d'une rénovation dont il n'a jamais entendu parler.

Jusqu'à récemment, une voix clonée suffisait à monter une arnaque de ce type. La technologie a franchi une étape de plus : l'image aussi peut être falsifiée en direct. C'est ce qu'on appelle un deepfake vidéo, et il est déjà arrivé dans les visioconférences d'entreprise, pas seulement dans les vidéos virales de célébrités.

Comment peut-on falsifier une visioconférence

Les outils actuels permettent de générer, à partir de quelques photos ou vidéos publiques d'une personne (un site d'entreprise, un profil LinkedIn, une interview), un visage synthétique qui bouge et parle en temps réel pendant un appel. Ce n'est pas parfait, mais avec une connexion médiocre, peu de lumière ou un petit écran, cela peut passer pour réel si l'on n'y prête pas vraiment attention.

Combiné au clonage de voix, qui existe depuis un moment déjà, le résultat est une personne « complète » de l'autre côté de l'écran, qui ressemble, parle et bouge comme quelqu'un que vous connaissez. L'objectif est généralement le même que toujours : un paiement urgent, un changement de coordonnées bancaires, ou votre signature sur un document important.

Les signaux d'alerte

Les deepfakes vidéo ont encore des points faibles. Si vous en observez deux ou trois à la fois, méfiez-vous :

Des mouvements étranges du visage ou de la bouche. Un clignement des yeux qui ne colle pas, une bouche pas tout à fait synchronisée avec le son, ou une expression qui se « fige » quelques instants.

Un éclairage ou des contours de tête peu naturels. Il y a souvent un contour légèrement différent entre le visage et les cheveux, ou une lumière qui ne correspond pas au reste de la pièce.

Des prétextes techniques pour ne pas bien allumer la caméra ou changer d'angle. « J'ai une mauvaise connexion », « la caméra fonctionne mal aujourd'hui ». Si vous demandez à la personne de se tourner ou de s'approcher et qu'elle trouve toujours une raison de ne pas le faire, soyez vigilant.

L'urgence et la pression financière, exactement comme dans les appels à voix clonée : il faut décider maintenant, il n'y a pas le temps d'en parler à qui que ce soit.

Une demande qui sort du canal habituel : on vous demande d'approuver un paiement ou de signer un document en visioconférence alors que cela passe d'ordinaire par courriel ou en présentiel.

Le protocole de vérification

Nul besoin de savoir repérer un deepfake à l'œil nu pour s'en protéger. Il faut une règle simple, connue de toute l'équipe :

Aucun paiement, changement de coordonnées bancaires ou signature importante n'est confirmé au seul motif que vous l'avez « vu et entendu » en visioconférence. On vérifie toujours par un second canal, que vous initiez : vous appelez le numéro que vous aviez déjà enregistré, vous écrivez à l'adresse habituelle, ou vous attendez une rencontre en personne ou une confirmation par un moyen différent de celui qui a apporté la demande.

Une astuce simple et efficace pendant l'appel lui-même : demandez à la personne de faire quelque chose de spontané et d'imprévu, comme tourner complètement la tête de profil, se couvrir partiellement le visage avec la main, ou prononcer un mot précis que vous choisissez sur le moment. Les systèmes de deepfake en direct échouent encore souvent sur ces mouvements non répétés.

Et si c'est déjà arrivé ?

Si vous avez effectué un paiement et soupçonnez une tromperie, appelez immédiatement votre banque pour tenter d'arrêter ou d'annuler le virement ; ce sont les premières minutes qui comptent. Portez plainte auprès de la police. Prévenez l'entreprise ou la personne réellement usurpée, car elle est probablement visée chez d'autres de ses clients. Et parlez-en ouvertement à votre équipe : comme pour toute arnaque, le silence ne fait qu'aider à ce qu'elle se répète.

L'IA n'est pas le problème ; l'absence de vérification, si

La technologie qui permet de falsifier un visage en visioconférence est la même qui, bien employée, fait gagner des heures chaque semaine à beaucoup de petites entreprises. Le problème n'est pas l'IA en soi, mais le fait de tenir quelque chose pour acquis simplement parce que cela « a l'air vrai » à l'écran. Avec une règle claire de vérification par un second canal, cette arnaque cesse de fonctionner, aussi réussi que soit le deepfake.

À propos de cet article

iaetica.cat est un espace de vulgarisation : j'y écris ce que j'apprends sur l'intelligence artificielle, son éthique et sa législation.

— Laura Graells