Le visage et la voix à l'écran semblent complètement authentiques
Un appel vidéo arrive, avec à l'écran un superviseur ou un membre de la famille familier, qui parle d'un ton urgent d'une situation d'urgence nécessitant un transfert d'argent immédiat, et qui peut même interagir normalement en répondant à quelques questions posées au passage. Ce scénario est devenu fréquent ces dernières années dans des cas d'escroquerie, les technologies sous-jacentes étant des deepfakes en temps réel, qui combinent le changement de visage et de voix pour créer une illusion d'appel vidéo entièrement réel.
Quel est le niveau réel d'efficacité des technologies de deepfake en temps réel
Le principe fondamental des deepfakes est de collecter un grand nombre d'images faciales et d'échantillons audio de la cible afin de former un système capable de reproduire en temps réel les mouvements et la voix de l'agresseur à l'apparence et au son de la cible. Ces dernières années, les capacités de calcul de ces technologies en temps réel ont considérablement augmenté, permettant à l'image générée de suivre l'interaction d'un appel vidéo en temps réel, plutôt que d'être limitée à des vidéos préenregistrées. Cependant, les deepfakes en temps réel ont encore des limites techniques, en particulier lorsque la connexion Internet est instable, que les conditions d'éclairage sont complexes ou que des actions inattendues sont demandées, ce qui rend plus facile l'apparition de défauts. Cela signifie que bien que cette technologie ait effectivement une certaine capacité de tromperie, elle n'est pas infaillible. Comprendre ces limites est un point crucial pour juger du véritable ou du faux.
Quelques méthodes de vérification à essayer pendant l'appel
1. Demandez à l'interlocuteur d'effectuer un mouvement non préparé, comme se tourner brusquement pour montrer son profile ou balayer rapidement son visage de la main. La technologie de deepfake a plus de mal à traiter ce genre d'actions inattendues et risque de provoquer des distortions visuelles, des décalages dans les traits du visage ou des synchronisations inégales. 2. Posez une question sur un détail concret que vous seuls connaissez, cela n'a pas besoin d'être une information confidentielle, mais plutôt une petite chose que vous partagez, comme ce que vous avez mangé lors de votre dernière rencontre ou des nouvelles d'un ami commun. La technologie de deepfake peut reproduire des apparences et des voix, mais ne peut pas deviner des détails qui ne sont présents que dans la mémoire réelle. 3. Raccrochez et recontactez votre interlocuteur par un canal indépendant, par exemple en composant directement le numéro de téléphone qu'il connaît, au lieu de rappeler le numéro affiché sur l'appel précédent. Si la personne réelle répond et n'est pas au courant de l'appel vidéo précédent, cela confirme que l'appel était un faux.
Si vous soupçonnez que vous ou un membre de votre famille avez déjà été victime de ces escroqueries par deepfake lors d'un appel vidéo, ou si un transfert a déjà été effectué, il est crucial de conserver des captures d'écran de l'appel et les enregistrements du transfert, puis de signaler rapidement à votre banque et à la police. VexelOps peut également aider à clarifier la situation.
Questions fréquentes des utilisateurs sur les escroqueries par deepfake dans les appels vidéo
Comment les escrocs parviennent-ils à obtenir suffisamment d'images et d'échantillons vocaux pour entraîner ce système ?
Dans la plupart des cas d'escroquerie, les matériaux recueillis proviennent souvent de contenus publiés par la cible sur des plateformes sociales, comme des vidéos, des diffusions en direct, ou des enregistrements d'interviews. Dès que ces matériaux publics accumulent une durée et une diversité d'angles suffisantes, ils peuvent être utilisés pour entraîner des modèles de deepfake. Cela explique pourquoi des conseils de sécurité ont récemment recommandé qu'un grand nombre de personnalités publiques ou de superviseurs envisagent le risque d'abus lorsque des contenus vidéo clairs et sous divers angles sont partagés sur les réseaux sociaux, sans interdire totalement le partage, mais en évaluant la portée et la fréquence des publications.
Les appels vocaux peuvent-ils également être deepfakes ?
Oui, et les deepfakes vocaux sont généralement techniquement plus faciles à réaliser que le changement de visage en temps réel, car les échantillons de voix sont relativement faciles à obtenir et les ressources de calcul nécessaires sont moindres. De nombreux cas d'escroqueries récemment ont été menés par des appels vocaux prétendant être des membres de la famille ou des superviseurs en détresse, avec une voix presque identique à celle de la personne réelle. Les mêmes logiques de vérification précédemment mentionnées s'appliquent ; raccrocher et recontacter par des moyens de communication familiers est la méthode la plus fiable, qu'il s'agisse d'un appel vidéo ou d'un appel vocal.
Quelles mesures internes les entreprises devraient-elles établir pour réduire le risque de fraude pour leurs employés ?
Au niveau de l'entreprise, il serait judicieux d'établir un processus clair de vérification des mouvements de fonds, en particulier pour les demandes impliquant des transferts urgents ou des montants importants. Il devrait être stipulé que, quel que soit le canal de communication utilisé, y compris les appels vidéo, téléphoniques ou via des applications de messagerie instantanée, une vérification supplémentaire doit être effectuée via un autre canal indépendant convenu à l'avance avant d'exécuter de telles opérations. En outre, il est important de former régulièrement les employés sur les cas d'escroqueries par deepfake, pour que l'équipe soit consciente de l'existence et du fonctionnement de ces technologies, ce qui est plus efficace que de se fier uniquement à la vigilance individuelle.
Point clé : La technologie deepfake en temps réel peut reproduire l'apparence et la voix, mais ne peut pas gérer des actions imprévues et soudaines, ni connaître les détails qui n'existent que dans les souvenirs réels. Face à des demandes d'urgence de virement, raccrocher et reconfirmer par des canaux familiers est la manière la plus fiable d'identifier ce genre de fraude.