Socle
Voix et visage sont traités vite et reçus comme preuves d'identité. Les contenus synthétiques rendent possible l'imitation d'un proche, d'un dirigeant ou d'un responsable à partir de quelques échantillons publics.
Niveau de preuve : mécanismes perceptifs robustes ; effet réel des contenus synthétiques sur les croyances encore débattu.
Cas publics
- Visioconférence frauduleuse contre un employé d'Arup à Hong Kong (2024), avec de faux dirigeants, largement relayée par la presse.
- Faux appel imitant la voix du président américain Joe Biden avant la primaire du New Hampshire (janvier 2024).
Blue team : défense
Signaux : demande inhabituelle sur un canal inhabituel ; refus de rappeler ou de changer de canal ; latence ou artefacts audio et vidéo.
Contre-mesures : mot de passe convenu pour les opérations sensibles ; rappel sur numéro connu ; outils de provenance des contenus ; procédure de vérification avant toute diffusion d'un enregistrement sensible.
Red team : simulation encadrée
Hypothèse testée : une équipe formée détecte-t-elle et escalade-t-elle un contenu trompeur introduit dans son flux ?
Indicateur : part des équipes qui escaladent le contenu fictif avant de le diffuser ou d'agir, et délai entre son arrivée dans le flux et l'escalade.
Cadre : contenus fictifs, marqués comme tels en interne, jamais d'imitation d'une personne réelle, supports détruits après l'exercice.
Pistes originales
- « Dividende du menteur » : l'exposition aux contenus synthétiques réduit-elle la confiance dans les contenus authentiques ?
- Cécité attentionnelle d'une cellule de veille sous charge de crise.
Techniques DIMA associées
L'usurpation exploite l'autorité apparente et la confusion sur la source réelle. Rapprochement proposé, à valider. Voir le tableau complet.
Qui est plus sensible, ce qui protège
Plus sensibles
- Prosopagnosie hypothèse
Difficulté à reconnaître les visages, donc moins de repères d'identité. Les contenus synthétiques sont difficiles à détecter pour tout le monde. - Troubles neurocognitifs documenté
Risque accru de fraude financière chez les personnes âgées touchées. - Tout le monde face aux contenus synthétiques documenté
La détection humaine des voix et vidéos synthétiques est peu fiable : l'oreille et l'œil ne suffisent plus.
Ce qui protège
- Équipes qui ont convenu d'un code ou d'une question de contrôle plausible
Le contrôle ne dépend plus de la ressemblance mais d'une information partagée à l'avance.
À lire pour se prémunir : repérer les situations où l'on est plus exposé, et y renforcer ses défenses. Tendances de groupe, jamais un jugement sur une personne : un diagnostic ne dit pas qu'une personne est manipulable. Usage légitime : adapter les formations et les procédures, protéger.
Références
- Magramo, K. (2024, 16 mai). British engineering giant Arup revealed as $25 million deepfake scam victim. CNN. (Arup confirme que « de fausses voix et de fausses images » ont été utilisées.) lien vérifiée
- Swenson, A., & Weissert, W. (2024, 22 janvier). AI-generated robocall impersonates Biden in an apparent attempt to suppress votes in New Hampshire. Associated Press. lien vérifiée
- Bruce, V., & Young, A. (1986). Understanding face recognition. British Journal of Psychology, 77(3), 305–327. lien vérifiée
« Vérifiée » : titre, auteurs, année et support confirmés en ligne. « À contrôler » : la référence existe mais un détail (pages, éditeur, lien) n'a pas été relu à la source. Toutes les références.
Les cas cités s'appuient sur la presse généraliste (CNN, Associated Press).
Contribuer à cette fiche
Une source, un cas public, une correction ? Chaque proposition est relue avant publication. Précisez le titre de la fiche : « Usurpation de voix et d'image ».