IA et Deepfakes : comprendre les risques liés aux images manipulées

Pendant plus d’un siècle, la photographie et la vidéo nous ont apporté quelque chose de rare : la preuve visuelle de ce qui s’est réellement passé. Une photographie a capturé une tranche de réalité, avec ses défauts et tout. Puis l’intelligence artificielle est arrivée – et notre confiance dans les images a commencé à se briser.

Les deepfakes sont des photos, des vidéos ou des fichiers audio hyperréalistes créés par l’IA qui peuvent usurper l’identité de vraies personnes de manière convaincante. Ils sont passés du statut de nouveauté à celui de préoccupation majeure pour les journalistes, les personnalités publiques, les entreprises et les internautes ordinaires. Dans ce guide, nous explorerons comment les deepfakes sont créés, les risques réels qu'ils posent et comment vous protéger dans un monde où voir n'est plus croire.

Qu'est-ce qu'un Deepfake exactement ?

Le mot « deepfake » combine « apprentissage profond » et « faux ». Un deepfake est une image synthétique, une vidéo ou un clip audio généré par l’IA qui imite une personne réelle – souvent suffisamment bien pour que l’œil et l’oreille humains ne puissent pas faire la différence.

Les réseaux contradictoires génératifs (GAN) constituent l’épine dorsale technique. Deux modèles d’IA fonctionnent en tandem : un générateur crée le faux contenu et un discriminateur le critique, poussant le générateur à produire des résultats de plus en plus convaincants. Avec suffisamment de données de formation (photos publiques, vidéos et enregistrements de la voix d'une personne), le système peut produire des images de cette personne disant ou faisant des choses qu'elle n'a jamais faites.

Le même mécanisme d’échange de visage qui alimente les filtres inoffensifs des smartphones devient puissant et dangereux lorsqu’il est étendu à de vastes ensembles de données et entraîné pour la précision.

Pourquoi les personnalités publiques sont des cibles faciles

Les politiciens, les acteurs, les dirigeants et les influenceurs sont confrontés au risque de deepfake le plus élevé pour deux raisons simples :

• Leurs photos et fichiers audio sont partout en ligne, ce qui rend la collecte de données d'entraînement simple.
• Les faux contenus controversés de personnes connues se propagent rapidement et génèrent des clics.

Un exemple largement cité est la vidéo manipulée de Nancy Pelosi dans laquelle son discours était ralenti pour rendre son son altéré. Ce n’était pas le deepfake le plus sophistiqué, mais il a circulé sur les réseaux sociaux avant que les vérificateurs de faits puissent rattraper leur retard. Les dommages à la réputation se produisent plus rapidement que n’importe quelle correction.

En période politique, les deepfakes constituent une réelle préoccupation pour l’intégrité des campagnes. Lorsqu’un clip fabriqué semble impossible à distinguer d’une séquence authentique, les électeurs perdent un moyen crucial d’évaluer à qui ils font confiance.

Vol d'identité, fraude et escroqueries à l'embauche à distance

Les deepfakes présentent également de sérieux risques pour la sécurité des entreprises et des personnes :

• Fraude à l'embauche à distance. Des entreprises de cybersécurité ont signalé publiquement des cas d'imposteurs utilisant des vidéos falsifiées lors d'entretiens d'embauche pour décrocher des postes à distance et accéder à des systèmes sensibles.
• Arnaques au PDG et au directeur financier. Les criminels ont utilisé des voix clonées pour appeler les équipes financières et autoriser des virements électroniques urgents, parfois pour des millions de dollars.
• Vol d'identité. Quelques images de haute qualité et de courts échantillons de voix peuvent suffire à usurper l'appel vidéo ou à usurper l'identité de quelqu'un à des fins de fraude.
• Images intimes non consensuelles. L'une des utilisations les plus dommageables, où des particuliers se retrouvent présentés dans des contenus explicites fabriqués.

Comment repérer un Deepfake

La détection devient de plus en plus difficile, mais des signes persistent :

• Clignements ou mouvements oculaires non naturels. De nombreux modèles ont encore du mal à restituer des schémas de clignement naturels.
• Éclairage incompatible. Visages éclairés différemment de l'arrière-plan ou ombres qui ne bougent pas correctement avec la tête.
• Problèmes de synchronisation de la bouche et de l'audio. Des retards subtils ou des formes de bouche qui ne correspondent pas aux mots.
• Texture de peau trop lisse ou trop plastique. L'IA lisse parfois trop ou hallucine les détails des pores.
• Accessoires incohérents. Boucles d'oreilles, lunettes ou lignes de cheveux qui se déforment sur les bords du visage.
• Artefacts étranges au niveau des cheveux, des oreilles et du cou : les zones les plus difficiles à restituer proprement lors des échanges de visage.

En cas de doute, ralentissez la séquence, regardez-la sur un grand écran et demandez si l'éclairage du visage correspond au reste de la scène.

Outils qui aident à détecter les Deepfakes

Plusieurs outils commerciaux et académiques émergent pour vous aider. La recherche d'images inversées reste une première étape importante pour les images statiques. Pour la vidéo, des plates-formes telles que Microsoft Video Authenticator, FakeCatcher d'Intel et Sensity AI analysent les incohérences au niveau des pixels, les modèles de flux sanguin dans la peau et d'autres signaux invisibles à l'œil. Les normes de filigrane telles que C2PA (Content Credentials), soutenues par Adobe, Microsoft et les principaux fabricants d'appareils photo, visent à permettre aux spectateurs de vérifier quand et comment une image a été capturée ou modifiée.

Conseils pratiques pour se protéger

• Limitez les photos haute résolution destinées au public de votre visage lorsque cela est possible, en particulier les angles de profil et de trois quarts qui entraînent bien les modèles d'IA.
• Définissez des mots de code avec les équipes familiales et financières pour les demandes urgentes vocales ou vidéo impliquant de l'argent.
• Vérifiez les médias suspects en vérifiant la source d'origine, en recherchant le même clip sur des médias réputés et en utilisant la recherche d'images inversées.
• Activez l'authentification multifacteur partout : la reconnaissance vocale ou faciale seule ne suffit plus pour les comptes de grande valeur.
• Filigranez votre propre travail avec des outils compatibles C2PA afin que vos photos et vidéos authentiques contiennent des métadonnées vérifiables.
• Éduquer les parents plus âgés et les membres de l'équipe sur les escroqueries courantes liées au clonage vocal.

Que fait-on à ce sujet ?

Les législateurs de l’UE, des États-Unis et de plusieurs autres régions ont proposé ou adopté des lois exigeant la divulgation du contenu politique généré par l’IA, interdisant les deepfakes non consensuels et protégeant les droits à l’image. Les principales plateformes sociales déploient des systèmes de détection et des étiquettes pour les médias synthétiques. Les fabricants d'appareils photo travaillent avec C2PA pour intégrer des signatures cryptographiques lors de la capture, afin qu'un spectateur puisse confirmer ultérieurement si une image a été créée par une véritable caméra ou par un générateur.

Aucune de ces solutions n’est à l’épreuve des balles à elle seule, mais combinées, elles augmentent le coût de production et de distribution de deepfakes nuisibles.

Réflexions finales

Les deepfakes représentent l’un des défis de confiance les plus importants auxquels la photographie et la vidéo aient jamais été confrontées. La technologie continuera de s’améliorer et la détection continuera à rattraper son retard. La meilleure défense pour les utilisateurs quotidiens est un mélange de scepticisme sain, d’habitudes de vérification de base et de soutien aux normes et aux lois qui tiennent les mauvais acteurs pour responsables. En tant que créateurs d'images, nous avons également un rôle à jouer : adopter les informations d'identification du contenu, documenter notre processus et éduquer le public sur ce à quoi faire confiance et pourquoi.

FAQ

Comment puis-je savoir si une vidéo est un deepfake ? Recherchez les incohérences dans les clignements, l'éclairage du visage par rapport à l'arrière-plan, la synchronisation labiale et les déformations près des cheveux, des oreilles ou du cou. Si quelque chose ne va pas, recherchez le clip original auprès d’une source fiable.

Les deepfakes sont-ils illégaux ? Cela dépend de la juridiction et de l'utilisation. De nombreuses régions disposent désormais de lois contre les deepfakes intimes non consensuels, les médias synthétiques liés aux élections sans divulgation et l'utilisation des deepfakes à des fins frauduleuses. En créer un pour une satire ou une recherche claire est généralement traité différemment.

Les deepfakes peuvent-ils être créés sans équipement spécialisé ? Oui. De nombreuses applications grand public peuvent produire des échanges de visages convaincants avec une seule photo, et les deepfakes vidéo de haute qualité sont de plus en plus accessibles sur du matériel standard. C’est cette accessibilité qui rend la question si urgente.

Qu'est-ce que le C2PA et pourquoi est-ce important ? C2PA, ou Content Credentials, est une norme ouverte qui ajoute des métadonnées inviolables aux images et aux vidéos, à la manière d'une étiquette nutritionnelle pour les médias numériques. Il permet aux spectateurs de voir quand, où et comment un fichier a été créé ou modifié, aidant ainsi à séparer la photographie authentique du contenu généré par l'IA.

Les photographes devraient-ils s'inquiéter du fait que leur travail soit utilisé pour former des deepfakes ? C'est une préoccupation valable. Le filigrane, l'enregistrement des droits d'auteur, l'utilisation de plates-formes qui respectent les signaux de désinscription et l'intégration des informations d'identification C2PA sont autant de mesures que les photographes peuvent prendre pour rendre leur travail plus difficile à utiliser à mauvais escient.