Les Deepfake : un réel problème

Les escroqueries Deepfake sont de plus en plus courantes, grâce à un certain nombre d’applications gratuites qui ne sont qu’à une recherche Google près…

« Voulez-vous voir votre meilleur ami, collègue ou patron danser ? »

« Vous êtes-vous déjà demandé à quoi ressembleriez-vous si votre visage était échangé avec celui de votre ami ou d’une célébrité ? »

La même application a fait l’objet de publicités différentes sur des dizaines de sites pour adultes : « Créez du Deepfake p*rn en une seconde », indiquaient les publicités. « Deepfake n’importe qui. » Il y a de quoi avoir froid dans le dos !

C’est quoi exactement les Deepfake ?

Le mot Deepfake est un mot mixte, composé de « deep learning » et de « faux ».

Ce matériel  »faux », ou synthétique, est sous-tendu par un « apprentissage en profondeur » – une partie de l’intelligence artificielle, ou IA. L’IA génère des modèles de contenu détectés grâce à l’apprentissage en profondeur et ceux-ci conduisent le programme informatique à créer de nouvelles images réalistes.

Les DeepFake sont déjà un problème

Avec le génie de la technologie sorti de la bouteille, de nombreux militants de la sécurité en ligne, chercheurs et développeurs de logiciels affirment que la clé est d’assurer le consentement de ceux qui sont simulés, bien que cela soit plus facile à dire qu’à faire. Certains préconisent une approche plus sévère en matière de p*rnographie synthétique, compte tenu du risque d’abus.

La p*rnographie Deepfake non consensuelle représentait 96% d’un échantillon d’une étude de plus de 14 000 vidéos Deepfake publiées en ligne, selon un rapport de 2019 de Sensity, une société qui détecte et surveille les médias synthéthiques. Il a ajouté que le nombre de vidéos en ligne doublait à peu près tous les six mois.

La grande, grande majorité des dommages causés par les deepfakes en ce moment est une forme de violence numérique sexiste », a déclaré Ajder, l’un des auteurs de l’étude et responsable des politiques et des partenariats de la société d’IA Metaphysic, ajoutant que ses recherches indiquaient que des millions de femmes ont été ciblées dans le monde entier.

Et les lois elles ?

Les lois actuelles ciblant l’usurpation d’identité frauduleuse n’ont pas été conçues pour un monde avec une technologie Deepfake, et les efforts au niveau fédéral pour mettre à jour ces lois ont échoué jusqu’à présent. Plusieurs revendiquent également de protéger les parodies discriminatoires et autres libertés d’expression qui pourraient dépasser l’éthique.

L’adoption généralisée de ce type de lois pourrait créer des effets dissuasifs significatifs, à terme. Mais la technologie évolue si vite que les législateurs seront probablement toujours en retard. C’est pourquoi nous allons devoir compter sur la technologie pour nous protéger d’un problème qu’elle a contribué à créer.

Les solutions

Une de ces solutions consiste à détecter les Deepfake via des méthodes d’apprentissage automatique. Par exemple, alors que les Deepfake semblent très réalistes, la technologie n’est pas encore capable de générer un clignement naturel des yeux chez les personnes imitées. En tant que tels, des algorithmes d’apprentissage automatique ont été formés pour détecter les Deepfake à l’aide de schémas de clignement des yeux.

Et vous, que pensez-vous de tout ça ?