in

Qu’est-ce qu’un Deepfake et devrais-je m’inquiéter?

Un ensemble de données de visages masculins.meyer_solutions / Shutterstock

Nous avons tendance à faire confiance au contenu des enregistrements vidéo et audio. Mais avec l’IA, le visage ou la voix de n’importe qui peut être recréé avec une précision extrême. Le produit est un deepfake, une usurpation d’identité qui peut être utilisée pour des mèmes, de la désinformation ou du porno.

Un regard sur le Nicholas Cage deepfakes ou Jordan Peele deepfake PSA indique clairement que nous avons affaire à une nouvelle technologie étrange. Ces exemples, bien que relativement inoffensifs, soulèvent des questions sur l’avenir. Pouvons-nous faire confiance à la vidéo et à l’audio? Pouvons-nous tenir les gens responsables de leurs actions à l’écran? Sommes-nous prêts pour les deepfakes?

Les Deepfakes sont nouveaux, faciles à fabriquer et se développent rapidement

La technologie Deepfake n’a que quelques années, mais elle a déjà explosé en quelque chose de captivant et de dérangeant. Le terme «deepfake», qui a été inventé sur un fil Reddit en 2017, est utilisé pour décrire la recréation de l’apparence ou de la voix d’un humain grâce à l’intelligence artificielle. Étonnamment, à peu près n’importe qui peut créer un deepfake avec un PC de merde, des logiciels et quelques heures de travail.

Une scène de Star Trek avec le capitaine Kirk joué par Vic Mignogna.  Les fans ont créé un deepfake de cette scène où le visage de William Shatner est superposé à celui de Vic.  Ironiquement, le visage de Vic est celui qui a l'air profondément enfoncé.Croyez-le ou non, l’image de gauche est le deepfake. Hommage profond / Bob Thornton

Comme pour toute nouvelle technologie, il existe une certaine confusion autour des deepfakes. La vidéo «ivre Pelosi» est un excellent exemple de cette confusion. Les Deepfakes sont construits par l’IA et sont faits pour se faire passer pour des gens. La vidéo «dunk Pelosi», qui a été qualifiée de deepfake, n’est en fait qu’une vidéo de Nancy Pelosi qui a été ralenti et corrigé de la hauteur pour ajouter un effet d’élocution.

C’est aussi ce qui différencie deepfakery, disons, du CGI Carrie Fisher dans Star Wars: Rogue One. Alors que Disney a dépensé des tonnes d’argent pour étudier le visage de Carrie Fisher et le recréer à la main, un nerd avec un logiciel deepfake peut faire le même travail gratuitement en une seule journée. L’IA rend le travail incroyablement simple, bon marché et convaincant.

Comment faire un Deepfake

Comme un élève dans une salle de classe, l’IA doit «apprendre» à accomplir la tâche prévue. Il le fait grâce à un processus d’essais et d’erreurs par force brute, généralement appelé apprentissage automatique ou apprentissage en profondeur. Une IA conçue pour compléter le premier niveau de Super Mario Bros, par exemple, jouera au jeu encore et encore jusqu’à ce qu’elle trouve le meilleur moyen de gagner. La personne qui conçoit l’IA doit fournir des données pour commencer les choses, ainsi que quelques «règles» lorsque les choses tournent mal en cours de route. En dehors de cela, l’IA fait tout le travail.

Il en va de même pour les récréations faciales deepfake. Mais, bien sûr, recréer des visages n’est pas la même chose que battre un jeu vidéo. Si nous devions créer un deepfake de Nicholas Cage hébergeant l’émission Wendy Williams, voici ce dont nous aurions besoin:

  • Une vidéo de destination: À l’heure actuelle, les deepfakes fonctionnent mieux avec des vidéos de destination claires et propres. C’est pourquoi certains des deepfakes les plus convaincants sont des politiciens; ils ont tendance à rester immobiles sur un podium sous un éclairage constant. Donc, nous avons juste besoin d’une vidéo de Wendy assise immobile et en train de parler.
  • Deux ensembles de données: Pour que les mouvements de la bouche et de la tête soient précis, nous avons besoin d’un ensemble de données du visage de Wendy Williams et d’un ensemble de données du visage de Nicholas Cage. Si Wendy regarde vers la droite, nous avons besoin d’une photo de Nicholas Cage regardant vers la droite. Si Wendy ouvre la bouche, nous avons besoin d’une photo de Cage ouvrant la bouche.

Après cela, nous laissons l’IA faire son travail. Il essaie de créer le deepfake encore et encore, en apprenant de ses erreurs en cours de route. Simple, non? Eh bien, une vidéo du visage de Cage sur le corps de Wendy William ne trompera personne, alors comment pouvons-nous aller un peu plus loin?

Magazine People / Time Magazine

Les deepfakes les plus convaincants (et potentiellement nuisibles) sont les usurpations d’identité. Le populaire Obama deepfake par Jordan Peele en est un bon exemple. Alors faisons une de ces imitations. Créons un deepfake de Mark Zuckerberg déclarant sa haine des fourmis – cela semble convaincant, non? Voici ce dont nous aurons besoin:

  • Une vidéo de destination: Cela pourrait être une vidéo de Zuckerberg lui-même ou d’un acteur qui ressemble à Zuckerberg. Si notre vidéo de destination est celle d’un acteur, nous collerons simplement le visage de Zuckerberg sur l’acteur.
  • Données photo: Nous avons besoin de photos de Zuckerberg en train de parler, de cligner des yeux et de bouger la tête. Si nous superposons son visage à un acteur, nous aurons également besoin d’un ensemble de données sur les mouvements du visage de l’acteur.
  • La voix de Zuck: Notre deepfake doit ressembler à The Zuck. Nous pouvons le faire en enregistrant un imitateur ou en recréant la voix de Zuckerberg avec l’IA. Pour recréer sa voix, nous exécutons simplement des échantillons audio de Zuckerberg via une IA comme Lyrebird, puis tapez ce que nous voulons qu’il dise.
  • Une IA Lip-Sync: Puisque nous sommes la voix du faux Zuckerberg dans notre vidéo, une IA de synchronisation labiale doit s’assurer que les mouvements faciaux profonds correspondent à ce qui est dit.

Nous n’essayons pas de minimiser le travail et l’expertise nécessaires à la fabrication en profondeur. Mais par rapport au travail CGI d’un million de dollars qui a apporté Audrey Hepburn de retour d’entre les morts, les deepfakes sont une promenade dans le parc. Et bien que nous ne soyons pas encore tombés amoureux d’un deepfake politique ou de célébrité, même les deepfakes les plus fous et les plus évidents ont causé un réel préjudice.

Deepfakes a déjà causé des dommages dans le monde réel

À l’heure actuelle, la majorité des deepfakes ne sont que des mèmes de Nicholas Cage, des annonces d’intérêt public et du porno effrayant de célébrités. Ces points de vente sont relativement inoffensifs et faciles à identifier, mais dans certains cas, les deepfakes sont utilisés avec succès pour diffuser de la désinformation et blesser la vie d’autrui.

En Inde, les deepfakes sont employés par les nationalistes hindous pour discréditer et inciter à la violence contre les femmes journalistes. En 2018, un journaliste nommé Rana Ayyub est victime à une telle campagne de désinformation, qui comprenait une vidéo deepfake de son visage superposée à une vidéo pornographique. Cela a conduit à d’autres formes de harcèlement en ligne et menace de violence physique.

Aux États-Unis, la technologie deepfake est souvent utilisée pour créer du porno de vengeance non consensuelle. Comme rapporté par Vice, de nombreux utilisateurs du forum Deepfakes Reddit désormais interdit ont demandé comment créer des deepfakes d’ex-copines, de béguins, d’amis et de camarades de classe (oui, du porno enfantin). Le problème est si énorme que la Virginie interdit désormais toutes les formes de pornographie non consensuelle, y compris les deepfakes.

Alors que les deepfakes deviennent de plus en plus convaincants, la technologie sera sans aucun doute utilisée à des fins plus douteuses. Mais il y a une chance que nous réagissions de manière excessive, non? N’est-ce pas l’étape la plus naturelle après Photoshop?

Les Deepfakes sont une extension naturelle des images traitées

Même à leur niveau le plus élémentaire, les deepfakes sont troublants. Nous faisons confiance aux enregistrements vidéo et audio pour capturer les paroles et les actions des gens sans aucun parti pris ni désinformation. Mais d’une certaine manière, la menace des deepfakes n’est pas du tout nouvelle. Cela existe depuis que nous avons commencé à utiliser la photographie.

Prenez, par exemple, les quelques photographies d’Abraham Lincoln qui existent. La majorité de ces photographies (y compris les portraits sur le sou et le billet de cinq dollars) ont été trafiqués par un photographe nommé Mathew Brady pour améliorer l’apparence grêle de Lincoln (en particulier son cou fin). Certains de ces portraits ont été édités d’une manière qui rappelle les deepfakes, avec la tête de Lincoln superposée sur les corps d’hommes «forts» comme Calhoun (l’exemple ci-dessous est une gravure, pas une photographie).

Une gravure de Calhoun à côté d'une gravure de Lincoln.  De toute évidence, le visage de Lincoln a été superposé au corps de Calhoun.  Sinon, les gravures sont identiques.Atlas Obscura / Bibliothèque du Congrès

Cela ressemble à un peu bizarre de publicité, mais pendant les années 1860, la photographie portait une certaine quantité de «vérité» que nous réservons maintenant aux enregistrements vidéo et audio. Il était considéré comme l’opposé de l’art –une science. Ces photos ont été trafiquées pour discréditer intentionnellement les journaux qui critiquaient Lincoln pour son corps faible. En fin de compte, cela a fonctionné. Les Américains ont été impressionnés par la silhouette de Lincoln, et Lincoln lui-même a affirmé que les photos de Brady « m’a fait président. »

Le lien entre les deepfakes et la retouche photo du XIXe siècle est étrangement réconfortant. Cela nous offre le récit selon lequel, bien que cette technologie ait de graves conséquences, ce n’est pas quelque chose qui est entièrement hors de notre contrôle. Mais, malheureusement, ce récit peut ne pas tenir très longtemps.

Nous ne pourrons pas repérer les Deepfakes pour toujours

Nous sommes habitués à repérer de fausses images et vidéos avec nos yeux. Il est facile de regarder un Joseph Goebbels portrait de famille et dire, « Il y a quelque chose d’étrange chez ce gars dans le dos. » Un coup d’oeil sur Photos de propagande nord-coréenne montre clairement que, sans tutoriels YouTube, les gens craignent Photoshop. Et aussi impressionnant que soient les deepfakes, c’est encore possible pour repérer un deepfake à vue seule.

Mais nous ne pourrons pas repérer les deepfakes plus longtemps. Chaque année, les deepfakes deviennent plus convaincants et encore plus faciles à créer. Vous pouvez faire un deepfake avec une seule photo, et vous pouvez utiliser l’IA comme Lyrebird pour cloner des voix en moins d’une minute. Les deepfakes high-tech qui fusionnent de la fausse vidéo et de l’audio sont incroyablement convaincants, même lorsqu’ils sont conçus pour imiter des personnages reconnaissables comme Mark Zuckerberg.

À l’avenir, nous pourrions utiliser l’IA, des algorithmes et la technologie de la blockchain pour lutter contre les deepfakes. Théoriquement, l’IA pourrait scanner des vidéos à la recherche de deepfake « empreintes», Et la technologie blockchain installée sur les systèmes d’exploitation pourrait signaler les utilisateurs ou les fichiers qui ont touché à des logiciels deepfake.

Si ces méthodes anti-deepfake vous semblent stupides, rejoignez le club. Même les chercheurs en IA doutent qu’il existe une vraie solution aux deepfakes. Au fur et à mesure que les logiciels de détection s’améliorent, les deepfakes s’améliorent. Finalement, nous atteindrons un point où les deepfakes seront impossibles à détecter, et nous aurons beaucoup plus à nous soucier que le faux porno de célébrités et les vidéos de Nicolas Cage.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Rendre la barre Firefox Awesome semi-transparente comme Google Chrome

Rendre la barre Firefox Awesome semi-transparente comme Google Chrome

Les mises à jour du pilote matériel buggy de Windows 10 sont en cours de correction