Cette page a été traduite en utilisant l'IA et l'apprentissage automatique.

Les vidéos Deepfake deviennent de plus en plus courantes, et de plus en plus sinistres.

Vous les avez peut-être vus apparaître dans des reportages récents impliquant des politiciens célèbres, des célébritéset même des cadres technologiques. Si oui, alors vous vous demandez probablement comment ils sont faits et par qui et s'ils vont aggraver l'épidémie de fausses nouvelles. Nous comprenons votre préoccupation.

Deepfakes a le potentiel d'être vraiment perturbateur, et vous avez raison d'apprendre tout ce que vous pouvez à leur sujet maintenant.

Qu' est-ce que des faux ?

Comme si elle venait d'un film de science-fiction, la technologie deepfake implique l'intelligence artificielle et des modèles d'apprentissage automatique qui peuvent manipuler la vidéo. Dans sa forme la plus simple, un deep fake est une vidéo falsifiée qui montre quelqu'un qui fait ou dit quelque chose qui n'est jamais arrivé. Cette capacité ne se limite pas à Hollywood ou aux agences de renseignement ; tout le monde peut utiliser des logiciels en ligne ou télécharger des applications qui leur permettront de faire des vidéos fausses convaincantes.

L' une des cibles les plus populaires pour les contrefaçons profondes est Donald Trump. C'est en partie parce qu'il y a un trésor de données sur lui - des milliers de clips audio, vidéos et photos de lui parlant et gesturant de la même manière. Toute personne qui a accès au logiciel deepfake peut utiliser ces données pour créer des vidéos hyper-réalistes de lui faire ou dire quoi que ce soit. Ils peuvent même transformer son visage sur un autre sujet, comme Richard Nixon.

Comment les faux-semblants sont-ils faits ?

Il existe plusieurs façons de faire des vidéos fausses profondes, mais elles nécessitent toutes des données pour alimenter des modèles d'apprentissage automatique qui génèreront votre faux contenu. Actuellement, tout le monde, des chercheurs aux personnes ayant une intention malveillante, fait des fausses. Les plus convaincants nécessitent des plates-formes informatiques puissantes et des jeux de données profonds avec beaucoup d'audio, de vidéo ou d'images pour le sujet de votre deepfake.

Les applications de médias sociaux comme Snapchat utilisent également une technologie de morphing du visage qui pourrait être utilisée de la même manière. Il y a même des outils haut de gamme comme FakeApp. Réalisé par un développeur anonyme utilisant un logiciel open-source écrit par Google, il vous permet de générer de manière réaliste des échanges de visage, avec peu d'indications que votre vidéo a été manipulée . FakeApp est gratuit, et si vous êtes un peu geeky, il est relativement facile à utiliser.

Plus d'exemples de vidéos deepfake

Il y a des tonnes de fausses de haute qualité en ligne - même celles avec des visages et des voix de célébrités échangés dans des films pour adultes. Des exemples plus favorables à la famille, cependant, sont présentés ci-dessous. Faites une recherche rapide sur YouTube si vous voulez en savoir plus.

Bill Hader

La vidéo ci-dessous commence comme des dizaines d'autres sur YouTube : Nous voyons l'ancien star de Saturday Night Live Bill Hader faire sa meilleure impression de célébrité de l'ancien gouverneur californien Arnold Schwarzenegger. Environ 10 secondes dans la vidéo, le visage de Hader se transforme en visage de Schwarzenegger. Cet exemple, qui a plus de six millions de vues, est devenu l'une des vidéos les plus regardées de YouTube.

Mona Lisa

Un autre exemple vient des chercheurs du Samsung AI Center, qui ont développé la technologie deepfake qui peut donner vie à des photos et des œuvres d'art classiques. Dans leur vidéo, nous pouvons voir Albert Einstein et la Mona Lisa bouger et parler. Pour créer le composite Mona Lisa, en particulier, ils ont utilisé trois vidéos sources, chacune produisant des résultats différents et parfois impairs.

Mark Zuckerberg

Un exemple plus récent montre que Mark Zuckerberg, PDG de Facebook, a promis son allégeance à Spectre, l'organisation maléfique de la franchise James Bond. Ce deepfake particulier manipule l'audio pour faire ressembler Zuckerberg à un psychopathe. Les artistes derrière ce deepfake, Bill Posters et Daniel Howe, en partenariat avec la société de publicité Canny, ont également fait un deepfake avec la star de la télé réalité Kim Kardashian West.

Tu devrais t'inquiéter ?

Bien que la plupart des faux-semblants soient drôles et innocents, ils ont le potentiel d'être fâcheux. Par exemple, une vidéo fausse peut montrer un candidat politique disant ou faisant quelque chose d'horrible - peut-être quelque chose de si impardonnable que, si chronométré correctement, cela pourrait déclencher une élection avant qu'il n'y ait le temps pour le public d'apprendre la vérité réelle. N'importe qui pourrait être superposé dans une situation compromettante.

Il y a déjà des célébrités qui ne veulent pas que leur ressemblance apparaisse dans de la pornographie mensongère. Certains ont comparé cette situation à la vengeance de la pornographie. Après tout, un créateur deep fake a seulement besoin d'une série de photos de la célébrité, qui peuvent être rapidement éliminées à partir de leurs flux de médias sociaux, ou audio et vidéo d'eux, dont il devrait y avoir beaucoup. Et ils ont besoin de savoir comment utiliser le logiciel deepfake.

Passez une minute à chercher, et vous serez au genou dans des tutoriels sur la façon de devenir un créateur de faux profond. Avec une telle accessibilité, la technologie deep fake ne fera que devenir plus répandue, et elle sera sans aucun doute utilisée pour l'intimidation et le harcèlement.

Les faux profonds sont-ils illégaux ?

NOUS

Les régulateurs et les législateurs commencent tout juste à s'attaquer à cette question. Certains soutiennent que les contrefaçons profondes devraient être protégées par le premier amendement, oula liberté d'expression. D'autres, cependant, comme le rép. Adam Schiff, ont émis desavertissements. Lors d'une audition du Comité du renseignement de la Chambre sur les risques pour la sécurité nationale et électorale, Schiff a déclaré que des faux profonds pourraient avoir un effet négatif sur les élections de 2020 .

Le Comité du renseignement de la Chambre a convoqué un groupe d'experts qui sont chargés de trouver une stratégie fausse et de nouvelles restrictions possibles de la part du gouvernement ou des plateformes, mais, actuellement, il existe au Congrès une législation en circulation destinée à lutter contre la menace des faux médias. Par exemple, le sénateur Ben Sasse a proposé de rendre illégalla création et la distribution « malicieusement » de faux.