Esta página foi traduzida usando IA e aprendizado de máquina.

Vídeos do Deepfake estão se tornando mais comuns e mais sinistros.

Você pode ter visto eles aparecerem em notícias recentemente envolvendo políticos famosos , celebridades e até executivos de tecnologia. Nesse caso, provavelmente você está se perguntando como elas são feitas e por quem e se elas tornarão a epidemia de notícias falsas ainda pior. Entendemos sua preocupação.

Os Deepfakes têm o potencial de serem realmente perturbadores, e você está certo em aprender tudo o que puder sobre eles agora.

O que são deepfakes?

Como se fosse de um filme de ficção científica, a tecnologia deepfake envolve inteligência artificial e modelos de aprendizado de máquina que podem manipular vídeo. Na sua forma mais simples, um deepfake é um vídeo manipulado que mostra alguém fazendo ou dizendo algo que nunca aconteceu. Essa capacidade não se limita a Hollywood ou agências de inteligência; qualquer pessoa pode usar o software on-line ou fazer o download de aplicativos que os permitirão criar vídeos convincentes do deepfake.

Um dos alvos mais populares de deepfakes é Donald Trump. Isso ocorre em parte porque há um tesouro de dados sobre ele - milhares de clipes de áudio, vídeos e fotos dele falando e gesticulando da mesma maneira. Qualquer pessoa que tenha acesso ao software deepfake pode usar esses dados para criar vídeos hiper-realistas dele fazendo ou dizendo qualquer coisa. Eles podem até transformar seu rosto em outro assunto, como Richard Nixon .

Como são feitos os deepfakes?

Existem várias maneiras diferentes de criar vídeos deepfake, mas todas requerem dados para alimentar modelos de aprendizado de máquina que gerarão seu conteúdo falso. Atualmente, todos, desde pesquisadores até pessoas com intenções maliciosas, estão fazendo deepfakes. Os mais convincentes exigem plataformas de computador poderosas e conjuntos de dados profundos com bastante áudio, vídeo ou fotos para o assunto do seu deepfake.

Aplicativos de mídia social como o Snapchat também usam a tecnologia de transformação de rosto que pode ser usada de maneira semelhante. Existem ainda ferramentas de ponta, como o FakeApp. Feito por um desenvolvedor anônimo usando software de código aberto escrito pelo Google, permite gerar realisticamente trocas de rosto, com poucas indicações de que seu vídeo foi manipulado. O FakeApp é gratuito e, se você é um pouco nerd, é relativamente fácil de usar.

Mais exemplos de vídeos deepfake

Há toneladas de deepfakes de alta qualidade on-line - mesmo aqueles com rostos e vozes de celebridades trocados em filmes adultos. Mais exemplos voltados para a família, no entanto, estão abaixo. Basta fazer uma pesquisa rápida no YouTube se quiser ver mais.

Bill Hader

O vídeo abaixo começa como dezenas de outros no YouTube: Vimos o ex-astro do Saturday Night Live Bill Hader fazendo sua melhor impressão de celebridade do ex-governador da Califórnia Arnold Schwarzenegger. Cerca de 10 segundos após o vídeo, o rosto de Hader se transforma no rosto de Schwarzenegger. Este exemplo, com mais de seis milhões de visualizações, tornou-se um dos vídeos mais assistidos no YouTube por deepfake.

Monalisa

Outro exemplo vem de pesquisadores do Samsung AI Center , que desenvolveram a tecnologia deepfake que pode dar vida a fotos e obras de arte clássicas. Em seu vídeo, podemos ver Albert Einstein e a Mona Lisa se movendo e falando. Para criar o composto da Mona Lisa, especificamente, eles usaram três vídeos de origem, cada um dos quais produzindo resultados diferentes e às vezes estranhos.

Mark Zuckerberg

Um exemplo mais recente mostra o CEO do Facebook, Mark Zuckerberg, comprometendo-se com a Specter, a organização maligna da franquia James Bond. Esse deepfake em particular manipula o áudio para fazer Zuckerberg parecer um psicopata. Os artistas por trás desse deepfake, Bill Posters e Daniel Howe, em parceria com a empresa de publicidade Canny, também fizeram um deepfake com a estrela da TV Kim Kardashian West.

Você deveria estar preocupado?

Embora a maioria dos deepfakes seja divertida e inocente, eles têm o potencial de serem nefastos. Por exemplo, um vídeo deepfake poderia mostrar um candidato político dizendo ou fazendo algo horrível - talvez algo tão imperdoável que, se cronometrado corretamente, poderia influenciar uma eleição antes que houvesse tempo para o público aprender a verdade real. Qualquer um pode ser sobreposto a uma situação comprometedora.

Já existem celebridades que não querem que sua imagem apareça na pornografia deepfake. Alguns compararam essa situação à vingança da pornografia. Afinal, um criador do deepfake precisa apenas de uma série de fotos da celebridade, que podem ser rapidamente selecionadas a partir de seus feeds de mídia social, ou áudio e vídeo deles, dos quais deve haver muitas. E eles precisam saber como usar o software deepfake.

Gaste um minuto pesquisando e você aprenderá detalhadamente os tutoriais sobre como se tornar um criador de deepfake. Com essa acessibilidade, a tecnologia deepfake se tornará mais difundida e, sem dúvida, será usada para bullying e assédio.

Os deepfakes são ilegais?

NOS

Reguladores e legisladores estão apenas começando a lidar com esse problema. Alguns argumentam que os deepfakes devem ser protegidos pela Primeira Emenda, ou Liberdade de Expressão . Outros, no entanto, como o deputado Adam Schiff, emitiram avisos. Durante uma audiência do Comitê de Inteligência da Câmara sobre os riscos de segurança nacional e eleitoral, Schiff disse que os deepfakes podem ter um efeito negativo nas eleições de 2020.

O Comitê de Inteligência da Câmara convocou um painel de especialistas encarregados de elaborar uma estratégia de deepfake e possíveis novas restrições do governo ou das plataformas, mas, atualmente, existe uma legislação em circulação no Congresso destinada a enfrentar a ameaça da mídia falsa. Por exemplo, o senador Ben Sasse propôs tornar ilegal a criação e distribuição maliciosa de "deepfakes".