Pocket-lint é suportado por seus leitores. Quando você compra por meio de links em nosso site, podemos ganhar uma comissão de afiliado. Saber mais

Esta página foi traduzida usando IA e aprendizado de máquina.

(Pocket-lint) - Vídeos falsos estão se tornando mais comuns e mais sinistros.

Você pode tê-los visto aparecendo em notícias recentemente envolvendo políticos famosos , celebridades , a Rainha no Canal 4 em 2020 para o discurso alternativo de Natal das emissoras e até mesmo executivos de tecnologia.

Em caso afirmativo, você provavelmente está se perguntando como eles são feitos e por quem e se eles vão tornar a epidemia de notícias falsas ainda pior. Entendemos sua preocupação.

Deepfakes têm o potencial de serem realmente perturbadores, e você está certo em aprender tudo o que puder sobre eles agora.

O que são deepfakes?

Como se fosse de um filme de ficção científica, a tecnologia deepfake envolve inteligência artificial e modelos de aprendizado de máquina que podem manipular o vídeo. Em sua forma mais simples, um deepfake é um vídeo adulterado que mostra alguém fazendo ou dizendo algo que nunca aconteceu. Essa habilidade não se limita a Hollywood ou agências de inteligência; qualquer um pode usar software online ou baixar aplicativos que permitirão fazer vídeos falsos convincentes.

Um dos alvos mais populares dos deepfakes é Donald Trump. Isso se deve em parte ao fato de haver um tesouro de dados sobre ele - milhares de clipes de áudio, vídeos e fotos dele falando e gesticulando da mesma maneira. Qualquer pessoa com acesso ao software deepfake pode usar esses dados para criar vídeos hiper-realistas dele fazendo ou dizendo qualquer coisa. Eles podem até transformar seu rosto em outro assunto, como Richard Nixon .

Como os deepfakes são feitos?

Existem várias maneiras diferentes de fazer vídeos deepfake, mas todas elas exigem dados para alimentar modelos de aprendizado de máquina que irão gerar seu conteúdo falso. Atualmente, todos, desde pesquisadores até aqueles com intenções maliciosas, estão cometendo falsificações. Os mais convincentes requerem equipamentos de computador poderosos e conjuntos de dados profundos com bastante áudio, vídeo ou imagens para o assunto do seu deepfake.

Aplicativos de mídia social como o Snapchat também usam tecnologia de transformação facial que pode ser usada de forma semelhante. Existem ferramentas ainda mais sofisticadas, como o FakeApp. Feito por um desenvolvedor anônimo usando software de código aberto escrito pelo Google, ele permite que você gere trocas faciais de forma realista, com poucos indícios de que seu vídeo foi manipulado. O FakeApp é gratuito e, se você for um pouco geek, é relativamente fácil de usar.

Mais exemplos de vídeos deepfake

Existem toneladas de deepfakes online de alta qualidade - mesmo aqueles com rostos e vozes de celebridades trocados por filmes adultos. Exemplos mais familiares, no entanto, estão abaixo. Basta fazer uma pesquisa rápida no YouTube se quiser ver mais.

Bill Hader

O vídeo abaixo começa como dezenas de outros no YouTube: Vemos o ex-astro do Saturday Night Live Bill Hader fazendo sua melhor impressão de celebridade do ex-governador da Califórnia Arnold Schwarzenegger. Cerca de 10 segundos no vídeo, o rosto de Hader se transforma no rosto de Schwarzenegger. Este exemplo, que tem mais de seis milhões de visualizações, se tornou um dos vídeos deepfake mais assistidos do YouTube.

Monalisa

Outro exemplo vem de pesquisadores do Samsung AI Center , que desenvolveram a tecnologia deepfake que pode dar vida a fotos clássicas e obras de arte. Em seu vídeo, podemos ver Albert Einstein e a Mona Lisa se movendo e falando. Para criar a composição da Mona Lisa, especificamente, eles usaram três vídeos de origem, cada um dos quais produzindo resultados diferentes e às vezes estranhos.

Mark Zuckerberg

Um exemplo mais recente mostra o CEO do Facebook, Mark Zuckerberg, jurando lealdade a Specter, a organização do mal da franquia James Bond. Este deepfake em particular manipula o áudio para fazer Zuckerberg parecer um psicopata. Os artistas por trás desse fake, Bill Posters e Daniel Howe, em parceria com a empresa de publicidade Canny, também fizeram um fake com a estrela de reality show Kim Kardashian West.

Você deveria estar preocupado?

Embora a maioria dos deepfakes sejam engraçados e inocentes, eles têm o potencial de serem nefastos. Por exemplo, um vídeo falso pode mostrar um candidato político dizendo ou fazendo algo horrível - talvez algo tão imperdoável que, se cronometrado corretamente, pode influenciar uma eleição antes que haja tempo para o público aprender a verdade real. Qualquer um pode ser colocado em uma situação comprometedora.

Já existem celebridades que não querem que sua imagem apareça em pornografia falsa. Alguns compararam essa situação à pornografia de vingança. Afinal, um criador deepfake só precisa de uma série de fotos da celebridade, que podem ser rapidamente retiradas de seus feeds de mídia social ou de áudio e vídeo delas, que devem haver em abundância. E eles precisam saber como usar o software deepfake.

Passe um minuto pesquisando e você se aprofundará nos tutoriais sobre como se tornar um criador falso. Com essa acessibilidade, a tecnologia deepfake só se tornará mais difundida e, sem dúvida, será usada para intimidação e assédio.

Deepfakes são ilegais?

NOS

Reguladores e legisladores estão apenas começando a lidar com essa questão. Alguns argumentam que os deepfakes deveriam ser protegidos pela Primeira Emenda, ou Liberdade de Expressão . Outros, no entanto, como o deputado Adam Schiff, emitiram avisos. Durante uma audiência do Comitê de Inteligência da Câmara sobre os riscos de segurança nacional e eleitoral, Schiff disse que os deepfakes podem ter um efeito negativo nas eleições de 2020.

O Comitê de Inteligência da Câmara convocou um painel de especialistas com a tarefa de apresentar uma estratégia profundamente falsa e possíveis novas restrições do governo ou das plataformas, mas, atualmente, há legislação circulando no Congresso com o objetivo de combater a ameaça da mídia falsa. Por exemplo, o senador Ben Sasse propôs tornar ilegal a criação e distribuição de deepfakes “maliciosamente”.

Escrito por Maggie Tillman. Edição por Stuart Miles. Originalmente publicado em 13 Junho 2019.