Pocket-lint es compatible con sus lectores. Cuando compra a través de enlaces en nuestro sitio, podemos ganar una comisión de afiliado. Aprende más

Esta página ha sido traducida usando inteligencia artificial y aprendizaje automático.

(Pocket-lint) - Los videos deepfake son cada vez más comunes y siniestros.

Es posible que los haya visto aparecer en noticias recientemente relacionadas con políticos famosos , celebridades , la Reina en el Canal 4 en 2020 para el discurso navideño alternativo de las emisoras e incluso ejecutivos de tecnología.

Si es así, probablemente se esté preguntando cómo se hacen y por quién y si empeorarán la epidemia de noticias falsas. Entendemos su preocupación.

Los deepfakes tienen el potencial de ser realmente disruptivos, y tienes razón al aprender todo lo que puedas sobre ellos ahora.

¿Qué son los deepfakes?

Como si se tratara de una película de ciencia ficción, la tecnología deepfake implica inteligencia artificial y modelos de aprendizaje automático que pueden manipular videos. En su forma más simple, un deepfake es un video manipulado que muestra a alguien haciendo o diciendo algo que nunca sucedió. Esta capacidad no se limita a Hollywood o agencias de inteligencia; cualquiera puede usar software en línea o descargar aplicaciones que les permitan hacer videos convincentes de deepfake.

Uno de los objetivos más populares de los deepfakes ha sido Donald Trump. Eso es en parte porque hay un tesoro de datos sobre él: miles de clips de audio, videos y fotos de él hablando y gesticulando de la misma manera. Cualquiera que tenga acceso a software deepfake puede usar estos datos para crear videos hiperrealistas de él haciendo o diciendo cualquier cosa. Incluso pueden transformar su rostro en otro sujeto, como Richard Nixon .

¿Cómo se hacen los deepfakes?

Hay varias formas diferentes de hacer videos deepfake, pero todas requieren datos para alimentar modelos de aprendizaje automático que generarán su contenido falso. Actualmente, todos, desde investigadores hasta aquellos con intenciones maliciosas, están haciendo deepfakes. Los más convincentes requieren potentes equipos informáticos y conjuntos de datos profundos con mucho audio, video o imágenes para el sujeto de su deepfake.

Las aplicaciones de redes sociales como Snapchat también usan tecnología de transformación de rostros que podría usarse de manera similar. Incluso hay herramientas de gama alta como FakeApp. Creado por un desarrollador anónimo que utiliza software de código abierto escrito por Google, le permite generar intercambios de rostros de manera realista, con pocos indicios de que su video ha sido manipulado. FakeApp es gratis, y si eres un poco friki, es relativamente fácil de usar.

Más ejemplos de videos deepfake

Hay toneladas de deepfakes de alta calidad en línea, incluso con rostros de celebridades y voces intercambiadas en películas para adultos. Sin embargo, a continuación se muestran más ejemplos para familias. Simplemente haga una búsqueda rápida en YouTube si desea ver más.

Bill Hader

El siguiente video comienza como muchos otros en YouTube: Vemos a la ex estrella de Saturday Night Live Bill Hader haciendo su mejor impresión de celebridad del ex gobernador de California Arnold Schwarzenegger. Aproximadamente 10 segundos en el video, la cara de Hader se transforma en la cara de Schwarzenegger. Este ejemplo, que tiene más de seis millones de visitas, se ha convertido en uno de los videos deepfake más vistos de YouTube.

Mona Lisa

Otro ejemplo proviene de los investigadores del Samsung AI Center , quienes desarrollaron tecnología deepfake que puede hacer que las fotografías y obras de arte clásicas cobren vida. En su video, podemos ver a Albert Einstein y la Mona Lisa moviéndose y hablando. Para crear el compuesto de Mona Lisa, específicamente, utilizaron tres videos fuente, cada uno de los cuales produjo resultados diferentes y, a veces, extraños.

Mark Zuckerberg

Un ejemplo más reciente muestra al CEO de Facebook, Mark Zuckerberg, prometiendo lealtad a Spectre, la organización malvada de la franquicia de James Bond. Este deepfake en particular manipula el audio para hacer que Zuckerberg suene como un psicópata. Los artistas detrás de este deepfake, Bill Posters y Daniel Howe, en asociación con la compañía de publicidad Canny, también hicieron un deepfake con la estrella de reality shows Kim Kardashian West.

¿Deberías estar preocupado?

Aunque la mayoría de los deepfakes son divertidos e inocentes, tienen el potencial de ser nefastos. Por ejemplo, un video deepfake podría mostrar a un candidato político diciendo o haciendo algo horrible, tal vez algo tan imperdonable que, si se sincroniza correctamente, podría influir en una elección antes de que el público tenga tiempo de conocer la verdad real. Cualquiera podría verse superpuesto a una situación comprometedora.

Ya hay celebridades que no quieren que su parecido aparezca en la pornografía deepfake. Algunos han comparado esta situación con el porno de venganza. Después de todo, un creador de deepfake solo necesita una serie de fotos de la celebridad, que pueden seleccionarse rápidamente de sus feeds de redes sociales, o audio y video de ellas, de las cuales debería haber muchas. Y necesitan saber cómo utilizar el software deepfake.

Dedique un minuto a buscar y estará sumergido en tutoriales sobre cómo convertirse en un creador de deepfake. Con tal accesibilidad, la tecnología deepfake solo se generalizará y, sin duda, se utilizará para intimidación y acoso.

¿Son ilegales los deepfakes?

NOS

Los reguladores y legisladores recién están comenzando a lidiar con este problema. Algunos argumentan que los deepfakes deberían estar protegidos por la Primera Enmienda o Libertad de Expresión . Otros, sin embargo, como el representante Adam Schiff, han emitido advertencias. Durante una audiencia del Comité de Inteligencia de la Cámara sobre los riesgos de seguridad nacional y electoral, Schiff dijo que los deepfakes podrían tener un efecto negativo en las elecciones de 2020.

El Comité de Inteligencia de la Cámara convocó a un panel de expertos que tienen la tarea de idear una estrategia deepfake y posibles nuevas restricciones del gobierno o de las plataformas, pero, actualmente, hay una legislación circulante en el Congreso destinada a abordar la amenaza de los medios falsos. Por ejemplo, el senador Ben Sasse propuso convertir en ilegal la creación y distribución de deepfakes "maliciosamente".

Escrito por Maggie Tillman. Edición por Stuart Miles. Publicado originalmente el 13 Junio 2019.