Esta página ha sido traducida usando inteligencia artificial y aprendizaje automático.

(Pocket-lint) - Los videos de Deepfake se están volviendo más comunes y más siniestros.

Es posible que los haya visto aparecer en noticias recientemente involucrando políticos famosos , celebridades e incluso ejecutivos de tecnología. Si es así, entonces probablemente se esté preguntando cómo se hacen y por quién y si empeorarán la epidemia de noticias falsas. Entendemos tu preocupación.

Deepfakes tiene el potencial de ser realmente disruptivo, y tienes razón en aprender todo lo que puedas sobre ellos ahora.

¿Qué son los deepfakes?

Como si fuera de una película de ciencia ficción, la tecnología deepfake implica inteligencia artificial y modelos de aprendizaje automático que pueden manipular el video. En su forma más simple, un deepfake es un video manipulado que muestra a alguien haciendo o diciendo algo que nunca sucedió. Esta capacidad no se limita a Hollywood o agencias de inteligencia; cualquier persona puede usar software en línea o descargar aplicaciones que le permitirán hacer videos convincentes de deepfake.

Uno de los objetivos más populares para los deepfakes es Donald Trump. Eso se debe en parte a que hay un tesoro de datos sobre él: miles de clips de audio, videos y fotos de él hablando y gesticulando de la misma manera. Cualquiera que tenga acceso al software deepfake puede usar estos datos para crear videos hiperrealistas de él haciendo o diciendo algo. Incluso pueden transformar su rostro en otro tema, como Richard Nixon .

¿Cómo se hacen los deepfakes?

Hay varias formas diferentes de hacer videos falsos, pero todos requieren datos para alimentar los modelos de aprendizaje automático que generarán su contenido falso. Actualmente, todos, desde investigadores hasta aquellos con intenciones maliciosas, están haciendo falsificaciones. Los más convincentes requieren equipos informáticos potentes y conjuntos de datos profundos con mucho audio, video o imágenes para el tema de tu deepfake.

Las aplicaciones de redes sociales como Snapchat también usan tecnología de transformación de cara que podría usarse de manera similar. Incluso hay herramientas de gama alta como FakeApp. Realizado por un desarrollador anónimo que utiliza software de código abierto escrito por Google, le permite generar intercambios faciales de manera realista, con poca indicación de que su video ha sido manipulado. FakeApp es gratis, y si eres un poco geek, es relativamente fácil de usar.

Más ejemplos de videos de deepfake

Hay toneladas de falsificaciones profundas de alta calidad en línea, incluso aquellas con caras y voces de celebridades intercambiadas en películas para adultos. Más ejemplos amigables para la familia, sin embargo, están a continuación. Simplemente haga una búsqueda rápida en YouTube si desea ver más.

Bill Hader

El video a continuación comienza como docenas de otros en YouTube: vemos al ex estrella de Saturday Night Live Bill Hader haciendo su mejor impresión de celebridad del ex gobernador de California Arnold Schwarzenegger. Unos 10 segundos después del video, la cara de Hader se transforma en la de Schwarzenegger. Este ejemplo, que tiene más de seis millones de visitas, se ha convertido en uno de los videos falsos más vistos de YouTube.

Mona Lisa

Otro ejemplo proviene de investigadores del Samsung AI Center , que desarrollaron tecnología de deepfake que puede hacer que las fotos clásicas y las obras de arte cobren vida. En su video, podemos ver a Albert Einstein y la Mona Lisa moviéndose y hablando. Para crear el compuesto Mona Lisa, específicamente, utilizaron tres videos fuente, cada uno de los cuales produjo resultados diferentes y, a veces, extraños.

Mark Zuckerberg

Un ejemplo más reciente muestra al CEO de Facebook, Mark Zuckerberg, prometiendo su lealtad a Specter, la organización malvada de la franquicia de James Bond. Este deepfake particular manipula el audio para hacer que Zuckerberg suene como un psicópata. Los artistas detrás de este deepfake, Bill Posters y Daniel Howe, en sociedad con la compañía de publicidad Canny, también hicieron un deepfake con la estrella de reality show Kim Kardashian West.

¿Deberías estar preocupado?

Aunque la mayoría de los deepfakes son divertidos e inocentes, tienen el potencial de ser nefastos. Por ejemplo, un video falso podría mostrar a un candidato político diciendo o haciendo algo horrible, tal vez algo tan imperdonable que, si se cronometra correctamente, podría influir en una elección antes de que el público conozca la verdad real. Cualquiera podría superponerse a una situación comprometedora.

Ya hay celebridades que no quieren que su imagen aparezca en la pornografía profunda. Algunos han comparado esta situación con la venganza del porno. Después de todo, un creador de deepfake solo necesita una serie de fotos de la celebridad, que pueden seleccionarse rápidamente de sus feeds de redes sociales, o de audio y video, de los cuales debería haber muchas. Y necesitan saber cómo usar el software deepfake.

Dedique un minuto a la búsqueda y estará lleno de tutoriales sobre cómo convertirse en un creador falso. Con tal accesibilidad, la tecnología deepfake solo se generalizará y, sin duda, se utilizará para el acoso y la intimidación.

¿Son ilegales los deepfakes?

NOSOTROS

Los reguladores y los legisladores apenas comienzan a lidiar con este problema. Algunos sostienen que las falsificaciones profundas deberían estar protegidas por la Primera Enmienda, o Libertad de Expresión . Otros, sin embargo, como el representante Adam Schiff, han emitido advertencias. Durante una audiencia del Comité de Inteligencia de la Cámara sobre riesgos de seguridad nacional y electoral, Schiff dijo que las falsificaciones profundas podrían tener un efecto negativo en las elecciones de 2020.

El Comité de Inteligencia de la Cámara convocó a un panel de expertos que tienen la tarea de idear una estrategia falsa y posibles nuevas restricciones, ya sea del gobierno o de las plataformas, pero, actualmente, hay legislación circulante en el Congreso destinada a abordar la amenaza de los medios falsos. Por ejemplo, el senador Ben Sasse propuso que sea ilegal crear y distribuir falsificaciones profundas "maliciosamente".

Escrito por Maggie Tillman.