Los TikTok Deep Fakes de Tom Cruise presagian un peligroso futuro - Vision-Times-en-Español
Acontecimientos del Mundo, Ciencia y Tecnología

Los TikTok Deep Fakes de Tom Cruise presagian un peligroso futuro

Spread the love

Una serie de videos que aparecieron hace algunas semanas en la aplicación de redes sociales Tiktok, controlada por el Partido Comunista Chino (PCCh), muestran al famoso actor Tom Cruise haciendo un truco de magia, dando un golpe de golf y hablando de Mikheil Gorbachev; parecen ser Deep Fakes (Deepfake o ultrafalso ​ es un acrónimo del inglés formado por las palabras fake, falsificación, y deep learning, aprendizaje profundo).

La cuenta de TikTok deeptomcruise solo ha publicado tres videos, pero ha acumulado 1.1 millones de me gusta y más de 365,000 seguidores en poco más de una semana desde su primera publicación.

En el texto del twist en español de Rachel Tobac se lee:

Hace 2 años atrás en el escenario me preguntaron: “¿Cuándo afectará el video/audio Deepfake a la confianza y será creíble en la ingeniería social?” Mi respuesta entonces fue que estábamos a 2 años de Deepfakes indetectables. Ojalá mi predicción fuera incorrecta. Necesitamos detección de medios sintéticos + etiquetas lo antes posible.

A simple vista, los videos se ven bastante reales. Solo hay algunos indicios que revelan que los videos no son auténticos. En el video de “Tom Cruise” haciendo un swing de golf, por ejemplo, cuando pasa sus gafas de sol frente a su rostro, desaparecen del encuadre por un breve momento cuando el video se ralentiza.

aviso

Deep fakes fáciles de crear, difíciles de distinguir

Las falsificaciones profundas (Deep fakes) se generan a partir de plataformas de inteligencia artificial que utilizan lo que se llama Generative Adversarial Networks (GAN), un sistema desarrollado por el estudiante de doctorado canadiense Ian Goodfellow, quien una vez trabajó para Google y ahora trabaja para Apple como Director de Machine Learning.

GAN emplea dos IA de redes neuronales de aprendizaje profundo en tándem.

Una red analiza fotografías y videos de la persona auténtica, utilizando el material de origen como plantilla para dibujar imágenes sintetizadas del objetivo, mientras que la segunda red neuronal analiza las imágenes generadas, separando lo que cree que es real de las copias, mejorando enormemente la precisión del producto final.

Un profesor y especialista en imágenes digitales de la Universidad de California en Berkeley, Hany Farid, dijo a Fortune que las falsificaciones profundas “Están increíblemente bien hechas” y que probablemente se crearon utilizando un método en el que un actor, que se parece a Cruise y que es experto imitando los gestos únicos y la forma de hablar de él, usó software deep fake para superponer la mitad superior de la cara de Cruise sobre el original.

Un ejemplo más revelador de las implicaciones de la tecnología provino de la cuenta de Youtube Crtl Shift Face publicada en 2019; donde el impresionista Bill Hader aparece en el programa de Dave Letterman para hablar sobre su experiencia en el set de Tropic Thunder.

Hader se hace pasar por Tom Cruise a lo largo de la entrevista, con el rostro de Cruise profundamente simulado a la perfección sobre Haders mientras hace las imitaciones.

Discerniendo falsificaciones

Dado que la capacidad de discernir falsificaciones profundas de videos reales no es evidente para el ojo humano, el discernimiento recae en las personas y la capacidad de combinar su intuición subjetiva con el análisis racional y objetivo de videos y clips de sonido en un juicio sobre si lo que están viendo es auténtico.

Si bien casi todas las falsificaciones profundas están etiquetadas al menos de una manera semi-obvia, como la cuenta “DeepTomCruise” de Tiktok, los usuarios nuevos en Internet, como niños o personas en países en desarrollo, pueden correr un mayor riesgo de caer en deep fakes no etiquetadas a medida que el costo de la tecnología cae y se vuelve cada vez más disponible para su uso.

En 2018, se publicó un video en Youtube que mostraba al presidente Barack Obama diciendo:

“Estamos entrando en una era en la que nuestros enemigos pueden hacer que parezca que alguien está diciendo algo en cualquier momento”.

Para ilustrar su punto, continúa:

“Podrían hacerme decir cosas como, no sé… qué tal esto, simplemente: ‘El presidente Trump es un total y completo idiota'”.

El video luego pasa a una pantalla dual en la que el actor Jordan Peele es el que habla, lo que ilustra cómo funciona la tecnología en tiempo real.

En 2019, Facebook inició una competencia con un premio mayor de $ 500,000 para encontrar el mejor sistema de inteligencia artificial para identificar falsificaciones profundas.

Sin embargo, en el primer año de la competencia, que contó con 3500 sistemas de detección de entre 2100 entradas, lo mejor de lo mejor tuvo una escasa tasa de detección del 65 por ciento.

La aplicación independiente de redes sociales Counter.Social se jactó en Twitter de que su función DeepFake Detector detectó y eliminó los vídeos de DeepTomCruise con su algoritmo.

El texto del tweet en español:

Las falsificaciones profundas se están volviendo aterradoras y se están apoderando de TikTok.

Todas las figuras públicas deberían estar allí con una cuenta verificada, incluso si no quieren crear contenido, para que sea más fácil identificar sus falsificaciones. Aquí está Tom Cruise:

Neil cubre sociedad y política para Vision Times. Vive en Canadá.
aviso
Artículos PreviosArtículos Siguientes

Deja un comentario

Tu dirección de correo electrónico no será publicada.