Blog

Qué son los deepfakes y cómo detectarlos

Qué son los deepfakes y cómo detectarlos

Deepfake es una forma de inteligencia artificial que se puede utilizar para crear imágenes, sonidos y videos engañosos. El perpetrador recopila imágenes y sonidos y los une mediante algoritmos de aprendizaje automático. Como resultado, puede colocar a personas en contextos falsos, o en eventos que en realidad no sucedieron.

Básicamente, el creador intercambia la cara de una persona y la reemplaza con otra, utilizando un algoritmo de reconocimiento facial y una red informática de aprendizaje profundo llamada codificador automático variacional (VAE).

Por ejemplo, un video de este tipo, podría mostrar a un líder mundial admitiendo públicamente cualquier actividad delictiva, o haciendo afirmaciones falsas sobre un tema de actualidad.

También podríamos ver al famoso o famosa de guardia, haciendo declaraciones infames o protagonizando un video de porno duro.

Seguidamente, los «artistas» subirían el contenido falso a algún canal de redes sociales como por ejemplo TikTok, donde puede volverse viral instantáneamente.

¿Existe algún tipo de control?

En este sentido,TikTok prohíbe las falsificaciones digitales que «engañen a los usuarios al distorsionar la verdad de los hechos y causen un daño significativo al sujeto del video, a otras personas o a la sociedad».

Meta y Twitch, y Google, también han prohibido las falsificaciones y los videos manipulados.

Si detectan basura de este tipo, la eliminan.

Pero mientras tanto, posiblemente ya ha sido visto por miles de personas, o descargado e insertado en algún medio en línea: nada impide que estos contenidos sean publicados en páginas web y blogs.

Y lo que es más peligroso, en la prensa digital.

Por su parte, Microsoft está trabajando en una tecnología «anti-deep-fake» para intentar combatir la desinformación, llamada Microsoft Video Authenticator.

Como se crean

Se puede encontrar una gran cantidad de software de este tipo en GitHub.

Incluso existen páginas web para hacer esto en línea, sin necesidad de tener grandes conocimientos, y como no, también aplicaciones para teléfonos móviles.

Esta tecnología se ha vuelto cada vez más accesible. Si buscamos en Google «aplicaciones gratuitas para crear deepfakes» nos aparecerán unos 155.000 resultados.

Algunas de estas aplicaciones se usan solamente con fines de aprendizaje, o entretenimiento, mientras que otras, tienen más probabilidades de usarse para fines maliciosos.

Para poder crear un video deepfake lo suficientemente convincente que implique a un ser humano, se necesitan imágenes de múltiples expresiones faciales tomadas desde diferentes ángulos.

Por lo tanto, para evitar convertirse en el protagonista de un video de este tipo, una persona tendía que conseguir eliminar todos los registros visuales y de audio que ha subido a la red, lo que es casi imposible.

Sobre todo sí se trata de una figura pública.

¿Son ilegales los deepfakes?

Los deepfakes en principio no son ilegales.

Su espectro puede ir desde inocentes aplicaciones de intercambio de caras para teléfonos móviles y bromas, hasta un video pornográfico de Pedro Sánchez junto a Vladímir Putin, proclamando su apoyo incondicional a Rusia.

Por lo que prohibirlos por completo es inviable: todo dependerá de cada caso en particular.

En casos extremos, los villanos pueden grabar a una persona durante cinco minutos mientras está hablando, y luego, utilizar un servicio de IA generativa disponible públicamente, como ElevenLabs, con el objetivo de derrotar a un sistema de autenticación por voz.

Como detectarlos

Si el trabajo no está muy logrado, hay una lista de características que podrían revelar que un video es falso.

  • Movimientos repentinos.
  • Iluminación de la escena que cambia de un cuadro al siguiente.
  • Cambios en el tono de la piel.
  • El protagonista realiza parpadeos extraños o no parpadea en absoluto.
  • Los labios están mal sincronizados con el habla.
  • Aparecen elementos en la imagen que están fuera de contexto.

Pero lamentablemente, la sofisticación cada vez mayor de esta tecnología ha demostrado que no podemos confiar en todas las grabaciones de video o audio que oímos o vemos en Internet.

Y la prevalencia de la inteligencia artificial generativa está facilitado cada vez más la creación de estos contenidos falsos, por lo tanto, no nos queda otra que acostumbrarnos a esta nueva realidad, y rápido.

Ha llegado para quedarse, y seguramente irá evolucionando hasta extremos que no podemos ni imaginar.

Lo único que podemos hacer para confirmar la legitimidad de los activos digitales, es contrastar la información en distintas fuentes, actuar con escepticismo y aplicar el pensamiento crítico.

Por otro lado, para ser protagonista de un deepfake, no hace falta ser un político, o un personaje famoso. Cualquiera de nosotros puede convertirse en una víctima.

Avisos de seguridad

Air VPN - The air to breathe the real Internet

Otros artículos

Qué es un ataque de fuerza bruta
Qué es un servidor proxy y para qué se utiliza
Riesgos de seguridad al escanear códigos QR
Seguridad de Windows 11 muestra un mensaje de estado desconocido
direcciones de correo electrónico desechables
Qué pasa con con nuestra identidad digital después de la muerte
Proveedores de la Dark Web: quiénes son y a quién sirven