Deepfake es una forma de inteligencia artificial que se puede utilizar para crear imágenes, sonidos y videos engañosos. El perpetrador recopila imágenes y sonidos y los une mediante algoritmos de aprendizaje automático.
Como resultado, puede colocar a personas en contextos falsos, o en eventos que en realidad no sucedieron.
A medida que la tecnología mejora y los expertos buscan nuevos métodos para contrarrestar la desinformación, los signos reveladores de imágenes generativas de IA están desapareciendo.
Basicamente, el creador intercambia la cara de una persona y la reemplaza con la de otra, utilizando un algoritmo de reconocimiento facial y una red informática de aprendizaje profundo llamada codificador automático variacional (VAE).
En Eslovaquia, un audio falso del candidato de la oposición Michal Šimečka aparentemente conspirando para manipular las elecciones, se volvió viral en pocos días.
En España, varias chicas menores de edad denunciaron que había fotografías suyas manipuladas con IA, en las cuales aparecían desnudas circulando en internet.
Como se crean
Se puede encontrar una gran cantidad de software de este tipo en GitHub.
Incluso existen páginas web para hacer esto en línea, sin necesidad de tener grandes conocimientos, y como no, también aplicaciones para teléfonos móviles.
Esta tecnología se ha vuelto cada vez más accesible. Si buscamos en Google «aplicaciones gratuitas para crear deepfakes» nos aparecerán unos 155.000 resultados.
Algunas de estas aplicaciones se usan solamente con fines de aprendizaje, o entretenimiento, mientras que otras, tienen más probabilidades de usarse para fines maliciosos.
Para poder crear un video deepfake lo suficientemente convincente que implique a un ser humano, se necesitan imágenes de múltiples expresiones faciales tomadas desde diferentes ángulos.
Por lo tanto, para evitar convertirse en el protagonista de un video de este tipo, una persona tendía que conseguir eliminar todos los registros visuales y de audio que ha subido a la red, lo que es casi imposible.
Sobre todo sí se trata de una figura pública.
¿Son ilegales los deepfakes?
Los deepfakes en principio no son ilegales.
Su espectro puede ir desde inocentes aplicaciones de intercambio de caras para teléfonos móviles y bromas, hasta un video pornográfico de Pedro Sánchez junto a Vladímir Putin, proclamando su apoyo incondicional a Rusia.
Por lo que prohibirlos por completo es inviable: todo dependerá de cada caso en particular.
En casos extremos, los villanos pueden grabar a una persona durante cinco minutos mientras está hablando, y luego, utilizar un servicio de IA generativa disponible públicamente, como ElevenLabs, con el objetivo de derrotar a un sistema de autenticación por voz.
Como detectarlos
Si el trabajo no está muy logrado, hay una lista de características que podrían revelar que un video es falso.
- Movimientos repentinos.
- Iluminación de la escena que cambia de un cuadro al siguiente.
- Cambios en el tono de la piel.
- El protagonista realiza parpadeos extraños o no parpadea en absoluto.
- Los labios están mal sincronizados con el habla.
- Aparecen elementos en la imagen que están fuera de contexto.
Pero lamentablemente, la sofisticación cada vez mayor de esta tecnología ha demostrado que no podemos confiar en todas las grabaciones de video o audio que oímos o vemos en Internet.
Y la prevalencia de la inteligencia artificial generativa está facilitado cada vez más la creación de estos contenidos falsos, por lo tanto, no nos queda otra que acostumbrarnos a esta nueva realidad, y rápido.
Ha llegado para quedarse, y seguramente irá evolucionando hasta extremos que no podemos ni imaginar.
Pero la tecnología es solamente una parte de la solución.
Si la gente realmente cree que un video del papa Francisco «perreando» mientras baila reguetón, es real, entonces no se necesitan generadores de imágenes de última generación para engañarlos y hacerles creer lo que haga falta.
Por lo tanto, aparte de intentar confirmar la legitimidad de los activos digitales mediante los métodos disponibles, también es importante, actuar con escepticismo.
Conclusión
El uso cada vez mayor de productos de IA es solo una nueva faceta de un viejo problema.
Estas herramientas simplemente se suman a un arsenal ya bien abastecido de tecnologías y técnicas utilizadas para manipular y engañar.
No importa cuánto contenido genuino hay en línea. Mientras la gente crea que hay mucho, tendremos un problema.
