Desde su creación en 2017, los modelos generativos se han utilizado muchas veces para desnudar «artificialmente» a personas con el fin de crear vídeos pornográficos muy realistas. Y para empeorar las cosas, las herramientas para estos propósitos, se están volviendo cada vez más accesibles.
Tanto es así que diez escolares de la localidad española de Almendralejo, en el suroeste de España, fueron declarados responsables de 20 delitos de pornografía infantil y otros tantos contra la integridad moral.
Desde que las tecnologías deepfake se hicieron populares, algunos teníamos bastante claro que serían utilizadas mayormente para la desinformación, la propaganda, o incluso para perpetrar ataques de phishing.
Pero el hecho de que este infame evento haya tenido lugar en una ciudad de 34.000 habitantes demuestra una vez más que las nuevas tecnologías hacen que ejercer la violencia hacia las mujeres sea aún más fácil.
Algunos de estos servicios se anuncian directamente con eslóganes como «desnuda a quien quieras» o frases similares.
Además, se ofrecen en determinados canales de TikTok, salas de chat de videojuegos, y plataformas similares, donde participan menores, algunas veces, muy jóvenes.
Está claro que son el público objetivo, e incluso se lo muestran como si fuese algo divertido.
Tambien ofrecen tutoriales para que aprendan rápidamente y se hagan una idea de lo que se puede hacer con estas herramientas.
Retocar y manipular fotografías no es nada nuevo. Con un poco de esfuerzo, se puede conseguir con herramientas tan conocidas como Photoshop o GIMP.
Pero un servicio automatizado para desnudar a las mujeres, que puede ser utilizado fácilmente por niños de 13 años, es algo completamente diferente y los legisladores deberían tratarlo en consecuencia.
Si bien algunas jurisdicciones, como las del Reino Unido y la UE, están avanzando en este sentido, lamentablemente todavía no se castiga el uso de una tecnología en particular, sino el resultado.
Pero son aquellos que ponen estas herramientas a disposición del público, quienes deberían estar legalmente obligados a prevenir la generación de estos contenidos desde el principio.
La Agencia Nacional de Protección de Datos ha abierto un servicio gratuito que permite a los ciudadanos de España denunciar la difusión de fotografías, vídeos o audios de contenido sexual o violento (manipulado o no).
Por lo tanto, animamos a todos y todas, a que si encuentran, o reciben esta clase de contenidos, lo denuncien inmediatamente.
