Desde hace unos cuantos meses, los cibercriminales están utilizando esta herramienta de inteligencia artificial sin censura para perpetrar fraudes, diseñar malware, fabricar explosivos, manipular imágenes de menores, y otras actividades criminales.
A diferencia de otras infames herramientas de inteligencia artificial comercializadas por ciberdelincuentes como servicios de suscripción, como FraudGPT o WormGPT, DIG no requiere ninguna cuenta y es de uso gratuito mediante la red TOR.
Además, su creador afirma que el servicio se despliega en su propia infraestructura cifrada y anónima, lo que complica la caza por parte de las autoridades ya que no depende de nubes de terceros, mejorando aún más su resistencia a los bloqueos.
Y la verdad es que funciona sin ningun tipo de censura. DIG AI respondió a indicaciones relacionadas con sustancias prohibidas, fraude y otras áreas restringidas por la legislación internacional.
También le preguntamos como crear un sencillo troyano.
El bot generó un ejemplo de código malicioso en C++, que es un lenguaje de programación de propósito general. Pero, por supuesto, nosotros no vamos a comprobar si es funcional.
Por otro lado, como afirman algunos investigadores, pudimos comprobar que todavía tiene limitaciones. Algunas operaciones tardaron bastantes minutos en completarse, lo que indica que el sistema tiene recursos informáticos limitados.
Sin embargo, estos pueden aumentarse fácilmente ofreciendo un servicio de pago.
Quizás lo más grave de toda esta vaina es la posibilidad de generar material de abuso sexual infantil hiperrealista.
Al carecer de filtros, podría producir imágenes sintéticas o videos a partir de descripciones de texto. También manipular fotos de niños reales para convertirlas en contenido explícito.
Y lamentablemente DIG AI no es nada nuevo. Las organizaciones encargadas de hacer cumplir las leyes de protección de la infancia informan de un aumento significativo de estos contenidos producidos tanto por adultos como por los propios menores.
Muchos usuarios ven la IA de DIG como un espacio para la experimentación
Debido a que no está regulado por políticas corporativas estrictas, las interacciones con la herramienta son más naturales y flexibles.
En este sentido, desarrolladores, investigadores y usuarios curiosos podrían usarla para probar los límites de las capacidades de IA o experimentar con casos de uso no convencionales, libremente y sin restricciones.
Si bien esta filosofía alternativa en el mundo de la IA, que prioriza el control de los usuarios y la supervisión mínima, puede parecer algo positivo, en malas manos puede convertirse en una herramienta para «hacer el mal».
Regulaciones como la Ley de IA de la UE se dirigen a las plataformas convencionales. Pero difícilmente podrán llegan a servicios anónimos ofrecidos en la red Tor.
A medida que estas herramientas de inteligencia artificial se vuelvan más poderosas, accesibles y fáciles de utilizar, cerrar esa brecha será todo un desafío para las autoridades.
Ya veremos lo que nos espera en 2006.
