Las teorías distópicas sobre cómo el avance de la IA podría representar una amenaza existencial para la raza humana están circulando por muchos sitios de internet. Algunos también hablan de su potencial para crear armas biológicas.
Incluso el Machine Intelligence Research Institute (MIRI) defiende que construir una IA más lista que nosotros equivaldría a firmar la extinción de la especie.
Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.
También advierten del peligro real de que esta tecnología pueda automodificarse y automejorar como si tuviera una mente propia.
Por el contrario, hay quien afirma que estas opiniones extremas son infundadas, y no tienen nada que ver con la tecnología de inteligencia artificial.
En cualquier caso, a día de hoy estos modelos no son la máquina de inteligencia artificial asesina de la película de Stanley Kubrick 2001: Una odisea del espacio.
La villanía de HAL y sus tendencias homicidas todavía continúan siendo ciencia ficción.
Nosotros no somos expertos en el tema; pero pensamos que la IA (de momento) no destruirá la civilización humana.
A menos que algún grupo de gilipollas decida permitirle controlar infraestructura crítica, como por ejemplo centrales nucleares, redes eléctricas o sistemas de defensa militar, de forma autónoma sin supervisión humana.
En cualquier caso, la sociedad tiene una larga tradición de ver algunos avances tecnológicos como amenazas existenciales (el fuego, la electricidad, las vacunas, la aviación, Internet, etc.) que después se han convertido en herramientas de uso cotidiano.
Hay que recordar que los años noventa y principios del 2000 estaban llenos de personajes que argumentaban que el buscador de Google acabaría por mermar las habilidades cognitivas de la raza humana.
Lo que sabemos
La inteligencia artificial es una tecnología que, mediante el uso de algoritmos y software, busca imitar la inteligencia humana. Para lograr esto, utiliza técnicas de aprendizaje automático y procesamiento del lenguaje natural para analizar la información.
No tiene pensamientos propios. De hecho, ni siquiera entiende el lenguaje humano.
En este sentido, antes de que pueda procesar la información, primero debe convertir las palabras en números.
Las limitaciones de los LLM han sido bien documentadas por Gary Marcus y muchos otros investigadores.
Por lo tanto, estos modelos de lenguaje, a día de hoy, no causarán el apocalipsis. En todo caso, los humanos ya nos apañamos bastante bien para putearnos entre nosotros.
Basta con echar un vistazo a la prensa.
Por lo tanto, la amenaza más grave a la que nos enfrentamos no es la inteligencia artificial en sí misma.
Es el uso malintencionado de esta tecnología por parte de los seres humanos.
Pero es bastante buena en otra cosa: recopilar y manejar información de manera extremadamente matizada
Recopila (más bien raspa) información de fuentes como redes sociales, dispositivos móviles, sensores de IoT, transacciones en línea, fuentes abiertas, publicaciones científicas, páginas web, etc.
Muchas veces pasándose los derechos de autor por el forro del algoritmo.
Y algunos de estos datos pueden servir incluso para identificar, contactar o localizar a una persona en concreto.
Este aumento en la recopilación de datos mejora la capacidad de la IA para analizar comportamientos y preferencias.
También se está utilizando para reconocimiento facial (con más errores que aciertos), estudios de solvencia crediticia o atención médica.
Esto último es extremadamente peligroso para la salud, tanto física como mental, si de por medio no hay supervisión por parte de un profesional.
Es por eso que los LLM son una mina de oro para las empresas y un coto de caza atractivo para los delincuentes.
ChatGPT, Copilot, Claude, Grok y compañía se pueden utilizar para cualquier cosa que queramos: crear listas de la compra, ponernos a dieta, organizar nuestro calendario, redactar correos electrónicos o escribir código.
Pueden llegar a imitar a un asistente personal, un maestro, un confidente o cualquier otra cosa que les pidamos.
Millones de personas de todo el mundo ya están compartiendo sus ideas, pensamientos e incluso sus secretos más íntimos e inconfesables con los chatbots.
Por lo tanto, mantengámonos informados, permanezcamos vigilantes y seamos cautelosos con lo que compartimos con estas herramientas.
