Dada la gran avalancha inicial de publicaciones creadas mediante ChatGPT, en principio, dio la impresión de que era una herramienta con poderes casi ilimitados que tal vez incluso algún día podría llegar a reemplazar el intelecto humano.
Pero con tanta gente usando la aplicación, los problemas no tardaron en empezar a surgir.
¿Cuáles son los principales problemas de ChatGPT?
La gente empezó a darse cuenta de que ChatGPT no entendía los textos que generaba, simplemente eran secuencias de palabras estadísticamente plausibles.
A diferencia de otros asistentes de inteligencia artificial como Siri o Alexa, Chat GPT no utiliza Internet para buscar respuestas.
En lugar de eso, se dedica a construir su relato palabra por palabra, seleccionando las respuestas más probables en función de su entrenamiento.
Por lo tanto, no es de extrañar que algunas respuestas de ChatGPT a menudo sean incorrectas, surrealistas, a veces triviales, o con errores graves.
- Falla en matemáticas básicas.
- Parece que no puede responder preguntas lógicas y simples.
- Llega a argumentar hechos de manera incompleta o sin sentido.
Sin duda es artificial, pero ¿Inteligente? No tanto.
- ¿Hasta qué punto las publicaciones deberían depender de la IA para crear contenido?
- ¿Se debería exigir a los periódicos, páginas web, blogs, etc., que hagan público el uso de la IA?
- Los sistemas de IA generativa suelen dar respuestas sin apoyarse en fuentes contrastadas.
- ¿Quién verifica si el contenido desarrollado con IA es exacto?
- ¿Debería publicarse sin haber pasado por un proceso de revisión?
Y esto, dependiendo del contexto, puede llegar a ser peligroso.
No es ningún secreto que muchas personas consultan al «doctor Google» para saber a qué responden ciertos síntomas que pueden padecer en un momento dado.
Si bien lo mejor es acudir a un centro de salud, por lo menos, la información proporcionada por este motor de búsqueda, nos puede remitir a páginas web de clínicas o sitios parecidos.
Pero en el caso de la aplicación de Open AI, sus «alucinaciones» puede ser especialmente dañinas cuando se le pide algún consejo médico.
Esto es solo un ejemplo, pero en cualquier caso, ChatGPT no debería haber sido puesto a disposición del público tan alegremente.
Riesgos para la privacidad
Uno de los mayores problemas de ChatGPT tiene que ver con la privacidad.
Para registrarse hay que facilitar una dirección de correo electrónico y un número de teléfono móvil.
El servicio puede recopilar y procesar detalles confidenciales a partir de las indicaciones que las personas le proporcionamos, asociar esa información con nuestro correo electrónico, número de teléfono, y almacenarla indefinidamente.
Y la empresa no permite utilizar direcciones de correo electrónico desechables.
El efecto de estas medidas es que una cuenta de Chat GPT está ligada a dos marcadores clave de identidad en línea: el correo electrónico y el número de teléfono móvil.
Y si a eso le sumamos la dirección IP, el identificador del dispositivo, la ubicación geográfica, el tipo de navegador, y el sistema operativo, la privacidad brilla por su ausencia.
Cómo ChatGPT recopila información personal
ChatGPT mantiene un registro de cada mensaje que le enviamos.
Sus «entrenadores humanos» a veces también pueden revisar las conversaciones para mejorar el chat.
Esta información les posibilita aprender mucho sobre nuestros intereses, creencias, obsesiones, paranoias e inquietudes.
Esto también se aplica a los motores de búsqueda, pero ChatGPT puede interactuar con un usuario de una manera completamente nueva.
Establecer un diálogo con la aplicación, es una de las principales formas en que ChatGPT puede recopilar información muy personal.
El poder de este software hace que en un momento dado el usuario se olvide de que está tratando con un sistema de inteligencia artificial, y comience a chatear como lo haría con otro humano.
Al hacerlo, podría revelar cosas que nunca escribiría en un motor de búsqueda.
En consecuencia, toda la información personal que ha proporcionado, ahora, está asociada para siempre a su correo electrónico y a su número de teléfono.
Otros riesgos surgen de las malas prácticas de privacidad de muchos de los clones de ChatGPT que circulan por el medio silvestre.
Pero una preocupación más general sobre ChatGPT surge del hecho de que en su núcleo se encuentran grandes cantidades de datos escritos por humanos.
Según un artículo del sitio Science Focus de la BBC, esto equivale a 570 gigabytes de datos, unos 300 mil millones de palabras en total.
Cada vez que compartimos información con ChatGPT, estamos agregando información a su banco de datos, arriesgándonos a que termine en algún lugar de dominio público.
Otro problema de usar ChatGPT (u otra IA generativa similar) es el riesgo de que la plataforma sufra una violación de datos.
Entre junio de 2022 y mayo de 2023, 100.000 credenciales de ChatGPT se vieron comprometidas y vendidas en la Dark Web en un gran desparramo de cuentas.
¿Qué dice OpenAI sobre el impacto de ChatGPT en la privacidad?
Da la sensación de que a OpenAI estos problemas se la pelan bastante, quizás porque están demasiado entusiasmados por las indudables capacidades de su nueva tecnología.
En sus preguntas frecuentes, escriben : «Por favor, no comparta ninguna información confidencial en sus conversaciones», lo cual es a la vez ingenuo e inútil.
En su política de privacidad, OpenAI afirma que comparte estos datos con:
- Vendedores y proveedores de servicios.
- Otros negocios.
- Afiliados.
- Entrenadores de IA que revisan las conversaciones.
Inevitablemente, las personas menos informadas, ingresarán todo tipo de datos personales para obtener respuestas a las preguntas que les interesan o les inquietan.
Y si no son lo suficientemente cuidadosos con algunos detalles íntimos de su vida, pueden llegar a revelar demasiada información confidencial.
Una vez enviada, esta información ya no se puede eliminar y pasa a formar parte de los 570 gigabytes de datos utilizados para alimentar a la bestia.
¿Las leyes de privacidad se pondrán al día con ChatGPT?
Incluso si a OpenAI no le preocupan demasiado los enormes riesgos de privacidad de su sistema, es probable que pronto se vean obligados a tomar medidas.
Por ejemplo, parece seguro que gran parte de los datos que ChatGPT ha devorado, estarán sujetos a la nueva Ley de IA de la UE (que actualmente se está tramitando), lo que podría tener un impacto importante en la forma en que se utiliza y gestiona esta aplicación.
Conclusión
OpenAI recopila mucha información sobre nosotros.
Algunos esos datos, como los detalles de la cuenta y la información del dispositivo, están dentro de los estándares de la industria: la gran mayoría de sitios y aplicaciones hacen lo mismo.
Sin embargo, la aplicación también vampiriza cualquier información personal ingresada en el chatbot.
Este es un riesgo real para la privacidad.
Para empeorar las cosas, pone esta información a disposición de sus entrenadores de IA, o la comparte con terceros.
No es necesario que salgas por piernas y dejes de usar ChatGPT por completo, pero debes tomar medidas para proteger tu intimidad.
Lo más importante es eliminar cualquier información privada antes de presionar en enviar.
