Nuevos problemas para ChatGPT en Europa: ya criticado en el pasado por violaciones de la privacidad y falta de transparencia, el programa de inteligencia artificial generativa de OpenAI ahora es acusado de difundir información falsa sobre las personas a través de "alucinaciones" que no pueden rectificarse.
Esto y otros hechos dan lugar a algunas violaciones del GDPR, el reglamento europeo de protección de datos personales.
La acusación proviene de Nyob (acrónimo de None Of Your Business), una organización sin ánimo de lucro también definida como Centro Europeo para los Derechos Digitales.
Esta organización, mediante acciones colectivas e iniciativas mediáticas, apoya a los ciudadanos europeos cuyos derechos de privacidad han sido violados.
Como es bien sabido, la IA generativa es una forma avanzada de aprendizaje automático y, como tal, si bien imita la inteligencia humana, proporciona respuestas en función de probabilidades.
La enorme cantidad de datos «ingeridos» y los miles de millones de parámetros utilizados para entrenar los algoritmos, ayudan a ampliar su base de conocimientos, pero no garantizan una precisión total.
Noyb explicó que aunque la información inexacta puede ser tolerable para ciertos usos (por ejemplo cuando un estudiante usa ChatGPT para ayudarlo con sus tareas), se vuelve ilegal en la UE cuando los datos inexactos son información personal.
Desde 1995, la legislación de la UE exige que los datos personales sean exactos.
Otros dos artículos del Reglamento General de Protección de Datos (concretamente los artículos 15 y 16) exigen que una empresa tiene que mostrar los datos personales que almacena, si asi se lo exigen los interesados.
También cuáles son sus fuentes de procedencia. Algo que en ambos casos, OpenAI no puede hacer.
Por otro lado, el artículo 16, reconoce el derecho de los ciudadanos a la rectificación o eliminacion de sus datos, ya sean autenticos, falsos o inexactos.
Pero OpenAI, dice que no puede eliminar los datos utilizados originalmente para entrenar el algoritmo, ni revertir los efectos del entrenamiento como si borraran una memoria.
En su denuncia, la organización sin ánimo de lucro solicitó al OSD que llevara a cabo las siguientes acciones:
- Investigar el procesamiento de datos de OpenAI y las medidas tomadas para garantizar la exactitud de los datos personales procesados en el contexto de ChatGPT.
- Obligar a la empresa de inteligencia artificial a cumplir con la solicitud del denunciante a tener acceso a sus datos.
- Imponer una multa para garantizar el cumplimiento futuro del Reglamento General de Protección de Datos.
En una declaración pública Maartje de Graaf, abogado de protección de datos de Noyb, comentó: “Está claro que las empresas actualmente no pueden hacer que los chatbots como ChatGPT cumplan con la legislación de la UE cuando procesan datos sobre individuos".
Si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre individuos.
La tecnología debe cumplir con los requisitos legales y no al revés.
¿A quién debería preocuparle esta historia?
A la gente que vivimos en la UE: si se alimenta a la bestia con nuestros datos, ChatGPT puede generar información personal inexacta que podría ser utilizada para cualquier propósito.
Usuarios de ChatGPT: Cualquiera que use ChatGPT para obtener información, debe ser consciente de que esta podría no ser precisa. Especialmente en lo referente a temas sensibles como la información sobre las personas.
Tambien a las empresas que utilizan la API de ChatGPT, ya que si generan información falsa o inexacta, podrían verse envueltas en litigios legales.
¿Qué es lo siguiente?
Bueno, tendremos que esperar a que las autoridades competentes revisen el asunto y determinen si Nyob tiene razón.
De ser así, OpenAI podría enfrentarse a una fuerte multa.
La denuncia de Nyob se tramitará en Austria.
