VIENA, AUSTRIA.- La asociación austríaca Noyb, que milita por la protección de la vida privada, anunció que presentó una demanda contra el programa estrella de inteligencia artificial (IA) generativa ChatGPT por “divagar” e inventarse respuestas sin que su editor OpenAI lo impida.
Este tipo de instrumentos “inventan regularmente respuestas”, subrayó en un comunicado Noyb, cuyo nombre obedece a las siglas de “None of your business” (No es asunto tuyo, en inglés).
Cuando se preguntó a ChatGPT la fecha de nacimiento del fundador de la asociación, Max Schrems, respondió “sistemáticamente con una falsa información” en vez de reconocer que no la sabía.
“Si un sistema no puede suministrar resultados correctos y transparentes, no debería ser utilizado para generar datos sobre personas. La tecnología debe plegarse a la ley y no al contrario”, insiste la abogada Maartje de Graaf, citada en el comunicado.
Noyb indica que la Reglamentación General Europea sobre la Protección de Datos (RGPD) estipula la obligación de exactitud. Con mayor razón cuando la empresa OpenAI “rechazó la petición del demandante de corregir o borrar el error”.
Tampoco respondió a su petición de acceso a los datos que le conciernen y a las fuentes de información, violando de nuevo la ley.
OpenAI afirmó su compromiso “con la protección de la privacidad informativa”, en respuesta a una consulta de la AFP.
“Queremos que nuestros modelos de IA aprendan sobre el mundo, no sobre individuos; no buscamos activamente información personal para entrenar nuestros modelos y no usamos información disponible públicamente en internet para crear perfiles, hacer publicidad o dirigirnos a personas ni vender sus datos”, afirmó un portavoz de OpenAI.
En su demanda, la asociación Noyb, que se ha convertido desde su creación en 2018 en el espantajo de los gigantes de la tecnología, pide a la autoridad austríaca de protección de datos abrir una investigación y multar a la empresa californiana.
Creado en noviembre de 2022 y financiado por Microsoft, ChatGPT fue muy solicitado por usuarios impresionados por su capacidad para suministrar disertaciones, poemas o traducciones en unos cuantos segundos.
Pero ante los riesgos vinculados a su actividad, fueron iniciados procesos en varios países.
Italia temporalmente bloqueó el programa en marzo de 2023 y la autoridad de regulación francesa (Cnil) inició el examen de una serie de quejas. También se instaló un grupo de trabajo europeo sobre el tema.
Alianza
Este problema judicial llega en medio de un avance para OpenAI, que firmó un contrato con El diario Financial Times (FT) para permitir que la start up de inteligencia artificial integre parte del contenido del periódico en sus respuestas.
El acuerdo permitirá que ChatGPT dé a sus usuarios “resúmenes de actualidad atribuidos al FT, citas y links en respuesta a preguntas”, indicó un comunicado del diario.
Esta “asociación estratégica” ayudará a mejorar la utilidad de los modelos de OpenAI, aseguró el FT.
Esto “nos dará información sobre cómo el contenido es exhibido a través de la IA”, indicó el CEO del diario, John Ridding.
ChatGPT es parte de la revolución de la IA generativa, que permite producir textos e imágenes a pedido de un usuario en lenguaje corriente.
En los últimos meses la agencia Associated Press, el medio alemán Axel Springer, el francés Le Monde y el grupo español Prisa Media, alcanzaron acuerdos de contenido con OpenAI.
La firma respaldada por Microsoft se ha acercado a los medios a medida que aumenta la susceptibilidad por alegaciones de que la IA viola los derechos de autor y por el potencial de esta tecnología para alimentar la desinformación.
Los gigantes de Silicon Valley recogieron cantidades astronómicas de datos en internet para “entrenar” a sus modelos de IA.
Es “justo” que las plataformas de IA paguen a los medios por utilizar su material, comentó Ridding, citado en el comunicado.
