La agencia de protección de datos de Italia decidió este viernes (31/03) prohibir temporalmente el software ChatGPT, un sistema de chat basado en inteligencia artificial (IA), y lanzó una investigación para investigar una presunta violación de las reglas de recopilación de datos.
La empresa estadounidense OpenAI, responsable de ChatGPT, trabaja sin “ningún fundamento legal que justifique la recopilación y el almacenamiento masivo de datos personales con el objetivo de 'entrenar' los algoritmos que subyacen al funcionamiento de la plataforma", afirmó el Garantía de Protección de Datos Personales (GPDP).
La agencia también destacó la falta de claridad sobre qué datos se estaban recopilando. Las respuestas erróneas proporcionadas por el chatbot sugerirían que los datos no se están procesando correctamente y la empresa estaría exponiendo a los niños a “respuestas absolutamente inapropiadas”.
Esto se debe a que la aplicación respaldada por Microsoft tampoco estaría verificando la edad de sus usuarios, quienes deben tener 13 años o más, acusó GPDP. OpenAI tiene ahora 20 días para responder a la acusación y podría recibir una multa de 20 millones de euros o hasta el 4% de sus ingresos anuales a nivel mundial.
Con esta medida, Italia se convirtió en el primer país de Occidente en tomar medidas contra un chatbot impulsado por inteligencia artificial. ChatGPT también está bloqueado en China continental, Hong Kong, Irán y Rusia, así como en partes de África.
Sensación global sujeta a críticas
ChatGPT causó sensación a nivel mundial cuando se lanzó en 2022 por su capacidad para generar ensayos, música e incluso artículos de noticias a partir de solicitudes breves. El gran éxito le valió a OpenAI un acuerdo multimillonario con Microsoft, que utiliza la tecnología en su motor de búsqueda Bing y otros programas.
También ha provocado una carrera loca entre otras empresas de tecnología, con competidores lanzando sus propios chatbots e inversores invirtiendo dinero en todo tipo de proyectos de IA.
Pero los críticos expresan su preocupación porque no está claro de dónde obtienen ChatGPT y sus competidores sus datos y cómo los procesan. Las universidades y algunas autoridades educativas han prohibido el chatbot porque temen que los estudiantes puedan usarlo para escribir ensayos o hacer trampa en los exámenes.
El rápido desarrollo de la tecnología también ha atraído la atención de los responsables de la formulación de políticas en muchos países. Varios expertos piden nuevas regulaciones para controlar la IA, debido a su potencial impacto en la seguridad nacional, el empleo y la educación.
El miércoles se publicó una carta abierta firmada por cientos de expertos y figuras de la industria, en la que se pedía una pausa en el desarrollo de potentes sistemas de inteligencia artificial, argumentando que plantean “profundos riesgos para la sociedad y la humanidad”.
La carta estuvo motivada por el lanzamiento, a principios de marzo, de GPT-4, una versión más potente del software y con aún menos transparencia sobre sus fuentes de datos.
Se estima que ChatGPT alcanzó los 100 millones de usuarios activos mensuales en enero, sólo dos meses después de su lanzamiento, lo que la convierte en la aplicación para consumidores de más rápido crecimiento de la historia, según un estudio publicado en febrero.
