La IA generativa y protección de datos son dos conceptos muy ligados entre sí. Esta tecnología puede generar, transformar o reproducir información basada en grandes volúmenes de datos, la mayoría de ellos personales.
¿Qué es IA generativa?
La IA generativa se refiere a sistemas capaces de crear contenido nuevo a partir de un patrón. Para conseguirlo, estos sistemas se entrenan con muchos datos, entre los cuales datos personales que son protegidos por ley.
Como sabemos, esto genera nuevos retos en materia de privacidad. Los datos que se usan para entrenar modelos pueden ser identificables o reidentificables. A ellos se aplica la normativa de protección de datos. El tratamiento automatizado puede ser una amenaza sin aplicación de medidas adecuadas. Sobretodo, cuando los modelos replican información personal o generan resultados que afectan a individuos concretos.
Tratamiento de datos
El tratamiento de datos personales para entrenar sistemas de IA generativa implica recoger, almacenar y procesar información. Hablamos de información que puede identificar directa o indirectamente a una persona física.
Cuando una organización utiliza este tipo de tecnología, puede estar tratando datos personales de diferentes maneras. Por ejemplo, si se incluyen textos, imágenes o audios obtenidos de redes sociales o bases públicas, pueden estar presentes datos identificativos.
En estos casos, se considera tratamiento de datos personales según el Reglamento General de Protección de Datos y la Ley Orgánica de Protección de Datos . Hay que tener en cuenta base legal para el tratamiento, información adecuada al interesado, respeto a sus derechos y adopción de distintas medidas de seguridad.
IA generativa y AI Act
La AI Act, en implementación todavía, es la propuesta legislativa de la Unión Europea para regular la inteligencia artificial. Clasifica los sistemas de IA según su nivel de riesgo que puede ser mínimo, limitado, alto y prohibido.
En definitiva, los sistemas de IA generativa se consideran de riesgo limitado o alto si afectan derechos fundamentales. Además, el AI Act impone obligaciones de transparencia, trazabilidad, supervisión humana para estos sistemas, sobretodo si generan contenido de forma autónoma.
