IA Y RGPD
Uso de algoritmos discriminatorios en relación con el tratamiento de datos personales
Queda prohibido el uso de algoritmos discriminatorios en relación con el tratamiento de datos personales. Esto es importante tenerlo en cuenta al desarrollar modelos de IA y utilizar herramientas de IA.
Principio de equidad: La discriminación está prohibida
El principio de equidad implica, entre otras cosas, que el tratamiento de datos personales no debe ser discriminatorio. En otras palabras, debe haber un tratamiento justo, razonable y proporcionado de los datos personales en relación con los interesados.
No siempre es fácil detectar algoritmos discriminatorios y, a menudo, el uso de algoritmos discriminatorios ocurre inconscientemente.
Problemas que pueden surgir al utilizar sistemas de reclutamiento basados en IA
Un ejemplo práctico de cuándo pueden producirse algoritmos discriminatorios al utilizar una herramienta de IA es si una empresa utiliza un sistema de contratación basado en IA para analizar a antiguos empleados con el fin de encontrar nuevos candidatos adecuados. Muchos lugares de trabajo están sobrerrepresentados por hombres, lo que puede significar que el sistema favorece a los candidatos masculinos.
¿Qué es importante que las empresas tengan en cuenta en relación con los algoritmos discriminatorios al desarrollar y utilizar modelos de IA?
Las empresas que desarrollan modelos de IA deben adoptar suficientes medidas técnicas y organizativas para garantizar que el modelo de IA cumpla las normas del RGPD. Esto incluye garantizar que el uso sea conforme con el principio de equidad, como el uso de algoritmos no discriminatorios por parte del modelo de IA. Por lo tanto, es importante realizar evaluaciones exhaustivas antes del lanzamiento, así como periódicamente a partir de entonces, para garantizar que los datos personales sean relevantes y se procesen adecuadamente. Además, es bueno probar constantemente el modelo de IA para que, por ejemplo, no discrimine a grupos de personas o individuos.
APRENDE MÁS
¿Qué bases jurídicas pueden ser adecuadas para el desarrollo o la utilización de modelos de IA?
En el RGPD, hay un total de seis (6) bases legales sobre las cuales las empresas pueden respaldar un procesamiento. Cada tratamiento individual de datos personales debe estar respaldado por una base jurídica. El interés legítimo es la base jurídica más flexible y común para utilizar en el desarrollo o uso de modelos de IA. El consentimiento como base jurídica puede ser difícil de utilizar cuando se desarrollan modelos de IA, pero puede ser más aplicable cuando se utilizan herramientas de IA que ya existen. Los contratos con los interesados también pueden constituir una base jurídica adecuada en determinados casos. La base jurídica adecuada en cada caso individual depende de las circunstancias del caso concreto.