AI og GDPR
Bruk av diskriminerende algoritmer
Bruk av diskriminerende algoritmer i behandlingen av personopplysninger er forbudt. Dette er viktig å huske på når du utvikler og bruker AI-modeller.
Prinsippet om regelmessighet: Forbud mot diskriminering
Rettferdighetsprinsippet innebærer blant annet at behandling av personopplysninger ikke skal være diskriminerende. Med andre ord må behandlingen av personopplysninger være rettferdig, rimelig og forholdsmessig i forhold til de registrerte.
Det er ikke alltid lett å oppdage diskriminerende algoritmer, og ofte er bruken av diskriminerende algoritmer ubevisst.
Problemer som kan oppstå ved bruk av AI-baserte rekrutteringssystemer
Et praktisk eksempel på når diskriminerende algoritmer kan oppstå ved bruk av et AI-verktøy, er om et selskap bruker et AI-basert rekrutteringssystem for å analysere tidligere ansatte for å finne nye egnede kandidater. Mange jobber er overrepresentert av menn, noe som kan bety at systemet favoriserer mannlige kandidater.
Det er ikke alltid lett å oppdage diskriminerende algoritmer, og ofte er bruken av diskriminerende algoritmer ubevisst.
Hva er viktig for bedrifter å vurdere eksisterende diskriminerende algoritmer i utvikling og bruk av AI-modeller?
Bedrifter som utvikler AI-modeller må ta tilstrekkelige tekniske og organisatoriske tiltak for å sikre at AI-modellen overholder GDPR-reglene. Dette inkluderer å sikre at bruken av dem er i tråd med prinsippet om rettferdighet, for eksempel AI-modellens ikke-diskriminerende bruk av algoritmer. Derfor er det viktig å gjennomføre grundige vurderinger før lansering, samt regelmessig etterpå, for å sikre at personopplysninger er relevante og riktig behandlet. I tillegg er det nyttig å stadig teste AI-modellen slik at den for eksempel ikke diskriminerer grupper av enkeltpersoner eller enkeltpersoner.
Mer informasjon om AI og GDPR
Hvilke rettslige grunnlag kan være hensiktsmessige å bruke for utvikling eller bruk av AI-modeller?
I GDPR er det totalt seks (6) juridiske grunnlag som selskaper kan støtte en behandling på. Hver enkelt behandlingsoperasjon må støttes av et rettslig grunnlag. Legitime interesser er det mest fleksible og felles rettslige grunnlaget å bruke ved utvikling eller bruk av AI-modeller. Samtykke som rettslig grunnlag kan være vanskelig å bruke ved utvikling av AI-modeller, men mer aktuelt ved bruk av AI-verktøy som allerede finnes. Kontrakter med registrerte kan også være et passende rettslig grunnlag i visse tilfeller. Riktig rettslig grunnlag i hvert enkelt tilfelle vil avhenge av omstendighetene i den konkrete saken.