AI og GDPR
Anvendelse af diskriminerende algoritmer
Anvendelse af diskriminerende algoritmer i forbindelse med behandling af personoplysninger er forbudt. Dette er vigtigt at huske på, når man udvikler og bruger AI-modeller.
Princippet om korrekthed: Forbudt mod diskrimination
Retfærdighedsprincippet indebærer bl.a., at behandlingen af personoplysninger ikke må være diskriminerende. Med andre ord skal der være en rimelig, rimelig og forholdsmæssig behandling af personoplysninger i forhold til de registrerede.
Det er ikke altid let at opdage diskriminerende algoritmer, og ofte forekommer brugen af diskriminerende algoritmer ubevidst.
Problemer, der kan opstå ved brug af AI-baserede rekrutteringssystemer
Et praktisk eksempel på, hvornår diskriminerende algoritmer kan forekomme, når der anvendes et AI-værktøj, er, hvis en virksomhed anvender et AI-baseret rekrutteringssystem til at analysere tidligere medarbejdere med henblik på at finde nye egnede kandidater. Mange arbejdspladser er overrepræsenteret af mænd, hvilket kan betyde, at systemet favoriserer mandlige kandidater.
Det er ikke altid let at opdage diskriminerende algoritmer, og ofte forekommer brugen af diskriminerende algoritmer ubevidst.
Hvad er vigtigt for virksomheder at overveje med hensyn til diskriminerende algoritmer, når de udvikler og bruger AI-modeller?
Virksomheder, der udvikler AI-modeller, skal træffe tilstrækkelige tekniske og organisatoriske foranstaltninger for at sikre, at AI-modellen er i overensstemmelse med reglerne i GDPR. Dette omfatter sikring af, at anvendelsen er i overensstemmelse med princippet om nøjagtighed, f.eks. AI-modemets anvendelse af ikkediskriminerende algoritmer. Det er derfor vigtigt at foretage grundige vurderinger før lanceringen og regelmæssigt derefter for at sikre, at personoplysninger er relevante og behandles korrekt. Desuden er det godt konstant at teste AI-modellen, så den f.eks. ikke diskriminerer grupper af enkeltpersoner eller enkeltpersoner.
Flere oplysninger om AI og GDPR
Hvilke retsgrundlag kan være hensigtsmæssige at anvende til udvikling eller anvendelse af AI-modeller?
I GDPR er der i alt seks (6) retsgrundlag, som virksomheder kan støtte en behandling på. Hver enkelt behandling skal være baseret på et retsgrundlag. Legitim interesse er det mest fleksible og fælles retsgrundlag, der kan anvendes i forbindelse med udvikling eller anvendelse af AI-modeller. Samtykke som retsgrundlag kan være vanskeligt at anvende, når der udvikles AI-modeller, men det kan være mere anvendeligt, når der anvendes allerede eksisterende AI-værktøjer. Aftaler med registrerede kan også være et passende retsgrundlag i visse tilfælde. Det korrekte retsgrundlag i hvert enkelt tilfælde afhænger af omstændighederne i den konkrete sag.