AI och GDPR
Tillämpningen av diskriminerande algoritmer
Tillämpningen av diskriminerande algoritmer i samband med behandling av personuppgifter är förbjuden. Detta är viktigt att tänka på vid utveckling och användning av AI-modeller.
Principen om korrekthet: Förbjudet med diskriminering
Principen om korrekthet innebär bland annat att behandlingen av personuppgifter inte får vara diskriminerande. Med andra ord ska det ske en rättvis, rimlig och proportionerlig behandling av personuppgifter i förhållande till de registrerade.
Det är inte alltid enkelt att upptäcka diskriminerande algoritmer och ofta sker användningen av diskriminerande algoritmer omedvetet.
Problem som kan uppstå vid anvädning av AI-baserat rekryteringssystem
Ett praktiskt exempel på när det kan uppstå diskriminerande algoritmer vid användning av ett AI-verktyg, är om ett företag använder ett AI-baserat rekryteringssystem för att analysera tidigare anställda för att kunna hitta nya lämpliga kandidater. Många arbetsplatser är överrepresenterade av män, vilket kan innebära att systemet favoriserar manliga kandidater.
Det är inte alltid enkelt att upptäcka diskriminerande algoritmer och ofta sker användningen av diskriminerande algoritmer omedvetet.
Vad är viktigt för företag att tänka på gällande diskriminerande algoritmer vid utveckling och användning av AI-modeller?
Företag som utvecklar AI-modeller måste vidta tillräckliga tekniska och organisatoriska åtgärder för att se till att AI-modellen är förenlig med reglerna i GDPR. Det handlar bland annat om att se till att användningen sker i enlighet med principen om korrekthet, såsom att AI-modlellen använder algoritmer som är icke diskriminerande. Därför är det viktigt att göra noggranna bedömningar innan lanseringen, samt regelbundet därefter, för att se så att personuppgifter är relevanta och korrekt behandlade. Dessutom är det bra att ständigt testa AI-modellen så att den till exempel inte diskriminerar grupper av individer eller enskilda individer.
Mer info om AI och GDPR
Vilka rättsliga grunder kan vara lämpliga att använda vid utveckling eller användning av AI-modeller?
I GDPR finns det totalt sex (6) rättsliga grunder som företag kan stödja en behandling på. Varje enskild behandling måste ha stöd i en rättslig grund. Berättigat intresse är den mest flexibla och en vanlig rättslig grund att använda vid utveckling eller användning av AI-modeller. Samtycke som rättslig grund kan vara svår att använda vid utveckling av AI-modeller, men vara mer tillämpligt vid användning av AI-verktyg som redan existerar. Avtal med registrerade kan också vara en lämplig rättslig grund i vissa fall. Vilken rättslig grund som är lämplig i varje enskilt fall beror på omständigheterna i det specifika fallet.