Artificiell intelligens
Använda AI för att fastställa beslut om personer
Det är inte ovanligt att använda AI för att fastställa beslut om personer. Vid sådana fall kan det vara fråga om ett automatiskt beslutsfattande, vilket regleras särskilt i GDPR. Enligt huvudregeln är det förbjudet att behandla personuppgifter genom automatiskt beslutsfattande, men det finns undantag.
Definition av automatiskt beslutsfattande
När ett beslut fattas helt utan att någon fysisk person är inblandad, är det ett automatiskt beslutsfattande. Det är inte ett automatiskt beslutsfattande om en person använder en AI-modell som stöd, men i slutändan själv fattar beslutet.
Informationsplikt vid automatiserat beslutsfattande
Företag måste informera de registrerade om behandlingen av deras personuppgifter. Detta gäller även vid utveckling eller/och användning av olika AI-modeller. Om behandlingen avser ett automatiserat beslutsfattande, måste den registrerade även få en förklaring av hur beslutet fattats. Exempelvis information om logiken och vilka konsekvenser behandlingen kan få. Det behöver inte nödvändigtvis innebära att företaget måste öppna den svarta lådan, men företaget måste ge så mycket information som är lämpligt gällande hur AI-modellen kommer fram till beslutet om det är ett automatiserat beslutsfattande som är individuellt.
Undantag på när individuellt automatiserat beslutsfattande kan vara tillåtet
Fullgörande av avtal
När det är nödvändigt för att antingen ingå ett avtal eller fullgöra ett avtal. Observera att avtalet ska vara mellan den personuppgiftsansvarige och registrerade.
Rättslig förpliktelse
Om det är tillåtet att använda automatiserat beslutsfattande enligt någon lagstiftning som fastställer skyddsåtgärder som är lämpliga.
Uttryckligt samtycke
När den personuppgiftsansvarige får ett uttryckligt samtycke till användning av automatiserat beslutsfattande från den registrerade.
Mer om AI
Grundläggande dataskyddsprinciper
Företag måste följa de sju (7) grundläggande principerna i GDPR vid behandling av personuppgifter. Vid utveckling och användning av AI-modeller finns det flera principer att beakta särskilt mycket, eftersom de har en stor påverkan. Exempelvis principen om uppgiftsminimering, som innebär att företag inte ska behandla fler personuppgifter än nödvändigt för att uppnå syftet, vilket kan vara svårt att uppfylla vid utveckling av AI-modeller. Dessutom är det viktigt att se till att AI-modellen inte är diskriminerande, eftersom det strider mot principen om korrekthet.