NL EN
  • Home»
  • Weblog »
  • Profilering en geautomatiseerde besluitvorming onder de AVG

Profilering en geautomatiseerde besluitvorming onder de AVG

Onder de Algemene verordening gegevensbescherming (“AVG”) wordt specifiek aandacht besteed aan profileringen geautomatiseerde besluitvorming, al dan niet door middel van profilering. In steeds meer sectoren worden profilering en geautomatiseerde besluitvorming toegepast. Denk aan banken, gezondheidszorg, verzekeringsmaatschappijen, marketing en advertenties. Dankzij de technologische ontwikkelingen en de mogelijkheden van big data-analyse en kunstmatige intelligentie is het nog makkelijker geworden om profielen te maken en geautomatiseerde beslissingen te nemen.

Profilering en geautomatiseerde besluitvorming kunnen nuttig zijn voor betrokkenen (degenen op wie persoonsgegevens betrekking hebben) en organisaties. Organisaties zijn immers beter in staat om hun markt en doelgroepen te segmenteren en kunnen zodoende hun producten en diensten beter afstemmen op individuele behoeften, waarindividuen uiteindelijk baat bij hebben.

Profilering en geautomatiseerde besluitvorming kunnen echter ook risico’s meebrengen voor deprivacy van betrokkenen. Zo weten veel mensen vaak niet dat ze geprofileerd worden en begrijpen ze niet hoe het werkt. Daarnaast kan het ertoe leiden dat een persoon in een hokje wordt geplaatst en zelfs, indien data onjuist ofonvolledig is, tot onjuiste voorspellingen en (onterechte) weigering van levering van bepaalde producten of diensten en zelfs discriminatie.

Wat is profilering en geautomatiseerde besluitvorming?

De AVG richt zich niet alleen op de beslissingen die zijn genomen als gevolg van geautomatiseerde verwerking of profilering. Het geldt voor het verzamelen van gegevens voor het opstellen van profielen, evenals de toepassing van die profielen op individuen.

Profilering

De AVG definieert profilering als “elke vorm van geautomatiseerde verwerking van persoonsgegevens waarbij aande hand van persoonsgegevens bepaalde persoonlijke aspecten van een natuurlijke persoon worden geëvalueerd, met name met de bedoeling zijn beroepsprestaties,economische situatie, gezondheid, persoonlijke voorkeuren, interesses,betrouwbaarheid, gedrag, locatie of verplaatsingen te analyseren of tevoorspellen.”

Geautomatiseerde besluitvorming

Ten aanzien van geautomatiseerde besluitvorming bepaalt de AVG, in een daarvoor specifieke bepaling, dat betrokkenen het recht hebben om niet te worden onderworpen aaneen louter op geautomatiseerde verwerking gebaseerd besluit, dat een maatregelkan behelzen — over persoonlijke hem betreffende aspecten, waaraan voor hemrechtsgevolgen zijn verbonden of dat hem op vergelijkbare wijze aanmerkelijk treft, zoals de automatische weigering van een online ingediendekredietaanvraag of van verwerking van sollicitaties via internet zonder menselijke tussenkomst.

Als het gaat om profilering engeautomatiseerde besluitvorming zijn er dus drie vormen denkbaar:

1.     Het opstellen van profielen

2.     Besluitvorming op basis van profielen (bijvoorbeeld: eenpersoon beslist of de lening kan worden verstrekt op basis van een profiel)

3.     Een louter op geautomatiseerde verwerking gebaseerdbesluit, al dan niet op basis van een profiel (bijvoorbeeld: een algoritmebepaalt of de lening kan worden verstrekt en het besluit wordt automatisch metde betrokkene gedeeld, zonder menselijke tussenkomst)

Uitsluitend geautomatiseerde besluitvorming

Het verbod op geautomatiseerdebesluitvorming is alleen van toepassing als er helemaal geen sprake is vanmenselijke tussenkomst. Als een geheel geautomatiseerd proces een aanbevelinglevert met betrekking tot een betrokkenen, maar er medewerker beoordeelt eerstnog andere factoren bij het maken van de definitieve beslissing, is het besluitniet uitsluitend gebaseerd op eengeautomatiseerde verwerking.

Let wel op dat je als organisatie (verwerkingsverantwoordelijke) het verbod niet kan omzeilen doormenselijke tussenkomst te fabriceren. Als iemand bijvoorbeeld automatischgegeneerde profielen toepast op betrokkenen zonder enige daadwerkelijke invloed op het resultaat, is dit nog steeds een besluit die uitsluitend op geautomatiseerde verwerking is gebaseerd.

Om als menselijke tussenkomstte kwalificeren, moet de verantwoordelijke ervoor zorgen dat elk toezicht ophet besluit zinvol is, in plaats van alleen maar een gebaar. Het moet wordenuitgevoerd door iemand die bevoegd is om de beslissing te wijzigen. Alsonderdeel van de analyse moeten ze alle beschikbare invoer- en uitvoergegevensin beschouwing nemen.

Rechtsgevolg of in aanmerkelijke mate treffen

Het verbod op uitsluitend geautomatiseerde besluitvorming is alleen van toepassing als het besluit rechtsgevolg heeft, denk aan de weigering of toekenning van huur- of kinderbijslag of de automatische blokkade van je mobiele telefoon omdat de rekening niet is betaald, of de betrokkene op andere wijze aanmerkelijk treft.

Bij het laatste noemt de AVG inde overweging slechts twee voorbeelden: de automatische weigering van een online ingediende kredietaanvraag of van verwerking van sollicitaties via internet zonder menselijke tussenkomst. Maar op basis hiervan vaststellen of een besluit een betrokkene “in aanmerkelijke mate treft” is nog niet zo makkelijk. Als het gaat om kredietaanvragen zou het namelijk ook beteken dat niet alleen een automatische kredietcheck bij een hypotheekaanvraag hieronder valt maar ook als het gaat om het huren van een fiets in het buitenland of het kopen van een televisie op afbetaling.

Met name in de online advertising is geautomatiseerde besluitvorming van belang. Daarover zegt de Europese toezichthouder dat in geval van targeted advertising in beginsel geen sprake is van een aanmerkelijke impact. Denk bijvoorbeeld aan een advertentie voor een online modewebshop gebaseerd op een simpel demografisch profiel: ‘vrouwen in Amsterdam’. Maar er zijn echter ook situaties denkbaar waarin een gerichte advertentie een betrokkene aanmerkelijk treft. Dit is afhankelijk van de omvang van het profiel, de verwachtingen van de personen, de manier waarop de advertentie wordt afgeleverd of de specifieke kwetsbaarheden van de persoon.

Verwerkingen die over hetalgemeen weinig effect hebben op individuen kan in de praktijk een aanmerkelijkeimpact hebben op bepaalde groepen van de samenleving, zoals minderheidsgroepenof kwetsbare volwassenen. Iemand die in financiële moeilijkheden verkeert enregelmatig advertenties voor online gokken te zien krijgt, kan zichbijvoorbeeld aanmelden voor deze aanbiedingen en mogelijk verdere schuldenoplopen.

Uitzonderingen

Geautomatiseerde besluitvorming,al dan niet op basis van profilering, dient echter wel mogelijk te zijn wanneerdeze uitdrukkelijk is toegestaan bij wet dat op de verwerkingsverantwoordelijkevan toepassing is, onder meer ten behoeve van de controle en voorkoming vanbelastingfraude en -ontduiking, en om te zorgen voor de veiligheid enbetrouwbaarheid van een dienst die door de verwerkingsverantwoordelijke wordtverleend, of noodzakelijk voor de sluiting of uitvoering van een overeenkomsttussen de betrokkene en een verwerkingsverantwoordelijke, of wanneer debetrokkene zijn uitdrukkelijke toestemming heeft gegeven.

Slot

Het is dus nog niet zo makkelijk om te beoordelen wanneer een geautomatiseerd besluit onder het verbodin de AVG valt. De Europese toezichthouder heeft in richtsnoeren van oktober 2017 het een en ander probeert te verduidelijken, maar de verwachting is wel dat dit nog nader uitgekristalliseerd dient te worden, al dan niet door de nationale toezichthouders. 



PAGINA DOORSTUREN

DEZE PAGINA IS SUCCESVOL DOORGESTUURD!

EEN REACTIE PLAATSEN

UW E-MAIL ADRES WORDT NIET GETOOND AAN ANDERE BEZOEKERS.

  1. NAAM
  2. E-MAILADRES
  3. BERICHT
  4. WANNEER U DEZE REGEL KUNT LEZEN, VUL HET VOLGENDE VELD DAN NIET IN!
  5.