Thema 1 Inleiding van het vak. Het "waarom" en "wat" van privacy- en
persoonsgegevensbescherming. Privacy & macht.
1. Inleiding
Levensader van de moderne digitale maatschappij, niet voor te stellen zonder data.
Persoonlijke gegevens zijn de levensader van de moderne informatiemaatschappij. In deze cursus
zullen we ons concentreren op de zorgen die ontstaan wanneer persoonsgegevens worden verzameld
en verwerkt, en hoe de wet deze zorgen aanpakt.
Privacy & gegevensbescherming als “verdediging tegen zwarte (digitale) kunsten”
Voorbeelden van “zwarte kunsten” & saillante thema’s:
• Internet tracking en advertenties
o bol.com via Ghostery
• Tracking in een gevoelige context
o abortuskliniek in Utrecht is een publieke instelling die in zeer gevoelige context
opereert
• Risicoprofilering: kredietwaardigheid
o huisbazen, NS en waar je een krediet kan aanvragen, als je iets op rekening koopt
online, dan wordt de kredietwaardigheidscheck ook uitgevoerd op basis van data die
deze bedrijven hebben verzameld van allerlei bronnen, zoals Facebook, cookies
• Risicoprofilering: kindercriminaliteit
o Het idee dat jongeren (18 en ouder) in de gaten worden gehouden, en dan ze onder
toezicht het niveau van de criminaliteit te laten dalen.
o Zusterproject in Amsterdam: Top 400, en dit is het project die bedoeld is voor de broers
en zussen van de Top 600 (0 tot 17 jaar die voldoen aan bepaalde vereisten). Kleine
kind wordt behandeld als potentiële crimineel, terwijl er geen direct aanwijzingen zijn
dat hij dat daadwerkelijk is of binnenkort wordt. Dit gebeurt aan de hand van
risicoprofilering of data-analyse.
• Risicoprofilering: belastingaangiftes
o Stel 10 miljoen aangiftes, het is onmogelijk om deze aangiftes allemaal handmatig te
verwerken, dus de Belastingdienst analyseert de aangiftes door algoritmes en verdeeld
in 2 stapels. Ten eerste, geen vragen, wordt automatisch gehonoreerd. Ten tweede,
verdacht en grondiger bekeken door een mens. Dus ook een voorbeeld van
risicoprofilering.
• Risicoprofilering: fraudedetectie
o Iemand heeft bedacht dat studenten met migratieachtergrond hoger risico zijn van
fraude en worden vaker gecontroleerd, zoals huisbezoeken.
• Geautomatiseerde beslissingen en voorspellingen
o Tijdens de pandemie was het onmogelijk om normale eindexamens te houden.
Sommige scholen hebben gekozen om in plaats van eindexamens te gebruiken voor
eindcijfers, maar op basis van voorspellingen door algoritmes van wat voor cijfers een
student zou halen. En deze cijfers lagen vaak lager dan normale studenten. En voor
, veel studenten had dit gevolgen, ze werden onder voorwaarden geaccepteerd bij
universiteiten en daarna soms ingetrokken.
• Aanbevelingen: gedragsverandering en manipulaties
o Aanbevelingen worden gebruikt bijv. in het context van contents, shorts op youtube of
tiktok. De volgende video wordt geselecteerd door het bedrijf op basis van je voorkeur.
Geldt ook voor winkels zoals Amazon.
o Er zijn verschillende problemen met dit soort praktijken. Eén hiervan is
gedragsverandering en manipulatie door dit soort aanbevelingen. AB-testing is:
ontwikkelaar van een app wil testen welke design optie beter wordt gebruikt of
gekozen, daarvoor houdt hij kleine experiment en laat aan gebruikers opties zien. De
bedoeling is ervoor zorgen dat gebruikers langer hun aandacht erbij houden, niet
zozeer aanbevelen bepaalde video’s. Mensen raken hierdoor verslaafd.
Privacy- en gegevensbescherming kan derhalve gezien worden als verdediging tegen zwarte (digitale)
kunsten.
Tech problemen als privacy- en gegevensbeschermingsproblemen
• Je kan veel problemen bekijken als privacy en gegevensproblemen en kan iets doen aan deze
zwarte kunsten.
o Account van Europese chauffeurs werden op een geautomatiseerde wijze
gedeactiveerd omdat ze in sommige gevallen geprofileerd werden als fraudeurs. Dus
dit besluit werd gegenereerd door de algoritme. Ze kregen ook geen inzage in de data
die geleid heeft tot deze conclusie. Dus ze hebben een rechtszaak gestart tegen Uber
en Ola en ook gewonnen. Iemand werd feitelijk ontslagen, werd behandeld als een
gegevensbeschermingsdispuut. Chauffeurs hebben gewonnen, Uber betaalt dagelijks
een dwangsom, maar helaas laat die geen inzage in de gegevens.
o 1,5 jaar geleden werd Chatgpt toegankelijk gemaakt voor openbaar publiek. Een
persoonsgegevensbeschermingsautoriteit Chatgpt in Italië verboden. De reden
hiervoor was dat Chapgpt antwoorden genereerde voor minderjarige gebruikers. Die
gebruikers waren niet in staat om deze te verwerken. Chatgpt doet alsof het een mens
is, chatbot van Snapchat is ook een voorbeeld hiervan, kinderen raken bevriend ermee.
Formele reden voor verbanning was dat de trainingdata die werd gebruikt voor het
bouwen van chatgpt, het model, was waarschijnlijk verwerkt zonder wettelijke
grondslagen. Een voorbeeld van hoe je privacy en gegevensbeschermingswetgeving
voor bredere zin van problemen in vele contexten kan gebruiken.
o Toeslagenaffaire
Hoe pakt de wet deze zorgen aan?
• (Informationele) privacy (EVRM & EU Handvest)
• Persoonsgegevensbescherming (de AVG)
2. Het “privacy probleem” / de zorgen
,Privacy is een sociaal geconstrueerd begrip; In ontwikkeling.
• We hebben het gehad over de maatschappelijk kant van wat er verkeerd kan gaan met
gegevensverwerking en informatiegebruik. Veel wetenschappers hebben daar ook over
nagedacht en er is een brede scala aan literatuur aan denkwerk over wat eigenlijk
privacyprobleem is en wat opgelost moet worden.
• Er is geen één juiste definitie van privacy en geen één juiste theorie van waarvoor we privacy
nodig hebben. Privacy zoals vele andere fenomenen in maatschappij, wordt socially
constructed concept genoemd, privacy is wat de maatschappij vindt wat het is en is constant
in ontwikkeling. De gedachtegoed wat privacy is en wat voor doelen het dient, is ook in
ontwikkeling.
Daniel Solove “A taxonomy of privacy”
• Overzicht van praktijken die voor ”privacy problemen” zorgen – 4 ‘basis soorten’ praktijken;
• Uitleg van wat er precies problematisch is aan elke praktijk (vanuit de VS).
• De vier praktijken
o Verzameling
▪ Surveillance (in privé- en openbare ruimten)
- Emotioneel ongemak
- Zelfcensuur, instrument van gedragscontrole
- Belemmering voor vrijheid, creativiteit en zelfontplooiing
▪ ‘Interrogation’ (het onder druk zetten om informatie vrij te geven)
- Inbreuk op de privésfeer
- Ongemak, bescherming van professionele en persoonlijke relaties
o Verwerking
▪ Het bundelen van informatie
- “The whole becomes greater than the parts” (the mozaik theory of
privacy)
- Meer informatie vergroot de macht over individuen
- Onvolledige / foutieve dossiers
▪ Identificatie (informatie koppelen aan individuen)
- Bekendmaking van identiteit
- Koppeling van informatie (en de gevolgen daarvan) aan “het individu
van vlees en bloed”
- Machtsmiddel
- Vergelding voor actie of meningsuiting
▪ Onveiligheid
- Identiteitsdiefstal en fraude
- Kwetsbaarheid voor informatiemisbruik in de toekomst
- → gegevensbeveiliging en vertrouwelijkheid
▪ Secundair gebruik
- Aantasting van de menselijke waardigheid, verwachting van privacy,
contextuele integriteit.
▪ Uitsluiting
- Het ontnemen van de zeggenschap over persoonsgegevens
, - Gebrek aan de verantwoording
o Verspreiding
▪ Schending van de vertrouwelijkheid
- schade aan het vertrouwen in een beschermde (professionele) relatie
(arts – patiënt, advocaat – cliënt)
▪ Openbaarmaking van (privé) feiten / juiste informatie
- Belemmert zelfontwikkeling en autonomie
- Persoonlijke veiligheid
- “a prisoner of het recorded past”…
▪ Blootstelling
- Verlegenheid en vernedering
▪ Toegankelijkheid van informatie
- Hogere kans op openbaarmaking
▪ Chantage
▪ Toe-eigening
- Het gebruik van iemands identiteit of persoonlijkheid voor de doelen
van een ander
- Vernederend commercialisering van een persoonlijkheidsaspect
▪ Verkeerde voorstelling van feiten
- Reputatieschade
o Inmenging
▪ Verstoring van het privéleven door iemands activiteiten of aanwezigheid
▪ Inmenging in de beslissingsvrijheid in de meest persoonlijke aangelegenheden
- Gelijk aan de blootstelling
- Autonomie
Privacy as a right to be your (incomputable) self
• Vooral relevant in de moderne context van algoritmen die – op basis van wiskunde en statistiek
– onze levens in groeiende mate bepalen.
• Heeft te maken met autonomie en zelfbeschikking.
• Privacy is een sociaal geconstrueerd concept
• Hildebrandt: recht om jezelf te blijven om zeggen te hebben over wie je bent, vooral relevant
in de moderne context van algoritme die op basis van wiskunde en statistiek onder levens in
groeiende mate bepalen. Dit idee van privacy heeft veel te maken met autonomie en
zelfbeschikking, vrijheid van om je persoonlijkheid te ontwikkelen.
Evolutie van privacy gelinkt aan computers
• 1973 Report Records, Computers and the Rights of Citizens;
• Zorgen dat geautomatiseerde data analyse zal leiden tot “ontmenselijking”, dat een individu
niet als persoon maar als dossier wordt behandeld.
Privacy & macht
Daniel Solove (2000) “Privacy and Power: Computer databases and metaphors for information privacy”
persoonsgegevensbescherming. Privacy & macht.
1. Inleiding
Levensader van de moderne digitale maatschappij, niet voor te stellen zonder data.
Persoonlijke gegevens zijn de levensader van de moderne informatiemaatschappij. In deze cursus
zullen we ons concentreren op de zorgen die ontstaan wanneer persoonsgegevens worden verzameld
en verwerkt, en hoe de wet deze zorgen aanpakt.
Privacy & gegevensbescherming als “verdediging tegen zwarte (digitale) kunsten”
Voorbeelden van “zwarte kunsten” & saillante thema’s:
• Internet tracking en advertenties
o bol.com via Ghostery
• Tracking in een gevoelige context
o abortuskliniek in Utrecht is een publieke instelling die in zeer gevoelige context
opereert
• Risicoprofilering: kredietwaardigheid
o huisbazen, NS en waar je een krediet kan aanvragen, als je iets op rekening koopt
online, dan wordt de kredietwaardigheidscheck ook uitgevoerd op basis van data die
deze bedrijven hebben verzameld van allerlei bronnen, zoals Facebook, cookies
• Risicoprofilering: kindercriminaliteit
o Het idee dat jongeren (18 en ouder) in de gaten worden gehouden, en dan ze onder
toezicht het niveau van de criminaliteit te laten dalen.
o Zusterproject in Amsterdam: Top 400, en dit is het project die bedoeld is voor de broers
en zussen van de Top 600 (0 tot 17 jaar die voldoen aan bepaalde vereisten). Kleine
kind wordt behandeld als potentiële crimineel, terwijl er geen direct aanwijzingen zijn
dat hij dat daadwerkelijk is of binnenkort wordt. Dit gebeurt aan de hand van
risicoprofilering of data-analyse.
• Risicoprofilering: belastingaangiftes
o Stel 10 miljoen aangiftes, het is onmogelijk om deze aangiftes allemaal handmatig te
verwerken, dus de Belastingdienst analyseert de aangiftes door algoritmes en verdeeld
in 2 stapels. Ten eerste, geen vragen, wordt automatisch gehonoreerd. Ten tweede,
verdacht en grondiger bekeken door een mens. Dus ook een voorbeeld van
risicoprofilering.
• Risicoprofilering: fraudedetectie
o Iemand heeft bedacht dat studenten met migratieachtergrond hoger risico zijn van
fraude en worden vaker gecontroleerd, zoals huisbezoeken.
• Geautomatiseerde beslissingen en voorspellingen
o Tijdens de pandemie was het onmogelijk om normale eindexamens te houden.
Sommige scholen hebben gekozen om in plaats van eindexamens te gebruiken voor
eindcijfers, maar op basis van voorspellingen door algoritmes van wat voor cijfers een
student zou halen. En deze cijfers lagen vaak lager dan normale studenten. En voor
, veel studenten had dit gevolgen, ze werden onder voorwaarden geaccepteerd bij
universiteiten en daarna soms ingetrokken.
• Aanbevelingen: gedragsverandering en manipulaties
o Aanbevelingen worden gebruikt bijv. in het context van contents, shorts op youtube of
tiktok. De volgende video wordt geselecteerd door het bedrijf op basis van je voorkeur.
Geldt ook voor winkels zoals Amazon.
o Er zijn verschillende problemen met dit soort praktijken. Eén hiervan is
gedragsverandering en manipulatie door dit soort aanbevelingen. AB-testing is:
ontwikkelaar van een app wil testen welke design optie beter wordt gebruikt of
gekozen, daarvoor houdt hij kleine experiment en laat aan gebruikers opties zien. De
bedoeling is ervoor zorgen dat gebruikers langer hun aandacht erbij houden, niet
zozeer aanbevelen bepaalde video’s. Mensen raken hierdoor verslaafd.
Privacy- en gegevensbescherming kan derhalve gezien worden als verdediging tegen zwarte (digitale)
kunsten.
Tech problemen als privacy- en gegevensbeschermingsproblemen
• Je kan veel problemen bekijken als privacy en gegevensproblemen en kan iets doen aan deze
zwarte kunsten.
o Account van Europese chauffeurs werden op een geautomatiseerde wijze
gedeactiveerd omdat ze in sommige gevallen geprofileerd werden als fraudeurs. Dus
dit besluit werd gegenereerd door de algoritme. Ze kregen ook geen inzage in de data
die geleid heeft tot deze conclusie. Dus ze hebben een rechtszaak gestart tegen Uber
en Ola en ook gewonnen. Iemand werd feitelijk ontslagen, werd behandeld als een
gegevensbeschermingsdispuut. Chauffeurs hebben gewonnen, Uber betaalt dagelijks
een dwangsom, maar helaas laat die geen inzage in de gegevens.
o 1,5 jaar geleden werd Chatgpt toegankelijk gemaakt voor openbaar publiek. Een
persoonsgegevensbeschermingsautoriteit Chatgpt in Italië verboden. De reden
hiervoor was dat Chapgpt antwoorden genereerde voor minderjarige gebruikers. Die
gebruikers waren niet in staat om deze te verwerken. Chatgpt doet alsof het een mens
is, chatbot van Snapchat is ook een voorbeeld hiervan, kinderen raken bevriend ermee.
Formele reden voor verbanning was dat de trainingdata die werd gebruikt voor het
bouwen van chatgpt, het model, was waarschijnlijk verwerkt zonder wettelijke
grondslagen. Een voorbeeld van hoe je privacy en gegevensbeschermingswetgeving
voor bredere zin van problemen in vele contexten kan gebruiken.
o Toeslagenaffaire
Hoe pakt de wet deze zorgen aan?
• (Informationele) privacy (EVRM & EU Handvest)
• Persoonsgegevensbescherming (de AVG)
2. Het “privacy probleem” / de zorgen
,Privacy is een sociaal geconstrueerd begrip; In ontwikkeling.
• We hebben het gehad over de maatschappelijk kant van wat er verkeerd kan gaan met
gegevensverwerking en informatiegebruik. Veel wetenschappers hebben daar ook over
nagedacht en er is een brede scala aan literatuur aan denkwerk over wat eigenlijk
privacyprobleem is en wat opgelost moet worden.
• Er is geen één juiste definitie van privacy en geen één juiste theorie van waarvoor we privacy
nodig hebben. Privacy zoals vele andere fenomenen in maatschappij, wordt socially
constructed concept genoemd, privacy is wat de maatschappij vindt wat het is en is constant
in ontwikkeling. De gedachtegoed wat privacy is en wat voor doelen het dient, is ook in
ontwikkeling.
Daniel Solove “A taxonomy of privacy”
• Overzicht van praktijken die voor ”privacy problemen” zorgen – 4 ‘basis soorten’ praktijken;
• Uitleg van wat er precies problematisch is aan elke praktijk (vanuit de VS).
• De vier praktijken
o Verzameling
▪ Surveillance (in privé- en openbare ruimten)
- Emotioneel ongemak
- Zelfcensuur, instrument van gedragscontrole
- Belemmering voor vrijheid, creativiteit en zelfontplooiing
▪ ‘Interrogation’ (het onder druk zetten om informatie vrij te geven)
- Inbreuk op de privésfeer
- Ongemak, bescherming van professionele en persoonlijke relaties
o Verwerking
▪ Het bundelen van informatie
- “The whole becomes greater than the parts” (the mozaik theory of
privacy)
- Meer informatie vergroot de macht over individuen
- Onvolledige / foutieve dossiers
▪ Identificatie (informatie koppelen aan individuen)
- Bekendmaking van identiteit
- Koppeling van informatie (en de gevolgen daarvan) aan “het individu
van vlees en bloed”
- Machtsmiddel
- Vergelding voor actie of meningsuiting
▪ Onveiligheid
- Identiteitsdiefstal en fraude
- Kwetsbaarheid voor informatiemisbruik in de toekomst
- → gegevensbeveiliging en vertrouwelijkheid
▪ Secundair gebruik
- Aantasting van de menselijke waardigheid, verwachting van privacy,
contextuele integriteit.
▪ Uitsluiting
- Het ontnemen van de zeggenschap over persoonsgegevens
, - Gebrek aan de verantwoording
o Verspreiding
▪ Schending van de vertrouwelijkheid
- schade aan het vertrouwen in een beschermde (professionele) relatie
(arts – patiënt, advocaat – cliënt)
▪ Openbaarmaking van (privé) feiten / juiste informatie
- Belemmert zelfontwikkeling en autonomie
- Persoonlijke veiligheid
- “a prisoner of het recorded past”…
▪ Blootstelling
- Verlegenheid en vernedering
▪ Toegankelijkheid van informatie
- Hogere kans op openbaarmaking
▪ Chantage
▪ Toe-eigening
- Het gebruik van iemands identiteit of persoonlijkheid voor de doelen
van een ander
- Vernederend commercialisering van een persoonlijkheidsaspect
▪ Verkeerde voorstelling van feiten
- Reputatieschade
o Inmenging
▪ Verstoring van het privéleven door iemands activiteiten of aanwezigheid
▪ Inmenging in de beslissingsvrijheid in de meest persoonlijke aangelegenheden
- Gelijk aan de blootstelling
- Autonomie
Privacy as a right to be your (incomputable) self
• Vooral relevant in de moderne context van algoritmen die – op basis van wiskunde en statistiek
– onze levens in groeiende mate bepalen.
• Heeft te maken met autonomie en zelfbeschikking.
• Privacy is een sociaal geconstrueerd concept
• Hildebrandt: recht om jezelf te blijven om zeggen te hebben over wie je bent, vooral relevant
in de moderne context van algoritme die op basis van wiskunde en statistiek onder levens in
groeiende mate bepalen. Dit idee van privacy heeft veel te maken met autonomie en
zelfbeschikking, vrijheid van om je persoonlijkheid te ontwikkelen.
Evolutie van privacy gelinkt aan computers
• 1973 Report Records, Computers and the Rights of Citizens;
• Zorgen dat geautomatiseerde data analyse zal leiden tot “ontmenselijking”, dat een individu
niet als persoon maar als dossier wordt behandeld.
Privacy & macht
Daniel Solove (2000) “Privacy and Power: Computer databases and metaphors for information privacy”
