Verdiepend staats- en bestuursrecht
Week 1
Publiek debat en rechtsstaat
- Publiek debat is belangrijk voor een goed functionerende rechtsstaat.
- De rol van traditionele redacteuren is kleiner geworden iedereen kan dingen plaatsen
Regulering van sociale media
- Directe publicatie: iedereen kan meteen iets online zetten
- Groot bereik
- Gratis gebruik
- Anonimiteit leidt vaker tot extreem gedrag
- Automatisering door algoritmes vaak nepaccounts of bots
- Juridische onzekerheid onduidelijk welke wetgeving van toepassing is door internationaal
kader
Balkin: de rol van sociale media
- Faciliteren van publieke participatie
o Sociale media maken het publieke debat breder en toegankelijker
- Organiseren van publieke conversatie
o SM-platforms structureren hoe gesprekken plaatsvinden en hoe informatie circuleert
- Modereren van publieke opinie
o Debat moet afgewogen worden tussen vrijheid van meningsuiting en mogelijke
schade
o Wie reguleert
De staat heeft beperkt invloed vanwege grondrechten
Concentratie van macht: Enkele grote bedrijven controleren een groot deel
van het publieke debat, wat pluraliteit bedreigt
Als er meer platforms zijn, kan het publiek debat nog op ander
platform plaatsvinden.
Uitsluiting
- Gebruiker jegens gebruiker
o Bijv. Trump die journalisten blokkeerde, journalisten konden hierdoor werk niet meer
doen. Rechter: beperking vrijheid van meningsuiting en journalistiek
- Platform jegens gebruiker
- Staat jegens gebruiker
o Rechter: erg vergaand, vooral als iemand helemaal geen SM meer mag gebruiken
- Staat jegens platform
o Bijv. Turkije die toegang YouTube verbiedt. Rechtsgeleerde gebruikte de app voor
onderwijs. EHRM: YouTube is belangrijk voor informatie, cultuur en journalistiek, het
vervult een publieke functie. Doordat er geen volwaardig alternatief was, was het in
strijd met mensenrechten.
1
,Toegang tot informatie: vrijheid van informatie
o Artikel 11 Handvest Grondrechten EU
o Artikel 10 EVRM
o Artikel 7 Grondwet
- Hoe reguleren
o Niet reguleren: Volledige vrijheid voor platforms.
o Social media provider as master of the house: Platform bepaalt zelf alle regels.
o Degree of moderation: Een middenweg waarbij platforms matig reguleren binnen
bepaalde grenzen.
o Streng reguleren: De staat stelt duidelijke verplichtingen en grenzen aan wat
platforms mogen doen.
- Gebrek aan uniforme aanpak: landen verschillen in visie
o Ene land heeft strenge aanpak, terwijl de andere veel vrijheid geeft
Vrije verkiezingen
- Vrije verkiezingen veronderstellen keuzevrijheid en privacy.
o Maar, sociale media betalen we met persoonsgegevens die worden gebruikt om
mensen politiek te beïnvloeden
Micro-tageting
- gericht adverteren op basis van iemands profiel.
o Gebaseerd op klikgedrag, leestijd en voorkeuren.
- DSA: Europese wet om SM uitputtend te reguleren.
o Sinds 17 februari 2024
o Doel: meer transparantie en bescherming van gebruiker
o Uitzondering: kleine bedrijven
Minder dan 50 werknemers
Minder dan 10 miljoen omzet
Algoritmen: bepalen wat gebruikers te zien krijgen
- Sommige algoritmes lijken structureel specifieke figuren te bevoordelen
- Kan voor misinformatie zorgen
- Kan zorgen voor heractivering van accounts
Gelaagde structuur
1) Tussenhandeldiensten: passieve diensten die informatie doorgeven
a. zoals VPN. Censueren niet actief en publiceren niet actief informatie.
b. Verplichtingen
i. Samenwerking met autoriteiten
ii. Contactpunt voor service en juridische representatie
iii. Algemene voorwaarden
iv. Transparantie
2) Hostingdiensten: opslag van informatie
a. e-mailserver of webhostingservice, slaat informatie op.
i. Modereren niet zelf, maar slaan info op op verzoek gebruiker.
3) Onlineplatformen: interactieve dienst waar gebruikers content kunnen plaatsen
a. zoals Twitter en Marktplaats.
b. Kenmerken:
i. Gebruikersinteractie staat centraal
ii. informatie wordt breed verspreid
iii. platforms kunnen wel content modereren.
4) Zeer grote onlineplatformen
2
, a. zoals Google en Meta.
b. Extra verplichtingen onder de Digital Services Act (DSA):
i. Risicobeoordelingen uitvoeren.
ii. Transparant zijn over algoritmes.
iii. Externe audits.
iv. Strengere rapportageverplichtingen.
DMA:
- Wie valt eronder
o Basisdiensten in EU-lidstaten met significante impact op de markt
o Platformen die dominante rol spelen in de toegang tot de markt
o Platformen met een leidende positie en die invloed hebben op de economie
- Wat moeten zij doen
o Interoperabiliteit: Platforms moeten samenwerken en gegevens uitwisselen tussen
verschillende systemen.
o Toegang tot data: Bedrijven moeten toegang geven tot bepaalde gegevens voor
andere bedrijven, mits dit niet in strijd is met privacyregels.
o Reclame transparantie voor bedrijven
o Consumenten benaderen: Bedrijven mogen consumenten direct benaderen voor
zaken als reclame en aanbiedingen
- Wat mogen zij niet doen
o Eigen diensten bevoordelen
o Consumenten verhinderen om contact te maken met andere bedrijven
o Gebruikers verhinderen software te deinstalleren
o Eindgebruikers volgen zonder toestemming voor bijv. reclame
DSI – Digitale Regulering in de EU
- Decentralisatie belangrijk uitgangspunt in de structuur van internetdiensten
- Van liability naar accountability:
o Geen aansprakelijkheid voor content van gebruikers.
o Wél verantwoordelijkheid om aan wettelijke verplichtingen te voldoen (proactieve
plicht).
- Risicobeheersing op procesniveau
o Aanpakken illegale content
Schadelijke content (zoals misinformatie) valt er vaak uiten
o Contractbreuk: gebruiker moet weten wat hij mag en kan verwachten
- Risicomanagement in ontwerp en organisatie
o Productontwerp: hoe het platform technisch werkt moet veilig zijn.
o Organisatie en personeel: intern beleid moet risico’s beperken.
- De balans tussen risicoaanpak en bescherming van vrijheid van meningsuiting is een
kernpunt.
- Verplichtingen platforms
o Redelijke, evenredige en doeltreffende maatregelen te nemen.
o Maatregelen moeten toegesneden zijn op systeemrisico’s (zoals verspreiding van haat
of ondermijning democratie).
o Grondrechtenbescherming moet bij alle maatregelen centraal staan.
3
, Kenmerken online platforms
- Disseminatie van informatie
o Niet alleen opslag, maar ook verspreiding van informatie onder anderen (bijv. via
Twitter, Facebook).
- Publiek karakter
o Informatie is toegankelijk voor een (mogelijk) onbeperkt publiek.
- Registratie is ook publiek mits laagdrempelig
o Als registratie eenvoudig en automatisch is (zoals een Twitter-account aanmaken),
wordt het platform als publiek toegankelijk beschouwd.
- Wat valt er níét onder?
o Privéberichten (zoals DM’s, WhatsApp)
o Ondergeschikte diensten = commentfunctie onder bericht
Hostingdiensten vs. Online Platforms
- Hostingdiensten
o Minder verplichtingen
o Hoofdzakelijk gericht op opslag van informatie.
o Verplichting tot:
Notificatie- en actiemechanisme bij melding van illegale content.
Actie ondernemen bij criminele activiteiten.
o Contentmoderatieproces:
Melding door gebruiker (via algemene voorwaarden)
Beoordeling en motivering van besluit
Mogelijkheid tot interne procedure
Externe procedure (bijv. via onafhankelijke instantie)
Transparantie vereist
- Online Platforms
o Zwaardere verplichtingen dan hostingdiensten
Meer verantwoordelijkheid voor moderatie en transparantie.
Moeten ook duidelijke procedures hebben voor klachtenafhandeling.
Klachten moeten door een mens worden beoordeeld, niet uitsluitend door
een algoritme.
- Nationale wetgeving
o Bepaalt concreet wat onder “criminele activiteiten” valt, die actie vereisen.
Externe procedure voor contentmoderatie
- Moet onafhankelijk zijn
- Bij contentmoderatie moet altijd transparantie gewaarborgd worden, en platforms moeten
hun algemene voorwaarden (AV) duidelijk aangeven
o Bijv. Als een platform expliciet zegt “we accepteren alleen extreemrechts”, moet dit in
de AV staan
Zeer Grote Online en Zoekplatformen
- Platforms met 45 miljoen+ gebruikers (ongeveer 10% van de EU-bevolking) worden als zeer
groot aangemerkt
- Extra verplichtingen voor VLOP’s risicodialoog
o Risico-assessment (beoordelen van de risico's die het platform kan veroorzaken).
o Jaarlijkse controles door onafhankelijke compliance officers.
o Duidelijke verantwoording en publicatie van algoritmes die gebruikt worden voor
contentselectie.
o Publicatie van reclamegegevens: transparantie over wie betaalt voor advertenties.
4
Week 1
Publiek debat en rechtsstaat
- Publiek debat is belangrijk voor een goed functionerende rechtsstaat.
- De rol van traditionele redacteuren is kleiner geworden iedereen kan dingen plaatsen
Regulering van sociale media
- Directe publicatie: iedereen kan meteen iets online zetten
- Groot bereik
- Gratis gebruik
- Anonimiteit leidt vaker tot extreem gedrag
- Automatisering door algoritmes vaak nepaccounts of bots
- Juridische onzekerheid onduidelijk welke wetgeving van toepassing is door internationaal
kader
Balkin: de rol van sociale media
- Faciliteren van publieke participatie
o Sociale media maken het publieke debat breder en toegankelijker
- Organiseren van publieke conversatie
o SM-platforms structureren hoe gesprekken plaatsvinden en hoe informatie circuleert
- Modereren van publieke opinie
o Debat moet afgewogen worden tussen vrijheid van meningsuiting en mogelijke
schade
o Wie reguleert
De staat heeft beperkt invloed vanwege grondrechten
Concentratie van macht: Enkele grote bedrijven controleren een groot deel
van het publieke debat, wat pluraliteit bedreigt
Als er meer platforms zijn, kan het publiek debat nog op ander
platform plaatsvinden.
Uitsluiting
- Gebruiker jegens gebruiker
o Bijv. Trump die journalisten blokkeerde, journalisten konden hierdoor werk niet meer
doen. Rechter: beperking vrijheid van meningsuiting en journalistiek
- Platform jegens gebruiker
- Staat jegens gebruiker
o Rechter: erg vergaand, vooral als iemand helemaal geen SM meer mag gebruiken
- Staat jegens platform
o Bijv. Turkije die toegang YouTube verbiedt. Rechtsgeleerde gebruikte de app voor
onderwijs. EHRM: YouTube is belangrijk voor informatie, cultuur en journalistiek, het
vervult een publieke functie. Doordat er geen volwaardig alternatief was, was het in
strijd met mensenrechten.
1
,Toegang tot informatie: vrijheid van informatie
o Artikel 11 Handvest Grondrechten EU
o Artikel 10 EVRM
o Artikel 7 Grondwet
- Hoe reguleren
o Niet reguleren: Volledige vrijheid voor platforms.
o Social media provider as master of the house: Platform bepaalt zelf alle regels.
o Degree of moderation: Een middenweg waarbij platforms matig reguleren binnen
bepaalde grenzen.
o Streng reguleren: De staat stelt duidelijke verplichtingen en grenzen aan wat
platforms mogen doen.
- Gebrek aan uniforme aanpak: landen verschillen in visie
o Ene land heeft strenge aanpak, terwijl de andere veel vrijheid geeft
Vrije verkiezingen
- Vrije verkiezingen veronderstellen keuzevrijheid en privacy.
o Maar, sociale media betalen we met persoonsgegevens die worden gebruikt om
mensen politiek te beïnvloeden
Micro-tageting
- gericht adverteren op basis van iemands profiel.
o Gebaseerd op klikgedrag, leestijd en voorkeuren.
- DSA: Europese wet om SM uitputtend te reguleren.
o Sinds 17 februari 2024
o Doel: meer transparantie en bescherming van gebruiker
o Uitzondering: kleine bedrijven
Minder dan 50 werknemers
Minder dan 10 miljoen omzet
Algoritmen: bepalen wat gebruikers te zien krijgen
- Sommige algoritmes lijken structureel specifieke figuren te bevoordelen
- Kan voor misinformatie zorgen
- Kan zorgen voor heractivering van accounts
Gelaagde structuur
1) Tussenhandeldiensten: passieve diensten die informatie doorgeven
a. zoals VPN. Censueren niet actief en publiceren niet actief informatie.
b. Verplichtingen
i. Samenwerking met autoriteiten
ii. Contactpunt voor service en juridische representatie
iii. Algemene voorwaarden
iv. Transparantie
2) Hostingdiensten: opslag van informatie
a. e-mailserver of webhostingservice, slaat informatie op.
i. Modereren niet zelf, maar slaan info op op verzoek gebruiker.
3) Onlineplatformen: interactieve dienst waar gebruikers content kunnen plaatsen
a. zoals Twitter en Marktplaats.
b. Kenmerken:
i. Gebruikersinteractie staat centraal
ii. informatie wordt breed verspreid
iii. platforms kunnen wel content modereren.
4) Zeer grote onlineplatformen
2
, a. zoals Google en Meta.
b. Extra verplichtingen onder de Digital Services Act (DSA):
i. Risicobeoordelingen uitvoeren.
ii. Transparant zijn over algoritmes.
iii. Externe audits.
iv. Strengere rapportageverplichtingen.
DMA:
- Wie valt eronder
o Basisdiensten in EU-lidstaten met significante impact op de markt
o Platformen die dominante rol spelen in de toegang tot de markt
o Platformen met een leidende positie en die invloed hebben op de economie
- Wat moeten zij doen
o Interoperabiliteit: Platforms moeten samenwerken en gegevens uitwisselen tussen
verschillende systemen.
o Toegang tot data: Bedrijven moeten toegang geven tot bepaalde gegevens voor
andere bedrijven, mits dit niet in strijd is met privacyregels.
o Reclame transparantie voor bedrijven
o Consumenten benaderen: Bedrijven mogen consumenten direct benaderen voor
zaken als reclame en aanbiedingen
- Wat mogen zij niet doen
o Eigen diensten bevoordelen
o Consumenten verhinderen om contact te maken met andere bedrijven
o Gebruikers verhinderen software te deinstalleren
o Eindgebruikers volgen zonder toestemming voor bijv. reclame
DSI – Digitale Regulering in de EU
- Decentralisatie belangrijk uitgangspunt in de structuur van internetdiensten
- Van liability naar accountability:
o Geen aansprakelijkheid voor content van gebruikers.
o Wél verantwoordelijkheid om aan wettelijke verplichtingen te voldoen (proactieve
plicht).
- Risicobeheersing op procesniveau
o Aanpakken illegale content
Schadelijke content (zoals misinformatie) valt er vaak uiten
o Contractbreuk: gebruiker moet weten wat hij mag en kan verwachten
- Risicomanagement in ontwerp en organisatie
o Productontwerp: hoe het platform technisch werkt moet veilig zijn.
o Organisatie en personeel: intern beleid moet risico’s beperken.
- De balans tussen risicoaanpak en bescherming van vrijheid van meningsuiting is een
kernpunt.
- Verplichtingen platforms
o Redelijke, evenredige en doeltreffende maatregelen te nemen.
o Maatregelen moeten toegesneden zijn op systeemrisico’s (zoals verspreiding van haat
of ondermijning democratie).
o Grondrechtenbescherming moet bij alle maatregelen centraal staan.
3
, Kenmerken online platforms
- Disseminatie van informatie
o Niet alleen opslag, maar ook verspreiding van informatie onder anderen (bijv. via
Twitter, Facebook).
- Publiek karakter
o Informatie is toegankelijk voor een (mogelijk) onbeperkt publiek.
- Registratie is ook publiek mits laagdrempelig
o Als registratie eenvoudig en automatisch is (zoals een Twitter-account aanmaken),
wordt het platform als publiek toegankelijk beschouwd.
- Wat valt er níét onder?
o Privéberichten (zoals DM’s, WhatsApp)
o Ondergeschikte diensten = commentfunctie onder bericht
Hostingdiensten vs. Online Platforms
- Hostingdiensten
o Minder verplichtingen
o Hoofdzakelijk gericht op opslag van informatie.
o Verplichting tot:
Notificatie- en actiemechanisme bij melding van illegale content.
Actie ondernemen bij criminele activiteiten.
o Contentmoderatieproces:
Melding door gebruiker (via algemene voorwaarden)
Beoordeling en motivering van besluit
Mogelijkheid tot interne procedure
Externe procedure (bijv. via onafhankelijke instantie)
Transparantie vereist
- Online Platforms
o Zwaardere verplichtingen dan hostingdiensten
Meer verantwoordelijkheid voor moderatie en transparantie.
Moeten ook duidelijke procedures hebben voor klachtenafhandeling.
Klachten moeten door een mens worden beoordeeld, niet uitsluitend door
een algoritme.
- Nationale wetgeving
o Bepaalt concreet wat onder “criminele activiteiten” valt, die actie vereisen.
Externe procedure voor contentmoderatie
- Moet onafhankelijk zijn
- Bij contentmoderatie moet altijd transparantie gewaarborgd worden, en platforms moeten
hun algemene voorwaarden (AV) duidelijk aangeven
o Bijv. Als een platform expliciet zegt “we accepteren alleen extreemrechts”, moet dit in
de AV staan
Zeer Grote Online en Zoekplatformen
- Platforms met 45 miljoen+ gebruikers (ongeveer 10% van de EU-bevolking) worden als zeer
groot aangemerkt
- Extra verplichtingen voor VLOP’s risicodialoog
o Risico-assessment (beoordelen van de risico's die het platform kan veroorzaken).
o Jaarlijkse controles door onafhankelijke compliance officers.
o Duidelijke verantwoording en publicatie van algoritmes die gebruikt worden voor
contentselectie.
o Publicatie van reclamegegevens: transparantie over wie betaalt voor advertenties.
4
