VERDIEPEND STAATS- EN BESTUURSRECHT
Het tentamen bestaat uit open vragen. Het tentamencijfer vormt 85% van het eindcijfer.
Document bevat alle hoorcolleges, alle voorgeschreven literatuur + jurisprudentie (w 1-9). Hoorcolleges, literatuur
en jurisprudentie zijn per week apart opgenomen.
HC1 Reguleren van digitale publieke ruimte
Digitalisatie = verplaatsing van het publieke debat via kranten en televisie naar sociale media. Het is geen op
zichzelf staande ontwikkeling, maar er gaat een hele geschiedenis aan ontwikkelingen aan vooraf.
Sociale media verschillen wezenlijk van krant, radio en tv:
- Interactie op sociale media
- Verspreiding gaat veel sneller via sociale media → dus ook dat van nepnieuws
- Bereik is veel groter via sociale media → internationaal/mondiaal
- Voor kant en tv betaal je geld, voor sociale media gebeurt dat dmv jouw persoonsgegevens
Er zijn slechts een paar grote sociale media aanbieders (Facebook, Instagram, X, etc). Daarbij speelt een probleem,
namelijk: geconcentreerde macht omdat een aantal bedrijven zeggenschap hebben over de nieuwsvorming, over
vrijheid van meningsuiting (wat is acceptabel/wat niet), wat krijgt promotie en wat niet.
Sociale media zijn niet goed of slecht, het bevat uitdagingen, maar het biedt ook kansen nml. innovatie.
Uitdagingen van regulering sociale media:
- Instant sharing = mensen delen meteen alles – uit emotie bijvoorbeeld – en krijgen later spijt
- Groot bereik = sociale media berichten kunnen wereldwijd gevolgd worden
- Goedkoop = we betalen met persoonsgegevens (geslacht, naam, voorkeuren)
- Anoniem = je kan informatie anoniem bekijken, maar ook anoniem informatie plaatsen. Dat is enerzijds gevaarlijk,
want je weet niet wie iets heeft gezegd (bv. oproepen tot geweld). Maar anderzijds kan het ook betekenen: iemand
plaatst informatie in een onderdrukkend regime, dus de regering kan diegene niet vinden maar diegene kan wel
informatie plaatsen
- Automatisch = algoritmes, niet alle informatie wordt nog door mensen gegenereerd (bots)
- Jurisdictie = wie heeft de jurisdictie over sociale media?
Rollen van sociale media volgens Balkin:
1. Faciliteren van publieke participatie in kunst, cultuur, politiek en actualiteiten = sociale media zijn
toegankelijk zijn zodat iedereen mee kan doen
2. Organiseren van publieke conservatie = zodat mensen met elkaar in gesprek/debat kunnen gaan
3. Modereren van publieke opinie = het moet zorgen dat alles op het platform er netjes aan toegaat (geen
haatzaaien bv). Het modereren van het publieke debat gaat verder dan de wet. Volgens Balkin is het niet
erg om het publieke debat te modereren, mits er voldoende pluraliteit van platforms/actoren is, zodat men
ergens anders zijn of haar mening kan uiten.
NB: hier komt tentamenvraag over hintte docent!
Vormen van sociale media uitsluiting op basis van E. Celeste Digital Punishment = indien gebruiker geen gebruik
mag maken van specifieke sociale mediaplatformen of delen daarvan. Het gevolg is dat er mogelijkerwijs
grondrechten worden beperkt. Vier vormen van sociale media- uitsluiting:
1. Gebruiker jegens gebruiker = twee gebruikers sluiten elkaar uit, d.w.z. een gebruiker wordt niet verwijderd,
maar geblokkeerd. Door geblokkeerd te worden kan je niet meer bij bepaalde informatie. Er is zijn ook
minder vergaande vormen dan blokkeren, denk aan muten.
2. Platform jegens gebruiker = zie Rb. LinkedIn + Rb. Café Weltschmerz
3. Staat jegens gebruiker = vorm van uitsluiting gebaseerd op de wet (bv. zedendelinquenten mogen in
bepaalde landen niet op sociale media). De staat moet zich houden aan proportionaliteit, d.w.z. de
maatregel moet proportioneel zijn. Rechter neemt alle grondrechten en bevoegdheden van een staat
onder de loep.
4. Staat jegens platform = bv. Turkije die het gehele platform van YouTube blokkeerde, omdat het een paar
kanalen bevatten die negatief waren over Atatürk. Het EHRM oordeelde dat verzoekers voldeden aan de
status van het slachtoffer. Het Hof kwam tot die conclusie doordat zij keek naar de manier waarop
verzoekers de website gebruiken, en naar de omvang van de blokkeringsmaatregel. Het Hof komt daarbij
tot het oordeel dat YouTube uniek is, en dat daardoor de vrijheid van meningsuiting werd aangetast, ook
al waren zij slechts indirect geraakt door de maatregel → EHRM Cengiz o.a.v. Turkije
1
,Micro-targetting = mensen krijgen bepaalde reclames te zien op basis van hun voorkeuren. Met name in een
verkiezingstijd kan dit erg misleidend zijn.
Hoe streng moeten we reguleren? Tot nu toe is onduidelijk hoe uitlatingen op sociale media gereguleerd moeten
worden. Landen handhaven verschillend:
In VS geldt ‘Degree of moderation’ = platforms mogen modereren, maar niet te streng. Vrijheid van
meningsuiting moet gewaarborgd blijven
In Duitsland geldt ‘Master of the house principe’ = platform mag eigen regens bepalen. Als iemand zich niet
aan die regels wil houden, dan mag het platform die gebruiker buitensluiten. Dat gaat dus richting niet reguleren, zolang
het maar niet over de grenzen van de wet gaat
Belangrijke grondrechten:
- Toegang tot informatie uit art. 11 Handvest EU, art. 10 EVRM en art. 7 Gw
- Impliceert ook vrijheid van informatie
Europa kwam met een reactie op sociale media in de vorm van de Digital Service Act (DSA). Voornaamste doelen
van de DSA zijn proces reguleren en risicomanagement. De DSA bevat een gelaagde structuur (pyramide, van
beneden naar boven):
1. Tussendiensten (VPN)
2. Hosting (iCloud server)
3. Online platforms
4. Zeer grote aanbieders (google, Facebook, X) → 45+ miljoen gebruikers = 10% van de EU bevolking
Weinig over contentregelgeving → illegale content moet worden verwijderd, maar niet wordt benoemd wat dan
illegaal is. Dat is immers aan de nationale wetgever. Schadelijke content valt buiten de DSA
Wel verwijzing naar grondrechten → grondrechten moeten worden beschermd onder de DSA, maar hoe deze
worden geïnterpreteerd is onduidelijk
DSA is echter wel duidelijk over content moderatie:
1. Vooraf moeten algemene voorwaarden bekend zijn. Doet men iets wat niet mag, dan moet dat leiden
tot een notificatie van gebruiker;
2. Besluit en motivering = wordt een maatregel genomen, dan moet een besluit daartoe duidelijk
gemotiveerd worden met een verwijzing naar de algemene voorwaarden;
3. Interne procedure = nadat een dergelijk besluit is genomen, mag de betrokkene daartegen een
interne procedure starten, d.w.z. een soort van beroep/bezwaar. Een platform moet een interne
commissie hebben die een klacht in behandeling neemt en fungeert als soort rechtbank;
4. Externe procedure = indien betrokkene het niet eens is met de uitkomst van de interne procedure,
dan kan men een externe procedure bij de rechter aanhangig maken.
W1 Jurisprudentie
Rb. LinkedIn → LinkedIn had het profiel van een Kamerlid geblokkeerd vanwege misinformatie en de berichten
offline gehaald. De rechtbank oordeelt dat er sprake is van een inmenging in de vrijheid van meningsuiting, mede
doordat LinkedIn geen duidelijk uitgeschreven en kenbaar beleid had over de communicatie. Het account van het
Kamerlid moet daarom worden teruggeplaatst. De betreffende berichten niet, vanwege de positie welke het
Kamerlid in neemt in de maatschappij, kan zij beleidsmaatregelen niet ondermijnen.
Rb. Café Weltschmerz → Op YouTube is een interview verschenen waarin een huisarts verklaard dat een bepaald
geneesmiddel werkt tegen Covid-19, terwijl dit uitdrukkelijk wordt ontkend door de WHO. YouTube heeft de video
dan ook verwijderd. YouTube heeft beleid over het verspreiden van schadelijke informatie, en wordt ook
gecontroleerd door de Europese Commissie. De verwijdering van de video’s is dan ook geen ongeoorloofde inbreuk
op de vrijheid van meningsuiting. Als arts zijnde draag je op deze manier niet bij aan het publieke debat oordeelt
de rechter.
EHRM Cengiz o.a. v. Turkije → Turkije blokkeerde het platform YouTube. Hoogleraren aan de universiteit van Turkije
deelden hier video’s, maar dit werd verboden. Het Hof heeft geoordeeld dat verzoekers voldeden aan de status van
slachtoffer. Hiervoor heeft zij gekeken naar de manier waarop de verzoekers de website gebruikten, en naar de
omvang van de blokkeringsmaatregel. Het Hof komt daarbij tot het oordeel dat YouTube uniek is, en dat daardoor
de vrijheid van meningsuiting werd aangetast waardoor de hoogleraren de slachtofferstatus kregen. Ook al werden
zij slechts indirect geraakt door de maatregel.
2
,W1 Literatuur
J. M. Balkin, ‘Free Speech is a Triangle’, Colum. L. Rev. 2018/118. (lees: the public function of social media pp. 4-
8).
Er zijn drie centrale functies van sociale media:
1. Vergemakkelijken publieke participatie in kunst, cultuur en politiek
2. Organiseren openbare gesprekken zodat mensen makkelijk met elkaar kunnen spreken
3. Publieke opinie wordt mogelijk gemaakt
Over het algemeen staat het beginsel van de vrijheid van meningsuiting voorop en mag de overheid slechts in een
aantal gevallen hierop inbreken. Het is niet zonder meer mogelijk om maar een set waarden en normen aan het
volk op te dringen. Mensen moeten de mogelijkheid krijgen om zich aan te sluiten bij gelijken die hetzelfde denken.
Als private partijen normen op gaan leggen die strenger zijn dan de wettelijke regels, dan is het zaak dat er nog
andere private partijen zijn die andere normen weerspiegelen. Het moet niet gaan om maar een of twee grote
actoren.
Waarden van vrijheid van meningsuiting:
- Vrijheid van meningsuiting dient de waarden van de politieke democratie = maakt deelname aan vorming
van publieke opinie mogelijk. Het zorgt voor informatie aan het publiek over algemeen belang kwesties
- Vrijheid van meningsuiting draagt bij tot het ontstaan van een democratische cultuur = een cultuur waarin
individuen en groepen vrijelijk kunnen deelnemen aan de cultuur en aan de vormen van culturele macht
die vorm en invloed aan hen geven. Doordat culturele macht groter is dan de staatsmacht, moeten
individuen een manier hebben om hieraan deel te nemen en de cultuur te ontwikkelen
- Vrijheid van meningsuiting draagt tevens bij aan de bevordering van de groei en verspreiding van kennis
Sociale media vervullen hun functies goed, als ze deze waarden promoten:
1. Politieke democratie
2. Culturele democratie
3. De groei en verspreiding van kennis
E. Celeste, ‘Digital punishment: social media exclusion and the constitutionalizing role of national courts’,
International Review of Law, Computers & Technology 2021/35.
Digitale uitsluiting = het resultaat van de ontbering van een individu van informatie- en communicatietechnologie,
waarbij dit bedoeld is als een van de noodzakelijkheden van het moderne leven. Als iemand sociaal wordt
uitgesloten, heeft hij geen toegang tot goederen of diensten die in een specifieke maatschappelijke context als
essentieel worden beschouwd. Digitale technologieën stellen individuen in staat deel te nemen aan de zogenaamde
informatiemaatschappij.
Er zijn drie soorten uitsluitingen van sociale media te onderscheiden op basis van de actoren:
1. Sociale mediagebruikers worden uitgesloten door andere gebruikers van sociale media
2. Sociale mediagebruikers worden uitgesloten door het sociale-mediaplatform zelf
3. Sociale mediagebruikers worden uitgesloten door de wet.
Sociale media is een belangrijk instrument geworden om onze grondrechten uit te oefenen. Tegelijkertijd is de grens
tussen de virtuele en fysieke wereld niet meer duidelijk afgebakend. Sociale media biedt meer ruimte voor informatie
en uitwisseling van standpunten.
Als eerste kan je zeggen dat, door sociale media te erkennen als een essentieel instrument voor de uitoefening van
fundamentele rechten in de digitale samenleving, een recht op sociale media impliciet moet worden erkend. Moet
men het recht kunnen hebben hiervan te genieten? Er is tot op heden geen sociaal recht op sociale media erkend.
Niet alleen vanuit een inhoudelijk perspectief, vanwege de duidelijke politieke, sociale en economische implicaties
van het opdragen van hun respectieve regeringen en online sociale-mediaplatforms om de toegang tot sociale
media te garanderen. Maar ook vanwege de constitutionele architectuur van deze rechtsgebieden. De rechtbanken
erkennen wel de relevantie van de uitsluiting van sociale media. Door te voorkomen dat individuen sociale
mediaplatforms gebruiken, wordt hun vermogen om hun grondrechten ten volle te genieten beperkt. Om deze reden
moeten de mogelijkheden om uitsluiting van sociale media op te leggen duidelijk beperkt worden volgens
grondwettelijke beginselen.
Amerika = de Amerikaans jurisprudentie heeft een reeks verplichtingen opgelegd waarbij de uitsluiting van sociale
media betrekking heeft op accounts van speciale categorieën gebruikers, met name politici. Burgers moeten kunnen
reageren op de standpunten van politici. Een uitspraak van Trump laat zien dat hij geen gebruikers mag blokkeren
op Twitter omdat dit anders de vrijheid van meningsuiting zou beperken.
3
,Duitsland = de Duitse rechtspraak hield zich bezig met de vraag of een platform als Facebook gebruikers kon
uitsluiten van deelname. De rechtbank concludeerde dat sociale mediaplatforms het recht hebben om gebruikers
te verbieden vanwege strafbare schendingen of overschrijding van de beleidslijnen van het platform. De beslissing
om iemand te verbieden moet objectief gerechtvaardigd zijn en niet willekeurig. Er moeten transparante regels
aanwezig zijn als ook objectieve criteria voor het verbieden van toegang. Ook mag het verbod van een gebruiker
niet automatisch zijn en moeten de sancties proportioneel zijn, dus in lijn met de ernst van het misdrijf. De definitieve
uitsluiting van een platform is niet gerechtvaardigd door een enkele overtreding, maar wel bij herhaalde
overtredingen.
Voorkomen dat gebruikers toegang krijgen tot specifieke sociale-mediawebsites of delen daarvan betekenen dat
hun mogelijkheden om volledig uit te oefenen worden beperkt hun grondrechten. Uitsluiting van sociale media is
een vorm van digitale bestraffing die hoewel virtueel, het concreet de individuele vrijheid aantast.
De rechten om iemand van een platform uit te sluiten of te verbieden moeten in evenwicht zijn met het recht op
vrijheid van meningsuiting. Er is geen sociaal recht op sociale media afgeleid. Er zijn geen positieve verplichtingen
opgelegd aan staten en onlineplatforms om individuen toegang te geven tot sociale-mediawebsites.
M. van Riel, ‘Cengiz and others v. Turkey: A tentative victory for freedom of expression online’,
StrasbourgObservers.com 05 januari 2016.
EHRM Cengiz e.a. v. Turkije → kernvraag was of het blokkeren van Youtube door de Turkse overheid een schending
betekende van het recht op vrijheid van meningsuiting (art. 10 EVRM). In 2008 had Turkije de toegang tot YouTube
vanwege video’s die als beledigend voor Atatürk werden beschouwd verwijderd. De blokkade duurde tot eind 2010.
Drie rechtenprofessoren probeerden via Turkse rechtbanken de blokkade aan te vechten. Dat was zonder succes.
Daarom stapten zij naar het EHRM.
Het EHRM erkende dat de professoren ‘slachtofferstatus’ hadden, ondanks dat zij niet rechtstreeks werden
getroffen. Het Hof vond dat de Youtube-blokkade hen wél trof in hun mogelijkheid om informatie te verkrijgen en te
verspreiden, vooral gezien het belang van Youtube voor academisch werk en politieke uitwisseling.
Belangrijk in het oordeel van het Hof was dat het onderscheid maakte met een eerdere zaak (EHRM Akdeniz v.
Turkije), waarin toegang tot muzieksites werd geblokkeerd. In het huidige geval ging het om een platform dat
essentieel is voor politieke uitwisseling en burgerjournalistiek, waarvoor geen gelijkwaardig alternatief bestond.
Het Hof oordeelde uiteindelijk dat de blokkade een onrechtmatige inbreuk vormde op de vrijheid van meningsuiting.
De Turkse wet stond alleen het blokkeren van specifieke inhoud toe, niet van een heel platform zoals Youtube. Dit
arrest is een stap in de richting voor bescherming van online rechten, maar toch liet het Hof belangrijke vragen
onbeantwoord (volgens auteur). Bv of de blokkade een legitiem doel diende en proportioneel was.
F. Wilman, “De Digital Services Act (DSA): een belangrijke stap naar betere regulering van onlinedienstverlening”,
Nederlands tijdschrift voor Europees recht 2022 (9/10).
DSA reguleert onlinediensten die betrekking hebben op de doorgifte en het opslaan van informatie afkomstig van
de gebruikers van die diensten (videodeelplatforms, onlinemarktplaatsen, bloggingswebsites, sociale media en
internetaanbieders).
DSA is dus van toepassing op “tussenhandel diensten” = diensten waarbij het doorgeven en opslaan van informatie
van gebruikers centraal staat
Aanleiding DSA = is hetgeen dat de lidstaten in toenemende mate hun eigen nationale wetgeving vaststelling ten
aanzien van tussenhandel diensten. Dit heeft een negatief effect op de interne markt. Het achterliggende doel van
de DSA is het creëren van een veilige, voorspelbare en betrouwbare onlineomgeving die innovatie bevordert en
waarin de grondrechten doeltreffend worden beschermd. De DSA bestaat naast de Richtlijn elektronische handel.
Werkingssfeer DSA = beperkt tot de tussenhandel diensten, niet de aanbieder hiervan. De plaats van vestiging van
de betrokken aanbieder is niet van belang, beslissend is of de dienst wordt aangeboden in de EU.
Structuur DSA = gelaagde structuur, in de vorm van een piramide met vier horizontale lagen:
- De onderste laag is van toepassing op alle tussenhandel diensten, dit zijn de basisverplichtingen
- De volgende laag bestaat uit verplichtingen voor hostingdiensten
- Daarna volgt een laag met verplichtingen die betrekking hebben op onlineplatforms. Onlineplatforms zijn
een specifieke subcategorie van hostingdiensten, het gaat hierbij niet alleen om het opslaan van informatie
van gebruikers maar ook om het verspreiden bij het publiek ervan
- De toplaag van de piramide omvat verplichtingen voor zeer grote onlineplatforms.
4
,Het onderscheid wordt gemaakt op basis van het aantal maandelijkse actieve gebruikers. De verplichtingen zijn
cumulatief → dus de verplichtingen uit de toplaag zijn ook van toepassing op zeer grote platforms (boven – onder).
Vrijstellingen aansprakelijkheid en verbod algemene toezichtverplichtingen = de DSA bevat de voorwaardelijke
vrijstellingen van aansprakelijkheid die voorheen in de Richtlijn elektronische handel zaten. Op grond hiervan
kunnen aanbieders niet aansprakelijk worden gehouden voor de informatie die zij voor hun gebruikers doorgeven
of opslaan, mits zij aan bepaalde voorwaarden voldoen.
Om zich te beroepen op de vrijstelling moeten aanbieders zich neutraal op stellen, in de zin dat zij geen actieve rol
spelen waardoor zij kennis hebben van, of controle hebben over, de informatie afkomstig van gebruikers die zij
doorgeven of opslaan. Het bij voorbaat nemen van activiteiten tegen de illegale inhoud wordt niet als te actief gezien
→ Good Samaritan-clausule. Het mag niet worden ontmoedigd door de dreiging van een dergelijke straf. De
aanbieder moet te goeder trouw en zorgvuldig handelen.
Wanneer onlinemarktplaatsen aan consumenten doen lijken alsof de informatie die wordt aangeboden van henzelf
is, dan kunnen zij géén beroep doen op de vrijstelling.
Maatregelen tegen illegale inhoud en misbruik:
1. Regels inzake bevelen van nationale gerechtelijke of administratieve autoriteiten gericht tot aanbieders
van tussenhandel diensten om op te treden tegen bepaalde specifieke illegale inhoud of om informatie te
verstrekken over bepaalde specifieke gebruikers die nodig is om vast te stellen of zij zich aan de wet
houden.
2. Aanbieders van hostingdiensten moeten voorzien in kennisgevings- en actiemechanismen. Die stellen
gebruikers in staat om de aanwezigheid van vermeend illegale inhoud bij de betrokken aanbieder te
melden. Verwijdering is geen verplichting. Aanbieders moeten deze meldingen tijdig en zorgvuldig
verwerken. Het beschermt namelijk ook tegen onrechtvaardige verwijdering.
3. Aanbieders van hostingdiensten zijn verplicht vermoedens van bepaalde strafbare feiten te melden bij de
bevoegde instanties. De verplichting is beperkt tot strafbare feiten waarbij het leven of de veiligheid van
een of meer personen wordt bedreigd.
4. Aanbieders van onlineplatforms moeten gebruikers schorsen die hun diensten misbruiken door frequent
illegale inhoud te verstrekken. Het moet gaan om inhoud die kennelijk illegaal is, moet de betrokken
gebruiker vooraf eerst worden gewaarschuwd en moet de schorsing beperkt blijven tot een redelijke
periode. Elke zaak moet individueel en zorgvuldig worden bekeken en moeten zij vooraf in hun algemene
voorwaarden duidelijkheid geven over hun beleid op dit punt.
Er geldt een verplichting tot het aanstellen van een vast aanspreekpunt. De DSA vereist dat aanbieders vooraf
duidelijkheid geven over de geldende beperkingen en over de middelen die zij inzetten om naleving te controleren
en af te dwingen. Bovendien moeten zij bij de toepassing en handhaving zorgvuldig, objectief en evenredig
handelen, ‘met gepaste aandacht’ voor de rechten en legitieme belangen van alle betrokkenen, waaronder de
grondrechten van de gebruikers. Verder mogen onlineplatforms hun online-interfaces niet zodanig ontwerpen,
organiseren of beheren dat gebruikers hierdoor worden misleid of gemanipuleerd.
Voor aanbevelingsactiviteiten moeten aanbieders in hun algemene voorwaarden aangeven wat de belangrijkste
parameters zijn die worden gebruikt in hun aanbevelingssystemen en welke opties er eventueel zijn om die
parameters aan te passen. Bovendien moeten gebruikers invloed kunnen uitoefenen. Voor reclame geldt hetzelfde.
Er is allereerst transparantie vereist. Eerst wordt aangegeven namens wie en waarom de reclame aan de gebruiker
wordt getoond. Tot slot moet zorgvuldig worden omgegaan met bepaalde groepen van gebruikers, zoals
minderjarigen.
Aanbieders dienen hun beslissingen waarmee gebruikers beperkingen worden opgelegd, duidelijk en specifiek te
motiveren. De verplichting geldt voor beslissingen genomen omdat de verstrekte inhoud vermeend illegaal of strijdig
met de algemene voorwaarden is. Aanvechten kan op verschillende manieren. Zo moeten onlineplatforms een
intern klachtenafhandelingssysteem hebben. Via dit systeem kan worden geklaagd over beslissingen om, geen
gevolg te geven aan een ontvangen melding e.d. Los daarvan kunnen gebruikers ook klagen bij de nationale
autoriteiten van hun lidstaat over vermeende inbreuken op de DSA door aanbieders.
Gebruikers kunnen ervoor kiezen een geschil voor te leggen aan een orgaan van buitengerechtelijke
geschilbeslechting. Dat orgaan moet voldoen aan bepaalde voorwaarden, zoals onafhankelijkheid en expertise, en
op basis daarvan gecertificeerd zijn in een van de lidstaten. Tot slot kan een gebruiker zich wenden tot de
overheidsrechter.
Speciale regels voor B2C onlinemarktplaatsen = aanbieders van B2C onlinemarktplaatsen moeten ervoor zorgen
dat hun diensten alleen worden gebruikt door handelaren die hun vooraf bepaalde informatie hebben verstrekt,
zoals naam, identificatie en inschrijvingsgegevens. Bovendien moeten deze aanbieders zich inspannen om de
betrouwbaarheid en volledigheid van de verstrekte informatie te controleren. Zij moeten zorgdragen dat de
handelaren alle vereiste informatie hebben verstrekt. Ook moeten zij steekproefsgewijs controleren of de
aangeboden produceten of diensten als illegaal zijn aangemerkt.
5
,Risico- en crisisbeheersing = zeer grote onlineplatforms en zeer grote onlinezoekmachines moeten alle
systeemrisico’s die samenhangen met hun ontwerp, de werking en het gebruik van hun diensten in kaart brengen
en vervolgens aanpakken. Dit moet jaarlijks gebeuren. Er moet worden gekeken naar informatie die negatieve
effecten kan hebben op de uitoefening van grondrechten, verkiezingsprocessen, openbare veiligheid e.d. Het gaat
dus niet per se om illegale informatie, maar ook schadelijke informatie.
Aanbieders moeten jaarlijks publiekelijk rapporteren hoe zij zijn omgegaan met diverse onderwerpen en
verplichtingen, zoals meldingen van gebruikers over vermeend illegale inhoud. Dit is niet alleen ter transparantie,
maar ook een manier om verantwoording af te leggen. Alle tussenhandel diensten zijn verplicht om enkele
maatregelen te nemen om de publieke handhaving te bevorderen. Het gaat om een centraal contactpunt voor het
rechtstreeks communiceren met toezichthouders en het aanstellen van een wettelijke vertegenwoordiger.
Daarnaast zijn er algemene gedragscodes.
Hoofdregel wat betreft toezicht en handhaving overheid = in beginsel is de lidstaat van de hoofdvestiging van de
betrokken aanbieder van tussenhandel diensten exclusief bevoegd tot handhaving. De Commissie is exclusief
bevoegd ten aanzien van de DSA-verplichtingen die uitsluitend gelden voor aanbieders van zeer grote
onlineplatforms en van zeer grote onlinezoekmachines.
De handhaving en toezicht ziet erop om twee doelen te verwezenlijken: het zorgen dat toezichthouders goed
geëquipeerd zijn en zorgen dat de toezichthouders goed samenwerken.
W1 Zelfstudievragen bij literatuur
Wat zijn de drie functies van sociale media platformen volgens Balkin?
1. Faciliteren publieke participatie in kunst, cultuur, politiek en actualiteit
2. Organiseren publieke conservatie, zodat mensen met elkaar in gesprek kunnen gaan
3. Modereren van de publieke opinie, om te zorgen dat het debat ordentelijk en zonder haatzaaien
verloopt
Hoe beoordeelt Balkin de inperking van de vrijheid van meningsuiting van staten ten opzichte van private
platformen?
Balkin vindt dat staten de vrijheid van meningsuiting slechts beperkt mogen inperken, en dat mensen zich
moeten kunnen uiten binnen een pluralistische omgeving. Wanneer private platforms strengere normen
opleggen dan wettelijk vereist is, is dat alleen acceptabel als er genoeg alternatieve platforms bestaan
waar andere meningen welkom zijn. Er mag dus geen monopolie ontstaan waarin enkele grote bedrijven
de publieke opinie bepalen.
Welke drie vormen van sociale media uitsluiting herkent het artikel van Celeste?
1. Gebruiker jegens gebruiker → bv blokkeren/muten
2. Platform jegens gebruiker → uitsluiting door sociale mediaplatform zelf
3. Staat jegens gebruiker → bv wettelijke uitsluiting van bepaalde groepen
Wat is het verschil in regulering tussen de Verenigde Staten en Duitsland?
VS hanteert “Degree of moderation”-principe. Houdt in dat platforms mogen modereren, maar niet te
streng. Vrijheid van meningsuiting staat voorop.
Duitsland hanteert “Master of the house”-principe. Platforms mogen zelf regels opstellen en handhaven,
zolang dit transparant en proportioneel gebeurt, en niet in strijd is met de wet.
Welke vorm van sociale media uitsluiting herkent het artikel van Van Riel?
De staat jegens platform-vorm van uitsluiting. In dit geval blokkeerde de Turkse overheid het hele platform
Youtube vanwege enkele video’s die Atatürk zouden beledigen.
Hoe werd dit beoordeeld door het Europees Hof voor de Rechten van de Mens?
Het EHRM oordeelde dat dit een onrechtmatige inbreuk was op de vrijheid van meningsuiting (art. 10
EVRM). Hoogleraren kregen slachtofferstatus, ook al werden ze niet rechtstreeks geraakt. Youtube werd
als uniek platform erkend dat essentieel is voor academische + politieke uitwisseling. Bovendien was de
maatregel niet proportioneel.
6
,Wat zijn de belangrijkste doelstellingen van de DSA?
- Reguleren proces rondom contentmoderatie
- Bevorderen risicomanagement en transparantie
- Beschermen grondrechten in de digitale ruimte
- Bevorderen van een veilige, voorspelbare en innovatieve onlineomgeving
Wat zijn de belangrijkste tekortkomingen van de DSA?
Er is onduidelijkheid over wat illegale content nu is (wordt overgelaten aan nationale wetgever). Er wordt
maar beperkt inhoudelijk gereguleerd, want schadelijke maar niet-illegale content valt buiten de reikwijdte.
Ook is de bescherming van grondrechten vrij vaag, want het is niet duidelijk hoe die concreet gewaarborgd
worden (ze worden echter wel genoemd).
HC2 De burger in de virtuele rechtsstaat
Metaverse = 3D-omgeving. Het is geen virtuele omgeving zelf, maar een broncode waarop men voort kan bouwen.
Iedereen met een beetje technische kennis kan daarop voortbouwen en werelden in maken.
Achtergrondinformatie uitdagingen:
Daar zit een uitdaging voor de wetgever: er is geen centrale macht en iedereen kan erop voortbouwen. Het is een wirwar van
omgevingen waardoor je niet meer weet welk land onder welke jurisdictie het wordt aangeboden. Ook mbt betreden van die
wereld is dat lastig. Iedereen kan in een virtuele wereld, daarvoor heb je immers geen identiteitsbewijs nodig. Het kan ook
anoniem. Daardoor wordt het lastig om te handhaven als mensen normen overtreden (denk aan financiële normen/publieke
normen als non-discriminatie). Ook zijn mensen sneller geneigd te overtreden als iets anoniem is. Het is voor de wetgever niet
heel interessant om daar iets aan te doen op dit moment; stel iemand wordt gediscrimineerd door een Nederlander, en diegene
bevindt zich in een land dat geen uitleveringsverdrag met NL heeft, dan is het niet interessant om kosten te maken en moeite te
doen. Verder is het enige wat men nodig heeft om zijn virtuele omgeving te betreden toegang tot internet.
NB: het onderwerp in dit college brengt een aantal vragen met zich mee, daar is voor alsnog geen antwoord op. Van belang om
te weten is dat deze vragen/uitdagingen spelen in het kader van een virtuele rechtsstaat!
Virtuele realiteit = virtuele realiteit heeft een andere impact op ons dan een digitale realiteit (2D) en dat brengt ook
andere rechtsvraag stukken met zich mee. Er zijn vijf criteria om virtuele realiteit te omschrijven:
1. Hyperrealistisch = virtuele omgevingen zijn zó echt, dat onze hersenen het verschil tussen fysiek echt en
nep niet meer kunnen herkennen
2. Opensource = iedereen kan het betreden, zolang je maar toegang tot internet hebt. Het is niet beperkt tot
een individu/groep individuen
3. Decentralized = alles is decentraal, wat betekent dat iedereen beslist wat zijn of haar regels zijn; als het
ware gelijkwaardige stem. Regels worden niet langer bepaald door een persoon of duidelijk aansprakelijke
organisatie zoals bij centralisatie het geval is
4. Immersive = meeslepende ervaring, er wordt een nieuwe dimensie aan de werkelijkheid toevoegt
5. Toegankelijk
De virtuele ‘rechtsstaat’ is oneindig, waar houdt de jurisdictie dan op? Het gebruik van Metaverse biedt kansen en
het kan breed ingezet worden, maar het moet dan wel gereguleerd kunnen worden. Anders krijg je allemaal
desinformatie/meningen waar we niet op zitten te wachten, omdat de wet wordt overtreden (haatzaaien,
discriminatie, oproepen tot geweld).
Virtual world provider als nieuwe staat? → de vraag is of we die aanbieders wellicht als nieuwe staat moeten zien.
Wat we nu zien is dat private partijen nu ook al af en toe fungeren als staten. Dat was vroeger al zo, denk aan de VOC:
die kreeg macht/bevoegdheid om geweld te gebruiken, recht te handhaven e.d. Meer recentelijk is het voorbeeld van
banken/financiële instellingen. Een voorbeeld van de jaren ’80: in VK werden veel winkelcentra privaat gemaakt. Als men wilde
protesteren tegen bonte kleding dat in een winkel werd verkocht, dan kon dat winkelcentra als private partij private regels maken
waardoor niet mocht worden geprotesteerd. Winkelcentra was immers privaat grondgebied. Stel we gaan virtueel winkelen,
mogen we dan verwijderd worden als we willen protesteren?
In de realiteit is het zo dat de politie beperkte capaciteit en middelen heeft. We hebben immers niet oneindig veel
agenten. Een provider/iets virtueels heeft veel meer middelen om in te zetten. Dat kan allemaal automatisch dmv
AI. In het echte leven word je niet continu in de gaten gehouden, soms kom je per toeval een politieagent tegen. In
een virtuele wereld wordt je echter continu gemonitord/bekeken door het algoritme, waardoor je dan verwijderd kan
worden. Verwijdering kan ernstige beperkingen voor wat betreft de vrijheid van meningsuiting (en andere
grondrechten) met zich meebrengen.
Burger = bij een burger denken we snel aan een individu of een rechtspersoon. Als mens hebben we vrijheden
etc. Maar de vraag is moet je een avatar in de Metaverse zien als ‘burger’? Vragen die daarmee samenhangen:
- Heb je recht op een avatar?
- Heeft jouw avatar rechten?
- Kun je verplicht wordt een avatar te hebben die op jou lijkt?
7
, - Virtuele huisdieren/kinderen?
Metaverse brengt samengevat de volgende uitdagingen met zich mee:
- Jurisdictie: wiens normen gelden?
- Oneindig: wat maakt dat het lastig te controleren is…
- Anoniem: daar kan veel misbruik van worden gemaakt…
- Publieke normen
- Hoe te handhaven?
V.w.b. publieke normen vgl. Haber’s taxonomie: volgens hem heb je drie soort normoverschrijdingen:
1. Niet-strafbaar = bv drugsgebruik; je kunt dat slecht vinden maar in de virtuele wereld levert dat geen
fysieke schade op
2. Duidelijk strafbaar = bv witwassen; levert schade op in fysieke, maar je gebruikt het virtuele om het
strafbare feit te plegen
3. Superpositie = bv zedendelicten… wel of niet strafbaar? Vooral bij zedendelicten kan daar discussie over
bestaan In hoeverre leveren virtuele zedendelicten schade op? Dat is volgens Haber belangrijk → kijk
naar schade. Schade zit hem dan vaak in het mentale.
Verbieden van roken: in een virtuele wereld levert roken geen directe schade op, want het levert geen fysieke gezondheidsschade
op. Schade kan in dat geval wel indirect zijn, in die zin dat men dan wellicht sneller geneigd is om in het echte leven een sigaret
te pakken. Wat lastig is aan indirecte schade is dat het lastig vast te stellen is. Hoe groot is die kans, en hoe groot is die schade?
Daardoor kunnen belangrijke rechtsbeginselen worden overschreden: rechtszekerheidsbeginsel en het verbod op willekeur.
Juridisch bestuursrechtelijk kader van docent:
1. Is het gedrag direct schadelijk? → gedraging verbieden + rol voor strafrecht weggelegd
2. Is het gedrag (in)direct schadelijk voor jezelf? → leeftijdsgrens hanteren
3. Is het gedrag (in)direct schadelijk voor anderen? → afhankelijk van hoe sterk de aanwijzing is + hoe zwaar
de inbreuk is
Recht op mentale integriteit = de vrijheid om een gedachte te vormen en die vervolgens voor je te houden. Een
gedachte of mening kan je uiten, maar ook voor je houden. Dat is de traditionele manier van kijken naar dit
grondrecht.
Hard:
- Verbod op gedwongen openbaring
- Verbod op strafbaarstelling gedachten
- Verbod op gedwongen verandering
Zacht:
- Brein manipulatie door EEG
- Manipulatie door AI = tegenwoordig mogelijk om gedachtes zo te manipuleren dat je eigenlijk geen vrijheid van
gedachte hebt omdat je gedachte zo door een algoritme wordt gestuurd en dat AI je in een bepaalde denkrichting
manipuleert
Vorm van verboden AI:
Art. 5 lid 1 AI Act: “De sublimale technieken waarvan personen zich niet bewust zijn of doelbewust manipulatieve
of misleidende technieken gebruikt, met als doel of effect het gedrag van personen of een groep personen wezenlijk
te verstoren door hun vermogen om een geïnformeerd besluit te nemen merkbaar te belemmeren…”
- Manipulatie door AI of misleidende technieken is verboden onder de AI Act.
- AI is gericht op één persoon, want AI weet – dmv het algoritme – wat een persoon interesseert.
- AI kan heel snel en relatief goedkoop iets maken.
- Wanneer iets aanzienlijke schade is, is nog onduidelijk. Er is nog weinig rechtspraak over
8
,W2 Jurisprudentie
EHRM Ahmt Arslan e.a. v. Turkije → in deze zaak klaagden 127 Turkse burgers, leden van een sekte, bij het EHRM
over hun strafrechtelijke veroordeling wegens het dragen van religieuze kledij in de openbare ruimte. Zij waren
gearresteerd en veroordeeld onder Turkse wetgeving die religieuze kledij in het openbaar verbood, met als doel de
seculiere staat te handhaven. Het EHRM erkende dat dit een inmenging vormde in hun godsdienstvrijheid onder
artikel 9 EVRM. Hoewel de Turkse regering betoogde dat de wet noodzakelijk was ter bescherming van de seculiere
staat en openbare orde, vond het Hof dat de Turkse autoriteiten onvoldoende hadden aangetoond waarom deze
inmenging noodzakelijk was. Het Hof benadrukte dat de klagers geen overheidsfunctie bekleedden en er geen
sprake was van verstoring van de openbare orde. Daarom concludeerde het EHRM dat de strafrechtelijke
veroordeling in strijd was met artikel 9 EVRM.
W2 Literatuur
A.M. Mooij, ‘Regulating the Metaverse Economy. How to prevent money laundering and the financing of terrorism’
Springer: 2023. Hoofdstukken 1 & 2.
De wereld tussen online en offline vervaagt. De Metaverse zal veel nieuwe ervaringen brengen en de
toegankelijkheid van deze ervaringen vergroten. Het enige dat nodig is voor toegang tot de Metaverse is een
apparaat met internettoegang.
De Metaverse brengt veel uitdagingen op regelgevingsgebied met zich mee. De Metaverse is overal ter wereld
toegankelijk, waardoor het moeilijk is om te bepalen welk land of welke regio jurisdictie heeft. Het jurisdictieprobleem
wordt nog moeilijker gemaakt omdat de Metaverse een open source, gedecentraliseerd, interopretabel platform
voor programmeerbare digitale activa is en digitale identiteiten gebouwd op substraat. Kortom: het is gratis en voor
iedereen toegankelijk.
Metaverse is een 3D virtual realiteit; een open-source, gedecentraliseerde virtuele realiteit die interoperabiliteit
tussen verschillende providers mogelijk maakt. Het doel van de Metaverse is om een realiteit te bieden die
gebaseerd is op het echte leven. Metaverse is breder dan vorige technieken: voorheen met name gericht op
entertainment, maar Metaverse biedt een breder scala aan diensten aan. Ook kan het zijn eigen economie
genereren. De verwachting is dan ook dat het bezit van digitale goederen zal toenemen.
E.C. Silva, J. C. Vaz & A. R. de Freitas, ‘Metaverse as dispute: challenges for a State action agenda’, ICEGOV '23:
Proceedings of the 16th International Conference on Theory and Practice.
Metaverse onderverdelen in twee categorieën:
- Als hulpmiddel
- Als doel
Twee hoofdcategorieën van bestuur in de Metaverse:
1. Bestuur van de Metaverse = bestuur buiten Metaverse wordt overwogen, waarbij gedrag en gewoonten
worden beheerd die verband houden met de invoeging, relatie, uitsluiting en andere aspecten
2. Bestuur door de Metaverse = rekening houdend met interne bestuur van Metaverse, verwijzend naar
programmaregels die kunnen worden opgeslagen in blockchain-technologie en kunnen worden uitgevoerd
om het gedrag van gebruikers te sturen
Gezien de uitdagingen en mogelijkheden van de Metaverse, is het essentieel dat de staat een actieve rol speelt in het beleid en
de regelgeving die de interacties tussen het Metaverse en de fysieke wereld sturen, om zo de veiligheid en rechten van gebruikers
te garanderen.
Er zijn verschillende categorieën actoren die rechtstreeks betrokken zijn bij de productie en verspreiding van deze
technologieën:
- Leveranciers van kritieke technologieën, software, hardware en diensten
- Big Techs, waarbij internet- en gamingplatforms migreren naar Metaverse- platforms
- Financiële sector, met financiering en toe-eigening van inkomsten
- Startups, met een heel innovatie-ecosysteem dat de uitbesteding van een deel van de
ontwikkelingsrisico’s en de verkenning van nieuwe mogelijkheden bevordert, waarbij een aanzienlijk
deel mislukt en slechts weinigen uiteindelijk winst genereren
- Traditionele sectoren, die op zoek zijn naar mogelijkheden om de efficiëntie van transacties te
vergroten en deel uitmaken van het proces van transformatie naar Metaverse-platforms of invoeging
in deze nieuwe omgevingen die ondergeschikt zijn aan de dominante bedrijven in de
technologiegebruiksketen.
9
, Door de Metaverse kunnen verschillende aspecten van ons leven worden gemonitord. De controle over de
gegevens van je privéleven, gebaseerd op algoritmische surveillance, heeft een enorme impact op de werkelijkheid.
Er kan een eigen Metaverse-economie ontstaan. Auteurs verwachten dat de Metaverse een instrument van de
werkelijkheid is.
In de echte wereld wordt de politiek gedefinieerd door geografische grenzen en instellingen, maar de Metaverse
wordt niet beperkt door grenzen of regels. Nu verschuift de besluitvorming van de dienstverlener naar de leider van
een grote groep.
Er wordt een parallelle realiteit gevormd die de samenleving als geheel kan beïnvloeden. Hier zit een risico in.
Wanneer we de mogelijkheid overwegen dat de Metaverse gemeenschappelijke belangen bevordert en sociale,
religieuze, geopolitieke en etnisch-raciale barrières overwint, is het ook belangrijk om de vraag te stellen of
technologie echt meer democratie kan brengen. Ook omdat de privacy wordt bedreigd door de commercialisering
van persoonsgegevens die in het bezit zijn van dienstverleners en de publieke sector. In werkelijkheid genereert de
ongelijke toe-eigening van de middelen van de Metaverse een meer geconcentreerde macht waarin het middelen
kan mobiliseren.
Het probleem dat naar voren komt met betrekking tot de Metaverse als geschil komt voort uit de concentratie van
macht en middelen in de handen van een paar bedrijven, voornamelijk de technologiegiganten die zwaar hebben
geïnvesteerd in deze nieuwe digitale grens. Te midden van technologische geschillen kan dit leiden tot de uitsluiting
van individuen die niet over de middelen beschikken om met hen te concurreren, naast het creëren van een scenario
waarin deze bedrijven de poortwachters worden. Bovendien zijn er zorgen over de privacy en veiligheid van
gebruikers, aangezien deze bedrijven toegang zullen hebben tot een enorme hoeveelheid persoonlijke gegevens
van degenen die Metaverse bezoeken.
Concluderend is het voorgestelde raamwerk voor het reguleren van het Metaverse een startpunt voor het nadenken
over de uitdagingen en regelgevingskwesties die voortkomen uit de digitalisering van de werkelijkheid. Er is wel
een noodzaak van een gemeenschappelijke reeks regels voor alle landen platforms die Metaverse-omgevingen
hosten en het belang van het vaststellen van nationale richtlijnen voor het gebruik van deze technologie.
E. Haber, ‘The criminal of Metaverse’, Indiana Law Journal (2024)99.
De Metaverse is geen gewone voortzetting van het internet of games, maar een potentiële “game changer”
vanwege haar vermogen om realistische sensaties op te wekken (zoals aanraking via haptische technologie).
Hierdoor kunnen virtuele handelingen psychologische effecten hebben die vergelijkbaar zijn met die in de fysieke
wereld. Dit maakt de juridische beoordeling van gedrag ingewikkelder.
Haber introduceert een taxonomie van Metaverse-misdrijven. Hij verdeelt gedrag in drie categorieën:
1. Niet-strafbaar gedrag: zaken die duidelijk niet onder strafrecht vallen.
2. Duidelijk strafbaar gedrag: zoals virtuele diefstal of seksuele intimidatie die mentale schade aanricht.
3. Gedrag in superpositie: gedragingen waarvan nog niet duidelijk is of ze strafbaar zijn, bijvoorbeeld
bepaalde vormen van virtuele intimidatie of virtueel overspel.
Dit laatste type gedrag is moeilijk juridisch te kwalificeren, vooral omdat de impact subjectief en technisch moeilijk te
bewijzen kan zijn.
De Metaverse brengt nieuwe uitdagingen voor handhaving met zich mee:
- Identiteit van daders is moeilijk te achterhalen.
- Bewijsvoering is complex.
- Politie heeft beperkte bevoegdheden in virtuele werelden.
Haber stelt een hybride handhavingsmodel voor, waarin zowel staten als Metaverse-platforms een rol spelen:
- Platformen zorgen voor snelle interventie, bewijsvergaring, en mogelijk zelfs voor sancties zoals het
blokkeren van accounts.
- Overheden behouden het recht om ernstige zaken strafrechtelijk te vervolgen.
Hij benadrukt dat niet alles aan bedrijven overgelaten mag worden, omdat zij niet democratisch gelegitimeerd zijn
en hun eigenbelang kunnen laten prevaleren.
Haber stelt dat de Metaverse een serieuze impact zal hebben op het strafrecht. Nieuwe vormen van schade –
vooral mentale – kunnen juridisch relevant worden. De grenzen tussen echt en virtueel vervagen, en dit vereist
een herziening van hoe we strafbaarheid beoordelen en handhaven. Zonder duidelijke kaders en samenwerking
tussen overheid en platformen, zal het moeilijk zijn om rechtvaardigheid te waarborgen in deze nieuwe digitale
werkelijkheid.
10
Het tentamen bestaat uit open vragen. Het tentamencijfer vormt 85% van het eindcijfer.
Document bevat alle hoorcolleges, alle voorgeschreven literatuur + jurisprudentie (w 1-9). Hoorcolleges, literatuur
en jurisprudentie zijn per week apart opgenomen.
HC1 Reguleren van digitale publieke ruimte
Digitalisatie = verplaatsing van het publieke debat via kranten en televisie naar sociale media. Het is geen op
zichzelf staande ontwikkeling, maar er gaat een hele geschiedenis aan ontwikkelingen aan vooraf.
Sociale media verschillen wezenlijk van krant, radio en tv:
- Interactie op sociale media
- Verspreiding gaat veel sneller via sociale media → dus ook dat van nepnieuws
- Bereik is veel groter via sociale media → internationaal/mondiaal
- Voor kant en tv betaal je geld, voor sociale media gebeurt dat dmv jouw persoonsgegevens
Er zijn slechts een paar grote sociale media aanbieders (Facebook, Instagram, X, etc). Daarbij speelt een probleem,
namelijk: geconcentreerde macht omdat een aantal bedrijven zeggenschap hebben over de nieuwsvorming, over
vrijheid van meningsuiting (wat is acceptabel/wat niet), wat krijgt promotie en wat niet.
Sociale media zijn niet goed of slecht, het bevat uitdagingen, maar het biedt ook kansen nml. innovatie.
Uitdagingen van regulering sociale media:
- Instant sharing = mensen delen meteen alles – uit emotie bijvoorbeeld – en krijgen later spijt
- Groot bereik = sociale media berichten kunnen wereldwijd gevolgd worden
- Goedkoop = we betalen met persoonsgegevens (geslacht, naam, voorkeuren)
- Anoniem = je kan informatie anoniem bekijken, maar ook anoniem informatie plaatsen. Dat is enerzijds gevaarlijk,
want je weet niet wie iets heeft gezegd (bv. oproepen tot geweld). Maar anderzijds kan het ook betekenen: iemand
plaatst informatie in een onderdrukkend regime, dus de regering kan diegene niet vinden maar diegene kan wel
informatie plaatsen
- Automatisch = algoritmes, niet alle informatie wordt nog door mensen gegenereerd (bots)
- Jurisdictie = wie heeft de jurisdictie over sociale media?
Rollen van sociale media volgens Balkin:
1. Faciliteren van publieke participatie in kunst, cultuur, politiek en actualiteiten = sociale media zijn
toegankelijk zijn zodat iedereen mee kan doen
2. Organiseren van publieke conservatie = zodat mensen met elkaar in gesprek/debat kunnen gaan
3. Modereren van publieke opinie = het moet zorgen dat alles op het platform er netjes aan toegaat (geen
haatzaaien bv). Het modereren van het publieke debat gaat verder dan de wet. Volgens Balkin is het niet
erg om het publieke debat te modereren, mits er voldoende pluraliteit van platforms/actoren is, zodat men
ergens anders zijn of haar mening kan uiten.
NB: hier komt tentamenvraag over hintte docent!
Vormen van sociale media uitsluiting op basis van E. Celeste Digital Punishment = indien gebruiker geen gebruik
mag maken van specifieke sociale mediaplatformen of delen daarvan. Het gevolg is dat er mogelijkerwijs
grondrechten worden beperkt. Vier vormen van sociale media- uitsluiting:
1. Gebruiker jegens gebruiker = twee gebruikers sluiten elkaar uit, d.w.z. een gebruiker wordt niet verwijderd,
maar geblokkeerd. Door geblokkeerd te worden kan je niet meer bij bepaalde informatie. Er is zijn ook
minder vergaande vormen dan blokkeren, denk aan muten.
2. Platform jegens gebruiker = zie Rb. LinkedIn + Rb. Café Weltschmerz
3. Staat jegens gebruiker = vorm van uitsluiting gebaseerd op de wet (bv. zedendelinquenten mogen in
bepaalde landen niet op sociale media). De staat moet zich houden aan proportionaliteit, d.w.z. de
maatregel moet proportioneel zijn. Rechter neemt alle grondrechten en bevoegdheden van een staat
onder de loep.
4. Staat jegens platform = bv. Turkije die het gehele platform van YouTube blokkeerde, omdat het een paar
kanalen bevatten die negatief waren over Atatürk. Het EHRM oordeelde dat verzoekers voldeden aan de
status van het slachtoffer. Het Hof kwam tot die conclusie doordat zij keek naar de manier waarop
verzoekers de website gebruiken, en naar de omvang van de blokkeringsmaatregel. Het Hof komt daarbij
tot het oordeel dat YouTube uniek is, en dat daardoor de vrijheid van meningsuiting werd aangetast, ook
al waren zij slechts indirect geraakt door de maatregel → EHRM Cengiz o.a.v. Turkije
1
,Micro-targetting = mensen krijgen bepaalde reclames te zien op basis van hun voorkeuren. Met name in een
verkiezingstijd kan dit erg misleidend zijn.
Hoe streng moeten we reguleren? Tot nu toe is onduidelijk hoe uitlatingen op sociale media gereguleerd moeten
worden. Landen handhaven verschillend:
In VS geldt ‘Degree of moderation’ = platforms mogen modereren, maar niet te streng. Vrijheid van
meningsuiting moet gewaarborgd blijven
In Duitsland geldt ‘Master of the house principe’ = platform mag eigen regens bepalen. Als iemand zich niet
aan die regels wil houden, dan mag het platform die gebruiker buitensluiten. Dat gaat dus richting niet reguleren, zolang
het maar niet over de grenzen van de wet gaat
Belangrijke grondrechten:
- Toegang tot informatie uit art. 11 Handvest EU, art. 10 EVRM en art. 7 Gw
- Impliceert ook vrijheid van informatie
Europa kwam met een reactie op sociale media in de vorm van de Digital Service Act (DSA). Voornaamste doelen
van de DSA zijn proces reguleren en risicomanagement. De DSA bevat een gelaagde structuur (pyramide, van
beneden naar boven):
1. Tussendiensten (VPN)
2. Hosting (iCloud server)
3. Online platforms
4. Zeer grote aanbieders (google, Facebook, X) → 45+ miljoen gebruikers = 10% van de EU bevolking
Weinig over contentregelgeving → illegale content moet worden verwijderd, maar niet wordt benoemd wat dan
illegaal is. Dat is immers aan de nationale wetgever. Schadelijke content valt buiten de DSA
Wel verwijzing naar grondrechten → grondrechten moeten worden beschermd onder de DSA, maar hoe deze
worden geïnterpreteerd is onduidelijk
DSA is echter wel duidelijk over content moderatie:
1. Vooraf moeten algemene voorwaarden bekend zijn. Doet men iets wat niet mag, dan moet dat leiden
tot een notificatie van gebruiker;
2. Besluit en motivering = wordt een maatregel genomen, dan moet een besluit daartoe duidelijk
gemotiveerd worden met een verwijzing naar de algemene voorwaarden;
3. Interne procedure = nadat een dergelijk besluit is genomen, mag de betrokkene daartegen een
interne procedure starten, d.w.z. een soort van beroep/bezwaar. Een platform moet een interne
commissie hebben die een klacht in behandeling neemt en fungeert als soort rechtbank;
4. Externe procedure = indien betrokkene het niet eens is met de uitkomst van de interne procedure,
dan kan men een externe procedure bij de rechter aanhangig maken.
W1 Jurisprudentie
Rb. LinkedIn → LinkedIn had het profiel van een Kamerlid geblokkeerd vanwege misinformatie en de berichten
offline gehaald. De rechtbank oordeelt dat er sprake is van een inmenging in de vrijheid van meningsuiting, mede
doordat LinkedIn geen duidelijk uitgeschreven en kenbaar beleid had over de communicatie. Het account van het
Kamerlid moet daarom worden teruggeplaatst. De betreffende berichten niet, vanwege de positie welke het
Kamerlid in neemt in de maatschappij, kan zij beleidsmaatregelen niet ondermijnen.
Rb. Café Weltschmerz → Op YouTube is een interview verschenen waarin een huisarts verklaard dat een bepaald
geneesmiddel werkt tegen Covid-19, terwijl dit uitdrukkelijk wordt ontkend door de WHO. YouTube heeft de video
dan ook verwijderd. YouTube heeft beleid over het verspreiden van schadelijke informatie, en wordt ook
gecontroleerd door de Europese Commissie. De verwijdering van de video’s is dan ook geen ongeoorloofde inbreuk
op de vrijheid van meningsuiting. Als arts zijnde draag je op deze manier niet bij aan het publieke debat oordeelt
de rechter.
EHRM Cengiz o.a. v. Turkije → Turkije blokkeerde het platform YouTube. Hoogleraren aan de universiteit van Turkije
deelden hier video’s, maar dit werd verboden. Het Hof heeft geoordeeld dat verzoekers voldeden aan de status van
slachtoffer. Hiervoor heeft zij gekeken naar de manier waarop de verzoekers de website gebruikten, en naar de
omvang van de blokkeringsmaatregel. Het Hof komt daarbij tot het oordeel dat YouTube uniek is, en dat daardoor
de vrijheid van meningsuiting werd aangetast waardoor de hoogleraren de slachtofferstatus kregen. Ook al werden
zij slechts indirect geraakt door de maatregel.
2
,W1 Literatuur
J. M. Balkin, ‘Free Speech is a Triangle’, Colum. L. Rev. 2018/118. (lees: the public function of social media pp. 4-
8).
Er zijn drie centrale functies van sociale media:
1. Vergemakkelijken publieke participatie in kunst, cultuur en politiek
2. Organiseren openbare gesprekken zodat mensen makkelijk met elkaar kunnen spreken
3. Publieke opinie wordt mogelijk gemaakt
Over het algemeen staat het beginsel van de vrijheid van meningsuiting voorop en mag de overheid slechts in een
aantal gevallen hierop inbreken. Het is niet zonder meer mogelijk om maar een set waarden en normen aan het
volk op te dringen. Mensen moeten de mogelijkheid krijgen om zich aan te sluiten bij gelijken die hetzelfde denken.
Als private partijen normen op gaan leggen die strenger zijn dan de wettelijke regels, dan is het zaak dat er nog
andere private partijen zijn die andere normen weerspiegelen. Het moet niet gaan om maar een of twee grote
actoren.
Waarden van vrijheid van meningsuiting:
- Vrijheid van meningsuiting dient de waarden van de politieke democratie = maakt deelname aan vorming
van publieke opinie mogelijk. Het zorgt voor informatie aan het publiek over algemeen belang kwesties
- Vrijheid van meningsuiting draagt bij tot het ontstaan van een democratische cultuur = een cultuur waarin
individuen en groepen vrijelijk kunnen deelnemen aan de cultuur en aan de vormen van culturele macht
die vorm en invloed aan hen geven. Doordat culturele macht groter is dan de staatsmacht, moeten
individuen een manier hebben om hieraan deel te nemen en de cultuur te ontwikkelen
- Vrijheid van meningsuiting draagt tevens bij aan de bevordering van de groei en verspreiding van kennis
Sociale media vervullen hun functies goed, als ze deze waarden promoten:
1. Politieke democratie
2. Culturele democratie
3. De groei en verspreiding van kennis
E. Celeste, ‘Digital punishment: social media exclusion and the constitutionalizing role of national courts’,
International Review of Law, Computers & Technology 2021/35.
Digitale uitsluiting = het resultaat van de ontbering van een individu van informatie- en communicatietechnologie,
waarbij dit bedoeld is als een van de noodzakelijkheden van het moderne leven. Als iemand sociaal wordt
uitgesloten, heeft hij geen toegang tot goederen of diensten die in een specifieke maatschappelijke context als
essentieel worden beschouwd. Digitale technologieën stellen individuen in staat deel te nemen aan de zogenaamde
informatiemaatschappij.
Er zijn drie soorten uitsluitingen van sociale media te onderscheiden op basis van de actoren:
1. Sociale mediagebruikers worden uitgesloten door andere gebruikers van sociale media
2. Sociale mediagebruikers worden uitgesloten door het sociale-mediaplatform zelf
3. Sociale mediagebruikers worden uitgesloten door de wet.
Sociale media is een belangrijk instrument geworden om onze grondrechten uit te oefenen. Tegelijkertijd is de grens
tussen de virtuele en fysieke wereld niet meer duidelijk afgebakend. Sociale media biedt meer ruimte voor informatie
en uitwisseling van standpunten.
Als eerste kan je zeggen dat, door sociale media te erkennen als een essentieel instrument voor de uitoefening van
fundamentele rechten in de digitale samenleving, een recht op sociale media impliciet moet worden erkend. Moet
men het recht kunnen hebben hiervan te genieten? Er is tot op heden geen sociaal recht op sociale media erkend.
Niet alleen vanuit een inhoudelijk perspectief, vanwege de duidelijke politieke, sociale en economische implicaties
van het opdragen van hun respectieve regeringen en online sociale-mediaplatforms om de toegang tot sociale
media te garanderen. Maar ook vanwege de constitutionele architectuur van deze rechtsgebieden. De rechtbanken
erkennen wel de relevantie van de uitsluiting van sociale media. Door te voorkomen dat individuen sociale
mediaplatforms gebruiken, wordt hun vermogen om hun grondrechten ten volle te genieten beperkt. Om deze reden
moeten de mogelijkheden om uitsluiting van sociale media op te leggen duidelijk beperkt worden volgens
grondwettelijke beginselen.
Amerika = de Amerikaans jurisprudentie heeft een reeks verplichtingen opgelegd waarbij de uitsluiting van sociale
media betrekking heeft op accounts van speciale categorieën gebruikers, met name politici. Burgers moeten kunnen
reageren op de standpunten van politici. Een uitspraak van Trump laat zien dat hij geen gebruikers mag blokkeren
op Twitter omdat dit anders de vrijheid van meningsuiting zou beperken.
3
,Duitsland = de Duitse rechtspraak hield zich bezig met de vraag of een platform als Facebook gebruikers kon
uitsluiten van deelname. De rechtbank concludeerde dat sociale mediaplatforms het recht hebben om gebruikers
te verbieden vanwege strafbare schendingen of overschrijding van de beleidslijnen van het platform. De beslissing
om iemand te verbieden moet objectief gerechtvaardigd zijn en niet willekeurig. Er moeten transparante regels
aanwezig zijn als ook objectieve criteria voor het verbieden van toegang. Ook mag het verbod van een gebruiker
niet automatisch zijn en moeten de sancties proportioneel zijn, dus in lijn met de ernst van het misdrijf. De definitieve
uitsluiting van een platform is niet gerechtvaardigd door een enkele overtreding, maar wel bij herhaalde
overtredingen.
Voorkomen dat gebruikers toegang krijgen tot specifieke sociale-mediawebsites of delen daarvan betekenen dat
hun mogelijkheden om volledig uit te oefenen worden beperkt hun grondrechten. Uitsluiting van sociale media is
een vorm van digitale bestraffing die hoewel virtueel, het concreet de individuele vrijheid aantast.
De rechten om iemand van een platform uit te sluiten of te verbieden moeten in evenwicht zijn met het recht op
vrijheid van meningsuiting. Er is geen sociaal recht op sociale media afgeleid. Er zijn geen positieve verplichtingen
opgelegd aan staten en onlineplatforms om individuen toegang te geven tot sociale-mediawebsites.
M. van Riel, ‘Cengiz and others v. Turkey: A tentative victory for freedom of expression online’,
StrasbourgObservers.com 05 januari 2016.
EHRM Cengiz e.a. v. Turkije → kernvraag was of het blokkeren van Youtube door de Turkse overheid een schending
betekende van het recht op vrijheid van meningsuiting (art. 10 EVRM). In 2008 had Turkije de toegang tot YouTube
vanwege video’s die als beledigend voor Atatürk werden beschouwd verwijderd. De blokkade duurde tot eind 2010.
Drie rechtenprofessoren probeerden via Turkse rechtbanken de blokkade aan te vechten. Dat was zonder succes.
Daarom stapten zij naar het EHRM.
Het EHRM erkende dat de professoren ‘slachtofferstatus’ hadden, ondanks dat zij niet rechtstreeks werden
getroffen. Het Hof vond dat de Youtube-blokkade hen wél trof in hun mogelijkheid om informatie te verkrijgen en te
verspreiden, vooral gezien het belang van Youtube voor academisch werk en politieke uitwisseling.
Belangrijk in het oordeel van het Hof was dat het onderscheid maakte met een eerdere zaak (EHRM Akdeniz v.
Turkije), waarin toegang tot muzieksites werd geblokkeerd. In het huidige geval ging het om een platform dat
essentieel is voor politieke uitwisseling en burgerjournalistiek, waarvoor geen gelijkwaardig alternatief bestond.
Het Hof oordeelde uiteindelijk dat de blokkade een onrechtmatige inbreuk vormde op de vrijheid van meningsuiting.
De Turkse wet stond alleen het blokkeren van specifieke inhoud toe, niet van een heel platform zoals Youtube. Dit
arrest is een stap in de richting voor bescherming van online rechten, maar toch liet het Hof belangrijke vragen
onbeantwoord (volgens auteur). Bv of de blokkade een legitiem doel diende en proportioneel was.
F. Wilman, “De Digital Services Act (DSA): een belangrijke stap naar betere regulering van onlinedienstverlening”,
Nederlands tijdschrift voor Europees recht 2022 (9/10).
DSA reguleert onlinediensten die betrekking hebben op de doorgifte en het opslaan van informatie afkomstig van
de gebruikers van die diensten (videodeelplatforms, onlinemarktplaatsen, bloggingswebsites, sociale media en
internetaanbieders).
DSA is dus van toepassing op “tussenhandel diensten” = diensten waarbij het doorgeven en opslaan van informatie
van gebruikers centraal staat
Aanleiding DSA = is hetgeen dat de lidstaten in toenemende mate hun eigen nationale wetgeving vaststelling ten
aanzien van tussenhandel diensten. Dit heeft een negatief effect op de interne markt. Het achterliggende doel van
de DSA is het creëren van een veilige, voorspelbare en betrouwbare onlineomgeving die innovatie bevordert en
waarin de grondrechten doeltreffend worden beschermd. De DSA bestaat naast de Richtlijn elektronische handel.
Werkingssfeer DSA = beperkt tot de tussenhandel diensten, niet de aanbieder hiervan. De plaats van vestiging van
de betrokken aanbieder is niet van belang, beslissend is of de dienst wordt aangeboden in de EU.
Structuur DSA = gelaagde structuur, in de vorm van een piramide met vier horizontale lagen:
- De onderste laag is van toepassing op alle tussenhandel diensten, dit zijn de basisverplichtingen
- De volgende laag bestaat uit verplichtingen voor hostingdiensten
- Daarna volgt een laag met verplichtingen die betrekking hebben op onlineplatforms. Onlineplatforms zijn
een specifieke subcategorie van hostingdiensten, het gaat hierbij niet alleen om het opslaan van informatie
van gebruikers maar ook om het verspreiden bij het publiek ervan
- De toplaag van de piramide omvat verplichtingen voor zeer grote onlineplatforms.
4
,Het onderscheid wordt gemaakt op basis van het aantal maandelijkse actieve gebruikers. De verplichtingen zijn
cumulatief → dus de verplichtingen uit de toplaag zijn ook van toepassing op zeer grote platforms (boven – onder).
Vrijstellingen aansprakelijkheid en verbod algemene toezichtverplichtingen = de DSA bevat de voorwaardelijke
vrijstellingen van aansprakelijkheid die voorheen in de Richtlijn elektronische handel zaten. Op grond hiervan
kunnen aanbieders niet aansprakelijk worden gehouden voor de informatie die zij voor hun gebruikers doorgeven
of opslaan, mits zij aan bepaalde voorwaarden voldoen.
Om zich te beroepen op de vrijstelling moeten aanbieders zich neutraal op stellen, in de zin dat zij geen actieve rol
spelen waardoor zij kennis hebben van, of controle hebben over, de informatie afkomstig van gebruikers die zij
doorgeven of opslaan. Het bij voorbaat nemen van activiteiten tegen de illegale inhoud wordt niet als te actief gezien
→ Good Samaritan-clausule. Het mag niet worden ontmoedigd door de dreiging van een dergelijke straf. De
aanbieder moet te goeder trouw en zorgvuldig handelen.
Wanneer onlinemarktplaatsen aan consumenten doen lijken alsof de informatie die wordt aangeboden van henzelf
is, dan kunnen zij géén beroep doen op de vrijstelling.
Maatregelen tegen illegale inhoud en misbruik:
1. Regels inzake bevelen van nationale gerechtelijke of administratieve autoriteiten gericht tot aanbieders
van tussenhandel diensten om op te treden tegen bepaalde specifieke illegale inhoud of om informatie te
verstrekken over bepaalde specifieke gebruikers die nodig is om vast te stellen of zij zich aan de wet
houden.
2. Aanbieders van hostingdiensten moeten voorzien in kennisgevings- en actiemechanismen. Die stellen
gebruikers in staat om de aanwezigheid van vermeend illegale inhoud bij de betrokken aanbieder te
melden. Verwijdering is geen verplichting. Aanbieders moeten deze meldingen tijdig en zorgvuldig
verwerken. Het beschermt namelijk ook tegen onrechtvaardige verwijdering.
3. Aanbieders van hostingdiensten zijn verplicht vermoedens van bepaalde strafbare feiten te melden bij de
bevoegde instanties. De verplichting is beperkt tot strafbare feiten waarbij het leven of de veiligheid van
een of meer personen wordt bedreigd.
4. Aanbieders van onlineplatforms moeten gebruikers schorsen die hun diensten misbruiken door frequent
illegale inhoud te verstrekken. Het moet gaan om inhoud die kennelijk illegaal is, moet de betrokken
gebruiker vooraf eerst worden gewaarschuwd en moet de schorsing beperkt blijven tot een redelijke
periode. Elke zaak moet individueel en zorgvuldig worden bekeken en moeten zij vooraf in hun algemene
voorwaarden duidelijkheid geven over hun beleid op dit punt.
Er geldt een verplichting tot het aanstellen van een vast aanspreekpunt. De DSA vereist dat aanbieders vooraf
duidelijkheid geven over de geldende beperkingen en over de middelen die zij inzetten om naleving te controleren
en af te dwingen. Bovendien moeten zij bij de toepassing en handhaving zorgvuldig, objectief en evenredig
handelen, ‘met gepaste aandacht’ voor de rechten en legitieme belangen van alle betrokkenen, waaronder de
grondrechten van de gebruikers. Verder mogen onlineplatforms hun online-interfaces niet zodanig ontwerpen,
organiseren of beheren dat gebruikers hierdoor worden misleid of gemanipuleerd.
Voor aanbevelingsactiviteiten moeten aanbieders in hun algemene voorwaarden aangeven wat de belangrijkste
parameters zijn die worden gebruikt in hun aanbevelingssystemen en welke opties er eventueel zijn om die
parameters aan te passen. Bovendien moeten gebruikers invloed kunnen uitoefenen. Voor reclame geldt hetzelfde.
Er is allereerst transparantie vereist. Eerst wordt aangegeven namens wie en waarom de reclame aan de gebruiker
wordt getoond. Tot slot moet zorgvuldig worden omgegaan met bepaalde groepen van gebruikers, zoals
minderjarigen.
Aanbieders dienen hun beslissingen waarmee gebruikers beperkingen worden opgelegd, duidelijk en specifiek te
motiveren. De verplichting geldt voor beslissingen genomen omdat de verstrekte inhoud vermeend illegaal of strijdig
met de algemene voorwaarden is. Aanvechten kan op verschillende manieren. Zo moeten onlineplatforms een
intern klachtenafhandelingssysteem hebben. Via dit systeem kan worden geklaagd over beslissingen om, geen
gevolg te geven aan een ontvangen melding e.d. Los daarvan kunnen gebruikers ook klagen bij de nationale
autoriteiten van hun lidstaat over vermeende inbreuken op de DSA door aanbieders.
Gebruikers kunnen ervoor kiezen een geschil voor te leggen aan een orgaan van buitengerechtelijke
geschilbeslechting. Dat orgaan moet voldoen aan bepaalde voorwaarden, zoals onafhankelijkheid en expertise, en
op basis daarvan gecertificeerd zijn in een van de lidstaten. Tot slot kan een gebruiker zich wenden tot de
overheidsrechter.
Speciale regels voor B2C onlinemarktplaatsen = aanbieders van B2C onlinemarktplaatsen moeten ervoor zorgen
dat hun diensten alleen worden gebruikt door handelaren die hun vooraf bepaalde informatie hebben verstrekt,
zoals naam, identificatie en inschrijvingsgegevens. Bovendien moeten deze aanbieders zich inspannen om de
betrouwbaarheid en volledigheid van de verstrekte informatie te controleren. Zij moeten zorgdragen dat de
handelaren alle vereiste informatie hebben verstrekt. Ook moeten zij steekproefsgewijs controleren of de
aangeboden produceten of diensten als illegaal zijn aangemerkt.
5
,Risico- en crisisbeheersing = zeer grote onlineplatforms en zeer grote onlinezoekmachines moeten alle
systeemrisico’s die samenhangen met hun ontwerp, de werking en het gebruik van hun diensten in kaart brengen
en vervolgens aanpakken. Dit moet jaarlijks gebeuren. Er moet worden gekeken naar informatie die negatieve
effecten kan hebben op de uitoefening van grondrechten, verkiezingsprocessen, openbare veiligheid e.d. Het gaat
dus niet per se om illegale informatie, maar ook schadelijke informatie.
Aanbieders moeten jaarlijks publiekelijk rapporteren hoe zij zijn omgegaan met diverse onderwerpen en
verplichtingen, zoals meldingen van gebruikers over vermeend illegale inhoud. Dit is niet alleen ter transparantie,
maar ook een manier om verantwoording af te leggen. Alle tussenhandel diensten zijn verplicht om enkele
maatregelen te nemen om de publieke handhaving te bevorderen. Het gaat om een centraal contactpunt voor het
rechtstreeks communiceren met toezichthouders en het aanstellen van een wettelijke vertegenwoordiger.
Daarnaast zijn er algemene gedragscodes.
Hoofdregel wat betreft toezicht en handhaving overheid = in beginsel is de lidstaat van de hoofdvestiging van de
betrokken aanbieder van tussenhandel diensten exclusief bevoegd tot handhaving. De Commissie is exclusief
bevoegd ten aanzien van de DSA-verplichtingen die uitsluitend gelden voor aanbieders van zeer grote
onlineplatforms en van zeer grote onlinezoekmachines.
De handhaving en toezicht ziet erop om twee doelen te verwezenlijken: het zorgen dat toezichthouders goed
geëquipeerd zijn en zorgen dat de toezichthouders goed samenwerken.
W1 Zelfstudievragen bij literatuur
Wat zijn de drie functies van sociale media platformen volgens Balkin?
1. Faciliteren publieke participatie in kunst, cultuur, politiek en actualiteit
2. Organiseren publieke conservatie, zodat mensen met elkaar in gesprek kunnen gaan
3. Modereren van de publieke opinie, om te zorgen dat het debat ordentelijk en zonder haatzaaien
verloopt
Hoe beoordeelt Balkin de inperking van de vrijheid van meningsuiting van staten ten opzichte van private
platformen?
Balkin vindt dat staten de vrijheid van meningsuiting slechts beperkt mogen inperken, en dat mensen zich
moeten kunnen uiten binnen een pluralistische omgeving. Wanneer private platforms strengere normen
opleggen dan wettelijk vereist is, is dat alleen acceptabel als er genoeg alternatieve platforms bestaan
waar andere meningen welkom zijn. Er mag dus geen monopolie ontstaan waarin enkele grote bedrijven
de publieke opinie bepalen.
Welke drie vormen van sociale media uitsluiting herkent het artikel van Celeste?
1. Gebruiker jegens gebruiker → bv blokkeren/muten
2. Platform jegens gebruiker → uitsluiting door sociale mediaplatform zelf
3. Staat jegens gebruiker → bv wettelijke uitsluiting van bepaalde groepen
Wat is het verschil in regulering tussen de Verenigde Staten en Duitsland?
VS hanteert “Degree of moderation”-principe. Houdt in dat platforms mogen modereren, maar niet te
streng. Vrijheid van meningsuiting staat voorop.
Duitsland hanteert “Master of the house”-principe. Platforms mogen zelf regels opstellen en handhaven,
zolang dit transparant en proportioneel gebeurt, en niet in strijd is met de wet.
Welke vorm van sociale media uitsluiting herkent het artikel van Van Riel?
De staat jegens platform-vorm van uitsluiting. In dit geval blokkeerde de Turkse overheid het hele platform
Youtube vanwege enkele video’s die Atatürk zouden beledigen.
Hoe werd dit beoordeeld door het Europees Hof voor de Rechten van de Mens?
Het EHRM oordeelde dat dit een onrechtmatige inbreuk was op de vrijheid van meningsuiting (art. 10
EVRM). Hoogleraren kregen slachtofferstatus, ook al werden ze niet rechtstreeks geraakt. Youtube werd
als uniek platform erkend dat essentieel is voor academische + politieke uitwisseling. Bovendien was de
maatregel niet proportioneel.
6
,Wat zijn de belangrijkste doelstellingen van de DSA?
- Reguleren proces rondom contentmoderatie
- Bevorderen risicomanagement en transparantie
- Beschermen grondrechten in de digitale ruimte
- Bevorderen van een veilige, voorspelbare en innovatieve onlineomgeving
Wat zijn de belangrijkste tekortkomingen van de DSA?
Er is onduidelijkheid over wat illegale content nu is (wordt overgelaten aan nationale wetgever). Er wordt
maar beperkt inhoudelijk gereguleerd, want schadelijke maar niet-illegale content valt buiten de reikwijdte.
Ook is de bescherming van grondrechten vrij vaag, want het is niet duidelijk hoe die concreet gewaarborgd
worden (ze worden echter wel genoemd).
HC2 De burger in de virtuele rechtsstaat
Metaverse = 3D-omgeving. Het is geen virtuele omgeving zelf, maar een broncode waarop men voort kan bouwen.
Iedereen met een beetje technische kennis kan daarop voortbouwen en werelden in maken.
Achtergrondinformatie uitdagingen:
Daar zit een uitdaging voor de wetgever: er is geen centrale macht en iedereen kan erop voortbouwen. Het is een wirwar van
omgevingen waardoor je niet meer weet welk land onder welke jurisdictie het wordt aangeboden. Ook mbt betreden van die
wereld is dat lastig. Iedereen kan in een virtuele wereld, daarvoor heb je immers geen identiteitsbewijs nodig. Het kan ook
anoniem. Daardoor wordt het lastig om te handhaven als mensen normen overtreden (denk aan financiële normen/publieke
normen als non-discriminatie). Ook zijn mensen sneller geneigd te overtreden als iets anoniem is. Het is voor de wetgever niet
heel interessant om daar iets aan te doen op dit moment; stel iemand wordt gediscrimineerd door een Nederlander, en diegene
bevindt zich in een land dat geen uitleveringsverdrag met NL heeft, dan is het niet interessant om kosten te maken en moeite te
doen. Verder is het enige wat men nodig heeft om zijn virtuele omgeving te betreden toegang tot internet.
NB: het onderwerp in dit college brengt een aantal vragen met zich mee, daar is voor alsnog geen antwoord op. Van belang om
te weten is dat deze vragen/uitdagingen spelen in het kader van een virtuele rechtsstaat!
Virtuele realiteit = virtuele realiteit heeft een andere impact op ons dan een digitale realiteit (2D) en dat brengt ook
andere rechtsvraag stukken met zich mee. Er zijn vijf criteria om virtuele realiteit te omschrijven:
1. Hyperrealistisch = virtuele omgevingen zijn zó echt, dat onze hersenen het verschil tussen fysiek echt en
nep niet meer kunnen herkennen
2. Opensource = iedereen kan het betreden, zolang je maar toegang tot internet hebt. Het is niet beperkt tot
een individu/groep individuen
3. Decentralized = alles is decentraal, wat betekent dat iedereen beslist wat zijn of haar regels zijn; als het
ware gelijkwaardige stem. Regels worden niet langer bepaald door een persoon of duidelijk aansprakelijke
organisatie zoals bij centralisatie het geval is
4. Immersive = meeslepende ervaring, er wordt een nieuwe dimensie aan de werkelijkheid toevoegt
5. Toegankelijk
De virtuele ‘rechtsstaat’ is oneindig, waar houdt de jurisdictie dan op? Het gebruik van Metaverse biedt kansen en
het kan breed ingezet worden, maar het moet dan wel gereguleerd kunnen worden. Anders krijg je allemaal
desinformatie/meningen waar we niet op zitten te wachten, omdat de wet wordt overtreden (haatzaaien,
discriminatie, oproepen tot geweld).
Virtual world provider als nieuwe staat? → de vraag is of we die aanbieders wellicht als nieuwe staat moeten zien.
Wat we nu zien is dat private partijen nu ook al af en toe fungeren als staten. Dat was vroeger al zo, denk aan de VOC:
die kreeg macht/bevoegdheid om geweld te gebruiken, recht te handhaven e.d. Meer recentelijk is het voorbeeld van
banken/financiële instellingen. Een voorbeeld van de jaren ’80: in VK werden veel winkelcentra privaat gemaakt. Als men wilde
protesteren tegen bonte kleding dat in een winkel werd verkocht, dan kon dat winkelcentra als private partij private regels maken
waardoor niet mocht worden geprotesteerd. Winkelcentra was immers privaat grondgebied. Stel we gaan virtueel winkelen,
mogen we dan verwijderd worden als we willen protesteren?
In de realiteit is het zo dat de politie beperkte capaciteit en middelen heeft. We hebben immers niet oneindig veel
agenten. Een provider/iets virtueels heeft veel meer middelen om in te zetten. Dat kan allemaal automatisch dmv
AI. In het echte leven word je niet continu in de gaten gehouden, soms kom je per toeval een politieagent tegen. In
een virtuele wereld wordt je echter continu gemonitord/bekeken door het algoritme, waardoor je dan verwijderd kan
worden. Verwijdering kan ernstige beperkingen voor wat betreft de vrijheid van meningsuiting (en andere
grondrechten) met zich meebrengen.
Burger = bij een burger denken we snel aan een individu of een rechtspersoon. Als mens hebben we vrijheden
etc. Maar de vraag is moet je een avatar in de Metaverse zien als ‘burger’? Vragen die daarmee samenhangen:
- Heb je recht op een avatar?
- Heeft jouw avatar rechten?
- Kun je verplicht wordt een avatar te hebben die op jou lijkt?
7
, - Virtuele huisdieren/kinderen?
Metaverse brengt samengevat de volgende uitdagingen met zich mee:
- Jurisdictie: wiens normen gelden?
- Oneindig: wat maakt dat het lastig te controleren is…
- Anoniem: daar kan veel misbruik van worden gemaakt…
- Publieke normen
- Hoe te handhaven?
V.w.b. publieke normen vgl. Haber’s taxonomie: volgens hem heb je drie soort normoverschrijdingen:
1. Niet-strafbaar = bv drugsgebruik; je kunt dat slecht vinden maar in de virtuele wereld levert dat geen
fysieke schade op
2. Duidelijk strafbaar = bv witwassen; levert schade op in fysieke, maar je gebruikt het virtuele om het
strafbare feit te plegen
3. Superpositie = bv zedendelicten… wel of niet strafbaar? Vooral bij zedendelicten kan daar discussie over
bestaan In hoeverre leveren virtuele zedendelicten schade op? Dat is volgens Haber belangrijk → kijk
naar schade. Schade zit hem dan vaak in het mentale.
Verbieden van roken: in een virtuele wereld levert roken geen directe schade op, want het levert geen fysieke gezondheidsschade
op. Schade kan in dat geval wel indirect zijn, in die zin dat men dan wellicht sneller geneigd is om in het echte leven een sigaret
te pakken. Wat lastig is aan indirecte schade is dat het lastig vast te stellen is. Hoe groot is die kans, en hoe groot is die schade?
Daardoor kunnen belangrijke rechtsbeginselen worden overschreden: rechtszekerheidsbeginsel en het verbod op willekeur.
Juridisch bestuursrechtelijk kader van docent:
1. Is het gedrag direct schadelijk? → gedraging verbieden + rol voor strafrecht weggelegd
2. Is het gedrag (in)direct schadelijk voor jezelf? → leeftijdsgrens hanteren
3. Is het gedrag (in)direct schadelijk voor anderen? → afhankelijk van hoe sterk de aanwijzing is + hoe zwaar
de inbreuk is
Recht op mentale integriteit = de vrijheid om een gedachte te vormen en die vervolgens voor je te houden. Een
gedachte of mening kan je uiten, maar ook voor je houden. Dat is de traditionele manier van kijken naar dit
grondrecht.
Hard:
- Verbod op gedwongen openbaring
- Verbod op strafbaarstelling gedachten
- Verbod op gedwongen verandering
Zacht:
- Brein manipulatie door EEG
- Manipulatie door AI = tegenwoordig mogelijk om gedachtes zo te manipuleren dat je eigenlijk geen vrijheid van
gedachte hebt omdat je gedachte zo door een algoritme wordt gestuurd en dat AI je in een bepaalde denkrichting
manipuleert
Vorm van verboden AI:
Art. 5 lid 1 AI Act: “De sublimale technieken waarvan personen zich niet bewust zijn of doelbewust manipulatieve
of misleidende technieken gebruikt, met als doel of effect het gedrag van personen of een groep personen wezenlijk
te verstoren door hun vermogen om een geïnformeerd besluit te nemen merkbaar te belemmeren…”
- Manipulatie door AI of misleidende technieken is verboden onder de AI Act.
- AI is gericht op één persoon, want AI weet – dmv het algoritme – wat een persoon interesseert.
- AI kan heel snel en relatief goedkoop iets maken.
- Wanneer iets aanzienlijke schade is, is nog onduidelijk. Er is nog weinig rechtspraak over
8
,W2 Jurisprudentie
EHRM Ahmt Arslan e.a. v. Turkije → in deze zaak klaagden 127 Turkse burgers, leden van een sekte, bij het EHRM
over hun strafrechtelijke veroordeling wegens het dragen van religieuze kledij in de openbare ruimte. Zij waren
gearresteerd en veroordeeld onder Turkse wetgeving die religieuze kledij in het openbaar verbood, met als doel de
seculiere staat te handhaven. Het EHRM erkende dat dit een inmenging vormde in hun godsdienstvrijheid onder
artikel 9 EVRM. Hoewel de Turkse regering betoogde dat de wet noodzakelijk was ter bescherming van de seculiere
staat en openbare orde, vond het Hof dat de Turkse autoriteiten onvoldoende hadden aangetoond waarom deze
inmenging noodzakelijk was. Het Hof benadrukte dat de klagers geen overheidsfunctie bekleedden en er geen
sprake was van verstoring van de openbare orde. Daarom concludeerde het EHRM dat de strafrechtelijke
veroordeling in strijd was met artikel 9 EVRM.
W2 Literatuur
A.M. Mooij, ‘Regulating the Metaverse Economy. How to prevent money laundering and the financing of terrorism’
Springer: 2023. Hoofdstukken 1 & 2.
De wereld tussen online en offline vervaagt. De Metaverse zal veel nieuwe ervaringen brengen en de
toegankelijkheid van deze ervaringen vergroten. Het enige dat nodig is voor toegang tot de Metaverse is een
apparaat met internettoegang.
De Metaverse brengt veel uitdagingen op regelgevingsgebied met zich mee. De Metaverse is overal ter wereld
toegankelijk, waardoor het moeilijk is om te bepalen welk land of welke regio jurisdictie heeft. Het jurisdictieprobleem
wordt nog moeilijker gemaakt omdat de Metaverse een open source, gedecentraliseerd, interopretabel platform
voor programmeerbare digitale activa is en digitale identiteiten gebouwd op substraat. Kortom: het is gratis en voor
iedereen toegankelijk.
Metaverse is een 3D virtual realiteit; een open-source, gedecentraliseerde virtuele realiteit die interoperabiliteit
tussen verschillende providers mogelijk maakt. Het doel van de Metaverse is om een realiteit te bieden die
gebaseerd is op het echte leven. Metaverse is breder dan vorige technieken: voorheen met name gericht op
entertainment, maar Metaverse biedt een breder scala aan diensten aan. Ook kan het zijn eigen economie
genereren. De verwachting is dan ook dat het bezit van digitale goederen zal toenemen.
E.C. Silva, J. C. Vaz & A. R. de Freitas, ‘Metaverse as dispute: challenges for a State action agenda’, ICEGOV '23:
Proceedings of the 16th International Conference on Theory and Practice.
Metaverse onderverdelen in twee categorieën:
- Als hulpmiddel
- Als doel
Twee hoofdcategorieën van bestuur in de Metaverse:
1. Bestuur van de Metaverse = bestuur buiten Metaverse wordt overwogen, waarbij gedrag en gewoonten
worden beheerd die verband houden met de invoeging, relatie, uitsluiting en andere aspecten
2. Bestuur door de Metaverse = rekening houdend met interne bestuur van Metaverse, verwijzend naar
programmaregels die kunnen worden opgeslagen in blockchain-technologie en kunnen worden uitgevoerd
om het gedrag van gebruikers te sturen
Gezien de uitdagingen en mogelijkheden van de Metaverse, is het essentieel dat de staat een actieve rol speelt in het beleid en
de regelgeving die de interacties tussen het Metaverse en de fysieke wereld sturen, om zo de veiligheid en rechten van gebruikers
te garanderen.
Er zijn verschillende categorieën actoren die rechtstreeks betrokken zijn bij de productie en verspreiding van deze
technologieën:
- Leveranciers van kritieke technologieën, software, hardware en diensten
- Big Techs, waarbij internet- en gamingplatforms migreren naar Metaverse- platforms
- Financiële sector, met financiering en toe-eigening van inkomsten
- Startups, met een heel innovatie-ecosysteem dat de uitbesteding van een deel van de
ontwikkelingsrisico’s en de verkenning van nieuwe mogelijkheden bevordert, waarbij een aanzienlijk
deel mislukt en slechts weinigen uiteindelijk winst genereren
- Traditionele sectoren, die op zoek zijn naar mogelijkheden om de efficiëntie van transacties te
vergroten en deel uitmaken van het proces van transformatie naar Metaverse-platforms of invoeging
in deze nieuwe omgevingen die ondergeschikt zijn aan de dominante bedrijven in de
technologiegebruiksketen.
9
, Door de Metaverse kunnen verschillende aspecten van ons leven worden gemonitord. De controle over de
gegevens van je privéleven, gebaseerd op algoritmische surveillance, heeft een enorme impact op de werkelijkheid.
Er kan een eigen Metaverse-economie ontstaan. Auteurs verwachten dat de Metaverse een instrument van de
werkelijkheid is.
In de echte wereld wordt de politiek gedefinieerd door geografische grenzen en instellingen, maar de Metaverse
wordt niet beperkt door grenzen of regels. Nu verschuift de besluitvorming van de dienstverlener naar de leider van
een grote groep.
Er wordt een parallelle realiteit gevormd die de samenleving als geheel kan beïnvloeden. Hier zit een risico in.
Wanneer we de mogelijkheid overwegen dat de Metaverse gemeenschappelijke belangen bevordert en sociale,
religieuze, geopolitieke en etnisch-raciale barrières overwint, is het ook belangrijk om de vraag te stellen of
technologie echt meer democratie kan brengen. Ook omdat de privacy wordt bedreigd door de commercialisering
van persoonsgegevens die in het bezit zijn van dienstverleners en de publieke sector. In werkelijkheid genereert de
ongelijke toe-eigening van de middelen van de Metaverse een meer geconcentreerde macht waarin het middelen
kan mobiliseren.
Het probleem dat naar voren komt met betrekking tot de Metaverse als geschil komt voort uit de concentratie van
macht en middelen in de handen van een paar bedrijven, voornamelijk de technologiegiganten die zwaar hebben
geïnvesteerd in deze nieuwe digitale grens. Te midden van technologische geschillen kan dit leiden tot de uitsluiting
van individuen die niet over de middelen beschikken om met hen te concurreren, naast het creëren van een scenario
waarin deze bedrijven de poortwachters worden. Bovendien zijn er zorgen over de privacy en veiligheid van
gebruikers, aangezien deze bedrijven toegang zullen hebben tot een enorme hoeveelheid persoonlijke gegevens
van degenen die Metaverse bezoeken.
Concluderend is het voorgestelde raamwerk voor het reguleren van het Metaverse een startpunt voor het nadenken
over de uitdagingen en regelgevingskwesties die voortkomen uit de digitalisering van de werkelijkheid. Er is wel
een noodzaak van een gemeenschappelijke reeks regels voor alle landen platforms die Metaverse-omgevingen
hosten en het belang van het vaststellen van nationale richtlijnen voor het gebruik van deze technologie.
E. Haber, ‘The criminal of Metaverse’, Indiana Law Journal (2024)99.
De Metaverse is geen gewone voortzetting van het internet of games, maar een potentiële “game changer”
vanwege haar vermogen om realistische sensaties op te wekken (zoals aanraking via haptische technologie).
Hierdoor kunnen virtuele handelingen psychologische effecten hebben die vergelijkbaar zijn met die in de fysieke
wereld. Dit maakt de juridische beoordeling van gedrag ingewikkelder.
Haber introduceert een taxonomie van Metaverse-misdrijven. Hij verdeelt gedrag in drie categorieën:
1. Niet-strafbaar gedrag: zaken die duidelijk niet onder strafrecht vallen.
2. Duidelijk strafbaar gedrag: zoals virtuele diefstal of seksuele intimidatie die mentale schade aanricht.
3. Gedrag in superpositie: gedragingen waarvan nog niet duidelijk is of ze strafbaar zijn, bijvoorbeeld
bepaalde vormen van virtuele intimidatie of virtueel overspel.
Dit laatste type gedrag is moeilijk juridisch te kwalificeren, vooral omdat de impact subjectief en technisch moeilijk te
bewijzen kan zijn.
De Metaverse brengt nieuwe uitdagingen voor handhaving met zich mee:
- Identiteit van daders is moeilijk te achterhalen.
- Bewijsvoering is complex.
- Politie heeft beperkte bevoegdheden in virtuele werelden.
Haber stelt een hybride handhavingsmodel voor, waarin zowel staten als Metaverse-platforms een rol spelen:
- Platformen zorgen voor snelle interventie, bewijsvergaring, en mogelijk zelfs voor sancties zoals het
blokkeren van accounts.
- Overheden behouden het recht om ernstige zaken strafrechtelijk te vervolgen.
Hij benadrukt dat niet alles aan bedrijven overgelaten mag worden, omdat zij niet democratisch gelegitimeerd zijn
en hun eigenbelang kunnen laten prevaleren.
Haber stelt dat de Metaverse een serieuze impact zal hebben op het strafrecht. Nieuwe vormen van schade –
vooral mentale – kunnen juridisch relevant worden. De grenzen tussen echt en virtueel vervagen, en dit vereist
een herziening van hoe we strafbaarheid beoordelen en handhaven. Zonder duidelijke kaders en samenwerking
tussen overheid en platformen, zal het moeilijk zijn om rechtvaardigheid te waarborgen in deze nieuwe digitale
werkelijkheid.
10
