Hoorcolleges AI-recht
Hoorcollege 1: Wat is AI? .........................................................................................................................2
Hoorcollege 2: De robot-rechter en geautomatiseerde rechtsvinding .....................................................10
Hoorcollege 3: Automatische besluitvorming in privaatrechtelijke verhoudingen .................................12
Hoorcollege 4: Automatische besluitvorming in publiekrechtelijke verhoudingen ................................16
Hoorcollege 5: Algoritmische opsporing en strafprocesrecht .................................................................23
Hoorcollege 6: AI en grondrechten .........................................................................................................28
Hoorcollege 7: AI en auteursrecht ..........................................................................................................32
Hoorcollege 8: AI en aansprakelijkheidsrecht.........................................................................................40
Hoorcollege 9: AI en mededingingsrecht ................................................................................................49
Hoorcollege 10: AI, legal tech en juridische beroepen ...........................................................................58
Hoorcollege 11: De noodzaak van bijzondere regelgeving voor AI .......................................................58
Hoorcollege 12: De AI-verordening en daarna .......................................................................................63
1
,Hoorcollege 1: Wat is AI?
Doelstellingen van dit college:
- Belangrijke kenmerken AI
- Wat is autonomie?
- Basisbegrippen kennen rondom AI:
o Algoritme
o AI
o Machine learning
o Weak en strong AI
- Beknopte geschiedenis AI tot opkomst van generative AI
- De opkomst van generative AI als game changer
Meest belangrijke vraagstellingen:
- Deze cursus richt zich op de volgende vragen:
o Hoe en waar wordt AI nu al gebruikt?
▪ En hoe kan het worden gebruikt in onze samenleving?
o Hoe reguleert het recht op AI op dit moment?
▪ En hoe kan of moet het recht reageren op het steeds ruimere gebruik van AI?
Doelstelling van deze cursus:
- Na het succesvol afronden van deze cursus:
o Heeft u een basisbegrip van AI (met inbegrip van mogelijke gevaren)
o Begrijpt u hoe en waar AI kan worden gebruikt (bijvoorbeeld voor rechterlijke
besluiten, opsporing strafbare feiten, legal tech)
o Kunt du de juridische gevolgen van het gebruik van AI analyseren
o Kunt u vanuit verschillende rechtsgebieden naar AI kijken
o Bent u in staat om de toekomstige mogelijkheden van AI-regulering kritisch te
ondervragen.
In welke sectoren speelt AI?
- Gezondheidszorg
- Autotechniek
- Financiële sector
- Transport en logistiek
- Technologie, media en telecommunicatie
- Detailhandel en consument
- Energie
- Productieprocessen
Belangrijkste kenmerken van AI:
- Belangrijkste reden waarom AI momenteel de bron is van zoveel hoop en vrees:
2
, o Het feit dat de allermeeste AI zelflerend zijn en in tegenstelling tot “gewone” software
niet expliciet geprogrammeerd.
- Wat betekent het?
o AI-algoritme wordt getraind door data, zodat het systeem zichzelf verbetert door te
leren uit ervaring (gewone software kan dat niet)
o Voorbeeld: Alphazero is het nieuwste, AI-gestuurde schaakcomputerprogramma. Door
alleen tegen zichzelf te spelen, had Alphazero slechts negen uur nodig om van een
beginner onverslaanbaar te worden door een menselijke schaker of een ander
schaakcomputerprogramma.
- Met het vermogen tot zelf leren komt autonomie:
o Hoe groter het zelflerend vermogen, hoe groter de autonomie van de AI en hoe minder
de AI afhankelijk is van de mens (straks meer over autonomie)
- Die (toenemende) autonomie leidt tot twee specifieke risico’s, namelijk het gebrek aan
o Voorspelbaarheid (we kunnen de uitkomst van een AI niet altijd voorzien), en
o Verklaarbaarheid (we kunnen niet altijd verklaren hoe of waarom de AI tot een
resultaat is komt).
- Beide aspecten zijn elementen van het black box effect
o Wat beschrijft dat zelfs de AI-programmeurs vaak zelf niet meer met weten hoe en
waarom de AI tot een bepaald resultaat komt
- En juist deze toenemende autonomie en de daarmee gepaard gaande risico's van AI vormen de
grote uitdaging voor het recht.
- AI heeft een enorm potentieel voor verstoringen en manipulaties (door private partijen of ook
door overheidsinstanties)
- We moeten AI temmen om te profiteren van de positieve aspecten van AI
- En om het duidelijk te stellen: AI komt in alle verschillende vormen en gedaanten...
o Het kan bestaan in een puur virtuele vorm (zoals chatbots of een robo-adviseur voor
financiële zaken) of de AI kan worden geïntegreerd in hardware (robots).
Wat is autonomie?:
- Capaciteit van machines om zelfstandig taken uit te voeren
- Om "beslissingen" te nemen over zijn eigen gedrag zonder directe input van menselijke
operators en zonder menselijke controle
- Vereist dat machines hun omgeving waarnemen via externe sensoren of bijgewerkte
invoergegevens
o Leren en veranderen na verloop van tijd
o Dynamisch hun eigen subdoelen bepalen
o Hun gedrag aanpassen als reactie op feedback over hun eigen prestaties
- Autonomie is een geleidelijk verschijnsel
o Een reeks eigenschappen die in meer of mindere mate aanwezig kunnen zijn in graden
o Afhankelijk van de mate waarin menselijk toezicht/ingrijpen vereist is
Meest belangrijke indeling van autonomie:
- Automatiseringsniveaus voor zelfrijdende auto’s voorgesteld door SAE International (Society
of Automotive Engineers)
Niveau: Staat:
0 De menselijke bestuurder doet alles
3
, 1 Een geautomatiseerd systeem in het voertuig
kan de menselijke bestuurder soms helpen
bij het uitvoeren van bepaalde delen van de
rijtaak.
2 Een geautomatiseerd systeem op het voertuig
kan sommige delen van de rijtaak
daadwerkelijk uitvoeren, terwijl de mens de
rijomgeving in de gaten blijft houden en de
rest van de rijtaak uitvoert.
3 Een geautomatiseerd systeem kan bepaalde
delen van de rijtaak uitvoeren en in sommige
gevallen de rijomgeving in de gaten houden,
maar de menselijke bestuurder moet bereid
zijn de controle over te nemen wanneer het
geautomatiseerde systeem daarom vraagt.
4 Een geautomatiseerd systeem kan de rijtaak
uitvoeren en toezicht houden op de
rijomgeving, en de mens hoeft de controle
niet terug te nemen, maar het
geautomatiseerde systeem kan alleen in
bepaalde omgevingen en onder bepaalde
omstandigheden werken
5 Het geautomatiseerde systeem kan alle
rijtaken uitvoeren, onder alle
omstandigheden waarin een menselijke
bestuurder ze zou kunnen uitvoeren. Zo
wordt de mens buiten spel gezet.
Basisbegrippen rond AI: Wat is een algoritme?
- Bestaat eigenlijk al sinds de 12e eeuw en betekende; rekenen met Arabische cijfers.
- Tegenwoordig: “Een algoritme is een reeks instructies met een vaststaande volgorde, die de
oplossing van een bepaald probleem beschrijft.”
- Een recept voor een appeltaart is dus ook een algoritme
- Elke software bestaat uit algoritme
Oorsprong van de term “AI”:
- Op de Darthmouth conferentie in 1956 werd gezegd dat er geen algemeen aanvaarde definitie
van AI is.
- Wat beklemtoon je?
o Moet het kunnen denken als een mens, of moet het enkel kunnen ageren als een mens?
o Moet AI rationeel kunnen denken? Of moet het rationeel kunnen ageren?
3 tests voor het bevestigen van intelligentie op menselijk niveau:
- Turing test:
o "Standaard interpretatie" van de Turing test: Speler C, de ondervrager, krijgt de taak te
bepalen welke speler - A of B - een computer is en welke een mens. De ondervrager is
beperkt tot het gebruik van de antwoorden op schriftelijke vragen om dit vast te
stellen.
4
Hoorcollege 1: Wat is AI? .........................................................................................................................2
Hoorcollege 2: De robot-rechter en geautomatiseerde rechtsvinding .....................................................10
Hoorcollege 3: Automatische besluitvorming in privaatrechtelijke verhoudingen .................................12
Hoorcollege 4: Automatische besluitvorming in publiekrechtelijke verhoudingen ................................16
Hoorcollege 5: Algoritmische opsporing en strafprocesrecht .................................................................23
Hoorcollege 6: AI en grondrechten .........................................................................................................28
Hoorcollege 7: AI en auteursrecht ..........................................................................................................32
Hoorcollege 8: AI en aansprakelijkheidsrecht.........................................................................................40
Hoorcollege 9: AI en mededingingsrecht ................................................................................................49
Hoorcollege 10: AI, legal tech en juridische beroepen ...........................................................................58
Hoorcollege 11: De noodzaak van bijzondere regelgeving voor AI .......................................................58
Hoorcollege 12: De AI-verordening en daarna .......................................................................................63
1
,Hoorcollege 1: Wat is AI?
Doelstellingen van dit college:
- Belangrijke kenmerken AI
- Wat is autonomie?
- Basisbegrippen kennen rondom AI:
o Algoritme
o AI
o Machine learning
o Weak en strong AI
- Beknopte geschiedenis AI tot opkomst van generative AI
- De opkomst van generative AI als game changer
Meest belangrijke vraagstellingen:
- Deze cursus richt zich op de volgende vragen:
o Hoe en waar wordt AI nu al gebruikt?
▪ En hoe kan het worden gebruikt in onze samenleving?
o Hoe reguleert het recht op AI op dit moment?
▪ En hoe kan of moet het recht reageren op het steeds ruimere gebruik van AI?
Doelstelling van deze cursus:
- Na het succesvol afronden van deze cursus:
o Heeft u een basisbegrip van AI (met inbegrip van mogelijke gevaren)
o Begrijpt u hoe en waar AI kan worden gebruikt (bijvoorbeeld voor rechterlijke
besluiten, opsporing strafbare feiten, legal tech)
o Kunt du de juridische gevolgen van het gebruik van AI analyseren
o Kunt u vanuit verschillende rechtsgebieden naar AI kijken
o Bent u in staat om de toekomstige mogelijkheden van AI-regulering kritisch te
ondervragen.
In welke sectoren speelt AI?
- Gezondheidszorg
- Autotechniek
- Financiële sector
- Transport en logistiek
- Technologie, media en telecommunicatie
- Detailhandel en consument
- Energie
- Productieprocessen
Belangrijkste kenmerken van AI:
- Belangrijkste reden waarom AI momenteel de bron is van zoveel hoop en vrees:
2
, o Het feit dat de allermeeste AI zelflerend zijn en in tegenstelling tot “gewone” software
niet expliciet geprogrammeerd.
- Wat betekent het?
o AI-algoritme wordt getraind door data, zodat het systeem zichzelf verbetert door te
leren uit ervaring (gewone software kan dat niet)
o Voorbeeld: Alphazero is het nieuwste, AI-gestuurde schaakcomputerprogramma. Door
alleen tegen zichzelf te spelen, had Alphazero slechts negen uur nodig om van een
beginner onverslaanbaar te worden door een menselijke schaker of een ander
schaakcomputerprogramma.
- Met het vermogen tot zelf leren komt autonomie:
o Hoe groter het zelflerend vermogen, hoe groter de autonomie van de AI en hoe minder
de AI afhankelijk is van de mens (straks meer over autonomie)
- Die (toenemende) autonomie leidt tot twee specifieke risico’s, namelijk het gebrek aan
o Voorspelbaarheid (we kunnen de uitkomst van een AI niet altijd voorzien), en
o Verklaarbaarheid (we kunnen niet altijd verklaren hoe of waarom de AI tot een
resultaat is komt).
- Beide aspecten zijn elementen van het black box effect
o Wat beschrijft dat zelfs de AI-programmeurs vaak zelf niet meer met weten hoe en
waarom de AI tot een bepaald resultaat komt
- En juist deze toenemende autonomie en de daarmee gepaard gaande risico's van AI vormen de
grote uitdaging voor het recht.
- AI heeft een enorm potentieel voor verstoringen en manipulaties (door private partijen of ook
door overheidsinstanties)
- We moeten AI temmen om te profiteren van de positieve aspecten van AI
- En om het duidelijk te stellen: AI komt in alle verschillende vormen en gedaanten...
o Het kan bestaan in een puur virtuele vorm (zoals chatbots of een robo-adviseur voor
financiële zaken) of de AI kan worden geïntegreerd in hardware (robots).
Wat is autonomie?:
- Capaciteit van machines om zelfstandig taken uit te voeren
- Om "beslissingen" te nemen over zijn eigen gedrag zonder directe input van menselijke
operators en zonder menselijke controle
- Vereist dat machines hun omgeving waarnemen via externe sensoren of bijgewerkte
invoergegevens
o Leren en veranderen na verloop van tijd
o Dynamisch hun eigen subdoelen bepalen
o Hun gedrag aanpassen als reactie op feedback over hun eigen prestaties
- Autonomie is een geleidelijk verschijnsel
o Een reeks eigenschappen die in meer of mindere mate aanwezig kunnen zijn in graden
o Afhankelijk van de mate waarin menselijk toezicht/ingrijpen vereist is
Meest belangrijke indeling van autonomie:
- Automatiseringsniveaus voor zelfrijdende auto’s voorgesteld door SAE International (Society
of Automotive Engineers)
Niveau: Staat:
0 De menselijke bestuurder doet alles
3
, 1 Een geautomatiseerd systeem in het voertuig
kan de menselijke bestuurder soms helpen
bij het uitvoeren van bepaalde delen van de
rijtaak.
2 Een geautomatiseerd systeem op het voertuig
kan sommige delen van de rijtaak
daadwerkelijk uitvoeren, terwijl de mens de
rijomgeving in de gaten blijft houden en de
rest van de rijtaak uitvoert.
3 Een geautomatiseerd systeem kan bepaalde
delen van de rijtaak uitvoeren en in sommige
gevallen de rijomgeving in de gaten houden,
maar de menselijke bestuurder moet bereid
zijn de controle over te nemen wanneer het
geautomatiseerde systeem daarom vraagt.
4 Een geautomatiseerd systeem kan de rijtaak
uitvoeren en toezicht houden op de
rijomgeving, en de mens hoeft de controle
niet terug te nemen, maar het
geautomatiseerde systeem kan alleen in
bepaalde omgevingen en onder bepaalde
omstandigheden werken
5 Het geautomatiseerde systeem kan alle
rijtaken uitvoeren, onder alle
omstandigheden waarin een menselijke
bestuurder ze zou kunnen uitvoeren. Zo
wordt de mens buiten spel gezet.
Basisbegrippen rond AI: Wat is een algoritme?
- Bestaat eigenlijk al sinds de 12e eeuw en betekende; rekenen met Arabische cijfers.
- Tegenwoordig: “Een algoritme is een reeks instructies met een vaststaande volgorde, die de
oplossing van een bepaald probleem beschrijft.”
- Een recept voor een appeltaart is dus ook een algoritme
- Elke software bestaat uit algoritme
Oorsprong van de term “AI”:
- Op de Darthmouth conferentie in 1956 werd gezegd dat er geen algemeen aanvaarde definitie
van AI is.
- Wat beklemtoon je?
o Moet het kunnen denken als een mens, of moet het enkel kunnen ageren als een mens?
o Moet AI rationeel kunnen denken? Of moet het rationeel kunnen ageren?
3 tests voor het bevestigen van intelligentie op menselijk niveau:
- Turing test:
o "Standaard interpretatie" van de Turing test: Speler C, de ondervrager, krijgt de taak te
bepalen welke speler - A of B - een computer is en welke een mens. De ondervrager is
beperkt tot het gebruik van de antwoorden op schriftelijke vragen om dit vast te
stellen.
4
