WEEK 1 HOORCOLLEGE AI EN RECHT
AI en juridische besluitvorming: Wat is AI?
Deze cursus richt zich op de volgende vragen met betrekking tot AI en recht:
- Hoe en waar wordt AI nu al gebruikt? En hoe kan het worden gebruikt in onze samenleving?
- Hoe reageer het recht op AI? En hoe kan of moet het recht reageren op het steeds ruimere
gebruik van AI?
Belangrijke kenmerken van AI
AI is verschillend van andere software aangezien AI zichzelf kan verbeteren. De grote verandering is
dat AI van zichzelf kan leren. Eerder werd een programma geprogrammeerd en daar bleef het dan ook
bij. De belangrijkste reden waarom AI momenteel de bron is van zoveel hoop en vrees is dus het feit
dat de allermeeste AI zelflerend zijn en in tegenstelling tot gewone software niet expliciet
geprogrammeerd is.
Dit betekent dat AI wordt getraind door data, zodat het systeem zichzelf verbeterd door te leren uit
ervaring (gewone software kan dat niet). Voorbeeld: Alphazero, een AI-gestuurde schaakprogramma.
Door alleen tegen zichzelf te spelen, had Alphazero slecht 9 uur nodig om onverslaanbaar te worden.
Wij verbeteren ChatGPT ook telkens doordat wij informatie aan ChatGPT geven. Hetzelfde geldt voor
Google Maps, wij geven de informatie van files bijvoorbeeld door.
Met het vermogen tot zelf leren komt autonomie. Toenemende autonomie leidt tot twee specifieke
risico’s namelijk het gebrek aan:
1) Voorspelbaarheid = niemand weet meer precies wat er uit zal komen als resultaat. De
uitkomsten kunnen ook in de loop van tijd veranderen.
2) Verklaarbaarheid = niemand kan een uitkomst 100% verklaren.
Beide aspecten zijn elementen van black box e*ect.
Dit is een probleem aangezien je de macht van de beslissing nu weggeeft aan AI. De rechtbank
Gelderland heeft bijvoorbeeld een keer ChatGPT gebruikt. De rechter heeft geen idee waarom
ChatGPT dit zegt en toch vertrouwde rechter zomaar de kunstmatige intelligentie. Dit kan diepgaande
gevolgen hebben. Het voelt toch niet juist als je iets niet meer kan verklaren? Maar alleen naar
ChatGPT kan verwijzen?
Juist deze toenemende autonomie en de daarmee gepaard gaande risico’s van AI vormen de grote
uitdaging voor het recht. AI heeft een enorm potentieel voor verstoringen en manipulaties (door
private partijen of ook door overheidsinstanties). We moeten AI temmen om te profiteren van de
positieve aspecten van AI. En om het duidelijk te stellen: AI komt in alle vormen voor.
Autonomie
Autonomie is capaciteit van machines om zelfstandig taken uit te voeren. Om “beslissingen” te
nemen over zijn eigen gedrag zonder directe input van menselijke operators en zonder menselijke
controle. Dit vereist dat machines:
- Hun omgeving waarnemen via externe sensoren of bijgewerkte invoergegeven
- Leren en veranderen na verloop van tijd
- Dynamisch hun eigen subdoelen bepalen
, - Hun gedrag aanpassen als reactie op feedback over hun eigen prestaties
Autonomie is een geleidelijk verschijnsel. Het is niet zo dat iets ineens compleet autonoom is of iets
totaal niet autonoom is. Een reeks eigenschappen die in meer of mindere mate aanwezig kunnen zijn
in graden. Afhankelijk van de mate waarin menselijk toezicht/ingrijpen vereist zijn.
Autonomie komt vooral veer voor bij auto’s.
§ Niveau 0 = de menselijke bestuurder doet alles
§ Niveau 5 = het geautomatiseerde systeem kan alle rijtaken uitvoeren, onder alle
omstandigheden waarin een menselijke bestuurder ze zou kunnen uitvoeren, het mens staat
buiten spel.
Er zijn verschillende mogelijkheden om autonomie in te delen. Het is erg belangrijk om te weten dat
autonomie geleidelijk is, sommige dingen zijn semi-autonomie.
De term algoritme
De term “algoritme” ontstond in Spanje in de 12e eeuw toen de schriften van de Arabische wiskundige
Muhammad Al-Chwarizmi in het Latijn werden vertaald. Daarna “algoritme” oorpsronkelijk rekenen
met Arabische cijfers. Het kreeg pas later een andere betekenis.
Technische definitie van algoritme is nu: “een algoritme is een reeks instructies met een vaststaande
volgorde, die de oplossing van een bepaald probleem beschrijft.” Dat kan van alles zijn zoals recept
voor een appeltaart of een routebeschrijving. Elke software bestaat uit algoritmes
De term AI
De oorsprong van de term “AI” was in 1956, Dartmouth Conferentie. Er was toen geen algemene
aanvaarde definitie van AI, er waren talloze definities. AI-pionier John McCarthy zei dat er geen
duidelijke definitie was.
ChatGPT gedraagt zich als een mens maar kan hij ook denken als een mens? Nee dat eigenlijk niet,
een mens heeft echte gevoelens. Bij ChatGPT kan je dit wel programmeren maar hij heeft deze
gevoelens niet echt. Je zou ook kunnen zeggen dat het lijkt dat ChatGPT redelijk rationeel ageert, maar
denkt het ook echt rationeel? Nee. Het imiteert eigenlijk wat een mens zou zeggen die het antwoord
weet.
Er zijn veel testen ontwikkeld om vast te stellen wanneer we zeggen tegen een bepaald algortiem dat
het intelligentie is. Testen voor het bevestigen van intelligentie op menselijk niveau:
- Turing-test = Iemand stelt vragen en geeft de vragen door aan een computer en een mens. Hij
heeft 15 minuten tijd om vast te stellen wie de mens is en wie de computer is. Als hij dit niet
kan dan wordt gezegd dat de algoritmes intelligent zijn. Als wij het verschil niet meer
herkennen. Nadelen:
a. Te taalgericht
b. Test hangt af van wie het vraagt
c. Test is gevoelig voor strikvragen
d. AI kan test bewust niet halen
e. Intelligentie vs. De simulatie van intelligentie
, - Ko*ietest = een machine moet een gemiddeld Amerikaans huis binnengaan en uitzoeken hoe
je kobie zet: de kobiemachine vinden, de kobie vinden, water toevoegen, een mok vinden en de
kobie zetten door op de juiste knoppen te drukken.
- IKEA-test = een machine moet een meubelstuk uitpakken en in elkaar zetten. Zij moet de
instructies lezen en het artikel in elkaar zetten zoals beschreven, waarbij alle bevestigingen
correct worden aangebracht.
De definitie van het AI-systeem in Europa is te vinden in art. 3 lid 1 AI-Verordening.
Art. 3 lid 1 AI-Verordening zegt: “een AI-systeem is een op een machine gebaseerd systeem dat is
ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan
aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de
ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of
beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen.”
Machine learning
Machine learning is een deelgebied van AI. Het doel is om computers in staat te stellen om zelfstandig
te leren. Machine learning algoritmes maken het mogelijk:
- Patronen te identificeren in waargenomen gegevens
- Modellen te bouwen die de wereld verklaren
- Dingen te voorspellen zonder expliciete voorgeprogrammeerde regels en modellen te hebben.
Inmiddels is de definitie echt dat het zelfleren moet zijn, soms wordt ook nog gezegd dat er systemen
zijn die mens als kunstmatige intelligentie kunnen definiëren zonder machine learning. Bijvoorbeeld
op kennis gebaseerde aanpak met menselijke deskundige die formele regels ontwikkelen (vastgelegde
kennis, expertsysteem zoals bij sommige chatbots).
Artificial Narrow Intelligence (ANI) of weak AI
AI-systemen die een of enkele specifieke taken kunnen uitvoeren. Dit systeem bestaat tegenwoordig.
Artifical General Intelligence (AGI) of strong AI
Al die met succes elke intellectuele taak kan uitvoeren die ene mens kan uitvoeren, inclusief leren,
plannen en beslissen in onzekerheid, communiceren in natuurlijke taal, grappen maken, mensen
manipuleren, handelen in aandelen of zichzelf herprogrammeren.
Technologische singulariteit van AI
Mogelijkheid dat AI de menselijke intellectuele capaciteit overtreft en de mensheid en beschavingen
een grote vorm geeft, ook wel superintelligentie.
Komt er een Cambrische explosie voor AI?
De Cambrische explosie is een abrupte verschijning van een grote verscheidenheid aan organismen,
vooral ongewerveld dieren, met harde lichaamsdelen in Cambrische gesteentelagen. Mensen zeggen
dat dit ongeveer ook met AI gaat gebeuren.
Komt er een Moore’s Law voor AI?
Voorspelling van de Amerikaanse ingenieur Gordon Moore in 1965: “Het aantal transistorts op een
geïntegreerde schakeling zal zich ongeveer elke twee jaar verdubbelen”
, Kan worden verwacht dat de ontwikkeling van AI uiteindelijk het punt bereikt waarop superintelligentie
worde gecreëerd? Zo ja, wanneer en hoe snel? En wat zal het geneigd zijn te doen?
Er is 50% kans dat AI over 45 jaar in alle taken beter zal presteren dan de mens.
Beknopte geschiedenis van AI tot opkomst van generative AI
1997: Kasparov vs. Deep Blue = Deep Blue gebruikte posities uit een database van meer dan 700.000
partijen. Zoekt tot 30 miljard positities per beweging. Men was er in deze tijd er van overtuigd dat de
mens altijd beter zou zijn dan AI. Maar dan wint AI met een schaakspel van een mens.
2011: IBM Watson wint van twee van Jeopardy’s grootste kampioenen. Het gaat daar vooral om kennis
2017: GO: oude Chinese oorlogsstrategiespel, met zijn heel vele mogelijke bordposities.
Professionele GO-speler Lee Sedol werd verslagen door AI (AlphaGo).
Zie A.I. Timeline op de PowerPoint.
De opkomst van generative AI als gamechanger
Generative AI was al bekend 60 jaar geleden, namelijk toen de eerste chatbot (Elisa) ontstond. Maar
pas in 2014 met de introductie van generative adversarial networks (GAN’s) – een type algoritme voor
machinaal leren – kon generative AI overtuigend authentieke afbeeldingen, video’s en audio van echte
mensen etc. maken
Maar wat is generative AI überhaupt?
Generative AI is een vorm van AI die nieuwe content kan creëren, zoals afbeeldingen, video’s, audio en
tekst. GenAI genereert nieuwe en unieke output op basis van een prompt van een gebruiker door
analyse van grote hoeveelheden bestaande data. Prompt is de input die je levert aan bijvoorbeeld een
chatbot.
Een groot probleem van AI is deepfake. Wat ga je als rechter doen met een film of foto? Wat is de
bewijskracht nog?
Generative AI: Large Language Models (LLM)
Large Language Models zijn een vorm van generative Ai en zijn in staat om tekst te begrijpen en te
genereren. LLM’s worden getraind op enorme hoeveelheden tekstgegevens. Hierdoor begrijpen ze de
relaties tussen zinnen en woorden, iets dat ze hebben geleerd door enorme hoeveelheden data vna
het web in te nemen. LLM’s voorspellen ‘alleen’ woorden. Alle LLM’s zijn generative AI, maar niet alle
generative AI zijn LLM’s.
Wat kunnen LLM’s goed?
- Inhoud generen die coherent en creactief overkomt
- Aanvaarding van natuurlijke taalaanwijzingen (prompts)
- Mensachtige taal genereren
- Informatie in een specifiek formaat structureren
AI en juridische besluitvorming: Wat is AI?
Deze cursus richt zich op de volgende vragen met betrekking tot AI en recht:
- Hoe en waar wordt AI nu al gebruikt? En hoe kan het worden gebruikt in onze samenleving?
- Hoe reageer het recht op AI? En hoe kan of moet het recht reageren op het steeds ruimere
gebruik van AI?
Belangrijke kenmerken van AI
AI is verschillend van andere software aangezien AI zichzelf kan verbeteren. De grote verandering is
dat AI van zichzelf kan leren. Eerder werd een programma geprogrammeerd en daar bleef het dan ook
bij. De belangrijkste reden waarom AI momenteel de bron is van zoveel hoop en vrees is dus het feit
dat de allermeeste AI zelflerend zijn en in tegenstelling tot gewone software niet expliciet
geprogrammeerd is.
Dit betekent dat AI wordt getraind door data, zodat het systeem zichzelf verbeterd door te leren uit
ervaring (gewone software kan dat niet). Voorbeeld: Alphazero, een AI-gestuurde schaakprogramma.
Door alleen tegen zichzelf te spelen, had Alphazero slecht 9 uur nodig om onverslaanbaar te worden.
Wij verbeteren ChatGPT ook telkens doordat wij informatie aan ChatGPT geven. Hetzelfde geldt voor
Google Maps, wij geven de informatie van files bijvoorbeeld door.
Met het vermogen tot zelf leren komt autonomie. Toenemende autonomie leidt tot twee specifieke
risico’s namelijk het gebrek aan:
1) Voorspelbaarheid = niemand weet meer precies wat er uit zal komen als resultaat. De
uitkomsten kunnen ook in de loop van tijd veranderen.
2) Verklaarbaarheid = niemand kan een uitkomst 100% verklaren.
Beide aspecten zijn elementen van black box e*ect.
Dit is een probleem aangezien je de macht van de beslissing nu weggeeft aan AI. De rechtbank
Gelderland heeft bijvoorbeeld een keer ChatGPT gebruikt. De rechter heeft geen idee waarom
ChatGPT dit zegt en toch vertrouwde rechter zomaar de kunstmatige intelligentie. Dit kan diepgaande
gevolgen hebben. Het voelt toch niet juist als je iets niet meer kan verklaren? Maar alleen naar
ChatGPT kan verwijzen?
Juist deze toenemende autonomie en de daarmee gepaard gaande risico’s van AI vormen de grote
uitdaging voor het recht. AI heeft een enorm potentieel voor verstoringen en manipulaties (door
private partijen of ook door overheidsinstanties). We moeten AI temmen om te profiteren van de
positieve aspecten van AI. En om het duidelijk te stellen: AI komt in alle vormen voor.
Autonomie
Autonomie is capaciteit van machines om zelfstandig taken uit te voeren. Om “beslissingen” te
nemen over zijn eigen gedrag zonder directe input van menselijke operators en zonder menselijke
controle. Dit vereist dat machines:
- Hun omgeving waarnemen via externe sensoren of bijgewerkte invoergegeven
- Leren en veranderen na verloop van tijd
- Dynamisch hun eigen subdoelen bepalen
, - Hun gedrag aanpassen als reactie op feedback over hun eigen prestaties
Autonomie is een geleidelijk verschijnsel. Het is niet zo dat iets ineens compleet autonoom is of iets
totaal niet autonoom is. Een reeks eigenschappen die in meer of mindere mate aanwezig kunnen zijn
in graden. Afhankelijk van de mate waarin menselijk toezicht/ingrijpen vereist zijn.
Autonomie komt vooral veer voor bij auto’s.
§ Niveau 0 = de menselijke bestuurder doet alles
§ Niveau 5 = het geautomatiseerde systeem kan alle rijtaken uitvoeren, onder alle
omstandigheden waarin een menselijke bestuurder ze zou kunnen uitvoeren, het mens staat
buiten spel.
Er zijn verschillende mogelijkheden om autonomie in te delen. Het is erg belangrijk om te weten dat
autonomie geleidelijk is, sommige dingen zijn semi-autonomie.
De term algoritme
De term “algoritme” ontstond in Spanje in de 12e eeuw toen de schriften van de Arabische wiskundige
Muhammad Al-Chwarizmi in het Latijn werden vertaald. Daarna “algoritme” oorpsronkelijk rekenen
met Arabische cijfers. Het kreeg pas later een andere betekenis.
Technische definitie van algoritme is nu: “een algoritme is een reeks instructies met een vaststaande
volgorde, die de oplossing van een bepaald probleem beschrijft.” Dat kan van alles zijn zoals recept
voor een appeltaart of een routebeschrijving. Elke software bestaat uit algoritmes
De term AI
De oorsprong van de term “AI” was in 1956, Dartmouth Conferentie. Er was toen geen algemene
aanvaarde definitie van AI, er waren talloze definities. AI-pionier John McCarthy zei dat er geen
duidelijke definitie was.
ChatGPT gedraagt zich als een mens maar kan hij ook denken als een mens? Nee dat eigenlijk niet,
een mens heeft echte gevoelens. Bij ChatGPT kan je dit wel programmeren maar hij heeft deze
gevoelens niet echt. Je zou ook kunnen zeggen dat het lijkt dat ChatGPT redelijk rationeel ageert, maar
denkt het ook echt rationeel? Nee. Het imiteert eigenlijk wat een mens zou zeggen die het antwoord
weet.
Er zijn veel testen ontwikkeld om vast te stellen wanneer we zeggen tegen een bepaald algortiem dat
het intelligentie is. Testen voor het bevestigen van intelligentie op menselijk niveau:
- Turing-test = Iemand stelt vragen en geeft de vragen door aan een computer en een mens. Hij
heeft 15 minuten tijd om vast te stellen wie de mens is en wie de computer is. Als hij dit niet
kan dan wordt gezegd dat de algoritmes intelligent zijn. Als wij het verschil niet meer
herkennen. Nadelen:
a. Te taalgericht
b. Test hangt af van wie het vraagt
c. Test is gevoelig voor strikvragen
d. AI kan test bewust niet halen
e. Intelligentie vs. De simulatie van intelligentie
, - Ko*ietest = een machine moet een gemiddeld Amerikaans huis binnengaan en uitzoeken hoe
je kobie zet: de kobiemachine vinden, de kobie vinden, water toevoegen, een mok vinden en de
kobie zetten door op de juiste knoppen te drukken.
- IKEA-test = een machine moet een meubelstuk uitpakken en in elkaar zetten. Zij moet de
instructies lezen en het artikel in elkaar zetten zoals beschreven, waarbij alle bevestigingen
correct worden aangebracht.
De definitie van het AI-systeem in Europa is te vinden in art. 3 lid 1 AI-Verordening.
Art. 3 lid 1 AI-Verordening zegt: “een AI-systeem is een op een machine gebaseerd systeem dat is
ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan
aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de
ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of
beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen.”
Machine learning
Machine learning is een deelgebied van AI. Het doel is om computers in staat te stellen om zelfstandig
te leren. Machine learning algoritmes maken het mogelijk:
- Patronen te identificeren in waargenomen gegevens
- Modellen te bouwen die de wereld verklaren
- Dingen te voorspellen zonder expliciete voorgeprogrammeerde regels en modellen te hebben.
Inmiddels is de definitie echt dat het zelfleren moet zijn, soms wordt ook nog gezegd dat er systemen
zijn die mens als kunstmatige intelligentie kunnen definiëren zonder machine learning. Bijvoorbeeld
op kennis gebaseerde aanpak met menselijke deskundige die formele regels ontwikkelen (vastgelegde
kennis, expertsysteem zoals bij sommige chatbots).
Artificial Narrow Intelligence (ANI) of weak AI
AI-systemen die een of enkele specifieke taken kunnen uitvoeren. Dit systeem bestaat tegenwoordig.
Artifical General Intelligence (AGI) of strong AI
Al die met succes elke intellectuele taak kan uitvoeren die ene mens kan uitvoeren, inclusief leren,
plannen en beslissen in onzekerheid, communiceren in natuurlijke taal, grappen maken, mensen
manipuleren, handelen in aandelen of zichzelf herprogrammeren.
Technologische singulariteit van AI
Mogelijkheid dat AI de menselijke intellectuele capaciteit overtreft en de mensheid en beschavingen
een grote vorm geeft, ook wel superintelligentie.
Komt er een Cambrische explosie voor AI?
De Cambrische explosie is een abrupte verschijning van een grote verscheidenheid aan organismen,
vooral ongewerveld dieren, met harde lichaamsdelen in Cambrische gesteentelagen. Mensen zeggen
dat dit ongeveer ook met AI gaat gebeuren.
Komt er een Moore’s Law voor AI?
Voorspelling van de Amerikaanse ingenieur Gordon Moore in 1965: “Het aantal transistorts op een
geïntegreerde schakeling zal zich ongeveer elke twee jaar verdubbelen”
, Kan worden verwacht dat de ontwikkeling van AI uiteindelijk het punt bereikt waarop superintelligentie
worde gecreëerd? Zo ja, wanneer en hoe snel? En wat zal het geneigd zijn te doen?
Er is 50% kans dat AI over 45 jaar in alle taken beter zal presteren dan de mens.
Beknopte geschiedenis van AI tot opkomst van generative AI
1997: Kasparov vs. Deep Blue = Deep Blue gebruikte posities uit een database van meer dan 700.000
partijen. Zoekt tot 30 miljard positities per beweging. Men was er in deze tijd er van overtuigd dat de
mens altijd beter zou zijn dan AI. Maar dan wint AI met een schaakspel van een mens.
2011: IBM Watson wint van twee van Jeopardy’s grootste kampioenen. Het gaat daar vooral om kennis
2017: GO: oude Chinese oorlogsstrategiespel, met zijn heel vele mogelijke bordposities.
Professionele GO-speler Lee Sedol werd verslagen door AI (AlphaGo).
Zie A.I. Timeline op de PowerPoint.
De opkomst van generative AI als gamechanger
Generative AI was al bekend 60 jaar geleden, namelijk toen de eerste chatbot (Elisa) ontstond. Maar
pas in 2014 met de introductie van generative adversarial networks (GAN’s) – een type algoritme voor
machinaal leren – kon generative AI overtuigend authentieke afbeeldingen, video’s en audio van echte
mensen etc. maken
Maar wat is generative AI überhaupt?
Generative AI is een vorm van AI die nieuwe content kan creëren, zoals afbeeldingen, video’s, audio en
tekst. GenAI genereert nieuwe en unieke output op basis van een prompt van een gebruiker door
analyse van grote hoeveelheden bestaande data. Prompt is de input die je levert aan bijvoorbeeld een
chatbot.
Een groot probleem van AI is deepfake. Wat ga je als rechter doen met een film of foto? Wat is de
bewijskracht nog?
Generative AI: Large Language Models (LLM)
Large Language Models zijn een vorm van generative Ai en zijn in staat om tekst te begrijpen en te
genereren. LLM’s worden getraind op enorme hoeveelheden tekstgegevens. Hierdoor begrijpen ze de
relaties tussen zinnen en woorden, iets dat ze hebben geleerd door enorme hoeveelheden data vna
het web in te nemen. LLM’s voorspellen ‘alleen’ woorden. Alle LLM’s zijn generative AI, maar niet alle
generative AI zijn LLM’s.
Wat kunnen LLM’s goed?
- Inhoud generen die coherent en creactief overkomt
- Aanvaarding van natuurlijke taalaanwijzingen (prompts)
- Mensachtige taal genereren
- Informatie in een specifiek formaat structureren
