samenvatting korfvak artificiële intelligentie: maatschappelijke uitdagingen

Inhoudsopgave
1. INLEIDINGSLES AI...............................................................................................................................................................................5
A. KORTE GESCHIEDENIS...................................................................................................................................................................5
B. GROTE DOORBRAAK......................................................................................................................................................................5
Verschil tussen supervised & reinforcement................................................................................................................................6
C. WAT IS ER DAN VERANDERD?.......................................................................................................................................................6
(very) Deep neural networks.........................................................................................................................................................6
Negatieve gevolgen en gevaren....................................................................................................................................................7
Wetgeving op EU niveau...............................................................................................................................................................7
2. BIAS en fairness IN AI........................................................................................................................................................................7
A. INLEIDING......................................................................................................................................................................................8
Maar mensen discrimineren toch ook?........................................................................................................................................8
B. BRONNEN VAN BIAS (MIN 15)......................................................................................................................................................8
Historical AND STEREOTYPES........................................................................................................................................................8
Label bias.......................................................................................................................................................................................9
DISPARATE IMPACT.......................................................................................................................................................................9
C. HOE MEET JE BIAS?.......................................................................................................................................................................9
voorbeeld illustraties...................................................................................................................................................................10
D. HOE UNFAIRNESS VERMIJDEN?..................................................................................................................................................10
Redlining by models....................................................................................................................................................................10
Fairness interventies...................................................................................................................................................................11
Conclusie.....................................................................................................................................................................................11
E. FAIRNESS AUDITS........................................................................................................................................................................11
F. CONCLUSIE..................................................................................................................................................................................11
3. GENERATIVE AND AGENTIC AI........................................................................................................................................................11
A. INLEIDING EN DEFINITIES............................................................................................................................................................11
Een matrix van een dataset.........................................................................................................................................................12
B. GENERATIEVE AI en CHATGPT?...................................................................................................................................................12
HET GEBRUIK VAN CHATGPT.......................................................................................................................................................12
C. DE GEVAREN VAN CHATGPT.......................................................................................................................................................12
(1) Hallucinaties...........................................................................................................................................................................12
(2) misbruik.................................................................................................................................................................................13
(3) data lekkage...........................................................................................................................................................................13
(4) BIAS........................................................................................................................................................................................13
D. CHATGPT OM SOFTWARE TE BOUWEN......................................................................................................................................13
E. AGENTIC AI..................................................................................................................................................................................13
Tegenwoordig gebruik................................................................................................................................................................14
Challenges...................................................................................................................................................................................14
F. CONCLUSIE..................................................................................................................................................................................14

,4. explainable ai..................................................................................................................................................................................14
A. BLACKBOX AI...............................................................................................................................................................................14
Wat is een blackbox model?.......................................................................................................................................................15
Oplossingen voor een verklaring?...............................................................................................................................................15
B. EXPLAINABLE AI METHODE: SHAP..............................................................................................................................................15
C. CONCLUSIE..................................................................................................................................................................................15
5. sustainable AI..................................................................................................................................................................................16
A. INLEIDING....................................................................................................................................................................................16
Gegevens/ data in AI...................................................................................................................................................................17
B. DE IMPACT VAN AI......................................................................................................................................................................17
Efficiëntie VS voldoening.............................................................................................................................................................19
AI duurzaamheidsdriehoek.........................................................................................................................................................19
C. AI TOEPASSINGEN VOOR DUURZAAMHEID................................................................................................................................19
D. ONDERZOEKSPROJECTEN...........................................................................................................................................................20
6. applications and limitations of LLMs...............................................................................................................................................20
A. INLEIDING....................................................................................................................................................................................20
B. van rule-based nlp NAAR LLM.....................................................................................................................................................21
(1) Rule-based NLP......................................................................................................................................................................21
(2) Classical machine learning.....................................................................................................................................................21
(3) Deep learning.........................................................................................................................................................................22
C. HET TRAINEN VAN LLMS.............................................................................................................................................................22
Tokens ≈ subwords?....................................................................................................................................................................23
Het trainen zelf............................................................................................................................................................................23
D. VAN TAALMODEL NAAR CHATBOT.............................................................................................................................................23
Reasoning models.......................................................................................................................................................................24
E. HET GEBRUIK VAN LLMS..............................................................................................................................................................24
F. BEPERKINGEN..............................................................................................................................................................................24
G. CONCLUSIE VD BETEKENIS..........................................................................................................................................................25
7. moral dangers and opportunities...................................................................................................................................................25
A. Gebieden VAN FILOSOFIE...........................................................................................................................................................25
B. DE SNELLE INNOVATIE VAN AI....................................................................................................................................................26
C. MEANING FOR ETHICS................................................................................................................................................................26
D. MEANING FOR EPISTEMOLOGY..................................................................................................................................................26
E. MEANING FOR METAPHYSICS.....................................................................................................................................................27
F. CASESTUDY..................................................................................................................................................................................27
8. harmonisatie vd synergie: mens – AI..............................................................................................................................................27
A. HUMAN-MACHINE INTERACTION...............................................................................................................................................27
Thema’s in moderne HMI............................................................................................................................................................28
B. CHALLENGES OF AUTONOMY/ RISKS OF POOR HMI..................................................................................................................28
Twee uitdagingen van automatisering........................................................................................................................................28

, The moral crumple zone.............................................................................................................................................................29
C. DUAL PROCESS MODEL OF COGNITION......................................................................................................................................29
TMI OPNIEUW BEKEKEN.............................................................................................................................................................30
Cognitive forcing functions.........................................................................................................................................................30
Gebruiksgemak VS diepte vd verwerking...................................................................................................................................30
Design voor human-AI synergy...................................................................................................................................................30
D. AI TRANSPARENCY, DECISION VERIFICATION, HUMAN OVERSIGHT..........................................................................................30
Human-centered AI (HCAI)..........................................................................................................................................................31
E. HOE ZAL AI ONS VERANDEREN....................................................................................................................................................31
The trade off !!............................................................................................................................................................................31
Wanneer AI ons traint…..............................................................................................................................................................32
AI als maatschappelijke partner..................................................................................................................................................32
9. de regulering van ai in europa........................................................................................................................................................32
A. ACHTERGROND: EU STRATEGIE VOOR AI...................................................................................................................................32
B. EUROPESE VERORDENING “AI ACT”...........................................................................................................................................32
AI ACT: DEFINITIES.......................................................................................................................................................................33
AI ACT: toepassingsgebied..........................................................................................................................................................33
AI ACT: Risk-based approach.......................................................................................................................................................33
C. AI EN AANSPRAKELIJKHEID.........................................................................................................................................................35
D. AI EN GEGEVENSBESCHERMING (AVG)......................................................................................................................................35
AVG: principes gegevensbescherming........................................................................................................................................35
AVG: AI en rechten van data subject..........................................................................................................................................36
AI EN COMPATIBILITEIT MET AVG...............................................................................................................................................36
10. AI EN RECHT..................................................................................................................................................................................36
A. INLEIDING – ROL VH RECHT........................................................................................................................................................36
Rechtshandhaving.......................................................................................................................................................................36
B. antidiscriminatierecht.................................................................................................................................................................37
Uitdagingen van AI......................................................................................................................................................................37
C. AUTEURSRECHT ≈ copyright........................................................................................................................................................37
Uitdagingen van AI......................................................................................................................................................................37
D. AI EN CONSUMENTENRECHT......................................................................................................................................................38
Uitdagingen van AI......................................................................................................................................................................38
11. privacy by design & AI...................................................................................................................................................................38
A. INTRO BEGINSELEN VAN GEGEVENSVERWERkING....................................................................................................................38
B. PRIVACY BY DESIGN....................................................................................................................................................................39
INLEIDING....................................................................................................................................................................................39
7 basisprincipes...........................................................................................................................................................................39
Gegevensbeschermingseffectbeoordeling (DPIA)......................................................................................................................39
Anonieme gegevens?..................................................................................................................................................................40
C. TOEPASSING IN AI.......................................................................................................................................................................40

,D. VOORBEELDEN............................................................................................................................................................................40

,AI EN TOEGANKELIJKHEID


1. INLEIDINGSLES AI

A. KORTE GESCHIEDENIS

- 1950: beginpunt AI – Turing test
 WO II: computers hebben zich bewezen door het kraken van enigma code
 Turing test = nagaan of computers menselijke intelligentie kon benaderen
 Deelnemers communiceerden ofwel met een mens, ofwel met een computer
 A.d.h.v. de antwoorden moesten ze afleiden met wie ze communiceerden
 BEPERKING: vroeger alleen met toetsenbord, nu ook met spraak

- 1956: Perceptron
 Rosenblatt: een mechanisme dat het menselijke brein probeert na te bootsen
 Perceptron = het equivalent van 1 hersencel
 Kan gaten in een ponskaart lokaliseren (patronen herkennen)
 Eerste algoritme dat niet volledig geprogrammeerd wordt
 Machine leerde het stappenplan door feedback/reinforcement

- 1960: ELIZA
 = de eerste chatbot, gebaseerd op geprogrammeerde regels
 Deed een lexicale analyse van de input en reageerde op basis daarvan; vult patronen in
 VB: “Im feeling blue” <-> “im feeling orange” = why are you feeling blue/orange?

- jaren 70: AI winter
 Het optimisme van de jaren daarvoor keldert
 DUS funding voor AI-gerelateerd onderzoek werd teruggeschroefd  minder vooruitgang

- jaren 80: expert systems
 = een intelligent computersysteem dat met behulp v databank met kennis en een redeneermodule
beslissingen neemt of adviezen geeft zoals een menselijke expert dat zou doen binnen een specifiek domein
 Kan ook vragen stellen om dan adviezen te geven (bv. om ziekte te diagnosticeren)
 BEPERKING: niet alle regels gelden altijd of met 100% zekerheid

B. GROTE DOORBRAAK

- 90’s machine learning: 2 leerparadigma’s
 (1) supervised learning = voorspelling maken a.d.h.v. een hele hoop gelabelde voorbeelden
 VB: chihuahua’s en muffins van elkaar onderscheiden
 Nood aan beelden en labels
 Leidt tot algoritmes (= stapsgewijze procedure tot een goed model)
 De computer zal zelf het patroon herkennende algoritme programmeren a.d.h.v. meetbare
karakteristieken  zo komen we tot labels (vb: gezondheidsindicator)
 Learning models by optimizing: model verfijnen door nieuwe data toe te voegen
 De beginsituatie aanpassen door te kijken waar er fouten w gemaakt
 (2) reinforcement learning = door observatie van de omgeving bijleren
 PROBLEEM: er is heel veel data nodig maar niet altijd ter beschikking
 + duidelijke labels nodig maar veel problemen hebben geen duidelijke 0/1 labels
 VB: chatbots passen zich aan om het gesprek zo lang mogelijk te laten duren
 Model w verfijnd o.b.v. de reactie die de actie vd machine heeft uitgelokt
 Penalty <-> reward

, VERSCHIL TUSSEN SUPERVISED & REINFORCEMENT

 [SL] = machine berekent/leert eerst heel het model met de data en dan stopt de machine met leren
 [RL] = machine leert tijdens de actie door het resultaat te beoordelen

-1997: Deep blue
 Schaakspel: deep blue (AI) verslaat de wereldkampioen Kasparov
 NIET door middel van rekenkracht  kan maar 10 posities vooruit rekenen
 WEL door enerzijds supervised learning (bv. partijen die geregistreerd zijn)
 Anderzijds reinforcement learning (bv. inschatten van hoe goed een bordpositie is)

- 2011: Watson
 De AI, Watson wint het spelletje Jeopardy
 Een spel waarin vragen gesteld worden en je het juiste antwoord nodig hebt om verder te gaan
 Innovatief: om de vragen te begrijpen, moet je dus ook de taal goed begrijpen

-2016: AlphaGO
 De AI verslaat de wereldkampioen in het spelletje Go
 Innovatief: 19x19 bord dus bij elke zet 361 mogelijkheden om de pion te plaatsen
 Je kan dus niet ver vooruit denken  belang om patronen goed te herkennen

Men dacht dat de computer dit absoluut niet ging kunnen…

C. WAT IS ER DAN VERANDERD?

1. Veel meer rekenkracht
 Het gebruik van GPUs = Graphics Processing Unit
 Grafische kaarten oorspronkelijk bedoeld om grafische weergaven/spelletjes sneller te maken
 MAAR ook handig voor bitcoin mining en het trainen van neurale netwerken
2. Enorme hoeveelheden data
 Beschikbaar op het wereldwijde web
 Bedrijven beginnen gegevens op te slaan

CONCLUSIE: heropleving van neurale netwerken

(VERY) DEEP NEURAL NETWORKS
= systemen met verschillende lagen neuronen <-> vroeger 1 enkel neuron (Rosenblatt)
 VB: AlexNet

- ’20: generatieve AI
 = artificiële intelligentie die de mogelijkheid heeft om foto’s en tekst etc. te genereren
 Werkt volgens reinforcement learning met menselijke feedback
 Termen die bij deze taalmodellen passen:
 Closed-source LLM = enkel bereikbaar via API (application programming interface)
 je mag het gebruiken MAAR je weet niet hoe het gemaakt is en je kan het NIET aanpassen
 het bedrijf houdt alle info over het model geheim bv. Gemini
 je stuurt een request  antwoord w berekend op servers vd eigenaar  antwoord terug
 (-) potentiële privacy problemen
 Open-source LLM = een model dat je lokaal kan draaien op je eigen computer
 je kan zien hoe het model werkt, het downloaden en zelf aanpassen
 de code en de gewichten (model zelf) zijn beschikbaar
 (+) geen nood om data te sturen dus GEEN privacy problemen bv. LLaMA
 DUS een bedrijf verzamelt data uit boeken, social media en het internet