Samenvatting Algorithmic
Accountability: A primer
Wat is een algoritme?
Algoritme: set instructes vvr ve een cvmputer een taak mvet vlbrengen. Algvritmes vrden
gebruikt dvvr vrganisates vm beslissingen te maken en et tve ijzen an brvnnen vp basis an een
grvte dataset. Svvrt recept, aarbij je dvvr ersc illende ingrediënten en bepaalde stappen een
vvrspelbare uitkvmst krijgt. Deze algvritmes kunnen immens grvvt zijn. Kritek iervp is dat er
einig beperkingen die cvnsumenten- vf burgerrec ten besc ermen vm dataprvfelen vp te bvu en
vf die cvntrvle an algvritmisc e besluit vrming eisen.
Algoritmic accountability: prvces an et tve ijzen an erant vvrdelijk eid vvr sc ade als een
algvritmisc e besluit vrming discrimineert vf vngelijke resultaten geef.
Hoe worden algoritmes gebruikt in het maken van
besluiten?
Vvvrbeelden: aanbe elingen, zvals at je kunt kvpen, liedjes die je kunt luisteren, aanbe vlen
rienden, maar vvk ele ingrijpende dingen zvals c ’s uitkiezen, ie elke ad ertentes ziet vvr
vningen, ie er geprvmv eerd vrdt en ie vntslagen, ie er pvtenteel crimineel is, ie elk
nieu s te zien krijgt en elke zvekresultaten. Hve el algvritmisc e besluit vrming vvrdelen kan
bieden vp et gebied an snel eid, efciënte en zelfs rec t aardig eid, is er een algemene
mis atng dat algvritmen autvmatsc resulteren in vnpartjdige beslissingen.
Black boxed: de besluit vrming an een algvritme is black bvxed, at betekent dat e bepaalde
dingen in de cvmputer kunnen stvppen en de uitkvmst kunnen bevvrdelen, maar at er tjdens de
er erking gebeurt eten e niet.
Algvritmes lijken neutraal te zijn in un besluit vrming, maar dat zijn ze niet. “Opinion embedded in
mathematccs mening in de iskundige berekening. Geen enkele algvritme is etzelfde en er
kunnen mensen vvrgetrvkken vrden, vvrvvrdelen (bias) genvemd.
Bias kan vntstaan dvvr:
- Svciale cvntext aarin et is gemaakt;
- resultaat an tec nisc e beperkingen;
- ve et algvritme in de praktjk vrdt gebruikt.
Een algvritme vrdt natuurlijk dvvr iemand gemaakt met een eigen input die missc ien niet neutraal
is. Een algvritme mvet getraind vrden: eel data ge ved vrden vp basis an beslissingen uit et
erleden vm beslissingen vvr de tvekvmst te maken. Als et erleden be vvrvvrdeeld is, be at et
algvritme anzelf vvrvvrdelen. Black-bvxed algvritmes kunnen zvrgen vvr
technological redlining: anneer algvritmen vnrec t aardige uitkvmsten prvduceren en bekende
vngelijk eden repliceren, at leidt tvt de systematsc e uitsluitng an z arten, latnv’s en in eemse
Amerikanen
Digitale datadiscriminate: gebruikt vnze digitale identteiten en act iteiten vm vngelijk eid en
vnderdrukking te ersterken. We ebben daar aak geen eet an. Wat e dven vrdt vnderdeel
an een algvritmisc e, geautvmatseerde en kunstmatg intelligente svrteermac ine die vns kunnen
ric ten vf uitsluiten.
Voorbeeld: racial bias in algorithms of incarceration
Vvvrvvrdelen vp basis an uidskleur in de algvritmes vf iemand in de ge angenis mvet vf niet
Accountability: A primer
Wat is een algoritme?
Algoritme: set instructes vvr ve een cvmputer een taak mvet vlbrengen. Algvritmes vrden
gebruikt dvvr vrganisates vm beslissingen te maken en et tve ijzen an brvnnen vp basis an een
grvte dataset. Svvrt recept, aarbij je dvvr ersc illende ingrediënten en bepaalde stappen een
vvrspelbare uitkvmst krijgt. Deze algvritmes kunnen immens grvvt zijn. Kritek iervp is dat er
einig beperkingen die cvnsumenten- vf burgerrec ten besc ermen vm dataprvfelen vp te bvu en
vf die cvntrvle an algvritmisc e besluit vrming eisen.
Algoritmic accountability: prvces an et tve ijzen an erant vvrdelijk eid vvr sc ade als een
algvritmisc e besluit vrming discrimineert vf vngelijke resultaten geef.
Hoe worden algoritmes gebruikt in het maken van
besluiten?
Vvvrbeelden: aanbe elingen, zvals at je kunt kvpen, liedjes die je kunt luisteren, aanbe vlen
rienden, maar vvk ele ingrijpende dingen zvals c ’s uitkiezen, ie elke ad ertentes ziet vvr
vningen, ie er geprvmv eerd vrdt en ie vntslagen, ie er pvtenteel crimineel is, ie elk
nieu s te zien krijgt en elke zvekresultaten. Hve el algvritmisc e besluit vrming vvrdelen kan
bieden vp et gebied an snel eid, efciënte en zelfs rec t aardig eid, is er een algemene
mis atng dat algvritmen autvmatsc resulteren in vnpartjdige beslissingen.
Black boxed: de besluit vrming an een algvritme is black bvxed, at betekent dat e bepaalde
dingen in de cvmputer kunnen stvppen en de uitkvmst kunnen bevvrdelen, maar at er tjdens de
er erking gebeurt eten e niet.
Algvritmes lijken neutraal te zijn in un besluit vrming, maar dat zijn ze niet. “Opinion embedded in
mathematccs mening in de iskundige berekening. Geen enkele algvritme is etzelfde en er
kunnen mensen vvrgetrvkken vrden, vvrvvrdelen (bias) genvemd.
Bias kan vntstaan dvvr:
- Svciale cvntext aarin et is gemaakt;
- resultaat an tec nisc e beperkingen;
- ve et algvritme in de praktjk vrdt gebruikt.
Een algvritme vrdt natuurlijk dvvr iemand gemaakt met een eigen input die missc ien niet neutraal
is. Een algvritme mvet getraind vrden: eel data ge ved vrden vp basis an beslissingen uit et
erleden vm beslissingen vvr de tvekvmst te maken. Als et erleden be vvrvvrdeeld is, be at et
algvritme anzelf vvrvvrdelen. Black-bvxed algvritmes kunnen zvrgen vvr
technological redlining: anneer algvritmen vnrec t aardige uitkvmsten prvduceren en bekende
vngelijk eden repliceren, at leidt tvt de systematsc e uitsluitng an z arten, latnv’s en in eemse
Amerikanen
Digitale datadiscriminate: gebruikt vnze digitale identteiten en act iteiten vm vngelijk eid en
vnderdrukking te ersterken. We ebben daar aak geen eet an. Wat e dven vrdt vnderdeel
an een algvritmisc e, geautvmatseerde en kunstmatg intelligente svrteermac ine die vns kunnen
ric ten vf uitsluiten.
Voorbeeld: racial bias in algorithms of incarceration
Vvvrvvrdelen vp basis an uidskleur in de algvritmes vf iemand in de ge angenis mvet vf niet
