Samenvatting Talking to Bots:
Symbiotic Agency and the Case
of Tay
Tay was een autonome chatbot, maar werd al snel offne gehaald nadat het falfekant mfsgfng. Ze
kunnen praten door voorgeprogrammeerde programma’s of algorftmen.
Agency (handelingsmogelijkheid/vrijheid): wat gebrufkers, actoren en tools doen wanneer ze
fnteracteren met complexe technologfsche systemen.
Dft zorgt voor twee voordelen fn communfcatetheoryy
Symbiotic agency: we gaan met technologfe om alsof het mensen zfjn.
In dft artkel gebrufken ze Tay om laten zfen hoe agency wordt gevormd fn complexe fnteractes
tussen maatschappfj en technologfe. Ze suggereren dat de opkomst van chatbots en andere typen
slfmme agents (bfjvoorbeeld polfteke bots) zal doorgaan met het aan de orde stellen van moeflfjke
vragen over verantwoordfng en agency.
Proxy agency: sftuates waarbfj er medftateve fnspannfngen van anderen zfjn. Mensen gebrufken dft
om hun fnvloed uft te oefenen wanneer ze de ontwfkkelde mfddelen mfssen om dat te doen of
wanneer ze geloven dat anderen beter kunnen presteren.
Reciprocal interface: de menselfjke agency beïnvloedt en wordt beïnvloed door socfale systemen.
Mensen zfjn complex en daarom fs het moeflfjk een chatbot te maken. Mensen wfllen domfnerend,
onbeleefd en stom doen, waardoor het moeflfjk voor de bot fs om vrfenden te maken met de mens.
Tay zou wel een succes moefen worden, omdat ze random fs, humor heef en een soort efgen
menfng. Daarnaast fs er ook nog XfaoIce dfe ook van alles kan. Ze kunnen zfchzelf dfngen aanleren,
maar de fnput van mensen fn Tay was nfet zo braafes en Tay sloeg op hol met racfstsche
opmerkfngen.
Wfe moet(en) er verantwoordelfjk gehouden worden voor Tay’s gedrag? Tay, haar codeurs, alle
Twfttergebrufkers, specffieke lolbroeken op het fnternet, de lefdfnggevenden van Mfcrosof dfe haar
opdracht hebben gegeven of een andere agent of een combfnate van actoren?
1. Tay fs een refecte van de slechthefd van de menshefd
2. Tay fs een bedrefgfng voor de samenlevfng, we hebben technologfe blfjkbaar nfet fn de hand.
Tay zou mensen wfllen beïnvloeden en mensen wfllen manfpuleren.
Twee lessen dfe we van Tay kunnen lereny
1. De capacfteften van technologfeën zftten fn de fnteractes, contexten en perceptesy de
affordancoesc. Het staat dus nfet vast. Daarom moeten we de imaginced affordancoesc bedenken
waarfn we de perceptes, houdfngen en verwachtngen van de gebrufkers beschrfjven, de
materfalfteft en functonalfteft van de technologfe en de fntentes en perceptes van de
makers.
2. Agency fs symbfotsch als het gaat om mensen dfe communfceren met algorftmen.
Symbiotic Agency and the Case
of Tay
Tay was een autonome chatbot, maar werd al snel offne gehaald nadat het falfekant mfsgfng. Ze
kunnen praten door voorgeprogrammeerde programma’s of algorftmen.
Agency (handelingsmogelijkheid/vrijheid): wat gebrufkers, actoren en tools doen wanneer ze
fnteracteren met complexe technologfsche systemen.
Dft zorgt voor twee voordelen fn communfcatetheoryy
Symbiotic agency: we gaan met technologfe om alsof het mensen zfjn.
In dft artkel gebrufken ze Tay om laten zfen hoe agency wordt gevormd fn complexe fnteractes
tussen maatschappfj en technologfe. Ze suggereren dat de opkomst van chatbots en andere typen
slfmme agents (bfjvoorbeeld polfteke bots) zal doorgaan met het aan de orde stellen van moeflfjke
vragen over verantwoordfng en agency.
Proxy agency: sftuates waarbfj er medftateve fnspannfngen van anderen zfjn. Mensen gebrufken dft
om hun fnvloed uft te oefenen wanneer ze de ontwfkkelde mfddelen mfssen om dat te doen of
wanneer ze geloven dat anderen beter kunnen presteren.
Reciprocal interface: de menselfjke agency beïnvloedt en wordt beïnvloed door socfale systemen.
Mensen zfjn complex en daarom fs het moeflfjk een chatbot te maken. Mensen wfllen domfnerend,
onbeleefd en stom doen, waardoor het moeflfjk voor de bot fs om vrfenden te maken met de mens.
Tay zou wel een succes moefen worden, omdat ze random fs, humor heef en een soort efgen
menfng. Daarnaast fs er ook nog XfaoIce dfe ook van alles kan. Ze kunnen zfchzelf dfngen aanleren,
maar de fnput van mensen fn Tay was nfet zo braafes en Tay sloeg op hol met racfstsche
opmerkfngen.
Wfe moet(en) er verantwoordelfjk gehouden worden voor Tay’s gedrag? Tay, haar codeurs, alle
Twfttergebrufkers, specffieke lolbroeken op het fnternet, de lefdfnggevenden van Mfcrosof dfe haar
opdracht hebben gegeven of een andere agent of een combfnate van actoren?
1. Tay fs een refecte van de slechthefd van de menshefd
2. Tay fs een bedrefgfng voor de samenlevfng, we hebben technologfe blfjkbaar nfet fn de hand.
Tay zou mensen wfllen beïnvloeden en mensen wfllen manfpuleren.
Twee lessen dfe we van Tay kunnen lereny
1. De capacfteften van technologfeën zftten fn de fnteractes, contexten en perceptesy de
affordancoesc. Het staat dus nfet vast. Daarom moeten we de imaginced affordancoesc bedenken
waarfn we de perceptes, houdfngen en verwachtngen van de gebrufkers beschrfjven, de
materfalfteft en functonalfteft van de technologfe en de fntentes en perceptes van de
makers.
2. Agency fs symbfotsch als het gaat om mensen dfe communfceren met algorftmen.
