Lecture / College 4
- Which type of networks can you distinguish? Give a brief description of each.
Feedforward network: dit netwerk heeft een input en een output, met
daartussenin hidden layers. Informatie gaat een kant op, namelijk van input
naar output. Dit systeem is goed in classificatie.
Fully recurrent network: in dit systeem zijn alle nodes/neuronen aan elkaar
gelinkt en de informatie gaat in alle richtingen. Dit maakt het mogelijk om te
herinneren (werkgeheugen).
- What is a (multi-layer) feedforward network? What is it typically used for?
Een (multi-layer) feedforward network is een netwerk met een input en een
output met daartussen eventueel hidden layers. Dit wordt over het algemeen
gebruikt voor classificatie.
- What are the arguments (observations) in favor of the suggestion that object
recognition and classification occur in the brain by means of feedforward
networks?
Als je de tijd berekent die het kost om objecten te herkennen (classificatie),
dan kan het niet classificatie komt door backtracking. Het gaat zo snel, dat het
wel een feedforward network moet zijn. Ook laat de structuur van de visuele
cortex duidelijk zien dat het om een feedforward network gaat.
- What is a receptive field of a neuron?
Het veld van informatie in de buitenwereld die de neuron zal activeren. Het RF
van een individuele neuron is het specifieke gebied van de sensorische space
(e.g. visual field) waarin een stimulus het vuren van de neuron zal triggeren.
- Which variations can you see of receptive fields in feedforward networks in
the brain that process visual information for object recognition and
classification?
Grootte: in lagere levels van de cortex zijn de RF klein (bv. V1) , in de hogere
delen van de cortex zijn ze groot (bv. IT).
Selectiviteit: als een RF klein is, kan het alleen op hele specifieke informatie
reageren.
In V1:
- RF = klein (reageren op een klein beetje informatie)
, - Cellen zijn selectief voor locatie (topografische representatie, i.e.
retinotopisch)
In IT:
- RF = groot
- Geen topografische representatie
Door deze twee punten: scale invariance & location invariance
- What is a topographic or retinotopic representation?
Retinatopic representation: is een manier van topografische representatie. Het
wil zeggen dat de informatie op een plaats in de retina gekoppeld is aan een
bepaalde cel die iets zegt over die locatie.
Topografische representatie: representatie in het brein is gerelateerd aan
spaciele layout. Geeft informatie over wat er op een bepaalde locatie gebeurt.
- What does location invariant object recognition mean?
Dit betekent dat je objecten kan herkennen, ongeacht de locatie in het visuele
veld. Dit is mogelijk doordat er neuronen zijn met grote receptieve velden.
- What does scale invariant object recognition mean?
Dit betekent dat je objecten kan herkennen, ongeacht de grootte van het
object (bijvoorbeeld doordat de afstand van jou t.o.v. het object verandert).
- Which observations in the Quian Quiroga article support the notion of
invariant object representation in the brain?
Er zijn cellen die reageren op bepaalde personen, bijvoorbeeld als je iemands
naam hoort, is je brein net zo actief als wanneer je die persoon ziet
conceptual representation.
- What is the relation between information and uncertainty? Give an example.
Informatie is een reductie van uncertainty, anders is het geen informatie (als je
iets al weet).
- What is the amount of information? How can it be expressed?
Amount of information (AOI) is het minimale aantal signalen wat je nodig hebt
om iets te communiceren. Het meest minimale signaal is 1 bit: een signaal met
twee waarden, aan of uit, ja of nee, 0 of 1).