VOS Kwantitatieve deel (Hoorcolleges, grasple lessen, literatuur)
Hoorcollege 1: Multipele Regressie
Padmodel multipele regressie
1 afhankelijke variabele (Y)
1 of meerdere onafhankelijke variabelen
(minimaal interval meetniveau)
o Of dichotoom (ja/nee)
Voorbeeld
Onderzoeksvraag: kunnen we de kennis van literatuur bij
jongvolwassenen voorspellen met persoons-, gezins- en
schoolkenmerken?
Populatie: jongvolwassenen
Variabelen: afhankelijke variabele Y (kennis van literatuur), onafhankelijke variabelen X
(predictoren); kenmerken ouderlijk huis en kenmerken school
Doel: voor de populatie beschrijven en toetsen van de relaties tussen afhankelijke variabele Y
en predictoren X.
Multipele regressie
‘Kunnen we iemands waarde op een kenmerk voorspellen met kennis over andere
kenmerken?’
Doelen van de multipele regressie analyse:
Beschrijven lineaire relaties tussen variabelen (regressiemodel)
Toetsen hypothesen over relaties (significantie)
Kwantificeren van relaties (effectgrootte)
Kwalificeren van relaties (klein, middelmatig, groot)
Beoordelen relevantie relaties (subjectief)
Voorspellen van iemands waarde met regressiemodel (puntschatting en
intervalschatting)
Let op! Statistische samenhang is geen causaliteit !
Meetniveau variabelen
Afhankelijke variabele Y
Gemeten op minimaal interval meetniveau
Onafhankelijke variabelen X
Gemeten op minimaal interval meetniveau
Nominaal niveau met 2 categorieën: dichotoom
Meer dan 2 categorieën: nominaal/ordinaal niveau wordt
omgezet in dummyvariabele
Regressiemodel
Vergelijking Y voor geobserveerde variabele Y Vergelijking Y voor voorspellen
waarde Y^
Uitkomst (Y) = model (X) + error Geschatte uitkomst (Y^) = model
(X)
,Y = afhankelijke variabele (dependent)
X = onafhankelijke variabele (predictors)
B0 = intercept (constant) ook wel alpha ()
B1 = regressiecoëfficiënt (slope)
E = voorspellingsfout (error of residual)
Door middel van een histogram kan je checken of de data enigszins een normaalcurve volgt.
Vergelijking enkelvoudige regressie
B0 = intercept/constante (snijpunt met y-as)
B1 = regressiecoëfficiënt (slope)
Intercept b0 = 5 b0 = 5 b0
=5
Richting vh verband b1 = 0.5 (positief) b1 = -0.5 (negatief) b1
=0
Kleinste kwadraten criterium
Best passende lijn = de lijn waarbij de voorspellingsfout (E) zo klein mogelijk is
voorspellingsfout is afstand tussen voorspelde waarde (lijn) en geobserveerde waarde
(stippen)
Positieve e (boven lijn) onderschatting door het model
Negatieve e (onder lijn) overschatting door het model
Residuen moeten gekwadrateerd worden, anders komen ze op 0 uit + dan is het model
gevoeliger voor uitschieters.
Goodness-of-fit
Het model (de regressielijn) met de kleinste residuele kwadratensom is het beste model.
Bepalen goodness-of-fit (R2)
Vergelijking (ratio) van lineair model (regressielijn) met
basismodel (basislijn).
SSt = totaal kwadratensom
SSm = kwadratensom van rechte lijn (model)
SSr = kwadratensom van voorspellingsfout (residual)
SS = sum of squares/som van gekwadrateerde deviaties
Hoe beter het model, hoe
hoger de R2. R2 = 1
betekent dat het een perfect
model is.
, Goodness-of-fit
R2 is de kwadratensom van het model gedeeld door de totale kwadratensom proportie door
X verklaarde variatie in Y.
Multipele correlatiecoëfficiënt R
correlatie tussen geobserveerde Y en voorspelde Y^
Waardering model:
1. Significantie (toetsen)
2. Kwantificeren relatie (effectgrootte)
Toetsen R2 en B’s
Populatie hypothesen
Steekproef steekproefresultaten
Beschrijven:
1. Verklaring van Y door alle X’ (R2)
2. Invloed afzonderlijke X’ en op Y (B’s)
Alternatieve hypothesen:
1. R2 > 0 regressiemodel verklaart variatie in Y
2. B > 0 of B < 0 er is effect van X op Y
Nulhypothese: geen variantie wordt verklaard (R2 = 0)
F-toets
Met de F-toets beoordeel je statistische significantie ( = .05). Alfa is standaard 5%, maar als
je veel toetsen gaat uitvoeren dan is de kans dat je fouten gaat maken veel groter, dus dan
kan je beter een kleinere kiezen.
MS = mean sum of squares
= gemiddelde kwadratensom
SS
=
df
Df = degrees of freedom geeft aan hoeveel stukjes informatie zijn gebruikt.
Constant = intercept, b0
B = regressiecoëfficiënt
Beta = gestand. Richtingscoëf.
T = toetsingsgrootheid t
Sig. = overschrijdingskans p
van steekproefresultaten
Hoorcollege 1: Multipele Regressie
Padmodel multipele regressie
1 afhankelijke variabele (Y)
1 of meerdere onafhankelijke variabelen
(minimaal interval meetniveau)
o Of dichotoom (ja/nee)
Voorbeeld
Onderzoeksvraag: kunnen we de kennis van literatuur bij
jongvolwassenen voorspellen met persoons-, gezins- en
schoolkenmerken?
Populatie: jongvolwassenen
Variabelen: afhankelijke variabele Y (kennis van literatuur), onafhankelijke variabelen X
(predictoren); kenmerken ouderlijk huis en kenmerken school
Doel: voor de populatie beschrijven en toetsen van de relaties tussen afhankelijke variabele Y
en predictoren X.
Multipele regressie
‘Kunnen we iemands waarde op een kenmerk voorspellen met kennis over andere
kenmerken?’
Doelen van de multipele regressie analyse:
Beschrijven lineaire relaties tussen variabelen (regressiemodel)
Toetsen hypothesen over relaties (significantie)
Kwantificeren van relaties (effectgrootte)
Kwalificeren van relaties (klein, middelmatig, groot)
Beoordelen relevantie relaties (subjectief)
Voorspellen van iemands waarde met regressiemodel (puntschatting en
intervalschatting)
Let op! Statistische samenhang is geen causaliteit !
Meetniveau variabelen
Afhankelijke variabele Y
Gemeten op minimaal interval meetniveau
Onafhankelijke variabelen X
Gemeten op minimaal interval meetniveau
Nominaal niveau met 2 categorieën: dichotoom
Meer dan 2 categorieën: nominaal/ordinaal niveau wordt
omgezet in dummyvariabele
Regressiemodel
Vergelijking Y voor geobserveerde variabele Y Vergelijking Y voor voorspellen
waarde Y^
Uitkomst (Y) = model (X) + error Geschatte uitkomst (Y^) = model
(X)
,Y = afhankelijke variabele (dependent)
X = onafhankelijke variabele (predictors)
B0 = intercept (constant) ook wel alpha ()
B1 = regressiecoëfficiënt (slope)
E = voorspellingsfout (error of residual)
Door middel van een histogram kan je checken of de data enigszins een normaalcurve volgt.
Vergelijking enkelvoudige regressie
B0 = intercept/constante (snijpunt met y-as)
B1 = regressiecoëfficiënt (slope)
Intercept b0 = 5 b0 = 5 b0
=5
Richting vh verband b1 = 0.5 (positief) b1 = -0.5 (negatief) b1
=0
Kleinste kwadraten criterium
Best passende lijn = de lijn waarbij de voorspellingsfout (E) zo klein mogelijk is
voorspellingsfout is afstand tussen voorspelde waarde (lijn) en geobserveerde waarde
(stippen)
Positieve e (boven lijn) onderschatting door het model
Negatieve e (onder lijn) overschatting door het model
Residuen moeten gekwadrateerd worden, anders komen ze op 0 uit + dan is het model
gevoeliger voor uitschieters.
Goodness-of-fit
Het model (de regressielijn) met de kleinste residuele kwadratensom is het beste model.
Bepalen goodness-of-fit (R2)
Vergelijking (ratio) van lineair model (regressielijn) met
basismodel (basislijn).
SSt = totaal kwadratensom
SSm = kwadratensom van rechte lijn (model)
SSr = kwadratensom van voorspellingsfout (residual)
SS = sum of squares/som van gekwadrateerde deviaties
Hoe beter het model, hoe
hoger de R2. R2 = 1
betekent dat het een perfect
model is.
, Goodness-of-fit
R2 is de kwadratensom van het model gedeeld door de totale kwadratensom proportie door
X verklaarde variatie in Y.
Multipele correlatiecoëfficiënt R
correlatie tussen geobserveerde Y en voorspelde Y^
Waardering model:
1. Significantie (toetsen)
2. Kwantificeren relatie (effectgrootte)
Toetsen R2 en B’s
Populatie hypothesen
Steekproef steekproefresultaten
Beschrijven:
1. Verklaring van Y door alle X’ (R2)
2. Invloed afzonderlijke X’ en op Y (B’s)
Alternatieve hypothesen:
1. R2 > 0 regressiemodel verklaart variatie in Y
2. B > 0 of B < 0 er is effect van X op Y
Nulhypothese: geen variantie wordt verklaard (R2 = 0)
F-toets
Met de F-toets beoordeel je statistische significantie ( = .05). Alfa is standaard 5%, maar als
je veel toetsen gaat uitvoeren dan is de kans dat je fouten gaat maken veel groter, dus dan
kan je beter een kleinere kiezen.
MS = mean sum of squares
= gemiddelde kwadratensom
SS
=
df
Df = degrees of freedom geeft aan hoeveel stukjes informatie zijn gebruikt.
Constant = intercept, b0
B = regressiecoëfficiënt
Beta = gestand. Richtingscoëf.
T = toetsingsgrootheid t
Sig. = overschrijdingskans p
van steekproefresultaten
