HC 1 – Correlaties en Maten voor Effectgrootte
Bij correlatie gaat het over de samenhang tussen twee variabelen. Maar correlatie zegt niks
over een causaal verband (oorzaak-gevolg)! Voor causaliteit moet er sprake zijn van:
- Covariantie, dus samenhang tussen variabelen;
- Directionaliteit, de oorzaak gaat vooraf aan het gevolg;
- Interne validiteit, alternatieve verklaringen zijn uitgesloten. Dit kan alleen bereikt
worden door middel van experimenteel onderzoek.
Bij correlatie gaat het over een verband tussen twee
variabelen, een scatterplot geeft een goede weergave
hoe ze verband houden:
- Richting: positief (lage waarden gaan samen met
lage waarden en hoge waarden gaan samen met
hoge waarden) of negatief (lage waarden gaan
samen met hoge waarden en hoge waarden gaan
samen met lage waarden);
- Sterkte: hoe meer de punten op één (rechte) lijn
liggen, hoe sterker het verband;
- Vorm: lineair/ niet lineair en homogeen (één
wolk)/ heterogeen (meerdere wolken);
- Uitbijters: punten die ver van de andere liggen.
Covariantie (Sxy) is de mate waarin twee variabelen samenhangen. De S staat voor
spreiding, in dit geval spreiding in de richting X en Y. Het geeft dus informatie over de sterkte
en de richting van de samenhang. Het nadeel is, is dat het moeilijk te interpreteren is. De
waarde is afhankelijk van de meeteenheid. Als deze verandert, verandert de covariantie,
terwijl de samenhang eigenlijk niet is veranderd. De oplossing is het standaardiseren van de
covariantie.
Σ( xi−x)( yi− y)
- Sxy=
N−1
De Pearson (r) is de gestandaardiseerde versie van de covariantie. Het is een maat die het
lineaire verband beschrijft tussen twee kwantitatieve (numerieke) variabelen. De waarde ligt
altijd tussen -1 en +1. Deze waarde is niet afhankelijk van de meeteenheid.
- r=
Sxy
SxSy
of r =
1
N −1 (
Σ
Sx )( Sy )
xi−x yi− y Σ ZxZy
=
N−1
Pas op voor: niet-lineaire verbanden, uitbijters (kunnen de correlatie enorm beïnvloeden),
heterogene subgroepen (vooral als er verschillende correlaties zijn in de verschillende
clusters) en restriction of range (enkel naar een deel van de gegevens kijken).
,Er zijn verschillende correlatiecoëfficiënten. Welke je gebruikt, is afhankelijk van het
meetniveau:
- Kwantitatief + kwantitatief Pearson r
- Ordinaal + ordinaal Spearman’s rho (rs)
- Dichotoom + kwantitatief punt-biseriële correlatie (rpb)
- Dichotoom + dichotoom phi coëfficiënt (∅ )
De Spearman’s rho (rs) beschrijft de samenhang tussen twee ordinale (gerangordende)
variabelen. Als er nog geen rangnummers bij staan, zet de scores dan om in rangnummers.
Vervolgens gebruik je Pearson (r). Dit is de robuuste variant van Pearson r als er sprake is van
uitbijters en/ of zwakke niet-lineariteit.
N +1
- x r=
2
- Sr=
√ N ( N +1)
12
Een makkelijkere manier om Srx en Sry te berekenen is door te kijken welke waarde bij
hetzelfde rangnummer in de andere rij staat. Dus stel: je wilt Srx van rangnummer 3 weten.
Dan kijk je naar de ingevulde Sry bij rangnummer 3. Deze waarde kan je dan ook invullen
voor Srx. Als er nog geen waarde in is ingevuld, kan gebruik gemaakt worden van de
bovenstaande formules.
De punt-biseriële correlatie (rpb) beschrijft de samenhang tussen een kwantitatieve
(numerieke) en dichotome (= met slechts twee mogelijke uitkomsten) variabele. Gebruik
Pearson (r). Deze punt-biseriële correlatie hangt samen met de t-toets voor onafhankelijke
variabelen (T-indep). Want in deze toets is er ook sprake van een dichotome variabele,
namelijk een controle- en een experimentele groep.
√
2
t
- Relatie rpb enT −indep= 2
(t is de waarde uit de t-toets)
t + df
Je hebt het hier niet over een positief of negatief verband, zoals in de vorige effectmaten,
maar over verschillen in groepsgemiddeldes.
Het phi coëfficiënt (∅ ) beschrijft de samenhang
tussen twee dichotome variabelen. Gebruik
vervolgens Pearson (r).
AD−BC
- ∅=
√( A + B)(C+ D)( A+C)(B+ D)
Aan de hand van de phi coëfficiënt kan ook de chi-kwadraat worden berekend en andersom:
√
2
x
- ∅= ⟷ x 2=∅2∗N
N
,De bovenstaande effectmaten zeggen iets over de samenhang in de steekproef, maar wat
zeggen ze over de correlatie in populatie ( ρ )? Als we heel veel steekproeven trekken van de
correlaties, krijgen we een steekproevenverdeling. Dit geeft ons uiteindelijk een idee wat de
correlatie is binnen een populatie op een variabele.
- H0: ρ = 0 (het startpunt is dat er geen correlatie is)
- Ha: ρ ≠ 0 (tweezijdig) of ρ < 0 of ρ > 0 (enkelzijdig)
Om een conclusie te trekken gebruik je een t-toets om de significantie van r te toetsen:
r √ N −2
- t= met df = N – 2
√1−r 2
Vervolgens kijk je in de t-tabel naar: t…(df). Kijk bij welke p-waarde (let op tweezijdig of
enkelzijdig!) je de berekende t-waarde kunt vinden. Vervolgens kun je de H0 verwerpen als
P < 0,05 is en wordt H0 behouden als P ≥ 0,05 is.
Oefen tentamenvraag:
Statistische significantie hangt af van N, r en a:
- Significantie van lage correlaties in grote steekproeven (N)
- Niet-significantie van hoge correlaties in kleine steekproeven (N)
Vuistregels:
, HC 2 – Enkelvoudige Lineaire Regressie
Correlatie beschrijft het lineaire verband tussen twee (interval) variabelen. Bij regressie ligt
dit anders. Regressie maakt het namelijk mogelijk om de ene variabelen uit één of meerdere
andere variabelen te voorspellen. Er is sprake van een:
- Predictor (onafhankelijke) variabele X
- Response/ criterion (afhankelijke) variabele Y
Als er sprake is van één predictorvariabele spreken we van een enkelvoudige lineaire
regressie. Is er sprake van twee of meer predictorvariabelen? Dan spreken we van een
meervoudige lineaire regressie. (Statistisch gezien kan elke variabele zowel de rol van
predictor- als response variabele aannemen.)
Regressiecoëfficiënten (b) beschrijven de
relatie tussen de predictorvariabele en de
response variabele. Er zijn verschillende
regressievergelijkingen, welke elk hun
eigen symbool hebben. Elk programma gebruikt ook zijn eigen symbool.
Voor regressie heb je een paar statistieken nodig: x , y , Sx, Sy en r (de correlatie).
Met de regressielijn kun je de Y uit de X voorspellen. Stel voor dat je niks weet van het
verband, kan je uitgaan van het gemiddelde, dus: ^y = y . Het y met een dakje is een symbool
voor een voorspelde waarde van y. Maar een nog beter model is een lijn van linksonder naar
rechtsboven die zo goed mogelijk de puntenwolk volgt, de regressielijn:
- ^y =b0 +b1∗x ((ongestandaardiseerde) regressievergelijking)
b 0 is het symbool voor de constante/ intercept. Het is de constante factor in een
regressievergelijking. Het is de voorspelde waarde van y als x = 0. Dit is het punt waarbij de
lijn de y-as snijdt
- b 0= y−b1∗x
b 1 is het symbool voor de helling/ slope. Die vertelt ons hoeveel de voorspelde waarde ( ^y )
verandert als x met 1 punt stijgt.
r∗sy covxy
- b 1= sx of 2
sx
De best passende regressielijn is de lijn die de error/ residu minimaliseert, dus minimaal is.
- Error (e i) = geobserveerde waarde ( y ) – voorspelde waarde ( ^y i)
De regressielijn is gelijk aan ^y =b0 +b1∗x . De lijn gaat altijd door het intercept (0, b 0) en ( x , y
).
Om een regressievergelijking te berekenen voer je verschillende stappen uit:
Bij correlatie gaat het over de samenhang tussen twee variabelen. Maar correlatie zegt niks
over een causaal verband (oorzaak-gevolg)! Voor causaliteit moet er sprake zijn van:
- Covariantie, dus samenhang tussen variabelen;
- Directionaliteit, de oorzaak gaat vooraf aan het gevolg;
- Interne validiteit, alternatieve verklaringen zijn uitgesloten. Dit kan alleen bereikt
worden door middel van experimenteel onderzoek.
Bij correlatie gaat het over een verband tussen twee
variabelen, een scatterplot geeft een goede weergave
hoe ze verband houden:
- Richting: positief (lage waarden gaan samen met
lage waarden en hoge waarden gaan samen met
hoge waarden) of negatief (lage waarden gaan
samen met hoge waarden en hoge waarden gaan
samen met lage waarden);
- Sterkte: hoe meer de punten op één (rechte) lijn
liggen, hoe sterker het verband;
- Vorm: lineair/ niet lineair en homogeen (één
wolk)/ heterogeen (meerdere wolken);
- Uitbijters: punten die ver van de andere liggen.
Covariantie (Sxy) is de mate waarin twee variabelen samenhangen. De S staat voor
spreiding, in dit geval spreiding in de richting X en Y. Het geeft dus informatie over de sterkte
en de richting van de samenhang. Het nadeel is, is dat het moeilijk te interpreteren is. De
waarde is afhankelijk van de meeteenheid. Als deze verandert, verandert de covariantie,
terwijl de samenhang eigenlijk niet is veranderd. De oplossing is het standaardiseren van de
covariantie.
Σ( xi−x)( yi− y)
- Sxy=
N−1
De Pearson (r) is de gestandaardiseerde versie van de covariantie. Het is een maat die het
lineaire verband beschrijft tussen twee kwantitatieve (numerieke) variabelen. De waarde ligt
altijd tussen -1 en +1. Deze waarde is niet afhankelijk van de meeteenheid.
- r=
Sxy
SxSy
of r =
1
N −1 (
Σ
Sx )( Sy )
xi−x yi− y Σ ZxZy
=
N−1
Pas op voor: niet-lineaire verbanden, uitbijters (kunnen de correlatie enorm beïnvloeden),
heterogene subgroepen (vooral als er verschillende correlaties zijn in de verschillende
clusters) en restriction of range (enkel naar een deel van de gegevens kijken).
,Er zijn verschillende correlatiecoëfficiënten. Welke je gebruikt, is afhankelijk van het
meetniveau:
- Kwantitatief + kwantitatief Pearson r
- Ordinaal + ordinaal Spearman’s rho (rs)
- Dichotoom + kwantitatief punt-biseriële correlatie (rpb)
- Dichotoom + dichotoom phi coëfficiënt (∅ )
De Spearman’s rho (rs) beschrijft de samenhang tussen twee ordinale (gerangordende)
variabelen. Als er nog geen rangnummers bij staan, zet de scores dan om in rangnummers.
Vervolgens gebruik je Pearson (r). Dit is de robuuste variant van Pearson r als er sprake is van
uitbijters en/ of zwakke niet-lineariteit.
N +1
- x r=
2
- Sr=
√ N ( N +1)
12
Een makkelijkere manier om Srx en Sry te berekenen is door te kijken welke waarde bij
hetzelfde rangnummer in de andere rij staat. Dus stel: je wilt Srx van rangnummer 3 weten.
Dan kijk je naar de ingevulde Sry bij rangnummer 3. Deze waarde kan je dan ook invullen
voor Srx. Als er nog geen waarde in is ingevuld, kan gebruik gemaakt worden van de
bovenstaande formules.
De punt-biseriële correlatie (rpb) beschrijft de samenhang tussen een kwantitatieve
(numerieke) en dichotome (= met slechts twee mogelijke uitkomsten) variabele. Gebruik
Pearson (r). Deze punt-biseriële correlatie hangt samen met de t-toets voor onafhankelijke
variabelen (T-indep). Want in deze toets is er ook sprake van een dichotome variabele,
namelijk een controle- en een experimentele groep.
√
2
t
- Relatie rpb enT −indep= 2
(t is de waarde uit de t-toets)
t + df
Je hebt het hier niet over een positief of negatief verband, zoals in de vorige effectmaten,
maar over verschillen in groepsgemiddeldes.
Het phi coëfficiënt (∅ ) beschrijft de samenhang
tussen twee dichotome variabelen. Gebruik
vervolgens Pearson (r).
AD−BC
- ∅=
√( A + B)(C+ D)( A+C)(B+ D)
Aan de hand van de phi coëfficiënt kan ook de chi-kwadraat worden berekend en andersom:
√
2
x
- ∅= ⟷ x 2=∅2∗N
N
,De bovenstaande effectmaten zeggen iets over de samenhang in de steekproef, maar wat
zeggen ze over de correlatie in populatie ( ρ )? Als we heel veel steekproeven trekken van de
correlaties, krijgen we een steekproevenverdeling. Dit geeft ons uiteindelijk een idee wat de
correlatie is binnen een populatie op een variabele.
- H0: ρ = 0 (het startpunt is dat er geen correlatie is)
- Ha: ρ ≠ 0 (tweezijdig) of ρ < 0 of ρ > 0 (enkelzijdig)
Om een conclusie te trekken gebruik je een t-toets om de significantie van r te toetsen:
r √ N −2
- t= met df = N – 2
√1−r 2
Vervolgens kijk je in de t-tabel naar: t…(df). Kijk bij welke p-waarde (let op tweezijdig of
enkelzijdig!) je de berekende t-waarde kunt vinden. Vervolgens kun je de H0 verwerpen als
P < 0,05 is en wordt H0 behouden als P ≥ 0,05 is.
Oefen tentamenvraag:
Statistische significantie hangt af van N, r en a:
- Significantie van lage correlaties in grote steekproeven (N)
- Niet-significantie van hoge correlaties in kleine steekproeven (N)
Vuistregels:
, HC 2 – Enkelvoudige Lineaire Regressie
Correlatie beschrijft het lineaire verband tussen twee (interval) variabelen. Bij regressie ligt
dit anders. Regressie maakt het namelijk mogelijk om de ene variabelen uit één of meerdere
andere variabelen te voorspellen. Er is sprake van een:
- Predictor (onafhankelijke) variabele X
- Response/ criterion (afhankelijke) variabele Y
Als er sprake is van één predictorvariabele spreken we van een enkelvoudige lineaire
regressie. Is er sprake van twee of meer predictorvariabelen? Dan spreken we van een
meervoudige lineaire regressie. (Statistisch gezien kan elke variabele zowel de rol van
predictor- als response variabele aannemen.)
Regressiecoëfficiënten (b) beschrijven de
relatie tussen de predictorvariabele en de
response variabele. Er zijn verschillende
regressievergelijkingen, welke elk hun
eigen symbool hebben. Elk programma gebruikt ook zijn eigen symbool.
Voor regressie heb je een paar statistieken nodig: x , y , Sx, Sy en r (de correlatie).
Met de regressielijn kun je de Y uit de X voorspellen. Stel voor dat je niks weet van het
verband, kan je uitgaan van het gemiddelde, dus: ^y = y . Het y met een dakje is een symbool
voor een voorspelde waarde van y. Maar een nog beter model is een lijn van linksonder naar
rechtsboven die zo goed mogelijk de puntenwolk volgt, de regressielijn:
- ^y =b0 +b1∗x ((ongestandaardiseerde) regressievergelijking)
b 0 is het symbool voor de constante/ intercept. Het is de constante factor in een
regressievergelijking. Het is de voorspelde waarde van y als x = 0. Dit is het punt waarbij de
lijn de y-as snijdt
- b 0= y−b1∗x
b 1 is het symbool voor de helling/ slope. Die vertelt ons hoeveel de voorspelde waarde ( ^y )
verandert als x met 1 punt stijgt.
r∗sy covxy
- b 1= sx of 2
sx
De best passende regressielijn is de lijn die de error/ residu minimaliseert, dus minimaal is.
- Error (e i) = geobserveerde waarde ( y ) – voorspelde waarde ( ^y i)
De regressielijn is gelijk aan ^y =b0 +b1∗x . De lijn gaat altijd door het intercept (0, b 0) en ( x , y
).
Om een regressievergelijking te berekenen voer je verschillende stappen uit:
