Samenvatting Statistische Modellen 2 SPO 2023-2024
Inhoud
Aantekeningen colleges Statistische Modellen 2 2023-2024 .................................................................. 2
College 1 – Herhaling, inferentie en regressie (18 april 2024) ............................................................ 2
College 2 – Multivariate relaties en variantieanalyse (25 april 2024) ............................................... 19
College 3 – Vervolg college 2 (6 mei 2024)........................................................................................ 33
College 3 – ANCOVA (6 mei 2024) ..................................................................................................... 38
College 4 – Regressieanalyse met categorische predictoren (21 mei 2024) ..................................... 49
College 5 – Logistische regressieanalyse (28 mei 2024) .................................................................... 55
College 6 – Repeated measured ANOVA (4 juni 2024) ...................................................................... 63
,Aantekeningen colleges Statistische Modellen 2 2023-2024
College 1 – Herhaling, inferentie en regressie (18 april 2024)
Hoofddoelen statistiek
- Samenvatting van gegevens
Beschrijvende statistiek (Inleiding Onderzoek)
Met name maken van plaatjes en berekenen samenvattingsmaten (mediaan, sd, gemiddelde)
- Aangeven van onzekerheid
Inferentiële statistiek, generaliseren van steekproef naar populatie (Statistische Modellen 1 en 2)
Wat zegt steekproefuitkomst over de populatie? (hiervoor o.a. bhi’s en toetsen)
Terminologie
- Populatie: groep waarvan onderzoeker eigenschappen wil weten
- Parameter: numerieke samenvatting van eigenschap in populatie
- Steekproef: subgroep uit populatie die onderzocht wordt
- Statistic (ook wel schatter): numerieke samenvatting van eigenschap in steekproef
(hiermee schatten we de parameter)
Doel in Onderzoek
- Met steekproef -> iets zeggen over populatie
- Met statistic -> doe je een parameterschatting
- We vinden iets in een steekproef. -> Wat
betekent dit in populatie?
Hoe?
- Beschikbaar: Theorie (stel: we kennen populatie.
Wat kan er allemaal uit steekproef komen?)
Populatie -> Steekproef
Parameter -> Statistic
Grotere steekproef is nauwkeuriger (centrale limietstelling)
BHI geeft aan -> het ligt ongeveer hier
Toets geeft aan -> hoe verschillend is wat je gevonden hebt t.o.v. de nulhypothese
Nodig in praktijk: omgekeerde stap
Parameterschatting <- Statistic
Inferentiële statistiek
- Voorbeeld: het gemiddelde in de steekproef kun je gebruiken om:
Het gemiddelde in populatie te schatten
Kansuitspraken te doen over het gemiddelde in de populatie
- Nodig om kansuitspraken te doen:
Steekproevenverdeling: Wat gebeurt er wanneer we het over zouden doen?
Sampling distributions = Steekproevenverdeling
- Kansverdeling voor steekproeven (NIET binnen steekproeven, maar tussen meerdere steekproeven)
- Oftewel: wat is de verdeling als ik heel vaak een steekproef zou trekken? Losse uitkomsten (scores)
variëren meer dan groepjes uitkomsten. Bij losse scores kun je meer extremen hebben.
,Waar heb je steekproevenverdelingen voor nodig?
1. Betrouwbaarheidsintervallen: foutenmarge
2. Toetsen: p-waarde
Twee methoden voor inferentie
1. Betrouwbaarheidsintervallen
Indicatie van de parameter (bij herhaald steekproeftrekken)
2. Hypothesetoetsen (= significantietoetsen)
‘De kans op deze steekproefuitkomst is zo klein als de nulhypothese waar zou zijn, dat het
onwaarschijnlijk is dat de populatiegrootheid die waarde (H0) heeft’
-> Populatie en steekproef
1. Betrouwbaarheidsintervallen
- BHI gebaseerd op steekproevenverdeling rond parameter
(bijv. µ, π)
- Middelste C% van de verdeling
- Afstand tot midden = margin of error
- Margin of error = kritieke waarde x standaardfout
- Altijd rond steekproefuitkomst
- Iedere keer ander interval
- Doel: schatten parameter
- Algemeen: informatiever dan significantietoets
Interpretatie betrouwbaarheidsinterval
- Als we heel vaak een betrouwbaarheidsinterval op deze manier zouden opstellen, zou dit in C% van
de gevallen de parameter omvatten
- Als ons betrouwbaarheidsinterval de parameter omvat (en dat is het geval in C% van de
steekproeven), dan ligt de parameter tussen [ondergrens] en [bovengrens].
- NIET: We zijn nu 95% zeker dat de parameter ligt tussen [ondergrens] en [bovengrens].
Vast opbouw betrouwbaarheidsinterval
- Statistic ± margin of error
- Statistic ± kritieke waarde x standaardfout
2. Hypothesetoetsen/significantietoetsen
- Nulhypothese: een populatiegrootheid heeft een bepaalde waarde
- Alternatieve hypothese: de populatie-grootheid heeft die waarde niet (groter, kleiner, ongelijk)
-> Probeer de nulhypothese te verwerpen
- Voorbeeld: H0: = 0 versus Ha: ≠ 0
Gebaseerd op een toetsingsgrootheid (test statistic)
, P-waarde
- De kans om te vinden wat wij in onze steekproef gevonden hebben of extremer, wanneer in
werkelijkheid de nulhypothese waar zou zijn.
- Hoe bijzonder is het om dit te vinden of extremer als de nulhypothese waar is
- Er is een kans van …. om minstens het gevonden effect te vinden als de nulhypothese waar zou zijn
- Hoe kleiner p des te sterker is het bewijs tegen de nulhypothese, d.w.z. hoe onwaarschijnlijker de
nulhypothese waar is.
- Hoe klein is p? -> Vergelijk met significantieniveau
Interpretatie uitkomst significantietoets (wees voorzichtig!)
1. P < α: Significant:
- Er lijkt bewijs tegen de nulhypothese (maar dit hoeft niet per se sterk bewijs te zijn)
- De alternatieve hypothese zou wel eens waar kunnen zijn
- Er zou wel eens een populatie-effect kunnen zijn
2. P > α: Niet significant:
- Geen idee of er een populatie-effect is
- We weten niet of de alternatieve hypothese of de nulhypothese waar is
- We weten niet of er een populatie-effect is
- NIET: er is waarschijnlijk geen populatie-effect
Vaste opbouw toets
- Test statistic: hoeveel standaardfouten ligt gevonden uitkomst van de waarde onder de H0 af?
- P-waarde: wat is de kans op minstens de gevonden test statistic?
Waarom test statistics (bijv. t, z)?
- Je wilt kansen verbinden aan scores, bijvoorbeeld hoe lang zijn
de langste 10% van de mensen?
- Kans vaak niet rechtstreeks op te zoeken
- Wel indirect als je test statistic als tussenstap gebruikt
- Voorbeeld score: t = (y(gemiddeld) - µ)/(s/√n)
- Voorbeeld test statistic: opzoeken t-waarde in Tabel B
- Voorbeeld kansen: 0.05 < P(t) < 0.10
Problemen met significantietoetsing
1. Complexe redenatie:
Heel vaak fouten bij interpretatie van resultaten
2. Slechts twee mogelijke uitkomsten (significant/niet significant)
Onnodige en schadelijke reductie van informatie
3. Kan leiden tot gebruik questionable research practices (p-hacking, harking, selective reporting)
Toets Rechtspraak
Startpunt (‘stel’) H0 is waar De verdachte is onschuldig
Hoe bijzonder is gevondene? P-waarde: kans om gevondene Hoe bijzonder is het
te vinden als H0 waar bewijsmateriaal als verdachte
onschuldig is?
Als “bijzonder” “Significant”: H0 zou wel eens Waarschijnlijk is de aanname
onwaar kunnen zijn van onschuld onterecht
Als “niet zo bijzonder” “Niet significant”: misschien is Misschien heeft de verdachte
H0 waar en misschien niet het gedaan, maar misschien
ook niet
Inhoud
Aantekeningen colleges Statistische Modellen 2 2023-2024 .................................................................. 2
College 1 – Herhaling, inferentie en regressie (18 april 2024) ............................................................ 2
College 2 – Multivariate relaties en variantieanalyse (25 april 2024) ............................................... 19
College 3 – Vervolg college 2 (6 mei 2024)........................................................................................ 33
College 3 – ANCOVA (6 mei 2024) ..................................................................................................... 38
College 4 – Regressieanalyse met categorische predictoren (21 mei 2024) ..................................... 49
College 5 – Logistische regressieanalyse (28 mei 2024) .................................................................... 55
College 6 – Repeated measured ANOVA (4 juni 2024) ...................................................................... 63
,Aantekeningen colleges Statistische Modellen 2 2023-2024
College 1 – Herhaling, inferentie en regressie (18 april 2024)
Hoofddoelen statistiek
- Samenvatting van gegevens
Beschrijvende statistiek (Inleiding Onderzoek)
Met name maken van plaatjes en berekenen samenvattingsmaten (mediaan, sd, gemiddelde)
- Aangeven van onzekerheid
Inferentiële statistiek, generaliseren van steekproef naar populatie (Statistische Modellen 1 en 2)
Wat zegt steekproefuitkomst over de populatie? (hiervoor o.a. bhi’s en toetsen)
Terminologie
- Populatie: groep waarvan onderzoeker eigenschappen wil weten
- Parameter: numerieke samenvatting van eigenschap in populatie
- Steekproef: subgroep uit populatie die onderzocht wordt
- Statistic (ook wel schatter): numerieke samenvatting van eigenschap in steekproef
(hiermee schatten we de parameter)
Doel in Onderzoek
- Met steekproef -> iets zeggen over populatie
- Met statistic -> doe je een parameterschatting
- We vinden iets in een steekproef. -> Wat
betekent dit in populatie?
Hoe?
- Beschikbaar: Theorie (stel: we kennen populatie.
Wat kan er allemaal uit steekproef komen?)
Populatie -> Steekproef
Parameter -> Statistic
Grotere steekproef is nauwkeuriger (centrale limietstelling)
BHI geeft aan -> het ligt ongeveer hier
Toets geeft aan -> hoe verschillend is wat je gevonden hebt t.o.v. de nulhypothese
Nodig in praktijk: omgekeerde stap
Parameterschatting <- Statistic
Inferentiële statistiek
- Voorbeeld: het gemiddelde in de steekproef kun je gebruiken om:
Het gemiddelde in populatie te schatten
Kansuitspraken te doen over het gemiddelde in de populatie
- Nodig om kansuitspraken te doen:
Steekproevenverdeling: Wat gebeurt er wanneer we het over zouden doen?
Sampling distributions = Steekproevenverdeling
- Kansverdeling voor steekproeven (NIET binnen steekproeven, maar tussen meerdere steekproeven)
- Oftewel: wat is de verdeling als ik heel vaak een steekproef zou trekken? Losse uitkomsten (scores)
variëren meer dan groepjes uitkomsten. Bij losse scores kun je meer extremen hebben.
,Waar heb je steekproevenverdelingen voor nodig?
1. Betrouwbaarheidsintervallen: foutenmarge
2. Toetsen: p-waarde
Twee methoden voor inferentie
1. Betrouwbaarheidsintervallen
Indicatie van de parameter (bij herhaald steekproeftrekken)
2. Hypothesetoetsen (= significantietoetsen)
‘De kans op deze steekproefuitkomst is zo klein als de nulhypothese waar zou zijn, dat het
onwaarschijnlijk is dat de populatiegrootheid die waarde (H0) heeft’
-> Populatie en steekproef
1. Betrouwbaarheidsintervallen
- BHI gebaseerd op steekproevenverdeling rond parameter
(bijv. µ, π)
- Middelste C% van de verdeling
- Afstand tot midden = margin of error
- Margin of error = kritieke waarde x standaardfout
- Altijd rond steekproefuitkomst
- Iedere keer ander interval
- Doel: schatten parameter
- Algemeen: informatiever dan significantietoets
Interpretatie betrouwbaarheidsinterval
- Als we heel vaak een betrouwbaarheidsinterval op deze manier zouden opstellen, zou dit in C% van
de gevallen de parameter omvatten
- Als ons betrouwbaarheidsinterval de parameter omvat (en dat is het geval in C% van de
steekproeven), dan ligt de parameter tussen [ondergrens] en [bovengrens].
- NIET: We zijn nu 95% zeker dat de parameter ligt tussen [ondergrens] en [bovengrens].
Vast opbouw betrouwbaarheidsinterval
- Statistic ± margin of error
- Statistic ± kritieke waarde x standaardfout
2. Hypothesetoetsen/significantietoetsen
- Nulhypothese: een populatiegrootheid heeft een bepaalde waarde
- Alternatieve hypothese: de populatie-grootheid heeft die waarde niet (groter, kleiner, ongelijk)
-> Probeer de nulhypothese te verwerpen
- Voorbeeld: H0: = 0 versus Ha: ≠ 0
Gebaseerd op een toetsingsgrootheid (test statistic)
, P-waarde
- De kans om te vinden wat wij in onze steekproef gevonden hebben of extremer, wanneer in
werkelijkheid de nulhypothese waar zou zijn.
- Hoe bijzonder is het om dit te vinden of extremer als de nulhypothese waar is
- Er is een kans van …. om minstens het gevonden effect te vinden als de nulhypothese waar zou zijn
- Hoe kleiner p des te sterker is het bewijs tegen de nulhypothese, d.w.z. hoe onwaarschijnlijker de
nulhypothese waar is.
- Hoe klein is p? -> Vergelijk met significantieniveau
Interpretatie uitkomst significantietoets (wees voorzichtig!)
1. P < α: Significant:
- Er lijkt bewijs tegen de nulhypothese (maar dit hoeft niet per se sterk bewijs te zijn)
- De alternatieve hypothese zou wel eens waar kunnen zijn
- Er zou wel eens een populatie-effect kunnen zijn
2. P > α: Niet significant:
- Geen idee of er een populatie-effect is
- We weten niet of de alternatieve hypothese of de nulhypothese waar is
- We weten niet of er een populatie-effect is
- NIET: er is waarschijnlijk geen populatie-effect
Vaste opbouw toets
- Test statistic: hoeveel standaardfouten ligt gevonden uitkomst van de waarde onder de H0 af?
- P-waarde: wat is de kans op minstens de gevonden test statistic?
Waarom test statistics (bijv. t, z)?
- Je wilt kansen verbinden aan scores, bijvoorbeeld hoe lang zijn
de langste 10% van de mensen?
- Kans vaak niet rechtstreeks op te zoeken
- Wel indirect als je test statistic als tussenstap gebruikt
- Voorbeeld score: t = (y(gemiddeld) - µ)/(s/√n)
- Voorbeeld test statistic: opzoeken t-waarde in Tabel B
- Voorbeeld kansen: 0.05 < P(t) < 0.10
Problemen met significantietoetsing
1. Complexe redenatie:
Heel vaak fouten bij interpretatie van resultaten
2. Slechts twee mogelijke uitkomsten (significant/niet significant)
Onnodige en schadelijke reductie van informatie
3. Kan leiden tot gebruik questionable research practices (p-hacking, harking, selective reporting)
Toets Rechtspraak
Startpunt (‘stel’) H0 is waar De verdachte is onschuldig
Hoe bijzonder is gevondene? P-waarde: kans om gevondene Hoe bijzonder is het
te vinden als H0 waar bewijsmateriaal als verdachte
onschuldig is?
Als “bijzonder” “Significant”: H0 zou wel eens Waarschijnlijk is de aanname
onwaar kunnen zijn van onschuld onterecht
Als “niet zo bijzonder” “Niet significant”: misschien is Misschien heeft de verdachte
H0 waar en misschien niet het gedaan, maar misschien
ook niet
