Multivariate data-analyse
College 1. Multiple regression analysis (MRA)
Literatuur:
- H0: Which method for which problem
- H1: Multiple regression analysis
Hoofdstuk 0. Welke methode voor welk probleem?
Waar moet je rekening mee houden?
Er zijn verschillende aspecten die overwogen moeten worden om een geschikte analysemethode
kiezen die past bij je onderzoeksvraag en -design:
1. Welke en hoeveel variabelen zijn betrokken bij je onderzoek?
2. Hoe moeten we de variabelen toekennen aan sets?
3. Wat zijn de meetniveaus van variabelen?
4. (eventueel) Overige vragen over het onderzoekdoel
1. Welke en hoeveel variabelen zijn betrokken bij je onderzoek?
Om te bepalen welke analyse je gaat gebruiken, zijn er een aantal dingen van belang:
a. Onderscheid tussen variabelen en de onderliggende categorieën van variabelen
Maak duidelijk onderscheid te maken tussen variabelen en de onderliggende categorieën van
variabelen.
Vb. Man en vrouw zijn de twee categorieën die horen bij de variabele geslacht.
b. Er zijn twee verschillende benaderingen:
Between-subjects design
We kunnen verschillende participanten verdelen over meerdere verschillende condities
Within-subjects design
We kunnen dezelfde participanten laten meedoen in alle verschillende condities
Voorbeeld.
Onderzoeksvraag: presteren mensen beter zonder een strafbedreiging (threat of punishment) of
met een milde strafbedreiging of met een ernstige strafbedreiging?
Between-subjects design we hebben twee variabelen
1. Strafbedreiging (met de categorieën: geen, mild en ernstig)
2. Prestatie
Within-subjects design we hebben drie variabelen
1. Prestatie zonder strafbedreiging
2. Prestatie met milde strafbedreiging
3. Prestatie met ernstige strafbedreiging
c. Aantal variabelen
Het is belangrijk om na te gaan hoeveel variabelen gebruikt worden in het onderzoeksdesign.
Er zijn drie soorten:
Univariate data-analyse
Wanneer er één variabele gebruikt wordt
Vb. In hoeverre ervaren werkende mensen problemen in hun werk?
Bivariate analyse
Wanneer er twee variabelen gebruikt worden
Vb. Is er een verschil in de mate waarin mannen en vrouwen problemen ervaren in hun werk?
Multivariate data-analyse (MVDA)
Wanneer een design bestaat uit drie of meer variabelen
Vb. In hoeverre kunnen fysieke klachten voorspellend zijn op basis van de vijf type van
‘workplace stress’?
1
, Multivariate data-analyse
2. Variabelen toekennen aan sets
Afhankelijk van de doelen van de onderzoeker kunnen variabelen worden toegewezen worden aan sets.
Hiervoor kan de onderzoeker kiezen uit drie opties:
Toewijzen aan een enkele set X
Er vind geen classificatie plaats
Alle variabelen verdienen een gelijke behandeling.
Vb. Kunnen de 30 ‘workplace stressors’ gereduceerd worden tot een kleiner aantal van
onderliggende ‘workplace stress’ dimensies
Twee sets met een enkele variabele in Y
Alle variabelen worden verdeeld in twee sets X en Y, waarbij Y alleen één variabele bevat
Wordt gebruikt om een enkele (afhankelijke) variabele zo goed mogelijk te
voorspellen/verklaren met behulp van meerdere andere (onafhankelijke) variabelen.
De voorspellers (predictors) = onafhankelijke variabele (independent)
De voorspelde (predicted) variabelen = afhankelijke variabelen (dependent)
De onafhankelijke variabelen vormen een set (X)
De afhankelijke variabelen vormen een andere set (Y)
Voorbeeld.
In hoeverre zijn de ‘workplace stressors’ voorspellend voor arbeidsverzuim (absenteeism)?
De ‘workplace stressors’ (onafhankelijke variabele) vormen een set X
De arbeidsverzuim (afhankelijke variabele) vormen een set Y
Twee sets met meerdere variabelen in Y
Alle variabelen worden verdeeld in twee sets X en Y, waarbij Y twee of meer variabelen bevat
Wordt gebruikt om een meerdere (afhankelijke) variabelen zo goed mogelijk te
voorspellen/verklaren met behulp van meerdere andere (onafhankelijke) variabelen.
Voorbeeld
Zijn er verschillen tussen dokters, psychologen, psychiaters met betrekking tot de vier
‘workplace stressors’?
De eerste set (X) bestaat uit een nominale variabele die onderscheid maakt tussen drie beroepen
De tweede set (Y) bestaat uit de vier stressoren
3. Meetniveaus van variabelen
Voor MVDA zijn drie soorten variabelen van belang:
Nominaal (NOM)
Categorische variabelen
Omvatten verschillende categorieën zonder rangorde
De getallen zijn labels om groepen te onderscheiden
Deze getallen zijn arbitrair
Operatoren: = of ≠
Voorbeelden:
- Oogkleur (blauw = 1 & bruin = 2 & groen = 3)
- Geslacht (vrouw = 0 & man = 1)
- Provincies
- Abonnee op de krant (0) / geen abonnee op de krant (1)
- Geen therapie (1) / psychodynamische therapie (2) / exposure (3)
Ordinaal (ORD)
Bestaan uit categorieën met een rangorde
Er zit een ordening/volgorde in de scores
Stappen zijn niet steeds even groot
Operatoren: < of > (groter dan of kleiner dan)
Voorbeelden:
- Het toewijzen van nummers om de rangorde van de lengte van kinderen in een groep aan te geven
- Eens / neutraal / oneens
- Vmbo / havo / vwo
2
, Multivariate data-analyse
Interval (INT)
Kunnen gebruikt worden om de relatieve mate van verschil tussen scores vast te stellen
Er zit een ordening/volgorde in de scores
De stappen zijn steeds even groot
Maar het nulpunt is arbitrair (willekeurig/geen nulpunt)
Operatoren: + of - (optellen of aftrekken)
Voorbeelden:
- Lengte (van de kinderen in centimeters)
- Temperatuur in graden Celsius
- IQ ( / 120)
- Tijd (13:::00)
Er is een aantal situaties die deze driedeling gecompliceerder maken.
1. Binaire variabelen hebben twee categorieën en kunnen
a. Gebruikt worden als zowel nominale en interval variabelen
b. Gebruikt worden in relatief simpele methoden
Vb. pass/fail & male/female
2. Responsschalen kunnen r worden gezien als zowel ordinale en interval variabelen.
Vb. good/quite good/moderate/poor
Dit noemen we quasi-interval variabelen
Zulke quasi-interval variabelen worden meestal behandeld als intervalvariabelen
Reden: omdat de meeste methoden vrij robuust zijn in het omgaan met intervalverschillen.
Als onderzoeker moet je besluiten welk meetniveau het beste past bij de onderzoeksvraag en –data.
Stappen in het kiezen van de juiste MVDA methode
Er zijn drie stappen die genomen moeten worden om de juiste MVDA methode te kiezen:
1. Stel vast hoe variabelen aan een set moeten worden toegekend.
Eén set (X)
Twee sets (X en Y) met een enkele variabele in Y
Twee sets (X en Y) met meerdere variabelen in Y
2. Stel vast welke meetniveaus de variabelen in de sets hebben en kies een methode.
Nominaal (of binominaal)
Ordinaal
Interval
3. Indien er meerdere methodes overblijven: maak een keuze aan de hand van een overweging van
het specifieke doel van de analyse.
Methode voor een enkele set X
Meetniveau Onderzoeksdoel Methode
Dimensie reductie: exploreren Principal componentanalyse (PCA)
Interval (INT)
(verkennend) Exploratieve factoranalyse (EFA)
Dimensie reductie: confirmatie
Interval (INT) Confirmatieve factoranalyse (CFA)
(bevestigend)
Het vergelijken van testen en Herhaalde metingen ANOVA
Interval (INT)
gemiddelde (repeated measures ANOVA)
Bij dimensie reductie probeert men een redelijk groot aantal variabelen te reduceren naar een veel
kleiner aantal van onderliggende dimensies
Op deze manier wordt het model simpeler en de beschrijving van de data helderder
PCA en EFA hebben geen definitief idee over de onderliggende dimensies (testen zijn vaak niet relevant)
CFA heeft een uitgewerkt model waarin de data bevestigd of ontkracht kan worden via een test
Je kan een CFA model herkennen aan:
Expliciete uitspraken over (een deel van) de parameters in het model
Een test voor het gehele model
CFA detecteert onderliggende dimensies van homogene groepen van individuen
De herhaalde metingen ANOVA vergelijkt en test de verschillen tussen groepsgemiddelden
Methode voor twee sets (X en Y) met één variabele in Y
3
, Multivariate data-analyse
Meetniveau X (X1, X2) Meetniveau Y Onderzoeksdoel Methode
Interval (INT) Interval (INT) Y voorspellen uit X Multiple regressie analyse (MRA)
Nominaal (NOM) Interval (INT) Y voorspellen uit X Analysis of variance (ANOVA)
Nominaal (NOM) +
Interval (INT) Y voorspellen uit X Analysis of covariance (ANCOVA)
Interval (INT)
Interval (INT) Binominaal (BIN) Y voorspellen uit X Logistic regression analyse (LRA)
Interval (INT) Nominaal (NOM) Y voorspellen uit X Discriminant analysis (DA)
Opmerkingen:
X1 en X2 kunnen ook binair zijn
Als Y binair is Logistic regression analyse (LRA)
Multiple regressie analyse (MRA)
Analysis of variance (ANOVA)
Analysis of covariance (ANCOVA)
Logistic regression analyse (LRA)
Methode voor twee sets (X en Y) met meerdere variabelen in Y
Meetniveau X Meetniveau Y Onderzoeksdoel Methode
Multivariate correlatie
Interval (INT) Interval (INT) Canonicale correlatieanalyse (CCA)
tussen X en Y
Interval (INT) Interval (INT) Y voorspellen uit X Multivariate regressieanalyse
Nominaal (NOM) Interval (INT) Y voorspellen uit X Multivariate analyse van variantie (MANOVA)
Dus je kan het juiste methode vaststellen aan de hand van:
Het meetniveau
Het onderzoeksdoel
In totaal zijn er zeven technieken in dit vak:
Multiple regression analysis (MRA)
Analysis of variance (ANOVA)
Analysis of covariance (ANCOVA)
Logistic regression analysis (LRA)
Multivariate analysis of variance (MANOVA)
Repeated measures ANOVA
Mediation analysis
4
College 1. Multiple regression analysis (MRA)
Literatuur:
- H0: Which method for which problem
- H1: Multiple regression analysis
Hoofdstuk 0. Welke methode voor welk probleem?
Waar moet je rekening mee houden?
Er zijn verschillende aspecten die overwogen moeten worden om een geschikte analysemethode
kiezen die past bij je onderzoeksvraag en -design:
1. Welke en hoeveel variabelen zijn betrokken bij je onderzoek?
2. Hoe moeten we de variabelen toekennen aan sets?
3. Wat zijn de meetniveaus van variabelen?
4. (eventueel) Overige vragen over het onderzoekdoel
1. Welke en hoeveel variabelen zijn betrokken bij je onderzoek?
Om te bepalen welke analyse je gaat gebruiken, zijn er een aantal dingen van belang:
a. Onderscheid tussen variabelen en de onderliggende categorieën van variabelen
Maak duidelijk onderscheid te maken tussen variabelen en de onderliggende categorieën van
variabelen.
Vb. Man en vrouw zijn de twee categorieën die horen bij de variabele geslacht.
b. Er zijn twee verschillende benaderingen:
Between-subjects design
We kunnen verschillende participanten verdelen over meerdere verschillende condities
Within-subjects design
We kunnen dezelfde participanten laten meedoen in alle verschillende condities
Voorbeeld.
Onderzoeksvraag: presteren mensen beter zonder een strafbedreiging (threat of punishment) of
met een milde strafbedreiging of met een ernstige strafbedreiging?
Between-subjects design we hebben twee variabelen
1. Strafbedreiging (met de categorieën: geen, mild en ernstig)
2. Prestatie
Within-subjects design we hebben drie variabelen
1. Prestatie zonder strafbedreiging
2. Prestatie met milde strafbedreiging
3. Prestatie met ernstige strafbedreiging
c. Aantal variabelen
Het is belangrijk om na te gaan hoeveel variabelen gebruikt worden in het onderzoeksdesign.
Er zijn drie soorten:
Univariate data-analyse
Wanneer er één variabele gebruikt wordt
Vb. In hoeverre ervaren werkende mensen problemen in hun werk?
Bivariate analyse
Wanneer er twee variabelen gebruikt worden
Vb. Is er een verschil in de mate waarin mannen en vrouwen problemen ervaren in hun werk?
Multivariate data-analyse (MVDA)
Wanneer een design bestaat uit drie of meer variabelen
Vb. In hoeverre kunnen fysieke klachten voorspellend zijn op basis van de vijf type van
‘workplace stress’?
1
, Multivariate data-analyse
2. Variabelen toekennen aan sets
Afhankelijk van de doelen van de onderzoeker kunnen variabelen worden toegewezen worden aan sets.
Hiervoor kan de onderzoeker kiezen uit drie opties:
Toewijzen aan een enkele set X
Er vind geen classificatie plaats
Alle variabelen verdienen een gelijke behandeling.
Vb. Kunnen de 30 ‘workplace stressors’ gereduceerd worden tot een kleiner aantal van
onderliggende ‘workplace stress’ dimensies
Twee sets met een enkele variabele in Y
Alle variabelen worden verdeeld in twee sets X en Y, waarbij Y alleen één variabele bevat
Wordt gebruikt om een enkele (afhankelijke) variabele zo goed mogelijk te
voorspellen/verklaren met behulp van meerdere andere (onafhankelijke) variabelen.
De voorspellers (predictors) = onafhankelijke variabele (independent)
De voorspelde (predicted) variabelen = afhankelijke variabelen (dependent)
De onafhankelijke variabelen vormen een set (X)
De afhankelijke variabelen vormen een andere set (Y)
Voorbeeld.
In hoeverre zijn de ‘workplace stressors’ voorspellend voor arbeidsverzuim (absenteeism)?
De ‘workplace stressors’ (onafhankelijke variabele) vormen een set X
De arbeidsverzuim (afhankelijke variabele) vormen een set Y
Twee sets met meerdere variabelen in Y
Alle variabelen worden verdeeld in twee sets X en Y, waarbij Y twee of meer variabelen bevat
Wordt gebruikt om een meerdere (afhankelijke) variabelen zo goed mogelijk te
voorspellen/verklaren met behulp van meerdere andere (onafhankelijke) variabelen.
Voorbeeld
Zijn er verschillen tussen dokters, psychologen, psychiaters met betrekking tot de vier
‘workplace stressors’?
De eerste set (X) bestaat uit een nominale variabele die onderscheid maakt tussen drie beroepen
De tweede set (Y) bestaat uit de vier stressoren
3. Meetniveaus van variabelen
Voor MVDA zijn drie soorten variabelen van belang:
Nominaal (NOM)
Categorische variabelen
Omvatten verschillende categorieën zonder rangorde
De getallen zijn labels om groepen te onderscheiden
Deze getallen zijn arbitrair
Operatoren: = of ≠
Voorbeelden:
- Oogkleur (blauw = 1 & bruin = 2 & groen = 3)
- Geslacht (vrouw = 0 & man = 1)
- Provincies
- Abonnee op de krant (0) / geen abonnee op de krant (1)
- Geen therapie (1) / psychodynamische therapie (2) / exposure (3)
Ordinaal (ORD)
Bestaan uit categorieën met een rangorde
Er zit een ordening/volgorde in de scores
Stappen zijn niet steeds even groot
Operatoren: < of > (groter dan of kleiner dan)
Voorbeelden:
- Het toewijzen van nummers om de rangorde van de lengte van kinderen in een groep aan te geven
- Eens / neutraal / oneens
- Vmbo / havo / vwo
2
, Multivariate data-analyse
Interval (INT)
Kunnen gebruikt worden om de relatieve mate van verschil tussen scores vast te stellen
Er zit een ordening/volgorde in de scores
De stappen zijn steeds even groot
Maar het nulpunt is arbitrair (willekeurig/geen nulpunt)
Operatoren: + of - (optellen of aftrekken)
Voorbeelden:
- Lengte (van de kinderen in centimeters)
- Temperatuur in graden Celsius
- IQ ( / 120)
- Tijd (13:::00)
Er is een aantal situaties die deze driedeling gecompliceerder maken.
1. Binaire variabelen hebben twee categorieën en kunnen
a. Gebruikt worden als zowel nominale en interval variabelen
b. Gebruikt worden in relatief simpele methoden
Vb. pass/fail & male/female
2. Responsschalen kunnen r worden gezien als zowel ordinale en interval variabelen.
Vb. good/quite good/moderate/poor
Dit noemen we quasi-interval variabelen
Zulke quasi-interval variabelen worden meestal behandeld als intervalvariabelen
Reden: omdat de meeste methoden vrij robuust zijn in het omgaan met intervalverschillen.
Als onderzoeker moet je besluiten welk meetniveau het beste past bij de onderzoeksvraag en –data.
Stappen in het kiezen van de juiste MVDA methode
Er zijn drie stappen die genomen moeten worden om de juiste MVDA methode te kiezen:
1. Stel vast hoe variabelen aan een set moeten worden toegekend.
Eén set (X)
Twee sets (X en Y) met een enkele variabele in Y
Twee sets (X en Y) met meerdere variabelen in Y
2. Stel vast welke meetniveaus de variabelen in de sets hebben en kies een methode.
Nominaal (of binominaal)
Ordinaal
Interval
3. Indien er meerdere methodes overblijven: maak een keuze aan de hand van een overweging van
het specifieke doel van de analyse.
Methode voor een enkele set X
Meetniveau Onderzoeksdoel Methode
Dimensie reductie: exploreren Principal componentanalyse (PCA)
Interval (INT)
(verkennend) Exploratieve factoranalyse (EFA)
Dimensie reductie: confirmatie
Interval (INT) Confirmatieve factoranalyse (CFA)
(bevestigend)
Het vergelijken van testen en Herhaalde metingen ANOVA
Interval (INT)
gemiddelde (repeated measures ANOVA)
Bij dimensie reductie probeert men een redelijk groot aantal variabelen te reduceren naar een veel
kleiner aantal van onderliggende dimensies
Op deze manier wordt het model simpeler en de beschrijving van de data helderder
PCA en EFA hebben geen definitief idee over de onderliggende dimensies (testen zijn vaak niet relevant)
CFA heeft een uitgewerkt model waarin de data bevestigd of ontkracht kan worden via een test
Je kan een CFA model herkennen aan:
Expliciete uitspraken over (een deel van) de parameters in het model
Een test voor het gehele model
CFA detecteert onderliggende dimensies van homogene groepen van individuen
De herhaalde metingen ANOVA vergelijkt en test de verschillen tussen groepsgemiddelden
Methode voor twee sets (X en Y) met één variabele in Y
3
, Multivariate data-analyse
Meetniveau X (X1, X2) Meetniveau Y Onderzoeksdoel Methode
Interval (INT) Interval (INT) Y voorspellen uit X Multiple regressie analyse (MRA)
Nominaal (NOM) Interval (INT) Y voorspellen uit X Analysis of variance (ANOVA)
Nominaal (NOM) +
Interval (INT) Y voorspellen uit X Analysis of covariance (ANCOVA)
Interval (INT)
Interval (INT) Binominaal (BIN) Y voorspellen uit X Logistic regression analyse (LRA)
Interval (INT) Nominaal (NOM) Y voorspellen uit X Discriminant analysis (DA)
Opmerkingen:
X1 en X2 kunnen ook binair zijn
Als Y binair is Logistic regression analyse (LRA)
Multiple regressie analyse (MRA)
Analysis of variance (ANOVA)
Analysis of covariance (ANCOVA)
Logistic regression analyse (LRA)
Methode voor twee sets (X en Y) met meerdere variabelen in Y
Meetniveau X Meetniveau Y Onderzoeksdoel Methode
Multivariate correlatie
Interval (INT) Interval (INT) Canonicale correlatieanalyse (CCA)
tussen X en Y
Interval (INT) Interval (INT) Y voorspellen uit X Multivariate regressieanalyse
Nominaal (NOM) Interval (INT) Y voorspellen uit X Multivariate analyse van variantie (MANOVA)
Dus je kan het juiste methode vaststellen aan de hand van:
Het meetniveau
Het onderzoeksdoel
In totaal zijn er zeven technieken in dit vak:
Multiple regression analysis (MRA)
Analysis of variance (ANOVA)
Analysis of covariance (ANCOVA)
Logistic regression analysis (LRA)
Multivariate analysis of variance (MANOVA)
Repeated measures ANOVA
Mediation analysis
4
