Assumptions in MLR
How to check the assumptions:
Absence of multicollinearity: Multicollinearity indicates whether the relationship between two
or more independent variables is too strong. If you include overly related variables in your
model, this has 3 consequences:
- tick ‘Tolerance and VIF’ under Statistics → Coefficients
→ Checken of multicollinearity een issue is: Tolerance or VIF (Variance Inflation Factor):
- tolerance < .2 → potential problem
- tolerance < .1 → problem
- VIF is equal to 1 / Tolerance → VIF > .5 = potential problem and VIF > .10 =
problem.
Absence of multivariate outliers: tick ‘Casewise diagnostics’ under Statistics → Residuals,
then select either ‘Std. residual’ or ‘Cook’s distance’.
- if the tables are empty → there is no such case
- Std. residual moet tussen -3 en 3 zitten.
- Cook’s distance moet < 1 zijn
- ‘All’ geeft alle std. residuals en cook’s distance in een grote tabel.
Homoscedasticity: scroll down to Plots and tick ‘Residuals vs. predicted’ →
Normally distributed residuals: scroll down to Plots and tick Residuals →
histogram and Q-Q plot standardized residuals.
→ Je ziet dan bijvoorbeeld deze grafiek:
→ De Q-Q-plot laat punten zien die redelijk op de diagonaal liggen, wat duidt op → redelijke
normaliteit
When running a Bayesian analysis, the results are likely to be slightly different if you
repeat it a few times. In order for the results to be reproducible, go to Advanced Options >
‘Repeatability’ > ‘Set seed’. Set the seed to 1. This will make sure that the same random
process is selected as the one we used to create the output shown here. In het JASP Skills
Exam is het belangrijk dat je precies de seed gebruikt die wordt gegeven voor elke
Bayesiaanse analyse.
→ Vergeet niet ‘Compare to null model’ aan te klikken
, Als ze vragen: ‘What is the Bayes factor value
comparing our model with the null model stating that
all coefficients are zero?’
→ kijk naar model wat de variabele betreft van het
model waar het over gaat in de vraag. In dit geval
‘dummy 1 + parents + teachers’ en kijk dan naar
BF10
MLR, including hierarchical
Hierarchical regression analysis in JASP:
- eerst hetzelfde als normale regression analyse → Classical → Linear regression
- ga nu naar Model
→ Het nulmodel is het eenvoudigere model (met minder voorspellers) en het
alternatieve model is het complexere model (met meer voorspellers).
- Sleep de voorspellers uit het eenvoudigere model naar het vak ‘Model 0’
Sleep de nieuwe voorspellers die je erbij wilt naar het vak ‘Model 1’
- Vink in het tabblad ‘Statistics’ de optie ‘R squared change’ aan.
Dummy variabele maken:
Frequentist:
- groene plusje +
- geef de dummy een naam (bijv Dummy 1 / Dummy Female)
- klik column type → ‘scale’
- klik computed type → ‘drag and drop’
- zet eerst de categorische variabele neer (bijv Gender)
- dan ‘=’ categorie naam (hoe die in je dataset staat) bijv ‘Female’ (als je vrouw als 1
wilt en man als 0 bijv)
JASP maakt dan een nieuwe variabele (de dummy) waarin:
- Alle rijen waar Gender = “Female” → krijgen de waarde 1
- Alle rijen waar Gender iets anders is (“Male”) → krijgen de waarde 0
Dus de dummy zet jouw categorische variabele om in een binaire (0/1) variabele die
regressie kan gebruiken.
Bayesian:
Here you add them to the null model by ticking the boxes of the
old variables that you want in Model 0 (that you make the null
model).
MLR with dummy variables
Snel zien hoeveel dummy variabelen je nodig hebt?
- dubbelklik op variabele
- klik op je groep die je hebt gekozen als reference group
- klik op bovenste pijltje naar boven TOTDAT het BOVENAAN staat in de rij
How to check the assumptions:
Absence of multicollinearity: Multicollinearity indicates whether the relationship between two
or more independent variables is too strong. If you include overly related variables in your
model, this has 3 consequences:
- tick ‘Tolerance and VIF’ under Statistics → Coefficients
→ Checken of multicollinearity een issue is: Tolerance or VIF (Variance Inflation Factor):
- tolerance < .2 → potential problem
- tolerance < .1 → problem
- VIF is equal to 1 / Tolerance → VIF > .5 = potential problem and VIF > .10 =
problem.
Absence of multivariate outliers: tick ‘Casewise diagnostics’ under Statistics → Residuals,
then select either ‘Std. residual’ or ‘Cook’s distance’.
- if the tables are empty → there is no such case
- Std. residual moet tussen -3 en 3 zitten.
- Cook’s distance moet < 1 zijn
- ‘All’ geeft alle std. residuals en cook’s distance in een grote tabel.
Homoscedasticity: scroll down to Plots and tick ‘Residuals vs. predicted’ →
Normally distributed residuals: scroll down to Plots and tick Residuals →
histogram and Q-Q plot standardized residuals.
→ Je ziet dan bijvoorbeeld deze grafiek:
→ De Q-Q-plot laat punten zien die redelijk op de diagonaal liggen, wat duidt op → redelijke
normaliteit
When running a Bayesian analysis, the results are likely to be slightly different if you
repeat it a few times. In order for the results to be reproducible, go to Advanced Options >
‘Repeatability’ > ‘Set seed’. Set the seed to 1. This will make sure that the same random
process is selected as the one we used to create the output shown here. In het JASP Skills
Exam is het belangrijk dat je precies de seed gebruikt die wordt gegeven voor elke
Bayesiaanse analyse.
→ Vergeet niet ‘Compare to null model’ aan te klikken
, Als ze vragen: ‘What is the Bayes factor value
comparing our model with the null model stating that
all coefficients are zero?’
→ kijk naar model wat de variabele betreft van het
model waar het over gaat in de vraag. In dit geval
‘dummy 1 + parents + teachers’ en kijk dan naar
BF10
MLR, including hierarchical
Hierarchical regression analysis in JASP:
- eerst hetzelfde als normale regression analyse → Classical → Linear regression
- ga nu naar Model
→ Het nulmodel is het eenvoudigere model (met minder voorspellers) en het
alternatieve model is het complexere model (met meer voorspellers).
- Sleep de voorspellers uit het eenvoudigere model naar het vak ‘Model 0’
Sleep de nieuwe voorspellers die je erbij wilt naar het vak ‘Model 1’
- Vink in het tabblad ‘Statistics’ de optie ‘R squared change’ aan.
Dummy variabele maken:
Frequentist:
- groene plusje +
- geef de dummy een naam (bijv Dummy 1 / Dummy Female)
- klik column type → ‘scale’
- klik computed type → ‘drag and drop’
- zet eerst de categorische variabele neer (bijv Gender)
- dan ‘=’ categorie naam (hoe die in je dataset staat) bijv ‘Female’ (als je vrouw als 1
wilt en man als 0 bijv)
JASP maakt dan een nieuwe variabele (de dummy) waarin:
- Alle rijen waar Gender = “Female” → krijgen de waarde 1
- Alle rijen waar Gender iets anders is (“Male”) → krijgen de waarde 0
Dus de dummy zet jouw categorische variabele om in een binaire (0/1) variabele die
regressie kan gebruiken.
Bayesian:
Here you add them to the null model by ticking the boxes of the
old variables that you want in Model 0 (that you make the null
model).
MLR with dummy variables
Snel zien hoeveel dummy variabelen je nodig hebt?
- dubbelklik op variabele
- klik op je groep die je hebt gekozen als reference group
- klik op bovenste pijltje naar boven TOTDAT het BOVENAAN staat in de rij