MULTIKOLINEARITAS DALAM
REGRESI
Agus Tri Basuki, M.Sc
PENGERTIAN
• Multikolinearitas adalah sebuah situasi yang
menunjukkan adanya korelasi atau hubungan
kuat antara dua variabel bebas atau lebih dalam
sebuah model regresi berganda.
• jika asumsi model regresi linear klasik dipenuhi,
penaksir OLS dari koefisien regresi adalah linear,
tak bias dan mempunyai varians minimum
(BLUE). Dalam kasus multikolinear sempurna
penaksir OLS menjadi tak tentu dan varians atau
kesalahan standarnya menjadi tak tentu pula.
PERAMALAN DAN
MULTIKOLINEARITAS
• Jika satu-satunya tujuan analisis regresi adalah peramalan,
maka multikolinearitas bukan merupakan masalah serius,
karena semakin tinggi R2 semakin baik peramalan. Tetapi ini
hanya benar jika kolinearitas yang ada di antara variabel
bebas (X) dalam sampel tertentu juga tetap akan ada
dimasa yang akan datang.
• Jika hubungan linear yang diperkirakan di antara variabel
bebas (X) dalam suatu sampel tidak berlanjut ke (sampel)
yang akan datang, peramalan akan menjadi semakin tidak
pasti. Lebih jauh lagi, jika tujuan analisis tidak hanya
peramalan tetapi juga taksiran yang bisa dipercaya dari
parameter, multikolinearitas yang serius akan menjadi
masalah karena menyebabkan besarnya kesalahan standar
(standar error) dari penaksiran.
GEJALA MULTIKOLINEARITAS
• Dalam situasi terjadi multikolinearitas dalam sebuah model
regresi berganda, maka nilai koefisien beta dari sebuah
variabel bebas atau variabel predictor dapat berubah
secara dramatis apabila ada penambahan atau
pengurangan variabel bebas di dalam model.
• Oleh karena itu, multikolinearitas tidak mengurangi
kekuatan prediksi secara simultan, namun mempengaruhi
nilai prediksi dari sebuah variabel bebas.
• Nilai prediksi sebuah variabel bebas disini adalah koefisien
beta. Oleh karena itu, sering kali kita bisa mendeteksi
adanya multikolinearitas dengan adanya nilai standar error
yang besar dari sebuah variabel bebas dalam model regresi.
DAMPAK MULTIKOLINEARITAS
• Koefisien Partial Regresi tidak terukur secara presisi.
Oleh karena itu nilai standar errornya besar.
• Perubahan kecil pada data dari sampel ke sampel akan
menyebabkan perubahan drastis pada nilai koefisien
regresi partial.
• Perubahan pada satu variabel dapat menyebabkan
perubahan besar pada nilai koefisien regresi parsial
variabel lainnya.
• Nilai Confidence Interval sangat lebar, sehingga akan
menjadi sangat sulit untuk menolak hipotesis nol pada
sebuah penelitian jika dalam penelitian tersebut
terdapat multikolinearitas.
CARA MENDETEKSI MULTIKOLINEARITAS
• Melihat kekuatan korelasi antar variabel bebas.
Jika ada korelasi antar variabel bebas > 0,8 dapat
diindikasikan adanya multikolinearitas.
• Melihat rentang confidence interval. Jika rentang
confidence interval sangat lebar, maka dapat
diindikasikan adanya multikolinearitas.
• Melihat nilai Tolerance dan Variance Inflating
Factor (VIF). Jika nilai Tolerance < 0,1 dan VIF > 10
dapat diindikasikan adanya multikolinearitas.
PERBAIKAN MULTIKOLINEARITAS
• Menghubungkan data cross-sectional dan data
urutan-waktu.
• Mengeluarkan suatu variabel atau variabel-variabel
dan bias spesifikasi. Ketika dihadapkan dengan
multikolinearitas yang parah, satu cara yang “paling
sederhana” untuk dilakukan adalah mengeluarkan satu
dari variabel yang berkolinear. Tetapi dalam
mengeluarkan suatu variabel dari model, kita mungkin
melakukan bias spesifikasi atau kesalahan spesifikasi.
Bias spesifikasi timbul dari spesifikasi yang tidak benar
dari model yang digunakan dalam analisis.
• Transformasi variabel. Misal : “Kita mempunyai
data deret waktu mengenai belanja konsumsi,
pendapatan dan kekayaan. Untuk menanggulangi
yaitu dengan menggunakan model regresi
perbedaan pertama (t-1) sering mengurangi
kepelikan multikolinear karena meskipun tingkat
Xt mungkin sangat berkorelasi.
• Penambahan data baru. Karena multikolinearitas
merupakan ciri sampel, maka mungkin bahwa
dalam sampel lain yang meliputi kolinear variabel
yang sama tidak begitu serius seperti sampel
pertama.
CONTOH KASUS
Model Ekonometri
Saving = f ( Income, Wealth, Interest rate)
S = f (Y, W, i)
S = b0 + b1 Y + b2 W + b3 I + e
Tahun Saving Income Wealth Interest
1999 105 5 500 10
2000 106 7 700 11
2001 108 8 900 11
2002 110 10 1000 9
2003 113 11 1050 10
2004 115 12 1200 11
2005 116 14 1400 12
2006 120 15 1500 12
2007 121 17 1600 11
2008 123 18 1800 13
2009 125 20 2000 12
2010 129 21 2100 12
2011 130 24 2400 13
2012 135 25 2500 13
2013 136 25 2500 12
2014 139 26 2600 10
2015 140 27 2800 9
2016 142 29 2900 9
2017 145 30 3000 8
2018 148 31 3200 8
2019 150 33 3300 8
Hasil Regresi (dependent Var : Saving)
Regression Statistics Hasil Regresi R 2 dan F
besar, tetapi sedikit t statistik
Multiple R 0.996756 yang signifikan gejala
multikolinearitas
R Square 0.993522
Adjusted R Square 0.992379
Standard Error 1.25376
Observations 21
ANOVA df SS MS F Significance F
3 4098.52
Regression 17 26.72 1366.17 869.1142 0.0000
Residual 20
Total 4125.2381 1.57
Coefficients Standard Error t Stat P-value
45.3035 0.0000
Intercept 100.9510 2.2283 1.2924 0.2135
Income 1.2228 0.2381
Wealth 0.8360 0.6468 -3.1418 0.0059
Interest
0.0079 0.0064
-0.5649 0.1798
Deteksi lain dengan regres antar variabel bebas
Regression Statistics
Multiple R 0.998724 Regres Y = bo + b1 W + b2 I
Hasil regresi ada pengaruh antara
R Square 0.99745 Wealth dengan Income Muncul
Multikolinearitas dalam model
Adjusted R Square 0.997166
Standard Error 0.456874
Observations 21
ANOVA df SS MS F Significance F
2 1469.3856
Regression 18 734.6928 3519.7521 0.0000
Residual 20 3.7572
Total 1473.1429 0.2087
Intercept Coefficients Standard Error t Stat P-value
Wealth -0.49699 0.8035 -0.6185 0.5440
Interest 0.009912 0.0001 79.6204 0.0000
0.055906 0.0642 0.8711 0.3952
Deteksi lain dengan regres antar variabel bebas
Regression Statistics
Multiple R 0.998733 Regres W = bo + b1 Y + b2 I
Hasil regresi ada pengaruh antara
R Square 0.997468 Income dengan Wealth Muncul
Multikolinearitas dalam model
Adjusted R Square 0.997187
Standard Error 46.02579
Observations 21
ANOVA df SS MS F Significance F
2 15021869.27 7510935
Regression 18 38130.72503 2118.374 3545.614 0.0000
Residual
Total 20 15060000
Coefficient
s Standard Error t Stat P-value
0.7521 0.4617
Intercept 60.58051 80.5465 -0.9467 0.3563
Interest
-6.09873 6.4420 79.6204 0.0000
Income
100.5979 1.2635
UJI KORELASI ANTAR VARIABEL
Saving Income Wealth Interest
Saving 1
Income
Wealth 0.994136 1
Interest
0.99478 0.99867 1
0.6256 0.649673 0.653672 1
Melihat kekuatan korelasi antar variabel bebas.
Jika ada korelasi antar variabel bebas > 0,8 dapat
diindikasikan adanya multikolinearitas.
KESIMPULAN
Model Regresi dengan persamaan matematis
seperti dibawah ini ada indikasi terjadi
multikolinearitas dalam model
Saving = f ( Income, Wealth, Interest rate)
S = f (Y, W, i)
S = b0 + b1 Y + b2 W + b3 I + e
Salah satu cara perbaikan dengan mengeluaran
salah satu variabel yang korelasi antar variabel
bebas sangat tinggi, yaitu income atau wealth
HASIL SETELAH PERBAIKAN
Regression Statistics
Multiple R 0.99647 Regres S = bo + b1 Y + b2 I
Hasil regresi ada pengaruh Income
R Square 0.992952 dan interest rate terhadap Saving
Muncul Multikolinearitas dalam model
Adjusted R Square 0.992169
Standard Error 1.270886
Observations 21
ANOVA df SS MS F Significance F
2 4096.165364 2048.083
Regression 18 29.07273141 1.615152 1268.044 0.0000
Residual 20 4125.238095
Total
Intercept Coefficient Standard Error t Stat P-value
Interest s 2.224088985 45.60367 0.000
Income 0.177880592 -3.44488 0.003
101.4266 0.034887509 46.59957 0.000
-0.61278
1.625743
Regression Statistics
Multiple R 0.996436 Regres S = bo + b1 W + b2 I
Hasil regresi ada pengaruh IWealthdan
R Square 0.992886 interest rate terhadap Saving Muncul
Multikolinearitas dalam model
Adjusted R Square 0.992095
Standard Error 1.276893
Observations 21
ANOVA Significance
Regression df SS MS F F
Residual 2
Total 18 4095.889888 2047.945 1256.057 4.66867E-20
20
29.34820684 1.630456
4125.238095
Intercept Coefficien
Interest ts Standard Error t Stat P-value
Wealth
100.5355 2.245703374 44.76795 6.53E-20
-0.51816 0.179375062 -2.8887 0.009781
0.016137 0.000347947 46.37853 3.48E-20
UJI MULTIKOLINEARITAS DENGAN EVIEWS
TAMPILAN DATA DALAM EVIEWS
HASIL REGRESI DENGAN EVIEWS
Hasil regresi menjukan R2 dan F Besar
tetapi sebagian besat t hitung tidak
signifikat (untuk t hitung Wealth dan
Income) ada indikasi muncul
multikolinearitas dalam model
DETEKSI MULTIKOLINEARITAS
Melihat kekuatan korelasi antar variabel bebas.
Jika ada korelasi antar variabel bebas > 0,8 dapat
diindikasikan adanya multikolinearitas.
DETEKSI MULTIKOLINEARITAS
Melihat nilai Tolerance dan Variance
Inflating Factor (VIF). Jika nilai Tolerance <
0,1 dan VIF > 10 dapat diindikasikan adanya
multikolinearitas.
PERBAIKAN MULTIKOLINEARITAS
Hasil Regresi menunjukan Interest dan
Income mempengaruhi Saving. Lihat
seluruh nila prob. Dibawah 0,05
PERBAIKAN MULTIKOLINEARITAS
Hasil Regresi menunjukan Interest dan
Wealth mempengaruhi Saving. Lihat
seluruh nila prob. Dibawah 0,05
TERIMA KASIH