Regresi Linier Sederhana

1.     Pendahuluan

1.1.         Hubungan Kausalitas

Berangkat dari adanya hubungan kausalitas  atau sebab-akibat (cause-effect) antara variabel, contoh : Semakin Banyak uang beredar → Semakin Tinggi Inflasi → Semakin Tinggi Suku Bunga. Pertanyaanya berapa besarnya peningkatan ini? Apakah peningkatan uang beredar 1 trilyun rupiah mengakibatkan kenaikan 1% inflasi atau kenaikan 1% suku bunga?.

1.2.         Model Linier

Makanya, untuk mengukur hubungan kausalitas itu analisis kuantitatif jadi penting. Salah satu tekniknya pake model regresi linier. Model regresi linier adalah model yang parameternya linier, namun bisa saja modelnya tidak berbentuk garis lurus hubunganya.

Ada dua jenis model linier:

·         Regresi Linier Sederhana (Simple Regression)

·         Regresi Linier Majemuk (Multiple Regressions).

1.3.         Persamaan Linier

Hubungan antara variabel tadi, dapat dibentuk melalui persamaan linier. Nah bentuk umumnya adalah variabel terikat Y (dipengaruhi/effect) oleh satu atau lebih variabel bebas X_1, X_2, X_3…. X_n (yang mempengaruhi/cause).

Dalam Simple Regression, variabel bebasnya Cuma ada satu, sedangkan pada multiple regression, variabel bebasnya lebih dari satu.

Secara umum model simple regression dapat dituliskan:

Y_i = β₀ + β₁ X_i + ϵ_i ; i = 1,2,3….N  

Keterangan: ϵ = eror, N= Jumlah Observasi

2.   Memperkirakan Parameter dalam Simple Regression

Mari ambil ruang lingkup perusahaan, kita mau lihat hubungan antara tingkat produksi dan laba, apakah ada pengaruh tingkat produksi terhadap laba perusahaan?.

Untuk melihat hubungannya, maka perlu digambarkan grafik hubungannya.

  

Kira-kira garis lurus A atau B ata C yang gambariin/representasi dari kumpulan data itu?, lantas bagaimana menentukan garis yang paling tepat?. Seharusnya sih garis itu harus mencakup semua titik nilai observasi. Tapi hal ini hampir tidak mungkin dilakukan.

Paling tidak kita dapat menduga nilai dari  β₀ (intercept) dan  β₁ (slope/Kemiringan) untuk dapetin deviasi yang paling minimum, dengan kata lain mendapatkan garis dengan nilai error (ϵ)  seminimum mungkin.

2.1.         Ordinary Least Square (OLS)

Nah, metode yang dipakai dalam mengestimasi garis lurus tersebut dengan penyimpangan error yang paling minimum adalah metode kuadrat terkecil atau OLS. Persamaan eror dapat diminimalisasi dengan :

ϵ_i = Y_i – β₀ – β₁ X_i

Eror disini dapat bernilai positif, negatif, atau nol. Dengan OLS, nilai nilai tersebut dikuadratkan dan dijumlahkan (Σ ), maka

ϵ_i² = (Y_i – β₀ – β₁ X_i )²

Σϵ_i² = Σ(Y_i – β₀ – β₁ X_i )²

Intinya adalah menduga nilai β₀ dan β₁ sehingga Σϵ_i² minimum. Maka yang dicari adalah nilai penduga β₀ dan β₁ yang dekat sekali dengan model regresi yang optimal. Maka dari itu, nilai penduga β₀ dan β₁ dipilih yang dapat memenuhi

minimisasi (β₀, β₁) Σϵ_i²= Σ(Y_i – β₀ – β₁X_i)²   

Σϵ_i² akan minimum jika:

∂ Σϵ_i²/∂β₀ = 0 → 2 Σ(Y_i – β₀ – β₁X_i)(-1)

∂ Σϵ_i²/∂β₁ = 0 → 2 Σ(Y_i – β₀ – β₁X_i)(-1)(X_i)

Lalu setelah persamaan diatas disederhanakan, maka penduga/estimasi dari β₀ dan β₁ adalah sebagai berikut:   

b₁ = β̂₁ =    Σ(X_i  -  ̅X) (Y_i - ̅Y)

                        Σ(X_i - ̅X)²

b₀ =β̂₁ =̅Y-β̂₁ ̅X

Dimana

̅X = (1/N) ΣX_i

̅Y = (1/N) ΣY_i

Ketika X_i  dan  Y_i  sudah terdapat datanya, maka b₀ dan b₁ dapat dicari nilainya dengan OLS Estimator.

(Sumber Ringkasan: Nachrowi, N. D. Usman, H. 2006. Pendekatan Populer dan Praktis Ekonometrika untuk Analisis Ekonomi dan Keuangan. Lembaga Penerbit Fakultas Ekonomi Universitas Indonesia)