Upload
nandaeka
View
217
Download
0
Embed Size (px)
Citation preview
8/17/2019 2-ANALISIS REGRESI
1/18
Agung Priyo Utomo (STIS Jakarta) 1
ANALISIS REGRESI
(REGRESSION ANALYSIS)
Oleh:
Agung Priyo Utomo, S.Si., MT.([email protected])Sekolah Tinggi Ilmu Statistik (STIS)
8/17/2019 2-ANALISIS REGRESI
2/18
Agung Priyo Utomo (STIS Jakarta) 2
Model Regresi Linear Sederhana
Yi = 0 + 1Xi + i (i = 1, 2, …, n)
dimana :
Yi merupakan nilai dari variabel dependent padaobservasi ke-i
0 dan 1 merupakan parameter modeli merupakan komponen error
(pengaruh variabel bebas lain selain variabel X)
Xi adalah nilai variabel bebas X pada observasi ke-i
n adalah banyaknya data observasi (sampel)
Note: 0 dan 1 disebut juga koefisien regresi, 0 merupakan intercept dan 1 merupakan slope (gradien garis) yang menyatakan perubahannilai Y untuk setiap kenaikan satu satuan X
8/17/2019 2-ANALISIS REGRESI
3/18
Agung Priyo Utomo (STIS Jakarta) 3
Beberapa Asumsi
Yi (Variabel Tak Bebas/Dependent Variable)
merupakan random variable/bersifat stochastic
Xi (Variabel bebas/Independent Variable) bersifat
fixed/non stochastic (bukan merupakan random
variable)
E(i) = 0
E(i j) = E(εi2
) = 2
untuk i = j (Homoscedastic) E(i j) = 0 untuk i j (Non autocorrelation)
8/17/2019 2-ANALISIS REGRESI
4/18
Agung Priyo Utomo (STIS Jakarta) 4
Beberapa Asumsi (Lanjutan)
i merupakan random variable yang terdistribusi
secara bebas dan indentik mengikuti distribusi normal
dengan rata-rata 0 dan varian 2 atau biasa dituliskan
sebagai
i ~ NID(0, 2)
iid
BAGAIMANA JIKA ADA ASUMSI YANG TIDAK
TERPENUHI? BAGAIMANA MENDETEKSINYA?BAGAIMANA MENGUJI? BAGAIMANA ALTERNATIFSOLUSINYA?
8/17/2019 2-ANALISIS REGRESI
5/18
Sifat penting dari Yi = 0 + 1Xi + i
Nilai Y berisi penjumlahan 2 komponen, yaitu suku konstan (0 +
1Xi) dan suku random (i)
Karena E(i)=0, maka E(Yi) = 0 + 1Xi
Nilai observasi Y akan berada di sekitar garis regresi (bisa dibawahatau diatas garis), simpangan ini yang disebut dengan error
Suku i diasumsikan memiliki varian yg konstan, yaitu 2, sehingga
Var(Yi) juga konstan (2).
Suku i diasumsikan tidak saling berkorelasi dg j, shg Yi jg tdk
saling berkorelasi Yj.
Yi berasal dari suatu distribusi peluang dengan rata-rata 0 + 1Xi
dan varian 2.
Agung Priyo Utomo (STIS Jakarta) 5
8/17/2019 2-ANALISIS REGRESI
6/18
Agung Priyo Utomo (STIS Jakarta) 6
PENDUGAAN/ESTIMASI PARAMETER
METODE ESTIMASI
PADA REGRESI LINIER
MAXIMUM LIKELIHOOD
METHOD
LEAST SQUARES
METHOD
Ordinary LeastSquares (OLS) Generalized LeastSquares (GLS)
8/17/2019 2-ANALISIS REGRESI
7/18
Agung Priyo Utomo (STIS Jakarta) 7
Least Squares Criterion
Prinsipnya: Min
Pada model regresi linear sederhana dengan asumsi
yang telah diberlakukan, maka dipakai Metode OLS
untuk mengestimasi parameter model
Estimasi Parameter
Prediksi/estimasi untuk Y jika nilai X diketahui
i
2i
xˆyˆ 10
i
2i
iii
xx
xy
1)xx(
)yy)(xx(
S
Sˆ
i10i xˆˆŶ
8/17/2019 2-ANALISIS REGRESI
8/18
Agung Priyo Utomo (STIS Jakarta) 8
CONTOH: REED AUTO SALES
Sebagai bagian dari kampanyenya, Reed Auto
menggunakan media televisi untuk iklan selama akhir
pekan yang lalu. Berikut adalah data dari 5 sampel
penjualan.
Banyaknya iklan TV Jumlah Mobil Terjual
1 14
3 242 18
1 17
3 27
8/17/2019 2-ANALISIS REGRESI
9/18
Agung Priyo Utomo (STIS Jakarta) 9
Kemiringan Persamaan Regresi Estimasi
b1 = 220 - (10)(100)/5 = 5
24 - (10)2
/5 Intercept Persamaan Regresi Estimasi
b0 = 20 - 5(2) = 10
Persamaan Regresi
y = 10 + 5xInterpretasi: Jika banyaknya iklan bertambah 1 kali,
maka dapat meningkatkan banyak penjualan mobil
sebanyak 5.
^
CONTOH: REED AUTO SALES
8/17/2019 2-ANALISIS REGRESI
10/18
Agung Priyo Utomo (STIS Jakarta) 10
Scatter Diagram
y = 5x + 10
0
5
10
15
20
25
30
0 1 2 3 4 Banyaknya Iklan TV
J u m
l a h M o b i l T e r j u a l
CONTOH: REED AUTO SALES
8/17/2019 2-ANALISIS REGRESI
11/18
Agung Priyo Utomo (STIS Jakarta) 11
Example: Relationship between Car Age(X) and its Price (Y)
0
20
40
60
80
100
120
140
160
180
0 1 2 3 4 5 6 7 8
X
Y
8/17/2019 2-ANALISIS REGRESI
12/18
Agung Priyo Utomo (STIS Jakarta) 12
Prosedur Penghitungan untuk EstimasiParameter
8/17/2019 2-ANALISIS REGRESI
13/18
Agung Priyo Utomo (STIS Jakarta) 13
2026$bydecreasespricetheageinincreaseyear singleaFor
decreases.pricetheincreasesagethe As
X26.2047.195Ŷ
:uationgressionEqRe
47.195))58)(26.20(975(10
1)XbY(
n
1b
26.20182.20
909.408
S
Sb
909.40810/)975)(58(4732n/Y))(X(XYS
182.2010/(58)-326n/)X(XS
326Xand4732XY975,Y,58X
10
XX
XY1
XY
22
XX
2
2
8/17/2019 2-ANALISIS REGRESI
14/18
Agung Priyo Utomo (STIS Jakarta) 14
Regression line and data points forCar Age and Price Data
8/17/2019 2-ANALISIS REGRESI
15/18
Agung Priyo Utomo (STIS Jakarta) 16
Sifat-sifat Estimator Least Squares
Jika semua asumsi yang diberlakukan terhadap model
regresi terpenuhi, maka menurut suatu teorema (Gauss
Markov theorem) estimator tersebut akan bersifat
BLUE (Best Linear Unbiased Estimator).
Best = Terbaik, mempunyai varian yang minimum
Linear = Linear dalam Variabel Random Y
Unbiased = Tak bias
Artinya estimator tersebut akan unbiased, linier danmempunyai varian yang minimum diantara semua
estimator unbiased & linier yang lain.
8/17/2019 2-ANALISIS REGRESI
16/18
Agung Priyo Utomo (STIS Jakarta) 17
Age(yrs)
Price($100s)
Estimated Mean
Response Residual Squared
Residual
Xi Yi iŶ iii ŶYe
2ii
2i
)ŶY(e
5 85 94 -9 84
4 103 114 -11 1316 70 74 -4 15
5 82 94 -12 148
5 89 94 -5 27
5 98 94 4 15
6 66 74 -8 63
6 95 74 21 4452 169 155 14 197
7 70 54 16 267
7 48 54 -6 32
58 975 975 0 1424
Residual
8/17/2019 2-ANALISIS REGRESI
17/18
Fit the regression line (paskan garis
regresinya)
Agung Priyo Utomo (STIS Jakarta) 18
8/17/2019 2-ANALISIS REGRESI
18/18
Fit the regression line (paskan garis
regresinya)
Agung Priyo Utomo (STIS Jakarta) 19
x 35 35 40 40 45 45 50 50 55 55 60 60
y 22 20 28 31 37 38 41 39 34 37 27 30