2-ANALISIS REGRESI

Embed Size (px)

Citation preview

  • 8/17/2019 2-ANALISIS REGRESI

    1/18

     Agung Priyo Utomo (STIS Jakarta) 1

    ANALISIS REGRESI

    (REGRESSION ANALYSIS)

    Oleh:

    Agung Priyo Utomo, S.Si., MT.([email protected])Sekolah Tinggi Ilmu Statistik (STIS)

  • 8/17/2019 2-ANALISIS REGRESI

    2/18

     Agung Priyo Utomo (STIS Jakarta) 2

    Model Regresi Linear Sederhana 

    Yi = 0 + 1Xi + i  (i = 1, 2, …, n) 

    dimana :

    Yi  merupakan nilai dari variabel dependent padaobservasi ke-i

    0  dan 1 merupakan parameter modeli  merupakan komponen error

    (pengaruh variabel bebas lain selain variabel X)

    Xi  adalah nilai variabel bebas X pada observasi ke-i

    n adalah banyaknya data observasi (sampel)

    Note: 0 dan 1 disebut juga koefisien regresi, 0 merupakan intercept dan 1 merupakan slope (gradien garis) yang menyatakan perubahannilai Y untuk setiap kenaikan satu satuan X

  • 8/17/2019 2-ANALISIS REGRESI

    3/18

     Agung Priyo Utomo (STIS Jakarta) 3

    Beberapa Asumsi 

    Yi (Variabel Tak Bebas/Dependent Variable)

    merupakan random variable/bersifat stochastic 

    Xi (Variabel bebas/Independent Variable) bersifat

     fixed/non stochastic (bukan merupakan random

    variable)

    E(i) = 0

    E(i j) = E(εi2

    ) = 2

     untuk i = j (Homoscedastic) E(i j) = 0 untuk i  j (Non autocorrelation)

     

  • 8/17/2019 2-ANALISIS REGRESI

    4/18

     Agung Priyo Utomo (STIS Jakarta) 4

    Beberapa Asumsi (Lanjutan) 

      i merupakan random variable yang terdistribusi

    secara bebas dan indentik mengikuti distribusi normal

    dengan rata-rata 0 dan varian 2 atau biasa dituliskan

    sebagai

    i ~ NID(0, 2)

    iid

    BAGAIMANA JIKA ADA ASUMSI YANG TIDAK

    TERPENUHI? BAGAIMANA MENDETEKSINYA?BAGAIMANA MENGUJI? BAGAIMANA ALTERNATIFSOLUSINYA? 

  • 8/17/2019 2-ANALISIS REGRESI

    5/18

    Sifat penting dari Yi = 0 + 1Xi + i 

    Nilai Y berisi penjumlahan 2 komponen, yaitu suku konstan (0 +

    1Xi) dan suku random (i)

    Karena E(i)=0, maka E(Yi) = 0 + 1Xi

    Nilai observasi Y akan berada di sekitar garis regresi (bisa dibawahatau diatas garis), simpangan ini yang disebut dengan error

    Suku i diasumsikan memiliki varian yg konstan, yaitu 2, sehingga

    Var(Yi) juga konstan (2).

    Suku i diasumsikan tidak saling berkorelasi dg j, shg Yi jg tdk

    saling berkorelasi Yj.

    Yi berasal dari suatu distribusi peluang dengan rata-rata 0 + 1Xi 

    dan varian 2. 

     Agung Priyo Utomo (STIS Jakarta) 5

  • 8/17/2019 2-ANALISIS REGRESI

    6/18

     Agung Priyo Utomo (STIS Jakarta) 6

    PENDUGAAN/ESTIMASI PARAMETER  

    METODE ESTIMASI

    PADA REGRESI LINIER

    MAXIMUM LIKELIHOOD

    METHOD

    LEAST SQUARES

    METHOD

    Ordinary LeastSquares (OLS) Generalized LeastSquares (GLS)

  • 8/17/2019 2-ANALISIS REGRESI

    7/18

     Agung Priyo Utomo (STIS Jakarta) 7

    Least Squares Criterion

    Prinsipnya: Min

    Pada model regresi linear sederhana dengan asumsi

    yang telah diberlakukan, maka dipakai Metode OLS

    untuk mengestimasi parameter model

    Estimasi Parameter

    Prediksi/estimasi untuk Y jika nilai X diketahui

    i

    2i

    xˆyˆ 10  

    i

    2i

    iii

    xx

    xy

    1)xx(

    )yy)(xx(

    S

    i10i  xˆˆŶ  

  • 8/17/2019 2-ANALISIS REGRESI

    8/18

     Agung Priyo Utomo (STIS Jakarta) 8

    CONTOH: REED AUTO SALES

    Sebagai bagian dari kampanyenya, Reed Auto

    menggunakan media televisi untuk iklan selama akhir

    pekan yang lalu. Berikut adalah data dari 5 sampel

    penjualan.

    Banyaknya iklan TV Jumlah Mobil Terjual

    1 14

    3 242 18

    1 17

    3 27

  • 8/17/2019 2-ANALISIS REGRESI

    9/18

     Agung Priyo Utomo (STIS Jakarta) 9

    Kemiringan Persamaan Regresi Estimasi

    b1  = 220 - (10)(100)/5 = 5

    24 - (10)2

    /5 Intercept Persamaan Regresi Estimasi

    b0  = 20 - 5(2) = 10

    Persamaan Regresi

    y = 10 + 5xInterpretasi: Jika banyaknya iklan bertambah 1 kali,

    maka dapat meningkatkan banyak penjualan mobil

    sebanyak 5.

    ^

    CONTOH: REED AUTO SALES

  • 8/17/2019 2-ANALISIS REGRESI

    10/18

     Agung Priyo Utomo (STIS Jakarta) 10

    Scatter Diagram

    y = 5x + 10 

    10 

    15 

    20 

    25 

    30 

    0  1  2  3  4 Banyaknya Iklan TV

       J  u  m

       l  a   h   M  o   b   i   l   T  e  r   j  u  a   l

    CONTOH: REED AUTO SALES

  • 8/17/2019 2-ANALISIS REGRESI

    11/18

     Agung Priyo Utomo (STIS Jakarta) 11

    Example: Relationship between Car Age(X) and its Price (Y)

    0

    20

    40

    60

    80

    100

    120

    140

    160

    180

    0 1 2 3 4 5 6 7 8

    X

          Y

  • 8/17/2019 2-ANALISIS REGRESI

    12/18

     Agung Priyo Utomo (STIS Jakarta) 12

    Prosedur Penghitungan untuk EstimasiParameter

  • 8/17/2019 2-ANALISIS REGRESI

    13/18

     Agung Priyo Utomo (STIS Jakarta) 13

    2026$bydecreasespricetheageinincreaseyear singleaFor 

    decreases.pricetheincreasesagethe As

    X26.2047.195Ŷ

    :uationgressionEqRe

    47.195))58)(26.20(975(10

    1)XbY(

    n

    1b

    26.20182.20

    909.408

    S

    Sb

    909.40810/)975)(58(4732n/Y))(X(XYS

    182.2010/(58)-326n/)X(XS

    326Xand4732XY975,Y,58X

    10

    XX

    XY1

    XY

    22

    XX

    2

    2

  • 8/17/2019 2-ANALISIS REGRESI

    14/18

     Agung Priyo Utomo (STIS Jakarta) 14

    Regression line and data points forCar Age and Price Data

  • 8/17/2019 2-ANALISIS REGRESI

    15/18

     Agung Priyo Utomo (STIS Jakarta) 16

    Sifat-sifat Estimator Least Squares

    Jika semua asumsi yang diberlakukan terhadap model

    regresi terpenuhi, maka menurut suatu teorema (Gauss

    Markov theorem) estimator tersebut akan bersifat

    BLUE (Best Linear Unbiased Estimator).

    Best = Terbaik, mempunyai varian yang minimum

    Linear = Linear dalam Variabel Random Y

    Unbiased = Tak bias

    Artinya estimator tersebut akan unbiased, linier danmempunyai varian yang minimum diantara semua

    estimator unbiased & linier yang lain.

  • 8/17/2019 2-ANALISIS REGRESI

    16/18

     Agung Priyo Utomo (STIS Jakarta) 17

     Age(yrs)

     Price($100s)

     Estimated Mean

     Response Residual Squared

     Residual

    Xi  Yi  iŶ  iii ŶYe  

     

    2ii

    2i

    )ŶY(e  

     

    5 85 94 -9 84

    4 103 114 -11 1316 70 74 -4 15

    5 82 94 -12 148

    5 89 94 -5 27

    5 98 94 4 15

    6 66 74 -8 63

    6 95 74 21 4452 169 155 14 197

    7 70 54 16 267

    7 48 54 -6 32

    58 975 975 0 1424

    Residual

  • 8/17/2019 2-ANALISIS REGRESI

    17/18

    Fit the regression line (paskan garis

    regresinya)

     Agung Priyo Utomo (STIS Jakarta) 18

  • 8/17/2019 2-ANALISIS REGRESI

    18/18

    Fit the regression line (paskan garis

    regresinya)

     Agung Priyo Utomo (STIS Jakarta) 19

    x  35  35  40  40  45  45  50  50  55  55  60  60 

    y  22  20  28  31  37  38  41  39  34  37  27  30