10E00372.pdf

Sridewi Nainggolan : Perbandingan Metode Marquardt Compromise Dan Metode Gauss Newton Dalam Penaksiran Parameter Regresi Nonlinier, 2010.

PERBANDINGAN METODE MARQUARDT COMPROMISE

DAN METODE GAUSS NEWTON DALAM PENAKSIRAN PARAMETER REGRESI NONLINIER

SKRIPSI

SRIDEWI NAINGGOLAN 070823007

FAKULTAS MATEMATIKA

ILMU PENGETAHUAN ALAM DEPARTEMEN MATEMATIKA UNIVERSITAS SUMATERA UTARA

MEDAN 2009


2

PERBANDINGAN METODE MARQUARDT COMPROMISE DAN METODE GAUSS NEWTON DALAM PENAKSIRAN PARAMETER

REGRESI NONLINIER

SKRIPSI Diajukan untuk melengkapi tugas dan memenuhi syarat mencapai Sarjana Sains

SRIDEWI NAINGGOLAN 070823007

FAKULTAS MATEMATIKA ILMU PENGETAHUAN ALAM DEPARTEMEN MATEMATIKA

UNIVERSITAS SUMATERA UTARA MEDAN

2009


3

PERSETUJUAN

Judul : PERBANDINGAN METODE MARQUARDT COMPROMISE DAN METODE GAUSS NEWTON DALAM PENAKSIRAN PARAMETER REGRESI NONLINIER Kategori : SKRIPSI Nama : SRIDEWI NAINGGOLAN Nomor Induk Mahasiswa : 070823007 Program Studi : SARJANA (S1) MATEMATIKA Departemen : MATEMATIKA Fakultas : MATEMATIKA DAN ILMU PENGETAHUAN ALAM (FMIPA) UNIVERSITAS SUMATERA UTARA

Diluluskan di Medan, 15 Juli 2009

Komisi Pembimbing : Pembimbing 2 Pembimbing 1 Drs. H. Haluddin Panjaitan Dra. Rahmawati Pane, M.Si. NIP 130701888 NIP 131474682 Diketahui/Disetujui oleh Departemen Matematika FMIPA USU Ketua, Dr. Saib Suwilo, M.Sc. NIP 131796149

ii


4

PERNYATAAN

PERBANDINGAN METODE MARQUARDT COMPROMIE DAN METODE GAUSS NEWTON DALAM PENAKSIRAN PARAMETER REGRESI

NONLINIER

SKRIPSI

Saya mengakui bahwa skripsi ini adalah hasil kerja saya sendiri, kecuali beberapa kutipan dan ringkasan yang masing-masing disebutkan sumbernya. Medan, Juli 2009 SRIDEWI NAINGGOLAN 070823007

iii


5

PENGHARGAAN

Puji dan syukur penulis panjatkan kepada Tuhan yang Maha Kuasa yang telah memberikan anugerahnya sehingga skripsi ini dapat diselesaikan dengan sebaik-baiknya.

Ucapan terimakasih saya sampaikan kepada Ibu Dra. Rahmawati Pane, M.Si dan Bapak Drs.H.Haluddin Panjaitan selaku pembimbing pada penyelesaian skripsi ini dan juga kepada Drs. Pengarapen Bangun M.Si dan Drs. Ramli Barus M.Si selaku penguji skripsi yang telah mengarahkan saya serta telah meluangkan waktu, tenaga, pikiran, dan bantuannya sehingga skripsi saya ini dapat selesai tepat waktu.

Ucapan terima kasih juga kepada ketua dan sekretaris departemen Dr. Saib Suwilo, M.Sc dan Drs. Henri Rani Sitepu, M.Si., dan kepada ketua Program Studi Ekstensi Matematika Bapak Drs. Marwan harahap, M.Eng, Dekan dan Pembantu dekan Fakultas Matematika dan Ilmu Pengetahuan Alam Universitas Sumatera Utara, semua dosen pada Departemen Matematika FMIPA USU, pegawai di FMIPA USU, dan rekan-rekan kuliah. Akhirnya, tidak terlupakan kepada Orang Tua saya dan semua keluarga yang selama ini memberikan bantuan dan dorongan yang diperlukan. Semoga segala bentuk bantuan yang telah diberikan mendapat balasan yang jauh lebih baik dari Tuhan Yang Maha Kuasa.

iv


6

ABSTRAK

Regresi Nonlinier adalah regresi yang memuat parameter nonlinier, artinya

jika parameter tersebut diturunkan terhadap parameter itu sendiri maka hasil

turunannya masih mengandung parameter itu sendiri (masih tetap nonlinier).

Estimasi regresi dilakukan untuk menentukan estimator parameter regresi. Metode

yang digunakan mengestimasi parameter model regresi nonlinier adalah nonlinear

least square dimana secara konseptual sama dengan metode least square pada

model regresi linear. Skripsi ini bertujuan untuk membandingkan penaksiran

parameter regresi nonlinear dengan menggunakan metode Marquardt

Compromise dan metode Gauss Newton. Dari analisa yang dilakukan didapat

bahwa metode Marquardt dan metode Gauss Newton dapat menaksir parameter

dalam kasus nonlinier dan menghasilkan galat ke nilai yang paling minimum.

v


7

ABSTRACT

Nonlinear Regression is regression that contain nonlinear parameter, it means

that if the parameter is derivated to parameter it self, hence the result of it is

derivative still contain that parameter (Intrisically nonlinear). Regression

estimation is done to detemine estimator of regression parameter. One of the

method that used to estimate nonlinear regression model parameter is nonlinear

least square where conceptually it’s equal to least square method at linear

regression model. The skripsi purpose to compare estimate with the Marquardt

Compromise and Gauss Newton method. Both of the method can use to implies

estimator nonlinear least square and minimizes sum square error.

vi


8

DAFTAR ISI

Halaman

Persetujuan iii

Pernyataan iv

Penghargaan v

Abstrak vi

Abstract vii

Daftar Isi viii

Bab 1 Pendahuan 1

1.1 Latar belakang

1.2 Perumusan Masalah 3

1.3 Pembatasan Masalah 3

1.4 Tujuan Penelitian 3

1.5 Kontribusi Penelitian 3

1.6 Metodologi Penelitian 4

1.7 Tinjauan Pustaka 4

Bab 2 landasan Teori 6

2.1 Penaksiran Parameter 6

2.2 Turunan Parsial 8

2.3 Deret Taylor 8

2.4 Regresi Nonlinier 9

2.5 Kuadrat Terkecil dalam Kasus Nonlinier 10

2.6 Metode Marquardt Compromise 13

2.7 Metode gauss Newton 13

vii


9

Bab 3 Pembahasan 14

3.1 Pendugaan Parameter suatu Sistem Nonlinear 14

3.2 Jumlah Kuadrat Galat 16

3.3 Algoritma Marquardt Compromise 17

3.4 Algoritma Gauss Newton 17

3.5 Penyelesaian contoh 18

Bab 4 Kesimpulan dan Saran 30

Daftar Pustaka 31

xiii


BAB 1

PENDAHULUAN

1.1 Latar Belakang

Pada umumnya dalam suatu penelitian tidak diketahui secara tepat nilai-nilai

parameter dari distribusi teoritis dimana sampel diambil. Hal ini terjadi karena

tidak terambilnya seluruh unsur populasi yang akan diteliti. Intinya ditemukan

kesulitan untuk menentukan sampel yang representatif yang dapat mewakili

populasi dengan metode dan cara yang efektif. Adapun sampel yang digunakan

untuk menduga parameter disebut penaksir parameter dan angka yang merupakan

hasilnya disebut penaksiran secara statistik.

Misalkan sebuah variabel acak X berdistribusi normal dengan parameter

θ . Parameter θ dapat berupa mean populasi, simpangan baku populasi, koefisien

regresi populasi dan sebagainya. Parameter θ adalah parameter yang akan

ditaksir. Penaksiran dapat digolongkan menjadi dua bagian, yaitu penaksiran titik

dan penaksiran selang. Sedangkan cara untuk melakukan penaksiran ada

bermacam-macam diantaranya, momen, simpangan kuadrat terkecil, kemungkinan

maksimum ataupun sifat penaksiran takbias linear terbaik. Salah satu dari

beberapa metode yang digunakan untuk menaksir parameter adalah metode

kuadrat terkecil nonlinier yang secara konseptual sama dengan metode kuadrat

terkecil linier. Dalam penelitian ini metode yang digunakan untuk menaksir

parameter adalah dengan metode kuadrat terkecil pada model regresi nonlinier.

Regresi nonlinier digunakan apabila dalam kasus tidak tersedianya informasi yang

pasti tentang bentuk hubungan antara peubah responden peubah bebas. Ada

beberapa model regresi nonlinier diantaranya:1) Model Parabola, 2) Model


2

Eksponensial, 3) Model Logistik. Dalam Skripsi ini Penulis membicarakan

Regresi Nonlinier pada model Eksponensial.

Penaksiran parameter model nonlinier akan menghasilkan nilai yang

berbeda untuk penaksir yang sama karena galat acaknya mempunyai fungsi

pembangkit. Oleh karena itu, berbeda dengan kuadrat terkecil pada model linier,

penaksir atau estimator metode kuadrat terkecil yang diterapkan pada model

nonlinier ditentukan dengan melakukan suatu prosedur atau algoritma yang dapat

menjamin bahwa penaksir tersebut secara nyata memenuhi kriteria dari fungsi

tujuan, yaitu memberikan jumlah kuadrat galat pada nilai yang paling minimum.

Dengan perkatan lain, dalam penentuan penaksir pada model nonlinier

diperlukan pengetahuan mengenai teori titik optimum secara statis. Berdasarkan

teori, untuk menentukan titik optimum yang diyakini sebagai solusi dalam

penentuan penaksir model nonlinier akan digunakan operasi turunan pertama dan

kedua. Turunan yang pertama digunakan dalam prosedur itersasi diterapkan

didalam algoritma Gauss Newton dan model iterasi jalan tengah marquardt.

Algoritma Gauss Newton digunakan untuk menyelesaikan penaksiran kuadrat

terkecil. Metode ini sering disebut metode linearisasi yang menggunakan expansi

deret Taylor untuk menghampiri model regresi nonlinier menjadi bentuk linier.

Sedangkan metode marquardt juga merupakan suatu metode penyelesaian

penaksiran kuadrat terkecil yang merupakan kompromi atau jalan tengah antara

metode linierisasi dengan metode Stepest descent (turunan tercuram).

Dari uraian diatas penulis tertarik memilih judul penelitian:

”Perbandingan metode Marquardt Compromise dan metode Gauss Newton dalam

penaksiran parameter regresi Nonlinier”.

1.2 Perumusan Masalah


3

Masalah yang akan dibahas dalam penelitian ini adalah bagaimana cara menaksir

parameter dalam regresi nonlinier menggunakan metode Marquardt dan metode

Gauss Newton serta membandingkan kedua metode tersebut.

1.3 Batasan Masalah

Ruang lingkup dari penelitian ini dibatasi pada penaksiran parameter model

regresi nonlinier pada model Eksponensial dengan menggunakan metode iterasi

jalan tengah Marquardt dan metode gauss Newton dan hanya mendapatkan

penaksiran parameter saja.

1.4 Tujuan Penelitian

Tujuan penelitian ini adalah untuk membandingkan penaksir parameter pada

model regresi nonlinier melalui iterasi Marquardt dan iterasi Gauss Newton

sehingga dapat diketahui metode mana yang lebih efisien menyelesaikan

penaksiran parameter regresi nonlinier.

1.5 Kontribusi Penelitian

Kontribusi penelitian ini adalah menambah pengetahuan dalam regresi nonlinier

dan bagaimana menaksir parameternya.

1.6 Metode Penelitian

Dalam penelitian ini penulis melakukan studi literatur dengan mengumpulkan

bahan yang membahas mengenai regresi nonlinier dan metode kuadrat terkecil

pada kasus nonlinier. Adapun langkah-langkah penelitian ini adalah sebagai

berikut:

1. Membahas regresi nonlinier dengan metode kuadrat terkecil


4

2. Menaksir parameter pada model eksponensial dalam regresi nonlinier

dengan metode kuadrat terkecil

3. Melakukan iterasi dengan iterasi jalan tengah Marquardt dan iterasi Gauss

Newton.

4. Kedua iterasi dilakukan sampai hasilnya konvergen

5. Menyelesaikan contoh kasus dengan menggunakan metode Marquardt dan

metode Gauss Newton.

6. Membandingkan penaksiran yang dilakukan melalui iterasi jalan tengah

Marquardt dan iterasi Gauss Newton.

1.7 Tinjauan Pustaka

(Draper and Smith, 1966)

Secara umum model nonlinier dapat ditulis sebagai berikut:

( ) εθθθξξξ += pkfY ,,,;,,, 2121

Dengan

galatparameter

bebaspeubahresponpeubahY

====

εθξ

Persamaan dapat diperingkas menjadi:

( ) εθξ += ,fY

Atau

( ) ( )θξ ,fyE =

Jika diasumsikan bahwa ( ) 0=εE dan diasumsikan galat-galatnya tidak

berkorelasi, yang berarti ( ) 2σε =V

Pada umumnya ( )2,0~ σε N yang berarti galat-galatnya berdistribusi normal

serta saling bebas satu sama lain.

Bila n data amatannya berbentuk:

kuuuuY ξξξ ,,,, 21


5

Untuk nu ,,2,1 = dapat dituliskan dalam bentuk alternatifnya

( ) uu fY εθξ += ,

Dengan uε adalah galat ke nu ,2,1= dapat diperingkas menjadi

( ) uu fY εθξ += ,

dengan

( )kuuuu ξξξξ ,,, 21 =

Asumsi kenormalan dan kebebasan galat dapat dituliskan sebagai :

( )2,0~ σε IN

( )nεεεε ,,, 21 =

0 = Vektor nol

I = Matriks Identitas

Dan keduanya berukuran sama

Jumlah kuadrat galat untuk model nonlinier didefenisikan sebagai:

( ) ( ){ }∑=

−=n

uuu fYS

1

2,θξθ

(Gallant, 1942)

Atau ( ) ( ){ }2

1,∑

=

−=n

uuu fYSSE θξθ

(Steven C Chapra)

Terdapat banyak kasus dalam rekayasa dimana model-model taklinear harus

dicocokkan pada data. Dalam konteks yang sekarang model-model ini

didefenisikan sebagai model yang mempunyai ketergantungan taklinier pada

parameter-parameternya.

Misalnya: ( ) ( )xaeaxf 110−−=

Tidak terdapat cara untuk memanipulasi persamaan ini sehingga sesuai dengan

bentuk umum persamaan:

ezazazazay nm +++++= 221100


6

(Mohammad Ehsanul Karim)

Metode Gauss Newton atau yang sering disebut metode linearisasi menggunakan

expansi deret Taylor untuk menghampiri model regresi nonlinier menjadi bentuk

linier dan menggunakan kuadrat terkecil untuk menaksir parameter. Misalkan

modelnya berbentuk

( ) uu fY εθξ += ,

dan

pθθθ ,,, 2010

adalah nilai-nilai awal bagi parameter-parameter pθθθ ,, 21

Nilai-nilai awal itu mungkin merupakan dugaan kasar belaka atau mungkin pula

merupakan nilai-nilai dugaan awal bersasarkan informasi yang tersedia. Nilai-

nolai awal itu diharapkan akan diperbaiki dalam proses iterasi.

(Sanjoyo,2006)

Metode Jalan Tengah Marquardt mengaplikasikan metode iterasi seperti halnya

pada Metode Gauss Newton yaitu bertujuan menghasilkan jumlah kuadrat galat

yang paling minimum.


7


BAB 2

LANDASAN TEORI

2.1. Penaksiran Parameter

Dengan statistika dapat disimpulkan karakteristik populasi yang dapat dipelajari

berdasarkan data yang diambil baik secara sampling ataupun sensus. Sehingga

dengan keperluan tersebut diambil sampel yang representatif, dan berdasarkan

hasil analisis terhadap sampel tersebut dapat diambil kesimpulan mengenai

populasi yang diteliti. Adapun sampel yang digunakan untuk menduga parameter

disebut penaksir parameter, dan angka yang merupakan hasilnya disebut

penaksiran secara statistik. Penaksir sendiri juga merupakan peubah acak. Teori

penaksiran dibagi dalam dua golongan yaitu penaksiran titik dan penaksiran

selang. Sedangkan cara melakukan penaksiran ada bermacam-macam diantaranya

adalah cara momen, simpangan kuadrat terkecil, kemungkinan maksimum

ataupun sifat penaksiran tak bias linear yang terbaik.

Suatu penaksiran akan menghasilkan bermacam-macam penaksir.Diantara

penaksir-penaksir itu haruslah dipilih mana yang terbaik yang dapat dipakai

sebagai penghampir parameter populasi. Oleh karena itu perlu diketahui ciri-ciri

penaksir yang baik. Penaksir yang baik harus memenuhi beberapa syarat,

tergantung kepada besar ukuran sampelnya. Akan diuraikan beberapa defenisi

yang berkaitan dengan kriteria penaksir yang baik. Kriteria penaksir yang baik

meliputi ketakbiasan, efisiensi, dan konsistensi.


8

(1) Ketakbiasan

θ̂ merupakan penduga tak bias (unbias estimator) dari θ jika ( ) θθ =ˆE .

Sebuah penduga dikatakan tak bias kalau rata-rata dari seluruh

kemungkinan sampel akan sama dengan nilai parameter dari populasi yang

diduga.

Tetapi kritria tak bias saja tak cukup selama variansi sebagai ukuran

penyebaran suatu penaksir tak bias diketahui. Yang diinginkan penaksir

takbias dengan variansi terkecil yang merupakan kriteria efisiensi.

(2) Efisiensi

θ̂ merupakan penduga yang efisien (efficient estimator) bagi θ apabila

nilai θ̂ memiliki varians atau standar deviasi yang lebih kecil

dibandingkan dengan penduga lainnya. Kalau ada penduga yang takbias

1̂θ dan 2θ̂ dimana varians atau standar deviasi dari penduga 1̂θ lebih kecil

dibandingkan varians atau standar deviasi penduga 2θ̂ , maka 1̂θ relative

lebih efisien dibandingkan dengan 2θ̂ .

(3) Konsistensi

θ̂ merupakan penduga konsisten (consistent estimator) bagi θ apabila

nilai θ̂ cenderung mendekati nilai parameter θ untuk n (besarnya sampel)

yang semakin besar mendekati tak hingga ( )∞→n . Jadi ukuran sampel

yang besar cenderung memberikan penduga titik yang lebih baik

dibandingkan ukuran sampel kecil. X merupakan penduga konsisten dari

µ , sebab apabila Nn → , maka µ→X .

Dari contoh ini jelas, kalau Nn = maka µ=X . ( )22 1∑ −= XXn

S i

merupakan penduga konsisten dari ( )22 1∑ −= µσ iXn


9

(4) Penduga yang cukup

θ̂ merupakan penduga yang cukup (sufficient estimator) bagi θ apabilaθ̂

mencakup seluruh informasi tentang θ yang terkandung didalam sampel.

2.2. Turunan Parsial

Misalkan ( )yxfz ,= fungsi 2 variabel yang terdfenisi disekitar titik ( )yx, ,

turunan parsial dari f terhadap x adalah turunan z terhadap x dan y tetap

konstan

Turunan parsial ( )yxfz ,= terhadap x ditulis:

( ) ( )yxfyxfx

zx

,, =∂∂

=∂∂ didefenisikan sebagai berikut:

( ) ( ) ( ) ( )h

yxfyhxfyxfyxfx hx

,,lim,,0

−+==

∂∂

→

Turunan parsial ( )yxfz ,= terhadap y ditulis:

( ) ( ) ( ) ( )k

yxfkyxfyxfyxfy ky

,,lim,,0

−+==

∂∂

→

2.3 Deret Taylor

Deret Taylor dapat memberikan nilai hampiran bagi suatu fungsi pada suatu titik,

berdasarkan nilai fungsi dan derivatifnya pada titik yang lain. Suku pertama dari

deret Taylor adalah ( ) ( )ii Xfxf ≈+1 dan disebut aproksimasi orde nol. Hubungan

ini hendak menunjuk bahwa nilai fungsi f pada titik yang baru, ( )1+iXf adalah

sama dengan nilai fungsi pada titik yang lama ( )iXf . Bila fungsi mengalami

perubahan suku, sehingga dikembangkan aproksimasi orde 2 yaitu:

( ) ( )( )iiii XXXfXf −+ +1'

Dan secara umum deret Taylor dirumuskan sebagai berikut:

( ) ( ) ( )( ) ( ) ( )( ) ( ) ( ) n

nii

in

IIi

iiiii RXXn

Xfxx

XfXXXfXfXf +−++−+−+≈ ++++ 1

2111 !!2

"'

Dan suku tambahan nR adalah:


10

( ) ( )( )

11

1+

+

−= n

n

n hn

fR ξ

Dengan indeks n menyatakan aproksimasi orde ke n dan ξ adalah suatu nilai X

dalam selang interval iX hingga 1+iX . Dan h adalah ii XX −+1 .

2.4 Regresi Nonlinier

Model nonlinier (yaitu nonlinier dalam parameter yang akan diduga) dapat dibagi

menjadi dua bagian yaitu model linier intrinsik dan model nonlinier Intrinsik.

(1) Model linier Intrinsik

Jika suatu model adalah linier intrinsik, maka model ini dapat dinyatakan

melalui transformasi yang tepat terhadap peubahnya kedalam bentuk linier

baku. Contoh:

( )eteksY ++= 221 θθ

Persamaan ini dapat ditransformasi melalalui pelogaritmaan dengan

basis e , menjadi bentuk, etY ++= 221ln θθ

Yang bersifat linier dalam parameter-parameternya.

(2) Model nonlinier intrinsik

Jika suatu model nonlinier intrinsik maka model ini tidak dapat diubah

menjadi bentuk baku. Contoh:

[ ] eeeY tt +−−

= −− 12

21

1 θθ

θθθ

Model ini tidak mungkin dapat diubah kedalam suatu bentuk linier dalam

parameternya.

Regresi nonlinier adalah regresi yang memuat parameter nonlinier, artinya jika

parameter tersebut diturunkan terhadap parameter itu sendiri maka hasil

turunannya masih mengandung parameter itu sendiri. Estimasi dilakukan untuk

menentukan estimator parameter regresi. Salah satu metode yang digunakan untuk

mengestimasi parameter model regresi nonlinier adalah kuadrat terkecil nonlinier

dimana secara konseptual sama dengan metode kuadrat terkecil pada model

regresi linier.


11

Terdapat banyak kasus dalam rekayasa dimana model-model nonlinier harus

dicocokkan pada data. Dalam konteks ini model-model ini didefenisikan sebagai

model yang mempunyai ketergantungan nonlinier pada parameter-parameternya.

Seperti halnya dengan kuadrat terkecil, regresi nonlinier didasarkan pada

penentuan nilai-nilai parameter yang meminimumkan jumlah kuadrat galatnya.

Namun dalam kasus nonlinier, penyelesaian haruslah berjalan dengan cara iterasi

dan bergantung pada nilai-nilai dugaan awal.

2.5 Metode Kuadrat Terkecil dalam Kasus Nonlinier

Metode kuadrat terkecil atau seing disebut dengan metode OLS (Ordinary Least

Square) diperkenalkan oleh Carl Friedrich Gauss, seorang matematikawan

Jerman. Penaksir- penaksir yang dihasilkan berdasarkan metode kuadrat terkecil

adalah bersifat tak bias dan konsisten. Didalam kenyataannya, salah satu penaksir

tak bias linier memiliki varians yang minimum, sehingga disebut penaksir takbias

linier terbaik (Best Linear Unbiased Estimator/BLUE). Sifat ini merupakan dasar

dari dalil Gauss- markov theorem yaitu sebagai berikut:

Dalil Gauss Markov : Berdasarkan sejumlah asumsi tertentu pendugaan

berdasarkan metode kuadrat terkecil akan menghasilkan penduga takbias linier

terbaik (Best Linear Unbiased Estimator/ BLUE), dengan koefisien regresi

memiliki varians yang minimum.

Namun demikian berbeda dengan kuadrat terkecil dalam model linier,

penaksiran parameter pada kuadrat terkecil dalam model nonlinier ditentukan

dengan melakukan suatu prosedur atau algoritma yang dapat menjamin bahwa

penaksir tersebut secara nyata memenuhi kriteria dari fungsi tujuan yaitu

memberikan jumlah kuadrat galat pada nilai yang paling minimum atau

memberikan nilai maksimum pada fungsi likelihood. Notasi Baku yang digunakan

untuk kuadrat terkecil nonlinier berbeda dengan yang digunakan untuk kasus

kuadrat terkecil linier. Misalkan model yang diberikan berbentuk sebagai berikut:


12

( ) efY pk += θθθξξξ ,;,, 2121

Dilambangkan dengan

( )kξξξξ ,,, 21 =

( )',,, 21 pθθθθ =

Maka persamaannya dapat ditulis menjadi

( ) efY += θξ ,

Atau

( ) ( )θξ ,fYE =

Bila data amatannya berbentuk

kuuuuY ξξξ ,,,, 21

Untuk nu ,2,1= maka dapat dituliskan modelnya kedalam bentuk:

( ) upkuuu efY += θθθξξξ ,,;,, 2121

dan dapat diperingkas bentuknya menjadi:

( ) uuu efY += θξ ,

Jumlah kuadrat galat untuk persamaan nonlinier ditulis sebagai berikut:

( ) ( ){ }2

1,∑

=

−=n

uuu fYS θξθ

Karena uy dan uξ merupakan amatan, dan bersifat tetap, maka jumlah kuadrat

tersebut merupakan fungsi dari θ . Nilai taksiran kuadrat terkecil bagi θ akan

dilambangkan denganθ̂ . Nilai taksiran ini tidak lain adalah nilai yang

meminimumkan ( )θS . Untuk menemukan nilai taksiran kuadrat terkecil θ̂ ,

terlebih dahulu persamaan jumlah kuadrat galat dideferensialkan terhadap θ . Ini

akan menghasilkan p persamaan normal, yang harus diselesaikan untuk

memperoleh θ̂ . Persamaan normal tersebut berbentuk :

( )( ) ( ){ } ( )

θθθθξ

θξθθ

ˆ

,,

=

∂

∂−=

∂∂

i

uuu

i

ffYS

Untuk pi ,,2,1 = sedangkan besaran dalam kurung adalah turunan dari

( )θξ ,uf terhadap iθ dengan semua iθ diganti dengan θ̂ yang bersubskrip sama,

jika ( )θξ ,uf merupakan fungsi linier, maka nilai dugaan ( )θξ ,uf tersebut


13

merupakan fungsi dari uξ saja dan tidak mengandung θ̂ sama sekali. Misalnya

jika

( ) pmuuuf θξθξθθξ ++= 221,

Maka

pifiu

i

,,2,1 ==∂∂ ξθ

dan tidak bergantung pada θ . Ini mengakibatkan persamaan normalnya terdiri

atas persamaan- persamaan linier dalam pθθθ ,, 21 . Bila modelnya tidak linier

dalam θ , maka sama halnya dengan persamaan normalnya. Sekarang akan

diilustrasikan dengan suatu contoh sederhana berupa penaksiran suatu parameter

θ didalam sebuah moel nonlinier. Misalnya akan diperoleh persamaan normal

untuk mendapatkan nilai taksiran kuadrat terkecilθ̂ bagi parameter θ dalam

model ( ) εθ += tfY , dengan ( ) tetf θθ −=, misalkan n pasangan amatan yang

tersedia adalah ( ) ( ) ( )nn tYtYtY ,,,,,, 2211 . Melalui pendifrensialan parsial terhadap

θ diperoleh ttef θ

θ−−=

∂∂ yang menghasilkan persamaan normal tunggal.

Selanjutnya persamaan normal tunggal dapat ditulis sebagai berikut:

[ ] [ ] 0ˆ

1

ˆ =−− −

=

−∑ utu

n

u

tu eteY θθ

Atau

0ˆ2ˆ

1=−∑∑ −

=

n

u

tu

tu

n

uu

uu etetY θθ

Perhatikan bahwa dengan hanya satu parameter dan suatu model nonlinier

yang relatif sederhana , penentuan nilai θ̂ melalui penyelesaian persaman normal

tidaklah mudah. Bila parameternya lebih banyak dan modelnya lebih rumit,

penyelesaian persamaan- persamaan normalnya bisa sangat sulit, dan hampir

dalam semua kasus, pemecahannya harus menggunakan metode iteratif yang

dapat dijumpai pada metode iterasi Marquardt dan metode iterasi Gauss Newton.


14

2.6 Metode Marquardt Compromise (Jalan tengah Marquardt)

Metode ini dikembangkan oleh D.W Marquardt atau sering juga disebut metode

Levenberg Marquardt adalah salah satu metode didalam pendugaan nonlinier.

Metode Marquardt merupakan kompromi atau jalan tengah antara metode

linearisasi (atau deret Taylor) dengan metode turunan tercuram (Stepest Descent).

Metode Marquardt mengaplikasikan metode iterasi seperti halnya pada metode

Gauss Newton yaitu meminimumkan jumlah kuadrat galat, bedanya hanya

terletak pada penambahan perkalian skalar λ dan matriks identitas kI . Secara

umum metode Marquardt Compromise dinyatakan sebagai berikut:

( ) ( )( ) ( )( )

θθθθλθθθθ

ˆ

11 'ˆ=

−+

∂∂

+−=SIDDt kn

nnn

nn

( ) ( )( ) 1' −+= kn

nnn IZZp λθθ

Dengan nθ = Nilai dugaan awal parameter

1ˆ +nθ = Parameter yang ditaksir

( ) ( )nn DD θθ ' = Matriks yang dihasilkan dari data

nλ = Perkalian skalar

nt = Panjang langkah

kI = Matriks Identitas

( )( )

n

S

θθθ

ˆ

∂∂ = Persamaan Normal


15

2.7 Metode Gauss Newton

Metode Gauss Newton merupakan suatu algoritma untuk meminimumkan jumlah

kuadrat galat. Konsep kunci yang mendasari teknik tersebut adalah uraian deret

Taylor yang digunakan untuk menyatakan persamaan nonlinier semula dalam

suatu bentuk hampiran yang linier. Dengan demikian, teori kuadrat terkecil dapat

digunakan untuk memperoleh taksiran-taksiran baru dari parameter yang bergerak

kearah yang meminimumkan galat tersebut.

Secara umum iterasi gauss Newton dinyatakan sebagai berikut:

( )( ) ( )( )[ ] ( )( ) ( )( )θξθθθθθ ,''ˆ 11 fYDDD tnnnnn −+=

−+

Dengan nθ = Nilai dugaan awal parameter

1ˆ +nθ = Parameter yang akan ditaksir ( )( )nD θ = Matrik yang dihasilkan dari data

( )( )θξ ,fYt − = Vektor yang dihasilkan dari perbedaan antara pengukuran dan

prediksi

Metode Gauss Newton dimulai dengan nilai awal untuk parameter regresi yaitu

110 ,, −pθθθ dan didalam penaksirannya dirobah menjadi ( ) ( ) ( )01

01

00 ,,, −pggg


BAB 3

PEMBAHASAN

3.1 Pendugaan Parameter suatu Sistem Nonlinier

Pada sebagian masalah nonlinier,cara yang sering dilakukan dan ternyata berhasil

adalah menuliskan persamaan normal secara terinci dan mengembangkan suatu

teknik iteratif untuk memecahkannya.Apakah cara ini berhasil atau tidak

bergantung pada persamaan normalnya dan metode iterasi yang digunakan, dalam

memperoleh taksiran parameter. Diantaranya adalah :1) Metode Gauss Newton

(metode linearisasi), 2) Metode Stepest Descent (Turunan tercuram), 3)

Marquardt Compromise ( jalan tengah Marquardt). Dan metode-metode ini dapat

diselesaikan dengan menggunakan program komputer.

Metode Gauss Newton menggunakan hasil-hasil kuadrat terkecil dalam

beberapa tahap. Misalkan model yang ditentukan berbentuk:

( ) uu fY εθξ += ,

Dan 02010 ,,, pθθθ adalah nilai-nilai awal bagi parameter-parameter pθθθ ,,, 10

Nilai-nilai awal itu merupakan taksiran kasar belaka atau mungkin pula

merupakan nilai-nilai dugan awal berdsarkan informasi yang tersedia. (Misalnya

perkiraan berdasarkan informasi yang diperoleh dari perhitungan lain yang serupa

atau yang diperkirakan benar oleh peneliti berdasarkan pengalaman dan

pengetahuannya). Nilai-nilai awal itu diharapkan akan diperbaiki dalam proses

iterasi.


17

Bila dilakukan penguraian deret Taylor bagi ( )θξ ,f disekitar titik

( )020100 ,, pθθθθ = dan membatasi penguraian sampai turunan pertama, maka dapat

dikatakan bahwa, bila θ dekat pada 0θ maka

( ) ( ) ( ) ( )0ˆ1

0,

,, ii

p

i i

uuu

fff θθ

θθξ

θξθξθθ

−

∂

∂+=

==∑

Bila ditetapkan

( )

( )0

,

,

0

00

00

θθθθξ

θθβ

θξ

=

∂

∂=

−=

=

i

uiu

iii

uu

fZ

ff

Maka bentuknya menjadi

u

p

iiuiuu ZfY εβ +− ∑

=1

000

Dengan kata lain persamaan tersebut sudah berbentuk linier. Oleh karena

itu dapat ditaksir parameter-parameter pii ,,2,1,0 =β dengan cara menerapkan

teori kuadrat terkecil. Bila ditetapkan

{ }

0

0

0

22

011

0

0

02

01

0

0

002

01

002

01

02

022

012

01

021

011

,

fY

fY

fY

fYfY

y

b

bb

b

npZ

ZZZ

ZZZ

ZZZ

ZZZ

Z

nn

uu

p

iu

pnnn

puuu

p

p

−=

−

−

−

−

=

=

×=

=


18

Misalnya, dengan notasi yang sudah jelas maksudnya, maka taksiran bagi

( )002

010 ,,, pββββ = diberikan oleh ( ) ( )0

01

000 '' fYZZZb −= −

dengan demikian vektor ob akan meminimumkan jumlah kuadrat galat.

3.2 Jumlah Kuadrat Galat (Sum Square Error)

Penaksiran Kuadrat terkecil dari θ adalah meminimumkan jumlah kudrat galat

dari parameterθ yaitu θ̂ , didefenisikan sebagai:

( ) ( ){ }2

1,∑

=

−=n

ii fYS θξθ

Untuk menghitung jumlah kuadrat galat dapat juga dilakukan dengan

menggunakan matrik sebagai berikut:

( ) ( )[ ] ( )[ ]

( ) ( ) ( ) ( )[ ] [ ]nYYYYffff

fYfYS

,,,,,,,,, 211 ==

−−=

θξθξθξθ

θθθ

Untuk menemukan nilai dugaan kuadrat terkecil θ̂ , persamaan

( ) ( )[ ] ( )[ ]θθθ fYfYS −−= dideferensialkan terhadap θ dan akan menghasilkan

p persamaan normal. Persamaan normal itu berbentuk:

( ) ( ) ( )θθθθ θ

θξθξ

θθξ

ˆ1ˆ1

,,

,

====

∂∂

−

∂∂ ∑∑ i

n

i

in

ii

ff

fY

Dan selanjutnya dapat dilakukan penaksiran parameter model nonlinier dengan

menggunakan kuadrat terkecil dan melakukan pengiterasian dengan menggunakan

iterasi Gauss Newton dan iterasi jalan tengah Marquardt.


19

3.3 Algoritma Marquardt Compromise

Menentukan nilai awal yaitu 01

01

00 ,,, −pθθθ dan didalam pengiterasiannya notasi

awal berubah menjadi 01

01

00 ,,, −pggg . Selanjutnya menyelesaiakan persamaaan

normal dari suatu model regresi nonlinier yang akan ditaksir, dan kemudian

menentukan nilai perkalian skalar dinotasikan dengan λ dengan 10 ≤< λ dan

matriks identitas I . Iterasi pada metode ini akan berhenti pada saat nilai iterasi

tersebut sudah konvergen.

Persamaan iterasi ditulis sebagai berikut :

( ) ( )( ) ( )( )

θθθθλθθθθ

ˆ

11 'ˆ=

−+

∂∂

+−=SIDDt kn

nnn

nn

Dan pada proses iterasi notasi parameter yang ditaksir akan menjadi

( ) ( )( ) ( )( ) ng

n

knnn

nnn

ggSIgDgDtgg

∂∂

+−=−+ 11 ' λ

3.4 Algoritma Gauss Newton

Pada umumnya proses iterasi Gauss Newton dilakukan dengan langkah sebagai

berikut:

1) Dianggap ( )0θ̂ sebagai estimasi awal untuk θ

2) Hitung ( ) ( )i

i b+=+ 01 ˆˆ θθ

3) Nilai ( )1ˆ +iθ digunakan sebagai nilai untuk menghampiri model linier

4) Kemudian kembali lagi ke langkah pertama dan menghitung nilai b untuk

setiap iterasi, nila b yang baru ditambahkan kepada penaksiran yang

didapat dari iterasi sebelummya.

5) Iterasi dilanjutkan untuk melihat apakah hasilnya konvergen atau tidak.


20

3.5 Penyelesaian Contoh

Contoh

Pernyatan masalah: Cocokkan fungsi ( ) ( )( )ii XXf 1010 exp1,; θθθθ −−= pada data

sebagai berikut:

Tabel 3.5.1 Data yang harus dicocokkan pada fungsi

x y

0,25 0,28

0,75 0,57

1,25 0,68

1,75 0,74

2,25 0,79

(Sumber: Buku Metode Numerik oleh Steven C Chapra halaman 318-319)

Gunakan dugaan-dugaan awal 10 00,1 θθ dan= =1,00 untuk parameter-

parameter.

Penyelesaian

Dengan Bentuk ( ) ( )( )ii XXf ,exp1,; 1010 θθθθ −−= yang terdiri dari dua

parameter. Digunakan kuadrat terkecil untuk meminimumkan kuadrat galat

dengan terlebih dahulu menaksir parameter pada model tersebut dan selanjutnya

menyelesaikan persamaan normalnya dengan iterasi jalan tengah Marquardt dan

iterasi Gauss Newton.


21

Model tersebut akan dibentuk kedalam regresi nonlinier yaitu sebagai berikut:

( ) iii XfY εθ += ,

Dengan Kuadrat terkecil Q adalah

( )[ ]2

1,∑

=

−=n

ikii XfYQ θ ; 1,,1,0 −= pk

Turunan parsial dari Q terhadap kθ adalah

( )[ ] ( )0

,,2

ˆ1=

∂

∂−−=

∂∂

==∑

gk

in

iii

k

XfXfYQ

θθ

θθ

θ

g adalah vektor dari taksiran kuadrat terkecil kg yaitu:

=

−1

1

0

pg

gg

g

Dari contoh diatas dapat diselesaikan sebagai berikut:

( ) ( )( )ii XXf 10 exp1; θθθ −−=

Sehingga untuk contoh diatas turunan-turunan parsial fungsi terhadap parameter-

parameter adalah:

( ) ( )

( ) ( )iii

ii

XXXf

XXf

101

10

exp,

exp1,

θθθ

θ

θθ

θ

−=∂

∂

−−=∂

∂

Ubahlah simbol 0θ dan 1θ untuk menaksir parameter dengan 0g dan 1g . Akan

didapat persamaan normal dari turunan parsial diatas yaitu sebagai berikut:

( )( ) ( )( ) ( )( )( ) ( )( ) ( ) 0expexp1exp

0exp1exp1exp1

101010

1101

=−−−−−

=−−−−−−−

∑∑∑∑

iiiiii

iii

XgXgXggXgXgY

XgXiggXgY

Persamaan normal dapat diubah menjadi:

( )( ) ( )( )( ) ( ) ( ) 02expexpexp

0exp1exp1

1101

2101

=−−−−−

=−−−−−

∑∑∑∑

iiiiii

iii

XgXgXgXgXY

XggXgY


22

Karena persamaan normal diatas tidak linier didalam parameter 0g dan

1g maka cara yang tepat untuk menyelesaikan persamaan normal diatas adalah

dengan menggunakan metode numerik untuk melakukan penaksiran secara iterasi.

Metode numerik yang sering kali dipakai untuk menyelesaikan permasalahan

didalam penaksiran parameter model nonlinier adalah Metode Gauss Newton dan

Metode Marquardt compromise.

Dengan menggunakan algoritma Gauss Newton, langkah awal adalah

menentukan nilai awal terlebih dahulu kemudian dihampiri dengan rata-rata

respon ( )θ,iXf untuk n pengamatan oleh bentuk linier mengunakan ekspansi

deret Taylor disekitar nilai awal 0kg diperoleh pengamatan ke i

( ) ( )( ) ( ) ( )( )00

ˆ

1

0

0 ,,, g

XfgXfXf k

g

p

k k

iii −

∂

∂+≈

=

−

=∑ θ

θθ

θθ

Dan

( )

( )

( )

=

−0

1

01

00

pg

gg

g

adalah vektor dari parameter nilai awal

Sekarang akan disederhanakan notasi:

( )( )

( ) ( )

( ) ( )( ) ( )00ˆ

0

00

00

,

,

gk

iik

kkk

ii

XfD

ggXff

=

∂

∂=

−=

=

θθ

θ

θβ


23

Hampiran deret Taylor ( ) ( )( ) ( ) ( )( )00

ˆ

1

0

0 ,,, g

XfgXfXf k

g

p

k k

iii −

∂

∂+≈

=

−

=∑ θ

θθ

θθ

untuk rata-rata respon pengamatan ke i notasinya akan disederhanakan menjadi

( ) ( ) ( ) ( )∑−

=

+≈1

0

000,p

kkikii DfXf βθ

Dan hampiran untuk model regresi nonlinier ( ) iii XfY εθ += , akan menjadi

( ) ( ) ( )i

p

kkikii DfY εβ ++≈ ∑

−

=

1

0

000

Dari bentuk diatas ( )0if digeser kekiri akan menjadi ( )0

ii fY − dengan akan

diperoleh pendekatan model regresi linier sebagai berikut:

( ) ( ) niDY i

p

kkiki ,,1

1

0

00 =+≈∑−

=

εβ

Karena ( ) ( )00

iii fYY −=

Maka akan didapat pendekatan didalam bentuk matriks seperti dibawah ini: ( ) ( ) ( )

( )

( )

( )

( )

( ) ( )

( ) ( )

( )

( )

( )

=

=

−

−=

+≈

−

×

−

−

×

×

01

00

1

0

01,

00

01,1

010

0

0

011

01

000

p

p

pnn

p

pn

nn

n

DD

DDD

fY

fYY

DY

β

ββ

εβ


24

Selanjutnya parameter ( )0β dapat ditaksir dari persamaan normal pada model

regresi linier sederhana dan diperoleh:

( ) ( ) ( )( ) ( ) ( )001000 '' YDDDb −=

Dimana ( )0b adalah vektor dari koefisien regresi kuadrat terkecil yang akan

ditaksir. Dan dapat digunakan untuk memperoleh taksiran parameter regresi

berikutnya dengan koefisien regresi ( )1kg .

( ) ( ) ( )001kkk bgg += .

Kriteria perhitungan kuadrat terkecil untuk koefisien regresi awal ( )0g dinotasikan

dengan

( ) ( )( )[ ]

( )( )2

1

0

2

1

00 ,

∑

∑

=

=

−=

−=

n

iii

n

iii

fY

gXfYSSE

Dari contoh sebelumnya dapat diselesaikan dengan iterasi Gauss Newton sebagai

berikut

Untuk lebih memudahkan pengiterasian dapat dilakukan dengan penerapan

matriks:

( )

( )( ) ( ) ( )( )( )( ) ( ) ( )( )( )( ) ( ) ( )( )( )( ) ( ) ( )( )( )( ) ( ) ( )( )

=

−−−

−−−

−−−

−−−

−−−

=×

2371,08946,03041,08262,03581,07135,03543,05276,01947,02212,0

expexp1

expexp1

expexp1

expexp1

expexp1

50

110

050

1

40

110

040

1

30

110

030

1

20

120

020

1

10

110

010

1

025

XgXgXgXgXgXgXgXgXgXgXgXgXgXgXg

D


25

( )( ) ( )

( ) ( )( )( )( )( )( )

( )( ) ( )

( ) ( )( )( )

( )( ) ( )

( ) ( )( )( )

( )( ) ( )

( ) ( )( )( )

( )( ) ( )

( ) ( )( )( )8946,0

exp1

,8264,0

exp1

,7153,0

exp1

,5276,0

exp1

,2212,0

25,01exp11exp1

,

50

10

0

05

05

40

10

0

04

04

30

10

0

03

03

20

10

0

02

02

01

00

01

01

=−−=

=

=−−=

=

=−−=

=

=−−=

=

=−−=

−−=

=

XggfgXf

XggfgXf

XggfgXf

XggfgXf

XggfgXf

i

Untuk : 28,0=iY maka penyimpangannya dapat dihitung sebagai berikut:

( ) ( ) 0588,02212,028,001

01 =−=−= fYY i

Sehingga vektor ( )0Y terdiri dari perbedaan antara pengukuran dan prediksi

model:

( )

( )

( )

( )

( )

( )

( ) ( )( )( )( ) ( )( )( )( ) ( )( )( )( ) ( )( )( )( ) ( )( )( )

−−−=

−−−−−

=

−−−

−−−

−−−

−−−

−−−

=

−

−

−

−

−

=×

1046,00862,00335,00424,00588,0

8946,079,08262,074,07153,068,05276,057,02212,028,0

exp1

exp1

exp1

exp1

exp1

50

10

05

40

10

04

30

10

03

20

10

02

10

10

01

055

044

033

022

011

015

XggYXggYXggYXggYXggY

fYfYfYfYfY

Y


26

Sehingga untuk semua data pengamatan akan didapat:

( ) ( )( )[ ]

( )( )( ) ( ) ( ) ( ) ( )

0247490,01046,00862,00335,00424,00588,0

,

22222

2

1

0

2

1

00

=−+−+−++=

−=

−=

∑

∑

=

=

n

iii

n

iii

fY

gXfYSSE

( ) ( )( ) ( ) ( )001000 '' YDDDb −=

( ) ( )

=

=

4404,09489,09489,03193,2

2371,08946,03041,08262,03581,07153,03543,05276,01947,02212,0

2731,03041,03581,03543,01947,08946,08262,07135,05276,02212,0

' 00 DD

( ) ( )( ) ( ) ( )

−

−=

−−

=−

1676,198421,78421,76397,3

3193,29489,09489,04404,0

9489,0.9489,04404,0.3193,21' 100 DD

( ) ( )( )

−−

=

−−−

=

0365,01533,0

1046,00862,00335,00424,00588,0

2731,03041,03581,03543,01947,08946,08262,07135,05276,02212,0

' 00 YD


27

Oleh karena itu:

( )

−=

−−

−

−=

50256923,027172936,0

0365,01533,0

1676,198421,78421,76397,30b

Maka akan diperoleh penaksiran kuadrat terkecil ( )1g :

( ) ( ) ( )

=

−+

=

+=

50256923,172826923,0

50256923,027172936,0

11

001 bgg

Dengan cara yang sama seperti diatas dapat diperoleh iterasi berikutnya sehingga

didapat iterasi yang menghasilkan galat yang paling minimum

Iterasi 0g 1g SSE

0 1,0000 1,0000 0,0247490

1 0,7282 1,5025 0,0243422

2 0,7911 1,6774 0,0006622

3 0,7921 1,6774 0,0006622

Dari hasil iterasi yang ketiga telah diperoleh iterasi yang konvergen, sehingga

itterasi dapat berhenti dan didapat MSE sebagai berikut:

0002206,025

000662,0

=−

=

−=

pnSSEMSE


28

Dengan menggunakan algoritma Marquardt, langkah awal yang dilakukan adalah

menentukan nilai awal yaitu 01

01

00 ,,, −pθθθ dan didalam pengiterasiannya notasi

nilai awal tersebut akan berubah menjadi 01

01

00 ,, −pggg , selanjutnya

menyelesaikan persamaan normal dari suatu model regresi nonlinier yang akan

ditaksir, setelah itu akan ditentukan nilai skalar dari setiap iterasi yang dinotasikan

dengan λ dimana 10 ≤< jλ dan biasanya nilai λ merupakan faktor dari 10. Dan

iterasi akan berhenti pada saat nilai iterasi tersebut sudah konvergen yaitu

εθθ ≤−+ kk 1 Persamaan iterasi ditulis sebagai berikut:

( ) ( ) ( )( ) ( )( )

θθθθλθθθθ

ˆ

11 'ˆ=

−+

∂∂

+−=SIDDt kn

nnn

nn

Pada proses iterasi notasi parameter yang ditaksir menjadi:

( ) ( ) ( )( ) ( )( ) ng

knnn

nnn

ggSIgDgDtgg

∂∂

+−=−+ 11 ' λ

Untuk lebih memahami metode Marquardt kemudian akan diselesaikan contoh

yang sebelumnya. Diambil nilai awal taksiran untuk model

( ) ( )( )ii XXf 10 exp1; θθθ −−= yang sama dengan nilai awal yang diberikan pada

metode Gauss Newton yaitu ( ) 00,100 =g dan ( )0

1g =1,00. Sehingga dapat diketahui

metode mana yang lebih efisien atau metode yang lebih cocok digunakan dalam

contoh ini. Nilai awal tersebut dapat digunakan untuk mencari nilai taksiran

berikutnya.

Dengan menggunakan persamaan iterasi diatas maka dapat dilakukan perhitungan

seperti dibawah ini. Dari matriks sebelumnya yaitu:

( ) ( )( )

=

4404,09489,09489,03193,2

' 00 DD


29

( ) ( )( )[ ]

( ) ( )( )[ ]

−

−=+

=

+

=+

−

1678,198421,78421,76397,3

'

4404,09489,09489,03193,2

1001

00001,04404,09489,09489,03193,2

'

100

00

kn

kn

IDD

IDD

λ

λ

( )( )( )( ) ( )( ) ( )( )

( )( ) ( )( ) ( )( )( )( ) ( )( )

( )( ) ( )( ) ( )( ) ( )( )( )( )

( )( )( )( ) ( ) ( ) ( )

( ) ( ) ( ){ }( ) ( ) ( ) ( ){ }

0365,0)9487,09122,0(0

5,4exp25,2exp25,25,0exp25,0exp25,0125,2exp77,175,0exp47,025,0exp07,00

02expexpexp

1533,0)3192,21659,2(0

25,2exp1

75,1exp125,1exp175,0exp125,0exp11

25,2exp179,075,1exp174,025,1exp168,075,0exp157,025,0exp128,0

0

0exp1exp1

11011

1

2

2222

21010

0

=−−=

−−−++−−−−−++−+−−=

=−−−−−=

∂∂

=−−=

−−+

−−+−−+−−+−−−

−−+−−+−−+−−+−−

−=

=−−−−−=

∂∂

∑∑

∑∑

iiiiii

iii

XgXgXgXgXYggS

XggXgYggS

( ) ( )[ ]( )( )

( )

−

=

−

−=

∂∂

+−

50256923,027172936,0

0365,01533,0

1369,198421,78421,76397,3

' 100n

n

kn ggSIDD λ


30

Sehingga akan didapat: ( )

( )

=

−

−

=

50256923,172826923,0

50256923,027172936,0

11

10

10

gg

( )( )[ ]

( )( )( ) ( ) ( ) ( ) ( )

0247490,01046,00862,00335,00424,00588,0

,

22222

2

1

0

1

0

=−+−+−++=

−=

−=

∑

∑

=

=

n

iii

n

iii

fY

gXfYSSE

( )

( )

( )

( )

( )

( ) ( )( )( )( ) ( )( )( )( ) ( )( )( )( ) ( )( )( )( ) ( )( )( )

−−−=

−−−−−

=

−−−

−−−

−−−

−−−

−−−

=

−

−

−

−

−

1046,00862,00335,00424,00588,0

8946,079,08262,074,07153,068,05276,057,02212.028,0

exp1

exp1

exp1

exp1

exp1

51

11

05

41

11

04

31

11

03

21

11

02

11

11

01

15151

1414

133

122

111

XggYXggYXggYXggYXggY

fYfYfYfYfY


31

Dengan cara yang sama diatas dapat diperoleh iterasi berikutnya sehingga didapat

iterasi yang menghasilkan galat yang paling minimum dan menjadi konvergen

kenilai 0,001 yaitu sebagai berikut:

Iterasi 0g 1g SSE

0 1,0000 1,0000 0,0247490

1 0,7282 1,5025 0,0243422

2 0.7911 1,6774 0,0006622

3 0,7921 1,6774 0,0006622

Dari penyelesaian dengan dua metode ditatas dapat diketahui bahwa dengan

metode Marquardt dan metode Gauss Newton sama-sama menghasilkan galat

yang paling minimum pada iterasi yang ketiga.


BAB 4

KESIMPULAN DAN SARAN

4.1 KESIMPULAN

Dari analisa yang dilakukan didapat bahwa metode Marquardt dan metode Gauss

Newton dapat menyelesaikan penaksiran parameter dalam kasus nonlinier dan

kedua metode itu menghasilkan jumlah kuadrat galat ke nilai yang paling

minimum. Metode Marquardt telah dikembangkan untuk mengatasi kekurangan

kekurangan yang terdapat dalam Metode Gauss Newton seperti kekonvergenan

yang mungkin melambat dan kemungkinan berosilasi secara lebar. Dan dalam

masalah-masalah yang praktis kedua metode lainnya dapat diterapkan sama

baiknya seperti Metode Marquardt.

4.2 SARAN

Dalam tulisan ini penulis hanya membahas tentang penaksiran parameter regresi

non linier model eksponensial dengan operasi turunan pertama yaitu metode

Marquardt dan metode Gauss Newton. Bagi para pembaca yang tertarik untuk

mengembangkan penelitian ini dapat menyelesaikan penaksiran parameter regresi

nonlinier dengan metode lainnya misalnya dengan menggunakan operasi turunan

kedua dan dengan model yang lain.


33

DAFTAR PUSTAKA

Ananth Ranganathan, The Levenberg- Marquardt, 2004

(Jurnal, diakses 20 April2009)

Chapra. C. Steven and Canale. P. Raymond. 1988. Metode Numerik. Pt Gramedia

Pustaka Utama, anggota IKAPI, Jakarta.

Danapriatna, Nana dan Setiawan Rony. 2005. Pengantar Statistika. Penerbit

Graha Ilmu, Yogyakarta.

Draper, N.R. and Smith, H. 1966. Analisis Regresi Terapan. Pt Gramedia Pustaka

Utama, anggota IKAPI, Jakarta.

Davidian, M.1966. Nonlinear Regression. New York.

Gallant, A. Ronald. 1942. Nonlinear Statistical Models. New York:

Jhon Wiley & Son

Mohammad Ehsanul Karim, Nonlinear Models, University of Dhaka.

(Jurnal, diakses 28 Maret 2009)

Neter, Jhon and Wasserman, William. 1985. Applied Linear Statistical Models.

Printed in the United States of America.

Sanjoyo, Nonlinear estimation, 2006 ( Jurnal, diakses 28 Maret 2009)

Soelistiyo. 2001. Dasar-Dasar Ekonometrika. Yogyakarta:BPPE.

Supranto,J .1981. Statistik Teori dan Aplikasi. Erlangga. Jakarta

Documents

10E00372.pdf