Regresi Non-Linier [PDF]

Citation preview

Regresi Non Linear Regresi nonlinear adalah suatu metode untuk mendapatkan model nonlinear yang menyatakan hubungan variable dependen (Y) dan independen (X). Tidak seperti regresi linear, yang dibatasi oleh waktu menaksir/ meramal, regresi non-linear dapat mengistemasi model hubungan variable dependen



dan



independen dalam bentuk non-linear dengan keakuratan yang baik. Untuk regresi sederhana, regresi yang melibatkan satu variabel dependen (Y) dan satu variabel independen (X), kelinearan Ŷ =a+bX diyakinkan melalui pengujian hipotesis jika hipotesis linear diterima, kita yakin hingga tingkat keyakinan tertentu, bahwa regresi itu bentuknya linear tidak diragukan. Namun, apabila ternyata hipotesis linear ditolak, maka regresi linear tidak cocok untuk digunakan dalam mengambil kesimpulan dan karenanya perlu meningkat pada pencarian regresi non-linear atau lengkung. Berdasarkan kelinearan antar parameter pada model regresi, maka suatu model regresi dapat diklasifikasikan menjadi dua macam yaitu model linear dan non-linear. Model regresi dikatakan linear jika dapat dinyatakan dalam model : y=β 0 + β1 x1 + β2 x2 + β3 x3 +..+ βk xk +ε Apabila model tidak dapat dinyatakan dalam model tersebut maka model yang diperoleh adalah model non-linear. Secara umum model regresi non-linear parametrik dengan Y



ij



sebagai variabel respon pada replikasi sebanyak ni dan



setiap nilai xi merupakan variabel independen , dapat



dinyatakan dalam



persamaan (Ripley, 2002) : Y ij =f ( x i , θ ) +ε ij dengan f adalah fungsi regresi dengan parameter



εij



θ θyang harus diduga dan ε ij



2 adalah galat dengan sifat N(0,α)N (0 , σ ). Salah satu metode pendugaan



parameter dalam sistem non-linear adalah jalan tengah Marquardt (Marquadt’s compromise). Metode Marquardt merupakan kompromi atau jalan tengah antara metode linearisasi atau deret Taylor dengan metode steepest descent (Draper & Smith, 1996).Model persamaan yang non linear apapun bentuk persamaannya



asalkan bisa ditranformasikan menjadi bentuk linear, maka persamaan garis regresinya bisa dicari. Persamaan garis regresi model polinom yaitu suatu bentuk hubungan antar satu peubah bebas X dengan derajat polinom p dengan satu peubah Y, persamaannya adalah: Y = β0 + β1 X + β 2X2 + β 3X3 + … + β pX p Jika pada Y pangkat tertingginya adalah 1, maka bentuk persamaannya menjadi Y = β0 + β1 Xyang disebut dengan regresi linear. Apabila pangkat tertingginya 2, maka persamaannya menjadi Y = β0 + β1 X + β2 X2 yang disebut dengan regresi kuadratik.



Model Regresi Non-Linear Secara umum, terdapat beberapa model regresi non-linear, antara lain:



Model Regresi Non-Linear Kuadratik Regresi non-linear sederhana kuadratik merupakan suatu teknik statistika untuk membuat persamaan yang menjelaskan hubungan antara variabel bebas dan variabel tak bebas, dimana persamaaan yang dihasilkan berupa persamaan kuadratik. Secara umum, persamaan regresi non-linear sederhana kuadratik memiliki bentuk Y = β0+ β1 X + β2 X 2.



Nilai β0 , β1 dan β2 dihitung dengan menyelesaikan sistem persamaan berikut :



Berikut diberikan contoh gambar dari kurava kuadratik



Gambar Kurva Persamaan Kuadratik



Model Regresi Non-Linear Eksponensial Regresi non-linear sederhana eksponen merupakan suatu teknik stastistika untuk membuat persamaan yang menjelaskan hubungan antara variabel bebas dan variabel tak bebas, dimana persamaan yang dihasilkan berupa persamaan eksponensial. Berikut merupakan bentuk umum persamaan regresi non-linear sederhana eksponensial Y = β0 e β X . 1



Untuk menghitung nilai β0 dan β1, terlebih dahulu mentranformasikan bentuk eksponensial ke bentuk linear. Berikut transformasi dari bentuk eksponensial ke bentuk linear Y = β0 e β



1



X



ln Y =ln ( β 0 e β X ) 1



ln Y =ln β 0+ln(e β ) 1



X



ln Y =ln β0+ β1 X ln( e) ln Y =ln β0+ β1 X Misalkan y=lnY , maka ln Y =ln β0+ β1 X y =ln β0 + β1 X



Perhatikan bahwa y =ln β0 + β1 X merupakan bentuk linear. Berikut diberikan contoh gambar dari kurva persamaaan eksponensial.



Gambar Kurva Persamaan Eksponensial



Model Regresi Non-Linear Power Regresi non-linear sederhana power merupakan suatu teknik statistika untuk membuat suatu persamaan yang menerangkan hubungan antara variabel bebas dan variabel tak bebas, di mana persamaan yang dihasilkan berupa persamaan power. Persamaan regresi non-linear hanya menggunakan satu variabel bebas. Secara umum, persamaan regresi non-linear sederhana power memiliki bentuk Y = β0 X β . 1



Untuk menghitung nilai β0 dan β1, terlebih dalam mentransformasikan bentuk power ke bentuk linear. Berikut transformasi dari bentuk power ke bentuk linear Y = β0 X β



1



lnY =¿( β 0 X β ) 1



InY =ln β 0+ ln( X β ¿ 1



InY =ln β0+ β1 lnX Misal y = ln Y dan x = ln X, maka InY =ln β0+ β1 lnX y=ln β0+ β1 x Perhatikan bahwa y =ln β0 + β1 x merupakan bentuk linear. Berikut diberikan contoh gambar dari kurva persamaan power



Gambar Kurva Persamaan Power



Metode untuk Mengestimasi Model Regresi Nonlinier 1) Metode coba dan ralat (trial and error) Langkah-langkah : -



Mencoba-coba memasukkan beberapa nilai β pada persamaan regresi



-



Menghitung galat kuadrat jumlah



-



Model terbaik apabila jumlah galat kuadrat mempunyai nilai terkecil



Kelemahan : -



Harus mempunyai pengetahuan masa lalu tentang data yang akan dimodelkan sehingga dapat mengestimasi nilai β dari data tersebut



-



Tidak adanya jaminan bahwa parameter yang dipilih memberikan SSE yang minimum



-



Jika nilai SSE tidak minimum, prosesnya membutuhkan waktu lama



2) Metode optimalisasi langsung (direct optimization) Langkah-langkah : -



Menurunkan persamaan SSE dengan suatu nilai parameter atau koefisen yang tidak diketahui



-



Menyamakan persamaan tersebut dengan nol



-



Menyelesaikan secara simultan



Kelemahan : -



Tidak dapat diselesaikan dengan mudah (secara eksplisit)



-



Tetap memerlukan teknik coba dan ralat untuk menentukan nilai parameter



-



Proses sangat lambat untuk mencapai nilai estimasi yang konvergen



3) Metode linierisasi iteratif (iterative linierization) Langkah-langkah : -



Melinearkan model nonlinier



-



Parameternya akan diestimasi dengan metode OLS menggunakan suatu nilai inisial yang disesuaikan (adjusted).



Nilai



tersebut



digunakan untuk merelinearisasi (relinearize) model -



Mengestimasi parameter dan menyesuaikan nilainya kembali



*proses diulang-ulang hingga nilai estimasi tidak berubah dari dua nilai estimasi terakhir Teknik yang dilakukan untuk melinear model nonlinier ini adalah teknik kalkulus seri Taylor, yaitu dengan metode iterasi Gauss-Newton dan Newton-Raphson. Beberapa program komputer juga sudah menggunakan metode ini.



BAB III PEMBAHASAN Seorang peneliti ingin mengetahui hubungan antara dosis obat tertentu (X) dengan kadar Creatinin Ginjal (Y) pada percobaan kelinci, dari hasil penelitiannya diperoleh hasil sebagai berikut : No



Dosis



Kadar



1 2 3 4 5 6 7 8 9 10 11 12 13 14 15



Obat 1 2 3 4 5 7 3 2 4 6 7 8 8 1 3



Creatin 10 13 15 20 16 11 14 12 21 17 10 7 6 11 16



Analisis Regresi Non Linear Kuadratik yaitu sebagai berikut : 1. Analisis Regresi terlebih dahulu untuk melihat nilai R-Sq nya. 2. Uji Scatterplot untuk menentukan model data. 3. Uji Fitted Line Plot linear, kuadratik dan kuik untuk menentukan model yang terbaik. 4. Membuat variabel baru dengan cara mengkuadratkan nilai X nya (X2) 5. Meregresikan variabel terikat (Y) dengan variabel bebas (X) dan variabel baru (X2) untuk membandingkan nilai R-Sq nya. 6. Jika R-Sq dari data yang telah ditambah dengan variabel baru sama dengan analisis regresi sebelumnya sama berarti model kuadratik bisa digunakan untuk data tersebut. 7. Pengujian asumsi-asumsi yang harus dipenuhi dalam regresi Linear a. Uji Normalitas b. Uji Heteroskedasitas



c. Uji Autokorelasi d. Uji Multikonearitas e. Pengujian Koefisien Regresi secara Serentak (Uji F) dan Pengujian Koefisien Regresi secara Individu(Uji t).



1. Analisis Regresi a. Input data pada minitab



b. Klik Stat → Regression → Regression c. Pada kolom Responses isi dengan Y dan pada kolom preditor isi dengan X.



d. Klik tombol options kemudian centang Fit Intercept, Variance inflating factors, Durbin-Watson statistic dan klik OK.



e. Klik Storage dan centang Residuals, Coefficients, Fits.



f. Klik OK Diperoleh hasil sebagai berikut:



2. Uji Scatterplot a. Klik Graph→Scatterplot b. Isi kolom pada Y variabel dengan Y dan X variabel dengan X.



c. Klik OK Diperoleh hasil sebagai berikut



Dari plot data tersebut maka persamaan garisnya diduga kuadratik. 3. Uji Fitted Line Plot 1. Uji linear a. Klik Stat → Regression → Fitted Line Plot → Pilih Linear



b. Klik OK Diperoleh hasil sebagai berikut



Untuk mengetahui bahwa data yang kita olah merupakan model kuadratik, terlebih dahulu kita uji dengan uji linear. Dari gambar diatas kita mengetahui bahwa R-Sq = 9,7 %, sedangkan apabila data tersebut merupakan model linear seharusnya R-Sq mendekati 95%. Jadi dari uji linear ini mengetahui bahwa data yang kita peroleh tidak cocok menggunakan model linear.



2. Uji Kuadratik a. Klik Stat → Regression → Fitted Line Plot → Pilih Quadratic



b. Klik OK



Diperoleh hasil sebagai berikut



3. Uji Kubik a. Klik Stat → Regression → Fitted Line Plot → Pilih Cubic



b. Klik OK



Diperoleh hasil sebagai berikut



Dari fitted line plot di atas dapat diketahui nilai-nilai sebagai berikut : Statistik Linear S 4,27286 R-Sq 9,7 % R-Sq(adj) 2,8 % Dari hasil fitted line plot diatas



Kuadratik Kubik 1,82583 1,83340 84,6 % 85,9 % 82,2 % 82,1 % dapat diketahui bahwa model terbaik



adalah model kuadratik dengan nilai S yang paling kecil dan nilai R-Sq (adj) yang besar. Untuk 1.



tahapan



Mendapatkan



pada nilai



ANOVA kuadrat



adalah dari



sebagai



variabel



dosis



berikut



:



obat



(X)



2. Meregresikan kadar creatinin ginjal (Y) dengan variabel dosis obat (X) dan dosis obat (X)^2



4. Menguadratkan nilai X a. Klik Calc → calculator b. Pada kolom Store results in variable isi dengan C6 , Expressions dengan X*X.



c. Klik OK Diperoleh hasil sebagai berikut



5. Meregresikan kadar creatinin ginjal (Y) dengan variabel dosis obat (X) dan dosis obat (X)^2. a. Analisis regresi



b.Klik OK Diperoleh hasil sebagai berikut



6. Uji asumsi yang harus di penuhi 1. Pengujian Kenormalan Nilai Sisaan Untuk menguji kenormalan nilai sisaan dapat mmenggunakan Minitab 16 dengan langkah-langkah sebagai berikut a. Klik Stat → Basic Statistic → Normality Test



b. Isi kolom Variable dengan RESI 2



c. Klik OK Sehingga diperoleh hasil sebagai berikut



Dari gambar tersebut dapat terlihat bahwa nilai sisan mengikuti sebaran normal karena membentuk pola garis lurus dengan sudut kurang dari 45 derajat. Selain itu dengan menggunakan uji Anderson Darling diperoleh nilai P = 0,431 dimana nilai P tersebut lebih dari 0,05 sehingga menujukkan bahwa sisaan mengikuti sebaran normal. 2. Pengujian Heteroskedasitas Nilai Sisaan Untuk menguji heteroskedasitas nilai sisaan dapat menggunakan Minitab 16 dengan langkah-langkah sebagai berikut. a. Klik Stat → Regression → Regression → Graphs b. Centang Residuals vs Fits



c. Klik OK Sehingga diperoleh hasil seperti berikut



Dari gambar tersebut terlihat bahwa titik-titik plot residual menyebar secara acak dan tidak membentuk suatu pola tertentu, sehingga dapat disimpulkan bahwa antara variabel terikat dengan variabel bebas mempunyai keragaman homogen(tidak heteroskedasitas). 3. Pengujian Kebebasan Nilai Sisaan (Autokorelasi) Untuk enguji kebebasan nilai sisaan dapat menggunakan Minitab 16 dengan langkah-langkah sebagai berikut a. Klik Stat → Time Series → Autocorrelation b. Isi Kolom Series dengan RESI 2



c. Klik OK Sehingga diperoleh hasil seperti berikut



Dari gambar tersebut terlihat bahwa tiga garis biru (data) tidak melewati garis merah. Garis merah merupakan selang kepercayaan yang merupakan garis batas signifikansi autokorelasi. Hal itu berarti bahwa tidak ada korelasi antar sisaan atau saling bebas. 4. Pengujian Model Regresi Pengujian Koefisien Regresi Secara Serentak Dengan menggunakan uji F : Uji F digunakan untuk melihat pengaruh variabel bebas secara keseluruhan(serentak) terhadap variabel terikat. Hipotesis dari pengujian koefisien regresi secara serentak ini, yaitu H 0 : β1 =β2



H 1 : Tidak semua β1=0 untuk i=1,2 Atau Ho : Variabel bebas (X) yang menyatakan dosis obat tidak berpengaruh terhadap variabel terikat (Y). H1 : Variabel bebas (X) yang menyatakan dosis obat secara simultan berpengaruh terhadap variabel terikat (Y). Analysis of Variance Source Regression Residual Error Total



DF 2 12 14



SS 222,93 40,00 262,93



MS 111,46 3,33



F 33,44



P 0,000



Dari pengujian dengan menggunakan Minitab 16 diperoleh nilai Fhitung = 33,44 Untuk mencari nilai Ftabel dapat menggunakan tabel uji F berikut.



Pada soal diketahui bahwa k =¿ 1 dan n = 15 , sehingga df ( N 2)=n−k −1= 15 – 1 – 1 = 12, sehingga dari tabel diketahui nilai Ftabel yaitu 4,75 . Karena Fhitung = 33,44 dan Ftabel yaitu 4,75 , maka Fhitung> Ftabel, sehingga menolak H



0



dan



menerima H 1, artinya Variabel bebas (X) yang menyatakan dosis obat secara simultan berpengaruh terhadap kadar kreatinin ginjal (Y). Pengujian Koefisien Regresi Dengan menggunakan uji T : Uji-t digunakan untuk menguji berarti atau tidaknya hubungan variabelvariabel independen(bebas) dengan variabel dependen(tetap). Hipotesis dari pengujian koefisien regresi secara individual yaitu :



- 𝐻0 : 𝛽 = 0, artinya variabel bebas tidak mempunyai pengaruh yang signifikan secara parsial terhadap variabel Y. - 𝐻1 : 𝛽 ≠ 0, artinya variabel bebas mempunyai pengaruh yang signifikan secara parsial terhadap variabel Y. Berdasarkan pengujian menggunakan minitab 16 didapatkan: Analysis of Variance Source Regression Residual Error Total



DF 2 12 14



SS 222,93 40,00 262,93



MS 111,46 3,33



F 33,44



P 0,000



Dari analisis diatas dapat dilihat bahwa nilai p value (P) adalah 0,000, yang mana 0,000 < 0,05, sehingga dapat disimpulkan bahwa variabel bebas (𝑋) yang menyatakan dosis obat berpengaruh secara parsial terhadap variabel terikat (Y ).



2. ANALISIS REGRESI NON LINEAR EKSPONENSIAL Seorang peneliti ingin mengetahui pertumbuhan paru-paru itik Bali, untuk tujuan tersebut dipelihara 20 ekor itik. Itik tersebut di potong masing-masing 5 ekor pada minggu ke 0,2,4 dan 6 dan kemudian diambil paru-parunnya lalu dilakukan pertimbangan. Umur



Ulangan



(Minggu) (X) 0



2



4



6



Berat Paru-Paru (Y)



1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5



35 25 34 49 45 115 128 101 95 130 310 310 305 305 320 980 880 1010 985 1025



Perhitungan manual ln Y^ =ln a+bX ln b = n ¿¿



=



20 (368,457 )−( 60)(104,7249) 20 ( 280 ) −( 60)2



= 0,542822 ∑ ln Y i −¿ ln a = n 104,7249 60 = - (0,5428) ( ¿ n 20 = 3,60778 a = e3,06778 = 36,88497 Y^ =aebx Jadi Y^ =36,89 e0,54282 X Analisis Regresi Non Linear Eksponensial yaitu sebagai berikut : 1. Analisis Regresi terlebih dahulu untuk melihat nilai R-Sq nya. 2. Uji Scatter Plot untuk menentukan model data nya. 3. Melinearkan



variabel



Y



nya



menjadi



linear



dengan



cara



mentransformasikan menjadi bentuk ln Y . 4. Meregresikan variabel yang telah di transformasi dengan variabel bebas (X). 5. Membandingkan nilai R-Sq nya. Jika R-Sq dari data yang telah ditransformasi lebih besar dari pada data yang awal maka model eksponensial dapat digunakan. 6. Pengujian asumsi-asumsi yang harus dipenuhi dalam regresi Linear f. Uji Normalitas g. Uji Heteroskedasitas h. Uji Autokorelasi i.



Uji Multikonearitas



j.



Pengujian Koefisien Regresi secara Serentak (Uji F) dan Pengujian Koefisien Regresi secara Individu(Uji t).



1. Analisis Regresi a. Input data pada minitab.



Diperoleh hasil sebagai berikut



2. Uji Scatterplot a. Klik Graph → Scatterplot → Simple b. Isi kolom Y variables dengan Y dan X variables dengan X.



c. Klik OK Sehingga diperoleh hasil seperti berikut



Dari plot data tersebut maka persamaan garisnya diduga : Y^ =a e bx atau dalam ^ =ln a+¿ bX ¿. bentuk linear : Y 3. Transformasi Data Setelah diketahui bahwa data berat paru-paru berdistribusi eksponensial maka sebelum melakukan estimasi model regresi eksponensial maka data jumlah penduduk terlebih dahulu dilakukan transformasi. Transformasi dilakukan untuk variabel Y yang bertujuan membantu melinierkan kurva regresi eksponensial. Metode transformasi yang dipilih ialah transformasi



untuk data jumlah berat paru-paru dengan menggunakan Ln (Logaritma Natural). Lakukan transformasi Ln terhadapp Y, dengan cara : a. Klik Calc → Calculator b. Pada kolom Store results in variable isi dengan C7 , Expressions dengan LN(Y).



c. Klik OK Diperoleh hasil sebagai berikut



4. Analisis Regresi data yang telah di transformasi.



Ln a = 3,608 , maka a = e3,608=36,982, jadi Y = 36,892 e0,543 X



5. Membandingkan Nilai R-Sq Statistik Y Ln Y S 163,263 0,147405 R-Sq 82,5 % 98,7% R-Sq(adj) 81,6 % 98,6 % Dari hasil analisis regresi diatas dapat diketahui bahwa model terbaik adalah model eksponensial karena R-Sq nya lebih besar.



6. Uji Asumsi Yang Harus Dipenuhi 1. Uji Kenormalan Nilai Sisaan



Dari gambar tersebut dapat terlihat bahwa nilai sisan mengikuti sebaran normal karena membentuk pola garis lurus dengan sudut kurang dari 45 derajat. Selain itu dengan menggunakan uji Anderson Darling diperoleh nilai P = 0,118 dimana nilai P tersebut lebih dari 0,05 sehingga menujukkan bahwa sisaan mengikuti sebaran normal. 2. Pengujian Heteroskedasitas Nilai Sisaan



Dari gambar tersebut terlihat bahwa titik-titik plot residual menyebar secara acak dan tidak membentuk suatu pola tertentu, sehingga dapat disimpulkan



bahwa antara variabel terikat dengan variabel bebas mempunyai keragaman homogen(tidak heteroskedasitas). 3. Uji Kebebasan Nilai Sisaan (Autocorelasi)



Dari gambar tersebut terlihat bahwa tiga garis biru (data) tidak melewati garis merah. Garis merah merupakan selang kepercayaan yang merupakan garis batas signifikansi autokorelasi. Hal itu berarti bahwa tidak ada korelasi antar sisaan atau saling bebas. 4. Pengujian Model Regresi a. Pengujian Koefisien Regresi Secara Serentak Dengan menggunakan uji F : Uji F digunakan untuk melihat pengaruh variabel bebas secara keseluruhan(serentak) terhadap variabel terikat. Hipotesis dari pengujian koefisien regresi secara serentak ini, yaitu H 0 : β1 =β2 H 1 : Tidak semua β1=0 untuk i=1,2 Atau Ho : Variabel bebas (X) yang menyatakan uur tidak berpengaruh terhadap variabel terikat (Y). H1 : Variabel bebas (X) yang menyatakan umur secara simultan berpengaruh terhadap variabel terikat (Y).



Analysis of Variance Source Regression Residual Error Total



DF 1 18 19



SS 29,466 0,391 29,857



MS 29,466 0,022



F 1356,11



P 0,000



Dari pengujian dengan menggunakan Minitab 16 diperoleh nilai Fhitung = 1356,11 Untuk mencari nilai Ftabel dapat menggunakan tabel uji F berikut.



Pada soal diketahui bahwa k =¿ 1 dan n = 20 , sehingga df ( N 2)=n−k −1= 20 – 1 – 1 = 18, sehingga dari tabel diketahui nilai Ftabel yaitu 4,41. Karena Fhitung = 1356,11 dan Ftabel yaitu 4,41 , maka Fhitung> Ftabel, sehingga menolak H



0



dan



menerima H 1, artinya Variabel bebas (X) yang menyatakan umur itik secara simultan berpengaruh terhadap berat paru-paru (Y). Pengujian Koefisien Regresi Dengan menggunakan uji T : Uji-t digunakan untuk menguji berarti atau tidaknya hubungan variabelvariabel independen(bebas) dengan variabel dependen(tetap). Hipotesis dari pengujian koefisien regresi secara individual yaitu : - 𝐻0 : 𝛽 = 0, artinya variabel bebas tidak mempunyai pengaruh yang signifikan secara parsial terhadap variabel Y. - 𝐻1 : 𝛽 ≠ 0, artinya variabel bebas mempunyai pengaruh yang signifikan secara parsial terhadap variabel Y. Berdasarkan pengujian menggunakan minitab 16 didapatkan:



Analysis of Variance Source Regression Residual Error Total



DF 1 18 19



SS 29,466 0,391 29,857



MS 29,466 0,022



F 1356,11



P 0,000



Dari analisis diatas dapat dilihat bahwa nilai p value (P) adalah 0,000, yang mana 0,000 < 0,05, sehingga dapat disimpulkan bahwa variabel bebas (𝑋) yang menyatakan umur itik berpengaruh secara parsial terhadap variabel terikat (Y ).



DAFTAR PUSTAKA



Agustian, W. R., dkk, 2011. Analisis Regresi Non Linier Model Compound. Universitas Negeri Malang. https://id.scribd.com, diakses 11 September 2019. Rhosyied, A., Besari, S. I., & Wijaya, A., Model Regresi Non Linear dan Uji Deteksi Hubungan Non Linear. https://54ud1.files.wordpress.com, diakses 18 September 2019. Setiawan & Kusrini, D.W., 2010. Ekonometrika. Yogyakarta : CV Andi Offset