Makalah Analisis Regresi Sederhana [PDF]

Citation preview

BAB I PENDAHULUAN A. Latar Belakang Untuk mengukur besarnya pengaruh variabel bebas terhadap variabel tergantung dan memprediksi variabel tergantung dengan menggunakan variabel bebas. Gujarati (2006) mendefinisikan analisis regresi sebagai kajian terhadap hubungan satu variabel yang disebut sebagai variabel yang diterangkan (the explained variabel) dengan satu atau dua variabel yang menerangkan (the explanatory). Variabel pertama disebut juga sebagai variabel tergantung dan variabel kedua disebut juga sebagai variabel bebas. Jika variabel bebas lebih dari satu, maka analisis regresi disebut regresi linear berganda. Disebut berganda karena pengaruh beberapa variabel bebas akan dikenakan kepada variabel tergantung. B. Rumusan Masalah 1. Bagaimana Pengertian analisis Regresi sederhana? 2. Bagaimana Menggunakan analisis regresi sederhana ? C. Tujuan Masalah Tujuan menggunakan analisis regresi ialah : 



Membuat estimasi rata-rata dan nilai variabel tergantung dengan didasarkan pada nilai variabel bebas.







Menguji hipotesis karakteristik dependensi.







Untuk meramalkan nilai rata-rata variabel bebas dengan didasarkan pada nilai variabel bebas di luar jangkauan sampel.



1



BAB II PEMBAHASAN



A. Pengertian Analisis Regresi Sir Francis Galton (1822 – 1911), memperkenalkan model peramalan, penaksiran, atau pendugaan, yang selanjutnya dinamakan regresi, sehubungan dengan penelitiannya terhadap tinggi badan manusia. Penelitian tersebut membandingkan antara tinggi anak laki-laki dan tinggi badan ayahnya. Galton menunjukkan bahwa tinggi badan anak laki-laki dari ayah yang tinggi setelah beberapa generasi cenderung mundur (regressed) mendekati nilai tengah populasi. Dengan kata lain, anak laki-laki dari ayah yang badannya sangat tinggi cenderung lebih pendek dari pada ayahnya, sedangkan anak laki-laki dari ayah yang badannya sangat pendek cenderung lebih tinggi dari ayahnya. (Ronal E. Walpole). Analisis regresi digunakan untuk menentukan bentuk (dari) hubungan antar variabel. Tujuan utama dalam penggunaan analisis ini adalah untuk meramalkan atau menduga nilai dari satu variabel dalam hubungannya dengan variabel yang lain yang diketahui melalui persamaan garis regresinya. Adakalanya, setelah kita memperoleh data berdasarkan sampel, kita ingin menduga nilai dari suatu variabel Y yang bersesuaian dengan nilai tertentu dari variabel X. Hal ini diperoleh dengan menaksir nilai Y dari kurva kuadrat minimum yang sesuai dengan data yang kita himpun dari sampel. Kurva yang diperoleh dan kita bentuk dari data sampel itu disebut kurva regresi Y terhadap X, karena Y diduga dari X. Dalam melakukan analisis regresi, sebagian besar mahasiswa biasanya tidak melakukan pengamatan populasi secara langsung. Hal itu dilakukan selain pertimbangan waktu, tenaga, juga berdasarkan pertimbangan biaya yang relatif besar jika melakukan pengamatan terhadap populasi. Dalam hal ini, lazimnya digunakan persamaan regresi linier sederhana sampel sebagai penduga persamaan regresi linier sederhana populasi dengan bentuk persamaan seperti berikut : y = a



2



+ bX. Dan karena antara Y dan X memiliki hubungan, maka nilai X dapat digunakan untuk menduga atau meramal nilai Y. X dinamakan variabel bebas karena variabel ini nilai-nilainya tidak bergantung pada variabel lain. Dan Y disebut variabel terikat juga karena variabel yang nilai-nilainya bergantung pada variabel lain. Hubungan antar variabel yang akan dipelajari disini hanyalah hubungan linier sederhana, yakni hubungan yang hanya melibatkan dua variabel (X dan Y) dan berpangkat satu. Regresi sederhana, adalah bentuk regresi dengan model yang bertujuan untuk mempelajari hubungan antara dua variabel, yakni variabel independen (bebas) dan variabel dependen (terikat). Jika ditulis dalam bentuk persamaan, model regresi sederhana adalah y = a + bx, di mana, y adalah variabel tak bebas (terikat), X adalah variabel bebas, a adalah penduga bagi intercept (α), b adalah penduga bagi koefisien regresi (β). Atau dengan kata lain α dan β adalah parameter yang nilainya tidak diketahui sehingga diduga melalui statistik sampel. Menurut kelaziman, dalam ilmu statistika ada dua macam hubungan antara dua variabel yang relatif sering digunakan, yakni bentuk hubungan dan keeratan hubungan. Bentuk hubungan bisa diketahui melalui analisis regresi, sedangkan keeratan hubungan dapat diketahui dengan analisis korelasi. Analisis regresi dipergunakan untuk menelaah hubungan antara dua variabel atau lebih, terutama untuk menelusuri pola hubungan yang modelnya belum diketahui dengan baik, atau untuk mengetahui bagaimana variasi dari beberapa variabel independen mempengaruhi variabel dependen dalam suatu fenomena yang kompleks. Jika X1, X2, ...., Xn, adalah variabel-variabel independen dan Y adalah variabel dependen, maka terdapat hubungan fungsional antara X dan Y, di mana variasi dari X akan diiringi pula oleh variasi dari Y. Jika dibuat secara matematis hubungan itu dapat dijabarkan sebagai berikut: Y = f(X1, X2, ....., Xn, e), di mana Y adalah variabel dependen (tak bebas), X adalah variabel independen (bebas) dan e adalah variabel residu (disturbace term). Berkaitan dengan analisis regresi ini, setidaknya ada empat kegiatan yang lazim dilaksanakan yakni : (1) mengadakan estimasi terhadap parameter berdasarkan data empiris, (2) menguji berapa besar variasi variabel dependen



3



dapat diterangkan oleh variasi independen, (3) menguji apakah estimasi parameter tersebut signifikan atau tidak, dan (4) melihat apakah tanda magnitude dari estimasi parameter cocok dengan teori. Hubungan antar variabel dapat berupa hubungan linier ataupun hubungan tidak linier. Misalnya, berat badan orang dewasa sampai pada tahap tertentu bergantung pada tinggi badan, keliling lingkaran bergantung pada diameternya, dan tekanan gas bergantung pada suhu dan volumenya. Atau dalam ilmu pemasaran, nilai penjualan akan bergantung pada biaya promosi. Hubungan-hubungan itu bila dinyatakan dalam bentuk matematis akan memberikan persamaan-persamaan tertentu. Untuk dua variabel, hubungan liniernya dapat dinyatakan dalam bentuk persamaan linier, yakni: Y = a + bX. Hubungan antara dua variabel pada persamaan linier jika digambarkan secara (scatter diagram), semua nilai Y dan X akan berada pada suatu garis lurus. Dan dalam ilmu ekonomi, garis itu dinamakan garis regresi.



B. Kegunaan Analisis Regresi Analisis regresi dalam statistika adalah salah satu metode untuk menentukan hubungan sebab -akibat antara satu variabel dengan variabel (variabel) yang lain. Variabel "penyebab" disebut dengan bermacam-macam istilah: variabel penjelas, variabel eksplanatorik, variabel independen, atau secara bebas, variabel X (karena sering kali digambarkan dalam grafik sebagai absis, atau sumbu X). Variabel terkena akibat dikenal sebagai variabel yang dipengaruhi, variabel dependen, variabel terikat, atau variabel Y. Kedua variabel ini dapat merupakan variabel acak (random), namun variabel yang dipengaruhi harus selalu variabel acak. Analisis regresi adalah salah satu analisis yang paling populer dan luas pemakaiannya. Hampir semua bidang ilmu yang memerlukan analisis sebab akibat boleh dipastikan mengenal analisis ini. Analisis regresi dan analisis korelasi dikembangkan untuk mengkaji dan mengukur hubungan antara dua variabel atau lebih. Dalam analisis regresi dikembangkan persamaan estimasi untuk



4



mendeskripsikan pola atau fungsi hubungan antara variabel-variabel. Sesuai dengan namanya, persamaan estimasi atau persamaan regresi itu digunakan untuk mengestimasi nilai dari suatu variabel berdasarkan nilai variabel lainnya. Variabel yang di estimasi itu disebut variabel dependen (atau variabel terikat) sedangkan variabel yang diperkirakan memengaruhi variabel dependen itu disebut variabel independen (atau variabel bebas). Variabel dependen lazimnya dilukis pada sumbu- Y (dan karenanya diberi simbol Y) sementara variabel independen dilukis pada sumbu- X (dan karenanya diberi simbol X). Berdasarkan konsep ini, maka hubungan antara variabel Y dan X dapat diwakili dengan sebuah garis regresi. Di samping untuk mengestimasi, analisis regresi juga digunakan untuk mengukur tingkat ketergantungan (dependability) dari estimasi itu. Analisis korelasi digunakan untuk mengukur tingkat kedekatan (closeness) hubungan



antar



variabel-variabel.



Dengan



kata



lain,



analisis



regresi



mempertanyakan pola hubungan fungsional sedangkan analisis korelasi mempertanyakan



kedekatan



hubungan



antar



variabel-variabel.



Walaupun



dimungkinkan penggunaan analisis regresi dan analisis korelasi secara terpisah, namun dalam kenyataan, istilah analisis korelasi mencakup baik masalah korelasi dan regresi. Analisis regresi lebih akurat dalam melakukan analisis korelasi, karena pada analisis itu kesulitan dalam menunjukkan slop (tingkat perubahan suatu variabel terhadap variabel lainnya dapat ditentukan). Dengan demikian maka melalui analisis regresi, peramalan nilai variabel terikat pada nilai variabel bebas lebih akurat pula. Upaya mengestimasi atau memprediksi lazimnya diawali dengan mengadakan eksperimen. Sebagai contoh dikemukakan eksperimen yang dilakukan oleh suatu perusahaan yang memproduksi mainan anak-anak. Eksperimen itu didasarkan pada penalaran bahwa “ karyawan yang berbakat akan lebih produktif daripada karyawan yang kurang berbakat dalam pembuatan mainan anak-anak”. Untuk maksud tersebut perusahaan memilih delapan responden yang harus mengikuti aptitude-test dan dihubungkan hasil perakitan mainan anak-anak dalam seminggu dihitung. Tabulasi skor aptitude-test dan hasil



5



perakitan di tabulasi seperti ditunjukkan pada tabel. Jika data tersebut dilukis koordinat cartesian, maka diperoleh sebaran titik-titik (X;Y) seperti ditunjukkan pada gambar, (titik C dan F menunjukkan data yang berkaitan dengan responden C dan F). Analisis regresi mempelajari hubungan yang diperoleh dinyatakan dalam persamaan matematika yang menyatakan hubungan fungsional antara variabelvariabel. Hubungan fungsional antara satu variabel prediktor dengan satu variabel kriterium disebut analisis regresi sederhana (tunggal), sedangkan hubungan fungsional yang lebih dari satu variabel disebut analisis regresi ganda.



C. Regresi Linier Sederhana Sebagaimana diketahui, banyaknya kejadian didunia ini yang merupakan kejadian yang saling menyebabkan. Kejadian yang saling menyebabkan adalah suatu kejadian yang keterjadiannya akan menyebabkan keterjadian kejadian yang lain. Contoh yang kongkrit adalah penggunaan metode belajar think pair share meningkatkan hasil belajar siswa. Untuk mencari suatu pengaruh variabel terhadap variabel lain, alat analisis yang kita gunakan adalah analisis regresi. Hasil analisis regresi berupa persamaan regresi yang merupakan fungsi prediksi suatu variabel dengan menggunakan variabel lain. Model regresi linier sederhana merupakan persamaan yang menyatakan hubungan antara satu variabel predictor (X) dan satu variabel respon (Y), yang biasanya digambarkan dalam suatu garis lurus.



Y^ =a+bX



Persamaan regresi linier sederhana : Keterangan:



Y^ = regresi (dibaca Y topi) a = konstanta b = koefisien regresi



6



Y = Variabel dependen/ variabel terikat/ variabel tak bebas (kejadian) X = Variabel independen/ variabel bebas/ variabel predictor (penyebab) Koefisien-koefisen regresi dapat dihitung dengan rumus:



a=



( ∑ Y i )( ∑ X 2 )−( ∑ X i )( ∑ X i Y i ) i



n ∑ X 2 −( ∑ X i )2 i



b=



n ( ∑ X i Y i )−( ∑ X i )( ∑ Y i ) n ∑ X 2−(∑ X i )2 i



D. Langkah-langkah Melakukan Analisis Regresi Sederhana Langkah langkah yang ditempuh dalam melakukan analisis regresi sederhana adalah: 1. Membuat Tabel Belanja Statistik 2. Menghitung Jumlah Kuadrat (JK) dan Jumlah Produk (JP) dan Korelasi 3. Mencari Persamaan Garis Regresi 4. Mencari f Regresi dan Menguji Taraf Signifikansi Untuk contoh akan dibahas tentang hubungan penguasaan Dasar Manajemen dengan Keterampilan Manajerial. X = Dasar Manajemen Y = Keterampilan Manajerial Data disajikan sebagai Berikut:



Penguasaan Dasar -dasar Manajemen (Xi)



72



78



69



80



75



Keterampilan Manajerial (Yi)



70



88



97



82



79



7



Penyelesaian :



No 1 2 3



Xi



Yi 72 78 69



Xi² 70 5,184 88 6,084 97 4,761



1. Membuat tabel belanja statistik



Statistik Induk



Nilai



JK dan JP



n



12



∑Xi



885



8



2. Mencari JK (Jumlah Kuadrat) dan JP (Jumlah Produk) dan Korelasi Jumlah Kuadrat (JK):



( ∑ X i )2 (885 )2 783 . 225 JKx=∑ x =∑ X 2− =65. 651− =65 . 651− =382 , 25 i n 12 12 2



JKy=∑



( ∑ Y i )2 (1 . 039)2 1 . 079. 521 y =∑ Y 2− =90 . 707− =90 .707− =746 , 91 i n 12 12 2



Jumlah Produk (JP):



JPxy =∑ xy= ∑ X i Y i −



( ∑ X i )( ∑ Y i ) (885 )(1. 039 ) 919 .515 =76 . 677− =76 . 677− =50 , 75 n 12 12



Korelasi:



r=



∑ xy =50 ,75 50 , 75 50 , 75 = = =0 , 0949 2 2 534 ,3279 (382, 25)(746 , 91) 285. 506 , 34 √ √ √( ∑ x )(∑ y )



3. Mencari Persamaan Garis Regresi ( ∑ Y i )( ∑ X 2 )−( ∑ X i )( ∑ X i Y i ) (1. 039 )( 65 . 651)−(885 )(76 . 677 ) i a= = 2 n ∑ X 2 −( ∑ X i ) (12)(65 .651 )−(885)2 i



(68 . 211. 389 )−(67 . 859 .145 ) 352 . 244 a= = =76 ,79 (787 . 812)−(783. 225 ) 4 . 587



b=



n( ∑ X i Y i )−( ∑ X i )( ∑ Y i ) (12)(76 . 677)−(885 )(1. 039) = n ∑ X 2 −( ∑ X i )2 (12)(65 . 651)−(885)2 i



(920 . 124 )−(919 . 515) 609 b= = =0 , 13 (787 . 812)−(783. 225 ) 4 . 587 Persamaan garis regresinya adalah:



Y^ = a + bX Y^ = 76,79 + 0,13 X



9



4. Mencari F Regresi dan Menguji Taraf Signifikansi JK (total)



JK (a)



=



∑ Y i 2=90. 707



=



( ∑ Y i )2 (1. 039 )2 1 . 079 .521 = = =89 . 960 , 083 n 12 12



JK re gresi=b JK residu



{∑



Xi Y i−



(∑ X i )( ∑ Y i ) n



} {



= 0 ,13 76 .677−



(885 )(1 . 039) =0 , 13(50 ,75 )=6 ,7379 12



}



= JK (total) –JK (a) – JK regresi = 90.707 – 89.960,083 – 6,7379 = 740,1791



dk regresi



=m=1



dk residu



= n – m – 1 = 12 – 1 – 1 = 10



RJK regresi =



RJK residu=



JK regresi 6 ,73 = =6 ,73 dk regresi 1



JK residu 740 , 17 = =74 , 01 dk residu 10



Hipotesis diuji dengan uji F :



F=



RJK regresi RJK residu



=



6 ,73 =0 , 09 74 , 01



dk pembilang 1 dan dk penyebut 10 maka F tabel (1,10) pada p = 0,05 atau F (1,10) (0,05)



= 4,96



10



Berdasarkan data tersebut dapat disusun tabel rangkuman analisis regresi untuk persamaan garis



^ Y=76,79+0,13 X



sebagai berikut :



Sumber Variasi



dk



JK



RJK



F hitung



Regresi Residu Total



1 10 11



6.73 740.17 746.9



6.7 74.01 -



0,09 -



F tabel p = 0,05 4,96 -



Hipotesis: Ho



= Koefisien arah regresi tidak berarti



Ha



= Koefisien arah regresi berarti



Dari hasil perhitungan ternyata Fh (0,09) < Ft (4,96) Hasil pengujian : Ho diterima Kesimpulan : Tidak terdapat hubungan yang signifikan antara Penguasaan Dasar-dasar



Manajemen dengan Keterampilan Manajerial



pada taraf signifikansi 5 persen.



11



BAB III PENUTUP A. Kesimpulan Analisis regresi berbeda dengan analisis korelasi. Jika analisis korelasi digunakan untuk melihat hubungan dua variable; maka analisis regresi digunakan untuk melihat pengaruh variable bebas terhadap variable tergantung serta memprediksi nilai variable tergantung dengan menggunakan variable bebas. Dalam analisis regresi variable bebas berfungsi untuk menerangkan (explanatory) sedang variable tergantung berfungsi sebagai yang diterangkan (the explained). Dalam analisis regresi data harus berskala interval atau rasio. Ada dua macam linieritas dalam analisis regresi, yaitu linieritas dalam variabel dan linieritas dalam parameter. Yang pertama, linier dalam variabel merupakan nilai rata-rata kondisional variabel tergantung yang merupakan fungsi linier dari variabel (variabel) bebas. Sedang yang kedua, linier dalam parameter merupakan fungsi linier parameter dan dapat tidak linier dalam variabel. Model dikatakan baik menurut Gujarati (2006), jika memenuhi beberapa kriteria seperti di bawah ini : 



Parsimoni: Suatu model tidak akan pernah dapat secara sempurna menangkap realitas; akibatnya kita akan melakukan sedikit abstraksi ataupun penyederhanaan dalam pembuatan model.







Mempunyai Identifikasi Tinggi: Artinya dengan data yang ada, parameterparameter yang di estimasi harus mempunyai nilai-nilai yang unik atau dengan kata lain, hanya akan ada satu parameter saja.







Keselarasan (Goodness of Fit): Tujuan analisis regresi ialah menerangkan sebanyak



mungkin



variasi



dalam



variabel



tergantung



dengan



menggunakan variabel bebas dalam model. Oleh karena itu, suatu model dikatakan baik jika eksplanasi diukur dengan menggunakan nilai adjusted r2 yang setinggi mungkin.



12



DAFTAR PUSTAKA William H. Kruskal and Judith M. Tanur, ed. (1978), "Linear Hypotheses," International Encyclopedia of Statistics. Free Press, v. 1, Evan J. Williams, "I. Regression," pp. 523–41. Julian C. Stanley, "II. Analysis of Variance," pp. 541–554. Lindley, D.V. (1987). "Regression and correlation analysis," New Palgrave: A Dictionary of Economics, v. 4, pp. 120–23. Birkes, David and Yadolah Dodge, Alternative Methods of Regression. ISBN 0471-56881-3 Chatfield, C. (1993) "Calculating Interval Forecasts," Journal of Business and Economic Statistics, 11. pp. 121–135. Corder, G.W. and Foreman, D.I. (2009).Nonparametric Statistics for NonStatisticians: A Step-by-Step Approach Wiley, ISBN 978-0-470-45461-9 Draper, N.R. and Smith, H. (1998).Applied Regression Analysis Wiley Series in Probability and Statistics Fox, J. (1997). Applied Regression Analysis, Linear Models and Related Methods. Sage Hardle, W., Applied Nonparametric Regression (1990), ISBN 0-521-42950-1 Meade, N. and T. Islam (1995) "Prediction Intervals for Growth Curve Forecasts," Journal of Forecasting, 14, pp. 413–430. N. Cressie (1996) Change of Support and the Modiable Areal Unit Problem. Geographical Systems 3:159–180. A.S. Fotheringham, C. Brunsdon, and M. Charlton. (2002) Geographically weighted regression: the analysis of spatially varying relationships. Wiley.



13