Chulalongkorn University Theses and Dissertations (Chula ETD)

การเปรียบเทียบค่าพยากรณ์ที่ได้จากตัวแบบที่คัดเลือกตัวแปร ด้วยวิธีเบส์เซียน วิธีการกำจัดตัวแปรแบบถอยหลัง และวิธีการถดถอยแบบขั้นบันได ในการวิเคราะห์ความถดถอยพหุนามแบบลำดับขั้น

Other Title (Parallel Title in Other Language of ETD)

A Comparison of predicted values of dependent variable using models selected by bayesian variable selection, backward eliminatiion and stepwise regression with hierachical polynomial regression

Year (A.D.)

1997

Document Type

Thesis

First Advisor

ธีระพร วีระถาวร

Faculty/College

Graduate School (บัณฑิตวิทยาลัย)

Degree Name

สถิติศาสตรมหาบัณฑิต

Degree Level

ปริญญาโท

Degree Discipline

สถิติ

DOI

10.58837/CHULA.THE.1997.1056

Abstract

การวิจัยครั้งนี้มีวัตถุประสงค์เพื่อเปรียบเทียบค่าพยากรณ์จากตัวแบบที่คัดเลือกจาก 3 วิธี คือ วิธี เบส์เซียน(BS) วิธีการกำจัดตัวแปรแบบถอยหลัง (BE) และวิธีการถดถอยแบบขั้นบันได (SW) ในการวิเคราะห์ความถดถอยเชิงเส้นเมื่อตัวแปรอิสระมีความสัมพันธ์พหุนามแบบลำดับขั้น เกณฑ์ที่ใช้ในการตัดสินใจคือ เกณฑ์ค่าเฉลี่ยของค่าคลาดเคลื่อนกำลังสองเฉลี่ย (AMSE) กำหนดจำนวนตัวแปรอิสระสูงสุดที่ใช้ในการสร้างตัวแปรตาม (MB) และจำนวนตัวแปรอิสระสูงสุดที่ใช้ในการสร้างตัวแบบเริ่มต้น (MI) ไม่เกิน 6 ตัวแปร อันดับสูงสุดของพจน์ที่ศึกษาไม่เกิน 2 ค่าคลาดเคลื่อนที่ใช้มีการแจกแจงแบบปกติด้วยค่าเฉลี่ย 0 และส่วนเบี่ยงเบนมาตรฐาน 5 10 20 และ 25 ขนาดตัวอย่าง (n) ที่ศึกษาคือ 25 50 75 และ 100 ระดับนัยสำคัญ (α) ที่ ใช้ คือ 0.01 และ 0.05 และค่าคงที่ของวิธี BS คือ (℺β/t, c) มีค่าเป็น (1,5) (1,10) (10,100) และ (10,500) ข้อมูลที่ใช้ในการวิจัยได้จากการจำลองด้วยเทคนิคมอนติคาร์โล กระทำซ้ำ 200 รอบในแต่ละสถานการณ์ ผลการวิจัยได้ข้อสรุปดังนี้ เมื่อใช้ตัวแบบที่เหมาะสม คือ MI - MB = 0 และตัวแบบที่มีจำนวน ตัวแปรมากเกินไป MI - MB > 0 วิธี BS จะให้ค่าพยากรณ์ที่มีความคงเส้นคงวา และมี AMSE ตํ่ากว่าวิธีอื่น แต่เมื่อใช้ตัวแบบที่มีจำนวนตัวแปรน้อยเกินไป คือ MI - MB < 0 วิธี BS จะให้ค่าพยากรณ์ที่ดีกว่าวิธีอื่น เมื่อค่าส่วนเบี่ยงเบนมาตรฐานของค่าคลาดเคลื่อนมีค่าตํ่าและขนาดตัวอย่างใหญ่ แต่เมื่อระดับนัยสำคัญเพิ่มขึ้นวิธี SW และ BE จะให้ค่าพยากรณ์ที่ดีขึ้น ในกรณีที่ค่าคงที่ (℺β/t, c) ของวิธี BS มีค่าตํ่า ๆ จะทำให้ค่า AMSE ของวิธี BS ตํ่ากว่าวิธีอื่น ปัจจัยที่มีผลต่อค่า AMSE ของแต่ละวิธีเรียงตามลำดับจากมากไปน้อย คือ ค่า AMSE ของทุกวิธี จะแปรผันตามส่วนเบี่ยงเบนมาตรฐานของค่าคลาดเคลื่อน ค่า MB และค่า MI - MB แต่จะแปรผกผันกับขนาดตัวอย่าง สำหรับปัจจัยอื่นที่มีผลกระทบต่อ AMSE ของวิธี BE และ SW คือ ระดับนัยสำคัญ โดยที่ค่า AMSE ของทั้งสองวิธีนั้นจะแปรผกผันกับระดับนัยสำคัญ

Other Abstract (Other language abstract of ETD)

The objective of this research is to compare the predicted values of dependent variable using models selected by Bayesian variable selection (BS), Backward elimination (BE) and Stepwise regression (SW) with Hierachical polynomial regression. Under consideration in this research are the following: The highest numbers of independent variables for dependent variable generating (MB) and initial model building (MI) are 1, 2, 3, 4, 5 and 6. The highest exponent of hierachical polynomial term is 2nd. Random error distributions are normal with mean zero and standard deviations 5, 10, 20 and 25. Sample sizes are 25, 50, 75 and 100. Significant levels are 0.01 and 0.05. Bayesian hyperparameters (℺β/t, c) are (1,5), (1,10), (10,100) and (10,500). The criterion of comparison is average mean square error (AMSE). The data are obtained through simulation using a Monte Carlo technique and repeating 200 times for each case. The results of this research are as follows: When using optimal model, MI - MB = 0, or overfitted model, MI - MB > 0, BS gives consistent predicted values of dependent variable and minimum AMSE. When using underfitted model, MI - MB < 0, BS gives minimum AMSE in cases where the standard deviation of the random error is small and the sample size is large. Higher significant level, supports SW and BE to give minimum AMSE. Lower hyperparameters of BS are (℺β/t, c) which support BS gives minimum AMSE Standard deviation of random error, number of variables in MB and the difference in the number of variables in MI and MB (MI - MB) affected AMSE, respectively. AMSE is decreased when sample size increased. The higher significant level decreased affected the AMSE of BE and SW decreased but did not affect the AMSE of BS.

ISBN

9746391755

Link to Full Text

Share

COinS