1 |
改良式脊迴歸分析法於預測模式之應用 / Applied Improved Ridge Regression Analysis周玫芳, Chou, Mei Fang Unknown Date (has links)
當我們在應用迴歸分析法時,往往會遇到兩個或多個自變數間存在著線性
關係的問題,即所謂多重共線性(multicollinearity); 多重共線性的存
在會使得一般被廣泛運用的最小平方估計式 (least square estimator)
出現不穩定的情形。此估計式之總變異(total variance)會因共線性之程
度愈高而發散,呈現出不穩定的現象,進而影響其預測模式的能力。因此
相繼有學者提出改良共線性模式的方法,以期達到較精確且穩健的預測結
果。脊迴歸分析法(Ridge regression analysis) 便是其中之一;對於有
共線性存在之模式,若使用傳統脊估式,其總變異會較最小平方估計式穩
定。但傳統脊估式為一個偏量估計式(biased estimator),故本文考慮採
用Jackknife 取一法以求降低脊迴歸估計式之偏量(bias),此二法併用所
產生之一個新的估計式即本文所謂改良式脊迴歸估計式。本文將應用線性
模式Jackknife 估計式,配合脊迴歸分析法導出改良式脊迴歸估計式。並
另外利用電腦模擬出不同程度之共線性資料以比較分析傳統脊迴歸係數與
改良式脊迴歸係數,此二者於預測模式上之表現。結果顯示:改良式脊迴
歸估計係數對於降低估計偏差方面有顯著之改善,其預測能力亦優於傳統
脊迴歸係數,因此改良式脊迴歸估計式較傳統脊迴歸估計式更加穩定、精
確。迴歸分析是目前應用最廣泛之統計工具,不論是經濟模型、商業方面
以及醫學上之應用等均以求精求準之預測為主要目的,本文提出之改良式
脊迴歸係數,於共線性存在之迴歸模式下兼備了傳統脊迴歸係數穩定估計
式變異以求精,降低估計偏量以求準之優點,因此改良式脊迴歸係數於預
測模式上之貢獻是值得肯定的。
|
2 |
脊迴歸估計之模擬研究鄭敏祿, ZHENG, MIN-LU Unknown Date (has links)
多重線性迴歸模式y=xβ+ε中,通常使用最小平方估計量β估計迴歸係數β。即
β=(X′X)□□X′Y。但當X資料很壞時,β將產生不實際的估計量。為消除
此現象,新估計量的提出及k值決定的方法,各研究者都不同,所得之值亦不同,又
難以確定那個方法比較適當,因此以下是我們研究重點:
1Hoerl 和Kennard 所提脊迴歸法,與Marguardt 所提結合主要成分法的脊估計量的
比較。
2k值選取方法的比較,及
ヾNordberg與Hoerl 和Kennard 求k值的比較。
ゝ修改謝氏法則的結果與謝氏的比較。
本文壹冊,共五章,前四章,各有兩節,最末章不分節。
|
3 |
兩種正則化方法用於假設檢定與判別分析時之比較 / A comparison between two regularization methods for discriminant analysis and hypothesis testing李登曜, Li, Deng-Yao Unknown Date (has links)
在統計學上,高維度常造成許多分析上的問題,如進行多變量迴歸的假設檢定時,當樣本個數小於樣本維度時,其樣本共變異數矩陣之反矩陣不存在,使得檢定無法進行,本文研究動機即為在進行兩群多維常態母體的平均數檢定時,所遇到的高維度問題,並引發在分類上的研究,試圖尋找解決方法。本文研究目的為在兩種不同的正則化方法中,比較何者在檢定與分類上表現較佳。本文研究方法為以 Warton 與 Friedman 的正則化方法來分別進行檢定與分類上的分析,根據其檢定力與分類錯誤的表現來判斷何者較佳。由分析結果可知,兩種正則化方法並沒有絕對的優劣,須視母體各項假設而定。 / High dimensionality causes many problems in statistical analysis. For instance, consider the testing of hypotheses about multivariate regression models. Suppose that the dimension of the multivariate response is larger than the number of observations, then the sample covariance matrix is not invertible. Since the inverse of the sample covariance matrix is often needed when computing the usual likelihood ratio test statistic (under normality), the matrix singularity makes it difficult to implement the test . The singularity of the sample covariance matrix is also a problem in classification when the linear discriminant analysis (LDA) or the quadratic discriminant analysis (QDA) is used.
Different regularization methods have been proposed to deal with the singularity of the sample covariance matrix for different purposes. Warton (2008) proposed a regularization procedure for testing, and Friedman (1989) proposed a regularization procedure for classification. Is it true that Warton's regularization works better for testing and Friedman's regularization works better for classification? To answer this question, some simulation studies are conducted and the results are presented in this thesis.
It is found that neither regularization method is superior to the other.
|
Page generated in 0.0242 seconds