函數(shù)kappa()

df<-data.frame()
df_cor=cor(df)
kappa(df_cor, exact=T) 

當(dāng) κ<100κ<100 , 說明共線性程度??；

當(dāng) 100<κ<1000100<κ<1000 , 有較強(qiáng)的多重共線性；

當(dāng) κ>1000κ>1000，存在嚴(yán)重的多重共線性。

函數(shù)qr()

x<-matrix()
qr(x)$rank

qr(X)$rank 計算X矩陣的秩，如果不是滿秩的，說明其中有xixi可以用其他xjxj的線性組合表示；此時可以進(jìn)行逐步回歸，用step()命令。

fm<-lm()
step(fm)

補(bǔ)充：多重共線性的產(chǎn)生原因、判別、檢驗(yàn)、解決方法

最近做回歸分析，出現(xiàn)了相關(guān)系數(shù)與回歸方程系數(shù)符號相反的問題，經(jīng)過研究，確認(rèn)是多重共線性問題并探索了解決方法。

在此將多重共線性的相關(guān)知識整理如下。

解釋變量理論上的高度相關(guān)與觀測值高度相關(guān)沒有必然關(guān)系，有可能兩個解釋變量理論上高度相關(guān)，但觀測值未必高度相關(guān)，反之亦然。所以多重共線性本質(zhì)上是數(shù)據(jù)問題。

造成多重共線性的原因有一下幾種：

1、解釋變量都享有共同的時間趨勢；

2、一個解釋變量是另一個的滯后，二者往往遵循一個趨勢；

3、由于數(shù)據(jù)收集的基礎(chǔ)不夠?qū)?，某些解釋變量可能會一起變動?/p>

4、某些解釋變量間存在某種近似的線性關(guān)系；

判別：

1、發(fā)現(xiàn)系數(shù)估計值的符號不對；

2、某些重要的解釋變量t值低，而R方不低

3、當(dāng)一不太重要的解釋變量被刪除后，回歸結(jié)果顯著變化；

檢驗(yàn)：

1、相關(guān)性分析，相關(guān)系數(shù)高于0.8，表明存在多重共線性；但相關(guān)系數(shù)低，并不能表示不存在多重共線性；

2、vif檢驗(yàn)；

3、條件系數(shù)檢驗(yàn)；

解決方法：

1、增加數(shù)據(jù)；

2、對模型施加某些約束條件；

3、刪除一個或幾個共線變量；

4、將模型適當(dāng)變形；

5、主成分回歸

處理多重共線性的原則：

1、 多重共線性是普遍存在的，輕微的多重共線性問題可不采取措施；

2、 嚴(yán)重的多重共線性問題，一般可根據(jù)經(jīng)驗(yàn)或通過分析回歸結(jié)果發(fā)現(xiàn)。如影響系數(shù)符號，重要的解釋變量t值很低。要根據(jù)不同情況采取必要措施。

3、 如果模型僅用于預(yù)測，則只要擬合程度好，可不處理多重共線性問題，存在多重共線性的模型用于預(yù)測時，往往不影響預(yù)測結(jié)果；

以上為個人經(jīng)驗(yàn)，希望能給大家一個參考，也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方，望不吝賜教。

最新評論