非參數(shù)檢驗是在總體方差未知或知道甚少的情況下，利用樣本數(shù)據(jù)對總體分布形態(tài)進行推斷的方法。它利用數(shù)據(jù)的大小間的次序關(guān)系(秩Rank)，而不是具體數(shù)值信息，得出推斷結(jié)論。

它是參數(shù)檢驗所需要的某些條件不滿足時所使用的方法。

和參數(shù)檢驗相比，非參數(shù)檢驗的優(yōu)勢如下：

穩(wěn)健性。對總體分布的條件要求放寬

對數(shù)據(jù)類型要求不嚴格，適用有序分類變量

適用范圍廣

劣勢：

沒有利用實際數(shù)值，損失了部分信息，檢驗的有效性較差。

非參數(shù)性檢驗的方法非常多，基于方法的檢驗功效性角度，本文只涉及

雙獨立樣本：Mann-Whitney U檢驗

雙配對樣本：Wilcoxon配對秩和檢驗

多獨立樣本：Kruskal-Wallis檢驗

多配對樣本：Friedman檢驗

Mann-Whitney U檢驗

曼-惠特尼U檢驗(曼-惠特尼秩和檢驗)，是由H.B.Mann和D.R.Whitney于1947年提出的。它假設兩個樣本分別來自除了總體均值以外完全相同的兩個總體，目的是檢驗這兩個總體的均值是否有顯著的差別。

適用條件

雙獨立樣本檢驗

R語言示例

函數(shù)及格式：wilcox.test(y~x,data)

其中，y是連續(xù)變量，x是一個二分變量。

也可以使用這種形式：

wilcox.test(y1,y2)

其中，y1和y2為變量名。可選參數(shù)data的取值為一個包含這些變量的矩陣或數(shù)據(jù)框。

示例：

#載入MASS包
library(MASS)
#使用UScrime數(shù)據(jù)集
#Prob為監(jiān)禁率，So為是否南方地區(qū)
#檢驗美國監(jiān)禁率是否存在南方和非南方差異
#wilcox.test檢驗
wilcox.test(Prob~So,data = UScrime)
#結(jié)果
 Wilcoxon rank sum test

data:  Prob by So
W = 81, p-value = 8.488e-05
alternative hypothesis: true location shift is not equal to 0
#結(jié)果顯示P小于0.001,美國監(jiān)禁率存在南方和非南方地區(qū)差異。

Wilcoxon配對秩和檢驗

Wilcoxon配對秩和檢驗是對Sign符號檢驗的改進。它的假設被歸結(jié)為總體中位數(shù)是否為0。

適用條件

雙配對樣本檢驗

R語言示例

Wilcoxon配對秩和檢驗調(diào)用函數(shù)格式與Mann-Whitney U檢驗相同。不同之處在于可以添加paired=TRUE參數(shù)。

示例：

#u1(14-24歲年齡段城市男性失業(yè)率)
#u2(35-39歲年齡段城市男性失業(yè)率)
#檢驗失業(yè)率是否在兩個年齡段存在差異
#Wilcoxon配對秩和檢驗
with(UScrime,wilcox.test(U1,U2,paired = TRUE))
#結(jié)果
 Wilcoxon signed rank test with continuity correction

data:  U1 and U2
V = 1128, p-value = 2.464e-09
alternative hypothesis: true location shift is not equal to 0
#結(jié)果顯示，存在差別。

Kruskal-Wallis檢驗

由克羅斯考爾和瓦里斯1952年提出，用來解決多獨立樣本難以滿足方差分析條件(獨立性、正態(tài)性、方差齊性)時統(tǒng)計推斷問題。

適用條件

多獨立樣本檢驗

R語言示例

函數(shù)格式：

kruskal.test(y~A,data)

其中，y為連續(xù)變量，A為兩個或更多水平的分組變量。

示例：

#檢驗美國四個地區(qū)文盲率是否存在差異
#數(shù)據(jù)皆來自R自帶數(shù)據(jù)集
#通過state.region數(shù)據(jù)集獲取地區(qū)名稱，即分組變量。
states <- data.frame(state.region,state.x77)
#調(diào)用kruskal.test函數(shù)
kruskal.test(Illiteracy~state.region,data = states)
#結(jié)果
 Kruskal-Wallis rank sum test

data:  Illiteracy by state.region
Kruskal-Wallis chi-squared = 22.672, df = 3, p-value =
4.726e-05
#結(jié)果顯示，文盲率存在地區(qū)差異。

Friedman檢驗

Friedman檢驗也稱弗里德曼雙向評秩方差分析。由Friedman在1937年提出，基本思想是獨立對每一個區(qū)組分別對數(shù)據(jù)進行排秩，消除區(qū)組間的差異以檢驗各種處理之間是否存在差異。

適用條件

多配對樣本檢驗

Fiedman檢驗在樣本量有限的情況下，實際應用價值不大。

R語言示例

函數(shù)格式：

friedman.test(y~A|B,data)

其中，y為連續(xù)變量，A是一個分組變量，B是一個用以認定匹配觀測的區(qū)組變量。

或者

friedman.test(data=matrix格式)

其中，data要求矩陣格式?？梢酝ㄟ^as.matrix轉(zhuǎn)換

示例：

(虛構(gòu))有30名女性分為三組每組10人，試吃三種藥。經(jīng)過一段時間后，藥效如下。問三種藥藥效是否有區(qū)別。

藥1

4.4,5,5.8,4.6,4.9,4.8,6,5.9,4.3,5.1

藥2

6.2,5.2,5.5,5,4.4,5.4,5,6.4,5.8,6.2

藥3

7.0,6.2,5.9,6,4.6,6.4,5,6.4,5.8,6.2

#生成數(shù)據(jù)集
drug1 <- c(4.4,5,5.8,4.6,4.9,4.8,6,5.9,4.3,5.1)
drug2 <- c(6.2,5.2,5.5,5,4.4,5.4,5,6.4,5.8,6.2)
drug3 <- c(7.0,6.2,5.9,6,4.6,6.4,5,6.4,5.8,6.2)
#矩陣
data <- matrix(c(drug1,drug2,drug3),nrow = 10,dimnames = list(ID=1:10,c('drug1','drug2','drug3')))
#查看數(shù)據(jù)
data
    
ID   drug1 drug2 drug3
  1    4.4   6.2   7.0
  2    5.0   5.2   6.2
  3    5.8   5.5   5.9
  4    4.6   5.0   6.0
  5    4.9   4.4   4.6
  6    4.8   5.4   6.4
  7    6.0   5.0   5.0
  8    5.9   6.4   6.4
  9    4.3   5.8   5.8
  10   5.1   6.2   6.2
#調(diào)用friedman.test函數(shù)
friedman.test(data)

 Friedman rank sum test

data:  data
Friedman chi-squared = 6.8889, df = 2, p-value =
0.03192
#結(jié)果顯示，三種藥之間存在區(qū)別。

補充：R語言置換檢驗

置換檢驗

雙樣本均值檢驗的時候，假設檢驗的方法就是，檢查正態(tài)性、獨立性、方差齊性，分別對應的參數(shù)非參數(shù)方法進行假設檢驗，但是，這些方法都要求樣本數(shù)必須有多少多少，但是，由于試驗時，各種條件的限制，導致樣本量過小，此時以上方法幾乎都會失真，置換檢驗就應運而生了。

Permutation test 置換檢驗是Fisher于20世紀30年代提出的一種基于大量計算 （computationally intensive），利用樣本數(shù)據(jù)的全（或隨機）排列，進行統(tǒng)計推斷的方法，因其對總體分布自由，應用較為廣泛，特別適用于總體分布未知的小樣本資料，以及某些難以用常規(guī)方法分析資料的假設檢驗問題。在具體使用上它和Bootstrap Methods類似，通過對樣本進行順序上的置換，重新計算統(tǒng)計檢驗量，構(gòu)造經(jīng)驗分布，然后在此基礎上求出P-value進行推斷。

置換檢驗的操作方法：假設有兩組待檢數(shù)據(jù)，A組有m個數(shù)據(jù)，B組有n個數(shù)據(jù)，均值差為d0，現(xiàn)把所有數(shù)據(jù)放在一起進行隨機抽取，抽出m個放入A組，剩下n個放入B組，計算A、B兩組的均值差記為d1，再放在一起進行隨機重抽m、n兩組，得到均值差記為d2，重復這個步驟k次得到（d3……dk），于是d1……dk可以畫出一張正態(tài)圖，然后看d0落在什么方，若落在置信水平之外，即可以顯著說明它們是有差異的。

R代碼如下：

a<-c(24,43,58,67,61,44,67,49,59,52,62,50,42,43,65,26,33,41,19,54,42,20,17,60,37,42,55,28)
group<-factor(c(rep("A",12),rep("B",16)))
data<-data.frame(group,a)
find.mean<-function(x){
    mean(x[group=="A",2])-mean(x[group=="B",2]) 
} 
results<-replicate(999,find.mean(data.frame(group,sample(data[,2])))) 
p.value<-length(results[results>mean(data[group=="A",2])-mean(data[group=="B",2])])/1000
hist(results,breaks=20,prob=TRUE)
lines(density(results))

coin包置換檢驗

coin包介紹

coin包中的置換檢驗有以下幾種：

注：在上表中，y和x是數(shù)值變量，A和B是分類因子，C是類別型區(qū)組變量，D和E是有序因子，y1和y2是相匹配的值變量

表中所有的函數(shù)使用方法都一樣：

functionName(formula,dataframe,distribution)，其中distribution指定經(jīng)驗分布在零假設條件下的形式，可能值有exact，asymptotic和approximate，若distribution = "exact"，那么在零假設條件下，分布的計算是精確的（即依據(jù)所有可能的排列組合）。當然，也可以根據(jù)它的漸進分布（distribution = "asymptotic"）或蒙特卡洛重抽樣（distribution = "approxiamate(B = #)"）來做近似計算，其中#指所需重復的次數(shù)。distribution = "exact"當前僅可用于兩樣本問題。

原函數(shù)與置換檢驗比較

coin包的介紹至此結(jié)束，當然還有一個lbl_test()函數(shù)未列出，暫時還不曉得有什么用，以后再說。

lmPerm包置換檢驗

lmPerm包介紹　　

lmPerm包可以做非正態(tài)理論檢驗，包含的函數(shù)為lmp()以及aovp()兩個，它們與lm()和aov()類似，只是多了一個perm參數(shù)（perm=”Exact”,”Prob”,”SPR”)，參數(shù)值”Exact”根據(jù)所有可能的排列組合生成精確檢驗，”Prob”從所有可能的排列中不斷抽樣，直至估計的標準差在估計的p值0.1之下，判停準則由可選的Ca參數(shù)控制，SPR使用貫序概率比檢驗來判斷何時停止抽樣。若觀測數(shù)大于10，perm=”Exact”會自動轉(zhuǎn)化為perm=”Prob”，因為精確檢驗只適用于小樣本問題。 　　

因為只涉及了兩個函數(shù)，這個包就不貼代碼和結(jié)果，僅說明一下差異是什么，

回歸（簡單、多項式、多元）　　

首先是lm與lmp，除了函數(shù)的用法多了個perm參數(shù)之外，所得結(jié)果模板（注意，是模板，而非結(jié)果，結(jié)果出現(xiàn)差異應該去找數(shù)據(jù)的問題，如兩者結(jié)果不一致，則需要重新審視數(shù)據(jù)的可靠性）存在差異： 　　

1）少了常數(shù)項，但可以通過各變量均值求得，注意，使用coefficients(fit)所得的常數(shù)項是錯的！ 根據(jù)回歸線必過均值點的定義，可以使用各變量的均值來計算其常數(shù)項。如多元分析中的例子計算方式為：

mean(states$Murder)-sum(colMeans(states)[names(coefficients(fit)[c(-1)])]*(coefficients(fit)[c(-1)]))

2）回歸系數(shù)項中多了Iter一欄，它表示要達到判停準則所需要的迭代次數(shù)。

方差分析　　

與回歸一致，所有使用aov分析的地方都可以使用aovp來代替，區(qū)別就是，aov用的是F統(tǒng)計量，而aovp使用的是置換法，Iter為判停準則的迭代次數(shù)。 　　

需要注意的是，aovp使用的是唯一平方和方法，每種效應根據(jù)其它效應進行調(diào)整，而aov使用的是序貫平方平法，每種效應根據(jù)先出現(xiàn)的效應進行調(diào)整，這兩個方法在不平衡設計中所得結(jié)果不同，越不平衡的設計，差異越大?？梢栽赼ovp函數(shù)里加入?yún)?shù)seqs=TRUE可以生成序貫平方和的計算結(jié)果。 　　

點評　　

置換檢驗真正發(fā)揮功用的地方是處理非正態(tài)數(shù)據(jù)（如分布偏倚很大）、存在離群點、樣本很小或無法做參數(shù)檢驗等情況。不過，如果初始樣本對感興趣的總體情況代表性很差，即使是置換檢驗也無法提高推斷效果。 　　

自助法　　

置換檢驗主要用于生成檢驗零假設的p值，它有助于回答“效應是否存在”這樣的問題。不過，置換方法對于獲取置信區(qū)間和估計測量精度是比較困難的。幸運的是，這正是自助法大顯神通的地方。 　　

自助法的步驟： 　　

1. 一個樣本數(shù)為n的樣本，進行m次有放回抽樣； 　　

2. 計算并記錄樣本統(tǒng)計量（比如均值、方差、甚至t檢驗量等，可以一個，可以多個）； 　　

3. 重復1000到2000次，或者更多，并把它們從小到大進行排序； 　　

4. 根據(jù)雙尾95%分位點，即2.5%和97.5%分位數(shù)，即為95%置信區(qū)間的下限和上限。

boot包　　

boot包可以進行自助法抽檢，并生成相應的置信區(qū)間。 　　

主要的步驟如下： 　　

1. 定義函數(shù)，返回一個統(tǒng)計值或一個向量（多個統(tǒng)計值），函數(shù)要包括indices參數(shù)，以便boot()函數(shù)用它從每個重復中選擇實例，主要是stype參數(shù)，默認為i（索引值），還有f（頻率）和w（權(quán)重），indices可以簡定為i； 　　

2. 用boot(data,sitisctic,R,……）函數(shù)生成一個bootobject。 　　

3. 使用boot.ci(bootobject,conf,type)生成置信區(qū)間，其中conf定義置信區(qū)間，type定義置信區(qū)間類型（即計算方法），包含norm、basic、stud、perc、bca和all（其中norm為正態(tài)分布的置信區(qū)間計算方法，約兩個標準差距離，perc為上下分位數(shù)計算方法，stud為t分布計算方法），若返回值為向量，則利用index參數(shù)來指定某個變量的置信區(qū)間。 　　

4. 其它相關(guān)數(shù)據(jù)：比如bootobjectt為重復R次的統(tǒng)計量值（一個“R*統(tǒng)計量個數(shù)”的矩陣）

最后謹記：置換檢驗和自助法并不是萬能的，它們無法將爛數(shù)據(jù)轉(zhuǎn)化為好數(shù)據(jù)。當初始樣本對于總體情況的代表性不佳，或者樣本量過小而無法準確地反映總體情況，這些方法也是愛莫能助。

以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方，望不吝賜教。

最新評論