通常我們讀取文件時都會讀取全部的文件然后再進行操作，但是當讀取的數(shù)據(jù)量很大是讀取的時間會很長，而且占用RAM，對于寫測試代碼有點不方便。

所以只讀取前n行數(shù)據(jù)是一個挺不錯的函數(shù)

##file：讀取文件路徑
##n：讀取的前n行
##header：是否有標題行
readfile<-function(file, n=1000, header=T){
  pt <- file(file, "r")
  name <- NULL
  if(header){
    name <- strsplit(readLines(pt, 1), split=',')[[1]];  #讀取標題
    f1 <- readLines(pt, n)
    data <- read.table(text=f1, sep=',', col.names=name)
  }else{
    data <- read.table(text=f1, sep=',')
  }
  close(pt)
  data 
}

測試，最近制作linux啟動盤誤將移動硬盤當U盤，要死要死的，近500G資料丟失，因為制成啟動盤所以資料還找不回來。

所以沒有大型數(shù)據(jù)做測試。

之前200M的文件本人電腦上讀取前10000行也是秒讀的。

(data <- readfile(file="mtcars.csv", n=5, header=T))
       X..        X.mpg. X.cyl. X.disp. X.hp. X.drat.  X.wt.
1       Mazda RX4   21.0    6   160     110    3.90   2.620  
2   Mazda RX4 Wag   21.0    6   160     110    3.90   2.875  
3      Datsun 710   22.8    4   108      93    3.85   2.320  
4  Hornet 4 Drive   21.4    6   258     110    3.08   3.215  


class(data)
[1] "data.frame"

補充：R語言（數(shù)據(jù)讀寫操作）

本節(jié)介紹一些實用的數(shù)據(jù)處理函數(shù)（如行、列合并），以及如何從各種數(shù)據(jù)源讀、寫數(shù)據(jù)。

實用函數(shù)

一個 ls() 函數(shù)的例子：

a <- matrix(1:6, nrow=2, ncol=3)ls() # 目前的對象只有 a

‘a(chǎn)'

手動輸入

使用需要賦值的 edit() 函數(shù)，或者無需寫在賦值語句內(nèi)的 fix() 函數(shù)。

dt <- data.frame(age = numeric(0), gender = character(0), weight = numeric(0))# dt <- edit(dt)  # 需要自賦值# fix(dt)  # 無需自賦值

遺憾的是，在 Jupyter Notebook 現(xiàn)行的版本中，尚且不支持 edit() 函數(shù)。不過用戶可以使用 fix() 函數(shù)。

讀取文件

關(guān)于怎樣讀取來自 URL 地址的網(wǎng)絡(luò)文件，R 可以實現(xiàn)，但這里不做討論。以下只討論本地數(shù)據(jù)源的讀寫。

分隔符文件

利用 read.table() 函數(shù)即可。其常用的參數(shù)有：

read.table(file, [header=T/F, sep=" ", row.names=, col.names=, na.strings=, 
       colClasses=, quote=, skip=, stringAsFactors=T/F,])

其中，可選參數(shù)的含義大多較好理解：

header 表示文件首行是否是列名而不是數(shù)據(jù)；

sep 是列間分隔符；na.strings 指定一個字符向量，內(nèi)部所有的元素在讀取時會被轉(zhuǎn)換為 NA；

colClasses 用于指派各列的類型，如 =c(“numeric”, “character”, “NULL”) 指定了前兩列的類型并跳過了第三列；

skip 用于跳過文件的最開始的若干行；

stringAsFactors 為 TRUE（默認值）時表示字符向量按因子處理，設(shè)為 FALSE 可以提升大文本處理速度。

data.path <- paste(getwd(), '/data/iris.data.csv', sep='')dt <- read.table(data.path, header=T, sep=",")head(dt)

# 利用 str() 函數(shù)查看其信息str(dt)

'data.frame':	149 obs. of  5 variables:
 $ X5.1       : num  4.9 4.7 4.6 5 5.4 4.6 5 4.4 4.9 5.4 ...
 $ X3.5       : num  3 3.2 3.1 3.6 3.9 3.4 3.4 2.9 3.1 3.7 ...
 $ X1.4       : num  1.4 1.3 1.5 1.4 1.7 1.4 1.5 1.4 1.5 1.5 ...
 $ X0.2       : num  0.2 0.2 0.2 0.2 0.4 0.3 0.2 0.2 0.1 0.2 ...
 $ Iris.setosa: Factor w/ 3 levels "Iris-setosa",..: 1 1 1 1 1 1 1 1 1 1 ...

須知：

如果列名中包含空格，R 會將空格替換為句點。

多數(shù)情況下，stringAsFactors 可以設(shè)為 FALSE。但是本例中的字符變量表示植物的種類，此處讀成因子是正確的。

函數(shù) read.csv() 能夠讀取 csv 文件，但是功能不如 read.table() —— 后者能處理非 csv 文本。

處理 Excel 文件

讀取一個 Excel 文件最佳的方式，是預先將其轉(zhuǎn)為 csv 格式，并用上述的 read.table() 方法讀取。

你也可以查找關(guān)于 xlsx 包的相關(guān)內(nèi)容，來獲知如何直接操作 xlsx 文件。此處略過不提。

可以看一下以前寫的文章：

統(tǒng)計軟件數(shù)據(jù)：SAS/SPSS/Stata

需要用到 foreign 包。

SAS：使用 read.ssd()。如果你安裝了 SAS，可以使用 Hmisc 包的 sas.get()。

SPSS：使用 read.spss()，或者 Hmisc 包的 spss.get()。

Stata：使用 read.data()。

數(shù)據(jù)庫

一個方法是使用 ODBC 接口。針對你的數(shù)據(jù)庫類型，安裝 ODBC 驅(qū)動；然后在 R 中安裝 RODBC 包。

另一個方法是使用 JDBC 接口，只不過需要 RJDBC 包。

寫入文件

在我們對于數(shù)據(jù)進行清洗之后，往往需要把清洗結(jié)果輸出到一個新文件中。這里就以 csv 格式為例吧。一個通常的 write.table()/write.csv() 的例子：

write.csv(dt, "filename.csv", row.names=F)

其中 row.names 指定為 FALSE，否則第一列會生成行號一樣的數(shù)據(jù)。

以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方，望不吝賜教。

最新評論