fastdfs+nginx集群搭建的實(shí)現(xiàn)
一.簡(jiǎn)介fastdfs
1.什么是fastdfs
- fastdfs是一個(gè)輕量級(jí)的開(kāi)源分布式文件系統(tǒng);
- fastdfs主要解決了大容量的文件存儲(chǔ)和高并發(fā)訪問(wèn)的問(wèn)題,文件存取時(shí)實(shí)現(xiàn)了負(fù)載均衡;
- fastdfs實(shí)現(xiàn)了軟件方式的RAID,可以使用廉價(jià)的IDE硬盤進(jìn)行存儲(chǔ)支持存儲(chǔ)服務(wù)器在線擴(kuò)容支持相同內(nèi)容的文件只保存一份,節(jié)約磁盤空間;
- fastdfs只能通過(guò)Client API訪問(wèn),不支持POSIX訪問(wèn)方式;
- fastdfs特別適合大中型網(wǎng)站使用,用來(lái)存儲(chǔ)資源文件(如:圖片、文檔、音頻、視頻等等)。
2.fastdfs框架圖
作者(YuQing)給出了框架圖如下:
其中:
Tracker Server:跟蹤服務(wù)器,主要做調(diào)度工作,在訪問(wèn)上起負(fù)載均衡的作用。記錄storage server的狀態(tài),是連接Client和Storage server的樞紐。
Storage Server:存儲(chǔ)服務(wù)器,文件和meta data都保存到存儲(chǔ)服務(wù)器上
group:組,也可稱為卷。同組內(nèi)服務(wù)器上的文件是完全相同的文件標(biāo)識(shí):包括兩部分:組名和文件名(包含路徑)
meta data:文件相關(guān)屬性,鍵值對(duì)(Key Value Pair)方式,如:width=1024,heigth=768
3.上傳文件流程
(1)client詢問(wèn)tracker上傳到的storage,不需要附加參數(shù);
(2)tracker返回一臺(tái)可用的storage;
(3)client直接和storage通訊完成文件上傳。
4.下載文件流程
(1)client詢問(wèn)tracker下載文件的storage,參數(shù)為文件標(biāo)識(shí)(組名和文件名);
(2)tracker返回一臺(tái)可用的storage;
(3)client直接和storage通訊完成文件下載。
5.同步機(jī)制
(1)同一組內(nèi)的storage server之間是對(duì)等的,文件上傳、刪除等操作可以在任意一臺(tái)storage server上進(jìn)行;
(2)文件同步只在同組內(nèi)的storage server之間進(jìn)行,采用push方式,即源服務(wù)器同步給目標(biāo)服務(wù)器;
(3)源頭數(shù)據(jù)才需要同步,備份數(shù)據(jù)不需要再次同步,否則就構(gòu)成環(huán)路了;
(4)上述第二條規(guī)則有個(gè)例外,就是新增加一臺(tái)storage server時(shí),由已有的一臺(tái)storage server將已有的所有數(shù)據(jù)(包括源頭數(shù)據(jù)和備份數(shù)據(jù))同步給該新增服務(wù)器。
6.tracker server目錄結(jié)構(gòu)
(1)data
storage_groups.dat:存儲(chǔ)分組信息
storage_servers.dat:存儲(chǔ)服務(wù)器列表
(2)logs
trackerd.log:tracker server日志文件
7.storage server目錄結(jié)構(gòu)
1)data
.data_init_flag:當(dāng)前storage server初始化信息
storage_stat.dat:當(dāng)前storage server統(tǒng)計(jì)信息
sync:存放數(shù)據(jù)同步相關(guān)文件
binlog.index:當(dāng)前的binlog文件索引號(hào)
binlog.###:存放更新操作記錄(日志)
${ip_addr}_${port}.mark:存放同步的完成情況
(2)logs
storaged.log:storage server日志文件
以上理論參考:
ChinaUnix論壇:http://bbs.chinaunix.net/forum-240-1.html
github下載地址:https://github.com/happyfish100
二、fastdfs安裝和測(cè)試
1.下載
需要下載:libfastcommon fastdfs(2.0之前的版本需要以來(lái)libevent)
2.安裝
(1)安裝libfastcommon
$ tar xzvf libfastcommon-1.0.38.tar.gz $ cd libfastcommon-1.0.38 $ ./make.sh $ sudo ./make.sh install
(2)安裝fastdfs
$ tar xzvf fastdfs-5.11.tar.gz $ cd fastdfs-5.11 $ ./make.sh $ sudo ./make.sh install
3.配置
集群搭建拓?fù)鋱D(由于硬盤不夠了,下面192.168.31.4和192.168.31.14現(xiàn)在還沒(méi)有,擴(kuò)容后加上)
(1)配置tracker(192.168.31.95/192.168.31.99)
$cd /etc/fdfs/
目錄文件如下:
然后,執(zhí)行如下:
$sudo su #cp tracker.conf.sample tracker.conf
配置tracker.conf文件:
vim tracker.conf
修改:base_path=/home/fastdfs/tracker (注意:在啟動(dòng)前必須存在此目錄,否則會(huì)報(bào)錯(cuò),找不到路徑,也就是說(shuō)需要手動(dòng)新建tracker目錄)
啟動(dòng):
/etc/init.d/fdfs_trackerd start
(2)配置storage(192.168.31.2/192.168.31.12)
$ cd /etc/fdfs $sudo su #cp storage.conf.sample storage.conf
修改:
group_name=group1(192.168.31.2) 或者group2(192.168.31.12)
base_path=/home/fastdfs/storage
store_path0=/home/fastdfs/storage
修改:tracker服務(wù)ip與port:
tracker_server=192.168.31.95:22122 (注意:這里31.2 tracker_server配置31.95 ,31.12 tracker_server配置31.99)
啟動(dòng):
/etc/init.d/fdfs_storaged start
查看fastdfs的相應(yīng)配置信息
# fdfs_monitor /etc/fdfs/storage.conf
有以下信息才算成功:
測(cè)試上傳, 選擇192.168.31.99 tracker機(jī)器當(dāng)做fdfs_client
$ cd /etc/fdfs $ sudo su # cp client.conf.sample client.conf # vim client.conf
修改:
base_path = /home/fastdfs
tracker_server=192.168.31.99:22122
測(cè)試上傳net.png文件:
fdfs_upload_file /etc/fdfs/client.conf net.png
三、nginx配置
需要安裝:
fastdfs-nginx-module-1.20 類似插件的東西
nginx-1.14.2.tar.gz
安裝nginx需要先安裝:
openssl zlib pcre
把a(bǔ)stdfs-nginx-module插入到nginx(需要對(duì)nginx進(jìn)行configure和make&&make install)
./configure --add-module=../../fastdfs-nginx-module/src/
會(huì)報(bào)錯(cuò):需要修改fastdfs-nginx-module-1.20/src/config文件
ngx_addon_name=ngx_http_fastdfs_module if test -n "${ngx_module_link}"; then ngx_module_type=HTTP ngx_module_name=$ngx_addon_name ngx_module_incs="/usr/local/include" ngx_module_libs="-lfastcommon -lfdfsclient" ngx_module_srcs="$ngx_addon_dir/ngx_http_fastdfs_module.c" ngx_module_deps= CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'" . auto/module else HTTP_MODULES="$HTTP_MODULES ngx_http_fastdfs_module" NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_fastdfs_module.c" CORE_INCS="$CORE_INCS /usr/local/include" CORE_LIBS="$CORE_LIBS -lfastcommon -lfdfsclient" CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'" fi
修改為:
ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/"
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
ngx_addon_name=ngx_http_fastdfs_module if test -n "${ngx_module_link}"; then ngx_module_type=HTTP ngx_module_name=$ngx_addon_name ngx_module_incs="/usr/include/fastdfs /usr/include/fastcommon/" ngx_module_libs="-lfastcommon -lfdfsclient" ngx_module_srcs="$ngx_addon_dir/ngx_http_fastdfs_module.c" ngx_module_deps= CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'" . auto/module else HTTP_MODULES="$HTTP_MODULES ngx_http_fastdfs_module" NGX_ADDON_SRCS="$NGX_ADDON_SRCS $ngx_addon_dir/ngx_http_fastdfs_module.c" CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/" CORE_LIBS="$CORE_LIBS -lfastcommon -lfdfsclient" CFLAGS="$CFLAGS -D_FILE_OFFSET_BITS=64 -DFDFS_OUTPUT_CHUNK_SIZE='256*1024' -DFDFS_MOD_CONF_FILENAME='\"/etc/fdfs/mod_fastdfs.conf\"'" fi
然后重新configure 和make && make install
接下來(lái),cp mod_fastdfs.conf /etc/fdfs/ 并修改mod_fastdfs.conf文件
$ cd fastdfs-nginx-module-1.20/src $ cp mod_fastdfs.conf /etc/fdfs/
修改mod_fastdfs.conf
tracker_server=192.168.31.99:22122 store_path0=/home/fastdfs/storage group_name=group1 [group1] group_name=group1 storage_server_port=23000 store_path_count=1 store_path0=/home/fastdfs/storage [group2] group_name=group2 storage_server_port=23000 store_path_count=1 store_path0=/home/fastdfs/storage
將fastdfs-5.11/conf/
$ cp http.conf /etc/fdfs/ $ cp mime.types /etc/fdfs/
修改:http.conf
http.anti_steal.token_check_fail=/home/fastdfs/fastdfs-5.11/conf/
修改nginx.conf
cd /usr/local/nginx/sbin vim ../conf/nginx.conf
8888端口號(hào)與/etc/fdfs/storage.conf中的http.server_port=8888相對(duì)應(yīng)
上傳一張圖片
http://192.168.31.12:8888/group1/M00/00/00/wKgfDFzxVTyAM4suABWWvfB6x_k962.png
到此這篇關(guān)于fastdfs+nginx集群搭建的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)fastdfs+nginx集群搭建內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Nginx下實(shí)現(xiàn)pathinfo及ThinkPHP的URL模式
本篇文章主要介紹了Nginx下實(shí)現(xiàn)pathinfo及ThinkPHP的URL模式。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2017-05-05解決nginx已經(jīng)配置過(guò)跨域不生效問(wèn)題
這篇文章主要介紹了解決nginx已經(jīng)配置過(guò)跨域不生效的問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-12-12使用Nginx實(shí)現(xiàn)灰度發(fā)布的使用
這篇文章主要介紹了使用Nginx實(shí)現(xiàn)灰度發(fā)布的使用,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2020-03-03解決nginx啟動(dòng)失敗(bind()?to?0.0.0.0:80?failed,An?attempt?was?
這篇文章主要介紹了解決nginx啟動(dòng)失敗問(wèn)題(bind()?to?0.0.0.0:80?failed,An?attempt?was?made?to?access?a?socket?in?...),具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2024-05-05解決nginx+lua搭建文件上傳下載服務(wù)問(wèn)題
這篇文章主要介紹了nginx+lua搭建文件上傳下載服務(wù),涉及到nginx安裝配置方法,本文通過(guò)代碼給大家介紹的非常詳細(xì),需要的朋友可以參考下2017-12-12Nginx服務(wù)器高性能優(yōu)化的配置方法小結(jié)
這篇文章主要介紹了Nginx服務(wù)器高性能優(yōu)化的配置方法小結(jié),包括一些內(nèi)核參數(shù)的優(yōu)化介紹,需要的朋友可以參考下2015-12-12