let fs = require('fs');
let cheerio = require('cheerio');
let request = require('request');
let path = require('path');
let i = 0;
let j = 0;
//初始需要抓取的頁面url 
let url = "http://www.silver.org.cn/cjyw/list_p_1.html";
let http = url.includes('https') ? require('https') : require('http');

function startRequest(x) {
  // 采用http模塊向服務器發(fā)起一次get請求   
  http.get(x, function(res) {
    // 用來存儲請求網頁的整個html內容
    var html = '';
    var titles = [];
    // 防止中文亂碼
    res.setEncoding('utf-8'); 
    // 監(jiān)聽data事件，每次取一塊數(shù)據(jù)
    res.on('data', function(chunk) {
      html += chunk;
    });
    // 監(jiān)聽end事件，如果整個網頁內容的html都獲取完畢，就執(zhí)行回調函數(shù)
    res.on('end', function() {
      // 采用cheerio模塊解析html
      var $ = cheerio.load(html); 
      j = 0;
      savedContent($);
      i++;
      console.log('抓包頁碼：' + i);
      // 限制請求頁數(shù)
      if (i <= 10) {
        fetchPage(`http://www.silver.org.cn/cjyw/list_p_${i}.html`);
      } else {
        console.log('抓包完成');
      };
    });
  }).on('error', function(err) {
    console.log(err);
  });
}
//保存內容
function savedContent($) {
  var item = $('.lt_col li')[j]
  // 標題
  var x = $(item).find('h2').text().trim();
  // 內容
  var y = $(item).find('p').text().trim();
  // 圖片地址
  var z = $(item).find('img').attr('src');
  // 圖片文件名
  var o = path.basename(z);
  // 創(chuàng)建文件夾
  fs.mkdir(`./data/${x}`, err => {
    if (!err) {
      // 保存文本
      fs.appendFile(`./data/${x}/index.txt`, `標題：${x}\n內容：${y}`, 'utf-8', err => {
        if (err) {
          console.log(`****創(chuàng)建txt失敗****： ${x}`);
        }
      });
      // 保存圖片
      request.head(z, (err, res, body) => {
        if (err) {
          console.log(`****請求圖片失敗****： ${x}`);
        }
      });
      // 寫圖片到本地
      request(z).pipe(fs.createWriteStream(`./data/${x}/${o}`));
      j++;
      if (j <= $('.lt_col li').length - 1) {
        savedContent($)
      }

    }
  })
}

startRequest(url); //主程序開始運行

"scripts": {
  "test": "echo \"Error: no test specified\" && exit 1",
  "dev": "node app.js"
 },