服務端nodejs抓取jsonp接口數(shù)據實現(xiàn)示例
前言
眾所周知,jsonp 接口返回的是一段 js 腳本,在瀏覽器中使用 script 標簽引入、加載成功后,會直接執(zhí)行其中的 callback 方法,以參數(shù)的形象直接返回真正有用的接口數(shù)據,以此達到跨域請求的目的。但是如果在非瀏覽器環(huán)境(node執(zhí)行環(huán)境)中怎么來抓取呢,本文就主要介紹一下,服務端nodejs抓取jsonp接口數(shù)據 的思路方法和踩過的坑。
出于好奇,最近在研究使用 node 程序分析股票的數(shù)據,看看能不能找到一些規(guī)律。
但前提是要獲取一批數(shù)據,所以查看了幾個相關的網站平臺,通過開發(fā)者工具的 network 查看,其中接口數(shù)據基本都是使用 jsonp 格式的。
溫馨提示: 不要過度頻繁爬取數(shù)據,可能涉及網絡安全問題。
方法思路
- 在
node服務端使用axios獲取jsonp返回的內容 - 使用
typeof查看返回內容的類型 - 解析
jsonp返回的內容、執(zhí)行其中的callback方法
關鍵在于這第三步,在 node 環(huán)境中如何動態(tài)的執(zhí)行這一段 String 類型的代碼。
Node環(huán)境動態(tài)執(zhí)行腳本
eval()
直接調用,使用本地作用域。
function test() {
let x = 10, y = 20;
let sum = eval('x + y')
console.log(sum); // 30
}
Function
與 eval 不同的是,Function 創(chuàng)建的函數(shù)只能在全局作用域中運行。test() 執(zhí)行會報錯:ReferenceError: x is not defined。
// 報錯
function test() {
let x = 10, y = 20;
let fn = new Function('return x + y')
let sum = fn()
console.log(sum) // ReferenceError: x is not defined
}
// 正常執(zhí)行
global.x = 10
global.y = 20
function test() {
let fn = new Function('return x + y')
let sum = fn()
console.log(sum) // 30
}
vm.runInThisContext (推薦)
vm 是 node 的核心模塊,vm 可以使用 v8 的 Virtual Machine contexts 動態(tài)地編譯和執(zhí)行代碼,而代碼的執(zhí)行上下文與當前進程隔離。
被執(zhí)行的代碼無法獲取本地作用域,只能在當前的 global 對象的上下文中編譯并執(zhí)行 code 。
const vm = require('vm')
global.x = 10
global.y = 20
function test() {
let sum = vm.runInThisContext('x + y')
console.log(sum) // 30
}
完整代碼實現(xiàn)
// index.js
const vm = require('vm')
const axios = require('axios')
// 在 global 對象上掛載對應的 callback 方法
global.jQuery11230971606670044967_1649312313646 = function(res) {
// jsonp 接口返回的數(shù)據
console.log(res)
// do something
}
async function getData() {
let { data } = await axios({
url: 'https://push2.eastmoney.com/api/qt/clist/get?cb=jQuery11230971606670044967_1649312313646&fid=f62&po=1&pz=10&pn=1&np=1&fltt=2&invt=2&fs=m%3A90+t%3A3&stat=1&fields=f12%2Cf14%2Cf2%2Cf3%2Cf62%2Cf184%2Cf66%2Cf69%2Cf72%2Cf75%2Cf78%2Cf81%2Cf84%2Cf87%2Cf204%2Cf205%2Cf124&ut=b2884a393a59ad64002292a3e90d46a5'
})
// 查看返回內容的類型
console.log(typeof data)
// 執(zhí)行 callback
vm.runInThisContext(data)
}
// 調用抓取數(shù)據的方法
getData()
特別提醒:瀏覽器環(huán)境與 Node 執(zhí)行環(huán)境掛載全局對象是有區(qū)別的。
在瀏覽器環(huán)境中,全局作用域可以使用 var 來聲明一個變量或方法,會自動掛載到 window 對象上;
但是在 Node 環(huán)境中,每個文件或者模塊,都會被封閉在一個單獨的作用域,因此不管在哪里聲明的變量,相對于當前模塊或文件,都是在局部作用域,不會自動掛載到全局 global 對象中,如果要使用必須手動去掛載。
以上就是服務端nodejs抓取jsonp接口數(shù)據實現(xiàn)示例的詳細內容,更多關于nodejs抓取jsonp接口數(shù)據的資料請關注腳本之家其它相關文章!
相關文章
輕松創(chuàng)建nodejs服務器(2):nodejs服務器的構成分析
這篇文章主要介紹了輕松創(chuàng)建nodejs服務器(2):nodejs服務器的構成分析,本文是對第一節(jié)中簡單服務器的代碼進行分析總結,需要的朋友可以參考下2014-12-12
npm run dev和npm run serve的區(qū)別小結
npm run serve和npm run dev是在開發(fā)階段使用npm運行腳本的兩種常見命令,本文就來介紹一下這兩者的區(qū)別,具有一定的參考價值,感興趣的可以了解一下2024-03-03
零基礎實現(xiàn)node+express個性化聊天室的示例
這篇文章主要介紹了零基礎實現(xiàn)node+express個性化聊天室的示例,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2018-02-02

